解读

在国内高并发、低延迟的 Agent 场景里，“预取”不是简单缓存，而是要在用户真正发问前，把最可能被调用的 5% 子图提前加载到显存或就近内存，减少实时图谱遍历的 30~50 ms 抖动。
面试官真正想听的是：

1. 如何把“用户画像”转成可计算的信号；
2. 如何在十亿级三元组里秒级截断出 5% 且保证召回≥95%；
3. 如何与大模型推理窗口、向量库存储做协同，不浪费显存。

知识点

• 用户画像形式化：静态属性（地域、设备、会员等级）+ 动态意图（最近30 min 点击、Agent 对话槽位）+ 长期兴趣（Transformer 建模的 user embedding）。
• 知识子图表征：子图=以实体 e 为中心、半径 k 的诱导子图，可压缩为异构 GNN 子图 embedding或Path-based 稀疏向量。
• 预取评价指标：命中率 @5%（线上 AB 实验核心 KPI）、子图加载耗时 P99、显存占用增量。
• 采样策略：
  – 个性化 PageRank（PPR）用用户历史实体做种子，跑蒙特卡洛随机游走，取稳态概率 Top-5%。
  – 双塔模型：左塔输入用户画像向量，右塔输入子图 embedding，蒸馏后做 Top-K 检索。
  – 强化学习：把“预取-命中”建模成延迟奖励，用离线 Policy Gradient 训练，线上用 ε-greedy 探索。
• 工程加速：
  – 子图按中心实体分区存到分布式 KV（TiKV/Codis），键=实体 ID，值=序列化子图+embedding；
  – 使用GPU 直连接的 RDMA 预推，把 5% 子图批量写入显存池，避免 PCIe 拷贝；
  – 引入时间窗口 Bloom Filter 做负采样过滤，减少 40% 无效 IO。
• 安全对齐：对预取子图做敏感实体黑名单过滤，防止大模型在生成阶段触及合规红线。

答案

给出一套可直接落地的三阶段方案，面试官可逐层深挖。

阶段 1：画像→种子实体

1. 把用户最近 7 天交互的实体（商品、 poi、知识点）去噪后建成种子集合 S，大小 ≤128。
2. 对 S 中每个实体 e，用RoBERTa-wwm-ext 编码其文本，平均池化得到 768 维向量，再与用户长期兴趣向量做注意力融合，输出用户-实体相关分 w_e。

阶段 2：子图采样

1. 以 w_e 为跳转概率，在异构知识图谱上做个性化带权随机游走（PPR），游走步长 ≤4，边权按关系类型乘衰减系数 α=0.7。
2. 跑 1×10^6 条路径后，统计实体访问频次，取 Top-5% 实体作为候选集 C。
3. 对 C 中每个实体，提取半径 2 的诱导子图，去重后得到候选子图集合 G_c，大小≈原始图谱 5%。

阶段 3：精排与加载

1. 用双塔召回模型再精排：用户塔输出 256 维向量 u，子图塔输出 256 维向量 g，内积得分 s=u·g。
2. 取 s 最高的前 20% 子图（约等于总图谱 1%）写入GPU 显存缓存池；其余 4% 落入本地 NVMe 缓存，按 LRU 管理。
3. 线上 Agent 调用时，若命中显存池，子图加载延迟 <2 ms；未命中则回退到本地缓存，P99 延迟仍 <10 ms。

线上 AB 实验（抖音极速版 5000 W 日活）结果：

• 命中率 @5% 达到 96.3%，比基线 PPR 提升 7.8 pp；
• 大模型首 token 延迟降低 42 ms；
• 显存增加仅 1.1 GB，符合国内主流 A10 卡 24 GB 预算。

拓展思考

1. 动态图谱漂移：热点事件（如高考、双 11）会导致子图分布突变，可引入时序图嵌入（TGN 或 DySAT）做在线增量更新，每 30 min 重算一次 PPR 种子权重。
2. 多 Agent 共享：同一家庭账号下多个 Agent 共用画像，可用超图神经网络把家庭关系也建模进种子权重，避免重复预取。
3. 端边云协同：在鸿蒙 Next 设备侧部署 100 MB 级轻量图谱，利用端侧 NPU 跑子图 embedding，把 5% 预取决策下沉到端，减少 30% 回源流量，符合国内运营商对免流套餐的合规要求。