解读

1. 循环幻觉指大模型在训练或推理阶段反复引用自身或同源模型生成的错误事实，导致“自我强化”式偏差。
2. 30% 机器生成数据在国内真实业务里已属高比例：公开爬取、自媒体洗稿、AIGC 平台回流都会混入。
3. 面试官想考察：
   • 能否量化幻觉风险并给出可落地的工程方案；
   • 是否熟悉国产算力与合规约束（如《深度合成规定》要求标识合成内容）；
   • 能否把过滤环节嵌入LLMOps 闭环，而非一次性脚本。

知识点

1. 幻觉类型
   • 事实性幻觉：时间、数值、实体错误。
   • 循环幻觉：模型 A 生成→进入训练→模型 A+1 再生成，偏差指数级放大。
2. 检测信号
   • 统计指纹：n-gram 重复率、低熵片段、高频共现异常。
   • 模型指纹：对数概率分布偏移、水印信号（国内已落地《生成式 AI 内容标识办法》）。
   • 知识冲突：与权威知识库（百科、国标、监管白名单）不一致。
3. 对抗过滤器范式
   • 规则+模型混合：规则兜底，模型精细判别，兼顾国产化 GPU 推理成本。
   • 两阶段清洗：离线批式去重→在线流式拦截。
   • 可解释输出：生成幻觉风险报告供标注团队二次确认，满足算法备案审计。

答案

一、整体思路

“检测→评分→溯源→压制→监控”五步法，与 LLMOps 并行，不阻塞主训练管线。

二、检测层

1. 机器指纹检测
   • 采用国产智源 FlagDetox 检测器，对 30% 疑似机造文本打 0-1 概率分；阈值动态校准，保证召回≥95%。
2. 知识冲突检测
   • 构建权威三元组知识库（百科+国标+行业监管清单），用轻量化实体链接（BERT+CRF）做冲突验证，冲突即标红。
3. 自相似检测
   • 训练集内部做MinHash LSH 聚类，重复率>0.8 的簇只保留最早时间戳样本，防止“自我抄袭”。

三、评分层

设计幻觉风险分 H = α·P_machine + β·P_conflict + γ·P_repetition，α+β+γ=1，线上通过AB 实验调参。

• 当 H>0.7，直接硬过滤；
• 0.4<H≤0.7，进入隔离区供人工复核；
• H≤0.4，软加权（降采样权重 0.5）后入池。

四、溯源与压制

1. 溯源 ID
   每条样本写入不可见水印（utf-8 零宽字符+哈希），后续若出现幻觉可秒级定位污染来源。
2. 对抗增强
   对隔离区样本做事实修正重写：用检索增强生成（RAG） 拉取权威片段，经人工审核后回流，确保“纠错而非丢弃”，提升数据利用率 15%。

五、推理端二次过滤

• 在服务化封装阶段加Guard Filter：对模型输出再次跑一遍知识冲突检测，若触发即拒绝回答+返回引用链接，降低线上事故。
• 采用INT8 量化+TensorRT-LLM 国产卡推理，延迟增加<10 ms，满足国内实时交互场景。

六、持续监控

• 幻觉日报：自动统计线上拒绝率、用户举报率，同步到飞书机器人；
• 每周触发增量训练，把人工修正样本以1:4 比例混入新语料，实现闭环去幻觉。

拓展思考

1. 若机器生成比例升至 60%，可引入**“模型族投票”：用较小参数模型先对数据打分，再让大模型训练，形成弱→强蒸馏**的对抗博弈，降低算力开销。
2. 多模态幻觉是未来重点：图片、视频也可通过国产文图一致性检测模型打标，统一纳入 H 分值。
3. 监管侧已要求生成内容可追溯，下一步可把水印技术从文本扩展到嵌入模型权重，实现模型级溯源，为算法备案提供一键审计能力。