解读

面试官真正想验证的是：

1. 你是否能在“数据稀缺、算力受限、上线窗口紧”的中国企业落地环境里，把 Prompt 与微调当成“组合拳”而非“二选一”；
2. 能否用产品语言把技术路径翻译成业务收益（成本、时效、合规、可解释性）；
3. 是否具备“数据-模型-产品”闭环思维，能持续迭代而不是一次性交付。

因此，回答必须同时给出“技术节奏”和“产品节奏”，并突出数据闭环、合规备案、算力成本这三条国内落地红线。

知识点

1. Prompt 工程三阶：系统级指令、动态少样本、Chain-of-Thought 自洽检查；
2. 轻量级微调手段：LoRA/AdaLoRA、Prefix-tuning、P-tuning v2，显存<24G 可训；
3. 数据飞轮：线上日志→风险过滤→影子标注→周级回流，符合《生成式AI暂行管理办法》第11 条；
4. 效果-成本权衡公式：Δ业务指标 /（GPU 小时×单卡单价 + 人力标注成本）> 1.5 才值得全参数微调；
5. 合规卡点：语料安全审核、模型双备案、敏感词库动态更新、生成内容留痕 3 年以上；
6. 触发策略：Prompt 首答置信度<阈值 || 用户二次追问 || 领域 drift 检测值>0.22 时，自动切换微调模型。

答案

我给出一个“三阶段、两闸门、一闭环”的混合策略，曾在 6 周内把保险理赔问答的准确率从 68% 提到 91%，GPU 消耗不到 800 元。

阶段 1：Prompt 极限压榨（第 0-2 周）

1. 用 200 条高质量种子样本做 5-shot 动态模板，结合“角色+任务+约束+输出格式”四段式系统指令；
2. 引入 Self-Consistency 投票，3 次采样取多数答案，线上 A/B 显示拒答率下降 9 个百分点；
3. 埋点记录“模型置信度+用户点赞/点踩”，为阶段 2 准备 6 k 弱标注数据。

阶段 2：轻量级微调（第 3-4 周）

1. 选用 ChatGLM3-6B+LoRA（rank=8，α=16），冻结 99% 参数，显存 19G 可训；
2. 数据配比：种子 200（精标）+ 弱标注 6 k（置信>0.8）+ 负样本 1 k（用户点踩），用 Active Learning 迭代两轮；
3. 训练 3 个 epoch，lr=3e-4，batch=4，累计 2.6 小时，模型在域内测试集 F1 提升 17%，线上 latency 增加 8 ms，可接受；
4. 同步做《生成式AI服务管理暂行办法》要求的“语料安全审核”与“模型评估报告”，提交省级网信办备案。

阶段 3：线上混合决策（第 5-6 周及以后）

1. 部署“Prompt 小模型+LoRA 大模型”双塔：小模型兜底 90% 请求，P99 延迟 220 ms；
2. 设置双闸门：
   ① 置信闸门——Prompt 答案置信度<0.85 或 Sensitive Token 命中时，自动路由到 LoRA 大模型；
   ② 业务闸门——涉及金额计算、责任认定等高风险节点，强制走 LoRA 大模型并触发二次复核；
3. 每周拉取线上交互日志，经过去标识化、敏感词过滤后回流到训练池，实现“周级微迭代”；
4. 每季度做一次成本-收益复盘：当 LoRA 大模型调用占比>35% 且 GPU 成本上涨>20% 时，启动全量微调或更换底座模型。

落地结果：业务指标（一次结案率）提升 23%，用户差评率下降 1.8pp，单次调用成本 0.008 元，符合公司 ROI 红线；同时完成算法备案与数据出境安全评估，实现“效果-成本-合规”的三赢。

拓展思考

1. 如果底座模型升级为千亿级，LoRA 的 rank 边界如何动态搜索？可引入贝叶斯优化，把“rank+α+数据量”作为三维参数，目标函数为 ΔF1/￥。
2. 在多租户 SaaS 场景下，不同客户数据不能互通，可用“Prefix-tuning+动态路由”实现客户级隔离，Prefix 向量加密落盘，满足《个人信息保护法》第 38 条。
3. 当政策要求“生成内容可溯源”时，可在 Prompt 模板里插入隐形水印 Token（如特定空格组合），结合微调阶段的水印损失函数，实现端到端溯源，留存 Hash 上链。