解读

面试官想验证三件事：

1. 你是否把“选模型”当成一次供应链决策，而非单纯技术指标对比；
2. 你是否能把算法指标翻译成业务语言，让技术、财务、法务、运营都听得懂；
3. 你是否预留了“国产”特有的政策与合规变量，能在面试现场把风险讲透。
   因此，回答必须呈现“业务→技术→合规→经济”四段式闭环，且每段都给出可落地的验证方法，而不是罗列名词。

知识点

1. 中文能力：字词级鲁棒性、方言、古文、行业黑话、敏感词过滤策略；需看“零样本+Few-shot”双曲线，防止刷榜过拟合。
2. 长文本与多轮：国产场景常见 30k–100k token 长协议、客服多轮 20+；要测“中间失落”与“逻辑一致性”双指标。
3. 推理性能：首 Token 时延、TPOT、并发 QPS、弹性扩缩容上限；国产卡（华为 910B、寒武纪）与英伟达混部时的 SLA 差异。
4. 微调与对齐：是否支持 LoRA/RLHF 一体化平台、数据是否可不出境、是否提供“政企业专属 VPC 隔离训练”。
5. 安全合规：模型备案号、生成式 AI 服务管理办法双清单（算法备案+安全评估）、AIGC 标识水印、审计日志 180 天留存。
6. 成本模型：token 单价、阶梯折扣、深夜闲时包、GPU 租用 vs Serverless 调用、微调算力券、国产化替代补贴。
7. 业务连续性：单机房多可用区、跨 Region 主备、热切换<30s、降级预案（本地 6B 小模型兜底）、灾备演练报告。
8. 生态与工具链：插件市场、知识库对接、流程引擎、低代码 Prompt IDE、运营看板、标注-训练-评测闭环 SaaS。
9. 厂商背书：国资云背景、信创目录、等保三级/国密、开源协议（木兰许可证）、专利侵权兜底条款。
10. 退出机制：模型蒸馏权限、权重出库许可、数据可迁移格式、私有化离线包、IP 归属条款，防止“云绑架”。

答案

我会用“4×3 验证矩阵”快速收敛决策：业务层、技术层、合规层、经济层，每层再拆“必测指标、验证方法、风险红线”。

1. 业务层
   必测指标：核心场景零样本准确率≥85%，多轮会话任务完成率≥90%。
   验证方法：用线上脱敏日志构造 2000 条黄金测试集，同时跑三家候选模型，输出混淆矩阵与 bad case 分布。
   风险红线：如医疗问诊场景，幻觉率>2% 直接淘汰。

2. 技术层
   必测指标：首 Token<800ms、TPOT<120ms、并发 1000 QPS 时 P99<2s。
   验证方法：用 Gatling 压测脚本在客户同 Region VPC 内打流，连续 72h，观察 GPU 利用率与排队延迟。
   风险红线：无动态扩缩容或寒武纪卡推理掉批>5% 即出局。

3. 合规层
   必测指标：备案号、生成内容敏感词误杀率<0.3%、水印可追溯 100%。
   验证方法：调用网安大队提供的 10 万条敏感词桶，测试召回/误杀；检查厂商是否具备《生成式 AI 服务安全评估报告》原件。
   风险红线：若权重存放于境外节点或无法出具 180 天审计日志，直接 Pass。

4. 经济层
   必测指标：综合成本=token 费+微调算力+运维人力，要求比自训 7B 模型节省≥40%。
   验证方法：把过去 6 个月真实流量回放，按峰值、谷值、突发活动三种曲线测算账单；同时评估国产化补贴与云市场代金券可抵扣比例。
   风险红线：若合同未写明“token 单价年度涨幅≤5%”，则财务不通过。

最终输出一张雷达图+风险清单，供管理层一票否决；并预留 6 个月平行双跑，A/B 灰度切换，确保业务指标不掉线。

拓展思考

1. 信创时间表：2025 年央企信创考核全面覆盖 AI 基础设施，如果模型厂商不能提供鲲鹏/昇腾原生镜像，明年可能二次迁移。
2. 数据出境：即使模型权重留在境内，训练语料若含海外用户数据，仍需做数据出境安全评估；要提前把“数据血缘图谱”做成可视化，方便网信办现场检查。
3. 价格战的隐藏成本：部分厂商用“超低价 token+高价微调”组合报价，需在合同里锁定“微调算力单价与云市场官网一致”，避免后期被收割。
4. 专利雷区：国产模型常基于开源语料混训，需让厂商出具“知识产权无瑕疵”保函，并约定若发生第三方专利诉讼，全部赔偿与律师费由厂商承担。
5. 退出权：最极端情况是厂商被收购或停止服务，合同必须写明“可在 30 天内提取蒸馏后 13B 以内小模型权重，且授权永久商用”，否则业务连续性归零。