解读

面试官想验证三件事：

1. 对“医疗场景”三重红线——患者安全、合规、伦理——的敬畏；
2. 能否把“算法指标”翻译成“临床可接受性”与“商业可持续性”；
3. 是否具备“灰度决策”能力，而不是非黑即白地选A或B。
   因此，回答必须同时呈现：临床风险、监管要求、数据闭环、商业模式、迭代路径，且给出“可落地的折中方案”。

知识点

1. 中国医疗AI三类证：NMPA把辅助诊断软件按“第三类医疗器械”管理，注册资料必须包含算法性能、临床评价、软件描述文档，黑箱模型需提供“算法可追溯性”与“风险控制措施”。
2. 《医疗器械监督管理条例》第48条：临床使用环节，医生必须能“理解并验证”软件输出，否则视为“使用未经认可的决策支持”，出现事故医院担主责。
3. 准确率≠临床价值：在肺癌早筛场景，95%准确率下若假阴性率1%，仍可能导致每千名患者漏诊10人；85%可解释模型若能把假阴性控制在3%以内且给出病灶定位，反而能被医生二次审核补漏。
4. 可解释性分级：
   • 全局解释（模型整体逻辑）
   • 局部解释（单样本决策原因，如热力图、SHAP）
   • 因果解释（干预后结果变化）
     国内三甲医院评审要求至少具备“局部解释”才能进院。
5. 商业闭环：黑箱模型即使获批，若医生不愿签名、患者投诉、保险拒赔，产品依旧无法规模化；可解释模型可嵌入病历系统，成为“医生决策记录”的一部分，降低医患纠纷保费。
6. 数据闭环成本：黑箱模型需要更大规模、更高质量标注数据维持95%准确率，一旦上线后漂移，回炉成本百万级；可解释模型因医生参与反馈，数据迭代成本更低。

答案

“我不会直接选95%或85%，而是先定义‘医疗任务的风险等级’与‘解释性底线’，再给出阶段性路径。

1. 若目标场景是‘辅助诊断’且疾病为‘肺癌早筛’，属于高风险第三类器械，我会优先落地85%可解释模型，理由：
   • 合规：NMPA临床评审要求医生能复现诊断逻辑，热图定位病灶可满足局部解释，注册路径清晰；
   • 风险可控：85%准确率配合医生二次阅片，可把漏诊率压到临床可接受范围，且每一次AI决策都有可追溯证据链，降低医患纠纷；
   • 数据飞轮：医生对热图进行修正，产生高质量标注，6个月内模型迭代至AUC 0.90，准确率逼近90%，同时保持可解释性。
2. 对于95%黑箱模型，我会把它放在“影子模式”并行运行，积累真实世界证据（RWE），用独立数据集验证其假阴性率、亚群偏差。一旦满足：
   • 假阴性率＜0.5%；
   • 亚群偏差（性别、年龄、地域）差异＜0.3%；
   • 提供符合YY/T 1833《人工智能医疗器械质量要求和评价》的“算法可追溯包”；
     则启动注册补充申请，走“已获批产品性能升级”通道，把黑箱模型作为高置信度模式（≥98%置信分）自动出报告，低置信度区域仍回落到可解释模型，实现“双模并行、风险分层”。
3. 商业层面：首批进院使用可解释版本，拿到收费编码（如福建、广东已把AI辅助诊断纳入物价目录），形成收入；黑箱版本作为增值模块，按“高级版”溢价20%销售，医院自愿升级。这样既守住合规红线，又保留技术上限，最终实现准确率与解释性的帕累托改进。”

拓展思考

1. 如果场景换成“基层医院筛查”且没有资深影像科医生，可解释模型能否通过“交互式问答”把医生水平从“不会看”提升到“能复核”？产品形态需增加“教学式解释”，把热图与指南知识点联动，形成“AI+继续教育”打包方案，提高基层付费意愿。
2. 当黑箱模型在真实世界出现“概念漂移”时，如何设计“解释性监控”指标？可在推理侧外挂“解释代理模型”（proxy model），每日抽样对比黑箱输出与代理解释的一致性，低于阈值自动回滚，保证线上持续合规。
3. 随着《人工智能医疗器械注册审查指导原则》更新，国家药监局已接受“模型卡”（Model Card）形式的风险披露。未来产品 roadmap 中，可提前布局“模型卡自动生成”模块，把训练数据分布、性能指标、伦理声明一键导出，缩短下一次注册变更周期，建立竞争壁垒。