解读

面试官想知道两件事：

1. 你是否意识到“可解释 AI”在国内医疗、司法场景是合规硬门槛（《医疗器械监督管理条例》《互联网诊疗监管细则（2021）》均要求“算法可追溯”）；
2. 你能否把技术黑箱翻译成专业人士听得懂、敢签字、能复现的语言，而不是丢一张 SHAP 图完事。
   因此，回答必须给出“场景-角色-解释层级-交付物”四步落地路径，并展示对国内监管、科室权力结构、律师举证逻辑的洞察。

知识点

1. 医疗三类证审评关注点：特征可追溯、决策路径可复现、偏差案例可召回。
2. 司法场景举证责任：算法解释需达到“高度盖然性”标准（《最高人民法院关于民事诉讼证据的若干规定》第93 条）。
3. 解释方法分层：
   全局解释（模型级）——特征权重、决策树规则、GAM 样条；
   局部解释（样本级）——SHAP、LIME、Counterfactual；
   过程解释（训练级）——数据分布漂移报告、超参数敏感性分析。
4. 交付物形态：CFDA 认可的《算法性能研究报告》、律师可提交的《专家辅助人意见书》、医生可一键调阅的“患者级解释页”。
5. 国内医院 IT 现状：系统接口以 HL7 FHIR、IHE XDS 为主，解释结果需封装为独立 REST 服务，避免动 HIS 底层。

答案

我会把“深入解释”拆成三步，先对齐角色诉求，再选解释方法，最后给可落地的交付物。

第一步：对齐诉求
医生：怕“背锅”，需要知道“模型为什么推翻我的初判”，且解释必须落在医学术语（征象、分期、指南条款）。
律师：怕“被质疑”，需要知道“换一家算法结果是否一致”，解释必须能写成《专家辅助人意见》并经受对方质证。

第二步：选解释方法
医疗影像 AI（如肺结节良恶性）：
全局用“规则增强决策树”——把 ResNet 最后一层特征挂到 LightGBM，输出 IF-THEN 规则，结节直径>8 mm AND 毛刺征阳性 THEN 恶性概率 87%，规则直接对应《中国肺癌诊疗指南》。
局部用“Counterfactual 反事实”——告诉医生“若结节直径缩小至 6 mm，恶性概率降至 23%”，医生可对照随访策略。
法律合同审查 AI：
全局用“稀疏线性模型+L1 正则”——把 2000 个法律特征压缩成 30 条可解释条款权重，律师一眼看到“争议解决方式=仲裁”对败诉风险贡献度 19.7%。
局部用“SHAP+法律文书模板”——生成一段自然语言：“若将仲裁地改为北京，败诉风险下降 5.2%，因北京仲裁委 2022 年同类案件支持率 73% > 上海 54%。”可直接写进代理意见。

第三步：交付物

1. 医生端：嵌入 PACS 的“一键解释”按钮，返回 PDF 报告含①决策路径图②特征权重表③指南条款映射④相似历史病例 5 例。
2. 律师端：SaaS 后台导出《算法解释报告》，含①模型训练数据来源说明（裁判文书网 87 万判决）②特征工程脚本哈希③局部解释 SHAP 值签名④可复现脚本 Docker 镜像，满足《最高人民法院关于民事诉讼证据的若干规定》第93 条“电子数据完整性校验”要求。
3. 合规留痕：所有解释结果同步写入区块链存证（杭互法院“哈希存证”标准），确保事后可审计。

拓展思考

1. 当模型更新到 V2.0，特征空间发生漂移，需重新做“解释一致性验证”，并把 diff 报告推给医院法务和律所知识管理合伙人，避免“算法静默升级”带来的合规风险。
2. 未来可引入“解释可读性自动评分”——用眼科医生阅读眼动实验，量化解释文本的 cognitive load，持续迭代可视化方案，让医生 15 秒内抓住关键信息。