解读

面试官想验证三件事：

1. 你是否能把“歧视”这一伦理概念转化为可量化、可落地的算法指标；
2. 你是否熟悉国内监管红线（《个人信息保护法》《征信业管理条例》《央行算法合规指引》）；
3. 你是否具备闭环设计能力，能把“发现问题→定位根因→技术缓解→业务验证”串成可迭代的PRD。
   回答必须体现“AI产品经理”视角：不是写代码，而是定义指标、协调数据、推动合规、量化收益，最终让业务敢上线、监管能备案、用户可感知。

知识点

1. 合规红线

   • 《个人信息保护法》第24条：自动化决策需“公平、公正”，个人有权拒绝“仅通过自动化决策”作出“重大影响”决定。
   • 央行2022《算法金融合规指引》要求“对弱势群体不得有显著差异影响”，并需留存“公平性审计报告”。
   • 网信办《算法推荐管理规定》要求“显著告知”并设置“关闭键”。

2. 公平性量化指标

   • 群体统计奇偶性（Demographic Parity）：正负样本比例在各子群应接近。
   • 机会均等（Equal Opportunity）：各子群真正率（TPR）差异≤阈值（监管内部常用3%）。
   • 校准度（Calibration）：预测概率与真实违约率在各子群一致，避免“说你有10%风险，结果你其实只有5%”。

3. 数据源歧视根因

   • 代理变量：户籍、手机号段、收货地址、设备品牌，与地域/年龄高度共线。
   • 样本偏差：三四线城市征信白户多，历史样本标签噪声大。
   • 标注偏差：催收团队对高龄客户“心软”，导致“违约”标签被低估。

4. 缓解技术

   • 预处理：重加权/重采样，使各子群在训练集占比与真实分布一致。
   • 内处理：加约束优化，如把“TPR差异”作为正则项；或采用fair-ensemble，把“公平性”作为二级目标。
   • 后处理：阈值差异化，按子群分别cut-off，保证TPR对齐；需同步调整额度定价策略，避免利润失血。
   • 特征剔除+代理检测：用SHAP值循环剔除“高歧视贡献”特征，再用Mutual Information检测潜在代理变量，直至差异指标收敛。

5. 产品闭环

   • 离线监控：每周跑公平性Dashboard，指标击穿阈值自动告警至风控PMO。
   • 在线AB：灰度发布时，对比“用公平模型 vs 原模型”在通过率、坏账率、客诉率三层指标，确保业务KPI不劣化>0.3PP。
   • 用户端解释：在拒贷页面增加“一键申诉”入口，后台触发人工复核，30分钟内返回结果，满足《个保法》“解释权”。

6. 组织与流程

   • 设立“算法公平性评审委员会”，成员：法务合规、数据科学家、业务风控、客服体验。
   • 建立“双签名”制度：任何模型上线，必须附《公平性评估报告》+《业务影响说明书》，缺一不可。

答案

我将分五步落地，输出物直接写进PRD：

第一步，把“歧视”翻译成可审计指标
PRD新增章节《公平性验收标准》：

• 指标1：地域群体TPR差异≤3%；
• 指标2：年龄≥55群体校准误差≤1.5%；
• 指标3：拒贷理由中不得出现“地域”“年龄”原文（满足语义脱敏）。
  验收方式：央行备案的第三方审计机构跑开源Aequitas工具，输出签字盖章报告。

第二步，数据血缘+特征黑名单

• 与数据平台团队协作，把“身份证前6位”“手机号归属地”“收货地址三级网格”写入《风控特征黑名单v3.2》，从训练样本中物理删除。
• 用Mutual Information≥0.3作为代理变量检测阈值，发现“夜间定位热点”与“户籍”高度相关，一并剔除。

第三步，模型训练加公平约束

• 在XGBoost目标函数增加ΔTPR惩罚项λ=0.8，调参时以“坏账率不上升>0.2PP”为硬约束，使用贝叶斯搜索100次迭代，自动输出帕累托前沿。
• 公平性验证集按“地域×年龄”交叉分层，确保最小子群样本量≥2000，避免小样本抖动。

第四步，后处理阈值校准

• 用Platt Scaling分别对“≤30、31-50、≥51”三个年龄桶做概率校准，使各桶Brier Score最小。
• 差异化cut-off：以“TPR差异≤3%”为约束，求解各子群最优阈值，额度策略同步下调≤5%，确保利润缺口可控。

第五步，上线与持续监控

• 灰度10%流量运行4周，Dashboard每日更新：群体TPR差异、校准曲线、客诉量。
• 触发规则：连续3天TPR差异>3%或客诉>日均5单，自动回滚并拉响“L2级算法事故”。
• 用户端：拒贷短信增加“若您认为结果有误，可回复1申请人工复核”，客服工单直通“算法公平性评审委员会”，48小时内给出复核结论。

通过以上五步，我曾在某城商行消金项目把“高龄群体TPR差异”从8.7%降到2.1%，坏账率仅上升0.15PP，一次性通过央行现场检查，且用户满意度提升4.3PP。

拓展思考

1. 当“公平”与“利润”出现不可调和冲突时，如何向高管层汇报？
   准备“合规罚单模拟计算器”：按《个保法》顶格罚款5000万×概率权重，与利润损失做对比，通常能让董事会快速拍板接受0.3PP以内的坏账上升。

2. 如果未来征信局开放“敏感属性”字段（如民族、健康），是否直接使用？
   绝对禁止。即使数据合法，也要在模型外独立存储，仅用于公平性审计，避免“故意歧视”法律风险。

3. 生成式大模型用于风控解释时，如何防止二次歧视？
   在提示词层加“禁止出现任何地域、年龄刻板印象”指令，并引入语义安全审核模型，对输出进行实时filter，确保解释文本通过“歧视关键词”扫描后才展示给用户。