解读

面试官想知道三件事：

1. 你是否能“看见”偏见——能否把业务指标拆解成可量化的公平性指标；
2. 你是否能“量化”偏见——熟悉国内主流公平性度量（如人口统计均等、机会均等、个体公平）并能用中文指标对齐监管；
3. 你是否能“落地”纠偏——在数据、模型、产品三层给出可工程化的方案，兼顾《个人信息保护法》《算法推荐管理规定》等合规红线，且能说服算法、法务、运营一起执行。
   回答时要体现“产品经理视角”：先讲业务风险，再讲指标定义，再讲技术-流程组合拳，最后给出迭代闭环与组织保障。

知识点

1. 国内合规框架：
   • 《个人信息保护法》第24条“自动化决策透明度”
   • 《互联网信息服务算法推荐管理规定》第12条“不得设置歧视性或者偏见性用户标签”
   • 国标《信息安全技术 个人信息安全影响评估指南》中“歧视性风险”章节
2. 公平性指标体系：
   • 群体公平：统计均等、机会均等、预测平价
   • 个体公平：相似样本相似结果
   • 因果公平：反事实公平
3. 数据层纠偏技术：
   • 重采样：过采样少数群体、欠采样多数群体、SMOTE变体
   • 重加权：样本权重与敏感属性负相关
   • 数据增强：对抗生成、领域特定规则引擎（如方言语音合成）
   • 敏感特征脱敏与合成：差分隐私+合成数据（满足《个保法》最小必要）
4. 模型层纠偏技术：
   • 约束优化：加公平正则项、F1-公平帕累托前沿
   • 后处理阈值调整：Equalized Odds阈值搜索
   • 对抗去偏：梯度反转网络，敏感属性预测误差最大化
   • 因果推断：前门/后门调整，去除混淆因子
5. 产品层流程：
   • 偏见风险评估矩阵（业务影响×监管处罚×舆情风险）
   • 数据标签合规双通道：标注团队+法务抽检
   • 公平性回归测试：每次发版跑公平性Dashboard，超阈值自动回滚
   • 用户申诉通道：App内“算法问题投诉”直连客服工单，7日内人工复核
6. 组织保障：
   • 设立“算法伦理委员会”，产品、算法、法务、公关四方共审
   • 每季度发布《算法公平性白皮书》，接受第三方审计（如中国信通院）

答案

“遇到历史偏见，我会把纠偏拆成四步：风险量化、数据治理、模型调优、产品闭环，每一步都先对齐国内合规要求。
第一步，风险量化。把业务指标翻译成公平性指标。以金融风控为例，监管要求‘不同性别群体的拒绝率差异不超过5%’，我就把‘统计均等’写进PRD的验收标准，同时把机会均等、个体公平作为监控指标，用AUC-公平帕累托曲线让老板一眼看到‘多赚1%准确率会放大3%性别差异’，先拿到决策层资源。
第二步，数据治理。先跑一遍‘敏感属性分布-标签分布’交叉表，定位偏见来源。若发现女性样本少且逾期标签被高估，采用‘重采样+重加权+合成数据’三件套：

1. 用领域规则引擎生成合规女性合成样本，差分隐私ε≤3，保证《个保法》最小必要；
2. 给真实女性样本加权重w=1.8，让损失函数更关注少数群体；
3. 引入‘公平性盲测’，让标注团队不知道敏感属性，减少标注者偏见。
   第三步，模型调优。在训练阶段加公平正则项，用λ=0.1的Equalized Odds正则；同时跑对抗去偏，把敏感属性预测误差提升到45%以上，确保模型学不到性别捷径。上线前用‘阈值搜索’把拒绝率差异压到4%以内，满足监管红线。
   第四步，产品闭环。上线后把公平性Dashboard嵌入A/B平台，每天自动跑群体差异，一旦超过5%触发回滚；App内增加‘算法问题投诉’入口，用户提交后7日内由伦理委员会人工复核，复核结果反哺数据标注，形成‘数据-模型-用户反馈’三重闭环。
   最后，组织保障。项目启动前拉算法、法务、公关开‘偏见风险评估会’，用风险矩阵打分≥15分才立项；每季度请中国信通院做第三方审计，审计报告随年报披露，提前化解舆情风险。用这套组合拳，我们上一家公司把性别差异从11%降到3.8%，同时KS只掉0.4，业务指标与合规双赢。”

拓展思考

1. 如果敏感属性无法采集（如民族），如何用“代理变量”间接纠偏又不触碰《个保法》红线？
2. 在推荐场景下，纠偏可能导致“多样性下降”，如何用多目标强化学习同时优化公平性、多样性、GMV？
3. 面对外部数据供应商，如何在合同里设置“数据偏见责任条款”与违约金比例，实现商业约束？