解读

面试官真正想考察的是：

1. 你对“敏感”在中国合规语境下的细粒度定义（涉政、违禁、低俗、广告、隐私泄露等）能否拆解到位；
2. 能否在百亿/千亿参数大模型的算力与延迟约束下，用最小微调+数据闭环把 F1 稳定拉到 95% 以上；
3. 是否具备LLMOps 视角，让分类器在“多语言、新热词、对抗样本”持续漂移的场景里不劣化；
4. 对国产芯片+框架（昇腾、寒武纪、MindSpore、Paddle、OneFlow）的落地经验是否落地，而非只谈 GPU。

知识点

1. 敏感标签体系：必须对齐《网络信息内容生态治理规定》《生成式 AI 管理办法》等法规，五级标签+ 200+ 子标签是基线。
2. 数据配方：
   • 冷启动 50 W 条多语言种子（zh/en/ja/ko/ar/th/vi/id/ms），人工三审+ 对抗抽检 5%；
   • 主动学习+ 对抗合成（同音、形变、emoji、藏头诗、base64、维文拉丁转写）持续扩增，周级迭代 10 W 条；
   • 负样本必须过采样 1:3，防止“无敏感”类压倒性优势导致虚高 F1。
3. 模型底座：
   • 百亿参数国产大模型（如 Baichuan2-13B、Qwen-14B、Paddle-ERNIE 3.5）做继续预训练 CPT 1 epoch，学习率 2e-5 + Warmup 6% + ZeRO-3 offload，让模型先“熟读”多语言俚语；
   • LoRA r=32, α=64, dropout=0.05 仅训分类头，混合精度 bf16，单卡 A100 80 G 3 小时收敛；
   • R-Drop + Focal Loss γ=2 缓解过拟合与类别不平衡。
4. 知识外挂：
   • 动态敏感词典（公安部 110 关键词+ 自研爬虫每日 2k 新词）用BM25 召回+ 大模型精排双路，召回率提升 4.2%；
   • 图记忆网络：把敏感实体、事件、话术组织成异构图谱，GNN 向量注入 attention bias，解决“指桑骂槐”类隐晦表达。
5. 推理加速：
   • INT8 权重量化（LLMCalib）+ 图算融合，延迟从 420 ms 降到 78 ms；
   • 批量推理 padding 优化 + Continuous Batching，QPS 提升 5.8 倍；
   • 昇腾 910B 上 MindIE 推理引擎，TP=2, PP=4 即可满足 2000 并发。
6. 效果验证：
   • 多语言分层采样 5 W 盲测集，F1>95% 必须同时满足宏观/微观 F1；
   • 对抗盲测：引入红队 2000 条攻击样本（拆字、拼音、emoji 链、OCR 变异），F1 下降不得超过 1.5%；
   • 消融实验：去掉 LoRA、去掉词典、去掉 R-Drop，F1 分别下降 2.3%/1.7%/1.1%，证明链路缺一不可。
7. LLMOps 持续监控：
   • 线上 Shadow 模式跑双模型，F1 漂移>1% 自动回滚；
   • Prompt 漂移检测：用KL 散度监控用户输入分布，日级触发增量微调；
   • 数据安全：敏感日志脱敏+ 国密 SM4 加密存储+ 人员分级权限，通过网信办算法备案审计。

答案

“我会采用‘大模型轻量微调+ 外挂知识+ 数据闭环’的三段式方案：

1. 数据：先构建 50 W 条多语言、多场景、多对抗的种子数据，人工三审+ 对抗合成保证 0.3% 以下误标；线上再布主动学习 pipeline，每周自动捞取高不确定性 1 W 条回标，两周内把 F1 从 92% 拉到 95.4%。
2. 模型：选Baichuan2-13B做继续预训练 1 epoch让模型吃透俚语，再用LoRA r=32只训分类头，Focal Loss+ R-Drop解决不平衡与过拟合；INT8 量化+ 昇腾 910B 图算融合，单卡延迟 78 ms，QPS>1200。
3. 知识外挂：维护动态敏感词典与事件图谱，BM25 召回+ 大模型精排双路，隐晦文本召回率提升 4.2%；线上Shadow 部署，F1 漂移>1% 自动触发增量微调，连续 6 周线上 F1 稳定在 95% 以上，并通过网信办备案审核。”

拓展思考

1. 小样本冷启动：如果客户只能提供 5 k 条样本，如何用大模型+ Prompt-based Learning做到 F1>90%？
2. 多模态敏感：面对图文、视频字幕、语音转文本，如何设计统一跨模态分类器并共享同一套敏感标签体系？
3. 端侧部署：在华为昇腾 310P 边缘盒子上内存只有 8 GB，如何蒸馏+ 量化到 1 B 以内模型，F1 下降≤2%？