解读

面试官想验证三件事：

1. 你是否把“用户信任”当成产品核心指标，而非单纯追求“像人”。
2. 能否把算法边界（意图识别 Top1 准确率、拒识率、幻觉率）转译成界面级体验信号。
3. 是否熟悉国内合规红线：工信部《互联网信息服务算法推荐管理规定》第16条“应以显著方式告知用户算法模型局限性”，以及消保委对“误导性聊天机器人”的处罚案例。
   回答必须给出“可落地的界面方案+数据指标+迭代机制”，否则会被判“太空”。

知识点

1. 算法局限性的可感知化：置信度阈值、拒识策略、幻觉检测、安全围栏。
2. 国内用户心智：对“机器人”容忍度高，但对“被当成傻子”容忍度极低；一旦识破欺骗，投诉率指数级上升。
3. 合规显式披露要求：需在首次对话、敏感节点、兜底回复三处显著提示“我是AI”。
4. 体验指标：信任分（会话结束后用户主动评价“解决/未解决”）、二次转人工率、投诉标签“机器人骗人”占比。
5. 界面级解法：
   ① 身份标识区——常驻头像+“AI客服”文案+“ limitations”入口；
   ② 置信度可视化——低置信答案自动折叠并给出“我可能没理解对”标签；
   ③ 拒识话术模板——“我还在学习××业务，已为您召唤人工客服，预计等待2分钟”；
   ④ 可验证信源——答案末尾给出“信息来源：2024年3月《××业务规则》第5条”，降低幻觉感；
   ⑤ 一键纠错——每条AI回复附“纠错”按钮，用户点一次即把数据回流到标注池，用于下一轮微调。
6. 数据闭环：把“用户举报幻觉”作为高优样本，24小时内完成标注→微调→A/B灰度，目标7天内幻觉率下降30%。

答案

我会把“让用户感知局限”拆解成“身份透明、能力透明、错误透明”三步，并配套可量化的界面方案：

1. 身份透明——首句必显“我是××AI客服”
   实现：在Chat Head默认气泡前追加一行灰色系统提示，字体不小于正文80%，不可手动关闭；同时头像使用机器人图标+蓝色小闪电角标。
   指标：用户首次会话10秒内关闭对话框的比例（衡量惊吓感）需<3%。

2. 能力透明——给答案加“置信度灯”
   实现：模型输出时同步返回risk_score，>0.85亮绿灯，0.6~0.85亮黄灯并折叠展示“我可能没理解对，您看这样是否解决？”；<0.6直接亮红灯并触发拒识。
   文案统一用口语化表达，避免技术黑话。
   指标：黄灯点击率（用户展开确认）≥35%，红灯转人工率≥80%，证明用户看懂信号。

3. 错误透明——幻觉溯源+一键纠错
   实现：每条答案末尾追加“信息来源”超链，点击后弹窗展示原始知识库片段；若用户点击“纠错”，自动记录query+answer+session_id，进入“高优标注池”，次日人工复核。
   指标：幻觉举报量/总会话量≤0.2%，且举报后24小时内有反馈短信，提升信任。

4. 兜底策略——“三句转人工”
   当同一session内用户连续三次触发黄灯或一次红灯，系统自动在输入框上方出现“为您转接人工客服”按钮，并预估排队时长；不强制跳转，给用户掌控感。
   指标：转人工后满意度需≥人工会话基准92%，防止“AI甩锅”带来的二次伤害。

5. 合规留痕
   所有“我是AI”提示、置信度灯状态、转人工节点写入日志，保留不少于三年，以备监管飞行检查。

通过以上设计，我们把“局限性”从隐性风险变成显性产品特性，既降低用户欺骗感，又把负面体验转化为数据迭代燃料。

拓展思考

1. 多模态场景延伸：如果智能客服升级成“数字人视频客服”，需在视频下方常驻字幕“AI合成”，并在口播脚本里强制插入“我是AI”关键词，避免“深度合成”新规处罚。
2. 个性化阈值：对高价值VIP用户可调低置信度绿灯阈值（如0.9），牺牲一部分自动化率换取品牌信任。
3. 负向反馈激励：对主动纠错的用户发放“故障发现勋章”+5元话费券，把“找茬”变成游戏化运营，预计可提升举报样本量3倍，加速模型收敛。