如何通过视觉设计(如置信度显示、备选方案)增强用户对AI决策的掌控感?
解读
面试官想验证三件事:
- 你是否把“掌控感”拆解成可量化的体验指标(如误操作率、二次确认率、NPS)。
- 你是否熟悉国内合规红线(《互联网信息服务算法推荐管理规定》第16条要求“显著标识算法合成内容”;《个人信息保护法》要求“显著方式告知自动化决策权重”)。
- 你能否把算法指标(置信度、Top-K概率)翻译成“人话”并落到像素级方案,而不是喊“加弹窗”这种万能答案。
因此,回答路径必须是:场景→用户心理→合规→视觉变量→验证闭环,且给出“最小可用”和“优雅扩展”两档方案,体现产品节奏感。
知识点
- 认知卸载理论:用户面对黑箱时,焦虑随“可解释线索”数量呈指数下降。
- 国内合规“双标识”:①内容标识(水印/蒙层)②决策权重标识(“AI辅助”标签+置信度)。
- 视觉变量层级:色彩>位置>面积>纹理>文字;动效仅用于“状态变化”否则干扰弱网用户。
- 置信度颗粒度:ToC场景建议三档(高≥90%、中60~90%、低<60%),ToB场景可开精确值开关。
- 备选方案交互成本:移动端单屏≤3条,PC端≤5条;否则折叠为“更多”并保留热区。
- 二次确认模型:误操作损失>5元人民币或涉及人身属性(医疗、信贷)必须强制确认;其余用“软确认”即可。
- 埋点四件套:曝光-点击-纠错-满意度;用“纠错率”反向校准置信度分档阈值。
答案
我分五步落地,兼顾体验、合规与迭代节奏:
-
场景对焦
以“AI拍照搜题”为例,用户核心恐惧是“答案错误但照抄导致丢分”。目标指标:把“投诉/纠错率”从1.2%降到0.3%,同时不增加平均解题步长。 -
用户心理分层
通过可用性测试发现:- 小学生家长需要“一眼安心”,对颜色最敏感;
- 初高中生更关注“为什么”,需要可解释文字;
- 老师群体要精确置信度用于课堂讲解。
-
视觉方案设计
a. 置信度显性化- 顶部通栏用“交通灯”三色条:绿≥90%、黄60~90%、红<60%,宽度占屏幕80%、高度4mm,保证拇指遮挡区外可见。
- 右侧叠加“AI”小徽章,点击下钻到“为什么给出此答案”页,满足《算法推荐规定》第十六条。
b. 备选方案 - 当置信度<90%时,自动展开“相似题”横滑列表,最多3条;卡片露出60%激发滑动。
- 每条卡片右上角用“概率泡”显示算法Top-3置信度,文字用“可能相似度:87%”而非“置信度0.87”,降低认知负荷。
c. 二次确认 - 置信度<60%时,按钮文案由“采纳答案”变为“仍需确认”,点击后弹“轻提示”:当前答案可信度较低,建议对比备选;3秒自动消失,不阻断流程。
-
合规与风险
- 三色条与“AI”徽章已在灰度版通过网信办预审查,满足“显著标识”要求;
- 置信度数值属于“自动化决策权重”,已在隐私政策中单列,用户可关闭“个性化置信度显示”,默认开启。
-
验证与迭代
- 上线A/B:实验组采用上述方案,对照组仅显示“AI”标签。
- 两周数据:投诉/纠错率降至0.35%,平均解题步长+0.8秒(可接受),置信度<60%的题目二次确认率由4%提升到38%,证明用户确实在“低可信”场景更谨慎。
- 下一步:把“纠错原因”反哺模型,用强化学习调低相似场景阈值,实现数据-模型-产品闭环。
一句话总结:用“三色交通灯+概率泡+轻确认”把黑箱算法翻译成用户秒懂的视觉语言,既满足合规,又把掌控感量化成可下降的投诉率。
拓展思考
- 多模态场景:在AI视频剪辑里,置信度可跟“时间轴”结合——用半透明色带覆盖片段,高置信绿色可直接智能裁剪,低置信红色留给用户手动精修,实现“人机混剪”节奏。
- 适老化:60岁以上用户色弱比例达8%,需把“红-黄-绿”再叠加文字+图标双编码;同时放大点击热区至48×48dp,避免“误点”带来的掌控感下降。
- 商业平衡:过度暴露置信度可能削弱品牌技术形象,可设置“专家模式”开关,默认隐藏具体数值,仅保留三色条,既给普通用户安全感,也给专业用户深度控制。