解读

面试官想验证三件事：

1. 对“端侧”资源天花板（ARM Cortex-M/A 系列 NPU 0.5-4 TOPS、内存 <1 GB、功耗 <500 mW）是否有体感；
2. 能否把“低延迟”翻译成用户可感知的场景价值，而非单纯炫技；
3. 是否具备“算法-硬件-商业”三角平衡的产品思维，能给出可落地的迭代路径。

答题策略：先给“筛选框架”，再给出 3-4 个中国本土已跑通或即将跑通的轻量级功能，并说明数据闭环与变现模式。

知识点

1. 端侧芯片分级：
   • 微控制器+TinyML（<50 MHz，<256 KB SRAM）
   • 轻量 NPU（瑞芯微 RV1109、地平线旭日 3、海思 Hi3519，0.5-2 TOPS）
   • 手机 SoC（高通 7/8 系、联发科天玑，4-30 TOPS）
2. 模型轻量技术：量化(INT8)、剪枝(≥70%)、知识蒸馏、结构重参数化、NAS 搜 TinyNet。
3. 中国合规红线：生物特征需本地处理（GB/T 35273）、语音唤醒词不得上传原文（工信部 164 号文）。
4. 延迟拆解：
   • 传感采样→预处理→推理→后处理→业务动作，端侧目标端到端 <100 ms（人眼/耳无感知）。
5. 商业闭环：硬件溢价、订阅云增值服务、省 CDN 带宽、降低售后客诉。

答案

“我会用‘三阶漏斗’筛选功能：
① 用户痛点强度≥7/10；② 端侧延迟收益≥3×云侧；③ 模型≤8 MB、单帧推理≤30 ms、功耗增幅≤5%。按此标准，优先落地以下四类功能：

1. 人脸识别快速迎宾（门禁/酒店/社区闸机）
   模型：MobileFaceNet-int8，1.2 MB，30 ms@720p；
   价值：0.3 秒开门，比云侧方案快 8 倍，弱网可用；
   闭环：本地只存特征向量，合规；云端下发增量人脸库，按次订阅更新。

2. 儿童手写笔迹 AI 纠错（教育平板）
   模型：基于 Transformer-Encoder 的 4 层微型网络，2.6 MB，单字 15 ms；
   价值：书写同时给红笔提示，延迟 <50 ms，孩子无挫败感；
   闭环：端侧缓存错字样本，每日 Wi-Fi 回传加密数据，云端蒸馏后 OTA 回灌，两周一次。

3. 厨房油烟机“锅炒状态”识别（家电 IoT）
   模型：1D-CNN+TinyLSTM，0.9 MB，分析麦克风+温度传感器 1 s 片段，20 ms；
   价值：自动匹配风量，噪声降 3 dB，年省电费≈45 元；
   闭环：用户可一键关闭，数据脱敏后用于训练“爆炒/蒸煮”细分模型，提升高端机型溢价。

4. 电动自行车头盔佩戴检测（共享出行地方监管）
   模型：YOLOv5n-int8，3.1 MB，25 ms@480p；
   价值：本地实时报警，无需 4G 流量，满足上海/深圳交警“即时提醒”要求；
   闭环：违规图片本地缓存，7 天后循环覆盖，节省 90% 流量费，政府验收一次通过。

迭代节奏：V1.0 先保证‘单模型-单任务’跑通，用 A/B 数据验证留存/付费；V1.5 做‘多任务共享骨干’，把内存占用再降 30%；V2.0 引入芯片厂商 Tengine/MindSpore Lite 新算子，把延迟再砍 20%，形成护城河。”

拓展思考

1. 端侧大模型时代：如何用 “动态剪枝+分层加载” 把 0.1B 的“小语言模型”塞进 256 MB 内存，实现离线语音交互？
2. 功耗-性能双目标优化：与芯片团队共建 “NPU 算子级Profiling” 看板，把每 1 mW 对应多少 FPS 做成产品 KPI，反向推动硬件定义。
3. 数据合规沙箱：在设备内建“国密算法芯片”，实现向量加密、联邦学习聚合，既满足信通院测评，又让云端无法还原原始人脸/语音，形成政企采购加分项。