解读

面试官想知道你能否把“技术可行”翻译成“商业可行”。国内场景下，终端侧常受限于国产芯片算力、工信部备案、用户隐私合规（个人信息保护法、数据跨境评估）、以及渠道包体积审核；云端侧则面临GPU算力成本、网络时延、内容安全先审后发、以及信创替代等政策风险。因此，回答必须同时给出“量化指标+合规红线+成本模型”，并体现你在数据闭环、灰度发布、回退预案上的闭环思维。

知识点

1. 四象限权衡模型：时延敏感度、数据敏感度、算力消耗、迭代频次
2. 国内合规红线：个人信息保护法第38条跨境评估、工信部《App用户权益保护测评规范》第5.3条“非服务所必需无合理场景不得将数据传至境外”、信创名录、等保2.0三级以上要求
3. 成本模型：云端GPU租赁成本（以A100 40G为例，约6元/卡时）、端侧NPU折算DMIPS成本、CDN回源流量费（0.18元/GB）、渠道包增量导致渠道投放转化率下降（每+1MB转化率下降约0.7%）
4. 技术指标：
   • 时延阈值：直播场景<120ms、短视频特效<80ms、搜索推荐<200ms
   • 内存阈值：Android 12以上普通应用max 512MB物理内存，超过即触发low memory killer
   • 功耗阈值：连续推理>600mA即被厂商加入后台高耗电名单
5. 灰度指标：端侧AB实验需支持“云端开关+热更新插件”双通道回退，72小时内可回滚至云端兜底
6. 数据闭环：端侧推理需内置“样本缓存+加密回传”模块，满足《数据出境安全评估办法》第9条“最小必要”原则，缓存上限200KB/日/设备

答案

我采用“三步九指标”法快速决策，并在两周内给出可落地的MVP方案。
第一步：业务层三问

1. 用户场景是否对时延强敏感？以直播实时美颜为例，端到端>120ms即出现音画不同步，用户投诉率>3%，必须端侧。
2. 数据是否含敏感人脸、声纹、身份证？若含，则优先端侧，避免触发跨境评估；若必须云端，需通过国密算法SM4本地加密、脱敏后再传，且通过省级网信办出境评估。
3. 功能是否需要天级迭代？云端可小时级热更新，端侧需等应用商店审核（国内平均1.5天），若业务要求天级策略更新，则云端+端侧兜底。

第二步：技术层三算

1. 算力：用FLOPs换算，以MobileNetV3 1.0为基线（300MFLOPs），若模型>1GFLOPs，千元机骁龙680 NPU 1Tops算力下帧率<15fps，必须云端。
2. 内存：模型int8量化后体积>20MB，渠道包整体>200MB，华为应用市场会触发“超大包”二次确认，转化率掉8%，需拆分为端侧轻量模型+云端精排。
3. 功耗：连续推理电流>600mA，小米后台高耗电弹窗提示，次日留存掉5%，端侧需降采样或云端卸载。

第三步：成本层三看

1. 云端GPU成本：峰值QPS 5000，单次推理100ms，需30卡A100，日成本=30×6×24=4320元；若端侧可覆盖80%流量，云端仅兜底20%，成本直降3456元/日。
2. 回源流量：端侧回传加密样本200KB/日/活跃用户，DAU 100万，月流量=0.2MB×1e6×30=6TB，CDN费用约1.08万元/月，低于GPU节省成本，ROI为正。
3. 合规罚金：若未经评估将人脸特征传至境外，按个保法最高5000万元或上年营收5%罚款，远高于技术改造成本，必须端侧优先。

综合打分后，输出“端云协同”方案：端侧跑轻量检测+跟踪模型（5MB，时延40ms），云端跑高精度识别+策略更新（大模型300MB，时延180ms），通过“本地置信度阈值”动态路由：置信度>0.9直接端侧结果，<0.9加密上传云端，同时本地缓存难例，Wi-Fi环境下差分回传，实现体验、成本、合规三赢。灰度期间，我在华为、OPPO、小米三家商店分渠道包AB实验，两周后核心指标：端到端时延下降35%，GPU成本下降62%，用户投诉下降50%，渠道审核0驳回，网信办备案一次通过。

拓展思考

1. 信创替代加速背景下，若目标客群是政府或国企，需额外评估芯片是否在信创名录（如瑞芯微RK3588 NPU已入围），否则即使端侧技术可行，也会被客户一票否决。
2. 端侧大模型压缩技术（量化+蒸馏+稀疏化）更新极快，建议建立“模型压缩ROI看板”，每月跟踪压缩率、精度损失、功耗下降三项指标，一旦压缩后精度损失<1%且体积<30MB，即可把原云端功能下沉到端侧，持续降低成本。
3. 未来若国内运营商推出“本地5G边缘UPF+算力套餐”，可把原来必须云端的重推理进一步下沉到城市级MEC，时延可压到20ms以内，届时需重新跑一遍“三步九指标”模型，把边缘节点当作“准端侧”重新评估，保持决策持续有效。