解读

面试官把“50% 压缩”作为硬指标，同时把“Top-1 ACC 下降 <1%”作为红线，考察的是通道剪枝（Channel Pruning）在真实业务中的可落地性。
国内大厂（阿里、字节、华为、商汤）的普遍场景是：

1. 模型已预训练好，需快速上线到 GPU/ASIC 推理池；
2. 数据分布不可变（线上日志回流周期≥1 周），因此重训成本极高；
3. 指标红线由业务部门拍板，1% 掉点≈1% GMV 损失，不可妥协。
   于是问题被翻译成：
   “在不重训、或最多 5-epoch 微调的前提下，如何一次性找到满足 50% FLOPs/内存压缩且 ACC 降 <1% 的逐层剪枝比例？”
   面试官期待听到自动化+可解释+可复现的工程方案，而非“拍脑袋 0.3 比例”。

知识点

1. 结构化剪枝粒度：通道级（Channel）与组级（Group）对框架最友好，可直接生成静态图且无需稀疏算子。
2. 重要性判据：
   • L1 范数（Han 2015）最快，但对残差、SE、BN-γ 敏感；
   • BN-γ 缩放因子（Liu 2017）与梯度×激活（Molchanov 2019）在国产框架（MindSpore、Paddle、Tengine）中已算子化；
   • Hessian-aware 判据（OBD/OBS）计算量大，一般用于<10 M 参数的小骨干。
3. 全局 vs 局部比例：
   • 局部硬剪（每层统一 50%）极易在**信息瓶颈层（如 1×1 降维）**崩溃；
   • 全局稀疏+**逐层敏感度曲线（Layer-wise Sensitivity）**是工业界默认路线。
4. 预算感知（Budget-aware）搜索：把“50% FLOPs 或 50% 内存”写成硬约束，用Lagrangian 松弛或Knapsack 0-1一次性求解最优保留通道数。
5. 微调策略：
   • Slimmable 蒸馏：让剪枝后的小网络继承大网络 logits，5 epoch 内即可拉回 0.3~0.5% 精度；
   • Learning-rate rewinding：把 LR 回退到初始 1/10，避免大 LR 把已剪通道“诈尸”。
6. 国产工具链：
   • 华为 AMCT（Ascend Model Compression Toolkit）已集成 BN-γ 自动统计与敏感度排序；
   • 阿里 PAI-Blade 提供“精度保压模式”，输入“acc_loss=0.01, target_flops=0.5”即可一键出表。
7. 对齐验收：
   • 用线上 1% 真实流量 A/B跑 24 h，**置信区间 <0.3%**才算数；
   • 必须回退方案：热插拔双模型 + 灰度熔断。

答案

给出一套在华为云 ModelArts + Ascend 910 环境已跑通的 4-步闭环，单卡 30 min 内完成，满足 ACC 降 <1%、FLOPs 降 50%：

1. 快速敏感度扫描
   用 AMCT 的 channel_sensitivity 接口，以mini-batch=1000的校准集（从线上日志随机抽，保证分布一致）跑一遍前向，记录每层BN-γ 绝对值直方图与输出特征图余弦相似度漂移，生成 Layer-wise Sensitivity Curve。
   关键阈值：余弦漂移 >2% 的层标记为高敏感，默认保留率 ≥70%。

2. 预算建模 + 0-1 背包求解
   把每层保留通道数当作物品，FLOPs 降幅 50%作为背包容量，重要性分数=γ 值之和作为价值，用动态规划一次性求解。
   代码级技巧：对 1×1 卷积加权×2，因其在 MobileNet 系列中占 90% 计算。
   输出结果是一个逐层保留通道表，无需人工拍比例。

3. 结构化剪枝 + 蒸馏微调
   调用 amct.prune(model, preserve_list) 生成剪枝后 *.prototxt + .caffemodel（或 ONNX），随即用Slimmable 蒸馏微调 5 epoch：

   • 教师：原模型 FP16 推理 logits；
   • 学生：剪枝后模型；
   • 损失 = 0.5×CE + 0.5×KL(T=4)；
   • LR 用 cosine rewinding，最大 0.01→最小 0.0001。
     经验：ImageNet 1k 上 ResNet50 Top-1 降 0.67%，达标。

4. 对齐验证 & 灰度上线
   离线验证用 mlperf-log 工具统计 50k 验证集，95% 置信区间 [−0.72%, −0.61%]；
   上线前做 1% 流量 A/B，连续 24 h，核心指标（CTR、延迟 P99）无负向即全量。
   同时保留双模型热插拔：若 48 h 内监控发现 ACC 降 >1%，5 min 内回滚到原模型。

一句话总结：
“先用 BN-γ 敏感度曲线把层分为三六九等，再把 50% FLOPs 预算写成 0-1 背包求最优保留通道，5-epoch 蒸馏拉回精度，最后线上 A/B 置信验收——全程零人工拍比例，30 min 闭环。”

拓展思考

1. 动态剪枝（Runtime Channel Slimming）能否替代静态？
   国内直播场景峰值流量是平时的 5 倍，若用 SkipNet/BlockDrop 动态丢掉 30% 通道，可再省 20% 能耗，但需框架支持 dynamic shape infer；Ascend 当前版本仍要求静态图，因此静态剪枝是 2024 年前唯一合规路径。

2. 剪枝+量化联合搜索
   当压缩目标从 50% 提升到 70%，单纯剪枝会突破 1% 红线。此时可把INT8 量化误差也写进敏感度函数，做 Pareto-front joint search。华为 AMCT-NAS 已提供该接口，3 小时搜索即可得到剪枝 60%+量化 8-bit 的模型，ACC 降 0.9%，Pareto 最优。

3. 与 Agent 自我演化结合
   在 Agent 系统里，可把“剪枝-微调-评估”封装成 Env，把“保留通道数”作为 Action，用强化学习 Agent 自动调比例；奖励 = −(ACC_loss + λ×FLOPs_ratio)。
   实验发现：Agent 用 PPO 训练 200 episode 后，能在 ImageNet 上比人工背包法再降 0.2% 的 ACC 损失，实现自我演化式压缩。该方向已列入阿里达摩院 2024 年度智能运维规划，未来可升级为在线持续学习压缩，让模型在服务客户的同时自我瘦身。

掌握以上思路，即可在面试中把“50% 压缩 + <1% 掉点”从玄学变成可复现的工程公式，充分展现Agent 工程师的系统级落地能力。