解读

国内中大型公司普遍采用“GPU 池+虚拟化”模式，一张 A100 可能同时被推荐、广告、CV、NLP 四条产品线调用。面试想考察的是：

1. 能否把“技术黑箱”拆成可计量的经济单元；
2. 能否兼顾财务合规（高新认定、加计扣除）、内部结算（事业部 P&L）与算法特性（峰值弹性、稀疏调用）；
3. 能否给出可落地的数据闭环方案，而不是停留在理念。
   一句话：让财务、业务、算法三方都觉得“公平可解释”，且能随业务规模自动伸缩。

知识点

1. 算力成本结构：CAPEX（卡、服务器、IB 网络、机房折旧）+ OPEX（电费、运维、云弹性溢出）。
2. 国内财务要求：折旧 3～5 年，残值率 3%～5%；云资源需拿到 6% 增值税专票才可抵扣。
3. 虚拟化粒度：NVIDIA vGPU 的 slice 最小 1/7 A100 40GB；MIG 最多 7 instance；K8s 调度按 millicpu 和 MiB 显存双维度。
4. 分摊原则：受益原则（谁用谁担）、可追溯原则（标签到作业级）、弹性对等原则（峰值溢价、空闲折价）。
5. 内部定价模型：
   • 阶梯式容量预订（Capacity Reservation）+ 弹性溢出（Spot）；
   • 影子价格（Shadow Price）= 边际扩容成本，用于排队任务优先级；
   • 零基预算（Zero-based Budgeting）倒逼业务方每季度重新论证 ROI。
6. 数据闭环：Prometheus + DCGM exporter 采集 GPU Utilization、显存占用、NCCL 流量；Kafka 流式写入 Hive，T+1 出成本账单，粒度到 namespace→product→task→user。
7. 合规红线：避免“一卡多用”导致折旧重复加计扣除；对外提供 AI 服务需按 6% 税率拆分 License 与算力收入。

答案

给面试官一个“三步九要素”方案，可直接落地：

第一步：资产分层，统一计量

1. 建立“GPU 资产池”台账，CAPEX 按 36 个月直线折旧，每月折旧额 = 采购价*(1-残值率 5%)/36。
2. 引入“等效 A100 小时”作为标准单位：1 A100 40GB·hour = 1 基准单位；A30 乘以 0.45，A10 乘以 0.3，由公司实验室跑 MLPerf 得出转换系数，财务备案。
3. 通过 K8s scheduler 插件把每张卡的实际分配量写入 Kafka，字段包括 product_id、task_id、user_id、gpu_type、duration、显存峰值、功耗。

第二步：内部定价，双轨并行
4. 容量预订（Reserved）：各产品线季度初申报“保底额度”，按折旧成本价 + 15% 运维费锁定；未用满部分按 30% 折旧价回收至公司池，用于激励预测准确性。
5. 弹性溢出（Spot）：超出保底的部分按“影子价格”实时浮动，影子价格 = 最近一周扩容一台同类服务器的日折旧 + 当日平均电费；凌晨低谷时段可降至 0.6 倍，训练高峰可上浮至 1.8 倍，自动抑制非紧急任务。
6. 峰值溢价（Peak Premium）：若某产品线单月峰值超过其保底的 200%，则超出部分额外加收 25%，用于补偿对其他线造成的排队损失；溢价收入月末返还受害方，实现“公平再分配”。

第三步：账单闭环，持续迭代
7. T+1 自动生成“四栏账单”：折旧费、电费、云溢出费、峰值溢价；粒度到产品线→任务→负责人，直接对接用友/金蝶，支持事业部级 P&L。
8. 每月召开“算力评审会”，由财务、技术、业务三方共审，异常波动 >15% 需书面说明；连续两季度利用率 <40% 的保底额度强制回收。
9. 建立“成本-效果”看板，把每万元算力带来的业务指标（如推荐 GMV、广告 ROI、模型 AUC）可视化，倒逼产品线优化模型效率，形成数据-模型-商业闭环。

用一句话总结：把 GPU 当成“酒店房间”，先订房（容量预订）、后钟点房（弹性溢出），节假日加价（峰值溢价），所有入住记录可开发票（账单闭环），财务、业务、算法三方都认账。

拓展思考

1. 如果公司混合部署了国产化 GPU（如华为昇腾、寒武纪），其折旧周期、算力转换系数与 NVIDIA 差异大，如何设计“异构等效单位”避免内部争议？
2. 在集团层面，部分算力用于对外 SaaS 服务，需单独核算收入与成本，如何防止内部线与外部客户“抢卡”导致 SLA 违约？
3. 当训练任务使用混合精度 + 弹性 batch，实际显存占用动态变化，如何按“显存-时间积分”而非“分配时长”更精细地计量？
4. 若未来采用“算力订阅”商业模式（客户包年包卡），财务需把订阅收入与折旧成本按履约义务分摊，产品经理如何提前设计数据接口，满足新收入准则（CAS 14）？