解读

在国内互联网/电商/金融公司的 PHP 后端面试中，面试官问“BERT 微调服务化”并不是想让你用 PHP 写 Transformer，而是考察三条线：

1. 你是否理解“微调”与“服务化”在算法、工程、运维三端的完整闭环；
2. 当业务主栈是 PHP 时，你如何设计一套“PHP 不碰算法、只负责调度”的高可用方案；
3. 面对高并发、低延迟、弹性扩缩容、灰度发布、A/B 实验、监控告警等真实场景，你的技术选型、容灾策略、成本控制是否接地气。

一句话：让 PHP 成为“AI 能力”的网关和编排者，而不是让 PHP 去跑 TensorFlow。

知识点

1. BERT 微调流程：数据标注 → 继续预训练（可选）→ 下游任务 Fine-tune → 蒸馏/量化 → 导出 TorchScript/ONNX。
2. 服务化形态：同步 HTTP/gRPC 推理、异步队列批处理、流式 WebSocket、边缘侧 TensorRT/ONNXRuntime。
3. PHP 角色：反向代理（Nginx+Lua）、服务注册发现（Consul/Nacos）、配置中心（Apollo）、熔断限流（Sentinel）、调用链（SkyWalking）。
4. 高性能通信：PHP-FPM 短链接瓶颈 → Swoole 协程 gRPC 客户端，连接池 + 自定义负载均衡算法（一致性哈希、权重、同机房优先）。
5. 资源调度：K8s HPA 基于 GPU/CPU 利用率 + QPS + 队列长度混合指标；CronHPA 夜间缩容节省 60% 成本。
6. 数据闭环：PHP 埋点回写 MySQL → Flink CDC → 标注平台 → 自动触发增量微调 → 模型热更新（热插拔 Sidecar 容器）。
7. 安全合规：模型文件 OSS 私有 Bucket + KMS 加密；PHP 通过 STS 临时凭证拉取；国密 SM4 传输（某些银行要求）。
8. 线上灰度：Nginx 根据 UID 分桶，PHP 在请求头注入 x-model-version，AI 服务通过 Selector 路由到不同模型 Pod。
9. 压测与调优：使用 wrk2 + Lua 脚本模拟 10w QPS，观察 P99 延迟；GPU 推理优化：混合精度、动态批、显存池。
10. 故障演练：混沌工程注入 GPU 节点宕机、etcd 网络分区，验证 PHP 降级开关（走 TF-Serving 冷备或规则兜底）。

答案

“我会把 BERT 微调服务化拆成四层，PHP 只聚焦‘流量网关 + 业务编排’，算法与性能交给 Python/C++ 云原生服务。

第一层：离线微调
标注团队用 Prodigy 在私有云打标签，训练脚本基于 Transformers+DeepSpeed，采用混合精度与梯度累积，把 12 层 BERT-base 在 8 张 A100 上 3 小时收敛；完成后做动态量化（INT8）+ 知识蒸馏到 6 层小模型，体积从 440 MB 压缩到 120 MB，推理延迟降低 42%。

第二层：模型交付
通过 GitLab-CI 把 ONNX 文件推送到公司统一的‘模型仓库’（Harbor 私服），同时写入版本元数据（准确率、F1、AUC、压测报告）。CI 自动构建两个镜像：

• gpu-onnxruntime:1.15-cuda11.8（在线高并发）
• cpu-onnxruntime:1.15（冷备兜底）
  镜像启动后会注册到 Consul，TTL 30s，PHP 通过 Swoole\Consul\Agent 监听 healthy 实例列表。

第三层：PHP 流量入口
Nginx+Lua 做前置 SSL 卸载和 WAF，然后把请求透传给 Swoole HTTP 服务。PHP 代码里我用协程客户端并发调用：

• 风控模型（判断是否有刷单风险）
• 情感模型（分析用户评论）
• 实体识别模型（抽取商品属性）
  超时统一设 80 ms，失败立即熔断并返回降级文案。为了降低冷启动，我把连接池大小配成“CPU 核数×2”，并开启 TCP_NODELAY 与 HTTP/2 multiplexing。

第四层：弹性与观测
K8s HPA 策略：当 GPU 利用率 > 65% 或 QPS > 3000 或队列积压 > 500 条时，30s 内扩容 1 个 Pod，最大 20 个；夜间 00:00-06:00 通过 CronHPA 强制缩容到 2 个，节省 2 万元/月。
监控用 Prometheus + Grafana：核心看 P99 延迟、GPU 显存占用、PHP 调用成功率；同时把 traceId 注入响应头，方便前端联调。
灰度发布：PHP 根据用户 uid%100 把 5% 流量打到新模型，对比业务指标（点击率、转化率）24 小时无异常再全量。

这样一套方案，曾在 618 大促顶住 8 万 QPS，P99 延迟 68 ms，全年零 P3 故障，且算法迭代周期从两周缩短到三天。”

拓展思考

1. 如果公司没有 GPU，如何用 CPU+ONNXRuntime+Int8 量化在 20 ms 内完成 128 长度推理？是否考虑用 PHP-FFI 直接绑定 ONNXRuntime C API，省掉一次网络 hop？
2. 当模型需要多任务输出（NER+情感+关键词）时，你会设计“多头并联”还是“一个大模型多任务”？如何在 PHP 层做结果缓存与字段级 TTL？
3. 面对监管要求“模型可解释”，PHP 如何实时拉取 SHAP 值并生成可视化报告返回给运营后台？
4. 如果业务突然从文本扩展到图文多模态，PHP 侧如何平滑接入 CLIP 服务，同时保持接口版本向下兼容？
5. 在 Serverless 场景（如阿里云函数计算），PHP 函数冷启动 2 s，而 BERT 推理函数冷启动 8 s，如何设计“预暖池+共享 GPU 实例”把端到端延迟降到 100 ms 以内？