当生成 HTML 时,如何自动添加 dir="rtl" 属性?
解读
在国内 B 端、G 端以及跨境电商等真实业务中,大模型常需同时输出中文、阿拉伯语、希伯来语等混合内容。若 HTML 缺少 dir="rtl",会导致阿拉伯数字、标点符号错位,直接影响用户体验与合规审计。面试官想确认候选人是否具备“把大模型输出当成生产代码”的工程化思维,能否在LLMOps 流水线里用最小成本、零人工干预地解决国际化方向性(directionality)问题。
知识点
- Unicode 方向性算法(UAX #9):字符本身有 L、R、AL 等方向属性,浏览器据此做双向渲染,但块级元素必须显式声明
dir才能统一对齐、滚动条位置。 - 语言检测 vs 方向检测:语言代码(
ar-SA)与方向并非 1:1,例如哈萨克语(kk)在阿拉伯脚本下也需 RTL;因此应直接判断方向而非语言。 - 检测策略
- 基于 Unicode 属性:遍历文本,若首个强方向字符为 AL 或 R,则判定 RTL。
- 基于模型 token 概率:在千亿模型推理阶段,让模型在生成
<html标签时同步预测rtl概率,用logit bias 强制输出dir="rtl",一次前向即可。
- 注入位置
- 根节点:
<html dir="rtl">可继承到全部子元素。 - 局部节点:若仅段落为 RTL,需对
<p>、<div>单独加属性,避免整页翻转。
- 根节点:
- LLMOps 工程化
- 离线数据层:在知识外挂的 HTML chunk 入库前,用 Spark UDF 批量打标
direction=rtl,写入特征列,供检索时过滤。 - 在线推理层:在服务化封装的 Triton 后处理插件(Python BLS)里,调用
unicodedata.bidirectional做 2 ms 级检测,再注入属性;同时上报指标到Prometheus,用于持续监控方向性错误率。
- 离线数据层:在知识外挂的 HTML chunk 入库前,用 Spark UDF 批量打标
- 合规与安全:国内《生成式 AI 管理办法》要求内容标识;若方向错误导致政治敏感词左右错位,可能被误判为篡改,因此 RTL 标记属于安全合规一环。
答案
给出一个可直接落地的三行代码级方案,兼顾千亿模型推理与后处理:
from bidi.algorithm import get_base_direction # pip install python-bidi
def auto_rtl(html: str) -> str:
# 1. 检测方向:O(n) n≤10K 字符,<2 ms
is_rtl = get_base_direction(html) == 'RTL'
# 2. 若根节点无 dir,则注入
if is_rtl and '<html' in html and 'dir=' not in html.split('<html')[1].split('>')[0]:
html = html.replace('<html', '<html dir="rtl"', 1)
return html
在大模型推理服务中,把该函数注册为Triton 后处理的 postprocess 钩子;若使用vLLM 框架,可在 AsyncLLMEngine 的 generate 回调里追加。整个流程零人工规则,支持持续监控:通过 rtl_inject_total 与 rtl_mismatch_total 两个指标,实时观察注入成功率与浏览器实际渲染是否一致。
拓展思考
- 模型端联合训练:在继续预训练(CPT)阶段,把方向标记当成特殊 token
<|rtl|>加入词表,让模型学会在生成<html前自动输出该 token;下游用规则映射转成属性,实现端到端无后处理。 - 多模态场景:若 HTML 内嵌 SVG 或 Canvas 图表,需同步翻转坐标轴;可在提示工程里增加“如果方向为 RTL,则 x 轴刻度从右到左”的指令,让模型直接生成翻转后的 SVG transform。
- 性能极限优化:对千亿并发场景,可把方向检测逻辑写成CUDA kernel,在 GPU 上同批处理 512 条样本,延迟从 2 ms 降到 0.2 ms;同时利用NVIDIA FasterTransformer 的
custom pluggable postprocessor注册点,实现零拷贝注入。