当生成 HTML 时,如何自动添加 dir="rtl" 属性?

解读

在国内 B 端、G 端以及跨境电商等真实业务中,大模型常需同时输出中文、阿拉伯语、希伯来语等混合内容。若 HTML 缺少 dir="rtl",会导致阿拉伯数字、标点符号错位,直接影响用户体验与合规审计。面试官想确认候选人是否具备“把大模型输出当成生产代码”的工程化思维,能否在LLMOps 流水线里用最小成本、零人工干预地解决国际化方向性(directionality)问题。

知识点

  1. Unicode 方向性算法(UAX #9):字符本身有 L、R、AL 等方向属性,浏览器据此做双向渲染,但块级元素必须显式声明 dir 才能统一对齐、滚动条位置。
  2. 语言检测 vs 方向检测:语言代码(ar-SA)与方向并非 1:1,例如哈萨克语(kk)在阿拉伯脚本下也需 RTL;因此应直接判断方向而非语言。
  3. 检测策略
    • 基于 Unicode 属性:遍历文本,若首个强方向字符为 AL 或 R,则判定 RTL。
    • 基于模型 token 概率:在千亿模型推理阶段,让模型在生成 <html 标签时同步预测 rtl 概率,用logit bias 强制输出 dir="rtl",一次前向即可。
  4. 注入位置
    • 根节点:<html dir="rtl"> 可继承到全部子元素。
    • 局部节点:若仅段落为 RTL,需对 <p>、<div> 单独加属性,避免整页翻转。
  5. LLMOps 工程化
    • 离线数据层:在知识外挂的 HTML chunk 入库前,用 Spark UDF 批量打标 direction=rtl,写入特征列,供检索时过滤。
    • 在线推理层:在服务化封装的 Triton 后处理插件(Python BLS)里,调用 unicodedata.bidirectional 做 2 ms 级检测,再注入属性;同时上报指标到Prometheus,用于持续监控方向性错误率。
  6. 合规与安全:国内《生成式 AI 管理办法》要求内容标识;若方向错误导致政治敏感词左右错位,可能被误判为篡改,因此 RTL 标记属于安全合规一环。

答案

给出一个可直接落地的三行代码级方案,兼顾千亿模型推理与后处理:

from bidi.algorithm import get_base_direction  #  pip install python-bidi

def auto_rtl(html: str) -> str:
    # 1. 检测方向:O(n)  n≤10K 字符,<2 ms
    is_rtl = get_base_direction(html) == 'RTL'
    # 2. 若根节点无 dir,则注入
    if is_rtl and '<html' in html and 'dir=' not in html.split('<html')[1].split('>')[0]:
        html = html.replace('<html', '<html dir="rtl"', 1)
    return html

在大模型推理服务中,把该函数注册为Triton 后处理的 postprocess 钩子;若使用vLLM 框架,可在 AsyncLLMEngine 的 generate 回调里追加。整个流程零人工规则,支持持续监控:通过 rtl_inject_total 与 rtl_mismatch_total 两个指标,实时观察注入成功率与浏览器实际渲染是否一致。

拓展思考

  1. 模型端联合训练:在继续预训练(CPT)阶段,把方向标记当成特殊 token <|rtl|> 加入词表,让模型学会在生成 <html 前自动输出该 token;下游用规则映射转成属性,实现端到端无后处理。
  2. 多模态场景:若 HTML 内嵌 SVG 或 Canvas 图表,需同步翻转坐标轴;可在提示工程里增加“如果方向为 RTL,则 x 轴刻度从右到左”的指令,让模型直接生成翻转后的 SVG transform。
  3. 性能极限优化:对千亿并发场景,可把方向检测逻辑写成CUDA kernel,在 GPU 上同批处理 512 条样本,延迟从 2 ms 降到 0.2 ms;同时利用NVIDIA FasterTransformer 的 custom pluggable postprocessor 注册点,实现零拷贝注入。