Transformer

题库介绍

Transformer 是一种基于自注意力机制（Self-Attention）的深度学习模型架构，由 Vaswani 等人在 2017 年提出，彻底颠覆了传统 RNN/CNN 序列建模方式。它通过 Multi-Head Attention、位置编码与并行化训练，实现长距离依赖捕捉与高效 GPU 加速，成为 NLP、CV、语音等多模态任务的事实标准，并衍生出 BERT、GPT、T5 等预训练大模型家族。

基本信息

题目数

300

更新时间

2025-09-22

问题目录

算法工程师-基础模型理解

预训练算法工程师-BERT 系列

大模型算法工程师-GPT 系列

多模态算法工程师-Vision Transformer

语音算法工程师-TransformerASR

图神经网络算法工程师-Graph Transformer

强化学习算法工程师-Decision Transformer

知识蒸馏算法工程师-Teacher-Student Transformer

边缘计算算法工程师-Mobile Transformer

高性能计算工程师-Transformer 并行训练

分布式推理工程师-Transformer 服务化

模型压缩工程师-剪枝与稀疏 Transformer

安全算法工程师-Transformer 对抗攻防

可解释性算法工程师-Transformer 可视化

多语言算法工程师-mBERT & XLM

时间序列算法工程师-Informer/Non-stationary Transformer

生物信息算法工程师-DNA/Protein Transformer

检索增强算法工程师-RAG & RETRO

AI 框架开发工程师-Transformer 编译优化