1. 面试官：如何解释Transformer的自注意力机制？

2. 面试官：你能详细说明Transformer的编码器和解码器结构吗？

3. 面试官：Transformer中的注意力头数是如何影响模型性能的？

4. 面试官：Transformer中的位置编码是如何工作的？

5. 面试官：Transformer模型中的残差连接有什么作用？

6. 面试官：你能解释Transformer模型的softmax与位置编码之间的关系吗？

7. 面试官：Transformer模型中的Layer Normalization和Batch Normalization有何异同？

8. 面试官：Transformer中的位置编码方式有哪些，它们之间的区别是什么？

9. 面试官：Transformer模型中的GELU激活函数是如何工作的？

10. 面试官：Transformer中的Masked Self-Attention是如何实现的？