1. 面试官：请解释神经网络中的激活函数，并举出至少三种常用的激活函数名称。

2. 面试官：假设有一个具有三个输入和两个输出的神经网络，画出其结构并标记输入、隐藏和输出层。

3. 面试官：解释前向传播和反向传播在神经网络中的作用和意义。

4. 面试官：请描述卷积神经网络（CNN）与循环神经网络（RNN）的区别，并举出它们各自适用的场景。

5. 面试官：如果神经网络中的某一层出现梯度消失或梯度爆炸问题，你会采取什么措施来解决？

6. 面试官：详细解释神经网络的损失函数，包括常见的损失函数类型、优化过程和作用。

7. 面试官：在神经网络训练过程中，什么是过拟合，你会采取哪些方法来防止或减轻过拟合？

8. 面试官：在训练神经网络时，学习率对模型训练有着重要的影响，请解释学习率的作用及如何选择合适的学习率。

9. 面试官：解释局部最小值和全局最小值在神经网络优化中的概念，并提出一种方法来避免陷入局部最小值。

10. 面试官：在梯度下降优化中，有哪些不同的变种算法，以及它们相对于标准梯度下降算法的优势和劣势？