# 测验：牛顿法与优化进阶

共 30 题

1. 优化问题里，牛顿法本质上是在求什么的根？
A. $f(x)=0$ B. $f'(x)=0$ C. $f''(x)=0$ D. 积分=0

2. 一维优化牛顿法的迭代公式是?
A. $x_{n+1}=x_{n}-f(x_{n})/f'(x_{n})$ B. $x_{n+1}=x_{n}-f'(x_{n})/f''(x_{n})$ C. $x_{n+1}=x_{n}-\eta f'(x_{n})$ D. $x_{n+1}=x_{n}+f'(x_{n})/f''(x_{n})$

3. 多维优化牛顿法写作 $x \leftarrow x - H^{-1} \cdot$ 梯度， $H$ 是什么？A. 雅可比矩阵B. Hessian（二阶偏导矩阵）C. 协方差矩阵D. 单位矩阵

4. 对二次函数 $f(x) = (x - 3)^2 + 1$ ，从 $x_0 = 0$ 出发，牛顿法几步到最小值？A. 1步B. 约20步C. 不收敛D. 取决于学习率

5. 梯度下降是一阶方法，牛顿法是？
A. 零阶（只用 f）
B. 一阶
C. 二阶（用到 Hessian）
D. 三阶

6. 牛顿法在根（或非退化极小）附近的局部收敛速度是？A. 线性B. 二阶（误差近似平方）

C. 永不收敛  
D. 与 $\eta$ 相同

7. Hessian 正定，对应驻点的几何是？
A. 局部极小（碗）
B. 局部极大（倒碗）
C. 鞍点（马鞍）
D. 无法判断

8. Hessian 有正有负特征值时，驻点是？
A. 全局最小
B. 鞍点
C. 一定发散
D. 一定是极大

9. $f(x, y) = x^{2} - y^{2}$ 在原点处，牛顿法一步会到哪里？A. 某个极小值B. 原点（鞍点）C. 无穷远D. 随机

10. 同一函数上，梯度下降从鞍点附近出发通常会怎样？
A. 同样停在鞍点
B. 沿负曲率方向滑走
C. 一定到全局最小
D. 立刻发散到 NaN

11. 病态山谷（狭长等高线）里，梯度下降常见现象是？
A. 一步到位
B. 之字形振荡
C. 自动选对学习率
D. 不需要迭代

12. 精确牛顿法（α=1）对线性坐标缩放为什么相对不敏感？
A. 它不用导数
B. Hessian 把各方向曲率编进步长

C. 随机性抵消缩放  
D. 只用到符号

13. 阻尼牛顿与纯牛顿的差别是?
A. 不用 Hessian
B. 步长 $\alpha \leqslant 1$ ，可能缩小牛顿步
C. 改成随机梯度
D. 只用一阶

14. Levenberg-Marquardt 在 H 上加 $\lambda I$ 的作用是？A. 把牛顿和梯度下降连起来B. 计算特征值C. 做正则化分类D. 替代损失

15. 拟牛顿（如 BFGS）的核心想法是？
A. 随机丢弃梯度
B. 不真算 Hessian，用梯度差估曲率
C. 只做坐标下降
D. 改用积分

16. 一维拟牛顿对应的古典方法是?
A. 二分法
B. 割线法（用差商代 f'）
C. 蒙特卡洛
D. FFT

17. L-BFGS 相对 BFGS 主要省了什么?
A. 省梯度
B. 不存 $n \times n$ 矩阵，只记最近 m 对向量
C. 省掉线搜索
D. 变成一阶

18. 深度学习训练很少用纯牛顿法，首要原因是？A. 牛顿法数学错误B. Hessian 太大，存/求逆代价过高

C. 牛顿法不能并行
D. GPU 不支持二阶导

19. Adam 算二阶优化方法吗？
A. 算，因为它用了二阶矩
B. 不算，没有 Hessian，仍是自适应一阶
C. 算，等价于 BFGS
D. 不算，它是零阶

20. BFGS 四个字母来自？
A. 四个超参数
B. 四位提出者的姓氏首字母
C. 矩阵分解步骤
D. 贝叶斯公式

21. 牛顿步里若某步 $f''(x_n) = 0$ ，正确处理是？A.除以0继续B.改用梯度步或 $H + \lambda I$ C.立刻判定已收敛D.把学习率乘10

22. $f(x) = x^4 / 4 - x^2 / 2$ 的驻点中， $x = 0$ 是？
A. 全局最小
B. 局部极大
C. 不是驻点
D. 鞍点且 $f' > 0$

23. 从 $x_0 = 0.1$ 对上题做牛顿法，更可能冲向？A. $x = 1$ B. $x = 0$ （极大）C. $x = 100$ D. 随机

24. sklearn 逻辑回归 solver='lbfgs' 属于?
A. 纯 SGD
B. 有限内存拟牛顿

C. 牛顿-共轭梯度的别名
D. 遗传算法

25. 牛顿每一步都要解 $H \mathrm{d} = -$ 梯度。这和后面哪一课直接衔接？A. 排列组合B. 线性方程组与高斯消元C. 贝叶斯D. 图论

26. 「二次收敛」的直观理解，哪句正确？
A. 每步误差减半
B. 误差大约变成上次误差的平方
C. 步数必须是 2 的幂
D. 学习率必须是 0.2

27. 为什么 mini-batch 训练更不适合精确牛顿?
A. batch 没有梯度
B. 噪声梯度让 Hessian 估计更不稳定
C. batch 一定非凸
D. GPU 算不了矩阵

28. 拟牛顿要求近似矩阵 B 尽量保持正定，是为了？
A. 让步长必须为 1
B. 保证搜索方向是下降方向
C. 让特征值全为负
D. 减少内存

29. 相机标定、Bundle Adjustment 里常用的高斯牛顿 / LM，本质是？
A. 随机搜索
B. 最小二乘上的牛顿类方法
C. 纯 Adam
D. 离散枚举

30. 下列哪句概括今天最准确？
A. 牛顿法已过时，不必学
B. 牛顿用法是曲率；问题太大就估曲率或退回一阶

C.所有机器学习都必须用牛顿D.Hessian正定等于全局最优