Sample 24 fall

1. D

2. B

3. B

   1. A, acc是正确率

4. B

5. BC

   A 选项错误： $k=1$ 时，模型对每一个邻居都极其敏感。如果数据中存在一个噪点（例如，在一个全是“红色”的区域混入了一个“蓝色”点），$k=1$ 会直接把该噪点周围预测为蓝色，因此它处理噪声的能力很差。

   B 选项正确： 这正是**过拟合（Overfitting）**的典型特征。模型试图“记住”每一个数据点（包括噪声和离群值），导致决策边界变得非常复杂、支离破碎。

   C 选项错误： $k=1$ 反而增加了模型的容量（Capacity）。在 KNN 中，$k$ 越小，模型越能拟合复杂的函数形状；$k$ 越大，模型越简单（$k=N$ 时，模型只会预测出现次数最多的类）。

   D 选项错误： KNN 并不自带免疫类别不平衡的功能。如果背景类样本极多，小 $k$ 依然可能受到局部密度分布的影响。

6. B

   1. BD，The training dataset is perfectly separable (数据集完美可分)。这是一个逻辑回归特有的“陷阱”，很多初学者会忽视。

7. a

   1. bias+, var-
   2. 9 这个不会考PCA，因为没讲到，但是bias and variance会考，很重要

24

Skip: 9, 11, 12

10, 13

Skip: kNN and decision tree, jiatao will cover

25: 10, 11

7, 8, 9

7 不考，因为课上没讲到gain ratio

information gain讲到了

11