《统计学习方法》第一版课后习题答案--深度之眼课程

【作业1】
.

【参考文章】https://blog.csdn.net/qq_37098526/article/details/89516974
极大似然估计

贝叶斯估计

【作业2】

1. 思考感知机模型假设空间是什么？模型复杂度体现在哪里？
   

2.已知训练数据集D，其正实例点是x1=(3,3)T,x2=(4,3)T，负实例点是x3=(1,1)T:
(1) 用python 自编程实现感知机模型，对训练数据集进行分类，并对比误分类点选择次序不同对最终结果的影响。可采用函数式编程或面向对象的编程。
(2)试调用sklearn.linear_model 的Perceptron模块，对训练数据集进行分类，并对比不同学习率h对模型学习速度及结果的影响。
【参考文章】https://blog.csdn.net/qq_37098526/article/details/89527432
链接：https://pan.baidu.com/s/16RB9Z6V3sJiqZQvoSFxh1g
提取码：xjua

【作业3】
1.思考k近邻算法的模型复杂度体现在哪里？什么情况下会造成过拟合？打卡进行文字说明。
2.给定一个二维空间的数据集T={正实例：(5,4),(9,6),(4,7)；负实例：(2,3), (8,1),(7,2)}，试基于欧氏距离，找到数据点S（5,3）的最近邻（k=1），并对S点进行分类预测。
(1)用“线性扫描”算法自编程实现。
(2)试调用sklearn.neighbors的KNeighborsClassifier模块，对S点进行分类预测，并对比近邻数k取值不同，对分类预测结果的影响。
(3)思考题：思考“线性扫描”算法和“kd树”算法的时间复杂度。
1）Chap3—k近邻暴力算法优化&kd树实现代码
链接：https://pan.baidu.com/s/1a5ysKpip8YOe__LGTpywDw
提取码：a90s
2）Chap3—KNN自编程KNN-Sklearn代码
链接：https://pan.baidu.com/s/1Susz2S33FNUKvVQ3dIg_dg
提取码：4ibz

【作业4】

链接：https://pan.baidu.com/s/1FTOXeAXWDpvkNQKFFVFWfg
提取码：3gim

【作业5】
1.证明CART剪枝算法中，当α确定时，存在唯一的最小子树Ta使损失函数Cα(T)最小。
2.尝试调用sklearn.tree .DecisionTreeClassifier模块，训练数据集采用课本例题5.1的数据，判断是否应该批准下列人员的贷款申请，打卡代码运行结果的截图。
A={青年，否，是，一般}
B={中年，是，否，好}
C={老年，否，是，一般}

https://pan.baidu.com/s/1QVI_mUIJ1DL1541MWrGm3w
提取码：fmfr
【作业6】
作业6：

1. 已知训练数据集D，其正实例点（Y=1）是x1=(3,3,3)T，x2=(4,3,2)T，x3=(2,1,2)T，负实例点（Y=0）是x4=(1,1,1)T, x5=(-1,0,1)T, x6=(2,-2,1)T。
   (1) 用python 自编程实现逻辑斯缔回归模型，并对点(1,2,-2)T进行分类。
   (2) 试调用sklearn.linear_model 的LogisticRegression模块，对点(1,2,-2)T进行分类，尝试改变参数，选择不同算法，如梯度下降法和拟牛顿法。
   打卡代码运行结果的截图。
   链接：https://pan.baidu.com/s/1di7xWX4Rmq2jw-RnKcee2g
   提取码：yph7

【作业7】

链接：https://pan.baidu.com/s/1vwGHz_7RsiJ6u9bnHhOj-g
提取码：tpj7

【作业8】
作业8：
1.自编程实现课本例题8.1
2.调用sklearn.ensemble.AdaBoostClassifier对例题8.1进行实现
打卡代码运行结果的截图。
作业答案及代码讲解在下周公布，助教会进行视频讲解。
链接：https://pan.baidu.com/s/1PA7Zfgfi8AElDqTjsW3v6w
提取码：uq0k

【作业9】

1. 完成习题9.3：已知观测数据
   -67，-48，6，8，14，16，23，24，28，29，41，49，56，60，75
   试估计两个分量的高斯混合模型的5个参数。
   2.试用自编程的方式求解习题9.3，打卡代码运行结果的截图。

链接：https://pan.baidu.com/s/1_-D83t-7uT7MKNpTdu6tFg
提取码：qjt5

【作业10】

链接：https://pan.baidu.com/s/1kYkT_Ide8ycOODqbT0BqBA
提取码：23g6

【作业11】
作业11：
1.完成习题11.4：
参考下图的状态路径图，假设随机矩阵M1(x)，M2(x)，M3(x)，M4(x)分别是：

求以start=2为起点stop=2为终点的所有路径的状态序列y的概率及概率最大的状态序列。
2.尝试用自编程的方式求解上述问题，打卡代码运行结果的截图。
链接：https://pan.baidu.com/s/1jac4FYP33mai5s19LvgiGg
提取码：28dy
【示例代码】