ESL开篇

ESL

1.统计学习的应用

应用范围：科学、经济、工业、医疗等。
举例：

• 基于人口学学、临床检测的数据，预测因心脏病发作入院的病人，是否会有复发可能；
• 基于公司状况和经济学数据，预测从现在起6个月后，股票的价格；
• 从数字图像中，识别邮编的手写数字；
• 从病人血液的红外吸收光谱，预测糖尿病人血糖的含量；
• 基于临床和人口学特征，找出前列腺癌的风险因素。

2.典型例子

2.1 垃圾邮件问题

根据邮件中词汇所占的比例，预测邮件是否为垃圾邮件。

2.2 前列腺癌

书中数据做了一个散点图矩阵，一开始没看懂，后来查资料，再结合图中的描述，终于知道是怎么看。水平和垂直方向交叉的图代表该行和该列的两个量构成的散点图，清晰明了，可以将高维数据两两结合可视化。
基于临床数据，预测某个指标的值，属于回归问题。

2.3 手写数字识别

根据一个0~255像素值构成的16×16的图像，判断图像代表的数字。

2.4 DNA表达微阵列数据

较为复杂，没往下看书中描述的内容，但ML用于DNA微阵列芯片数据越来越常见。

3. 本书适应人群范围

统计、人工智能、工程、经济及其他领域的研究人员和学生。
本书是一本引导性质的书，相比数学细节更侧重概念。

4. 组织结构

• 第2章，监督学习的概览；
• 第3~4章，线性回归和分类；
• 第5章，线性模型中的样条、小波、正则化/惩罚项（调参技巧所需的概念）
• 第6章，核函数和局部回归；
• 第7章，模型评估和选择（bias,variance,overfitting, c-v）；
• 第8章，模型推导和平滑，最大似然，贝叶斯推导，bootstrap, EM, 吉布斯采样，bagging
• 9~13章，一系列监督学习的结构化方法？9和11章，回归；12~13分类。
• 14章，无监督学习。
• 15~16，随机森林和集成学习。
• 17章，无向图模型。
• 18章，高维问题。