ML介绍

ML

各种素材

分类

按目的分

• 回归
• 分类
• 聚类

按学习方法分

• 监督
• 非监督
• 强化学习
• 交互学习
• 迁移学习

模型大类

• 决策树（数据挖掘）
• 神经网络（对象识别，语音识别，翻译）
• SVM（数据挖掘）
• 概率图（语音识别，翻译）
• 聚类（数据挖掘）
• 协同过滤（推荐）
• word2vec（文本分析）
• ...

优化算法

• BP
• Adam
• ReLU
• ....

概念

- 模型
- 模型参数
- 模型超参数
- 训练集
- 验证集
- 测试集
- 测准率
- 召回率
- F1
- 欠拟合
- 过拟合

学习理论

• When学习算法能学到东西
• Why学习算法能学到东西
• How学习算法能学到东西

过程

连接主义模型

1. 确定目标
    1. 定性目标
    2. 定量指标
2. 收集数据
3. 建立模型
    1. 特征工程
        1. 数据格式化
        3. 特征提取(regularization， PLA)
    2. 选择算法模型组合
4. 训练模型
    1. 配置超参数
    2. 用模型参数得到得到error_train, error_validate
    3. 根据误差率决定下一步:
        1. 如果误差率还有改进空间, 调整模型超参数, 跑4.2
        2. 如果误差率没有改进空间, 则下一步
    4. 则计算error_test
        1. 如果足够理想, 则固化模型参数用于生产环境.
        2. 如果不够理想, 则调整模型, 重新跑3
5. 模型预测
    1. 部署模型
    2. 跟踪效果(误差率)

无监督学习模型

。。。

算法框架

• Torch
• Tensorflow
• Caffe
• Theano
• ...

实例

线性回归模型

• 模型介绍
• tensorflow的线性回归模型实现
  
  • 低层API实现
  • learn contrib实现
  • 封装自己的contrib

ANN模型

。。。

SVM模型

。。。

决策树模型

。。。