机器学习

机器学习是从有限的观测数据中学习（或“猜测”）出具有一般性的规律，并可以将总结出来的规律推广应用到未观测样本，包含三个基本要素：模型、学习准则、优化算法。

整体流程

问题建模：数据 + 算力 + 算法

1. 明确问题，着眼大局

2. 获取数据

3. 探索数据以获得洞察力

4. 面向机器学习准备数据

5. 选择和训练模型

6. 微调模型

7. 展现解决方案

8. 启动、监控、维护系统

经典模型

• 线性回归

• 支持向量机

• 决策树

• 随机森林

• K-Means

深度学习

• 前馈神经网络

• 卷积神经网络

• 循环神经网络

• 生成模型

• 注意力机制

强化学习

• 值函数

• 策略函数

应用

• 推荐系统：召回 -> 粗排 -> 精排 -> 重排

• 自然语言处理：Encoder-Only(BERT) vs Decoder-Only(GPT)

• 大模型应用：Langchain