机器学习的学习路线

一、学习方法：

1、从编码实例入手，不要从理论学习入手。这是最高效方法。

2、编码中遇到的数学问题，一定要理解背后的原理，数学公式要会自己推导。

3、由易入难。（花书《深度学习》名气很大，但对大部分人而言是噩梦）

4、一定要动手写代码。

二、数学基础：

1、范围：高等数学、线性代数、概率论和数理统计

（1）高等数学：主要是微积分。

（2）线性代数：主要是矩阵。如果对内积、特征值、奇异值分解（SDV）等概念真正理解，线性代数基本够用。

（3）概率论和数理统计：主要是正态分布、方差、贝叶斯概率等。

2、材料：教材很多，根据个人情况而选择，理解概念很重要。（看不懂，教材再有名也没有用）

三、编程基础：

1、编程语言和工具包：Python、numpy、pandas、Matplotlib、Scikit-learn等

2、操作系统：对Linux至少达到会用的水平。（写代码可以在Windows环境，但是商用公司不会用windows作为生产环境）Linux有多种发行版，Ubuntu、CentOS等都差不多。

3、编程IDE：推荐Jupyter，大型项目用Pycharm。

4、能力提升：有追求的同学建议学习编程规范、设计模式、持续交付等软件工程相关知识。

四、学习内容：

1、机器学习分类：传统机器学习、深度学习、强化学习（虽然不准确，但是大致如此）。

（1）传统机器学习：数据分析和挖掘、各种经典算法，包括：k-近邻算法、决策树、支持向量机、K-均值聚类算法、PCA、SDV等。

（2）深度学习：利用深度神经网络的机器学习，包括CNN、RNN等。

（3）强化学习：强化学习也会用到深度神经网络，但是面对的问题性和解决方法不同。

说明：各种书籍、教材、公开课实际上都会涉及上面三个内容，但是侧重不同。一般以”深度学习“冠名的材料，多数以第二条为主要内容。

2、应用领域分类：自然语言处理NLP、计算机视觉CV、推荐系统、知识图谱、风控模型、机器人控制等。

五、学习课程：

1、机器学习公开课：吴恩达《Machine Learning》

说明：吴恩达在斯坦福教授的机器学习课程 CS229 与 吴恩达在 Coursera 上的《Machine Learning》相似。

原课程主页：https://www.coursera.org/learn/machine-learning

有课程搬运网址，推荐：https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes

2、机器学习公开课：林轩田《机器学习技法》和《机器学习技法》

3、深度学习公开课：吴恩达《Deep Learning》

4、深度学习公开课：Fast.ai《程序员深度学习实战》

5、强化学习公开课：Reinforcement Learning-David Silver

6、强化学习公开课：李宏毅《深度强化学习》

7、美国高校课程：斯坦福大学，CS231n: Convolutional Neural Networks for Visual Recognition，李飞飞等主讲

以上课程网上都可以搜到，国内有很多搬运网址（视频可以到B站找）。

六、工具框架

1、TensorFlow （深度学习的不二之选）

2、PyTorch

3、其他：学习过程中会遇到很多工具包或者库，用的时候再学也不迟。

七、学习书籍

1、《Python机器学习手册》，实战类，主要内容是数据处理，涉及机器学习的基本功。

2、《机器学习实战》（英文：Machine Learning in Action），实战类，主要内容是传统机器学习经典算法（不涉及神经网络），有代码。

3、《Scikit-Learn 与 TensorFlow 机器学习实用指南》，实战类，主要内容是深度学习。

4、周志华的《机器学习》，俗称“西瓜书”，算法类，广受推荐。点评：经典，不适合入门，适合中阶读者。

5、李航《统计学习方法》，算法类，广受推荐。点评：经典，不适合入门，适合中阶读者。

6、由全球知名的三位专家IanGoodfellow、YoshuaBengio和AaronCourville撰写《深度学习》，俗称”花书“，在世界范围名气很大。点评：只适合高阶读者，对于初学者而言就是一本”劝退书“。建议把这种书作为机器学习的”考试大纲“，而不是课本。

7、复旦教授邱锡鹏开源发布《神经网络与深度学习》，点评：讲述算法原理，良心出品。

8、《Reinforcement Learning_ An Introduction, 2nd Edition 》，点评：强化学习的经典书籍，国内强化学习材料多以此书为基础。

9、王树森的《深度强化学习》（有中英文）

说明：选书一要看口碑和评价，受众少被关注低的书少碰；二看是否适合自己，难度要适中。

六、学习圈子

在一个领域学习，一定要有名师指导，如果没有就多交朋友（交靠谱的朋友），多进入社区论坛（所谓的”圈子“）。要了解这个领域的动态，了解大家在关注和谈论什么。

1、论文网站：

（1）前沿Paper网站Arxiv：可以免费下载PDF论文

机器学习最新论文检索地址： https://arxiv.org/list/stat.ML/recent?ref=bestofml.com

（2）Papers with Code：可以找到论文的相关代码

这个网站叫做 Browse state-of-the-art。它将 ArXiv 上的最新深度学习论文与 GitHub 上的开源代码联系起来。是一个寻找论文和代码的利器。

主页地址： https://paperswithcode.com/sota

Github项目地址：github.com/zziz/pwc

2、参加比赛：Kaggle

3、知名会议：

即使参加不了会议，可以关注一下会议动态和最终论文。
通用领域会议：NeurIPS、ICML、ICLR、AAAI、IJCAI、UAI
计算机视觉会议：CVPR、ECCV、ICCV
自然语言处理会议：ACL、EMNLP、NAACL
知名期刊: JAIR、JMLR
机器人： CoRL、ICAPS、ICRA、IROS、RSS

4、知名博主和公众号：

黄海广博士、Datawhale，AI有道、ApacheCN等。

5、关注业界AI顶级实验室动态：

（1）DeepMind：目前属于谷歌，其最著名作品是AlphaGo

（2）OpenAI：由马斯克等人出资创立，其最著名作品是GPT-3

（3）FAIR： facebook旗下