最近AI大热,相关的研究层出不穷。
你想学习AI吗?但您不知道如何或从哪里开始?
人工智能和深度学习是发展的趋势:
然而对于普遍的非计算机专业的朋友来说,这些技术变得越来越难,越来越不好掌握了!以前我们还能说“站在巨人的肩膀上”,现在回过头来看,人工智能发展得太快,巨人的肩膀也站不住了!
为了逃离铺天盖地的代码copy,你必须亲自动手,从头开始编写算法,实现论文,并使用人工智能解决问题来完成有趣的项目。
首先是代码,然后是理论。建议读者先看代码,后学理论~
我出于需要还是喜欢学习?
如果我要解决某件问题,我会广泛获取所需的信息、研究、理解它,然后采取行动。
例如,我的目标是复现最新的模型(如盘古模型),这涉及到从头开始编写 Transformer 代码以及在 GPU 上微调的技能。我现在做不到这一点,因为在我的知识,我的目标是填补这些空白。
或者你以 NLP 为重点;如果您正在寻找其他人工智能应用,例如计算机视觉或强化学习,可以在公众号下面发表评论或私信我,我会给你一些建议。
另外建议读者定期查看一些相关Kaggle竞赛,这里有下游任务的最新模型与得分;也建议读者注册X账号(Twitter),上面一些深度学习大牛会发布最新资讯;或者关注一些优质公众号。
机器学习在很大程度上依赖于数学的三大支柱:线性代数、微积分、概率和统计学。每个都在使算法有效运行方面发挥着独特的作用。
一般而言,大学学到的高数足够应对了,尤其是考研生。
额外推荐一本线性代数书:Introduction to Linear algebra [Introduction to Linear Algebra by Gilbert Strang.pdf](books/Introduction to Linear Algebra by Gilbert Strang.pdf)
麻省理工学院英文原版教材《线性代数导论》
主要是Python和Pytorch
初学者从这里开始:实用 Python 编程。(https://dabeaz-course.github.io/practical-python/Notes/Contents.html)
书籍的话看这两本:
igure | Name | Web/Book | Description |
---|---|---|---|
蟒蛇书 | Python编程:从入门到实践.pdf | Python编程入门必备 | |
Python Data Science Handbook | Python数据科学手册.pdf | Python数据科学手册(从Numpy到Sklearn) |
如果您已经熟悉 Python,可以学习Python高级编程https://github.com/dabeaz-course/python-mastery?tab=readme-ov-file
建议学习Youtube的Aladdin Persson教程,非常系统,适合初学者,打开字幕几乎无门槛:
https://www.youtube.com/playlist?list=PLhhyoLH6IjfxeoooqP9rhU3HJIAVAJ3Vz
也可以学习官方的Pytorch示例:https://pytorch.org/examples/
书籍学习这一本:
https://www.oreilly.com/library/view/programming-pytorch-for/9781492045342/
一个100 页的机器学习书籍,入门读着玩,顺便学英语。https://themlbook.com/
再学习这个存储库,图文并茂,代码丰富,初学者友好~https://github.com/eriklindernoren/ML-From-Scratch
这个存储库也很棒!https://github.com/trekhleb/homemade-machine-learning
亲身体验数据和模型,这里有一些优秀的资源:
Figure | Name | Web/Book | Description |
---|---|---|---|
Deep Learning From Scratch | 《深度学习入门:基于Python的理论与实现》高清中文版.pdf | 鱼书,深度学习入门必备 |
François Fleuret的UNIGE 14x050 — 深度学习。(每一章都有ppt和免费视频)https://fleuret.org/dlc/
可以打印出来随身看
斯坦福大学的另一门精彩课程,CS 224N |深度学习自然语言处理 https://web.stanford.edu/class/archive/cs/cs224n/cs224n.1234/
youtube的优质免费NLP教程:NLP课程 https://huggingface.co/learn/nlp-course/chapter1/1
使用 Transformers 进行自然语言处理图书:使用 Transformers 进行自然语言处理图书 https://transformersbook.com/
首先,观看 Andrej 的 [ 1 小时演讲] 大型语言模型简介。https://www.youtube.com/watch?v=zjkBMFhNj_g
然后观看“神经网络:从入门到精通它从从头开始解释和编码反向传播开始,到从头开始编写 GPT 结束。
神经网络:从零到精通作者:Andrej Karpathy https://karpathy.ai/zero-to-hero.html
阅读Transformer 系列 2.0 版 | Lil'Log 的概述。https://lilianweng.github.io/posts/2023-01-27-the-transformer-family-v2/
从头开始学习。
论文
博客
视频
您现在可以从头开始编写Transformer代码。但还有更多。
深入视频解释论文,展示了代码。
联系客服