机器学习(ML)和大型语言模型(LLMs)学习路线图
学生应该在微积分、统计学、计量经济学、基本经济理论和任何高级语言(最好是Python)的编程经验方面有扎实的基础。有助于理解优化问题,这是许多机器学习算法的核心,特别是在梯度下降和神经网络。对于理解概率分布、假设检验和推理至关重要,这些是大多数机器学习模型的基础。如果您有兴趣将机器学习技术应用于经济或金融数据,特别有用,因为它提供了分析关系和从数据中得出结论的技能。对于理解影响金融模型的潜在因素非
学生应该在微积分、统计学、计量经济学、基本经济理论和任何高级语言(最好是Python)的编程经验方面有扎实的基础。
微积分有助于理解优化问题,这是许多机器学习算法的核心,特别是在梯度下降和神经网络。统计对于理解概率分布、假设检验和推理至关重要,这些是大多数机器学习模型的基础。如果您有兴趣将机器学习技术应用于经济或金融数据,计量经济学特别有用,因为它提供了分析关系和从数据中得出结论的技能。基础经济理论对于理解影响金融模型的潜在因素非常重要,有助于创建预测性或规范性模型。实现算法和模型需要编程经验,Python是首选,因为它拥有庞大的机器学习和数据分析库生态系统,如NumPy、Pandas、Scikit-Learn、TensorFlow和PyTorch。有了这些先决条件,你就可以开始学习机器学习(ML)和大型语言模型(LLM)。
下面是一个结构化的路线图来指导你的学习之旅:
步骤1: 机器学习基础
- 复习线性代数与概率
学习线性代数(向量、矩阵、运算)和概率论的基础知识。
资源:
-
DeepLearning.AI 推出的 Mathematics for Machine Learning and Data Science 专项课程 Probability & Statistics for Machine Learning and Data Science 虽然口音有点重,但是真的容易理解 https://www.bilibili.com/video/BV1Fo4y1N7AX?p=1&vd_source=e1382be5be85cdcfd0d80d83c7c62002 【搬运自Coursera】
-
Essence of Linear Algebra 非常容易理解的短片系列 https://www.bilibili.com/video/BV1u4411H7Ry/?vd_source=e1382be5be85cdcfd0d80d83c7c62002 【搬运自油管】
-
可汗概率学院:https://www.khanacademy.org/math/statistics-probability
-
线性代数可汗学院:https://www.khanacademy.org/math/linear-algebra
-
Python编程基础
如果你还没有熟悉Python,请熟悉它,因为它广泛用于ML。
关键库:NumPy、Pandas、Matplotlib。
资源:
-
Bill Lubanovic 的《Introducing Python》
-
Python.org教程:https://docs.python.org/3/tutorial/index.html
-
W3School Python教程:https://www.w3schools.com/python/
Python的网上资源非常的多,这里就不一一赘述了。如果需要,请**联系我(**nihe78 # gmail.com)。
- 机器学习导论
-
从基本的机器学习概念开始,如监督学习和无监督学习。
-
了解线性回归、逻辑回归、K近邻和决策树等关键算法。
资源:
-
周志华《机器学习》:这本书是机器学习领域的经典入门教材之一,被称为“西瓜书”。它涵盖了机器学习的基础知识和各种算法,内容全面且易于理解,适合初学者入门。
Github 资源:
https://github.com/datawhalechina/pumpkin-book _开源组织Datawhale将《机器学习》中1-16章节的公式进行了整理,并对难点公式进行了详解和补充,创建了《pumpkin-book》南瓜书项目
_https://github.com/Vay-keen/Machine-learning-learning-notes 周志华《机器学习》的学习笔记,记录了在学习这本书的过程中的理解思路以及一些有助于消化书内容的拓展知识,笔记中参考了许多网上的大牛经典博客以及李航《统计学习》的内容。 -
李航 《统计学习方法》这本书全面系统地介绍了统计学习的主要方法,特别是监督学习方法,包括感知机、k近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与支持向量机、提升方法、EM算法、隐马尔可夫模型和条件随机场等。
Github 资源:https://github.com/zhengjingwei/statistical-learning-method _用python手动实现和sklearn实现《统计学习方法》中所提到的算法。_https://github.com/datawhalechina/statistical-learning-method-solutions-manual 完成了《统计学习方法》的所有习题解答,并提供Python代码和运行截图。内容包括感知机、K近邻法、朴素贝叶斯法、决策树、逻辑斯蒂回归与最大熵模型、支持向量机、提升方法、EM算法、隐马尔可夫模型、条件随机场等章节的习题解答。
- https://github.com/WenDesi/lihang_book_algorithm 致力于将《统计学习方法》一书中所有算法实现一遍。提供了详细的代码示例和注释,帮助读者理解和实现书中的算法 -
吴恩达的Coursera ML课程:https://www.coursera.org/learn/machine-learning
-
Scikit学习用户指南:https://scikit-learn.org/stable/user_guide.html
4. 练习机器学习模型
-
练习使用Scikit-Learn构建简单模型。
-
使用Kaggle或UCI机器学习库中的数据集来实现您的模型。
步骤2: 中级机器学习技术
- 深度学习基础
-
了解神经网络、激活函数、损失函数和优化器。
-
了解反向传播和梯度下降的基础知识。
资源:
-
Ian Goodfellow, Yoshua Bengio, and Aaron Courville《Deep Learning》这本书是深度学习领域的经典著作,被称为“深度学习AI圣经”。它涵盖了深度学习的概念、方法以及工业界实践应用,适合对深度学习感兴趣的读者深入学习。
-
Christopher Bishop《Pattern Recognition and Machine Learning》比较老,但是非常经典的读物,相对《Deep Learning》容易理解一些。
-
深度学习 Coursera 课程:https://www.coursera.org/specializations/deep-learning
-
TensorFlow.org教程:https://www.tensorflow.org/tutorials
2. 深度学习框架
-
获得TensorFlow和PyTorch的实践经验。
-
从构建用于分类和回归任务的简单神经网络开始。
3. 评估指标和模型调整
-
了解评估指标,如准确性、精确度、召回率、F1评分、ROC曲线和AUC。
-
练习超参数调整、正则化和模型选择。
步骤3: NLP和大语言模型(LLMs)
- 自然语言处理(NLP)基础
-
了解Tokenization、Embedding、Indexing等技术。
-
理解RAG技术,了解如何从Huggingface调用大语言模型。
资源:
-
HuggingFace上的资源 https://huggingface.co/learn/nlp-course/
-
Jurafsky和Martin的《Speech and Language Processing》https://web.stanford.edu/~jurafsky/slp3/ 第三版的电子资源
-
Delip Rao和Brian McMahan的 “Natural Language Processing with PyTorch”
-
斯坦福NLP课程:https://web.stanford.edu/class/cs224n/
2. Transformers和LLM
-
了解构成LLM基础的Transformer架构。
-
研究注意力机制、序列到序列模型和自我注意力。
资源:
-
《Transformer》:https://jalammar.github.io/illustrated-transformer/
-
“Attention is All You Need”论文:https://arxiv.org/abs/1706.03762
-
HuggingFace Transformers概述:https://huggingface.co/transformers/
-
LLM实践
-
学习使用预训练的LLM,如GPT、BERT,并针对特定任务对其进行微调。
-
框架:HuggingFace Transformers,用于实现最先进的NLP模型。
-
使用HuggingFace练习文本分类、摘要和生成。
步骤5: 应用和实践
- 构建机器学习项目
-
实施各种机器学习项目,如股价预测、情绪分析和推荐系统。
-
将计量经济学知识应用于机器学习模型,以解决金融相关问题。
- 微调LLMs
-
承担涉及聊天机器人、摘要工具或使用LLM进行语言翻译的项目。
-
练习使用不同的数据集,如财务报告、社交媒体数据或其他特定领域的文本,为自定义应用程序微调LLM。
- 强化学习
-
学习强化学习(如Bandit learning, Q-learning)和对抗模型(GAN)的基础知识。
-
探索这些在金融中的应用,如算法交易。
- 研究论文和实践经验
-
开始阅读相关的研究论文,了解最新进展。
-
实施和实验论文中的模型,以亲身了解前沿研究。
建议时间表
-
第1-3个月:基础和Python基础。
-
4-6个月:中级机器学习,从深度学习开始。
-
第7-9个月:NLP和LLMs。
-
第10-12个月:应用和竞赛。
推荐工具
-
VS Code或Jupyter Notebook用于实验。
-
Huggingface适合LLMs。
-
Scikit learn,TensorFlow,PyTorch用于ML。
如何学习AI大模型 ?
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓
CSDN粉丝独家福利
这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以点击下方CSDN官方认证链接免费领取 【保证100%免费】
读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈
对于0基础小白入门:
如果你是零基础小白,想快速入门大模型是可以考虑的。
一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。
👉1.大模型入门学习思维导图👈
要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。
对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
👉2.AGI大模型配套视频👈
很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
👉3.大模型实际应用报告合集👈
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)
👉4.大模型落地应用案例PPT👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(全套教程文末领取哈)
👉5.大模型经典学习电子书👈
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
👉6.大模型面试题&答案👈
截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习
CSDN粉丝独家福利
这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以点击下方CSDN官方认证链接免费领取 【保证100%免费】
读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈
最后,感谢每一个认真阅读我文章的人,礼尚往来总是要有的,下面资料虽然不是什么很值钱的东西,如果你用得到的话可以直接拿走:
更多推荐
所有评论(0)