OpenAI GPT-4o,Google Gemini,Meta Llama3…

无论闭源还是开源,大模型技术的发展今年是你方唱罢我登场,而且迭代速度飞快,在短短一年间就有了大幅度的技术迭代更新,LoRA、模型压缩、QLoRA、DeepSpeed、Megatron-LM、Flash Attention、RLHF、DPO等等,几乎每天都有新的发展。

我们总结了算法工程师需要掌握的大模型微调技能,并制作了大模型微调技能图谱,希望可以帮助大家将知识体系梳理清楚,为未来在大模型的工作与科研道路上节省时间,提高效率!

作为算法工程师,面对如此庞大又在飞速迭代的大模型技术体系,您是否有感觉自己的学习步伐有点跟不上技术的发展?或者对这些新兴技术的理解仅仅停留在应用层面上,实际上对背后的原理并没有深入剖析过?如果您希望在大模型赛道上持续保持竞争壁垒,对技术本身的深入理解是很必要的选项。

鉴于这类痛点,并迎合技术的发展,贪心科技推出《大模型微调应用实战营》,通过3个月的时间,全面掌握以上图谱中列出的知识技术以及背后的精髓,帮大家大大节省学习成本。

详细大纲

第一阶段:大模型基础

第一章:开营典礼

  • 课程介绍与目标

  • 学习安排与课程结构

  • 学员参与要求

  • 课程项目与技术概览

  • 推荐工具和开源资源

第二章:大模型是怎么炼成的

  • 大模型的概念与历史发展

  • 关键技术和算法基础

  • 数据准备与预处理

  • 预训练、指令微调、对齐

  • 模型评估以及能力分析

第三章:微调的应用场景

  • 微调与全量训练的区别

  • 微调在不同领域的应用案例

  • 选择微调任务和数据

  • 微调的效果评估方法

  • 微调项目的规划与管理

第四章:大模型基座-理解Transformer

  • Transformer模型的基础架构

  • Self-Attention机制的工作原理

  • Transformer在NLP任务中的应用

  • Transformer模型的变种与发展

  • 使用Transformer模型的实用技巧

  • Encoder和Decoder介绍

第五章:开源模型类别以及汇总

  • 常见的中英开源大模型介绍

  • 模型选择标准与评估

  • 开源模型的获取与使用

  • 社区支持与资源分享

  • 开源大模型发展方向

第六章:【项目实战1】开源大模型以及部署

  • Huggingface介绍

  • 本地下载开源模型

  • 理解HF相应的库以及导入大模型

  • 模型封装以及部署

  • 性能优化与成本控制

第二阶段:大模型指令微调

第七章:指令微调基础

  • 指令微调的概念与应用价值

  • 指令集设计与实现

  • 微调流程与实践技巧

  • 性能评估与优化策略

  • 指令微调的挑战与解决方案

第八章:LoRA参数微调

  • LoRA微调的方法

  • 实施LoRA微调的步骤

  • LoRA微调在实际项目中的应用

  • 性能评估与调优技巧

  • LoRA微调的局限与未来展望

第九章:【项目实战2】LoRA微调Alpaca项目

  • Alpaca项目介绍

  • 指令数据的理解

  • LoRA微调的实施与调优

  • 项目评估与效果分析

  • 经验总结与案例分享

第十章:模型压缩

  • 为什么需要大模型压缩

  • 模型压缩的方法与技术

  • 压缩对模型性能的影响

  • 压缩模型的常见方法

  • 模型服务化的最佳实践

第十一章:QLoRA参数微调

  • QLoRA微调技术介绍

  • 微调策略与实施过程

  • 应用QLoRA的案例

  • QLoRA微调的性能调优

  • 面临的问题与解决方法

**第十二章:****【项目实战3】**QLoRA参数微调智能客服项目

  • 设计QLoRA微调方案

  • 准备数据与环境配置

  • 开源模型选择

  • 执行微调与性能监控

  • 项目经验分享与讨论

第十三章:DeepSpeed训练框架解析

  • DeepSpeed框架概述

  • 配置与环境搭建

  • 在大模型训练中使用DeepSpeed

  • 分布式训练介绍

  • 框架背后技术实现

  • DeepSpeed参数理解

  • 实战案例与经验分享

第十四章:Megatron-LM训练框架解析

  • Megatron-LM框架介绍

  • 框架安装与配置指南

  • 应用Megatron-LM进行模型训练

  • 框架背后技术实现

  • Megatron-LM参数理解

  • 实战案例与经验分享

第十五章:Flash Attention技术应用

  • 为什么需要Flash Attention

  • GPU计算背景知识

  • Flash Attention技术背后

  • 在大模型中应用Flash Attention

  • 实际部署与应用案例

第十六章:微调模型Benchmark

  • 微调模型性能测试的重要性

  • Benchmark工具与方法介绍

  • 执行Benchmark的步骤与技巧

  • 结果分析与解读

  • Benchmark设计与业务场景

第十七章:【项目实战4】微调QLoRA+Flash Attention

  • 结合QLoRA和Flash Attention的策略

  • 微调与部署的一体化流程

  • 项目实施的关键步骤

  • 成果评估与性能优化

  • 经验分享与问题解决

第三阶段:常用的开源模型微调

第十八章:开源模型家族以及类别

  • 开源模型的概述

  • 常见的开源模型分类

  • 选择开源模型的考量因素

  • 开源模型的获取和使用指南

  • 维护和贡献开源模型的最佳实践

第十九章:ChatGLM开源模型家族和应用

  • ChatGLM模型家族介绍

  • ChatGLM1到ChatGLM3迭代

  • ChatGLM的私有化部署

  • ChatGLM的特色

  • 微调ChatGLM模型的步骤和技巧

  • 微调案例分享

**第二十章:****【项目实战5】**ChatGLM微调医疗模型

  • 理解需求以及技术方案设计

  • 医疗指令数据的搜集

  • 医疗Benchmark的获取和整理

  • 微调ChatGLM+LoRA模型

  • 微调案例分享

第二十一章:Qwen和YI开源模型家族和应用

  • Qwen和YI模型家族概述

  • 两个模型家族的迭代

  • Qwen和YI大模型的私有化部署

  • 两个大模型家族的特色

  • 微调Qwen和YI模型的实践指南

  • 微调案例分享

第二十二章:LLaMA开源模型家族和应用

  • LLaMA模型家族特点

  • LLaMA大模型的迭代和架构变化

  • LLaMA大模型的私有化部署

  • 微调LLaMA模型的方法和建议

  • LLaMA模型微调的案例分析

  • 微调案例分享

第二十三章:Mistral和Phi开源模型家族和应用

  • Mistral和Phi模型家族简介

  • Mistral和Phi在多语言中的应用

  • 两大模型家族的特色

  • 量大模型家族的私有化部署

  • 微调Mistral和Phi模型的流程

  • 微调案例分享

第二十四章:MoE模型特点以及应用

  • MoE(Mixture of Experts)模型概念

  • MoE模型在大规模数据处理中的优势

  • 微调MoE模型的关键点

  • MoE模型的应用案例

  • MoE模型的扩展性和可维护性问题

  • Mistral 8x7b

  • 微调案例分享

**第二十五章:****【项目实战6】**Mistra 8x7B微调智能客服模型

  • 理解需求以及技术方案设计

  • 智能客服指令数据收集

  • Benchmark的获取和整理

  • 微调Mistra 8x7b+QLoRA模型

  • 模型评估以及验收报告制作

第二十六章:其他开源模型以及应用

  • Baichuan中文大模型

  • Falcon模型家族

  • Bloom模型介绍

  • 不同领域开源模型的应用实例

  • 微调这些开源模型的技术指导

第二十七章:开源模型特色以及选择

  • 评估开源模型的关键标准

  • 匹配项目需求和模型特性

  • 实践中选择开源模型的经验分享

  • 开源模型使用中的常见陷阱

  • 社区和资源的重要性

第四阶段:大模型对齐

第二十八章:大模型对齐基础

  • 大模型对齐的重要性和应用场景

  • 基本对齐技术和方法概述

  • 对齐过程中的数据处理和预处理

  • 模型对齐的评估指标

  • 大模型对齐的挑战和策略

第二十九章:用于对齐的开源数据

  • 开源数据集的重要性和来源

  • 选择和处理对齐用的开源数据

  • 开源数据在模型对齐中的应用

  • 数据隐私和伦理考量

  • 维护和更新开源数据集

第三十章:RLHF技术和应用

  • RLHF(强化学习从人类反馈)技术介绍

  • RLHF在模型对齐中的应用案例

  • 实施RLHF技术的步骤

  • RLHF技术的效果评估

  • 解决RLHF应用中的问题

  • RLHF实战案例分析

第三十一章:DPO技术和应用

  • DPO(Direct Preference Optimization)概念

  • DPO在优化模型对齐中的作用

  • 实现DPO的关键技术点

  • DPO应用的案例和效果分析

  • DPO技术的挑战和前景

  • DPO实战案例分享

**第三十二章:****【项目实战7】**RLHF推荐模型对齐项目

  • 需求分析以及技术方案设计

  • 数据收集和预处理

  • 训练Reward Model

  • 训练RLHF完整微调

  • 项目的评估和优化

**第三十三章:****【项目实战8】**DPO推荐模型对齐项目

  • 需求分析以及技术方案设计

  • 对齐数据的准备和处理

  • 执行DPO模型对齐流程

  • 对齐效果的评估和调整

  • 项目中遇到的挑战

第三十四章:讨论大模型对齐

  • 当前大模型对齐技术的发展趋势

  • 模型对齐在大模型中的真正价值

  • 对齐在工程上挑战

  • 模型对齐技术的伦理和社会影响

  • 资源推荐和学习路径

第五阶段:垂直领域大模型应用

第三十五章:垂直领域大模型微调基础

  • 垂直领域的研发符合中国现状

  • 垂直领域大模型研发pipeline

  • 微调大模型的基本方法和流程

  • 选择合适的微调策略

  • 微调中的性能优化技巧

  • 微调项目的评估和调整

第三十六章:医疗领域大模型微调

  • 智能问诊领域的应用场景和需求

  • 大模型能力维度设计

  • 领域内benchmark设计

  • 快速测试开源模型能力并选择合适的模型

  • 微调模型以适应医疗数据

  • 模型部署以及RAG设计

第三十七章:金融领域大模型微调

  • 金融领域通用大模型需求分析

  • 金融领域大模型benchmark

  • XuanYuan开源项目剖析

  • 金融领域大模型案例解读

  • 微调模型在金融Benchmark上的评估

  • 金融领域中的未来潜在落地场景

第三十八章:教育领域大模型微调

  • 教育领域的大模型应用场景和需求

  • 微调大模型进行个性化学习支持

  • EduChat开源项目剖析

  • 指令数据和对齐数据的整理

  • Benchmark以及大模型评估

  • 教育领域中的未来潜在落地场景

第三十九章:课程总结以及结营

  • 课程学习要点回顾

  • 项目成果分享和评估

  • 学习心得和经验交流

  • 未来发展趋势和学习路径

类别
说明
程形式
线上直播+课程学习群答疑
课程安排
11次直播授课,每周1次,每次3-3.5小时
课程服务
25人以内学习群,助教答疑,保证遇到的问题被快速解决
专属咨询顾问与班主任老师全程伴学
全程直播讲解与演示+可反复观看课程视频

课程PPT举例

项目实战举例

零基础入门AI大模型

今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

有需要的小伙伴,可以点击下方链接免费领取【保证100%免费

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

5.免费获取

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码或者点击以下链接都可以免费领取【保证100%免费】

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

在这里插入图片描述

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐