大模型应用—超强的AI 视频生成模型!完全免费开源,生成质量极高! (2)
此开源的视频生成模型:包含 PyTorch 模型定义、预训练权重和推理/采样代码。
此开源的视频生成模型:包含 PyTorch 模型定义、预训练权重和推理/采样代码
📜 要求
下表为运行HunyuanVideo模型(batch size = 1)生成视频的要求:
|
模型
|
设置
(高度/宽度/框架)
|
去噪步骤
|
GPU 峰值内存
|
| :-: | :-: | :-: | :-: |
|
混元视频
|
720px1280px129f
|
三十
|
60GB
|
|
混元视频
|
544px960px129f
|
三十
|
45GB
|
-
需要支持 CUDA 的 NVIDIA GPU。
-
我们已经在单个 H800/H20 GPU 上进行了测试。
-
最低限度
:720px1280px129f 所需的最低 GPU 内存为 60GB,544px960px129f 所需的最低 GPU 内存为 45G。
-
建议
:我们建议使用具有 80GB 内存的 GPU 以获得更好的生成质量。
-
-
测试的操作系统:Linux
🛠️ 依赖项和安装
首先通过下方的命令来克隆存储库:
git clone https://github.com/tencent/HunyuanVideo
cd HunyuanVideo
或者网盘打包下载【点击前往】
Linux 安装指南
我们提供了一个environment.yml
用于设置 Conda 环境的文件。Conda 的安装说明可在此处获得。
我们推荐 CUDA 版本 11.8 和 12.0+。
\# 1. Prepare conda environment
conda env create -f environment.yml
\# 2. Activate the environment
conda activate HunyuanVideo
\# 3. Install pip dependencies
python -m pip install -r requirements.txt
\# 4. Install flash attention v2 for acceleration (requires CUDA 11.8 or above)
python -m pip install git+https://github.com/Dao-AILab/flash-attention.git@v2.5.9.post1
此外,HunyuanVideo还提供了预先构建的Docker镜像: docker_hunyuanvideo。
\# 1. Use the following link to download the docker image tar file (For CUDA 12).
wget https://aivideo.hunyuan.tencent.com/download/HunyuanVideo/hunyuan\_video\_cu12.tar
\# 2. Import the docker tar file and show the image meta information (For CUDA 12).
docker load -i hunyuan\_video.tar
docker image ls
\# 3. Run the container based on the image
docker run -itd --gpus all --init --net=host --uts=host --ipc=host --name hunyuanvideo --security-opt=seccomp=unconfined --ulimit=stack=67108864\--ulimit=memlock=\-1\--privileged docker\_image\_tag
🧱 下载预训练模型
下载预训练模型的详细信息显示在此处,或者在HuggingFace上下载:https://huggingface.co/tencent/HunyuanVideo/tree/main共26G左右。
🧱下载文本编码器
HunyuanVideo采用MLLM模型和CLIP模型作为文本编码器。
- MLLM 模型(text_encoder 文件夹)
HunyuanVideo 支持不同的 MLLM(包括 HunyuanMLLM 和开源 MLLM 模型),现阶段我们尚未发布 HunyuanMLLM,建议社区用户使用Xtuer提供的llava-llama-3-8b,可通过以下命令下载
cd HunyuanVideo/ckpts
huggingface-cli download xtuner/llava-llama-3\-8b-v1\_1-transformers --local-dir ./llava-llama-3\-8b-v1\_1-transformers
为了节省模型加载的GPU内存资源,我们将的语言模型部分分离llava-llama-3-8b-v1_1-transformers
成text_encoder
。
cd HunyuanVideo
python hyvideo/utils/preprocess\_text\_encoder\_tokenizer\_utils.py\--input\_dir ckpts/llava-llama-3\-8b-v1\_1-transformers --output\_dir ckpts/text\_encoder
- CLIP 模型(text_encoder_2 文件夹)
我们使用OpenAI提供的CLIP作为另一个文本编码器,社区用户可以通过以下命令下载此模型
cd HunyuanVideo/ckpts
huggingface-cli download openai/clip-vit-large-patch14 --local-dir ./text\_encoder\_2
🔑 推理
我们在下表中列出了我们支持的高度/宽度/框架设置。
|
分辨率
|
时长=9:16
|
高/宽=16:9
|
高/宽=4:3
|
高/宽=3:4
|
高/宽=1:1
|
| :-: | :-: | :-: | :-: | :-: | :-: |
|
540p
|
544px960px129f
|
960px544px129f
|
624px832px129f
|
832px624px129f
|
720px720px129f
|
|
720p(推荐)
|
720px1280px129f
|
1280px720px129f
|
1104px832px129f
|
832px1104px129f
|
960px960px129f
|
使用命令行
cd HunyuanVideo
python3 sample\_video.py\\
\--video-size7201280\\
\--video-length129\\
\--infer-steps50\\
\--prompt"A cat walks on the grass, realistic style."\\
\--flow-reverse \\
\--use-cpu-offload \\
\--save-path ./results
更多配置
我们列出了一些更有用的配置以便于使用:
|
参数
|
默认
|
描述
|
| :-: | :-: | :-: |
| --prompt
|
没有任何
|
视频生成的文字提示
|
| --video-size
|
720 1280
|
生成的视频的大小
|
| --video-length
|
129
|
生成视频的长度
|
| --infer-steps
|
50
|
采样步数
|
| --embedded-cfg-scale
|
6.0
|
嵌入式分类器免费指导量表
|
| --flow-shift
|
7.0
|
流匹配调度程序的移位因子
|
| --flow-reverse
|
错误的
|
如果反向,从 t=1 -> t=0 学习/采样
|
| --seed
|
没有任何
|
生成视频的随机种子,如果没有,我们初始化一个随机种子
|
| --use-cpu-offload
|
错误的
|
使用 CPU 卸载来加载模型以节省更多内存,这对于高分辨率视频生成是必要的
|
| --save-path
|
。/结果
|
生成视频的保存路径
|
免费体验入口
HunyuanVideo 在线使用:【点击前往】
开源项目地址
-
-
GitHub仓库
:https://github.com/Tencent/HunyuanVideo/
-
HuggingFace模型库
:https://huggingface.co/tencent/HunyuanVideo
-
零基础入门AI大模型
今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
有需要的小伙伴,可以点击下方链接免费领取【保证100%免费
】
1.学习路线图
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
2.视频教程
网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。
(都打包成一块的了,不能一一展开,总共300多集)
3.技术文档和电子书
这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
4.LLM面试题和面经合集
这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集
5.免费获取
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码或者点击以下链接都可以免费领取【保证100%免费】
更多推荐
所有评论(0)