此开源的视频生成模型:包含 PyTorch 模型定义、预训练权重和推理/采样代码

📜 要求

下表为运行HunyuanVideo模型(batch size = 1)生成视频的要求:

|
模型

|

设置
(高度/宽度/框架)

|

去噪步骤

|

GPU 峰值内存

|
| :-: | :-: | :-: | :-: |
|

混元视频

|

720px1280px129f

|

三十

|

60GB

|
|

混元视频

|

544px960px129f

|

三十

|

45GB

|

  • 需要支持 CUDA 的 NVIDIA GPU。

    • 我们已经在单个 H800/H20 GPU 上进行了测试。

    • 最低限度

      :720px1280px129f 所需的最低 GPU 内存为 60GB,544px960px129f 所需的最低 GPU 内存为 45G。

    • 建议

      :我们建议使用具有 80GB 内存的 GPU 以获得更好的生成质量。

  • 测试的操作系统:Linux

🛠️ 依赖项和安装

首先通过下方的命令来克隆存储库:



git clone https://github.com/tencent/HunyuanVideo

cd HunyuanVideo




或者网盘打包下载【点击前往】

Linux 安装指南

我们提供了一个environment.yml用于设置 Conda 环境的文件。Conda 的安装说明可在此处获得。

我们推荐 CUDA 版本 11.8 和 12.0+。



\# 1. Prepare conda environment

conda env create -f environment.yml

\# 2. Activate the environment

conda activate HunyuanVideo

\# 3. Install pip dependencies

python -m pip install -r requirements.txt

\# 4. Install flash attention v2 for acceleration (requires CUDA 11.8 or above)

python -m pip install git+https://github.com/Dao-AILab/flash-attention.git@v2.5.9.post1




此外,HunyuanVideo还提供了预先构建的Docker镜像: docker_hunyuanvideo。



\# 1. Use the following link to download the docker image tar file (For CUDA 12).

wget https://aivideo.hunyuan.tencent.com/download/HunyuanVideo/hunyuan\_video\_cu12.tar

\# 2. Import the docker tar file and show the image meta information (For CUDA 12).

docker load -i hunyuan\_video.tar

docker image ls

\# 3. Run the container based on the image

docker run -itd --gpus all --init --net=host --uts=host --ipc=host --name hunyuanvideo --security-opt=seccomp=unconfined --ulimit=stack=67108864\--ulimit=memlock=\-1\--privileged docker\_image\_tag




🧱 下载预训练模型

下载预训练模型的详细信息显示在此处,或者在HuggingFace上下载:https://huggingface.co/tencent/HunyuanVideo/tree/main共26G左右。


🧱下载文本编码器

HunyuanVideo采用MLLM模型和CLIP模型作为文本编码器。

  1. MLLM 模型(text_encoder 文件夹)

HunyuanVideo 支持不同的 MLLM(包括 HunyuanMLLM 和开源 MLLM 模型),现阶段我们尚未发布 HunyuanMLLM,建议社区用户使用Xtuer提供的llava-llama-3-8b,可通过以下命令下载



cd HunyuanVideo/ckpts

huggingface-cli download xtuner/llava-llama-3\-8b-v1\_1-transformers --local-dir ./llava-llama-3\-8b-v1\_1-transformers




为了节省模型加载的GPU内存资源,我们将的语言模型部分分离llava-llama-3-8b-v1_1-transformerstext_encoder



cd HunyuanVideo

python hyvideo/utils/preprocess\_text\_encoder\_tokenizer\_utils.py\--input\_dir ckpts/llava-llama-3\-8b-v1\_1-transformers --output\_dir ckpts/text\_encoder




  1. CLIP 模型(text_encoder_2 文件夹)

我们使用OpenAI提供的CLIP作为另一个文本编码器,社区用户可以通过以下命令下载此模型



cd HunyuanVideo/ckpts

huggingface-cli download openai/clip-vit-large-patch14 --local-dir ./text\_encoder\_2




🔑 推理

我们在下表中列出了我们支持的高度/宽度/框架设置。

|
分辨率

|

时长=9:16

|

高/宽=16:9

|

高/宽=4:3

|

高/宽=3:4

|

高/宽=1:1

|
| :-: | :-: | :-: | :-: | :-: | :-: |
|

540p

|

544px960px129f

|

960px544px129f

|

624px832px129f

|

832px624px129f

|

720px720px129f

|
|

720p(推荐)

|

720px1280px129f

|

1280px720px129f

|

1104px832px129f

|

832px1104px129f

|

960px960px129f

|

使用命令行



cd HunyuanVideo

python3 sample\_video.py\\

\--video-size7201280\\

\--video-length129\\

\--infer-steps50\\

\--prompt"A cat walks on the grass, realistic style."\\

\--flow-reverse \\

\--use-cpu-offload \\

\--save-path ./results




更多配置

我们列出了一些更有用的配置以便于使用:

|
参数

|

默认

|

描述

|
| :-: | :-: | :-: |
| --prompt |

没有任何

|

视频生成的文字提示

|
| --video-size |

720 1280

|

生成的视频的大小

|
| --video-length |

129

|

生成视频的长度

|
| --infer-steps |

50

|

采样步数

|
| --embedded-cfg-scale |

6.0

|

嵌入式分类器免费指导量表

|
| --flow-shift |

7.0

|

流匹配调度程序的移位因子

|
| --flow-reverse |

错误的

|

如果反向,从 t=1 -> t=0 学习/采样

|
| --seed |

没有任何

|

生成视频的随机种子,如果没有,我们初始化一个随机种子

|
| --use-cpu-offload |

错误的

|

使用 CPU 卸载来加载模型以节省更多内存,这对于高分辨率视频生成是必要的

|
| --save-path |

。/结果

|

生成视频的保存路径

|

免费体验入口

HunyuanVideo 在线使用:【点击前往】


开源项目地址

    • GitHub仓库

      :https://github.com/Tencent/HunyuanVideo/

    • HuggingFace模型库

      :https://huggingface.co/tencent/HunyuanVideo

零基础入门AI大模型

今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

有需要的小伙伴,可以点击下方链接免费领取【保证100%免费

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

1.学习路线图

在这里插入图片描述

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

2.视频教程

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己整理的大模型视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。

在这里插入图片描述

在这里插入图片描述

(都打包成一块的了,不能一一展开,总共300多集)

3.技术文档和电子书

这里主要整理了大模型相关PDF书籍、行业报告、文档,有几百本,都是目前行业最新的。
在这里插入图片描述

4.LLM面试题和面经合集

这里主要整理了行业目前最新的大模型面试题和各种大厂offer面经合集。
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

1.AI大模型学习路线图
2.100套AI大模型商业化落地方案
3.100集大模型视频教程
4.200本大模型PDF书籍
5.LLM面试题合集
6.AI产品经理资源合集

5.免费获取

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码或者点击以下链接都可以免费领取【保证100%免费】

点击领取 《AI大模型&人工智能&入门进阶学习资源包》

在这里插入图片描述

Logo

在这里,我们一起交流AI,学习AI,用AI改变世界。如有AI产品需求,可访问讯飞开放平台,www.xfyun.cn。

更多推荐