量化模型和蒸馏模型理解

量化：部分参数高精度降低至低精度，节省存储空间，减少推理时间。会损失信息。（降低参数精度。降参。）

蒸馏：在同样输入的情况下，根据高参数模型的输出，去调教低参数模型的输出，直至低参数模型的输出与高参数的模型输出结果相似。同样的，能节省存储空间，减少推理时间。（模仿高参模型行为。模仿。）

 ————

UE生成llamafactory训练样样本

UE生成的优点是。。。熟悉UE和UE允许加载CSV为数据表行。

CSV，QA为例：
1.UE加载CSV

2.数据表行读取排列QA数组

3. 按格式输出

4.最好找一个json检验网站，校验和格式化和。

网站推荐：

在线JSON校验格式化工具（Be JSON）

JSON在线解析格式化验证 - JSON.cn