什么 是 fune-tuning

很像 transfer learing,

从 一个 已知的模型,迁移学习 到另外 一个模型:

从 轿车 到 卡车:

在这里插入图片描述

为什么 需要 微调

你可以复用 之前 已经训练好的模型,只需要 稍微 修改, 会节省你的时间
在这里插入图片描述

从头开始不容易

在这里插入图片描述

所以我们需要 fune tuning

要求 : 两个 模型对应 的 任务 ,要 类似

辨别 car --> truck 就是个 可行的

冻结 weights

在这里插入图片描述

仅仅调节其他层

参考

https://www.youtube.com/watch?v=5T-iXNNiwIs&list=PLZbbT5o_s2xq7LwI2y8_QtvuXZedL6tQU&index=37

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐