什么时候需要微调
什么是微调?
微调是利用预先训练好的模型,在特定应用的数据上对其进行进一步训练,因此你需要收集训练数据,然后找到一个供应商(或自己部署设备)来运行微调,最后部署微调后的模型
什么时候需要微调?
一般情况下建议使用提示词来完成项目,微调只有助于提高最后一点准确性。目前微调主要用于以下几种情况:
1. 提高关键应用程序的准确性
比如客户服务聊天机器人,它需要可靠的调用正确的 API 以进行交易、退款等操作,这种情况下,95%的 API 调用准确率并不够,那么就可以使用 API 数据集进行微调以达到99%的正确率,同时还有其他特殊案例的情况,也需要微调才可以达到。
2.学习一种特定的交流风格
比如爱因斯坦的回复风格等,这也需要微调才能做到
3.降低扩展过程中的延迟或成本
随着使用规模的扩大,大型模型速度过慢或成本过高,因此可以使用微调后的较小模型,即可达到较大模型的性能,以满足较窄的应用范围。此外,大型模型(或代理工作流)还可用于生成数据,以帮助针对该任务对小型模型进行微调。
1. 提高关键应用程序的准确性
比如客户服务聊天机器人,它需要可靠的调用正确的 API 以进行交易、退款等操作,这种情况下,95%的 API 调用准确率并不够,那么就可以使用 API 数据集进行微调以达到99%的正确率,同时还有其他特殊案例的情况,也需要微调才可以达到。
2.学习一种特定的交流风格
比如爱因斯坦的回复风格等,这也需要微调才能做到
3.降低扩展过程中的延迟或成本
随着使用规模的扩大,大型模型速度过慢或成本过高,因此可以使用微调后的较小模型,即可达到较大模型的性能,以满足较窄的应用范围。此外,大型模型(或代理工作流)还可用于生成数据,以帮助针对该任务对小型模型进行微调。
最后
在进行微调之前,请考虑一下是否应该在提示词或代理工作流方面再多下点功夫,这样可以获得更简单、更易于维护的解决方案