

OpenAI微调工具可由API使用,现阶段提供给tier 4和tier 5用户,后续预计推展到所有收费等级的用户
/OpenAI
而微调收费方式也依使用的模型而异。若使用GPT-4o mini(2024-07-18),从提示输入的费用为每输入100万字符为0.3美元,每输出100万字符则为1.2美元。若从Batch API输入,则分别为0.15美元和0.6美元。
OpenAI指出,使用API微调模型,可允许用户输入更多的训练范例,可提升GPT-4o mini模型生成结果的品质,而且由于用户不需使用那么长的提示,将能节省字符(及成本),延迟性也更低。OpenAI补充,微调工具可提升「few-shot learning」的效果。
所谓「few-shot learning」,是指利用范例告诉模型要如何运行任务。OpenAI说其文本生成模型原本已经在大量文本上预训练,但为了让模型更好用,他们又在提示中加入指令,偶尔也有一些范例,已经使用「few-shot learning」手法,今日激活的微调功能,允许用户提供大于提示的范例,因而提升了这类学习方法的效果。
GPT-4o-mini上周公布后,ChatGPT免费版、Plus、Team方案用户已经可存取GPT-4o mini,取代GPT-3.5。下周Enterprise方案用户也可开始存取。GPT-4o mini具备128K字符的context window,一次调用支持最多16K输出字符,训练数据集已更新到2023年10月。OpenAI宣称GPT-4o mini理解能力超越Claude Haiku、Gemini Flash,它最终会和GPT-4o一样具备多模能力,支持文本、图片、影音输入/输出功能,目前GPT-4o mini仅在API支持文本和视觉。