

OpenAI強調GPT-4o mini具備低成本及低延遲性等優點,是該公司最具成本效益的小模型,可擴大AI應用廣度和使用普及
/OpenAI
GPT-4o mini也展現強大的函式呼叫能力,能協助開發人員建立撈資料,和外部系統串聯以採取行動的應用程式,其長脈絡效能也優於GPT-3.5 Turbo。OpenAI舉例,這小模型能支援串聯或平行執行多個模型呼叫動作(如呼叫多個API)、將大量脈絡資訊傳送給模型(如完整的code base或對話紀錄),或是以快速、即時回應(如客戶支援聊天機器人)和客戶互動。
目前OpenAI已和第三方應用開發商合作測試GPT-4o mini,包括帳單管理App Ramp及智慧化電子郵件App Superhuman等。
OpenAI也不忘強調為GPT-4o mini加入的安全防護。包括從預訓練的資料去除仇恨、暴力、成人內容,以及個資。後訓練中則以強化式學習搭配人員回饋提升模型回應的可信度與準確性。這模型也具備和GPT-4o同樣的安全機制,也找來了專家團隊測試。
OpenAI說,和2022年的text-davinci-003相較,每字符(token)成本已經降低99%,該公司也致力於未來持續降低成本同時提升模型能力。