人工智慧公司 OpenAI 於昨日的 Blog 文章中表示，正透過其「前沿模型論壇」設立致力於 AI 安全研究的 1,000 萬美元基金，同時將由布魯金斯學會 AI 計劃前主任 Chris Meserole 擔任首任執行董事，著手與政府、學者及社會大眾共同分享產業資訊，並推動 AI 安全地開發、應用與發展。

內容目錄

什麼是前沿模型論壇？

作為全球估值最高的新創公司之一，OpenAI 在 7 月時透過一則聯合聲明公告正在與 Anthropic、Google 及微軟等多間大型企業合作，共同成立一個專注於確保創新人工智慧模型的安全及開發的產業機構，那就是「前沿模型論壇 (Frontier Model Forum，以下簡稱 FMF)」：

創造 AI 技術的公司有責任確保其安全，FMF 在未來會將重點放在共享知識與應用、開發有關 AI 模型的技術評估與安全標準的公共資料庫等，同時與政府機關及學術界建立跨單位的聯繫與合作，定時披露風險資訊及安全機制。

FMF 現況更新

OpenAI 官方昨日發推，公告了許多有關其行業組織 FMF 的諸多現況更新，經鏈新聞整理如下。

Today, we are announcing Chris Meserole as the Executive Director of the Frontier Model Forum, and the creation of a new AI Safety Fund, a $10 million initiative to promote research in the field of AI safety. https://t.co/a20tU1zXke

— OpenAI (@OpenAI) October 25, 2023

執行董事 Chris Meserole 上任

首先，該論壇迎接了其首任執行董事 Chris Meserole 的上任，他曾擔任布魯金斯學會的 AI 與新興技術計畫主任，對多種新創技術的管理及安全，具有豐富的技術政策經驗：

最強大的 AI 模型將替社會帶來巨大的發展性，但為了實現它們的潛力，我們需要完整了解如何安全地開發並評估它們，我很高興能夠與 Frontier Model Forum 一起面對這個挑戰。

設立 AI 安全基金

接著，該組織還創建了一筆高達 1,000萬美元的 AI 安全基金，將用於支持來自全球的學術機構、研究單位及初創企業研究人員，幫助他們開發並測試其 AI 產品，同時對其潛在危險的辨識與評估標準做出貢獻。

據了解，該資金來自於組織成員 Google、Microsoft 及多個慈善基金會合作夥伴，將在未來幾個月內開放提案爭取資金。

建立共同安全標準

另外，該論壇也正在建立一個共同的名詞及流程定義資料庫，以便參與者一同討論 AI 的安全與管理。

他們同時也致力於開發一個披露流程，讓 AI 實驗室及公司能透過其共享相關漏洞風險、發展趨勢及解決措施的最新資訊。

未來下一步

最後，FMF 預計將成立一個顧問委員會，協助指導其策略及優先事項，並發布各種人物觀點及專業知識資訊。

此前，美國證監會 (SEC) 主席 Gary Gensler 與聯合國在先前也都曾對正蓬勃發展的 AI 技術表達嚴重擔憂。