OpenAI研究人員Jan Leike離職,批評OpenAI已不再以安全為優先
· 2024-05-21

OpenAI內部負責發展超智慧AI管理方案的超級對齊團隊主管相繼離職,包括OpenAI共同創辦人Ilya Sutskever以及另一名研究人員Jan Leike,更有媒體報導OpenAI已經解散成立不到一年的超級對齊團隊,懷疑OpenAI是否已不再以發展安全AI為優先原則

他認為應該要把更多的資源用在下一代模型的安全性、監控、對抗魯棒性、超級對齊、機密性及社會影響等相關議題,但過去幾個月該團隊一直在逆勢中掙扎以獲取運算資源。Leike指出,打造比人類更聰明的機器於本質上就是一項危險的工作,代表全人類的OpenAI肩負著巨大責任,OpenAI必須成為一家以安全為優先的通用人工智慧(AGI)公司。

Brockman及Altman也聯名對Leike的看法作出了回應,表示已經提高了對AGI所帶來風險與機會的認識,號召AGI的國際治理,並協助創立了評估AI系統災難性風險的科學;同時也替日益強大之AI系統的安全部署奠定了基礎;未來還會不斷提升安全工作以應對每個新模型的利害關係。

不過,這兩位OpenAI的共同創辦人也坦承,第一次就要確保新技術的安全性並不容易,也沒有可用來引導AGI路徑的劇本,相信實證可以幫助指引前進的方向,他們非常重視自己的角色也會謹慎看待對OpenAI行動的回饋意見。

今年才成立的AI問責聯盟(Coalition for AI Accountability)則發動了一項連署行動,指出OpenAI從一非營利機構轉向至快速擴展AI模型,其高階管理團隊在監督與問責上一再出現失敗,對於像AI這類重要及危險的技術來說,並不適用於某些科技公司受到讚揚的「打破常規及快速行動」態度。要求OpenAI成立一個由AI安全及公民領導者組成的非營利董事會;確保其非營利組織不受營利子公司的財務影響;向非營利組織、監管機構及學術界建立早期存取模式;擴大專注於安全及道德的內部團隊並賦予否決權;以及對OpenAI的產品承擔明確的法律責任。

熱門文章
西班牙監管機構警告在線賭博平臺存在身份盜竊行為
合規與政策
哈薩克計劃對線上賭場促銷活動進行處罰
合規與政策
灰度在iGB L!VE 2026展位T70和你相約7月,一起點燃倫敦的熱情!
灰度頭條
JILI 宣佈與全球板球傳奇 AB de Villiers(ABD)達成重磅戰略合作
體育遊戲
GGC Awards 2026 璀璨科倫坡:致敬 iGaming 行業的領航者與創新力量
灰度頭條
越南博彩管控逐步放寬,惟本土需求仍顯乏力
東南亞資訊
新澤西州7月博彩收入創6.06億美元新高,頒布禁令
合規與政策
超級PAC籌資4800萬美元:體育博彩勢力加碼
合規與政策
菲律賓博彩技術賽道迎來新變局,B2B 供應模式加速滲透
東南亞資訊
巴西擬將博弈稅率提高至24% 稅收將用於社保與醫療領域
合規與政策
橫跨全球6個城市,灰度8場派對邀你共看世界盃,重塑高質量社交新場景
灰度頭條
菲律賓網絡賭博和加密貨幣仍構成持續的洗錢風險
東南亞資訊
印度最高法院受理公益訴訟,要求全國禁封「偽裝」成社交遊戲的賭博平台
合規與政策
英國確認各垂直行業的賭博稅稅率
合規與政策
印第安納州在線賭場法案在眾議院委員會停滯不前
合規與政策
首頁
遊戲
合作
發現
我的