OpenAI研究人員Jan Leike離職,批評OpenAI已不再以安全為優先
· 2024-05-21

OpenAI內部負責發展超智慧AI管理方案的超級對齊團隊主管相繼離職,包括OpenAI共同創辦人Ilya Sutskever以及另一名研究人員Jan Leike,更有媒體報導OpenAI已經解散成立不到一年的超級對齊團隊,懷疑OpenAI是否已不再以發展安全AI為優先原則

他認為應該要把更多的資源用在下一代模型的安全性、監控、對抗魯棒性、超級對齊、機密性及社會影響等相關議題,但過去幾個月該團隊一直在逆勢中掙扎以獲取運算資源。Leike指出,打造比人類更聰明的機器於本質上就是一項危險的工作,代表全人類的OpenAI肩負著巨大責任,OpenAI必須成為一家以安全為優先的通用人工智慧(AGI)公司。

Brockman及Altman也聯名對Leike的看法作出了回應,表示已經提高了對AGI所帶來風險與機會的認識,號召AGI的國際治理,並協助創立了評估AI系統災難性風險的科學;同時也替日益強大之AI系統的安全部署奠定了基礎;未來還會不斷提升安全工作以應對每個新模型的利害關係。

不過,這兩位OpenAI的共同創辦人也坦承,第一次就要確保新技術的安全性並不容易,也沒有可用來引導AGI路徑的劇本,相信實證可以幫助指引前進的方向,他們非常重視自己的角色也會謹慎看待對OpenAI行動的回饋意見。

今年才成立的AI問責聯盟(Coalition for AI Accountability)則發動了一項連署行動,指出OpenAI從一非營利機構轉向至快速擴展AI模型,其高階管理團隊在監督與問責上一再出現失敗,對於像AI這類重要及危險的技術來說,並不適用於某些科技公司受到讚揚的「打破常規及快速行動」態度。要求OpenAI成立一個由AI安全及公民領導者組成的非營利董事會;確保其非營利組織不受營利子公司的財務影響;向非營利組織、監管機構及學術界建立早期存取模式;擴大專注於安全及道德的內部團隊並賦予否決權;以及對OpenAI的產品承擔明確的法律責任。

热门文章
巴西颁布新法赋权央行封锁非法博彩账户及 Pix 交易
支付动态
准备好了将你的收益最大化吗?尝试ProPush.me Constructor!
广告营销
PropellerAds 分享了新的 iGaming 案例研究:在 3 个月实现 97,674 次安装和 12,701 笔存款
广告营销
英国确认各垂直行业的赌博税税率
游戏风向
超级PAC筹资4800万美元:体育博彩势力加码
游戏风向
哈萨克斯坦计划对在线赌场促销活动进行处罚
游戏风向
亚洲游戏市场观察:15大市场热门游戏与用户趋势
线上游戏
BETFAIR 网络攻击80万用户资料泄露
游戏风向
斯里兰卡博弈产业大转型,官方:剑指南亚拉斯维加斯
游戏风向
新泽西州7月博彩收入创6.06亿美元新高,颁布禁令
游戏风向
印度最高法院受理公益诉讼,要求全国禁封“伪装”成社交游戏的赌博平台
游戏风向
张侨伟参议员排除全面禁止,敦促菲律宾规范网络赌博
东南亚资讯
巴西拟将博彩税率提高至24% 税收将用于社保和医疗领域
游戏风向
2027 Global Game Connect(GGC)斯里兰卡招商全面开启!业务人脉尽在掌握!
灰度头条
JILI 宣布与全球板球传奇 AB de Villiers(ABD)达成重磅战略合作
体育游戏
首页
游戏
合作
发现
我的