

在OpenAI前研究員Daniel Kokotajlo召集下,十多名AI產業工作者簽署公開信,要求AI業者正視員工有對AI風險示警的發言權利
Kokotajlo表示,他在加入OpenAI時,曾經希望隨著系統變得更強大,會在安全研究上投入更多的資金,但OpenAI從未有此轉變,意識到此事的同事開始離職,他不是第一個,也不會是最後一個。此外,在他離職的時候,OpenAI要求他簽署一份協議,阻止他批評公司,若不簽署就會失去他的OpenAI股權。
Kokotajlo認為,AI系統並非普通軟體,它們是從大量資料中學習的人工神經網路,對於這些系統的運作、可能超越人類智慧,或是能否具備與人類一致的利益,都有許多的未知,與此同時,相關技術幾乎缺乏監督,反而是由AI企業自治,而經濟動機與對技術的興奮,不時令這些業者快速行動並打破常規。
最後決定拒絕簽署噤聲協議的Kokotajlo強調,讓研究人員噤聲並使他們害怕報復是危險的,因為他們是目前唯一能夠警告公眾的人。