DARPA

美國白宮上周宣布啟動駭客大賽，邀請高手以Google、微軟、OpenAI等大廠AI系統尋找基礎架構的軟體漏洞，還可取得明後年DEF CON駭客大賽的參賽資格。

白宮本周在Black Hat USA大會上宣布，啟動這項名為AI Cyber Challenge（AIxCC）駭客大賽。為期2年的AIxCC大賽由國防高等研究計劃署（Defense Advanced Research Projects Agency，DARPA）主辦，總獎額高達2,000萬美金，開放所有人或隊伍報名。大賽將從今年秋天正式開始，參賽者將可在AI大廠Google、微軟、OpenAI、Anthropic的協助下，對基礎架構軟體，包括美國電網或運輸系統軟體發動紅隊演練攻擊，並由AI廠商提供工具。前20名可晉級參與明年的DEF CON 2024大賽。前5名隊伍每隊可獲得200萬美元獎金，參與DEF CON 2025大賽，第1名則可再獲得400萬美元獎金。

_DARPA

白宮指出，藉由自動化尋找並修補漏洞，可展現AI確保網際網路及社會運作的潛力。為確保參與者的多元性，DARPA將贊助700萬美元支持7家中小企業參賽。

開源安全基金會（Open Source Security Foundation，OpenSSF）將擔任這個大賽的顧問。它也將負責確保優勝隊伍需將其攻擊程式碼專案開源，以確保美國基礎架構軟體的安全性。

這項活動是美國降低AI風險的長期計畫的一部分。白宮5月宣布將發展AI規範，以邀集AI龍頭開發符合倫理的AI技術，包括確保美國安全。上個月OpenAI、微軟、Amazon、Google、Meta、Anthropic等AI業者向美國白宮承諾，將自願協助AI技術走向安全、可靠與透明化。將打造可標記AI生成內容的技術，說明其AI系統的能力、限制、避免有害的偏見與歧視，同時發展保護隱私的技術。