2024 年是「超級選舉年」，也是 AI 即將對選舉造成混亂的一年。近日，臉書（Facebook）上已經出現一段不實暗示美國總統拜登有戀童癖的一段影片，Meta 監察委員會已判定該影片並未違反該公司現行規則，但同時也指出 Meta 的這些規定並不一致，過度狹隘地關注 AI 生成內容。Meta 也對於這些爭議提出不同的解法。

Meta 提出的解方：推動檢測 AI 內容標準

Meta 全球事務總裁 Nick Clegg 在上個月於瑞士達沃斯舉行的世界經濟論壇上指出，檢測 AI 生成內容是當今科技產業面臨的「最急迫的任務」。 Clegg 亦在近日提出一個解方，表示將推動技術標準，讓整體科技公司都可以使用這些標準來辨識並標記 AI 生成的照片、視訊、音訊，有了這些標記，即表明這些內容是由 AI 生成的。

他指出，這些標準可以讓社群媒體公司更快速辨識 AI 產生的、已發表至其平台的內容，並允許他們為該資料添加標籤，若獲得廣泛的採用，這些標準還可以幫助辨識出使用 Google、OpenAI、微軟（Microsoft）、Adobe、Midjourney 等公司的 AI 所產生的內容。

Meta 正在研究一系列稱為 IPTC 和 C2PA 標準的技術規格。這是在內容元資料（metadata）中足以辨識數位媒體是否真實的資訊。元資料是嵌入在數位內容中的基礎資訊，提供該內容的技術描述。這兩個標準已經被新聞機構和攝影師廣泛使用來描述照片或影片。

Clegg 表示，他希望更多的公司同意參與該標準，特別是在總統選舉期間。

Meta 監察委員指出現行做法有缺失

由 Meta 資助，但實際上獨立運作的監察委員會（Oversight Board）日前接獲使用者投訴，一段關於拜登且經過修改的 7 秒鐘影片上傳於 Meta 旗下社群網站臉書，該監察委員會於去年 10 月展開調查。

監察委員會指出，Meta 現行政策「缺乏具說服力的理由，無一致性、讓使用者感到混淆，未能清楚闡明公司試圖避免的傷害」，並建議 Meta 應該更新規定，以涵蓋到語音、影片內容，且「無論是否是 AI」，都應該加以規範，並且在這些遭到移花接木的影音內容上加註標籤，而非像現在的做法，由平台直接移除貼文。

監察委員會也強調，那些非 AI 工具生成，但也經過移花接木的內容，並不會比 AI 生成的內容較不具誤導性，不應於狹隘地聚焦於 AI 生成內容，且這類內容四處可見。

值得注意的是，監察委員會並沒有將「照片」一類加入政策更新的建議中，僅提醒這麼做可能會提高 Meta 的執行困難度。

Meta 也針對這項聲明表示，正在研究這項裁決內容，並且將在 60 天內公開回應。

隨著美國進入總統選舉年，產業觀察家認為，AI 工具將被大量有心人士用來發布錯假內容，誤導選民。在過去的一年裡，已經有不少人利用 AI 製作和傳播拜登發表虛假或煽動性言論的 AI 影片。也有使用了拜登聲音的機器人電話，敦促選民不要在初選投票。

：Jocelyn

快加入 INSIDE Google News 按下追蹤，給你最新、最 IN 的科技新聞！