背景／Photo by Dynamic Wang on Unsplash

OpenAI上周在一份文件承認，偵測AI造假的工具並無法糾出不當使用，還可能冤枉好人。

OpenAI在上周官網刊出的一份教學工作者FAQ中，說明該公司為學校教師設計使用旗下AI工具的相關資源，包括和賓州大學華頓商學院教師合作開發的入門提示，以及須知事項。當中OpenAI特別點出，偵測學生是否使用AI生成論文或作業的AI偵測器，其實並沒有用。

OpenAI指出，雖然一些業者，包括OpenAI自己都公布宣稱能偵測AI生成內容，但沒有一項能穩定分辨人類和AI產製的內容。此外，ChatGPT不知道哪些內容是AI生成的，因此有時在被用戶問到它是否有撰寫論文，或某篇文章是否由AI生成，它會自己杜撰答案。這些答案是隨便猜的，沒有事實根據。

OpenAI今年年初宣布名為AI分類器（AI Classifier）的工具，號稱能區分人類撰寫或AI生成的文字，但7月該公司很低調地公告不再提供該工具，原因是準確性太低。

OpenAI自己的研究發現，這些工具有時甚至指稱人類寫的內容是由AI生成。例如OpenAI訓練AI偵測器時發現，會把人類寫成的文本，包括莎士比亞劇本和獨立宣言標註為AI生成。此外，有學術研究顯示，母語非英語的使用者撰寫的英文文章，因為過於重視文法或特別簡潔，尤其會被不當判定為AI生成。而且，就算這些工具正確判斷出AI生成的文章，學生只要稍稍修改就能躲過偵測。

隨著ChatGPT等AI工具的大量濫用，Reddit上有不少人抱怨，自己寫的論文或報告被冤枉是AI寫成。

OpenAI指出，有許多校區和大學已制訂關於AI生成內容的政策，他們也鼓勵教師們自行研究最適合的作法。該公司建議老師們讓學生使用ChatGPT，以便觀察學生們利用ChatGPT解決問題的能力、培養求證AI答案的素養，以及建立負責任使用態度。