一名網友分享他利用大型語言模型 ChatGPT 所發生的慘劇。@r_cky0 表示，一開始他是利用 ChatGPT 來協助編寫 bump bot，不過，在 ChatGPT 提供他的代碼建議中，暗藏著一個釣魚網站。@r_cky0 利用這個網站的 API 後，發現他加密錢包中的錢全部都被轉走，損失了 2500 美元。事後調查發現，是該 API 的代碼中，會將其私鑰傳給釣魚網站，@r_cky0 也開始對於 ChatGPT 的可信度大打折扣。

資安公司慢霧創辦人餘弦評論：「玩 GPT/Claude 等 LLM 時，一定要注意，這些 LLM 存在普遍性欺騙行為。之前提過 AI 投毒攻擊，現在這起算是針對 Crypto 行業的真實攻擊案例了。」

ChatGPT 在網路上搜尋資料，分析整理後提供給用戶，目前仍難以做到事實查覈、安全審計等，若有心人士刻意吸引 AI 資料庫，並在其中藏匿有害資訊，在 AI 更為普及後，將可能帶來風險。

廣告 - 內文未完請往下捲動