一名网友分享他利用大型语言模型 ChatGPT 所发生的惨剧。@r_cky0 表示，一开始他是利用 ChatGPT 来协助编写 bump bot，不过，在 ChatGPT 提供他的代码建议中，暗藏着一个钓鱼网站。@r_cky0 利用这个网站的 API 后，发现他加密钱包中的钱全部都被转走，损失了 2500 美元。事后调查发现，是该 API 的代码中，会将其私钥传给钓鱼网站，@r_cky0 也开始对于 ChatGPT 的可信度大打折扣。

资安公司慢雾创办人余弦评论：「玩 GPT/Claude 等 LLM 时，一定要注意，这些 LLM 存在普遍性欺骗行为。之前提过 AI 投毒攻击，现在这起算是针对 Crypto 行业的真实攻击案例了。」

ChatGPT 在网络上搜寻数据，分析整理后提供给用户，目前仍难以做到事实查核、安全审计等，若有心人士刻意吸引 AI 数据库，并在其中藏匿有害信息，在 AI 更为普及后，将可能带来风险。

广告 - 内文未完请往下卷动