OpenAI

OpenAI公布非法使用整顿报告，揭露黑客以其AI工具撰写恶意程序及生成内容，散布到X、Meta等社群平台发动认知作战的趋势。

OpenAI推出各种允许开发人员用以开发、微调模型的在线工具，并且致力于运行防范滥用及促进AI内容透明度的政策，其中特别着重隐匿影响力作战（influence operations，IO，即认知作战）的侦测和防堵，这类攻击旨在隐藏行为者的真实身份或意见并操弄公众意见或影响政治运作结果。

根据公布的报告，过去三个月OpenAI侦测并阻止了5起使用其模型协助欺骗性行动的隐匿式影响力作战，二起和俄罗斯有关，中国和伊朗相关活动各一起，以及一起和以色列商业公司有关的活动。其中俄罗斯利用其模型设计X、Telegram或脸书、9GAG等社群平台的政治宣传消息，或开发贴文及按赞机器人用于对乌克兰、波罗的海地区用户认知作战。可能和中国公安部有关的中国组织Spamouflage，利用Meta散布批评异议人士如蔡霞的内容。

伊朗组织国际虚拟媒体联盟（IUVM）以AI优化网站主题及内容，散布反美、反以色列的内容。以色列则是由民间公司STOIC发动Zero Zeno活动，在社群平台、YouTube释放反哈玛斯、支持占领加萨走廊、反印度执政党BJP消息。

OpenAI分析近来AI滥用行为，包含以AI设计或优化社群或网站主题与内容，以及利用AI机器人（bot）自行回应贴文、按赞以壮大声势。但目前无法做到全由AI生成内容，仍然必须搭配人类小编撰写文本或从网络上拷贝谜因。

OpenAI重申，该公司已为模型加入安全防护，包括拒绝生成违规的图片和文本，且使用自制AI工具协助侦测和分析违法使用。

有趣的是，虽然OpenAI推出AI工具强化内容平台的用户参与度，但OpenAI分析研究显示，使用AI有助于提升生产力，不过在X、Telegram、Facebook、Medium、Google Blogspot和小型论坛散布AI生成的内容，似乎无助于大幅提升读者参与度。