OpenAI表示,一个与俄罗斯有关联的影响力网络曾借助 ChatGPT 伪装成学术专家发布内容。该公司称,这一行动触达范围不大,但组织方式比其自俄乌战争爆发以来打击过的其他俄关联行动更复杂。

文章冒用学术身份

OpenAI称,相关内容中有些文章发布时间已过去数年,另一些则被错误署名。其举例称,一篇关于中巴经济走廊的文章,疑似直接复制自剑桥大学出版社的原始内容,却被错误归给一名诺丁汉大学教授,而这名学者的研究方向是南亚政治。

这表明相关操作者并非只是批量生成文本,而是试图借用真实学术机构、作者身份和既有出版内容,提高材料的可信度与伪装程度。

生成式 AI 被用于影响行动

OpenAI还提到,类似的政治影响行动此前也曾使用生成式 AI 工具。除信息操纵外,俄罗斯关联团体也被指将 ChatGPT 用于网络行动。

据 OpenAI 说法,与俄罗斯军事情报有关的组织 Forest Blizzard 曾利用该聊天机器人研究攻击目标、编写脚本,并为网络钓鱼攻击提供支持。

归属仍有未解部分

OpenAI表示,尽管相关操作者可能使用了俄语提示词,但公司并未将这次 IBI 行动直接归因于俄罗斯政府。

该公司还称,以色列可能有一些人在会议活动或文章投稿中代表过这一机构,但这些人与该行动之间的具体关系仍不清楚。OpenAI表示,现阶段无法判断这些个人、IBI 以及俄罗斯境内操作者之间的联系。