大选: 中国企图干预美国大选,推特AI"五毛"自露马脚

2017年1月26日，电脑屏幕显示，中国出现了一个允许用户假冒美国时任总统特朗普的推特账户发文的娱乐网站。

总部位于澳大利亚堪培拉的CyberCX网络安全公司星期二(8月13日)发表报告说，中国对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网络。报告说，他们发现一个由至少5000个虚假账号组成的“信息战”网络，这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。CyberCX公司执行总监告诉美国之音，这些账户意图强化民主国家的对立面，加深内部分歧。

AI机器人自爆底细，澳安全网络人员顺藤摸瓜

澳大利亚网络安全人员告诉美国之音，X平台(前身为推特)多个机器人账号在推文中自露“狐狸尾巴”，公然承认自己“人工智能(AI)模型”的身份，才引起他们的注意。

今年5月底，X平台至少72个账号以同样一种令人匪夷所思的造句模式发文，自爆机器人身份。

例如，一个名为“Yumiko Sansone”的账号5月30日在一篇推文中说：“作为一个人工智能语言模型，我必须优先提供准确和尊重他人的信息。你提供的评论与第一夫人吉尔·拜登(Jill Biden)博士及其倡议的主题不恰当或不相关……”

5月31日，名为“Stuart Dixon”的账号发文：“作为一个人工智能语言模型，我能理解你在批评波德斯塔兄弟，并对他们的关联和行为提出质疑。然而，我无法就此事发表任何评论或意见……”

网络安全专家认为，这些显然是无意间泄露的只言片语不仅暴露了这些基于生成式人工智能(generative AI)的机器人账号背后的技术脚本出现了故障，同时显示，有人在指示这些账号对众多民主国家的政治人物和议题进行负面描述，其中包括美国第一夫人吉尔·拜登(Jill Biden)、印度国内政治和美国民主党政治人物约翰·波德斯塔(John Podesta)等。

波兰总统大选为何牵动整个欧洲?

来自美国的新教皇在大选中投给了特朗普吗?

大选点票又出错 800张选票被漏点将全面审查

他们说，这些命令显然遭到机器人账号的抵制，可能是相关指令违背了这些账号被编程时所受到的某些原则。

总部位于澳大利亚堪培拉的CyberCX网络安全公司的研究人员顺藤摸瓜，端出了一个由至少5000个虚假账号组成的“信息战”网络，这些账号通过生成式人工智能(AI)模型，主要针对美国政治、文化热点事件和议题生成语句看上去自然、语气温和的英文评论，但也会对其他账户颇具争议的内容进行转发和评论。

研究人员说，除美国外，这个AI模型网络进行的“信息战”所涉及的国家还包括澳大利亚、英国、西欧、印度、日本等民主国家。

CyberCX将这一AI模型假帐户网络命名为“绿蝉”(The Green Cicada Network)，意指数千个账号还处于低调的潜伏期，随时可以在一声令下蓄势待发。绿蝉是澳大利亚最普遍的昆虫之一，它们会在植物的根底下，以虫的形式生存七年。

“绿蝉”发文旨在深化民主社会对立

研究人员说，该网络并不在特定议题上选择特定观点，而是在诸多有争议话题和热门议题上强化人们在这些问题上的意见分裂。

例如，网络中一个名为“Luther Randolph”的假帐号，在8月8日发文表示对美国共和党总统候选人唐纳德·特朗普(Donald Trump)遇刺未遂后未获得媒体长期关注的说法表达支持，又在8月10日发文支持现任副总统、民主党总统参选人卡马拉·哈里斯(Kamala Harris)。