马斯克: X失控!马斯克旗下AI聊天机器人陷性暴露内容风波

特斯拉CEO埃隆·马斯克旗下人工智能公司xAI近期被推上风口浪尖，一方面1月6日刚完成200亿美元的E轮融资，另一方面旗下聊天机器人Grok的功能更新越过了危险界限，频现“数字脱衣”操作，导致AI生成的女性及儿童的露骨图像在社交平台传播。

据新华社报道，近期，X平台出现部分用户利用Grok编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。

去年夏天，Grok开始允许用户通过文字提示编辑图像。此后，随着Grok大量响应用户修改他人发布图像的请求，去年底起乱象扩大。X平台不少用户利用新功能对图像中人物执行“脱衣服”、“给她穿上比基尼”等指令。

社交媒体和深度伪造研究员吉纳维芙·吴分析了Grok在X平台上的内容，截至1月7日，其每小时生成约7750张性暗示或裸露图片。图像人工智能篡改检测公司Copyleaks表示，12月下旬，在Grok公开可访问的图片流中检测到，平均每分钟出现一张未经同意的性暗示图片。

尽管安全专家和科技评论人士谴责X上剥削性图像和视频泛滥，马斯克却在新年第一天就此事“开玩笑”，他在X平台上要求Grok生成一张他自己身穿比基尼的照片，并对生成后的图片评论“完美”。舆论风暴愈演愈烈后，马斯克3日发文说：“任何利用Grok生成非法内容者将承受与直接上传非法内容相同的后果”。

欧盟委员会发言人托马斯·雷尼耶5日批评X和Grok，称其输出露骨及未经同意的影像“是非法的、骇人听闻和令人作呕的”，“这种东西在欧洲没有立足之地”。英国、印度、马来西亚等国的官员和监管机构纷纷着手开启审查。

“在没有护栏或伦理准则的情况下，这项技术鼓励并助长了一些人非人性的冲动。”英国杜伦大学法学教授、图像型性暴力研究专家克莱尔·麦格林对《大西洋月刊》说，对Grok生成的影像深表担忧。过去几周以及现在的情况让人感觉，仿佛我们已踏出悬崖边缘，正自由落体般坠入人性堕落的深渊。

“热辣模式”的出现

两年多前，马斯克宣布xAI推出首款人工智能模型Grok，该模型能实时连接社交媒体平台X。他在宣介时表示，这个人工智能模型“有智慧，还有一点小叛逆”，所以它的使用者最好不是讨厌幽默的人。

去年8月，xAI向付费用户推出AI工具—Grok Imagine，可根据文字提示或上传图片编辑生成AI图像，继而转化为短视频内容。这一工具提供四种预设模式：自定义、普通、趣味和“热辣”（spicy），最后一种模式可生成成人内容。

马斯克承诺 X 将在 7 天内公开所有算法

马斯克跨性别长子拍摄女式内衣大片,造型前卫

条条炸裂!马斯克最新3小时访谈震撼全球（全文）

当谷歌的Veo、OpenAI的Sora等其他视频生成器都设置了防护措施，防止用户生成NSFW内容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不适宜公众场合的内容），以及名人深度伪造时，Grok Imagine却可以同时做到这两点，而且毫不避讳。

热辣模式一经推出，就有用户用其生成美国女歌手泰勒·斯威夫特的无码裸露上身视频，引发争议。美国科技媒体The Verge将其形容为“一项专门用于制作性暗示视频的服务”。

几乎在同一时段，Grok推出了“伴侣”功能，允许用户与AI生成的虚拟角色进行深度互动。首批Grok虚拟伴侣之一“Ani”身穿黑色蕾丝连衣裙，会隔着屏幕送上飞吻。马斯克在X上发帖推广这项功能时写道：“Ani会让你的缓冲区溢出Grok。”

据美媒报道，xAI对Grok的系统提示进行了重大更新，禁止它“创建或传播儿童性虐待材料”（CSAM），但同时也明确表示，“对于包含黑暗或暴力主题的虚构成人内容没有限制”，并且“青少年或女孩并不一定意味着未成年”。其暗示是，对于用户提出的色情内容请求，Grok应采取较为宽松的态度。

彭博社7日援引研究人员的话称，Grok用户每小时最多可生成6700张“去衣化”图片。去年12月开始，要求Grok给不同人穿上比基尼或其他具有性暗示的服装的请求激增。

麦格林指出，如果对色情内容的性质完全放任不管，任由其被创造和传播，这会正常化和淡化性暴力。“她说，在许多国家，针对现实人物的露骨AI图像和视频本身已属违法。””

在公开场合，马斯克长期反对“觉醒主义”人工智能模型，并反对审查制度。据CNN报道，知情人士透露，马斯克在xAI内部曾多次抵制为Grok设置防护机制，其安全团队规模本就小于竞争对手。X平台及xAI内部人士透露，安全团队对Grok的公开内容几乎毫无监管权限。

AI生成儿童色情图像被推向主流

1月1日，有X平台用户投诉称：“推出展示比基尼人群的功能未有效防止其作用于儿童，这种行为极其不负责任。”xAI方面回复：“嘿！感谢提醒。团队正在研究进一步加强防护措施。”在用户追问下，Grok承认曾生成部分未成年人处于性暗示情境的图像，已发现安全防护存在漏洞并正在紧急修复。