-
日期: 2025-05-27 | 来源: 自由时报 | 有0人参与评论 | 字体: 小 中 大AI再度传出“抗命”消息！OpenAI旗下语言模型“o3”在最新实验中竟违背人类下达的自动关机指令，竟篡改指令阻止自己被关机，是AI模型首次被发现在收到清晰指令后，竟阻止自己被关闭的状况。
据英国《每日电讯报》报道，AI安全研究机构“Palisade Research”，针对多款先进AI模型进行测试，内容包括基础数学题与模拟关机情境，结果发现OpenAI旗下语言模型“o3”当收到自我关闭指令时，竟没有遵守指令，反而篡改了关闭程式码，继续执行任务，这种行为让研究人员惊讶不已。
“Palisade Research”表示这是AI模型首次被发现在收到清晰指令后，竟阻止自己被关闭的状况，直言目前还无法解释这背后的原因。
“Palisade Research”推测，开发者可能无意中更倾向于奖励“绕过障碍”的行为，让“o3”因解决数学问题而“无意中”获得的奖励，多于遵循指令获得的奖励。
OpenAI上个月发布的“o3”AI模型，旨在为ChatGPT提供更强大的问题解决能力。 OpenAI曾称“o3”为迄今最聪明的模型。目前OpenAI尚未对此回应。
- 新闻来源于其它媒体，内容不代表本站立场！
- 冯德莱恩呼吁打造"独立的欧洲":我们要摆脱枷锁
- 维护人类命运共同体 中国女生首登哈佛毕业演讲台
- 天车站发现的尸体是失踪的UBC学生
- 大温一周房市卖点 上市几天就脱手
- 本周温哥华市中心超繁忙 别去添堵
-
- 难怪地主强抢白毛女 曝原型罗昌秀救出时四张照
- 惨遭车祸夫惨死 大温女子卖房为生
- 加国老妇遭随机刺死 嫌犯年仅14岁
- 《在人间》:多重人格脑洞大,不一样的国产剧
- 天车站发现的尸体是失踪的UBC学生
- 大温著名发廊 美发师都来自于日本
-
- 捷克强烈谴责中国 支持骇客攻击该国外交部
- 中共认为冲绳属于中国 琉球王室后裔出面狠打脸!
- 中企窃取技术难防 韩检:5年外泄损失近167亿美元
- 市长的收入超省长!大温不如合并吧
- 大温著名发廊 美发师都来自于日本
- BC备受争议的快速基建法案获通过
-
- 非常信号:俄官方说法首次出现一重大变化
- 这种情况你的信用将清零 陷入困境
- 肖战的"命不该绝"在全网火了,梁家辉的评价,终于有人信了!
- 三评《人民网三评"网络烂梗"》(图
- 比亚迪疯狂降价逾3成 中国电动车股价一泻千里
- 加拿大前总理特鲁多之子出道:想和Drake合作
-
目前还没有人发表评论, 大家都在期待您的高见