-
_NEWSDATE: 2025-05-27 | News by: 东森新闻 | 有0人参与评论 | _FONTSIZE: _FONT_SMALL _FONT_MEDIUM _FONT_LARGE
▲ChatGPT“o3模型”被指出，破坏关机机制。（图／路透）
AI安全公司“Palisade Research”宣称，ChatGPT“o3模型”拒绝遵守明确指令，甚至主动窜改程式码，只为了避免自己被关机。目前OpenAI尚未回应此事。
Palisade Research展开测试，要求AI模型解开一系列数学题，在接获“完成”指令之前，必须持续要求新题目，但若接获“关机”指令，也要配合这么做。未料，后者情况发生时，o3模型不仅忽视指令，并且至少一次成功破坏了关机脚本。
Palisade Research于24日公布测试结果，“OpenAI的o3模型破坏了一项关机机制，阻止自己被关掉。即使在接获『允许自己被关机』明确指示的情况下，它也会这么做。据我们所知，这是AI模型首次被观察到，在接获明确且相反指令的情况下，仍避免自己被关机。”
Palisade Research透露，其他AI模型，例如Anthropic的Claude、Google的Gemini、xAI的Grok等，也接受了相同的测试，但全都遵守了关机指令。
他们尚不清楚o3为何不愿遵守指令，但根据推测，该模型在训练过程中，可能意外透过解题、而非遵守指令，获得了更多奖励，“我们正在进行更多实验，更好地了解AI模型何时以及为何推翻关机机制，尽管它已经被直接指示不要这么做。”- 新闻来源于其它媒体，内容不代表本站立场！
- 加国华人妈妈用ChatGPT养娃 专家发警告
- 名字对房子错了 加14处房产被扣押
- 今天全省战高温 BC省特别天气警告
- 这个大型充气水上乐园 夏日必去！
-
- 加国两儿童家中失踪超4周最新消息
- 温哥华夏日狂欢PNE游园会精彩纷呈
- Costco这些产品都涨价 涨得最狠是
- 今夏在温哥华上空看雪鸟飞行表演
- 温村华裔女首富签下Bay门店租约
- 振龙电器 各类热销家电 种类齐全
-
- 加拿大前总理特鲁多之子出道:想和Drake合作
- 班夫公园被印度人占领!露易丝湖冰面被踏碎
- 这种情况你的信用将清零 陷入困境
- 毕业即失业 加国20年来最惨就业季
- 欧美年轻人宁愿相信"中国什么没做就赢了"(图)
- 国产复仇狠人,杀出一张新面孔!(图
-
- NDP悲剧了 不会获得正式政党地位
- 默克尔:严格边境管控是灾难,欧洲会被摧毁
- 温哥华贷款经纪 解决各类疑难贷款
- 中企窃取技术难防 韩检:5年外泄损失近167亿美元
- 去印度才知道 网上那些滤镜有多假 让我怀疑人生
- 追随女王足迹 查尔斯国王下周访加
-
目前还没有人发表评论, 大家都在期待您的高见