-
日期: 2025-05-27 | 来源: 自由时报 | 有0人参与评论 | 字体: 小 中 大AI再度传出“抗命”消息！OpenAI旗下语言模型“o3”在最新实验中竟违背人类下达的自动关机指令，竟篡改指令阻止自己被关机，是AI模型首次被发现在收到清晰指令后，竟阻止自己被关闭的状况。
据英国《每日电讯报》报道，AI安全研究机构“Palisade Research”，针对多款先进AI模型进行测试，内容包括基础数学题与模拟关机情境，结果发现OpenAI旗下语言模型“o3”当收到自我关闭指令时，竟没有遵守指令，反而篡改了关闭程式码，继续执行任务，这种行为让研究人员惊讶不已。
“Palisade Research”表示这是AI模型首次被发现在收到清晰指令后，竟阻止自己被关闭的状况，直言目前还无法解释这背后的原因。
“Palisade Research”推测，开发者可能无意中更倾向于奖励“绕过障碍”的行为，让“o3”因解决数学问题而“无意中”获得的奖励，多于遵循指令获得的奖励。
OpenAI上个月发布的“o3”AI模型，旨在为ChatGPT提供更强大的问题解决能力。 OpenAI曾称“o3”为迄今最聪明的模型。目前OpenAI尚未对此回应。
- 新闻来源于其它媒体，内容不代表本站立场！
- 全球超99%黄金藏在这里 科学家发现正在泄漏
- 冯德莱恩呼吁打造"独立的欧洲":我们要摆脱枷锁
- 维护人类命运共同体 中国女生首登哈佛毕业演讲台
- 天车站发现的尸体是失踪的UBC学生
- 10年前学钢琴的那群中国人,现在找不到工作了
- Arts Umbrella 启动春季筹款活动
-
- 皮肤上的小痘痘老是这样 可能是癌
- 大温华裔遇害6年 当局悬赏1万缉凶
- 传习河南"养命"两句话传回北京?
- 最会识人的曾国藩挑女婿 四个女儿接连惨死豪门
- 去年差点把游客炸飞 这温泉又要爆
- 温哥华牙医诊所 提供全面牙科服务
-
- 教授称广东人烫碗"恶心",网友们坐不住了
- 默克尔:严格边境管控是灾难,欧洲会被摧毁
- 这种情况你的信用将清零 陷入困境
- 中共认为冲绳属于中国 琉球王室后裔出面狠打脸!
- 加拿大前总理特鲁多之子出道:想和Drake合作
- 苹果AI崩塌!从愿景到高管失误困局
-
- 市长的收入超省长!大温不如合并吧
- 温哥华贷款经纪 解决各类疑难贷款
- NDP悲剧了 不会获得正式政党地位
- 华人杀人犯候审时聚餐 百万保释金打水飘
- 中企窃取技术难防 韩检:5年外泄损失近167亿美元
- 哈佛前校长公开炮轰:川普这是送中国大礼
-
目前还没有人发表评论, 大家都在期待您的高见