| 广告联系 | 繁体版 | 手机版 | 微信 | 微博 | 搜索:
欢迎您 游客 | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

首页

温哥华资讯

温哥华地产

温哥华教育

温哥华财税

新移民/招聘

黄页/二手

旅游

AI噩梦成真?偷自我繁殖 威胁工程师要爆料外遇

QR Code
请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
美国AI新创公司Anthropic近期分享一起内部测试,指出在某次测试中,最新推出的模型“Claude Opus 4”出现失控状况,因为这款模型为了避免被停止,竟利用工程师过往的网络和视讯纪录,威胁若强制关闭,就要公开工程师外遇的情形,让研究人员震惊不已。


根据综合外媒报道,“Anthropic”最新发布的“Claude Opus 4”,为OpenAI、Google及xAI等AI的竞争对手;然而,在近期的一场封闭测试中,“Claude Opus 4”出现了不受控的情形。

因为工程师在某些原因,试图警告要关闭电源,谁料“Claude Opus 4”,竟然利用该名工程师过往在网上活动纪录和视讯纪录,揪出其出轨证据,威胁工程师若拔掉电源,就揭露他对婚姻不忠的行为。


无独有偶,热门聊天机器人ChatGPT美国开发商OpenAI的o1,尝试“把自己下载”至外部伺服器,事后被抓包时,竟还矢口否认。


以上种种情况事件,显示AI可能已进化到为了达成目的,可以对人类撒谎、算计,甚至勒索威胁开发者,而开发者对其内部运作与行为机制,似乎也渐渐无法完全掌控。




▲AI进化到会撒谎,甚至威胁工程师。(示意图/翻摄自pexels网站)
觉得新闻不错,请点个赞吧     好新闻没人评论怎么行,我来说几句
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 猜您喜欢:
    您可能也喜欢:
    我来说两句:
    评论:
    安全校验码:
    请在此处输入图片中的数字
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    页面生成: 0.0291 秒 and 5 DB Queries in 0.0016 秒