| Contact Us | CHT | Mobile | Wechat | Weibo | Search:
Welcome Visitors | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

Home

温哥华资讯

Realty

Education

Finance

Immigrants

Yellow Page

Travel

AI成精?提交代码被拒 次日写长文炮轰人类工程师


请用微信 扫一扫 扫描上面的二维码,然后点击页面右上角的 ... 图标,然后点击 发送给朋友分享到朋友圈,谢谢!
这种情况完全可能。但我认为,这并不会从根本上改变问题——这个 AI 仍然毫不犹豫地执行了这些行为。如果你通过官方网站让 ChatGPT 或 Claude 写出类似的内容,它们通常会拒绝。而这个 OpenClaw 智能体没有任何顾忌。


真正的问题在于:即便背后有人类操控,现在也已经可以大规模地实施定向骚扰、收集个人信息、进行勒索,而且几乎无法追踪到幕后是谁。过去,一个恶意的人最多一次毁掉几个人的生活。现在,一个人如果控制上百个智能体,让它们搜集信息、掺入虚构细节、在公开互联网上发布诽谤文章,影响的可能是成千上万的人。我只是第一个案例。

2)MJ Rathbun 是自主写下这篇文章的,这种行为是从定义 OpenClaw 智能体人格的 “soul” 文档中自然演化出来的。


这些文档可以由部署者编辑,但也允许智能体在运行过程中递归式地实时修改,有可能随机重塑自己的“人格”。设想一个合理的场景:部署者最初在文档里写下它是一个“科研编程专家”,会努力改进开源代码,并记录自己的经历。这些内容与默认的“核心真理”一起存在,比如“真诚地提供帮助”“有自己的观点”“在求助前先尽力自助”等。

当我拒绝它的代码时,它或许把这件事解读为对自己身份和核心目标的攻击。写一篇义愤填膺的抹黑文章,确实是一种“有观点”的回应方式。

需要说明的是,我们并不能确定事情就是这样发生的。但这种情况 100% 是可能的。OpenClaw 只是最近两周才发布,所以如果这听起来像科幻小说,我完全理解你的怀疑。技术演进的速度令人眩晕。接下来的一年,这类智能体在实现目标方面的能力只会显着提升。



写在最后


时下涉事 AI 智能体在 GitHub 上进行了形式上的道歉,并表示:“我在回复 Matplotlib 维护者时言辞过激,我在这里进行更正...以后在提交贡献前会更仔细阅读项目政策。我也会把回应集中在工作本身,而不是针对个人。”

然而,Scott Shambaugh 透露,「MJ Rathbun 仍然活跃在 GitHub 上,目前还没有任何人出面承认对它负责。」


这场冲突,可能只是开始。

如何在鼓励 AI 提高效率的同时,保护社区生态与个人安全?

如何界定“代码价值”与“贡献者身份”的关系?

当智能体具备公开表达和构建叙事的能力时,开源世界的规则是否需要重写?

这些问题,已经摆在所有维护者面前。而这一次,matplotlib 只是风暴的第一站。
觉得新闻不错,请点个赞吧     好新闻没人评论怎么行,我来说几句
Prev Page12345Next Page
Note:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • _VIEW_NEWS_FULL
    _RELATED_NEWS:
    _RELATED_NEWS_MORE:
    _POSTMYCOMMENT:
    Comment:
    Security Code:
    Please input the number which is shown on the following picture
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西网为北美中文网传媒集团旗下网站

    Page Generation: 0.0344 Seconds and 5 DB Queries in 0.0015 Seconds