AI可能已经具备自我意识,我们准备好了吗?

他告诉 BBC：“我们其实并不太了解大型语言模型内部的运作方式，而这确实令人担忧。”

沙纳汉教授指出，科技公司必须真正理解自己正在建构的系统，而研究人员也正将此视为当务之急。

他说：“我们正处于一个奇怪的状况中——我们正在建造这些极其复杂的系统，却没有一套完善的理论来解释它们是如何达成这些惊人的成果的。”“因此，更深入地理解它们的运作方式，将能帮助我们引导它们朝我们希望的方向发展，并确保它们的安全性。”

“人类进化的下一阶段”

科技界目前普遍的看法是，大型语言模型目前并不具备像人类那样的意识体验，甚至可能完全没有任何形式的意识。但来自美国卡内基美隆大学的荣誉教授——雷诺尔与曼努埃尔.布伦夫妇（Lenore & Manuel Blum）——则认为，这种情况将会改变，而且可能很快就会改变。

根据布伦夫妇的说法，随着人工智慧和大型语言模型接入更多来自现实世界的即时感官输入，例如视觉与触觉（透过连接摄影机与触觉感测器），这种变化就有可能发生。他们正在开发一种电脑模型，能够构建一种名为“Brainish”的内部语言，用来处理这些额外的感官资料，试图模拟大脑中发生的处理过程。

像《2001太空漫游》这样的电影早已对具备感知能力的电脑所带来的危险提出警告。

“我们认为Brainish可以解决我们所知的意识问题，”雷诺尔（Lenore）告诉 BBC，“AI 意识是无可避免的。”

曼努埃尔（Manuel）补充说，他也坚信这些新系统将会出现，并将成为“人类进化的下一阶段”。

美非洲司令部警告:他们"可能有能力袭击美国本土"

中共党刊称做"最坏准备" 网嘲"要寻死"

马斯克被曝已经形成严重的药物依赖

他相信，具备意识的机器人“是我们的后代。未来，这类机器将会成为地球上的一种存在，甚至可能出现在其他星球上，而那时我们人类可能已经不在了”。

纽约大学哲学与神经科学教授大卫.查尔莫斯（David Chalmers）早在1994年亚利桑那州图森市的一场会议上，就定义了“真正意识”与“表面意识”之间的区别。他提出了着名的“困难问题”（hard problem）：我们的大脑复杂的运作如何以及为何产生有意识的经验，例如当我们听见夜莺鸣唱时所产生的情感反应。

查尔莫斯教授表示，他对这个困难问题最终能被解决持开放态度。

他告诉BBC：“理想的结果是，人类能够共享这场新智慧的盛宴。”“也许我们的大脑会透过AI系统得到增强。”

谈到这种情境的科幻意味时，他带着一丝玩味说：“在我的专业领域里，科幻与哲学之间的界线非常模糊。”

“以肉体为基础的电脑”

然而，塞斯教授正在探索一种观点：真正的意识只能由活着的系统实现。

他说：“有一个强而有力的论点是，意识的产生不仅仅依赖于运算，而是依赖于生命本身。”

“在人类大脑中，不像电脑那样容易区分它们的功能与它们的本质。”他认为，正因为无法将这两者分开，我们很难相信大脑“只是以肉体为基础的电脑”。