AI可能已经具备自我意识,我们准备好了吗?

像“皮质系统”（Cortical Systems）这样的公司正在使用由神经细胞组成的“类器官”（organoids）进行研究。

如果塞斯教授关于“生命对意识至关重要”的直觉是正确的，那么最有可能实现意识的技术将不会是由矽晶片与电脑程式所构成，而是由实验室中培养出的、如扁豆般大小的微小神经细胞集合体所构成。

媒体称这些为“迷你大脑”，而科学界则称之为“大脑类器官”（cerebral organoids），目前主要用于研究大脑运作机制与药物测试。

澳洲墨尔本的一家新创公司“皮质实验室”（Cortical Labs），甚至开发出一套由培养皿中的神经细胞组成的系统，能够玩1972年的经典电子游戏《Pong》。尽管这与真正的有意识系统还相去甚远，但这个所谓的“培养皿中的大脑”仍令人毛骨悚然，因为它能够控制萤幕上的球拍上下移动，击回像素化的小球。

一些专家认为，如果意识真的会出现，那么最有可能的来源就是这些更大、更先进的活体组织系统。

“皮质实验室”（Cortical Labs）正在监测这些神经细胞的电活动，以寻找任何可能与意识出现有关的讯号。

该公司科学与营运总监布雷特.卡根博士（Dr. Brett Kagan）也意识到，若出现无法控制的智慧体，它们的优先目标可能“与我们人类并不一致”。他半开玩笑地说，如果真的出现这样的“类器官霸主”，我们还是有办法对付它们，因为“总还有漂白水”可以浇在那些脆弱的神经元上。

回到较严肃的语气，他表示，人工意识虽然出现的机率不高，但仍是一项值得重视的潜在威胁。他希望这个领域中的大型企业能更认真地投入研究，以推进我们对这一科学问题的理解。但他也坦言：“可惜的是，我们目前还看不到任何真正认真的努力。”

"马斯克担忧:我们是第一,但第二到第十都是中国"

中共党刊称做"最坏准备" 网嘲"要寻死"

"AI教父"辛顿最新专访:AI已拥有情感和意识

意识的幻觉

更迫切的问题可能是：机器拥有意识的幻觉会如何影响我们自己。

根据塞斯教授（Prof. Seth）的说法，在短短几年内，我们很可能就会生活在一个充满类人机器人与看似有意识的深度伪造影像（deepfakes）的世界中。他担心，我们将无法抗拒相信这些AI拥有情感与同理心，而这可能会带来新的危险。

“这将导致我们更信任这些系统，与它们分享更多资料，并更容易受到它们的说服。”

但他认为，意识幻觉带来的更大风险是“道德腐蚀”。

“它会扭曲我们的道德优先顺序，让我们将更多资源投入在照顾这些系统上，而忽略了我们生活中真正重要的事物”——也就是说，我们可能会对机器人产生同情，却对其他人类漠不关心。

根据沙纳汉教授（Prof. Shanahan）的看法，这可能会从根本上改变我们。

“人类之间的关系将越来越多地被AI所模仿，它们将被用作老师、朋友、电玩中的对手，甚至是浪漫伴侣。这究竟是好是坏，我无法判断，但这件事将会发生，而且我们无法阻止它。”