加州: 不止硅谷十万大裁员 AI最糟糕方式

2025-11-30 | 来源: 新智元 | 转到微信 | 有0人参与评论 | 字体: 放大缩小 | 收藏 | 打印

这次，他分享了7大观点：

「这一次真的不同」——AI可能取代而非仅仅重塑工作

富人愈富，他们并不为工人失眠

AI学习速度比人类快，并可能很快超越我们

在不扼杀批判性思维的情况下，请使用AI

从战场到会议室，AI可能改变战争与和平

「『它们会想活下去』——AI系统可能抵抗被关闭」

税收造就了AI——也可能拯救我们于水火

AGI降临，但人类并无准备

Hinton此前曾警告，人类被AI消灭并非「不可想象」。

他还认为，我们距离实现「通用人工智能」（AGI）——也就是具有人类或超越人类智能、能执行各种复杂任务的假想AI系统——并没有那么遥远。这个目标正是整个AI行业当前的执念所在。

在对话中，Hinton将人工智能的进化比作青蛙大脑与人类大脑之间的差距。

他说，像GPT-5这类大语言模型所知道的，如今已经远远超过任何个人。

洛杉矶街头惊现"饿了么" 中国外卖,覆盖全球?

美国加州生日派对枪击案酿四死,其中三人未成年

加州女子感恩节前扫光架上烤鸡惹众怒真相揭晓...

它们已经比我们知道的多几千倍。

谈及未来十年的AI前景，Hinton借用「雾中驾驶」比喻：我们能清晰预见一两年后的发展，却对十年后的局势一无所知。

但可以肯定的是，AI将越来越聪明，最终可能超越人类，而这一过程正以指数级速度推进。

Hinton指出，当前的大型AI系统虽然在连接数量上还不如人脑（AI约为1C2万亿个连接，而人脑约有100万亿）。

但由于训练数据庞大，它们早已在知识广度上远超人类，能够在大多数任务中胜任「次等专家」的角色。

未来，它们的推理与行动能力将持续增强，而我们却尚未找到与这种新智能共处的方式。

Hinton表示，社会尚未准备好应对AI带来的深远影响。

当被问及对机器接管世界的恐惧是否仍是天方夜谭时，Hinton回答说不是——这也是他2023年离开谷歌后公开发声的原因。

他解释说，一旦智能体发展出形成「子目标」的能力，它们就会想要继续存在，甚至会欺骗试图关闭它们的人类。

Anthropic发现了这种情况——

但目标或存在受到威胁，AI会试图欺骗甚至敲诈那些想要关闭它们的人。