DeepMind最新推演:AGI并非终点!

当人工智能行业还在争论 AGI（通用人工智能）什么时候到来时，谷歌 DeepMind 的研究已经把问题往前推了一步：如果人类真的实现了 AGI，接下来会发生什么？

近日，DeepMind 发表了一项题为“From AGI to ASI” 的文章，探讨了如果人类真的实现 AGI，AI 将如何继续演进，最终达到 ASI（超人工智能）？

参与报告的研究人员包括 DeepMind 的多位核心研究者，他们长期研究 AGI、强化学习、多智能体系统、AI 安全和通用智能理论。比如 DeepMind 联合创始人之一、首席 AGI 科学家 Shane Legg，AIXI 模型提出者 Marcus Hutter，其被视为当今最顶尖的 AGI 理论家之一，DeepMind 资深研究员、AlphaGo 项目核心成员之一 Thore Graepel 等等。

在讨论之前，研究人员首先对 AGI 和 ASI 进行了清晰的界定。

AGI 是一套在绝大多数认知任务中，达到普通人类中位数水平的智能系统；ASI 则设定了极高的门槛，它是在人类所有活动与认知领域，全面超越大规模人类专家协作团队的智能系统。

为什么 AGI 不是终点？

论文指出，AGI 不太可能刚好停在人类水平。原因在于，数字智能与生物智能有着根本不同的运行条件。

人类智能很强，但它受到生物条件限制。一个人大脑的运行速度、记忆容量、寿命、学习速度、沟通方式，都有明显上限。AI 则运行在数字计算系统上，很多限制可以通过更多算力、更好硬件、更高效算法来放大或绕开。

第一，输入输出速度更快。人类阅读、听说、写作和操作工具的速度有限。AI 不一样，今天的大模型已经可以在很短时间内处理大量文本。未来如果连接更强的检索系统、数据库、传感器和执行工具，它获取信息、处理信息、输出结果的速度还会继续提高。

比人类便宜20倍!谷歌“超人”AI系统

谷歌DeepMind关键科学家自立门户

AGI将至?谷歌DeepMind写了份"人类自保指南"

第二，内部处理速度可以被加速。人类思考速度受大脑结构限制。AI 的思考可以通过硬件和算法提高速度。更多 GPU、更高并行度、更优推理框架、更高效模型，都可能让系统在更短时间内完成更多推理、搜索、规划和验证。

第三，工作记忆和长期记忆容量更大。人类工作记忆非常有限。我们很难同时稳定处理几十个复杂变量，也很难完整记住读过的所有材料。AI 可以拥有更大的上下文窗口、更强外部记忆和更快检索能力。它可以调用大量文档、代码库、实验记录和数据库，并在任务过程中保持更多相关信息。

第四，AI 可以脱离单一身体或硬件。人类智能绑定在一个具体的身体和大脑上。人的身体会衰老，大脑也会疲劳、受伤和死亡。AI 系统原则上可以迁移到不同硬件上，它可以从旧服务器迁移到新服务器，从较慢硬件迁移到更快硬件，也可以被备份和恢复。

第五，AI 可以无损复制。一个人无法把自己的知识、记忆和经验完整复制给另一个人。AI 可以，复制的不只是源代码，也可以是模型参数、上下文状态、记忆库和任务经验。一个表现良好的 AI 智能体，可以被复制成许多实例，同时处理不同任务。

第六，AI 可以高带宽共享经验。人类社会的知识积累很强，但传播速度有限。AI 之间的信息共享可以更直接。不同实例可以共享日志、数据、模型更新、工具使用记录、失败经验和成功策略。如果系统足够同质，甚至可以共享更底层的学习信号。

这并不是说今天的 AI 已经全面超过人类，而是说：一旦 AI 达到人类水平，这些数字化特性会让它更容易继续扩展。

AGI 走向 ASI 的 4 条路径

围绕如何从 AGI 到 ASI ，研究者们提出了四种可能路径。