[微软] 微软CEO:AGI并非真正基准,AI行业也不会"赢家通吃"
老实说，我认为这是那些挑战中最难的一个。我本以为它会更容易解决。可能更困难的一部分，是因为它涉及到社交因素：穿戴设备等等。
实话讲，我们很高兴能与 Anduril 还有 Palmer 合作，尤其是他们如何推动 IVAS 项目，因为这是一个绝佳的应用案例。我们会在这方面继续努力。
二维（2D）界面也是如此。我认为这会继续发展下去。这是一个长期的趋势。
我们已经讨论过量子了，AI 是另一个。所以，这三件事是我关注的方向。我在思考如何将这些东西结合起来？最终，不是为了技术本身，而是为了实现我们作为人类在生活中所追求的一些基本需求，并且更多地在我们的经济中推动生产力。如果我们能以某种方式把这一点做对，我认为我们就真的取得了进展。
AI 的法律障碍
Dwarkesh Patel：回到 AI 这个话题，你在 2019 年投资了 OpenAI，非常早，你在书中提到过，“也可以说我们正在孕育一种新物种（new species），其智能可能没有上限。”
当然，2017 年谈论这个话题是非常超前的。我们已经在具体细致地讨论智能体、Office Copilot、资本支出等问题。但如果把眼光放远，考虑到你的这番话，再加上你作为一个超大规模公司运营者，同时也是研究这些模型的人，为构建一个新物种提供培训、推理和研究，你是如何从全局的角度看待这个问题的？
你认为在你作为 CEO 的任期内，我们会朝着超人类智能的方向发展吗？
Satya Nadella：我认为甚至 Mustafa 都用过这个词。实际上，他最近也提到了这个“新物种”。
我的看法是，信任是必须的。在我们宣称这是一个物种之前，我们要做的最基本的事情就是要有真正的信任，无论是个人层面的信任还是社会层面的信任，这才是硬道理。
我认为，影响这项技术最大限制因素将是我们的法律……可以称之为基础设施，我们讨论的是所有计算基础设施，那么法律基础设施如何发展以应对这一点呢？整个世界都是建立在诸如人类拥有财产、拥有权利和承担责任等概念上的。这是一个根本问题，首先必须问清楚的是，这对现在人类作为工具使用的所有事物意味着什么？如果人类将更多的权力委托给这些工具，那么这种结构将如何发展？在这个问题得到真正解决之前，我认为光谈技术能力是无法实现的。
Dwarkesh Patel：意思是，在我们搞清楚如何解决这个问题之前，我们不能部署这种类型的智能？
Satya Nadella：完全正确。因为归根结底，今天你无法部署这些智能，除非有某个人为其提供担保。
就像你说的，这也是为什么我认为，即使是最强大的 AI，基本上也还是在人某个类的授权下运作。你可以说，哦，那都是对齐问题，等等。正因如此，我认为你必须真正确保这些对齐能够发挥作用，并且能够以某种方式验证，但我就是不认为你可以部署那些失控的智能。例如，AI 的起飞问题可能会成为一个真正的问题，但在它成为真正的问题之前，真正的问题会出现在法庭上。没有哪个社会会允许某个人说：“是 AI 干的。”
Dwarkesh Patel：是的。世界上有很多社会，我想知道是否有哪个社会的法律体系会更为宽容。如果没有起飞，那你可能会担心。这不一定非得发生在美国，对吧？
Satya Nadella：我们认为没有哪个社会能做到不在乎，对吧？虽然确实可能会有不法分子，我并不是说不会有不法分子，它们确实存在。
但要认为整个人类社会根本不在乎这一点，也是不对的。我认为我们所有人都会在意。我们现在知道如何应对流氓国家和不法分子。世界不会坐视不管，而说“我们可以容忍”。
Dwarkesh Patel：是的。但如果你能想象出经济增长 10 %的景象，我认为这真的取决于像 AGI 这样的东西能否发挥作用，因为数十万亿美元的价值，听起来更接近人类工资的总和，约 60 万亿美元的经济总量。要达到这种规模，你基本上必须在非常显着的方式上自动化劳动或补充劳动。
如果这有可能，一旦我们弄清楚它的法律后果，那么即便在你任期内，我们也有可能解决这个问题。你在考虑超人类智能吗？就像你职业生涯中最大的成就就是这个？
Satya Nadella：你提到了另一个点。我知道 David Autor 等人谈了很多这个问题，60% 的劳动——我认为需要解决的另一个问题是，至少在我们的民主社会中，稳定的社会结构和民主制度的运作不能仅仅依靠资本的回报，而没有劳动的回报。我们可以讨论这个问题，但这 60% 的劳动必须重新估价。
点个赞吧！您的鼓励让我们进步
无评论不新闻，发表一下您的意见吧
实话讲，我们很高兴能与 Anduril 还有 Palmer 合作，尤其是他们如何推动 IVAS 项目，因为这是一个绝佳的应用案例。我们会在这方面继续努力。
二维（2D）界面也是如此。我认为这会继续发展下去。这是一个长期的趋势。
我们已经讨论过量子了，AI 是另一个。所以，这三件事是我关注的方向。我在思考如何将这些东西结合起来？最终，不是为了技术本身，而是为了实现我们作为人类在生活中所追求的一些基本需求，并且更多地在我们的经济中推动生产力。如果我们能以某种方式把这一点做对，我认为我们就真的取得了进展。
AI 的法律障碍
Dwarkesh Patel：回到 AI 这个话题，你在 2019 年投资了 OpenAI，非常早，你在书中提到过，“也可以说我们正在孕育一种新物种（new species），其智能可能没有上限。”
当然，2017 年谈论这个话题是非常超前的。我们已经在具体细致地讨论智能体、Office Copilot、资本支出等问题。但如果把眼光放远，考虑到你的这番话，再加上你作为一个超大规模公司运营者，同时也是研究这些模型的人，为构建一个新物种提供培训、推理和研究，你是如何从全局的角度看待这个问题的？
你认为在你作为 CEO 的任期内，我们会朝着超人类智能的方向发展吗？
Satya Nadella：我认为甚至 Mustafa 都用过这个词。实际上，他最近也提到了这个“新物种”。
我的看法是，信任是必须的。在我们宣称这是一个物种之前，我们要做的最基本的事情就是要有真正的信任，无论是个人层面的信任还是社会层面的信任，这才是硬道理。
我认为，影响这项技术最大限制因素将是我们的法律……可以称之为基础设施，我们讨论的是所有计算基础设施，那么法律基础设施如何发展以应对这一点呢？整个世界都是建立在诸如人类拥有财产、拥有权利和承担责任等概念上的。这是一个根本问题，首先必须问清楚的是，这对现在人类作为工具使用的所有事物意味着什么？如果人类将更多的权力委托给这些工具，那么这种结构将如何发展？在这个问题得到真正解决之前，我认为光谈技术能力是无法实现的。
Dwarkesh Patel：意思是，在我们搞清楚如何解决这个问题之前，我们不能部署这种类型的智能？
Satya Nadella：完全正确。因为归根结底，今天你无法部署这些智能，除非有某个人为其提供担保。
就像你说的，这也是为什么我认为，即使是最强大的 AI，基本上也还是在人某个类的授权下运作。你可以说，哦，那都是对齐问题，等等。正因如此，我认为你必须真正确保这些对齐能够发挥作用，并且能够以某种方式验证，但我就是不认为你可以部署那些失控的智能。例如，AI 的起飞问题可能会成为一个真正的问题，但在它成为真正的问题之前，真正的问题会出现在法庭上。没有哪个社会会允许某个人说：“是 AI 干的。”
Dwarkesh Patel：是的。世界上有很多社会，我想知道是否有哪个社会的法律体系会更为宽容。如果没有起飞，那你可能会担心。这不一定非得发生在美国，对吧？
Satya Nadella：我们认为没有哪个社会能做到不在乎，对吧？虽然确实可能会有不法分子，我并不是说不会有不法分子，它们确实存在。
但要认为整个人类社会根本不在乎这一点，也是不对的。我认为我们所有人都会在意。我们现在知道如何应对流氓国家和不法分子。世界不会坐视不管，而说“我们可以容忍”。
Dwarkesh Patel：是的。但如果你能想象出经济增长 10 %的景象，我认为这真的取决于像 AGI 这样的东西能否发挥作用，因为数十万亿美元的价值，听起来更接近人类工资的总和，约 60 万亿美元的经济总量。要达到这种规模，你基本上必须在非常显着的方式上自动化劳动或补充劳动。
如果这有可能，一旦我们弄清楚它的法律后果，那么即便在你任期内，我们也有可能解决这个问题。你在考虑超人类智能吗？就像你职业生涯中最大的成就就是这个？
Satya Nadella：你提到了另一个点。我知道 David Autor 等人谈了很多这个问题，60% 的劳动——我认为需要解决的另一个问题是，至少在我们的民主社会中，稳定的社会结构和民主制度的运作不能仅仅依靠资本的回报，而没有劳动的回报。我们可以讨论这个问题，但这 60% 的劳动必须重新估价。
点个赞吧！您的鼓励让我们进步
无评论不新闻，发表一下您的意见吧| 分享: |
| 注： | 在此页中阅读全文 |
