OpenAI下周要出什么大招?奥特曼在这个访谈里剧透了

在我看来，人们普遍认为学习通用的人类知识，如数学定理，属于公共领域的一部分。而另一方面，系统模仿某位艺术家的风格或创作肖像，则涉及到更为复杂的版权问题。在这两个极端之间，存在许多不同的情况。传统上，讨论往往集中在训练数据上，但随着训练数据价值的降低，我们越来越关注模型在推理时的行为，以及它如何实时地在上下文中访问和使用信息。推理时的行为将成为新的讨论焦点，以及未来的经济模式将如何发展。

以音乐为例，如果有人要求模型创作一首泰勒·斯威夫特（TaylorSwift）风格的歌，即使该模型从未在泰勒·斯威夫特的歌曲上进行过训练，我们仍然面临一个挑战：模型可能已经了解了关于泰勒·斯威夫特的信息和她的音乐主题。这就引出了一个问题：即使没有直接训练，模型是否应该被允许模仿她的风格？如果可以，那么泰勒·斯威夫特应如何获得报酬？在这种情况下，我认为首先应该有选择加入或退出的机制，然后建立一个经济模型来处理这些问题。

从音乐产业的采样历史中，我们可以找到一个有趣的视角，来观察这种经济模式是如何运作的。这虽然和人工智能创作不完全相同，但为我们提供了一个思考的起点。

问：山姆，我想对你提供的例子提出挑战：模型通过学习歌曲结构、节奏、旋律、和声关系等元素——这些是成就音乐成功的关键因素，然后利用训练数据来创造新的音乐。这与一个人聆听了大量音乐、吸收了这些知识，并在大脑中构建了相似的预测模型或理解的过程有何不同？这两者之间的差异何在？你为什么要主张艺术家应该获得特别的报酬？这不是一个简单的采样案例，因为AI并没有复制或存储原始歌曲，而是在学习音乐的结构，不是吗？

奥特曼：我并不是想表达那个观点，因为我同意，就像人类从其他人类那里获得灵感一样，我在说，如果你说“为我创造一首泰勒·斯威夫特风格的歌。”

问：我明白了，好的，提示语中含有某位艺术家的风格。

奥特曼：我个人认为这是两个不同的案例。

问：你是否能够接受这样的情况：一个音乐模型在未向创作了这些音乐作品的艺术家支付版税的前提下，自主地通过人类创作出的所有音乐作品库进行训练。接着，你不被允许提出特定艺术家的请求，而是可以这样要求：“请为我播放一首相当现代的、关于心碎的流行歌曲，最好是女声演唱的。”

微软130亿美金投资OpenAI打水漂?AI巨头渐行渐远

全球最大IPO要来了?OpenAI与微软商讨亿级融资

肩负OpenAI盈利重任的硅谷女掌门

奥特曼：我们已经决定暂时不进入音乐产业，部分原因在于围绕如何界定使用界限的复杂问题。比如，我最近与一些我非常尊敬的音乐家会面，试图探讨一些边缘情况。设想一下，如果我们出资让一万位音乐家创作大量音乐，专门用于构建一个优质的训练集，使我们的音乐模型能够学习到所有关于强烈节奏结构和引人入胜的节奏的要素。如果我们仅利用这些音乐进行训练，理论上我们仍能开发出一个杰出的音乐模型，或许我们能够实现这一点。我曾将这作为一个思维实验提出，音乐家们表示，到了那个阶段，他们没有原则上的反对理由。即便如此，我个人对此仍有所保留。这并不是说我们不应该这么做，但确实存在一些考量。

问：你看到苹果最近发布的广告了吗？它将人类的所有创造力凝练在一台非常薄的iPad中。你对这有什么看法？

奥特曼：人们对此产生了非常情感化的反应，比你想象的要强烈得多。我本人对人工智能持非常积极的态度，但我相信人类创造力和艺术表达中有些东西是非常宝贵的。对于能够提升科学研究的人工智能，我们当然欢迎。然而，当涉及到能够进行深刻而美妙的人类创造性表达的人工智能时，我认为我们应该审慎行事。这种技术的发展是不可避免的，它将成为帮助我们达到更高层次创造力的工具，但在这个过程中，我们应该找到一种方式，既能推动技术发展，又能保持我们所珍视的创造性精神。

一些先进的人工智能系统将有能力造成严重的全球性伤害

问：当讨论到人工智能的监管以及在一个由人工智能主导的世界中实施全民基本收入时，有人提倡“全面监管人工智能”。这究竟指的是什么？你是否能够就加州最近提出的监管提案分享一些看法？如果你愿意，我们可以进一步探讨这个话题。

奥特曼：我对目前的情况有些忧虑。虽然我注意到有许多关于人工智能的监管提案正在讨论中，但就我个人所见，加州的许多提案引起了我的担忧。同时，我普遍担心如果每个州都独立进行人工智能的监管工作。当讨论到“监管人工智能”时，我认为人们的想法并不统一。有些人可能主张完全禁止人工智能的发展，而另一些人则可能坚持认为人工智能应当是开源的，而不是封闭的。

我个人特别关注的是，我相信在不远的将来，我们可能会面临一个时刻--我得承认，这只是一个前瞻性的声明，做出此类预测总是伴随着风险--我的预测是，在不久的将来，一些先进的人工智能系统将有能力造成严重的全球性伤害。对于这些系统，我希望能有一个类似全球监管核武器或合成生物学的国际机构，来监督这些最强大系统，并确保它们经过合理的安全测试，以防止它们失控、自我递归改进或其他类似的风险。