OpenAI首次联合访谈:"这件事"是公司的核心动力

奥特曼：你可以想象一下，如果下一个模型真的能够像我们所期望的那样出色，那将是一个多么令人振奋的前景。今天早上，我与一家专注于医疗咨询的人工智能公司进行了交谈。他们表示，尽管模型在某些方面仍有待提高，但对于他们的业务来说已经具有相当的价值。他们坚信，如果模型在这些关键指标上能够取得进一步的突破，那么他们将能够开展更多创新性的业务。例如，通过提高处理速度，他们或许能够更快地提供某些服务，从而拯救更多人的生命，并为那些缺乏医疗护理资源的人们提供更多帮助。

04 人工智能模型还不够聪明，GPT6将成为通用工具

斯特宾斯：我们如何看待模型改进的速度呢？它是呈现一种线性的增长趋势吗？还是会在某个特定的点上停滞不前？

奥特曼：从外部观察者的角度来看，模型的改进似乎呈现出一种断断续续的态势。这意味着，我们在坚守一个核心信念方面做得还不够好。这个信念就是，迭代部署至关重要，我们不应该秘密地在实验室里构建AGI（通用人工智能）。想象一下那种极限情况，我们辛苦工作了几十年，然后突然按一下按钮，整个世界就不得不与AGI抗争。

对我们来说，更好的做法似乎是，将模型逐步引入世界，让人们有时间去思考、反应，弄清楚他们希望如何使用它，希望它做出哪些不同的改变，不希望它做什么，以及社会希望建立的防护栏是什么。这样，我们可以建立更多与模型的社会互动。在某种程度上，我认为我们曾经做出的最重要的决定之一就是这个，包括将ChatGPT部署到全世界，让世界真正重视先进的人工智能系统。

这是我们长期以来一直在努力传达的理念，但之前并没有真正奏效。而部署ChatGPT确实做到了这一点。然而，当我们考虑未来的模型时，我认为我们低估了这一点的影响。因为我们与这些模型相处了这么久，看到它们一点一点地变得更好，所以我们可能低估了即使采用迭代部署策略，某些事情仍然会突飞猛进。因此，在思考下一个模型时，我们正在尝试找到一种方法，使其改进过程更加顺畅，以便它更接近于我们内部感受到的流畅度。

斯特宾斯：随着OpenAI规模的不断扩大，你认为迭代部署的策略是否依然适用？毕竟，随着公司规模的扩张，迭代部署所面临的挑战也会逐渐增多。例如，我们已经看到LLaMA在医学科学写作方面发布的内容引发了严重的反弹，不得不撤回；而Bard的发布也导致谷歌股价下跌了8%。在这种情况下，发布一个尚不完善的产品可能会带来如此巨大的影响，那么迭代部署在时间上是否还具备可行性呢？

4页绝密文件曝OpenAI野心致命杀招公开

OpenAI:利用ChatGPT从事恶意操作中国团体增多

OpenAI:中国利用ChatGPT进行网络攻击与舆论操控

奥特曼：我认为设定合适的期望值至关重要。只要我们能够明确并设定正确的期望值，我相信迭代部署仍然是可行的。

莱特卡普：我完全同意这一点。我们从过去的经验中汲取了宝贵的教训。比如，在发布Sora时，我们收到了来自创意社区、媒体和业界的大量反馈。现在我们开始将这些反馈融入我们对这种特定模态的研究规划之中。在某种程度上，我们对初次尝试的期望值非常低，主要是想从中学习，真正倾听外界的声音，并尽可能地将这些声音融入我们的工作中。这样，当我们真正准备好要分享某些成果时，它们将变得真正有用，并且人们会对它们有一种自然的熟悉感，几乎像是量身定制一般。我认为这就是我们将要采取的迭代模式，一种与世界共同开发的模式，尽管世界可能还没有意识到这一点。

斯特宾斯：你之前提到了医疗顾问，我了解到你对人工智能在解决癌症问题上的应用抱有极大的期待。

奥特曼：更确切地说，我对人工智能如何能够极大地推动科学进步的速度充满了热情，而治愈癌症无疑是这一进程中的一个杰出代表。然而，我深信科学进步是社会进步的基石，它涵盖了经济增长、每个人生活质量的提升等诸多方面。如果人工智能能够助力人类有意义地加快科学进步的步伐，那么这无疑将是一项巨大的成就。

斯特宾斯：你认为在实现这一宏伟目标的过程中，最大的障碍是什么呢？

奥特曼：我认为目前的模型还不够聪明。这听起来可能像是一个令人沮丧且缺乏具体信息的回答，但我认为这是一个非常基本的现实。模型还不够聪明，如果我们能够解决这个核心问题，那么其他所有相关问题都会随之得到改善。当然，我们还需要考虑如何将这些工具更好地整合到人们的工作流程中，而不同领域的模型适应性将变得至关重要。但从宏观的角度来看，使用GPT2进行科学研究曾被认为是一个相当不切实际的想法。而如今，虽然人们在使用GPT4进行科学研究时仍只停留在非常原始和有限的阶段，但我可以预见，到了GPT6时代，人们将会把它视为一个能够在各个方面提供帮助的通用工具。而到了GPT8时代，或许人们会惊叹于它所能完成的任务之广泛，甚至可能超出我们现在的想象。