OpenAI下周要出什么大招?奥特曼在这个访谈里剧透了

问：批评的声音指出，你拥有足够的资源去进行游说并与政治家建立紧密联系，而且你已经非常积极地参与其中。然而，对于那些同样对这一领域充满热情并投入资金的初创公司来说，它们可能没有足够的资源去进行游说或应对监管俘获的问题。正如风投大佬比尔·柯尔利（BillGurley）在去年的一次精彩演讲中提到的那样，这可能是一个值得关注的问题。也许你可以直面这个问题，并给出你的看法。

奥特曼：如果法规限定为“我们仅关注那些在价值超过10亿或100亿美元的计算机上训练的模型”，我认为这是可以接受的，可以设定这样一个标准。而且，我不觉得这样的规定会为初创公司带来监管上的负担。

非常担心监管可能会过度，GPT-4并不会构成实质性威胁

问：如果你拥有制造核武器的核材料，这通常只限于少数人所持有，因此，可以将这种情况比作需要核检查的类比。

奥特曼：确实，我觉得这个观点很有趣。关于监管问题，我想补充一点，我非常担心监管可能会过度。我相信，无论是做过了头还是仅仅做过了一点点，我们都可能会犯错。同样，如果我们做得不够，也可能出错。但我真的认为，我们有责任也有使命去讨论我们认为可能会发生的事情，以及为了正确处理这些事情我们需要做些什么。

问：挑战在于，我们现有的法规本意是保护人民和整个社会，但我们正在面临一种新类型的法规，这种法规可能会赋予政府审查代码和商业机密的权力，这是我们以前从未遇到过的。例如，加州提出的立法和一些联邦立法提案实质上要求联邦政府对模型、软件进行审计，检查和核实模型的参数和权重。在获得政府的认证之前，你无法将这些模型或软件部署于商业或公共用途。对我来说，这似乎是因为人们对人工智能的理解和它潜在的影响感到恐惧，他们希望对其进行控制，而控制的一种方式就是要求在发布前进行审计。我认为，这些立法者对人工智能的理解可能还很有限。正如你所知，甚至比任何人都清楚，随着技术的快速发展，这些法规在一年后可能就会变得不再适用。

全球最大IPO要来了?OpenAI与微软商讨亿级融资

iPhone大神联手OpenAI 首款AI装置细节曝光

4页绝密文件曝OpenAI野心致命杀招公开

奥特曼：我之所以提倡采取基于机构的方法来处理宏观层面的问题，而不是将这些写入法律，是因为我认为在12个月后，这些法律可能都会被证明是不正确的。即使这些立法者是世界级的专家，我也怀疑他们能否在12个月或24个月的时间框架内做出正确的决策。我不相信那些政策，比如我们要审查你的所有源代码，逐一检查你的所有权重，是的，我认为市面上有很多不切实际的提议。但是，就像飞机在获得认证前需要经过一系列的安全测试一样，这与阅读你所有的代码完全不同，我们更应该审查模型的输出结果，而不是模型的内部细节。我想说的是，我认为进行安全测试是有意义的。

问：我们怎样才能达到那个目标呢？我不只是代表OpenAI，而是代表整个行业，乃至全人类发声。我担心，如果我们限制了那些能够极大推动人类进步的卓越技术的发展，我们可能会让自己回到一个类似于黑暗时代的局面。我们该如何转变当前的情绪并实现这一目标？因为政府层面的进展太快，而许多人似乎并没有正确处理这个问题。另外，Llama的架构决策非常有意思，它的理念是允许Llama尽可能自由地发展，同时我们还有另一个名为Llama卫士（Llama卫士）的系统，它旨在提供保护性的控制措施。你认为这种方法是否能够正确解决问题，或者你对这个问题有何看法？

奥特曼：鉴于当前模型的能力，无疑会出现一些问题。我并不打算对这些问题轻描淡写，也不想忽视它们的严重性，但对于像GPT-4这样的模型，我个人并不担心它们会带来灾难性的风险。我相信，对于如何安全地部署这类模型，存在着多种可行的方法。如果我们在这个观点上达成一致，可能会发现更多的共识。你提到的一个例子特别有趣，那就是技术上有潜力进行递归自我改进的模型，即便它们实际并不会被这样使用，比如自主设计和部署生物武器，或者涉及到递归自我改进的新模型。

对于这些有潜在威胁的模型，我认为应该在国际层面进行安全测试。我认为GPT-4并不会构成实质性的威胁，并且有许多安全的方式来发布这样的模型。但你也了解，当涉及到可能导致大量人员伤亡的情况时，比如飞机或其他许多例子，我们很乐意有一套测试框架来确保安全。当我登上飞机时，我通常不会担心它的安全性，因为我假定它是安全的，对吧？现在，人们对此有很多不必要的担忧。

未来可能不仅仅是关于全民基本收入，而更像是全民基本计算资源

问：关于工作的问题，你在YCombinator的时候进行了一些测试，我想你对全民基本收入进行了一些研究，你的研究结果很快就会出来。