[微軟] 微軟CEO:AGI並非真正基准,AI行業也不會"贏家通吃"
老實說，我認為這是那些挑戰中最難的一個。我本以為它會更容易解決。可能更困難的一部分，是因為它涉及到社交因素：穿戴設備等等。
實話講，我們很高興能與 Anduril 還有 Palmer 合作，尤其是他們如何推動 IVAS 項目，因為這是一個絕佳的應用案例。我們會在這方面繼續努力。
二維（2D）界面也是如此。我認為這會繼續發展下去。這是一個長期的趨勢。
我們已經討論過量子了，AI 是另一個。所以，這三件事是我關注的方向。我在思考如何將這些東西結合起來？最終，不是為了技術本身，而是為了實現我們作為人類在生活中所追求的一些基本需求，並且更多地在我們的經濟中推動生產力。如果我們能以某種方式把這一點做對，我認為我們就真的取得了進展。
AI 的法律障礙
Dwarkesh Patel：回到 AI 這個話題，你在 2019 年投資了 OpenAI，非常早，你在書中提到過，“也可以說我們正在孕育一種新物種（new species），其智能可能沒有上限。”
當然，2017 年談論這個話題是非常超前的。我們已經在具體細致地討論智能體、Office Copilot、資本支出等問題。但如果把眼光放遠，考慮到你的這番話，再加上你作為一個超大規模公司運營者，同時也是研究這些模型的人，為構建一個新物種提供培訓、推理和研究，你是如何從全局的角度看待這個問題的？
你認為在你作為 CEO 的任期內，我們會朝著超人類智能的方向發展嗎？
Satya Nadella：我認為甚至 Mustafa 都用過這個詞。實際上，他最近也提到了這個“新物種”。
我的看法是，信任是必須的。在我們宣稱這是一個物種之前，我們要做的最基本的事情就是要有真正的信任，無論是個人層面的信任還是社會層面的信任，這才是硬道理。
我認為，影響這項技術最大限制因素將是我們的法律……可以稱之為基礎設施，我們討論的是所有計算基礎設施，那麼法律基礎設施如何發展以應對這一點呢？整個世界都是建立在諸如人類擁有財產、擁有權利和承擔責任等概念上的。這是一個根本問題，首先必須問清楚的是，這對現在人類作為工具使用的所有事物意味著什麼？如果人類將更多的權力委托給這些工具，那麼這種結構將如何發展？在這個問題得到真正解決之前，我認為光談技術能力是無法實現的。
Dwarkesh Patel：意思是，在我們搞清楚如何解決這個問題之前，我們不能部署這種類型的智能？
Satya Nadella：完全正確。因為歸根結底，今天你無法部署這些智能，除非有某個人為其提供擔保。
就像你說的，這也是為什麼我認為，即使是最強大的 AI，基本上也還是在人某個類的授權下運作。你可以說，哦，那都是對齊問題，等等。正因如此，我認為你必須真正確保這些對齊能夠發揮作用，並且能夠以某種方式驗證，但我就是不認為你可以部署那些失控的智能。例如，AI 的起飛問題可能會成為一個真正的問題，但在它成為真正的問題之前，真正的問題會出現在法庭上。沒有哪個社會會允許某個人說：“是 AI 幹的。”
Dwarkesh Patel：是的。世界上有很多社會，我想知道是否有哪個社會的法律體系會更為寬容。如果沒有起飛，那你可能會擔心。這不一定非得發生在美國，對吧？
Satya Nadella：我們認為沒有哪個社會能做到不在乎，對吧？雖然確實可能會有不法分子，我並不是說不會有不法分子，它們確實存在。
但要認為整個人類社會根本不在乎這一點，也是不對的。我認為我們所有人都會在意。我們現在知道如何應對流氓國家和不法分子。世界不會坐視不管，而說“我們可以容忍”。
Dwarkesh Patel：是的。但如果你能想象出經濟增長 10 %的景象，我認為這真的取決於像 AGI 這樣的東西能否發揮作用，因為數十萬億美元的價值，聽起來更接近人類工資的總和，約 60 萬億美元的經濟總量。要達到這種規模，你基本上必須在非常顯著的方式上自動化勞動或補充勞動。
如果這有可能，一旦我們弄清楚它的法律後果，那麼即便在你任期內，我們也有可能解決這個問題。你在考慮超人類智能嗎？就像你職業生涯中最大的成就就是這個？
Satya Nadella：你提到了另一個點。我知道 David Autor 等人談了很多這個問題，60% 的勞動——我認為需要解決的另一個問題是，至少在我們的民主社會中，穩定的社會結構和民主制度的運作不能僅僅依靠資本的回報，而沒有勞動的回報。我們可以討論這個問題，但這 60% 的勞動必須重新估價。
點個贊吧！您的鼓勵讓我們進步
無評論不新聞，發表一下您的意見吧
實話講，我們很高興能與 Anduril 還有 Palmer 合作，尤其是他們如何推動 IVAS 項目，因為這是一個絕佳的應用案例。我們會在這方面繼續努力。
二維（2D）界面也是如此。我認為這會繼續發展下去。這是一個長期的趨勢。
我們已經討論過量子了，AI 是另一個。所以，這三件事是我關注的方向。我在思考如何將這些東西結合起來？最終，不是為了技術本身，而是為了實現我們作為人類在生活中所追求的一些基本需求，並且更多地在我們的經濟中推動生產力。如果我們能以某種方式把這一點做對，我認為我們就真的取得了進展。
AI 的法律障礙
Dwarkesh Patel：回到 AI 這個話題，你在 2019 年投資了 OpenAI，非常早，你在書中提到過，“也可以說我們正在孕育一種新物種（new species），其智能可能沒有上限。”
當然，2017 年談論這個話題是非常超前的。我們已經在具體細致地討論智能體、Office Copilot、資本支出等問題。但如果把眼光放遠，考慮到你的這番話，再加上你作為一個超大規模公司運營者，同時也是研究這些模型的人，為構建一個新物種提供培訓、推理和研究，你是如何從全局的角度看待這個問題的？
你認為在你作為 CEO 的任期內，我們會朝著超人類智能的方向發展嗎？
Satya Nadella：我認為甚至 Mustafa 都用過這個詞。實際上，他最近也提到了這個“新物種”。
我的看法是，信任是必須的。在我們宣稱這是一個物種之前，我們要做的最基本的事情就是要有真正的信任，無論是個人層面的信任還是社會層面的信任，這才是硬道理。
我認為，影響這項技術最大限制因素將是我們的法律……可以稱之為基礎設施，我們討論的是所有計算基礎設施，那麼法律基礎設施如何發展以應對這一點呢？整個世界都是建立在諸如人類擁有財產、擁有權利和承擔責任等概念上的。這是一個根本問題，首先必須問清楚的是，這對現在人類作為工具使用的所有事物意味著什麼？如果人類將更多的權力委托給這些工具，那麼這種結構將如何發展？在這個問題得到真正解決之前，我認為光談技術能力是無法實現的。
Dwarkesh Patel：意思是，在我們搞清楚如何解決這個問題之前，我們不能部署這種類型的智能？
Satya Nadella：完全正確。因為歸根結底，今天你無法部署這些智能，除非有某個人為其提供擔保。
就像你說的，這也是為什麼我認為，即使是最強大的 AI，基本上也還是在人某個類的授權下運作。你可以說，哦，那都是對齊問題，等等。正因如此，我認為你必須真正確保這些對齊能夠發揮作用，並且能夠以某種方式驗證，但我就是不認為你可以部署那些失控的智能。例如，AI 的起飛問題可能會成為一個真正的問題，但在它成為真正的問題之前，真正的問題會出現在法庭上。沒有哪個社會會允許某個人說：“是 AI 幹的。”
Dwarkesh Patel：是的。世界上有很多社會，我想知道是否有哪個社會的法律體系會更為寬容。如果沒有起飛，那你可能會擔心。這不一定非得發生在美國，對吧？
Satya Nadella：我們認為沒有哪個社會能做到不在乎，對吧？雖然確實可能會有不法分子，我並不是說不會有不法分子，它們確實存在。
但要認為整個人類社會根本不在乎這一點，也是不對的。我認為我們所有人都會在意。我們現在知道如何應對流氓國家和不法分子。世界不會坐視不管，而說“我們可以容忍”。
Dwarkesh Patel：是的。但如果你能想象出經濟增長 10 %的景象，我認為這真的取決於像 AGI 這樣的東西能否發揮作用，因為數十萬億美元的價值，聽起來更接近人類工資的總和，約 60 萬億美元的經濟總量。要達到這種規模，你基本上必須在非常顯著的方式上自動化勞動或補充勞動。
如果這有可能，一旦我們弄清楚它的法律後果，那麼即便在你任期內，我們也有可能解決這個問題。你在考慮超人類智能嗎？就像你職業生涯中最大的成就就是這個？
Satya Nadella：你提到了另一個點。我知道 David Autor 等人談了很多這個問題，60% 的勞動——我認為需要解決的另一個問題是，至少在我們的民主社會中，穩定的社會結構和民主制度的運作不能僅僅依靠資本的回報，而沒有勞動的回報。我們可以討論這個問題，但這 60% 的勞動必須重新估價。
點個贊吧！您的鼓勵讓我們進步
無評論不新聞，發表一下您的意見吧| 分享: |
| 注： | 在此頁中閱讀全文 |
