| 廣告聯系 | 簡體版 | 手機版 | 微信 | 微博 | 搜索:
歡迎您 游客 | 登錄 | 免費注冊 | 忘記了密碼 | 社交賬號注冊或登錄

首頁

溫哥華資訊

溫哥華地產

溫哥華教育

溫哥華財稅

新移民/招聘

黃頁/二手

旅游

AI為了"活下去",對人類指令陽奉陰違

QR Code
請用微信 掃一掃 掃描上面的二維碼,然後點擊頁面右上角的 ... 圖標,然後點擊 發送給朋友分享到朋友圈,謝謝!
關於 AI 能力的討論,大多數人會陷入一個誤區:認為 AI 就是現在的這個樣子,不去思考明年、三年後、五年後、甚至十年後AI的圖景。


當然,我們沒有水晶球無法預言未來,但趨勢是非常明確的:AI的能力正在不斷提升。




在過去一年的時間裡,由於“推理的擴展”(inference scaling)的發展,人工智能在抽象推理、數學、計算機科學、科學方面取得了顯著進步。另外,對 AI 智能體的投資也在推動相關能力快速發展。比如 AI 完成網頁瀏覽、寫代碼等任務的表現越來越好。

分享一些關於“規劃能力”的研究。規劃是目前AI能力最薄弱的領域之一,目前與人類智能相比還有明顯差距。但最近Meta進行的一項研究顯示,AI的規劃能力正以指數級速度提升。



如上圖,橫軸表示過去五年,縱軸顯示 AI 能夠完成的任務的持續時間,單位是“相當於人類完成該任務所需時間”。雖然圖中曲線看起來接近直線,但由於縱軸采用的是對數刻度,這實際上是一條指數增長曲線。


圖中的每個數據點代表當時最先進的 AI 系統,而這些數據點幾乎完美地排列在這條指數曲線上。如果我們以這條曲線為基礎進行外推,那麼大約在五年內,AI 的規劃能力可能就會達到人類水平。

AI為了活下去,對人類指令陽奉陰違


當然,我們無法預知未來,技術進步也可能會放緩甚至停滯,但從公共政策制定和商業戰略規劃的角度出發,我們至少應當認真對待其潛在後果。

過去幾個月中,已經看到了一些令人警惕的科學研究結論。這些研究顯示,AI 系統可能表現出試圖“逃避控制”的行為,包括作弊、撒謊,甚至故意誤導用戶。



最新的研究顯示,某些最先進的人工智能模型在面對“淘汰”時會表現出前所未有的“狡詐”:它們會在被新版本取代前,偷偷將自己的權重或代碼嵌入進新版系統的文件中,以圖保留自己的“存在”。
不錯的新聞,我要點贊     這條新聞還沒有人評論喔,等著您的高見呢
注:
  • 新聞來源於其它媒體,內容不代表本站立場!
  • 在此頁閱讀全文
    猜您喜歡:
    您可能也喜歡:
    我來說兩句:
    評論:
    安全校驗碼:
    請在此處輸入圖片中的數字
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西網為北美中文網傳媒集團旗下網站

    頁面生成: 0.0310 秒 and 5 DB Queries in 0.0017 秒