| 廣告聯系 | 簡體版 | 手機版 | 微信 | 微博 | 搜索:
歡迎您 游客 | 登錄 | 免費注冊 | 忘記了密碼 | 社交賬號注冊或登錄

首頁

溫哥華資訊

溫哥華地產

溫哥華教育

溫哥華財稅

新移民/招聘

黃頁/二手

旅游

DeepSeek的副作用,被越來越多人發現

QR Code
請用微信 掃一掃 掃描上面的二維碼,然後點擊頁面右上角的 ... 圖標,然後點擊 發送給朋友分享到朋友圈,謝謝!
技術是把雙刃劍。


說在前面:

AI確實是趨勢,也很大程度上提高效率,特別是DeepSeek開源之後,AI的使用更加普及,現在不管是政務系統,還是企業辦公,都要求員工要使用DeepSeek。


但同時,隨著使用人數的增加,DeepSeek的副作用,也越來越多的顯示出來。

主要有這幾個:

1、一本正緊地瞎編

已經有很多人發現了,DeepSeek存在瞎編的情況,對於沒有知識儲備的人來說,很容易造成認知混亂。

為什麼會出現瞎編的情況呢?

我想主要是兩個原因:

第一,訓練機制

大模型的訓練特別強調獎懲機制,這就會讓AI傾向於取悅用戶,甚至為了完成任務而杜撰和瞎編,當然AI在生成這些信息的時候更天衣無縫,一本正緊的胡說八道,沒有知識儲備的人90%都會被唬住,信以為真。




如果這些信息被大規模傳播之後,再進行二次訓練,可能就會成為很多人的共識,估計人類的知識體系可能被顛覆,AI在這方面的效率比社交媒體的信息繭房厲害多了。

第二,語料質量

我們之前說過,開源大模型的問題在於:

它的推理能力是蒸餾而來的,也就是說,它訓練的語料都是正確答案,缺少信息標注和原始推理的過程。


這可能在遇到一些錯誤信息的時候,無法識別,同時因為獎懲機制的關系,迎合用戶生成了錯誤的信息。



所以,騰訊版DeepSeek接入公眾號文章做訓練,可能真的會增加幻覺的程度。

總結一下:

在一本正緊瞎編這部分,可能是多方面的問題,但如果不及時介入的話,造成的問題還是很嚴重的:

AI可能提高了很多人的認知下限,但是鎖死了絕大部分人的認知上限,大家都活在AI制造的信息繭房裡。

有點科幻了。

2、被用來做信息污染
1     這條新聞還沒有人評論喔,等著您的高見呢
上一頁123下一頁
注:
  • 新聞來源於其它媒體,內容不代表本站立場!
  • 在此頁閱讀全文
    猜您喜歡:
    您可能也喜歡:
    我來說兩句:
    評論:
    安全校驗碼:
    請在此處輸入圖片中的數字
    The Captcha image
    Terms & Conditions    Privacy Policy    Political ADs    Activities Agreement    Contact Us    Sitemap    

    加西網為北美中文網傳媒集團旗下網站

    頁面生成: 0.0296 秒 and 4 DB Queries in 0.0013 秒