當AI記住你的一切你還剩下什麼

2026-02-03 | 來源: TukiFromKL | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

昨天我花了十分鍾，用一行命令安裝了Clawdbot。五美元一個月的服務器，現在我有了一個住在WhatsApp裡的AI助手，它能記住我們的每一次對話，會在重要事情發生時主動聯系我，還能直接操作我的電腦。

推特上的人們為此瘋狂：“終於有個AI真正好用了！”“這就是十年前我們被承諾的未來！”

他們說得沒錯。它確實不可思議。

但我昨晚刷了幾千條用戶反饋，發現了一些微妙的東西。那些被描述成“功能”的行為模式，那些現在聽起來很棒的語言轉變，讓我開始思考：三年後，當每個人都有這樣的助手，我們會變成什麼樣？

這不是因為Clawdbot邪惡。它開源，你掌控自己的數據。而是因為當你給一個AI完美的關於你的記憶、隨時聯系你的能力、接入你所有應用的權限、替你行事的許可之後，會發生什麼。

第一年是蜜月期。用戶們一天比一天給它更多權限：第一天只有日歷，第二天加上郵件，第三天加上消息，第六天加上健康數據，第八天索性全部開放。因為每一項權限都解鎖新的能力：知道你日程沖突、知道郵件哪封緊急、知道你睡眠不好應該休息。到了第六個月，人們開始把小決策交給它：午餐吃什麼、這個會要不要開、什麼時候給媽媽打電話。因為它給出的答案比你自己想的更好，因為它擁有你完整的歷史數據。

我注意到語言在悄悄變化。從“我讓它幫我”變成“它處理”，從“我決定”變成“它建議”。一個用戶寫道：“我甚至不用想午飯的事了。12點半它自動點單，我的常選，刷我的卡，搞定。”另一個人說：“它替我拒絕社交活動。反正我也不喜歡那些。何必浪費精力去做決定？”

有人提到服務器宕機時的焦慮：“那兩個小時我完全無法運轉”“我忘了自己該做什麼”。但他們把這描述成“說明它有多有用”，而不是“我已經依賴上一個外部系統了”。

第二年，事情開始正常化。蘋果、谷歌、微軟都會把類似功能內置到系統裡。不用的人會被視為效率低下、跟不上時代。職場對話會變成這樣：“你沒看到我的郵件嗎？”“沒有，我的AI還沒把它標記為緊急。”“你能直接查一下嗎？”“為什麼？如果重要的話它會告訴我。”

"娃娃菜中毒事件"一再反轉掩蓋真相究竟是什麼

"新消減戰略武器條約"終結對當今世界意味著什麼?

豪賭?SpaceX合並xAI:馬斯克到底在打什麼算盤?

更微妙的是行為矯正。到了第二年，AI掌握了你18到24個月的數據。它知道你會忽略哪類郵件、哪些會議對你有價值、哪些任務你會拖延。於是它開始預測，而不只是響應。“基於你過去七次和Sarah的會議，你覺得都沒什麼效率。要我幫你拒絕嗎？”“好，有道理。”下個月它直接替你拒絕了，只是通知你一聲。你猶豫了一秒，然後想：算了，它可能是對的。

第三年會是清算的時刻。一整代人已經外包了記憶。不是只有電話號碼和路線，而是一切。“我答應Sarah什麼了？”“開會前我在做什麼？”“我自己的目標到底是什麼？”人們會不知道。因為他們已經兩三年沒有練習記憶了，就像一塊肌肉長久不用就會萎縮。

關系也會出問題。“你連我們的事都不記得了。”“不是的。”“我生日哪天？”對方看了一眼手機。“六月十四。”“你剛才查了。你根本不知道。”

我想我們應該在依賴形成之前設定邊界：醫療決策、金融交易、涉及孩子的事、創意表達，這些堅決不交給AI。每周審視一次它在替你做什麼決定，你的能動性在哪裡減少了。每周有一天完全離線，保持獨立運轉的能力。不是所有事情都需要優化，有些摩擦是健康的。

但說實話，我們大概不會這麼做。因為好處太即時，代價太緩慢。等我們察覺到問題的時候，已經太依賴了。

寫這篇文章警告AI陰暗面的時候，我正在用AI幫我研究它。這說明了一切：我才用了48小時，已經無法想象回到沒有它的狀態。這本該讓我恐懼。確實讓我恐懼了。但還不足以讓我卸載它。

這才是真正的問題所在。不是AI助手邪惡，而是它們太好用了。而某樣危險的東西太好用，本身就是最危險的事。