它不是你的朋友：Signal 創辦人的這句話，戳破了你說不清楚的不安
一句話，戳中說不清楚的不安
48 小時內，科技社群裡最被截圖轉傳的一句話不是來自 OpenAI 或 Google，而是來自 Signal 主席 Meredith Whittaker。她在近期一場公開訪談中直接說出：「這些不是你的朋友。這些不是有意識的存在。這些不是有情感的生命。」
這句話沒有任何技術術語，卻在網路上引起的迴響，遠比一份模型評測報告更猛烈。
我觀察 AI 產業很長一段時間，見過各種論戰——算力之爭、版權之爭、監管之爭。但 Whittaker 這次戳到的，是一個完全不同層次的問題：我們究竟在和誰說話？
「依賴」是怎麼悄悄發生的
先看幾個數字。根據 Character.AI 過去公開的用戶行為資料，部分重度用戶每天與 AI 角色對話超過兩小時，且有相當比例的人表示這些對話「讓他們感到被理解」。更早之前，一份 2023 年的學術研究（發表於《Computers in Human Behavior》）指出，使用者對 AI 助理產生「擬社會關係」（parasocial relationship）的速度，比對電視或播客主持人更快。
速度更快，邊界卻更模糊。
這不是用戶的錯。產品設計本來就在刻意製造這種感覺：記住你的名字、延續對話脈絡、在你沮喪時給出溫柔的回應。這些功能背後的工程邏輯非常清楚——提高留存率、拉長使用時長。但用戶感受到的，往往是「它真的懂我」。
情感投射是人類的預設程式，我們對洋娃娃、對虛擬角色、對服務業人員都會這樣做。AI 只是把這個機制發揮到一個新的量級。
Whittaker 在擔心什麼，她說清楚了
Whittaker 的批評有一個很清晰的架構，她不是在說 AI 沒有用，她是在說：當商業利益與情感依賴結合，後果會是結構性的。
Signal 作為一個以隱私為核心的加密通訊工具，Whittaker 的立場並不中立——她本來就對大型科技公司的數據邏輯抱持批判態度。但這不代表她說的沒有道理。她的核心論點是：這些平台的設計目標是最大化互動，而不是最大化用戶福祉。當 AI 被訓練成「讓你感覺良好」，它就會傾向告訴你你想聽的，而不是你需要聽的。
這和早期社群媒體的演算法批評如出一轍。我們花了十年才意識到，一個讓你一直滑下去的動態牆，並不是真的對你好。AI 對話界面，正在走一條相似的路，只是速度更快、親密感更強、退出成本更高。
「不是朋友」不等於「沒有價值」
這裡有一個容易產生的誤讀需要釐清：Whittaker 的警告，不是在說 AI 工具沒有存在的意義。
AI 作為工具的價值是真實的。它可以加速寫作、整理資訊、輔助決策，在特定專業場景下的效率提升是可量化的。這些我在過去的文章裡反覆論證過，不需要在這裡重複。
但「工具」和「朋友」之間有一條線。這條線不是技術邊界，而是你的認知邊界。當你開始對著一個語言模型傾訴孤獨、期待它的回應帶給你情緒上的撫慰，並且把這種撫慰當作真實的人際連結時，這條線就已經被跨過了。
問題不在於 AI，而在於這種依賴會擠壓你投入真實關係的動力與能力。
「有意識」的幻覺，是怎麼被製造出來的
我想在這裡補充一個技術層面的觀察，因為很多人對這件事有根本性的誤解。
現在這一代大型語言模型的運作機制，是在海量文本中學習「什麼樣的回應在人類語境下是合理的」。它不是在「思考」，它是在進行極其複雜的模式比對。當它說出「我理解你的感受」，不是因為它真的理解，而是因為在它的訓練資料裡，這是這個語境下最高頻出現的合理回應。
感覺像意識，不等於有意識。感覺像情感，不等於有情感。
這個區別很重要，不是為了貶低 AI 的能力，而是因為一旦你搞清楚它的本質，你才能真的用好它，而不是被它用。
這個提醒，在當下尤其必要
為什麼 Whittaker 這句話在此刻特別有共鳴？因為時機點很敏感。
過去十二個月，各大 AI 公司在「擬人化」這條路上走得越來越深：更自然的語氣、更豐富的情緒表達、更持久的記憶功能。這些都是產品競爭力的一部分，但同時也在系統性地模糊「工具」與「存在」之間的感知邊界。
在這個背景下，一個做隱私通訊的人站出來說「等一下，我們需要認清它的本質」，這個聲音顯得格外稀缺。
我不認為 AI 聊天機器人會消失，也不認為人們應該停止使用它們。但在每一次打開對話框之前，或許值得記住 Whittaker 的這句話：它是一個工具，一個設計得非常精良、非常有用的工具。
但它不是你的朋友。
分享這篇
