你以為 AI 最大的威脅是搶工作？那個擔憂可能搞錯了方向
大眾最擔心的威脅，不一定是最危險的那個
每次 AI 相關調查出爐，「失業」幾乎都穩坐榜首。麥肯錫 2023 年報告估計，到 2030 年全球可能有 3 億個工作崗位受到自動化衝擊；世界經濟論壇的數字稍微樂觀，但同樣指向結構性轉型。
這些數字不假，但我一直覺得「搶工作」這個框架，讓大眾把注意力放在一個相對可見、可測量的維度上，卻忽略了一個更難察覺、破壞力也更深的威脅：生成式 AI 正在系統性地腐蝕人類對「正確」的感知能力。
流暢度是一把雙刃劍
讓我說清楚這個威脅的機制。
LLM（大型語言模型）的核心能力，是在統計概率上產生「下一個最合理的詞」。這個機制讓它的輸出異常流暢——語氣穩定、結構完整、甚至帶有學術腔調。問題是，流暢度在人類認知中會被自動解讀為可信度的代理指標。
心理學上有個現象叫「處理流暢性效應」（Processing Fluency Effect）：越容易被大腦處理的資訊，越容易被判斷為真實。當一個模型以完美的邏輯結構輸出一段錯誤的醫療建議，大多數非專業讀者不會質疑它——因為它「讀起來太對了」。
這不是假設性的風險。2023 年一項刊登於《JAMA Internal Medicine》的研究發現，ChatGPT 在回答病患常見健康問題時，有相當比例的回覆包含「令人擔憂的不準確資訊」，但這些回覆的語氣與格式往往讓受試者比較信任 AI 而非真人醫生。
錯誤的新型態：不是白目、是過度自信
傳統的錯誤訊息容易辨識——標點符號奇怪、語氣激進、來源不明。AI 製造的錯誤走向另一個極端：它是溫和的、中立的、有引用格式的，偶爾還帶有適當的「這是一個複雜議題」免責聲明。
我觀察到一個讓人不安的現象：部分用戶在使用 AI 工具一段時間後，會開始以「AI 也這樣說」作為終止討論的論據。當 AI 的輸出成為某種裁判角色，而不是輔助工具，知識驗證的鏈條就斷掉了。
這個問題在法律、醫療、財務這三個場域尤其嚴重。這些都是「差一點點就釀成大錯」的領域，而 AI 目前的幻覺（hallucination）問題——也就是模型以高信心輸出錯誤事實——恰好在這些高風險情境中最難被非專業人士識破。
不是模型的問題，是部署方式的問題
我想在這裡補充一個經常被誤解的區分：這個威脅的根源不全在模型本身，更大程度上是部署情境與使用者教育的缺失。
GPT-4、Claude 3、Gemini Ultra 在設計上都有不同程度的不確定性表達機制——它們「能夠」說「我不確定」，但產品層的設計往往鼓勵信心十足的回應，因為這才是用戶體驗評分高的回應方式。用戶想要答案，不想要猶豫。
當商業邏輯驅動模型走向「看起來更確定」，而不是「實際上更準確」，我們就把一個認知炸彈埋進了日常工作流。
那個被低估的長期效應
更深層的問題是時間維度上的。
如果人們長期在一個由 AI 輔助填充的資訊環境中生活，批判性閱讀與查核的肌肉可能會逐漸萎縮。這不是科幻情節——Google 的研究早就顯示，導航 app 普及後，人類的空間記憶能力平均下降。工具替代認知任務，不只是提升效率，也在改變大腦的使用頻率分配。
我不是在說我們應該停止使用 AI——那個論點在 2025 年既不現實也無意義。但當下最需要的，是把「AI 可信幻象」當成一個和「AI 失業」同等嚴肅的政策議題來處理：
- 教育體系是否在訓練學生辨識 AI 生成內容的潛在誤差？
- 企業是否有清楚的 AI 輸出審查流程，而不只是用 AI 加速內容產出？
- 監管框架是否要求高風險場域的 AI 系統必須標示不確定性區間？
結語：威脅不在取代，在於同化
搶工作是一個外部威脅——你看得見、可以抵抗、可以轉職、可以立法。
但當 AI 的輸出邏輯慢慢滲透進人類的判斷框架，當我們開始用「AI 風格的確定語氣」來評估什麼叫做「可信的答案」，那個威脅是內在的，也是更難逆轉的。
這，才是我認為最值得認真對待的生成式 AI 威脅。不是它取代了我們，而是我們在不知不覺中，開始讓它定義「什麼叫做正確」。
分享這篇
