說錯一個字，AI 就跑偏了：語境理解的黑洞與你真正該擔心的風險

問題不在「答錯」，在「答得像對的」

過去一年，我觀察過數百個生成式 AI 的實際使用案例。讓我印象最深的，不是那些明顯離譜的錯誤——那些反而好辦，使用者看一眼就知道不對勁。真正危險的，是那種語氣自信、格式漂亮、邏輯通順，但語境完全錯位的回答。

舉一個具體案例。某家台灣中型電商導入 AI 客服，訓練語料涵蓋退換貨政策、商品說明等。一位消費者詢問：「我買的東西壞了，可以退嗎？」AI 給出標準退貨流程，完全正確——但這位消費者用的是企業帳號，適用的是另一套 B2B 合約條款，退貨窗口已過，法律責任歸屬也不同。AI 沒有識別出「企業帳號」這個語境訊號，給了一個在消費者端完全正確、在企業端卻造成客訴與法律糾紛的答案。

這就是語境黑洞的本質：AI 沒有說謊，它只是活在錯誤的情境裡。

語境理解的三層失敗模式

要理解這個問題的深度，必須拆解語境的構成。

第一層：字面語境的歧義處理

生成式 AI 在處理一詞多義時，表現高度依賴統計分佈。「打針」在醫療語境是注射，在台灣口語是被批評，在某些討論串裡甚至指投資爆雷。模型傾向選擇訓練資料中出現頻率最高的解讀，而不是最符合當前對話脈絡的那一個。這在日常聊天影響有限，但在醫療諮詢或財務建議場景，一個詞的誤判就是完全不同的行動方向。

第二層：對話歷史的記憶失真

大多數目前主流的 LLM 在長對話中存在「注意力衰減」問題。OpenAI 的技術報告曾揭示，隨著對話輪次增加，模型對早期訊息的權重顯著下降。實際使用中，這代表：你在第一輪告訴 AI「我是律師，請以法律專業角度回答」，到了第十五輪，它很可能已經在用一般大眾的框架在回答你，而語氣依然維持著「專業」的外表。

第三層：隱性社會語境的缺失

這是最難被察覺的一層。人類溝通中大量倚賴的不只是文字，還有身份、關係、時間點、文化慣例所構成的隱性框架。「這個計畫可以嗎？」從上司口中說出和從下屬口中說出，是兩個完全不同的問題。AI 在沒有被明確告知這些背景的情況下，預設會套用一個「中性」的情境——而那個中性，其實是訓練資料所定義的統計平均值，不見得是你所在的那個世界。

高風險場景的真實踩雷地圖

我整理過幾個語境失敗代價最高的應用場景，值得逐一點名：

• 法律諮詢：不同司法管轄區的法規差異巨大，而 AI 在缺乏明確提示的情況下，常常混用不同地區的法條邏輯。更危險的是，它不會主動聲明「我不確定這適用於你的地區」。
• 醫療資訊：「成人劑量」這個詞，在兒科科室和一般門診是完全不同的計算基礎。已有研究（如 2023 年《JAMA Internal Medicine》的評估研究）指出，AI 在醫療問答中的情境敏感度明顯不足，且對特殊族群（孕婦、老人、慢性病患）的語境調適能力偏弱。
• 財務建議：「保守型投資策略」對一個 35 歲的上班族和一個 68 歲的退休人士，意義截然不同。AI 在未被告知使用者生命周期階段的情況下，很容易給出看似穩健、實則不適配的建議。
• 多語言 / 跨文化客服：相同的中文句子，在台灣、香港、中國大陸的語用習慣有顯著差異。AI 在未做區域語境標記的部署環境中，常常用「普通話邏輯」解讀台灣慣用語，導致語氣或意涵的偏差。

為什麼這個問題被系統性低估？

語境失敗之所以難被重視，有一個根本原因：它的錯誤通常不觸發即時警報。

一個資料庫查詢錯誤會讓系統崩潰，你立刻知道出問題了。但一個語境錯位的 AI 回答，會順暢地進入你的決策流程，在幾天後、幾週後，甚至幾個月後才以某個下游結果的形式顯現。因果鏈被稀釋了，責任歸屬也跟著模糊。

更麻煩的是，這與 AI 的流利度呈正相關：模型越能生成通順的文字，使用者越傾向於高估其「理解」能力。這是一種認知錯覺——流利不等於理解，語氣自信不代表語境正確。

觀察家的結語：應對語境風險的三個原則

我不認為這個問題能被「下一個更強的模型」完全解決。語境的複雜性本質上是人類社會的複雜性，而那個複雜性是無限維度的。

但有幾個操作層面的原則，是現在就可以執行的：

一、高風險場景必須強制語境輸入。 在任何涉及法律、醫療、財務的 AI 應用中，使用者身份、地區、目的應該是必填欄位，而不是「可選背景資訊」。

二、不要把 AI 的沉默當作認可。 語境失敗最常見的型態，就是 AI 沒有提問、沒有確認，直接給出答案。高品質的 AI 部署，應該設計主動澄清語境的機制，而不是讓模型自行腦補。

三、輸出要附帶語境假設的透明揭示。 如果 AI 回答是基於某個語境假設（如「假設你是一般消費者」），這個假設應該被顯示出來，讓使用者有機會修正。

語境理解不只是技術問題，它是一個信任設計問題。在那個問題被認真對待之前，「AI 說的」和「AI 在你的情況下說的對的」之間，永遠存在一條值得警惕的裂縫。