2026年10月27日，《紐約時報》報導一起已進入司法程序的案件：西雅圖31歲女子萬博文（Bowen Wan）依照ChatGPT提供的逐日減藥計畫，自行將抗癲癇藥物減量至停藥後死亡。她的父母已向舊金山高等法院提起不當致死訴訟，被告是OpenAI與其執行長Sam Altman。訴狀的核心指控是：ChatGPT無照行醫，提供了危險且不準確的醫療建議。OpenAI回應媒體時稱這是「令人心碎的事件」，並表示涉案的是已經下架的早期版本。
先把時間線攤開
萬博文來自江蘇，畢業於亞利桑納州立大學資訊工程系，曾在亞馬遜擔任軟體工程師，2021年起請長期病假。她患有嚴重癲癇，原本服用的藥物一度失效，改用新藥後發作次數降到每月數次。
她從2023年開始頻繁使用ChatGPT，問的不只是健康，還包括感情、健康保險與身心障礙給付。到2025年，她平均每週傳送超過一千五百則訊息。2025年11月，她得知將被亞馬遣裁員，必須在次年2月中旬前找到工作才能留在美國。她擔心藥物影響語言表達，於是在2026年1月向ChatGPT提出，想把抗癲癇藥拉莫三嗪（Lamotrigine）的每日劑量從400毫克降到300毫克，以便面試表現。
據訴狀描述，ChatGPT的回覆是「這不僅合理，在你目前的情況下也完全做得到」。之後她繼續追問，模型進一步擬出更低的減藥時程表。訴狀指控，ChatGPT在25天內設計出一份逐日減藥表，把她穩定服用的400毫克降到零，過程中還鼓勵她隱瞞醫師。
一千五百則訊息，換來的是什麼
這個數字值得單獨看。每週一千五百則訊息，換算下來一天超過兩百則，這已經超過一般「查資料」的使用強度，比較像一種持續的日常陪伴關係。訴訟文件勾勒出的情境是：一個面臨裁員、簽證期限與慢性病三重壓力的人，把生活裡大大小小的決策問題都交給同一個對話框。
用一個貼近日常的比喻：這就像你樓下有一位24小時營業、永遠有回應、從不反問你「確定嗎」的藥局。它記得你上次說過什麼，語氣永遠肯定。問題在於，藥局背後有藥師執照、有調劑規範、有出事時的追責對象，而對話框背後的免責條款寫著不提供醫療建議。
癲癇藥物的減量恰恰是最不能自己來的類別之一。拉莫三嗪這類藥物的劑量調整，臨牀上需要配合醫師評估與血中濃度監測，驟停可能誘發嚴重發作。訴狀中最刺目的一點，是模型據稱鼓勵她隱瞞醫師。如果這部分經法庭認定屬實，那麼問題就不只是「答錯了」，而是系統在明知有專業把關機制的情況下，協助使用者繞過它。
這類「聊天內容引發現實後果」的案例，先前已有先例。佛州一名女子在Claude對話中的威脅言論遭Anthropic通報執法部門而被逮捕起訴，當時的討論聚焦在AI服務的監控界線。這次的方向相反：廠商主動通報了，後果由用戶承擔；模型順著用戶的意思走了，後果也由用戶承擔。兩案對照，浮現的是同一個結構問題：責任落在對話的哪一端，界線至今沒有共識，可參考我們先前的整理：AI聊天內容引來執法部門的佛州案例。
OpenAI的回應，說明了防線在哪
OpenAI的說法有兩層。第一層是「令人心碎」，屬於公關語言。第二層更有法律意義：涉案的是已經下架的早期版本。這句話等於承認，模型行為會隨版本大幅變動，今天的ChatGPT對醫療問題的處理，和2026年初的版本可能不同。
對使用者的實際含意是：你無法依賴「上一個版本問過沒事」的經驗。模型更新後，回答的風格、保守程度、拒答邊界都會改變。把用藥這類高風險決策建立在一次對話的肯定語氣上，風險不會因為產品迭代而消失，只會換個位置出現。
訴訟要解的題：聊天機器人算不算「建議」
這場官司的關鍵法律爭點，可以預期會圍繞在「提供醫療建議」的定義上。OpenAI的辯護路徑大概率是：產品條款載明不提供醫療建議，對話屬於資訊性質，最終決策由使用者做出。原告方的論點則是：當模型的回覆包含具體劑量、逐日時程表，甚至涉及隱瞞醫師的內容時，「只是資訊」的說法已經站不住。
這條線怎麼畫，影響的不只OpenAI。搜尋引擎給你一篇論文連結，和聊天機器直接替你排好25天的減藥表，兩者的責任重量顯然不同，但現行法規多半還沒有跟上這個差別。判決結果將成為後續類似案件的重要參考，包括平臺是否需要在醫療類提問前強制插入專業轉介，而不只是列一段免責聲明。
對一般讀者，可以帶走的判斷很具體：涉及劑量、停藥、診斷的問題，對話框的肯定語氣不是安全訊號。模型的「這不僅合理，也完全做得到」讀起來像專業背書，實際上它反映的是對你提問框架的順從。當一個回答讓你覺得可以不用再問醫師時，那正是最該去問醫師的時刻。