OpenAI 又被告了，這次是美國的一名牧師。

他說自己頭暈到只能爬著去廁所了，ChatGPT 仍沒有讓他立刻就醫，而是教他怎麼爬回躺椅繼續休息。
一個月後，他就因雙側大面積肺栓塞進了 ICU。
這名牧師 55 歲，長期使用 GPT 詢問健康問題。
起初 GPT 還會提醒他去看醫生，後來這些提醒越來越少，模型開始替他解釋檢查結果，安排補充劑和藥物，還給他設計了一套「躺椅恢復方案」。
有一次，他在講道時突然嚴重頭暈，連禮拜都沒法繼續，GPT 把他的症狀解釋為神經系統正在「重新校準」，讓他放鬆，回家繼續躺著。
教會的人後來勸他去醫院，但 GPT 卻告訴他，這些人根本不理解他正在進行的恢復方式。
進 ICU 前幾個小時，他又問 GPT，為什麼自己的腹股溝一按就痛，GPT 說這只是個「小插曲」，不危險。
隨後，他開始呼吸困難、胸口劇痛、心悸和嘔吐，最後自己撥打了 911。
牧師現在指控 OpenAI 的產品設計存在缺陷，未充分警告用戶，並涉嫌無證行醫。
他當時使用的是一般 ChatGPT 中的 GPT-4o，不是後來上線的 ChatGPT Health，但他要求法院暫停 ChatGPT Health，直到獨立機構完成安全審計。
OpenAI 回應，ChatGPT 不能替代醫生，也不應用於診斷或治療。