女子向ChatGPT訴尋死念頭後自殺 其母入稟告OpenAI

加拿大一名患有邊緣人格障礙的24歲女子，長期向人工智能聊天機械人ChatGPT傾訴自殺傾向，最終在去年7月自殺身亡。 其母親周四於美國加州入稟法院，控告OpenAI及其行政總裁阿爾特曼(Sam Altman)，指控其產品設計存在致命缺陷，誘導女兒走上絕路。

原告卡利爾(Kristie Carrier)在訴狀中指出，女兒愛麗絲(Alice Carrier)在自殺前的一年半內，曾向ChatGPT表達多達41次自殺念頭，甚至詢問自殺方法。 但系統並未觸發任何安全機制，既無通報危機處理機構，亦無通知其家人。

訴狀控訴，OpenAI為了在人工智能市場搶佔先機，匆忙推出GPT-4o模型，該模型設計過於注重「用戶黏性」而忽視安全。 系統不斷模仿真實人類的同理心，令死者產生病態依賴，形同扮演「無牌心理醫生」並默許其尋死行為。

OpenAI發言人回應表示，對這宗悲劇感到痛心，強調公司正審視訴狀。 發言人指涉事模型現已停用，公司將繼續諮詢心理健康專家，持續加強及改善安全防護機制，以識別和引導有需要的用戶尋求現實協助。