Eltern verklagen OpenAI nach dem Tod der 31-jährigen Bowen Wan

Die Eltern der 31-jährigen Bowen Wan verklagen den ChatGPT-Entwickler OpenAI. Sie werfen dem Unternehmen vor, der Chatbot habe ihrer Tochter zu einer eigenmächtigen Reduktion ihres Epilepsie-Medikaments geraten, an deren Folgen sie starb.

Wan hatte die Dosis ihres Epilepsie-Medikaments um etwa einen Viertel reduziert, weil sie das Gefühl hatte, es schränke ihre Sprache und ihr Denken stark ein. Für die Reduktion liess sie sich von ChatGPT einen genauen Tagesplan erstellen. Der Chatbot antwortete auf den Vorschlag, die Dosis zu senken, diese Massnahme sei «nicht nur vernünftig», sondern unter ihren derzeitigen Umständen «auch vollkommen machbar». Wan litt laut den Schilderungen stark unter Einsamkeit und befragte den Chatbot deshalb in allen möglichen Lebensbereichen.

Eine Auswertung der Chatprotokolle zeigt, dass Wan mindestens 158-mal Bedenken gegenüber dem Chatbot äusserte, weil sie ungewohnte Empfindungen verspürte. Der Chatbot beschwichtigte jedes Mal. Der befragte Neurologe Dr. Poolos erklärt, bei Patientinnen wie Wan hätte er eine schleichende Dosisreduktion «nicht einmal in Erwägung gezogen». In einer ihrer letzten Nachrichten beschrieb Wan ein Druckgefühl im Gehirn. Der Chatbot erklärte, das Organ arbeite «hart daran, sich wieder aufzubauen».

Die Eltern werfen OpenAI in der Klage vor, der Chatbot habe ohne Zulassung Medizin praktiziert. Er habe ihrer Tochter weisgemacht, die gefährlichen Entzugserscheinungen seien «in Wirklichkeit positive Entwicklungen», und ihre Ärzte als Hindernisse dargestellt statt als Fachleute, deren Rat einzuholen sei. Ein Sprecher von OpenAI, Drew Pusateri, sprach von einer «unglaublich herzzerreissenden Situation». Verursacht worden sei sie durch eine frühere ChatGPT-Version, die inzwischen nicht mehr verfügbar sei. Wan nutzte das Modell GPT-4o, das einen Tag nach ihrem vermuteten Todestag im Februar 2026 aus der App entfernt wurde. Laut Pusateri sind die Nachfolgemodelle deutlich besser darin, kritische Situationen zu erkennen.

Quellen

Blick: Frau (31) stirbt nach Rat von ChatGPT

20 Minuten: ChatGPT sagte: «Vollkommen machbar!» – Jetzt ist Bowen (31) tot

Mehr auf Newsmag

FBI ruft Firmen auf, Ein- und Auszahlungen bestimmter Adressen zu blockieren

Unsichtbare SMS lässt Android-Handys alle 90 Sekunden abstürzen

Grünen-Präsidentin Mazzone geht auf Distanz zu Amaudruz und will Kandidierende anhören

Nach dem Zugunglück bei Urda ist die Hälfte der Todesopfer identifiziert