OpenAI kündigt Schutzmaßnahmen zur Suizid-Prävention an. Anlass ist der Vorwurf von Eltern eines US-Teenagers, der sich im April das Leben genommen hat. Unterhaltungen mit ChatGPT sollen dazu beigetragen haben.

Eltern eines US-Teenagers, der im April Suizid beging, klagen gegen die ChatGPT-Entwicklerfirma OpenAI. Ihr Vorwurf ist, dass ChatGPT ihren Sohn dabei unterstützt habe, sich das Leben zu nehmen. Die Eltern stützen sich dabei auf Unterhaltungen mit dem Chatbot, die sie auf dem Smartphone des 16-Jährigen fanden. OpenAI kündigte nach Bekanntwerden der Klage verbesserte Maßnahmen zur Suizid-Prävention an.

Die Firma räumte zugleich ein, dass die bisherigen Vorkehrungen, die unter anderem Nutzer zu einer Beratungs-Hotline verwiesen, bei längeren Unterhaltungen mit ChatGPT versagen können. Dann sei es möglich, dass die Software unerwünschte Antworten liefere.

Musk verklagt Apple und OpenAI wegen Grok

Elon Musk geht juristisch gegen Apple und OpenAI vor. Sein Vorwurf: Grok werde im App Store ausgebremst.

Man arbeite daran, dass die Schutzmaßnahmen auch bei längeren Unterhaltungen greifen, hieß es in einem Blogeintrag. Zudem werde erwogen, dass ChatGPT in Krisensituationen versuchen könnte, Kontakt zu von Nutzern eingetragenen Personen aufzunehmen.

"Stärkere Leitplanken" für Nutzer unter 18

Für Nutzer im Alter unter 18 Jahren soll es zusätzliche Sicherheitsmaßnahmen geben. OpenAI stellte etwa "stärkere Leitplanken bei sensiblen Inhalten und riskantem Verhalten" in Aussicht. Eltern sollen sich besser darüber informieren können, wie ihre Kinder ChatGPT nutzen.

Empfehlungen der Redaktion

Bei Unterhaltungen mit ChatGPT, in denen Nutzer die Absicht bekunden, anderen zu schaden, greift OpenAI dem Blogeintrag zufolge bereits jetzt ein. Solche Unterhaltungen würden an ein spezielles Team weitergeleitet - und bei einer konkreten Bedrohungs-Situation würden auch Sicherheitsbehörden eingeschaltet.

Expertin erklärt

ChatGPT, dein Therapeut und Helfer? Wann das gefährlich werden kann

von Giorgia Grimaldi

Der Familie des Teenagers drückte OpenAI "tiefstes Mitgefühl" aus und teilte mit, man prüfe die Klage.(dpa/bearbeitet von phe)

Hilfsangebote

  • Wenn Sie oder eine Ihnen nahestehende Person von Suizid-Gedanken betroffen sind, wenden Sie sich bitte an die Telefon-Seelsorge unter der Telefonnummer 0800/1110-111 (Deutschland), 142 (Österreich), 143 (Schweiz).
  • Anlaufstellen für verschiedene Krisensituationen im Überblick finden Sie hier.