Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

Pallade Veneta - Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

BOULEVARD 02.09.2025
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: Kirill KUDRYAVTSEV - AFP

Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.

Textgröße ändern:

OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.

Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.

OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".

Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.

Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.

Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

O.Pileggi--PV

Empfohlen

Raubkopienportal movie2k: Justiz zieht Millionenbetrag von Verurteiltem ein

Im Fall des ehemals führenden deutschen Raubkopienportals movie2k hat die Justiz bei einem Mittäter erstmals Taterlöse von mehr als zweieinhalb Millionen Euro eingezogen. Der 44-jährige Immobilienmakler aus Berlin wurde im April vom Amtsgericht Leipzig wegen Geldwäsche zu zehn Monaten Haft auf Bewährung verurteilt, wie die Generalstaatsanwaltschaft Dresden am Montag mitteilte.

Suche nach Erdbeben-Überlebenden in Venezuela: Vater und Sohn gerettet

Nach dem schweren Doppel-Erdbeben in Venezuela suchen Rettungsmannschaften in einem Wettlauf mit der Zeit in den Trümmern eingestürzter Gebäude weiter nach Überlebenden. Der Präsident der venezolanischen Nationalversammlung, Jorge Rodríguez, bezifferte die Zahl der Toten am Sonntag auf 1450, tausende Menschen wurden verletzt. Doch es gab auch Lichtblicke: Ein Vater und sein Sohn wurden am Sonntag in Caraballeda lebend aus den Trümmern geborgen.

Elf Tote bei Flugzeugabsturz in Frankreich - Opfer wollten Tandemsprung absolvieren

Sie wollten nur einen Tandem-Fallschirmsprung absolvieren: Beim Absturz eines Kleinflugzeugs im Osten Frankreichs sind alle zehn Passagiere sowie der Pilot ums Leben gekommen. Das Unglück ereignete sich nach Angaben des örtlichen Präfekten am Sonntag in der Nähe von Nancy. Nach Angaben der französischen Flugsicherheitsbehörde BEA handelt sich um eines der folgenschwersten Unglücke mit einem Kleinflugzeug in Frankreich. Die Unglücksursache war zunächst unklar.

Baby aus Krankenhaus in NRW entführt: Polizei nimmt 18-Jährige fest

Nach der zwischenzeitlichen Entführung eines Neugeborenen aus einem Krankenhaus in Nordrhein-Westfalen hat die Polizei eine 18-jährige Tatverdächtige vorläufig festgenommen. Wie die Staatsanwaltschaft Hagen und die Kreispolizeibehörde Märkischer Kreis am Sonntagabend mitteilten, wurde die Lüdenscheiderin am Nachmittag nach einer Reihe von Hinweisen gefasst. Das sieben Tage alte Baby war am Samstag nach knapp einer Stunde in einem Parkhaus entdeckt und in die Klinik in Lüdenscheid zurückgebracht worden.

Textgröße ändern: