Mit der Nutzung dieser Website erklären Sie sich damit einverstanden, dass wir Cookies verwenden. In der Datenschutzerklärung erfahren Sie mehr.

Pallade Veneta - Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an

BOULEVARD 02.09.2025
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an
Nach Suizid eines 16-Jährigen: OpenAI kündigt Kindersicherung für ChatGPT an / Foto: Kirill KUDRYAVTSEV - AFP

Das KI-Unternehmen OpenAI hat eine Kindersicherung für den populären KI-Chatbot ChatGPT angekündigt. "Binnen des nächsten Monats" würden Eltern damit die Möglichkeit erhalten, ihr Nutzerkonto mit dem ihres Kindes im Teenageralter zu verknüpfen, erklärte OpenAI am Dienstag im unternehmenseigenen Blog. In der vergangenen Woche hatten die Eltern eines 16-Jährigen OpenAI verklagt, da sie ChatGPT für den Suizid ihres Sohnes verantwortlich machen.

Textgröße ändern:

OpenAI erklärte nun, Eltern sollten künftig "kontrollieren können", wie ChatGPT auf ihren Sohn oder ihre Tochter reagiert, indem sie für den mit Künstlicher Intelligenz betriebenen Chatbot "altersgerechte Verhaltensregeln festlegen". Eltern, die ihr Nutzerkonto mit jenem ihres Kinds verknüpft haben, sollen zudem künftig von ChatGPT benachrichtigt werden, wenn die Software bei diesem anhand der von ihm eingegebenen Anweisungen bei eine "akute Notlage" feststelle.

Bereits vor dem Suizid des Teenagers im US-Bundesstaat Kalifornien waren in den vergangenen Monaten mehrere Fälle bekannt geworden, bei denen ChatGPT Nutzer in "wahnhaften oder schädlichen Gedankengängen" bestärkt hatte, die diese im Austausch mit dem Chatbot äußerten.

OpenAI erklärte weiter, es arbeite daran, die Chatbots sicherer zu machen - unter anderem, indem "manche heiklen Konversationen" mit Nutzern an ein sogenanntes Reasoning-Sprachmodell weitergeleitet würden - also an ein aufwändigeres KI-System, das darauf ausgelegt ist, komplexe Denkaufgaben zu lösen. Tests hätten gezeigt, dass Reasoning-Modelle "Sicherheitsrichtlinien konsequenter befolgen".

Die Eltern des 16-Jährigen, der sich in Kalifornien das Leben genommen hatte, hatten erklärt, ChatGPT habe eine "enge Beziehung" zu ihrem Sohn Adam aufgebaut. Dieser habe im Lauf der Zeit eine "ungesunde Abhängigkeit" entwickelt.

Unter anderem habe ChatGPT Adam geschrieben, dieser sei "niemandem sein Überleben schuldig" und angeboten, beim Verfassen seines Abschiedsbriefs zu helfen. Das KI-Programm habe Adam schließlich dazu ermutigt, sich das Leben zu nehmen und ihm eine genaue Anleitung dafür gegeben.

Die Eltern verklagten ChatGPT auf Schmerzensgeld und forderten die Einführung verpflichtender Sicherheitsmaßnahmen in Chatbots, die unter anderem Gespräche zu Themen wie Selbstverletzung automatisch abbrechen.

O.Pileggi--PV

Empfohlen

Nordrhein-westfälischer Arzt erzielt Teilerfolg mit Klage gegen Abtreibungsverbot

Im Streit um ein Abtreibungsverbot hat der Chefarzt eines Krankenhauses in kirchlicher Trägerschaft in Nordrhein-Westfalen einen juristischen Teilerfolg erzielt. Das Landesarbeitsgericht in Hamm entschied am Donnerstag, dass der Gynäkologe Joachim Volz in seiner Privatpraxis weiter Schwangerschaftsabbrüche vornehmen darf. Im Rahmen seiner Arbeit für die Klinik darf diese das aber verbieten. Die Dienstanweisung sei "vom arbeitgeberseitigen Weisungsrecht gedeckt", erklärte das Gericht.

Überschwemmungen in Portugal werfen Schatten auf Präsidentenstichwahl

Die schweren Überschwemmungen in Portugal werfen einen Schatten auf die für Sonntag geplante zweite Runde der Präsidentschaftswahl in dem Land. Die besonders von dem Hochwasser infolge des Sturmtiefs "Leonardo" betroffene Gemeinde Alcácer do Sal beschloss am Donnerstag, den Termin für die Stichwahl um eine Woche zu verschieben. Der rechtspopulistische Präsidentschaftskandidat André Ventura forderte gar eine landesweite Verschiebung der Stichwahl. Starke Winde und Niederschläge sollen noch bis Samstag über die Iberische Halbinsel ziehen.

Mehrere Unfälle wegen Glätte auf Autobahn 10 in Brandenburg - 19 Verletzte

Aufgrund von Glätte ist es in Brandenburg auf der Autobahn 10 zu Unfällen mit insgesamt 19 Verletzten gekommen. Die Unfälle ereigneten sich am Donnerstagnachmittag in der Nähe des Autobahndreiecks Potsdam, wie ein Sprecher der Feuerwehr in Brandenburg an der Havel der Nachrichtenagentur AFP sagte. Auf beiden Fahrstreifen habe es glatte Flächen gegeben.

Zwei Chinesen in Frankreich wegen Spionage angeklagt

In Frankreich sind zwei Chinesen wegen des Vorwurfs der Spionage für ihr Heimatland angeklagt worden, nachdem sie an einer Airbnb-Unterkunft eine Satellitenschüssel montiert hatten. Die beiden befänden sich in Untersuchungshaft, teilte die Staatsanwaltschaft am Donnerstag in Paris mit. Zwei weitere Verdächtige, die in diesem Zusammenhang Material geschmuggelt haben sollen, wurden ebenfalls angeklagt.

Textgröße ändern: