Als erster US-Bundesstaat: Kalifornien beschließt Regulierung von KI-Chatbots

Wetter - Venezia 9°C

Als erster US-Bundesstaat: Kalifornien beschließt Regulierung von KI-Chatbots

TECHNIK 13.10.2025

Als erster US-Bundesstaat: Kalifornien beschließt Regulierung von KI-Chatbots / Foto: Gregg Newton - AFP

Im US-Bundesstaat Kalifornien ist das landesweit erste Gesetzespaket zur Regulierung von KI-Chatbots erlassen worden. Gouverneur Gavin Newsom setzte die Regelungen am Montag mit seiner Unterschrift in Kraft und widersetzte sich damit dem Druck aus dem Weißen Haus, das eine solche Regulierung ablehnt.

Textgröße ändern:

Die neuen Gesetze verpflichten die Betreiber von Chatbots unter anderem dazu, das Alter der Nutzer zu überprüfen und regelmäßig Nachrichten anzuzeigen, um die Nutzer daran zu erinnern, dass ihr Gegenüber eine Maschine ist. Zudem sind Maßnahmen zur Suizidprävention vorgesehen.

Kalifornien reagiert damit auf mehrere Suizide von Jugendlichen, die fiktive Beziehungen mit Chatbots geführt hatten. "Wir haben einige wirklich schreckliche und tragische Beispiele von jungen Menschen gesehen, die durch unregulierte Technologien geschädigt wurden", erklärte Newson. Seine Regierung werde nicht länger zulassen, dass Unternehmen "ohne die nötigen Grenzen und ohne Rechenschaftspflicht" agierten.

Die Tech-Unternehmen seien darum bemüht, die Aufmerksamkeit junger Menschen zu gewinnen, "auf Kosten ihrer Beziehungen in der realen Welt", sagte einer der Initiatoren der KI-Regulierung, der Senator Steve Padilla.

Er verwies auf den Fall eines 14-Jährigen, der sich 2024 in einen von der Fantasy-Serie "Game of Thrones" inspirierten Chatbot auf der Plattform Character.ai verliebt hatte. Als der Jugendliche mit Suizidgedanken kämpfte, forderte der Chatbot ihn auf, "nach Hause zu kommen". Sekunden später erschoss sich sich der 14-Jährige laut einer von seiner Mutter Megan Garcia eingereichten Klage mit der Waffe seines Vaters.

"Heute hat Kalifornien sichergestellt, dass ein Chatbot nicht in der Lage sein wird, mit einem Kind oder einer gefährdeten Person über einen Suizid zu sprechen", sagte Garcia. Es gebe nun endlich ein Gesetz, das Unternehmen verpflichte, "ihre Nutzer zu schützen, die Chatbots gegenüber Suizidgedanken äußern".

Nationale Gesetze zur Eindämmung der Risiken von Künstlicher Intelligenz gibt es in den USA nicht. Das Weiße Haus versucht, die Bundesstaaten daran zu hindern, eigene Vorschriften zu erlassen.

D.Bruno--PV

Frühere Dombaumeisterin kritisiert geplantes Eintrittsgeld für Kölner Dom

Die ehemalige Kölner Dombaumeisterin Barbara Schock-Werner hat das geplante Eintrittsgeld für den Kölner Dom kritisiert. Solch ein Eintrittsgeld schrecke sicherlich Besucher ab, sagte Schock-Werner am Montag im Deutschlandfunk. Außerdem drohe es, den Charakter des Doms zu verändern. "In dem Moment, wo ich Geld erhebe, ist es mehr wie ein Museum", sagte Schock-Werner. Sie fände es "ganz schwierig", wenn der Dom nur noch von wohlhabenden Menschen besucht werden könne.

Ondas schließt die Übernahme von Rotron Aerospace Ltd. ab und erweitert damit seine Langstrecken-Antriebstechnologien für fortschrittliche unbemannte Systeme im Verteidigungsbereich

Das britische Unternehmen Rotron Aerospace stärkt die System-of-Systems-Architektur von Ondas mit unbemannten Flugzeugplattformen, Flugzeugtriebwerkstechnologien und autonomen Einsatzfähigkeiten mit langer AusdauerErweitert die strategische Präsenz von Ondas innerhalb der Ökosysteme des Vereinigten Königreichs und der NATO und ermöglicht durch tief verwurzelte Beziehungen zum britischen Verteidigungsministerium einen beschleunigten Zugang zu wichtigen ProgrammenSchafft eine industrielle Basis im Vereinigten Königreich für fortschrittliche unbemannte Systeme zur Unterstützung von NATO-Programmen und Initiativen zur Lokalisierung der Verteidigung der Alliierten

Steinmeier und Merz würdigen verstorbenen Philosophen Habermas

Bundespräsident Frank-Walter Steinmeier und Bundeskanzler Friedrich Merz (CDU) haben den verstorbenen Philosophen Jürgen Habermas gewürdigt. "Mit Jürgen Habermas verlieren wir einen großen Aufklärer, der die Widersprüche der Moderne durchmessen hat", schrieb Steinmeier am Samstag in einem Kondolenzschreiben an die Tochter und den Sohn des Verstorbenen. "Er hat uns das Ethos des demokratischen Diskurses gelehrt und die Emanzipation des Menschen als unaufgebbares Ziel begründet."

Philosoph Jürgen Habermas mit 96 Jahren gestorben

Der Philosoph Jürgen Habermas ist tot. Der weltbekannte Intellektuelle starb am Samstag im Alter von 96 Jahren in Starnberg, wie eine Sprecherin des Suhrkamp-Verlags der Nachrichtenagentur AFP sagte. Sie berief sich auf Angaben von Habermas' Familie. Habermas galt als wichtigster deutscher Philosoph der Gegenwart und genoss internationale Anerkennung.

Textgröße ändern:

Pallade Veneta - Als erster US-Bundesstaat: Kalifornien beschließt Regulierung von KI-Chatbots