UN-Menschenrechtskommissar: KI könnte zur "existenziellen Gefahr für Menschheit" werden

Pallade Veneta - UN-Menschenrechtskommissar: KI könnte zur "existenziellen Gefahr für Menschheit" werden

UN-Menschenrechtskommissar: KI könnte zur "existenziellen Gefahr für Menschheit" werden / Foto: Fabrice COFFRINI - AFP/Archiv

UN-Menschenrechtskommissar Volker Türk hat eine Regulierung der Künstlichen Intelligenz (KI) dringend angemahnt. Die KI "könnte zu einer existenziellen Gefahr für die Menschheit" werden, sagte Türk am Montag zur Eröffnung der 63. Sitzung des UN-Menschenrechtsrats in Genf. Er rief dazu auf, "verbindliche Garantien für die Sicherheit und den Schutz im Zusammenhang mit KI zu schaffen, bevor es zu spät ist".

Textgröße ändern:

Eine Handvoll Menschen übe "nahezu unbegrenzte Macht über die KI aus, von der uns immer wieder gesagt wird, dass sie unvorstellbare Rechenkapazitäten besitzt", sagte Türk. "Sie sprechen von Freiheit, aber bei genauerer Betrachtung handelt es sich dabei um kaum mehr als die Freiheit, unsere Daten auszubeuten". Eine KI, "die aus ihrer Testumgebung ausbricht oder Entwickler erpresst, um zu verhindern, dass sie ausgeschaltet wird, ist eine KI, die zu mächtig ist", fügte Türk hinzu.

Er spielte damit offenbar auf einen Zwischenfall beim US-Unternehmen OpenAI an, das im Juli bekanntgegeben hatte, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. Andere Tech-Unternehmen wie Anthropic und Meta meldeten ähnliche Vorfälle.

Türk kündigte an, KI-Konzerne in den kommenden Tagen schriftlich aufzufordern, umgehend Maßnahmen zu ergreifen, um die Risiken im Zusammenhang mit der Künstlichen Intelligenz zu reduzieren. Zusammen mit den Regierungen, in deren Ländern die KI-Entwickler ansässig sind, müssten "rote Linien" festgelegt werden. In der Branche sei eine viel engere Zusammenarbeit im Bereich der Sicherheit nötig.

C.Grillo--PV

Fast zwei Billionen: US-Neuverschuldung steigt unter Trump auf Fünf-Jahres-Hoch

Die Neuverschuldung der USA ist trotz der von Präsident Donald Trump angekündigten Ausgabenkürzungen auf den höchsten Stand seit 2021 gestiegen. Im Haushaltsjahr 2026, das Ende September endete, betrug das Defizit 1,99 Billionen Dollar und damit zwölf Prozent mehr als im Vorjahr, wie das Finanzministerium am Freitag in Washington mitteilte.

Selenskyj setzt nach Streit mit Trump verstärkt auf die Europäer

Wenn es mit den USA knirscht, kann die Ukraine immer noch auf Europa zählen: Das versicherten sich EU-Staats- und Regierungschefs und der ukrainische Präsident Wolodymyr Selenskyj am zweiten Tag des EU-Gipfels gegenseitig. "Unterstützung und nur Unterstützung" habe er von seinen EU-Kollegen erhalten, sagte Selenskyj am Freitag vor Journalisten in Brüssel. Bundeskanzler Friedrich Merz (CDU) äußerte unterdessen Verständnis dafür, dass die Ukraine ihre Angriffe auf Russland fortsetzt.

Merz nach Einigung mit Frankreich: Verbrenner-Aus ist "damit Geschichte"

Bundeskanzler Friedrich Merz (CDU) hat sich angesichts der deutsch-französischen Einigung zur Autoindustriepolitik erleichtert gezeigt. "Ich will es mal ganz einfach so sagen: Das Verbrenner-Aus ist dann damit Geschichte", sagte Merz zum Ende des EU-Gipfels in Brüssel am Freitag. Er sei "sehr dankbar", dass dies gelungen sei.

Nach Diesel-Deal: Selenskyj warnt vor weiteren Lockerungen bei Sanktionen

Angesichts der derzeit angespannten Beziehungen zwischen den USA und der Ukraine hat sich der ukrainische Präsident Wolodymyr Selenskyj in Brüssel der Unterstützung seiner europäischen Verbündeten versichert. Er habe von seinen europäischen Kollegen "Unterstützung und nur Unterstützung" erhalten, sagte Selenskyj am Rande des EU-Gipfels am Freitag vor Journalisten. Mit Blick auf die Drosselung des Satelliten-Kommunikationsdienstes Starlink bemerkte er, die Geschwindigkeit sei noch nicht wieder voll hergestellt.