Pallade Veneta - Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"

Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"


Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten"
Ex-OpenAI-Forscher: "Wir müssen die KI-Entwicklung im Wesentlichen abschalten" / Foto: Fabrice COFFRINI - AFP

Die führenden US-KI-Entwickler täuschen nach Auffassung des früheren OpenAI-Forschers Daniel Kokotajlo mit ihrer Forderung nach Regulierung für künstliche Intelligenz den Wunsch nach mehr Kontrolle nur vor. Anthropic, OpenAI, X und Google betrieben lediglich "Safety Washing", sagte Kokotajlo dem "Spiegel". Zugleich forderte der heutige Leiter des "AI Futures Project" im kalifornischen Berkeley die KI-Entwicklung von OpenAI oder Anthropic staatlich massiv einzuschränken. "Wir müssen die KI-Entwicklung im Wesentlichen abschalten."

Textgröße ändern:

Die US-Unternehmen Anthropic, OpenAI, X und Google plädierten für "ein klein wenig Regulierung, ein paar externe Prüfer. Aber sie haben kaum etwas davon gesagt, die automatische Entwicklung künstlicher Intelligenz zu verlangsamen oder zu beenden", kritisierte Kokotajlo. Er gilt als einer der renommiertesten Fachleute für die Zukunft der Künstlichen Intelligenz. Seit Jahren warnt der frühere OpenAI-Forscher vor existenziellen Risiken der Technologie.

Die Techindustrie plane eine Automatisierung der KI-Forschung, sagte Kokotajlo. Damit "überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich." Wenn eine KI die nächste trainiere, beschleunige sich das Tempo des Fortschritts erheblich. Das bedeute auch, dass es schwieriger werde, den Überblick zu behalten, und es wahrscheinlicher werde, dass Fehler nicht bemerkt würden, betonte der Forscher.

Der Menschheit fehle derzeit "das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden". Erst wenn ein sicherer und allgemein vorteilhafter Weg für die Entwicklung einer Superintelligenz gefunden sei, dürfe mit ihrer Entwicklung fortgefahren werden. "Dafür braucht es vollständige Transparenz, eine breitere Machtverteilung - und einen Kill-Switch" - einen Ausschalter.

N.Tartaglione--PV

Empfohlen

Stader LNG-Terminal offiziell in Betrieb: Reiche lobt Infrastrukturleistung

Das schwimmende Flüssiggasterminal „Energos Force“ im Stader Energiehafen ist nach mehr als zwei Jahren Verspätung offiziell in Betrieb gegangen. Bundeswirtschaftsministerin Katharina Reiche (CDU) nahm an der Feier teil und betonte die strategische Bedeutung der neuen Infrastruktur für die deutsche Energieversorgungssicherheit.

Die französische Wirtschaft schrumpft um 0,1 %, da das Verbrauchervertrauen sinkt

Frankreichs BIP ging im dritten Quartal unerwartet um 0,1 % zurück und verfehlte damit die Prognosen für ein moderates Wachstum. Gleichzeitig sank das Verbrauchervertrauen auf den niedrigsten Stand seit 25 Jahren, da die hohe Inflation die Kaufkraft verringerte und von Ausgaben abhielt.

Chinas Fabrikaktivitäten gehen zurück, da die Exportaufträge schwächer werden

Chinas offizieller Einkaufsmanagerindex für das verarbeitende Gewerbe fiel von 50,1 im September auf 49,3 im Oktober und fiel damit wieder unter die 50-Marke, die Expansion von Schrumpfung trennt. Die Zahl der neuen Exportaufträge sank auf 48,7 und der Produktionssubindex sank auf 49,8.

Die Wall Street beendet eine turbulente Woche trotz Inflation und KI-Störungen mit einem Plus

US-Aktien fielen am Freitag, als große Unternehmen im Bereich der künstlichen Intelligenz nachgaben, aber der S&P 500 legte immer noch um 2,5 % zu und verzeichnete damit die stärkste Woche seit August. Der Nasdaq verlor an diesem Tag 0,9 %, während die Rendite zweijähriger Staatsanleihen auf 4,87 % stieg.

Textgröße ändern: