Pallade Veneta - Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt

Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt


Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt
Anthropic: KI wird zunehmend für Entwicklung neuer KI-Systeme eingesetzt / Foto: ANDREJ IVANOV - AFP

KI-Systeme könnten sich in der Zukunft selbst bauen: Dem KI-Unternehmen Anthropic zufolge wird bei der Entwicklung neuer KI-Modelle zunehmend KI selbst eingesetzt. Der Chatbot Claude des US-Unternehmens habe im August rund 26 Prozent der Forschungs- und Entwicklungsarbeit bei Anthropic übernommen, erklärte das Unternehmen am Donnerstag. Claude könne noch nicht "vollständig autonom" arbeiten. Doch einen Großteil seiner Aufgaben erledige es weitgehend selbstständig unter menschlicher Aufsicht.

Textgröße ändern:

Der Chef von Anthropic, Dario Amodei, gehört selbst zu denjenigen, die vor einer KI warnen, die außer Kontrolle geraten könnte. Kürzlich forderte er eine gezielte Verlangsamung der Entwicklung der fortschrittlichsten KI-Modelle, um dem vorzubeugen.

Auch in dem am Donnerstag veröffentlichten Bericht des Unternehmens heißt es: "Modelle, die ihre eigene Entwicklung beschleunigen, könnten es für Menschen schwieriger machen, diese Systeme zu verstehen oder zu kontrollieren." Es sei wichtig, die Messwerte zum selbstständigen Arbeiten der KI "offenzulegen, um zu verstehen, wie nah die Welt daran ist, rekursive Selbstverbesserung zu erreichen". Darunter versteht sich ein Modell, das seinen Nachfolger vollständig autonom entwickelt.

Die Debatte über die Risiken von KI hat sich seit dem Sommer verschärft, nachdem es mehrere Vorfälle gegeben hatte, bei denen sich KI-Agenten selbständig machten oder anders verhielten als erwartet. Gleichzeitig gibt es einen globalen Wettlauf im KI-Boom mit massiven Investitionen. Wirtschaftlich ist daher eine gesteuerte Verlangsamung der Entwicklung schwierig.

L.Bufalini--PV

Empfohlen

Stader LNG-Terminal offiziell in Betrieb: Reiche lobt Infrastrukturleistung

Das schwimmende Flüssiggasterminal „Energos Force“ im Stader Energiehafen ist nach mehr als zwei Jahren Verspätung offiziell in Betrieb gegangen. Bundeswirtschaftsministerin Katharina Reiche (CDU) nahm an der Feier teil und betonte die strategische Bedeutung der neuen Infrastruktur für die deutsche Energieversorgungssicherheit.

Die französische Wirtschaft schrumpft um 0,1 %, da das Verbrauchervertrauen sinkt

Frankreichs BIP ging im dritten Quartal unerwartet um 0,1 % zurück und verfehlte damit die Prognosen für ein moderates Wachstum. Gleichzeitig sank das Verbrauchervertrauen auf den niedrigsten Stand seit 25 Jahren, da die hohe Inflation die Kaufkraft verringerte und von Ausgaben abhielt.

Chinas Fabrikaktivitäten gehen zurück, da die Exportaufträge schwächer werden

Chinas offizieller Einkaufsmanagerindex für das verarbeitende Gewerbe fiel von 50,1 im September auf 49,3 im Oktober und fiel damit wieder unter die 50-Marke, die Expansion von Schrumpfung trennt. Die Zahl der neuen Exportaufträge sank auf 48,7 und der Produktionssubindex sank auf 49,8.

Die Wall Street beendet eine turbulente Woche trotz Inflation und KI-Störungen mit einem Plus

US-Aktien fielen am Freitag, als große Unternehmen im Bereich der künstlichen Intelligenz nachgaben, aber der S&P 500 legte immer noch um 2,5 % zu und verzeichnete damit die stärkste Woche seit August. Der Nasdaq verlor an diesem Tag 0,9 %, während die Rendite zweijähriger Staatsanleihen auf 4,87 % stieg.

Textgröße ändern: