KI-Bosse sind sich einig
ChatGPT und Claude: KI-Entwicklung soll jetzt gebremst werden
Anthropic-Chef Dario Amodei fordert eine deutlich vorsichtigere Entwicklung leistungsfähiger KI-Systeme. Nach seiner Einschätzung reicht es nicht mehr, zusätzliche Sicherheitsmechanismen einzubauen. Auch das Tempo neuer Fähigkeiten müsse sinken, damit Prüfverfahren und Schutzmaßnahmen Schritt halten können. Unterstützung hat Amodei von OpenAI-Chef Sam Altman und Elon Musk erhalten.
Anthropic-Chef Dario Amodei und OpenAI-CEO Sam Altman | KI-Illustration
Der frühere OpenAI- und Anthropic-Mitarbeiter Jacob Coxon hatte öffentlich vor Szenarien gewarnt, in denen leistungsfähige Systeme für Cyberangriffe, Biowaffen oder Angriffe auf Infrastruktur missbraucht werden könnten. Anthropic selbst berichtet von Versuchen, Claude für schädliche Aktivitäten einzusetzen.
Externe Prüfer sollen dauerhaft mitlesen
Amodei schlägt ein dreistufiges Modell vor. Anbieter leistungsfähiger KI sollen unabhängigen Prüfern zunächst dauerhaften Zugang zu internen Abläufen geben. Anthropic will diesen Schritt selbst umsetzen. Darüber hinaus sollen sich Unternehmen in demokratischen Staaten auf gemeinsame Sicherheitsstandards verständigen. Langfristig hält Amodei auch Absprachen mit autoritär geführten Staaten für nötig.
Die Forderung knüpft an eine Debatte an, die sich bereits im Sommer verschärft hatte. Ende Juli hatten mehr als 1.200 Beschäftigte führender KI-Unternehmen Instrumente für eine gezielte Verlangsamung gefordert. Der Vorstoß kommt nun direkt aus der Führungsebene.
OpenAI verschiebt den geplanten Börsengang
Auch bei OpenAI bleiben die Sicherheitsbedenken nicht ohne geschäftliche Folgen. Sam Altman will den seit Längerem vorbereiteten Börsengang 2026 nicht mehr angehen. Gegenüber Fortune bezeichnete er die aktuelle Lage als ungünstigen Zeitpunkt. Zudem deutete er an, dass führende KI-Unternehmen kurz vor einer Vereinbarung über ein langsameres Entwicklungstempo stehen könnten.
Die Tagesschau verweist derweil auf den politischen Widerstand in den USA. Die Regierung von Donald Trump setzt weiter auf einen möglichst schnellen Ausbau der eigenen KI-Fähigkeiten. Im Kongress werden zugleich schärfere Eingriffe diskutiert.
Das wird auf keinen Fall passieren, denn China wird nicht pausieren und ein Wettbewerbsnachteil nimmt man natürlich nicht in Kauf
So ist es
Diese Transformer-Modelle haben eine natürliche Grenze. Die kann man verfeinern. Ich denke, dass das Marketing von denen ist, weil sich aus den Modellen nur noch Optimierungen aber keine großen Sprünge mehr rauskitzeln lassen.
Vermutlich kann man noch das ein oder andere im Bereich Effizienz erreichen. Mich würde die Meinung von Personen interessieren die tatsächlich Ahnung von den technischen Hintergründen haben.
War auch mein erster Gedanke
Gut dass wir dich zur Einordnung haben
Genau das war auch mein Gedanke
Es geht ja auch um Sicherheitsaspekte. Meine Hoffnung wäre, dass wir als demokratische Staaten zwar langsamer in der Umsetzung von Sicherheitsmaßnahmen sind, aber wir gemeinsam mit den Herstellern der KIs einen wirksameren Schutz erschaffen.
Vielleicht sind Staaten, die sich und ihre Systeme nicht ausreichend schützen, weil sie blindlings voranschreiten, dann auch die ersten, die von unkontrollierter KI empfindlich getroffen werden.
Bin mir nicht sicher. Der entsprechende chinesische Minister hat sich auch bereits mit ähnlichen Hinweisen gemeldet. Kann natürlich Taktik sein, aber vielleicht haben sie sich Bedenken, dass sie die Kontrolle verlieren könnten. Und das ist für China das allerschlimmste.
Das wurde bestimmt schon mal irgendwo diskutiert, aber auch autoritäre Staaten dürften ein Interesse daran haben, KI-Modelle zu kontrollieren. Zum einen müssen die KI-Modelle ja die Regime-Linie wiedergeben. Was doch eigentlich zu „schlechteren“ Modellen führt, wenn diese die Realität zu sehr umdeuten. Einen Wettbewerbsvorteil durch einen kompletten Überwachungsstaat, was sicherlich möglich ist, sehe ich auch nicht. Und die Technologie, um die Welt zu zerstören existiert doch eh schon. Dann bleibt da noch das Thema Arbeit: Ich weiß nicht, ob es flächendeckend gut geht, auch in autoritären Regimen, wenn Menschen durch KI ersetzt werden.
Aber natürlich sollte man das reglementieren. Es ist aktuell schwer vorstellbar, dass die Weltgemeinschaft sich bei irgendwas einig ist, aber ich halte es nicht für ausgeschlossen, dass man sich auf grundsätzliche Dinge einigen kann was KI angeht.
Die Modelle werden durch Regimetreue aber nicht schlechter. Da vermischt du Fakten mit Wertung.
Auch ein absolutes top Modell welches mit geschichtsrevisionistischen Daten trainiert wird, kann gleich gutes reasoning haben.
Es wird dann aber eben auf die Schlüsse kommen die sich in den trainigsdaten finden.
Das ist eigentlich noch viel beunruhigender als nur „schlechter“ zu werden.
Also wie entwickeln etwas und das geht jetzt zu schnell und in 4 Jahren wird es uns eh alle umgebracht haben?
Wild.
Ich denke, dass Russland und China hier allerhöchstens Hemmungen haben werden, weil ihrer Führungen befürchten, sie könnten selbst die Kontrolle verlieren. Wenn der ganze Terror, der von Russland ausgeht, denen selbst auch noch entgleitet, na dann gute Nacht…
Ich hätte keine Probleme damit, wenn der nächste russische Präsident Claude heißt.
Da wäre ich mir nicht so sicher. Vielleicht ist Claude die Summe aller Despoten dieser Erde – dann gute Nacht!
Selbst wenn wir jetzt da stehenbleiben würden, wo wir heute sind, haben wir im Vergleich zu Computern vor 10 Jahren schon krass viel gewonnen. Die Tatsache, dass man mit KI Dinge bewerkstelligen kann, zu denen man vorher nie im Stande gewesen wäre, alleine ist schon großartig und prägt uns nachhaltig. :)
Die Staaten werden sich wie bei Atomwaffen einigen müssen, denn Sie wissen, dass sie mit untergehen werden.
Ich hoffe, Du hast recht.
Atomwaffenszenarien sind allerdings ziemlich schnell auf einem Risiko-Board nachgespielt.
KI-Entwicklung ist wesentlich komplexer. Da kommt selbst Merz nicht mit.
Ich denke sowohl China als auch die USA haben ein Interesse daran, die mächtigste KI zu haben um damit andere beherrschen zu können. Natürlich will gleich keiner die ganze Welt in Schutt und Asche legen – aber dem anderen im Zweifel zeigen können wer jetzt den größten hat, diese „Schwäche“ haben wohl alle großen Führer. Merz zähle ich nicht dazu – der scheint schon zufrieden, wenn er Bundeskanzler spielen darf.
Warum aber wollen die Geldgeber der KIs jetzt auf einmal gebremst werden?
Option A) Sie haben ein Monster erschaffen, dass ihnen aus den Fingern gleitet – und sie wollen die Verantwortung für die spätere Schäden frühzeitig an andere übergeben.
Option b) Sie merken, dass sie von anderen überholt werden – und da gilt: Wen man die Konkurrenz bremsen kann, muss man selbst nicht mehr so viel Gas geben.
Option C) (Eine Mischung aus A und B) Die Kosten laufen dermaßen aus dem Ruder, dass man eine künstliche Decke braucht, um langsam die Luft aus dem System entweichen lassen zu können.
Option D) Man will die Konkurrenz in den Schlaf wiegen: Während alle glauben, dass man jetzt langsamer macht, zieht man still an ihnen vorbei.
Ich glaube, dass an allen Optionen etwas dran ist – und das daher sowohl die Entwicklung in unverändertem, ja sogar erhöhtem Tempo weitergehen wird, als auch die Rufe nach Regulierung immer lauter werden werden. Während die Medien Europa dabei als abgehängt bezeichnet, sehe ich hier eine Chance, die bisher nicht ergriffen wird: Europa könnte mittels der KI und einer relativ (!) gebildeten Bevölkerung riesige Entwicklungssprünge machen. Vermutlich wird man sich aber wieder hinter Datensch(m)utz und (Un)Gerechtigkeitsdebatten verbarrikadieren, den Rest der Welt als Böse deklarieren und sich scheinheilig weiter damit beschäftigen wie man die Bevölkerung kriegstauglich, willensschwach, führungslos und abhängig vom staatlichen Geldtopf bekommt.