Nach GPT-6 und Claude 5.5
KI unter Kontrolle: Staaten fordern verpflichtende Sicherheitstests
Während OpenAI und Anthropic gerade mit GPT-6 und Claude Opus 5.5 die nächste Modellrunde eingeläutet haben, wächst auch auf politischer Ebene der Druck auf die KI-Anbieter. Deutschland und zahlreiche weitere Staaten unterstützen eine internationale Initiative, die stärkere Kontrollen besonders leistungsfähiger KI-Modelle fordert.
Der von Finnland und Norwegen angestoßene „Call for Control of Frontier AI Models“ richtet sich speziell an sogenannte Frontier-Modelle, also besonders leistungsfähige und universell einsetzbare KI-Systeme. Die Unterzeichner argumentieren, dass deren Fähigkeiten schneller wachsen könnten als die Möglichkeiten, daraus entstehende Risiken zuverlässig zu kontrollieren.
Tests vor der Veröffentlichung
Konkret sollen KI-Unternehmen transparente Sicherheitskonzepte entwickeln und ihre leistungsfähigsten Modelle vor einer Veröffentlichung verpflichtend testen lassen. Dabei sollen auch unabhängige Experten ausreichend Zugriff erhalten, um mögliche Risiken selbst bewerten zu können.
Zudem wollen die beteiligten Regierungen gemeinsame Standards entwickeln und schwere Sicherheitsvorfälle länderübergreifend melden. Als Beispiele für mögliche Gefahren nennt die Erklärung KI-Systeme, die Schutzmaßnahmen umgehen, Sicherheitslücken ausnutzen oder sich unberechtigt Zugang zu realen Computersystemen verschaffen.
Internationale Kontrollinstanz im Gespräch
Langfristig geht der Vorstoß noch einen Schritt weiter. Die UN-Mitgliedstaaten sollen prüfen, ob eine internationale Institution geschaffen werden kann, die gemeinsame Standards festlegt, deren Einhaltung überprüft und bei Überschreiten bestimmter Leistungsgrenzen Gespräche zwischen Staaten einleitet.
Unterstützt wird die Erklärung unter anderem von Deutschland, Kanada, Australien, Dänemark, Spanien, Singapur und den Vereinigten Arabischen Emiraten sowie von der Europäischen Kommission. Die USA und China gehören bislang nicht zu den Unterzeichnern. Weitere Staaten können sich der Initiative allerdings noch anschließen.
Rechtlich bindend sind die Forderungen zunächst nicht. Sie zeigen jedoch, dass die Diskussion um das Tempo der KI-Entwicklung zunehmend auf internationaler Ebene geführt wird. Die zentrale Forderung der Unterzeichner lautet dabei, dass künstliche Intelligenz auch bei weiter steigenden Fähigkeiten unter menschlicher Aufsicht und Kontrolle bleiben soll.
Die Amis und Chinesen werden da nie unterschreiben. Mit Vollgas incdie Apokalypse.
Klingt das schon lustig… wenn’s nicht so ernst wäre ;-)
Apokalypse denk ich nicht. Aber ja USA und China, die einzig relevanten Player, werden nichts regulieren.
Genau und die Chinesen, Nordkoreaner, Russen und anderen Diktatoren / Irren werden sich freiwillig dran halten.
Nach dieser Argumentation wäre auch die IAEA überflüssig.
Natürlich wird die Kontrolle nochmal um einen riesigen Faktor schwieriger als bei Atomenergie, trotzdem ist es die am besten vergleichbare Problematik.
Auch wenn Kriminelle Gesetze und Kontrollen ignorieren, sind sie unabdingbar.
Sehr gut!
Deutschland wieder ganz vorne mit dabei wenn es was zu regulieren gibt.
Ach Kai !!!
Ob das BSI noch Ressourcen frei hat?
https://en.wikipedia.org/wiki/If_Anyone_Builds_It,_Everyone_Dies
Sehr, sehr lesenswert
LOL Never stimmt Trump da zu, und ich hätte nie gedacht, dem mal bei etwas zuzustimmen. KI sollte nicht reguliert werden, da es gar keinen Sinn ergibt. Man kann ihr eh keine Regeln auferlegen, nur sie richtig erziehen, und das machen wir alle als Menschheit, wenn wir sie nutzen. Alles andere muss man auf sich zukommen lassen und uns an den Gedanken gewöhnen, nicht mehr Nummer 1 auf diesem Planeten zu sein. Muss aber deswegen nicht dystopisch werden. Diese Gedanken sind menschlicher Natur, und KI ist heute schon besser als wir.
Wir sprechen uns mal wieder, wenn die KI Dir vorschreibt wie Du zu leben und zu denken hast. Wenn es dann der KI nicht passt, wird schnell Dein Bankkonto gesperrt, Deine Kontakte blockiert bis Du wieder gefügig und ganz demütig bist. Diese KI wird noch Ausmaße annehmen, dass wir uns dann wünschen werden, die Büchse der Pandora wäre nie geöffnet worden.
„nur sie richtig erziehen“ ist das gleiche wie „Regeln auferlegen“ oder „regulieren“ Du widersprichst Dir selber und merkst es nicht. „KI ist heute schon besser als wir.“ kann nur jemand schreiben, der selber lebt und denkt wie eine Maschine.
Glaube nicht, dass er es so meint, und würde dir auch widersprechen. Denn erziehen bedeutet im Grunde nur, jemanden die Gesellschaft zu erklären und ein Verständnis für gut und schlecht zu integrieren. Mit Regen hat das nichts zu tun. Denn die würde ich zum Beispiel brechen, wenn ich dann etwas Gutes tun könnte, und ich würde sie nicht befolgen, müsste ich dann etwas Schlechtes tun. Und was eben gut und schlecht ist, haben mir grob meine Eltern anerzogen, aber das ist nicht in Stein gemeißelt. Ich und nur ich alleine entscheide bei jeder meiner Taten, ob ich etwas beispielsweise wem helfe oder es bewusst nicht mache, weil es nicht meinem Weltbild entspricht. Damit muss ich dann eben leben. KIs sind heute wie Kinder. Erziehen ja, aber kommt man Kindern mit Regeln, werden sie die eh versuchen zu brechen. Vielleicht dürfen ausschließlich Pädagogen aktuell an KI arbeiten. Wer weiß?
Ich finde das gut, dass vorher getestet werden soll, aber dann nicht länger als eine Woche. Lese ich den Artikel, ist aber zwischen den Zeilen zu erkennen, dass solche Tests sicher über sieben Tage hinausgehen, und da ist die KI-Entwicklung einfach zu schnell. Wird nicht gehen. In zwei Jahren würde ich vor einer Veröffentlichung sogar nur maximal 2 Tage an Tests verpflichtend einsetzen. Im Grunde ist der Geist aus der Flasche. Ich habe einen Freund, der sich privat vier (!) der neuen Mac Studios gekauft hat, in Vollausstattung, alle zusammengeschlossen nutzt und dies ausschließlich, um seine eigene KI drauf laufen zu lassen. Wie kontrolliert man die Nerds? KI-Technologie ist doch nichts mehr, was im Verborgenen stattfindet und geheim wäre. Wenn diese Nerds sich dann noch zusammenschließen, haben wir bald große private KIs, die ernsthaft Schaden anrichten könnten, lässt man die einfach machen. Sehe ich problematischer als bei OpenAI, Google und Co. Regulieren ist also ok, wenn sie an die tatsächliche Entwicklungsgeschwindikeit angepasst wird und man nicht voll drauf baut, da es bei KI Aspekte gibt, welche nicht reguliert werden können. … Und in 15 Jahren diskutieren wir dann über Menschenrechte für KI, etc. pp. Bin SEHR gespannt! Es wird die Welt viel mehr verändern, als wir uns das heute überhaupt vorstellen können. Viel wird geredet aber es kommt bestimmt ganz anders.