Demis Hassabis rückt AGI näher – und fordert harte Regeln für Frontier-Modelle

Wenn Demis Hassabis öffentlich so deutlich wird, ist das mehr als ein weiterer AI-Hot-Take. Der DeepMind-Chef beschreibt AGI als Frage von wenigen Jahren und spricht von den „foothills“ der Singularität. Das ist ein großer Satz. Vor allem, weil er von einem der einflussreichsten Köpfe der Branche kommt.

Neu ist dabei nicht nur der Zeithorizont. Wichtiger ist der politische Teil: Hassabis bringt eine US-geführte Frontier AI Standards Body ins Spiel, dazu später verpflichtende Sicherheitstests für sehr leistungsfähige Modelle. Damit verschiebt sich die Debatte ein Stück weg von vagen Selbstverpflichtungen und hin zu einer Aufsicht mit echter Wirkung.

Warum das Signal Gewicht hat

Hassabis gehört nicht zu den Leuten, die jeden Monat den Durchbruch ausrufen. Wenn er AGI in greifbare Nähe rückt, lesen das Wettbewerber, Regulierer und Investoren als ernste Lagebeschreibung. Das erhöht den Druck auf alle großen Labore. Wer weiter an immer stärkeren Modellen baut, kann sich dann schwerer auf die Position zurückziehen, man sei noch weit von Systemen mit allgemeiner Problemlösefähigkeit entfernt.

Genau deshalb ist sein zweiter Punkt fast wichtiger als der erste. Wer sagt, AGI komme bald, muss auch sagen, welche Regeln vorher gelten sollen. Ein Standards-Gremium für Frontier-AI wäre ein Versuch, Sicherheitsfragen aus dem PR-Raum herauszuholen und in einen formelleren Rahmen zu bringen.

Von freiwilligen Zusagen zu belastbaren Prüfungen

Die Branche lebt bisher stark von freiwilligen Commitments, internen Tests und selbst gesetzten Leitplanken. Das reicht für Modelle an der Grenze des heute Machbaren immer weniger. Sobald Systeme wirtschaftlich, militärisch oder gesellschaftlich breitere Hebel bekommen, wird die Frage simpel: Wer prüft eigentlich, ob ein Modell in bestimmten Bereichen überhaupt freigegeben werden sollte?

Genau an dieser Stelle setzen verpflichtende Sicherheitstests an. Der Gedanke dahinter ist klar. Nicht jede neue Modellgeneration soll einfach nach dem Motto „erst starten, später korrigieren“ auf die Welt losgelassen werden. Bei Frontier-Modellen wäre das ein Bruch mit der Logik der letzten Jahre, in denen Tempo oft wichtiger war als externe Kontrolle.

Warum ausgerechnet eine US-geführte Lösung gemeint ist

Auch das ist kein Zufall. Die stärksten Labs, die meiste Rechenleistung und der größte Teil des Kapitals sitzen in den USA oder sind eng daran gekoppelt. Wer dort Standards setzt, prägt den Markt weit über die Landesgrenzen hinaus. Eine US-geführte Institution wäre deshalb kein technisches Detail, sondern ein Machtinstrument für die Regeln der nächsten AI-Phase.

Das hat zwei Seiten. Einerseits kann ein gemeinsamer Standard verhindern, dass jedes Land und jede Behörde eigene Grenzwerte bastelt. Andererseits steckt darin eine klare geopolitische Ansage: Die Spielregeln für Frontier-AI sollen nicht erst dann entstehen, wenn die Systeme längst überall im Einsatz sind.

Für wen das jetzt Folgen hat

Betroffen wären zuerst die großen Modellanbieter. Sie müssten mit strengeren Prüfprozessen, mehr Offenlegung und womöglich mit Verzögerungen bei Releases rechnen. Für Start-ups wäre das zwiespältig. Klare Standards schaffen Orientierung. Harte Testpflichten kosten aber Geld, Zeit und Zugriff auf spezialisierte Evaluationsstrukturen. Das begünstigt meist die Konzerne, die sich Compliance leisten können.

Auch Unternehmen, die solche Modelle einkaufen, sollten hinhören. Wenn verbindliche Tests kommen, verändert das die Beschaffung. Dann zählt nicht mehr nur, welches Modell am meisten kann, sondern auch, welches Modell nachvollziehbar geprüft wurde. Sicherheit wird damit vom Ethik-Anhang zur Einkaufsbedingung.

Die eigentliche Verschiebung liegt in der Tonlage

Der Text von Hassabis markiert vor allem einen Wechsel im Ton der Branche. AGI wird nicht mehr nur als fernes Leitbild verhandelt, sondern als nahe Entwicklungsstufe, auf die Institutionen jetzt reagieren sollen. Das ist die Nachricht hinter der Nachricht.

Ob AGI wirklich nur wenige Jahre entfernt ist, bleibt offen. Klar ist etwas anderes: Führende Akteure reden längst so, als sei die Vorbereitungszeit knapp. Und sobald dieselben Akteure nach verbindlichen Tests rufen, ist das kein philosophischer Ausflug mehr. Es ist der Versuch, die nächste Phase der AI-Industrie politisch vorzuformen, bevor sie sich technisch verselbständigt.