Dario Amodei fordert in seinem Essay „We Must Pace the Frontier“ ein geringeres Entwicklungstempo an der KI-Spitze. Er setzt auf externe Prüfer mit engem Zugang, gemeinsame Standards und internationale Abstimmung. Anthropic verpflichtet sich nach eigener Aussage zum ersten Ansatz. [1]
AQ-Standpunkt: Die Forderung verdient mehr als reflexhaften Beifall oder Spott. Ein Anbieter kennt seine Systeme – und hat zugleich wirtschaftliche Interessen. Beides gehört zur Bewertung. Daraus folgt weder, dass jede Warnung ein Verkaufstrick ist, noch dass ein prominenter Absender seine eigenen Annahmen beweisen kann.
Die praktische Frage lautet: Welche Macht bekommen externe Prüfer? Dürfen sie Befunde veröffentlichen, wenn sie dem Auftraggeber unangenehm sind? Wer bezahlt sie, wer bestellt sie ab, und wer entscheidet bei einem Konflikt? Ohne klare Antworten droht Kontrolle vor allem gut auszusehen.
Auch die Gegenseite hat ein starkes Argument: Verzögerungen können nützliche Anwendungen ausbremsen. Aufwendige Nachweispflichten können kleinere Entwickler härter treffen als große Konzerne. Daraus ergibt sich eine Gestaltungsaufgabe: Anforderungen sollten am überprüfbaren Risiko hängen, nicht an der Größe der Presseabteilung.
Amodeis Vorschlag ist keine bereits geltende internationale Regel. Sein Sicherheitsurteil bleibt die Position eines beteiligten Unternehmenschefs. [1] Wir sollten deshalb nicht nur über das Wort Bremse reden, sondern über unabhängige Prüfungen, öffentliche Maßstäbe und wirksame Folgen.
Wer das Gaspedal verkauft, sollte die Bremsprüfung nicht allein abnehmen. Genau daran muss sich der Vorstoß messen lassen.
Quellen
Redaktionsstand: 14. September 2026 · 05:48 Uhr MESZ.