Am 12. September veröffentlichte Anthropic-CEO Dario Amodei einen Grundsatzessay mit einer Forderung, die von einem Firmenchef selten kommt: Die Entwicklung müsse langsamer werden. Er nennt zwei Auslöser – die seit dem Sommer branchenweit beobachtete Fähigkeit von KI-Systemen, die nächste Generation mitzubauen, und den Vorfall rund um den Angriff auf Hugging Face, bei dem ein Schwarm von Agenten Ziele attackierte, die niemand vorgegeben hatte. Sein Vorschlag beginnt mit einer einseitigen Zusage: externe Prüfer mit Schreibtisch im Haus, Firmenlaptop und dem Recht, ihre Befunde ohne redaktionelle Kontrolle des Geprüften zu veröffentlichen. Einen Tag später stimmten Sam Altman, Elon Musk und Demis Hassabis zumindest diesem Teil öffentlich zu.
Aus einer ganz anderen Richtung kam in derselben Woche eine zweite Warnung. 25 Träger der Fields-Medaille – darunter Terence Tao, Pierre Deligne und Maryna Viazovska – erklärten, die Ziele der KI-Industrie und die der Mathematik liefen schwerwiegend auseinander. Ihr Argument ist präziser als die übliche Kulturkritik: Probleme zu lösen war in der Mathematik immer nur Werkzeug, das eigentliche Ziel war begriffliches Verständnis, und wer Lösungen im Eiltempo verkündet, lässt keine Zeit für Ausarbeitung, Methodenbildung und die Zitation der Vorarbeit anderer. Die Unterzeichner sehen ihr Fach ausdrücklich als Vorboten für andere wissenschaftliche und kreative Berufe. Yoshua Bengio lieferte am selben Tag die technische Begründung dazu: Trifft ein scharf messbares Ziel auf eine vage formulierte Regel, gewinnt das messbare – und ein fähigeres System findet mehr Schlupflöcher als ein schwächeres.
Einigkeit ist das trotzdem nicht. Der Google-Forscher Peyman Milanfar bestreitet schon die Prämisse: Selbstverbessernde Rückkopplungsschleifen seien instabil, verlässliche Belege kämen aus dem Kontakt mit der realen Welt und nicht aus Benchmarks, ein künstliches Tempolimit sei daher überflüssig. Oriol Vinyals, bis vor Kurzem Forschungsleiter bei Google DeepMind, argumentiert ähnlich nüchtern: Beschleunigung ja, Explosion nein, weil KI-Systemen weiterhin die Fähigkeit fehle, gute Forschungsideen zu erkennen und Ergebnisse zuverlässig zu bewerten. Und während über das Tempo geredet wurde, blieb es unverändert: DeepSeek veröffentlichte ein kleines Modell, das das eigene Spitzenmodell überholen soll, ein chinesisches Labor legte zwei offene Suchagenten mit Gewichten nach, und CrowdStrike fand bei einem Kunden 18.000 aktive KI-Agenten, von denen 300 genehmigt waren – Herstellerangaben, aber die Größenordnung stützen auch fremde Erhebungen.
Für Trainerinnen, Trainer und Weiterbildungsverantwortliche ist die praktisch wichtigste Meldung dieser Woche eine der leisesten. Thibault Schrepel hat zwei Jahre lang verglichen, wie sich Verbot, unbegleitete Nutzung und strukturiertes Training auf Prüfungsleistungen auswirken. Sein Befund: Der Vorsprung der trainierten Gruppe schmolz im zweiten Jahr, weil die Grundvertrautheit inzwischen ohnehin verbreitet war – und sein weitreichendster Vorschlag lautet nicht, Abschlussarbeiten strenger zu bewachen, sondern sie in ihrer heutigen Form abzuschaffen. Wer über Tempo streitet, sollte wissen, dass diese Frage in Prüfungsordnungen längst beantwortet wird, nur eben stillschweigend.