Dario Amodei, Mitgründer von Anthropic, fordert in seinem Beitrag „We Must Pace the Frontier“, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. Sicherheitsforschung und Kontrolle sollen mit den technischen Fähigkeiten Schritt halten können. Dafür schlägt er unabhängige Prüfteams, gemeinsame Standards und internationale Abstimmung vor. Es geht ihm um ein kontrollierteres Entwicklungstempo, nicht um einen vollständigen KI-Stopp.
Diesen Grundgedanken teile ich: Wer Technologien mit weitreichenden gesellschaftlichen Folgen entwickelt, muss sich überprüfen lassen. Die Auseinandersetzung mit Risiken ist notwendig. Verantwortung braucht überprüfbare Verfahren und Menschen, die auch unbequeme Fragen stellen dürfen.
Gleichzeitig verdient die Rolle des Absenders Aufmerksamkeit. Hier warnt jemand vor einer Entwicklung, die sein eigenes Unternehmen aktiv vorantreibt und von der es wirtschaftlich profitiert. Das entwertet seine Argumente nicht. Es macht aber eine kritische Einordnung notwendig.
Warnungen vor KI können auch den Unternehmen nutzen, die sie aussprechen. Wer besonders große Gefahren beschreibt, kann damit zugleich die Bedeutung der eigenen Technologie unterstreichen und sich als verantwortungsvoller Anbieter positionieren. Aufwendige Sicherheitsanforderungen könnten außerdem etablierte Unternehmen begünstigen, wenn kleinere Wettbewerber sie schwerer erfüllen können. Das sind mögliche Interesseneffekte, keine Belege dafür, dass Amodeis Warnungen vorgeschoben sind.
Gerade deshalb sollten wir weder jedes Risikoszenario ungeprüft übernehmen noch jede Warnung als Geschäftsstrategie abtun. Entscheidend ist, welche Risiken nachvollziehbar belegt sind, wem vorgeschlagene Regeln nutzen und wer über ihre Ausgestaltung entscheidet.
Für mich beginnt KI-Ethik auch damit, diese Macht- und Interessenfragen offenzulegen. Amodeis Vorschlag ist ein wichtiger Anlass zur Debatte. Wie glaubwürdig er ist, wird sich daran zeigen, welche unabhängige Kontrolle Unternehmen tatsächlich zulassen und welche Konsequenzen sie daraus ziehen, auch wenn es sie etwas kostet.