Wissenschaft & Gesundheit

Anthropic-Chef fordert Verlangsamung der KI-Entwicklung

Sa. 12 Sep 2026 - 20:03

Der Chef des KI-Unternehmens Anthropic, Dario Amodei, fordert in einem öffentlichen Essay eine gezielte Verlangsamung der KI-Entwicklung und schlägt einen konkreten Drei-Punkte-Plan vor. Kernstück des Plans sind unabhängige Drittprüfer mit dauerhaftem Zugang zu KI-Systemen, um deren Sicherheit und Wirkung besser kontrollieren zu können. Bemerkenswert ist, dass Anthropic den ersten Schritt des Plans eigenständig und ohne Absprache mit anderen Unternehmen umsetzen will. Für die Gesundheitsversorgung in Mecklenburg-Vorpommern, wo KI-gestützte Diagnose- und Pflegewerkzeuge zunehmend diskutiert werden, unterstreicht diese Debatte die Bedeutung unabhängiger Prüfmechanismen vor einer breiten Einführung solcher Technologien.

Der Vorstoß eines führenden KI-Unternehmens für externe Kontrolle seiner eigenen Systeme ist ein seltenes Zeichen von Selbstbeschränkung in einer Branche, die bislang kaum Regulierungswillen zeigte. Unabhängige Evaluierungen stärken das Prinzip demokratischer Aufsicht über mächtige Technologien und könnten als Modell für gesetzliche Regulierungsrahmen dienen. Für eine offene Gesellschaft ist entscheidend, dass KI-Systeme nicht nur von ihren Entwicklern, sondern auch von unabhängigen Stellen überprüfbar sind.

Die Initiative von Anthropic könnte Druck auf andere KI-Konzerne wie OpenAI oder Google erzeugen, ähnliche Transparenzmaßnahmen einzuführen. Für die Wissenschaft und Politik bietet der Vorschlag einen konkreten Ausgangspunkt, um verbindliche Standards für KI-Sicherheitsprüfungen zu entwickeln. Besonders relevant ist, wie schnell internationale Regulierungsgremien wie die EU-KI-Behörde solche freiwilligen Verpflichtungen in rechtlich bindende Anforderungen überführen können.