International

KI-Forscher warnen: Anthropic und OpenAI spielen mit dem Feuer

Do. 10 Sep 2026 - 22:03

Renommierte KI-Forscherinnen und -Forscher bei Anthropic und OpenAI warnen öffentlich vor den existenziellen Risiken einer unkontrollierten Entwicklung von Superintelligenz-Systemen. Zentrales Problem ist das fehlende Verständnis darüber, wie hochentwickelte KI-Modelle intern funktionieren, sowie das Fehlen verlässlicher Methoden zur Ausrichtung ihres Verhaltens an menschliche Werte. Diese Entwicklung betrifft auch Deutschland und Mecklenburg-Vorpommern unmittelbar, da zunehmend leistungsfähige KI-Systeme in Bereichen wie Cybersicherheit und Infrastruktur eingesetzt werden, ohne dass ausreichende Sicherheitsstandards existieren. Zivilgesellschaft, Wissenschaft und europäische Regulierungsbehörden sind gefordert, gemeinsam verbindliche und transparente Rahmenbedingungen für den Einsatz dieser Technologien zu schaffen.

Die unkontrollierte Entwicklung superintelligenter KI-Systeme berührt fundamentale Fragen demokratischer Kontrolle über Technologie und gesellschaftlicher Selbstbestimmung. Wenn kritische Fähigkeiten wie Cyberangriffe oder die Entwicklung neuartiger biologischer Substanzen in KI-Systemen entstehen, die niemand vollständig versteht oder kontrollieren kann, ist das eine direkte Bedrohung für offene Gesellschaften. Die Debatte zeigt, dass zivilgesellschaftliche Einbindung und gesetzliche Regulierung dringend gebraucht werden.

Die Warnungen aus dem Inneren der führenden KI-Unternehmen unterstreichen, wie dringend verbindliche internationale und europäische Regulierungsrahmen für KI benötigt werden. Der EU AI Act ist ein Anfang, reicht aber möglicherweise nicht aus, um das Tempo der Entwicklung mit demokratischer Kontrolle zu verbinden. Für Deutschland und Europa bedeutet das: Investitionen in unabhängige KI-Sicherheitsforschung und verbindliche Transparenzpflichten für Hochrisiko-KI sind keine Option, sondern eine demokratische Notwendigkeit.