Wissenschaft & Gesundheit

KI-Halluzinationen vor Gericht: Anwalt wegen ChatGPT-Schriftsatz bestraft

Fr. 11 Sep 2026 - 22:00

Ein Anwalt aus New Mexico wurde vom Obersten Gerichtshof mit einer Geldstrafe belegt, nachdem er einen von ChatGPT generierten Schriftsatz mit erfundenen Polizeiaussagen und fiktiven Zeugen eingereicht hatte. Der Vorfall verdeutlicht die konkreten Risiken unkontrollierter KI-Nutzung in rechtsverbindlichen Dokumenten. Weltweit reagieren Gerichte und Anwaltskammern mit der Entwicklung verbindlicher Regelwerke für den verantwortungsvollen KI-Einsatz im Rechtswesen. Für Bürgerinnen und Bürger in Mecklenburg-Vorpommern unterstreicht dieser Fall die Bedeutung kritischer Überprüfung anwaltlicher Arbeit und den Wert transparenter Standards bei der Nutzung von KI-Werkzeugen in juristischen Verfahren.

Ein funktionierender Rechtsstaat setzt voraus, dass Beweise und Zeugenaussagen der Wahrheit entsprechen. Wenn KI-Systeme ungeprüft erfundene Fakten in Gerichtsverfahren einschleusen, gefährdet das das Vertrauen in die Justiz und kann Menschenleben beeinflussen. Der Fall macht deutlich, dass technologische Innovationen verbindliche Sorgfaltspflichten erfordern, die Gerichte, Anwaltskammern und Gesetzgeber gemeinsam definieren müssen.

Für die Wissenschafts- und Technologiedebatte ist dieser Fall ein konkreter Prüfstein: KI-Sprachmodelle produzieren plausibel klingende, aber faktisch falsche Informationen, sogenannte Halluzinationen, und sind ohne menschliche Verifikation nicht gerichtsfest. Regulierungsbehörden in der EU und Deutschland arbeiten bereits an KI-Haftungsregeln, die auch Berufsgruppen wie Anwälte einschließen. Dieser Fall dürfte die Diskussion über verbindliche Nachweispflichten beim KI-Einsatz in sensiblen Bereichen beschleunigen.