Wissenschaft & Gesundheit

KI-Vertrauen: Worauf es wirklich ankommt

Do. 13 Aug 2026 - 06:01

Künstliche Intelligenz bietet sowohl im Gesundheitswesen als auch in anderen Bereichen großes Potenzial, birgt jedoch durch Phishing, Fehlinformationen und Manipulation erhebliche Risiken. Forschungsansätze zielen darauf ab, KI-Systeme technisch sicherer zu gestalten und gleichzeitig einen kritisch-reflektierten gesellschaftlichen Umgang mit diesen Technologien zu fördern. Für Bürgerinnen und Bürger in Mecklenburg-Vorpommern bedeutet dies: KI kann als nützliches Werkzeug dienen, sollte jedoch stets hinterfragt und nicht blind als verlässliche Quelle akzeptiert werden. Medienkompetenz und digitale Bildung werden damit zu Schlüsselkompetenzen im Alltag.

Vertrauenswürdige KI ist eine Grundvoraussetzung für eine demokratische, offene Gesellschaft, in der Bürgerinnen und Bürger selbstbestimmt mit digitalen Systemen umgehen können. Fehlgeleitetes Vertrauen in KI gefährdet nicht nur individuelle Sicherheit, sondern auch den gesellschaftlichen Diskurs, wenn automatisierte Systeme Desinformation verbreiten oder Entscheidungsprozesse verzerren. Forschung an ethischer KI stärkt damit mittelbar auch demokratische Strukturen.

KI-Sicherheitsforschung wie die von Niklas Kühl liefert praxisnahe Grundlagen dafür, wie Institutionen, Schulen und Behörden mit KI-Risiken umgehen sollten. Die Erkenntnisse sind unmittelbar relevant für Medienkompetenz-Programme und digitale Bildungsangebote. Langfristig können solche Forschungsergebnisse in Regulierungsansätze auf EU-Ebene einfließen und so konkret die Nutzungsbedingungen von KI in Verwaltung und Gesellschaft mitgestalten.