Wissenschaft & Gesundheit
Wie vertrauenswürdig sind KI-Systeme mit Wissenszugriff?
KI-Systeme, die auf externe Wissensquellen zugreifen, können zwar Fehlinformationen reduzieren, bringen jedoch neue Herausforderungen für Datenschutz, Fairness und Sicherheit mit sich. Eine aktuelle Übersichtsstudie zeigt, dass die sogenannte RAG-Technologie nur dann zuverlässig eingesetzt werden kann, wenn einheitliche Standards für ihre Vertrauenswürdigkeit entwickelt werden. Für die Gesundheitsversorgung in Mecklenburg-Vorpommern ist dies besonders relevant, da solche Systeme zunehmend in medizinischen Anwendungen Einzug halten. Bürgerinnen und Bürger sollten KI-gestützte Informationsangebote daher stets kritisch hinterfragen, bis belastbare Qualitätsrahmen etabliert sind.
RAG-Systeme werden bereits in medizinischen, rechtlichen und bildungsbezogenen KI-Anwendungen eingesetzt – Bereichen, in denen Fehler oder Verzerrungen erhebliche gesellschaftliche Folgen haben können. Die fehlende einheitliche Vertrauenswürdigkeitsstandards ist daher kein rein technisches Problem, sondern eine dringende gesellschaftliche und regulatorische Herausforderung.