KI mit externem Wissen: Wie vertrauenswürdig ist RAG?

KI-Systeme, die externe Quellen einbeziehen (sogenannte RAG-Systeme), können die Qualität medizinischer oder behördlicher Auskünfte verbessern, bergen jedoch neue Risiken durch manipulierbare Quellen und fehlende Transparenz. Eine systematische Übersichtsstudie identifiziert erstmals sechs zentrale Vertrauensdimensionen, anhand derer solche Systeme bewertet werden sollten. Für die Gesundheitsversorgung in Mecklenburg-Vorpommern bedeutet dies, dass KI-gestützte Informationsangebote nur dann sicher eingesetzt werden können, wenn Zuverlässigkeit, Datenschutz und Nachvollziehbarkeit technisch und rechtlich abgesichert sind. Bürgerinnen und Bürger sollten KI-Antworten kritisch hinterfragen und bei gesundheitlichen Fragen stets ärztlichen Rat einholen.