Wenn KI Fakten liefern muss

Warum KI verlässliche Fakten braucht und wie RAG Halluzinationen reduziert

Generative Sprachmodelle können Texte flüssig formulieren, doch ihre größte Schwäche liegt in der Zuverlässigkeit der Inhalte. Sie liefern Antworten, auch wenn die zugrunde liegenden Informationen fehlen oder falsch sind. Gerade in regulierten Bereichen wie der Wirtschaftsprüfung ist das ein erhebliches Risiko. Wie Retrieval-Augmented Generation (RAG) dieses Problem adressiert und warum sie als Schlüsseltechnologie für den verantwortungsvollen KI-Einsatz gilt, zeigen Dr. Camilla Fiallo und WP StB Dipl.-Kfm. Hagen Müller in der WPg.

Dieser Blogbeitrag wird in Kooperation mit der Fachzeitschrift „Die Wirtschaftsprüfung“ zur Verfügung gestellt. Es handelt sich um eine redaktionell stark gekürzte Fassung. Den vollständigen Artikel lesen Sie in der WPg 01/2026, S. 23.

Die Plattform SOLON X unterstützt die Wirtschaftsprüfungs- und Steuerberatungsbranche bei der digitalen Transformation mit praxisnahen Tools und Services zur Integration von KI-Technologien in Prüfungsprozesse.

Lesen Sie mehr zum Thema KI

Zwischen Leistungsfähigkeit und Vertrauensfrage

Sprachmodelle erzeugen ihre Antworten probabilistisch – sie wählen das jeweils wahrscheinlichste nächste Wort, nicht zwangsläufig die korrekte Aussage. Dadurch entstehen sogenannte Halluzinationen: sprachlich überzeugende, aber inhaltlich falsche Antworten. RAG setzt genau hier an. Statt sich ausschließlich auf das Trainingswissen des Modells zu verlassen, kombiniert RAG die Textgenerierung mit einer vorgelagerten Wissensabfrage. Relevante Dokumente, Standards oder interne Richtlinien werden gezielt abgerufen und dem Modell als Kontext zur Verfügung gestellt. Das Ergebnis sind Antworten, die nicht nur plausibel klingen, sondern auf überprüfbaren Quellen beruhen.

Potenzial für die Wirtschaftsprüfung

Gerade in der Wirtschaftsprüfung entfaltet RAG seine besondere Stärke. Prüfer müssen komplexe Fachfragen beantworten und dabei aktuelle Standards, regulatorische Vorgaben und interne Leitlinien berücksichtigen. Ein RAG-gestützter fachlicher Chatbot kann hier gezielt unterstützen: Er erklärt Fachbegriffe präzise, verweist auf einschlägige Verlautbarungen, hilft beim Training von Prüfungswissen und sorgt dafür, dass Anwender stets auf dem aktuellen Stand bleiben. Durch die Möglichkeit, Inhalte zeitlich zu steuern und veraltete Informationen gezielt auszublenden, erhöht RAG nicht nur die Effizienz, sondern auch die Qualitätssicherung im Prüfungsprozess.

Grenzen und Erfolgsfaktoren

Trotz der deutlichen Vorteile ist auch RAG kein Selbstläufer. Die Qualität der Antworten hängt maßgeblich von der zugrunde liegenden Datenbasis und der Präzision der Fragestellung ab. Unvollständige Dokumentensammlungen oder zu offen formulierte Fragen können zu ungenauen Ergebnissen führen. Zudem kann das System nur das liefern, was in den hinterlegten Quellen enthalten ist. RAG reduziert Halluzinationen deutlich, eliminiert sie jedoch nicht vollständig. Umso wichtiger ist es, dass Prüfer die Ergebnisse kritisch hinterfragen und die KI als Assistenzsystem verstehen (nicht als Ersatz für professionelles Urteilsvermögen).

Angesichts dieser Rahmenbedingungen betonen Fiallo/Müller, dass RAG-Systeme vor allem dann ihren Mehrwert entfalten, wenn sie sorgfältig kuratiert, regelmäßig aktualisiert und gezielt eingesetzt werden.