Der EU AI Act

Auswirkungen auf die Governance und Prüfung von Künstlicher Intelligenz

Mit dem EU AI Act hat das Europäische Parlament am 13. März 2024 europaweiten Regeln für Künstliche Intelligenz (KI) zugestimmt. Der EU AI Act soll sicherstellen, dass KI-Systeme vertrauenswürdig und sicher sind. Hendrik Reese, Partner „Responsible AI“ bei der PricewaterhouseCoopers GmbH, untersucht in einem Beitrag für die WPg die Kernanforderungen des EU AI Act und diskutiert dessen Auswirkungen auf die Governance und Prüfung von KI-Systemen.

Der EU AI Act ist ein bedeutender Schritt zu einem sicheren und ethischen Einsatz von KI in der EU. Bis zu seinem Wirksamwerden sollten Standards und Prüfansätze zur praktischen Anwendung entwickelt werden. Mit der richtigen Vorbereitung können Unternehmen nicht nur die Einhaltung des EU AI Act sicherstellen, sondern auch das Vertrauen in ihre KI-Lösungen stärken und sich im Wettbewerb positionieren.

Dieser Blogbeitrag wird in Kooperation mit der Fachzeitschrift „Die Wirtschaftsprüfung“ zur Verfügung gestellt. Es handelt sich um eine redaktionell stark gekürzte Fassung. Den vollständigen Artikel von Hendrik Reese lesen Sie in der WPg 01/2024, S. 44.

Die Plattform SOLON X unterstützt Wirtschaftsprüfer*innen bei der digitalen Transformation mit maßgeschneiderten Tools und Services.

Ein neuer regulatorischer Rahmen: Der EU AI Act im Überblick

Der EU AI Act verfolgt einen risikobasierten Ansatz. KI-Systeme, die ein potenzielles Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen, unterliegen daher strengeren Anforderungen. Internationale Tragweite gewinnt der EU AI Act, da er auch bei außerhalb der EU betriebenen KI-Systemen greift, wenn deren Ergebnisse in der EU verwendet werden. Nach der Veröffentlichung im EU-Amtsblatt werden die meisten Regeln nach einer Übergangszeit von zwei Jahren wirksam; einzelne Anforderungen gelten jedoch davon abweichend nach sechs, zwölf bzw. 36 Monaten.

Risikokategorien und ihre Bedeutung

Der EU AI Act unterscheidet zwischen verschiedenen Risikokategorien von KI-Systemen: verbotene KI-Systeme, Systeme mit hohem Risiko, General Purpose AI – also große Modelle, die für viele Anwendungszwecke genutzt werden können, sowie bestimmte KI-Systeme, die direkt mit Endnutzern interagieren und für die zusätzliche Transparenzanforderungen gelten. Verboten werden beispielsweise KI-Systeme, die Menschen zu irreführenden Verhaltensweisen verleiten könnten, oder Sozialkreditsysteme. Systeme mit hohem Risiko müssen strenge Anforderungen erfüllen (z.B. bei kritischen Infrastrukturen, in der Strafverfolgung, aber auch Systeme zur Bewerberauswahl).

Governance und Prüfung von KI-Systemen

Unternehmen stehen vor der Herausforderung, ihre KI-Systeme in Einklang mit dem EU AI Act zu bringen. Dies erfordert die Einführung von Prozessen und Strukturen für die Steuerung von KI, die von der Auswahl der richtigen Daten bis zur Überwachung des Systems nach seiner Inbetriebnahme reichen.

Eine Kernherausforderung liegt in der Umsetzung der regulatorischen Anforderungen in konkrete Richtlinien und Kontrollen. Gleichzeitig sind Dokumentationen über die Entwicklung, das Training, die Funktionsweise und über potenzielle Kontrollmechanismen für Nutzer von großer Bedeutung. Für KI-Systeme mit hohem Risiko ist zudem sicherzustellen, dass diese regelmäßig geprüft und validiert werden. So hat z.B. das IDW mit IDW PS 861 einen Prüfungsstandard zur Prüfung von KI-Systemen erarbeitet. Auf EU-Ebene werden von den Standardisierungskomitees sog. “Harmonised Standards” entwickelt werden.

Menü