Transparenzpflichten

Für bestimmte KI-Systeme müssen Anbieter und Betreiber besondere Transparenzanforderungen erfüllen. Einige davon sind bereits während der Entwicklung des KI-Systems zu berücksichtigen. Der Großteil zielt jedoch darauf ab, den Einsatz eines KI-Systems offenzulegen und die Interaktion mit Menschen transparent zu gestalten.

Die nachfolgende Tabelle stellt einen Überblick der wichtigsten Regelungen dar, die im Detail in Artikel 50 "Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme" festgelegt sind.

Grundsätzlich gelten je nach Anwendung unterschiedliche Transparenzpflichten. Zudem bestehen Ausnahmen, bei denen die Pflichten nicht oder nur in eingeschränkter Form erfüllt werden müssen.

Anbieter
Ausgangslage	Transparenzpflichten	Ausnahmeregelungen
KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind.	- Betroffene Personen müssen über die Interaktion mit dem KI-System informiert werden.	- Aus dem Kontext ist ersichtlich, dass es sich um ein KI-System handelt. - Das KI-System ist für die gesetzliche Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen und es bestehen entsprechende Schutzvorkehrungen für die Rechte und Freiheiten Dritter.
KI-Systeme mit allg. Verwendungszweck (GPAI), die synthetische Inhalte (Text/Video/Audio/Bild) erzeugen.	- Ausgaben sind in einem maschinenlesbaren Format gekennzeichnet. - Ausgaben sind als manipuliert / künstlich erzeugt erkennbar. - Technische Lösung muss wirksam, interoperabel, belastbar und zuverlässig sein.	- Das KI-System führt eine unterstützende Funktion für Standardbearbeitungen aus. - Das KI-System verändert die Eingaben oder die Semantik nicht wesentlich. - Das KI-System ist für die gesetzliche Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen und es bestehen entsprechende Schutzvorkehrungen für die Rechte und Freiheiten Dritter.

Betreiber
Ausgangslage	Transparenzpflichten	Ausnahmeregelungen
KI-Systeme, das zur Emotionserkennung oder zur biometrischen Kategorisierung eingesetzt wird.	- Betroffene Personen müssen über den Betrieb des KI-Systems informiert werden. - Die personenbezogenen Daten müssen nach entsprechenden Richtlinien verarbeitet werden: (EU) 2016/679 und (EU) 2018/1725.	- Das KI-System ist für die gesetzliche Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen und es bestehen entsprechende Schutzvorkehrungen für die Rechte und Freiheiten Dritter.
KI-Systeme, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren (Deepfakes).	- Betreiber müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.	- Das KI-System ist für die gesetzliche Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen.
KI-Systeme, die Bild-, Ton- oder Videoinhalte als Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks erzeugen.	- Das Vorhandensein der erzeugten/manipulierten Inhalte wird in geeigneter Form offengelegt.
KI-Systeme, die Texte erzeugen oder manipulieren, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.	- Betreiber müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.	- Das KI-System ist für die gesetzliche Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen. - Die KI-erzeugten Inhalte werden nachgelagert durch einen Menschen überprüft bzw. einer redaktionellen Kontrolle unterzogen und eine natürliche oder juristische Person übernimmt die redaktionelle Verantwortung.

Handelt es sich bei dem KI-System zusätzlich um ein Hochrisiko-KI-System, gelten die hier dargestellten Transparenzpflichten zusätzlich zu den Anforderungen, die an Hochrisiko-KI gestellt werden. Auch weitere Transparenzpflichten nach Unionsrecht oder dem nationalen Recht bleiben weiterhin bestehen.