Definitionen

Auf dieser Seite erhalten Sie weiterführende Informationen zu ausgewählten Begriffen rund um die KI-Verordnung.

KI-System

Artikel 3 der KI-Verordnung gibt vor:
Artikel	Begriff	Definition
3(1)	KI-System	ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können

Am 6. Februar 2025 hat die Europäische Kommission eine Leitlinie über die Begriffsbestimmung "KI-System" veröffentlicht. die Guidelines der Europäischen Kommission sind rechtlich nicht bindend und werden bei Bedarf zu einem späteren Zeitpunkt überarbeitet.

Laut dieser Leitlinie hat die Definition folgende sieben Hauptelemente:

Maschinengestützt
Unterschiedliche Autonomiegrade
Anpassungsfähigkeit
Explizite und implizite Ziele
Ableiten
Ausgaben
Interaktion

Akteure im Sinne der KI-Verordnung

Artikel 3 der KI-Verordnung beinhaltet eine Reihe von wichtigen Definitionen zur Bestimmung der Rollen einzelner Akteure entlang der KI-Wertschöpfungskette:
Artikel	Begriff	Definition
3(3)	Anbieter (engl. provider)	eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
3(4)	Betreiber (engl. deployer)	eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;
3(5)	Bevollmächtigter (engl. authorised representative)	eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die vom Anbieter eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck schriftlich dazu bevollmächtigt wurde und sich damit einverstanden erklärt hat, in seinem Namen die in dieser Verordnung festgelegten Pflichten zu erfüllen bzw. Verfahren durchzuführen;
3(6)	Einführer (engl. importer)	eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person trägt, in Verkehr bringt;
3(7)	Händler (engl. distributor)	eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt, mit Ausnahme des Anbieters oder des Einführers;
3(8)	Akteur (engl. operator)	ein Anbieter, Produkthersteller, Betreiber, Bevollmächtigten, Einführer oder Händler;
3(68)	Nachgelagerter Anbieter	ein Anbieter eines KI-Systems, einschließlich eines KI-Systems mit allgemeinem Verwendungszweck, das ein KI-Modell integriert, unabhängig davon, ob das KI-Modell von ihm selbst bereitgestellt und vertikal integriert wird oder von einer anderen Einrichtung auf der Grundlage vertraglicher Beziehungen bereitgestellt wird.

Begrifflichkeiten rund um Institutionen und Behörden

In der KI-Verordnung werden den verschiedenen Institutionen und Behörden bestimmte Zuständigkeiten zugeschrieben. Hierzu eine Übersicht:
Artikel	Begriff	Definition
3(19)	notifizierende Behörde (engl. notifying authority)	die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren für die Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig ist;
3(21)	Konformitäts- bewertungsstelle (engl. conformity assessment body)	eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt;
3(22)	notifizierte Stelle (engl. notified body)	eine Konformitätsbewertungsstelle, die gemäß dieser Verordnung und den anderen einschlägigen Harmonisierungs-rechtsvorschriften der Union notifiziert wurde;
3(26)	Marktüberwachungs- behörde (engl. market surveillance authority)	die nationale Behörde, die die Tätigkeiten durchführt und die Maßnahmen ergreift, die in der Verordnung (EU) 2019/1020 vorgesehen sind;
3(45)	Strafverfolgungs- behörde (engl. law enforcement authority)	a) eine Behörde, die für die Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder die Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, zuständig ist, oder b) eine andere Stelle oder Einrichtung, der durch nationales Recht die Ausübung öffentlicher Gewalt und hoheitlicher Befugnisse zur Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder zur Strafvollstreckung, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, übertragen wurde;
3(47)	Büro für Künstliche Intelligenz (engl. AI Office)	die Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom 24. Januar 2024 vorgesehenen KI-Governance beizutragen; Bezugnahmen in dieser Verordnung auf das Büro für Künstliche Intelligenz gelten als Bezugnahmen auf die Kommission;
3(48)	Zuständige nationale Behörde (engl. national competent authority)	eine notifizierende Behörde oder eine Marktüberwachungsbehörde; in Bezug auf KI-Systeme, die von Organen, Einrichtungen und sonstigen Stellen der Union in Betrieb genommen oder verwendet werden, sind Bezugnahmen auf die zuständigen nationalen Behörden oder Marktüberwachungsbehörden in dieser Verordnung als Bezugnahmen auf den Europäischen Datenschutzbeauftragten auszulegen;
3(55)	KI-Reallabor (engl. AI regulatory sandbox)	ein kontrollierter Rahmen, der von einer zuständigen Behörde geschaffen wird und den Anbietern oder zukünftige Anbietern von KI-Systemen nach einem Plan für das Reallabor einen begrenzten Zeitraum und unter regulatorischer Aufsicht nutzen können, um ein innovatives KI-System zu entwickeln, zu trainieren, zu validieren und — gegebenenfalls unter Realbedingungen — zu testen.

Neben den Definitionen aus Artikel 3 sind auch noch folgende Begrifflichkeiten relevant:
Verweis	Begriff	Definition
EG(20),65, 66	KI-Gremium (EU Gremium für Künstliche Intelligenz) (engl. Board / AI Board)	Das KI-Gremium soll die Kommission dabei unterstützen, KI-Kompetenzinstrumente sowie die Sensibilisierung und Aufklärung der Öffentlichkeit in Bezug auf die Vorteile, Risiken, Schutzmaßnahmen, Rechte und Pflichten im Zusammenhang mit der Nutzung von KI-Systemen zu fördern. Das KI-Gremium setzt sich aus einem Vertreter je Mitgliedstaat zusammen. Der Europäische Datenschutzbeauftragte nimmt als Beobachter teil. Das Büro für Künstliche Intelligenz nimmt ebenfalls an den Sitzungen des KI-Gremiums teil, ohne sich jedoch an den Abstimmungen zu beteiligen. Andere Behörden oder Stellen der Mitgliedstaaten und der Union oder Sachverständige können im Einzelfall zu den Sitzungen des KI-Gremiums eingeladen werden, wenn die erörterten Fragen für sie von Belang sind.
67(1) 67(2)	Beratungsforum (engl. advisory forum)	Es wird ein Beratungsforum eingerichtet, das technisches Fachwissen bereitstellt, das KI-Gremium und die Kommission berät und zu deren Aufgaben im Rahmen dieser Verordnung beiträgt. Die Mitglieder des Beratungsforums vertreten eine ausgewogene Auswahl von Interessenträgern, darunter die Industrie, Start-up-Unternehmen, KMU, die Zivilgesellschaft und die Wissenschaft. Bei der Zusammensetzung des Beratungsforums wird auf ein ausgewogenes Verhältnis zwischen wirtschaftlichen und nicht-wirtschaftlichen Interessen und innerhalb der Kategorie der wirtschaftlichen Interessen zwischen KMU und anderen Unternehmen geachtet.
68	Wissenschaftliches Gremium unabhängiger Sachverständiger (engl. scientific panel of independent experts)	Das wissenschaftliche Gremium setzt sich aus Sachverständigen zusammen, die von der Kommission auf der Grundlage aktueller wissenschaftlicher oder technischer Fachkenntnisse auf dem Gebiet der KI ausgewählt werden. Das wissenschaftliche Gremium berät und unterstützt das Büro für Künstliche Intelligenz.
70(2)	Zentrale Anlaufstelle (engl. single point of contact)	Die Mitgliedstaaten benennen eine Marktüberwachungsbehörde, die als zentrale Anlaufstelle für diese Verordnung fungiert, und teilen der Kommission den Namen der zentralen Anlaufstelle mit. Die Kommission erstellt eine öffentlich verfügbare Liste der zentralen Anlaufstellen.

Begrifflichkeiten rund um KI-Systeme und deren Einsatz

Mehr zu den Risikostufen von KI-Systemen
Die spezielle Kategorie der Hochrisiko-KI wird hier näher beschrieben.
Mehr über verbotene KI-Praktiken.

Die KI-Verordnung beinhaltet auch einige Begrifflichkeiten rund um KI-Systeme und deren Einsatz. Einige sind wichtig, um das KI-System zu definieren und einzustufen. Auf andere Begriffe wird in den am 4. Februar 2025 veröffentlichten Leitlinien zu „verbotenen Praktiken der künstlichen Intelligenz gemäß der KI-Verordnung“ näher eingegangen.
Artikel	Begriff	Definition
3(2)	Risiko (engl. risk)	die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens;
3(9)	Inverkehrbringen (engl. placing on the market)	die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt;
3(10)	Bereitstellung auf dem Markt (engl. making available on the market)	die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit;
3(11)	Inbetriebnahme (engl. putting into service)	die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung;
3(12)	Zweckbestimmung (engl. intended purpose)	die Verwendung, für die ein KI-System laut Anbieter bestimmt ist, einschließlich der besonderen Umstände und Bedingungen für die Verwendung, entsprechend den vom Anbieter bereitgestellten Informationen in den Betriebsanleitungen, im Werbe- oder Verkaufsmaterial und in diesbezüglichen Erklärungen sowie in der technischen Dokumentation;
3(13)	vernünftigerweise vorhersehbare Fehlanwendung (engl. reasonably foreseeable misuse)	die Verwendung eines KI-Systems in einer Weise, die nicht seiner Zweckbestimmung entspricht, die sich aber aus einem vernünftigerweise vorhersehbaren menschlichen Verhalten oder einer vernünftigerweise vorhersehbaren Interaktion mit anderen Systemen, auch anderen KI-Systemen, ergeben kann;
3(14)	Sicherheitsbauteil (engl. safety component)	ein Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet; Im Erwägungsgrund (55) werden zudem Sicherheitsbauteile im Zusammenhang mit der Verwaltung und dem Betrieb kritischer Infrastruktur als Systeme beschrieben, welche die “physische Integrität kritischer Infrastruktur oder die Gesundheit und Sicherheit von Personen und Eigentum” schützen. Hingegen sollen “Komponenten, die für die ausschließliche Verwendung zu Zwecken der Cybersicherheit vorgesehen sind” nicht als Sicherheitsbauteile gelten.
3(15)	Betriebsanleitungen (engl. instructions for use)	die Informationen, die der Anbieter bereitstellt, um den Betreiber insbesondere über die Zweckbestimmung und die ordnungsgemäße Verwendung eines KI-Systems zu informieren;
3(18)	Leistung eines KI-Systems (engl. performance of an AI system)	die Fähigkeit eines KI-Systems, seine Zweckbestimmung zu erfüllen;
3(23)	wesentliche Veränderung (engl. substantial modification)	eine Veränderung eines KI-Systems nach dessen Inverkehrbringen oder Inbetriebnahme, die in der vom Anbieter durchgeführten ursprünglichen Konformitätsbewertung nicht vorgesehen oder geplant war und durch die die Konformität des KI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 beeinträchtigt wird oder die zu einer Änderung der Zweckbestimmung führt, für die das KI-System bewertet wurde
3(29)	Trainingsdaten (engl. training data)	Daten, die zum Trainieren eines KI-Systems verwendet werden, wobei dessen lernbare Parameter angepasst werden;
3(30)	Validierungsdaten (engl. validation data)	Daten, die zur Evaluation des trainierten KI-Systems und zur Einstellung seiner nicht erlernbaren Parameter und seines Lernprozesses verwendet werden, um unter anderem eine Unter- oder Überanpassung zu vermeiden;
3(31)	Validierungsdatensatz (engl. validation data set)	ein separater Datensatz oder ein Teil des Trainingsdatensatzes mit fester oder variabler Aufteilung;
3(32)	Testdaten (engl. testing data)	Daten, die für eine unabhängige Bewertung des KI-Systems verwendet werden, um die erwartete Leistung dieses Systems vor dessen Inverkehrbringen oder Inbetriebnahme zu bestätigen;
3(33)	Eingabedaten (engl. input data)	die in ein KI-System eingespeisten oder von diesem direkt erfassten Daten, auf deren Grundlage das System eine Ausgabe hervorbringt;
3(60)	Deepfake	einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde;

Begrifflichkeiten rund um „Notifizierung“

Nach der KI-Verordnung bedeutet Notifizierung die offizielle Mitteilung an die Europäische Kommission und die anderen EU-Mitgliedstaaten, dass eine Konformitätsbewertungsstelle geprüft und benannt wurde. Nur von diesen notifizierten Stellen dürfen Konformitätsbewertungen im Sinne der KI-Verordnung vorgenommen werden. Gemäß Artikel 6 der KI-Verordnung sind notifizierte Stelle einzubeziehen, wenn es sich um ein Hochrisiko-KI-System handelt, um zu überprüfen, ob das Hochrisiko-KI-System den Anforderungen der KI-Verordnung entspricht.

Folgende Definitionen der KI-Verordnung sind hier relevant:
Artikel	Begriff	Definition
3(19)	notifizierende Behörde (engl. notifying authority)	die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren für die Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig ist;
3(20)	Konformitätsbe -wertung (engl. conformity assessment)	ein Verfahren mit dem bewertet wird, ob die in Titel III Abschnitt 2 festgelegten Anforderungen an ein Hochrisiko-KI-System erfüllt wurden;
3(21)	Konformitätsbe-wertungsstelle (engl. conformity assessment body)	eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt;
3(22)	notifizierte Stelle (engl. notified body)	eine Konformitätsbewertungsstelle, die gemäß dieser Verordnung und den anderen einschlägigen Harmonisierungsrechtsvorschriften der Union notifiziert wurde;
3(24)	CE-Kennzeichnung (engl. CE marking)	eine Kennzeichnung, durch die ein Anbieter erklärt, dass ein KI-System die Anforderungen erfüllt, die in Kapitel III Abschnitt 2 und in anderen anwendbaren Harmonisierungsrechtsvorschriften, die die Anbringung dieser Kennzeichnung vorsehen, festgelegt sind;

Begrifflichkeiten rund um „Biometrie“

Der Einsatz biometrischer KI-Systeme gilt als besonders sensibel und unterliegt daher strengen Regeln zum Schutz der Grundrechte und der Privatsphäre.

Folgende Definitionen der KI-Verordnung sind hier relevant:
Artikel	Begriff	Definition
3(34)	biometrische Daten (engl. biometric data)	mit speziellen technischen Verfahren gewonnene personenbezogene Daten zu den physischen, physiologischen oder verhaltenstypischen Merkmalen einer natürlichen Person, wie etwa Gesichtsbilder oder daktyloskopische Daten;
3(35)	biometrische Identifizierung (engl. biometric identification)	die automatisierte Erkennung physischer, physiologischer, verhaltensbezogener oder psychologischer menschlicher Merkmale zum Zwecke der Feststellung der Identität einer natürlichen Person durch den Vergleich biometrischer Daten dieser Person mit biometrischen Daten von Personen, die in einer Datenbank gespeichert sind;
3(36)	biometrische Verifizierung (engl. biometric verification)	die automatisierte Eins-zu-eins-Verifizierung, einschließlich Authentifizierung, der Identität natürlicher Personen durch den Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen Daten;
3(37)	besondere Kategorien personenbezogener Daten (engl. special categories of personal data)	die in Artikel 9 Absatz 1der Verordnung (EU) 2016/679, Artikel 10 der Richtlinie (EU) 2016/680 und Artikel 10 Absatz 1 der Verordnung (EU) 2018/1725 aufgeführten Kategorien personenbezogener Daten;
3(38)	sensible operative Daten (engl. sensitive operational data)	operative Daten im Zusammenhang mit Tätigkeiten zur Verhütung, Aufdeckung, Untersuchung oder Verfolgung von Straftaten, deren Offenlegung die Integrität von Strafverfahren gefährden könnte;
3(39)	Emotionserkennungs- system (engl. emotion recognition system)	ein KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten festzustellen oder daraus abzuleiten;
3(40)	System zur biometrischen Kategorisierung (engl. biometric categorisation system)	ein KI-System, das dem Zweck dient, natürliche Personen auf der Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen, sofern es sich um eine Nebenfunktion eines anderen kommerziellen Dienstes handelt und aus objektiven technischen Gründen unbedingt erforderlich ist;
3(41)	biometrisches Fernidentifizierungssystem (engl. remote biometric categorisation system)	ein KI-System, das dem Zweck dient, natürliche Personen ohne ihre aktive Einbeziehung und in der Regel aus der Ferne durch Abgleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank gespeicherten biometrischen Daten zu identifizieren;
3(42)	biometrisches Echtzeit-Fernidentifizierungs- system (engl. real-time remote biometric categorisation system)	ein biometrisches Fernidentifizierungssystem, bei dem die Erfassung biometrischer Daten, der Abgleich und die Identifizierung ohne erhebliche Verzögerung erfolgen, und das zur Vermeidung einer Umgehung der Vorschriften nicht nur die sofortige Identifizierung, sondern auch eine Identifizierung mit begrenzten kurzen Verzögerungen umfasst;
3(43)	System zur nachträglichen biometrischen Fernidentifizierung (engl. post-remote biometric categorisation system)	ein biometrisches Fernidentifizierungssystem, das kein biometrisches Echtzeit-Fernidentifizierungssystem ist;