Weitere Fragen und Antworten

Die KI-Verordnung definiert KI-Systeme bewusst breit und technologieneutral, um ihre Anwendung auf zukünftige Entwicklungen sicherzustellen.

Ein KI-System ist demnach:

„ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;“ (Artikel 3 Nr. 1 KI-Verordnung)

KI-Modelle stellen allein kein KI-System dar, sondern sind vielmehr Basisbestandteile von KI-Systemen bzw. KI-Systemen mit allgemeinem Verwendungszweck. KI-Modelle können in eine Systemumgebung eingebettet werden, um dann in Kombination die dem Anwendungszweck entsprechenden Funktionalitäten bereitzustellen. Je nach Anwendungszweck ergeben sich daraus dann verschieden eingestufte KI-Systeme.

Die KI-Verordnung definiert acht KI-Praktiken, die auf Grund ihrer potenziellen Risiken für die europäischen Werte und Grundrechte seit dem 2. Februar 2025 verboten sind. Ausnahmen bestehen nur in einem engen Bereich, insbesondere für die Strafverfolgung, wenn unter bestimmten Voraussetzungen die Verwendung von biometrischer Echtzeitidentifizierung erlaubt ist.

Anbieter und Betreiber bestimmter KI-Systeme müssen besondere Transparenzanforderungen erfüllen. Einige dieser Anforderungen sind bereits während der Entwicklung zu beachten. Die meisten dieser Anforderungen zielen darauf ab, den Einsatz eines KI-Systems offenzulegen und die Interaktion mit Menschen transparent zu gestalten. Da generative KI-Modelle es ermöglichen, Inhalte wie Texte, Bilder, Audio zu erzeugen, ist es wichtig zu kennzeichnen, dass diese Inhalte von einer KI und nicht von einem Menschen erzeugt wurden.

Mit Artikel 111 der KI-Verordnung gibt es einige Übergangsregeln explizit für bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck.

• Ab Ende 2030 gelten bestimmte Verpflichtungen für KI-Systeme, die Teile von durch EU-Recht geschaffenen IT-Systemen in den Bereichen Freiheit, Sicherheit und Recht sind - wie etwa das Schengener Informationssystem – sofern sie bereits vor dem 2. August 2027 angeboten oder eingesetzt wurden.
• Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 angeboten oder eingesetzt wurden, müssen die Vorgaben der KI-Verordnung nur dann erfüllen, wenn diese KI-Systeme in ihrem Design wesentlich geändert wurden.
• Betreiber der KI-Modelle mit allgemeinem Verwendungszweck (GPAI), die vor 2. August 2025 in den Markt eingeführt wurden, müssen die Vorgaben der KI-Verordnung ab dem 2. August 2027 erfüllen.

Aufbau der zentralen Anlaufstelle: Die zentrale Anlaufstelle nach der KI-Verordnung Artikel 70 dient als Schnittstelle zum KI Büro der Europäischen Kommission und zu den zuständigen Stellen in den EU-Ländern, insbesondere den notifizierenden Behörden und Marktüberwachungsbehörden. Weitere Informationen finden Sie hier.

Vorbereitung auf Notifizierungsaufgaben: Die Bundesnetzagentur bereitet sich inhaltlich und organisatorisch auf die Tätigkeiten und Aufgaben der Notifizierung von Hochrisiko-KI-Systemen nach Anhang I Nr. 6 sowie Anhang III Nr. 1 der KI-Verordnung vor. Weitere Informationen finden Sie hier.

Erweiterung der bisherigen Marktüberwachungstätigkeiten: Die Bundesnetzagentur ist zuständige Marktüberwachungsbehörde im Sinne der Richtlinie 2014/53/EU über die Bereitstellung von Funkanlagen auf dem Markt. Sie wird daher künftig auch die damit verbundenen die Tätigkeiten und Aufgaben aus der KI-Verordnung für Funkanlagen wahrnehmen. Zusätzlich wird die Marktüberwachung für die Bereiche des Anhang III der KI-Verordnung vorbereitet. Weitere Informationen finden Sie hier

Aufbau eines Koordinierungs- und Kompetenzzentrums: In Deutschland soll ein zentrales Koordinierungs- und Kompetenzzentrums bei der Bundesnetzagentur eingerichtet werden, um nationalen Marktüberwachungs- und notifizierenden Behörden bei der komplexen Anwendung der KI-Verordnung unterstützend zur Seite zu stehen. Weitere Informationen finden Sie hier.

Pilotprojekt zur Simulation eines KI-Reallabors: Die Bundesnetzagentur hat gemeinsam mit dem Hessischen Ministerium für Digitales und Innovation und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit ein Pilotprojekt zur Simulation eines KI-Reallabors im Mai 2025 gestartet. Weitere Informationen finden Sie hier.

Die KI-Verordnung umfasst verschiedene Leitlinien und Praxisleitfäden, die zur Einhaltung der Vorschriften beitragen. Einige dieser Leitlinien müssen zu bestimmten Fristen fertiggestellt werden, während andere zu unbestimmten Zeitpunkten veröffentlicht werden können. Vereinzelt finden Sie diese Leitlinien und Praxisleitfäden auf ihren thematisch passenden Unterseiten verlinkt.