Fra­gen und Ant­wor­ten

Die Verordnung gilt für alle öffentlichen und geschäftlichen Akteure, sowohl innerhalb als auch außerhalb der EU, wenn das KI-System in der EU verkauft wird oder seine Nutzung Auswirkungen auf Menschen in der EU hat.

Die Pflichten betreffen sowohl Anbieter als auch die Betreiber von KI-Systemen. Es gibt jedoch Ausnahmen: Forschungs- und Entwicklungsarbeiten sowie Tests von Prototypen vor der Markteinführung fallen nicht unter diese Vorschriften. Auch KI-Systeme, die ausschließlich für militärische, Verteidigungs- oder nationale Sicherheitszwecke entwickelt werden, sind ausgenommen, unabhängig davon, wer sie einsetzt.

Aktuell sind General Purpose Artificial Intelligence (GPAI)-Modelle als sogenannte Large Language Models (LLMs) bekannt, die normalerweise aus künstlichen neuronalen Netzen bestehen, wie GPT-4 von OpenAI, Gemini von Google oder LLaMA 2 von Meta Platforms. Diese Modelle, zu denen auch große generative KI-Modelle gehören, werden aufgrund ihrer breiten Einsatzmöglichkeiten oft als Grundlage für KI-Systeme genutzt und in die KI-Systeme integriert.

Die KI-Verordnung definiert acht KI-Praktiken, die auf Grund ihrer potenziellen Risiken für die europäischen Werte und Grundrechte seit dem 2. Februar 2025 verboten sind. Ausnahmen bestehen nur in einem engen Bereich, insbesondere für die Strafverfolgung, wenn unter bestimmten Voraussetzungen die Verwendung von biometrischer Echtzeitidentifizierung erlaubt ist.

Anbieter und Betreiber bestimmter KI-Systeme müssen besondere Transparenzanforderungen erfüllen. Einige dieser Anforderungen sind bereits während der Entwicklung zu beachten. Die meisten dieser Anforderungen zielen darauf ab, den Einsatz eines KI-Systems offenzulegen und die Interaktion mit Menschen transparent zu gestalten. Da generative KI-Modelle es ermöglichen, Inhalte wie Texte, Bilder, Audio zu erzeugen, ist es wichtig zu kennzeichnen, dass diese Inhalte von einer KI und nicht von einem Menschen erzeugt wurden.

Mit Artikel 111 der KI-Verordnung gibt es einige Übergangsregeln explizit für bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck.

• Ab Ende 2030 gelten bestimmte Verpflichtungen für KI-Systeme, die Teile von durch EU-Recht geschaffenen IT-Systemen in den Bereichen Freiheit, Sicherheit und Recht sind - wie etwa das Schengener Informationssystem – sofern sie bereits vor dem 2. August 2027 angeboten oder eingesetzt wurden.
• Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 angeboten oder eingesetzt wurden, müssen die Vorgaben der KI-Verordnung nur dann erfüllen, wenn diese KI-Systeme in ihrem Design wesentlich geändert wurden.
• Betreiber der KI-Modelle mit allgemeinem Verwendungszweck (GPAI), die vor 2. August 2025 in den Markt eingeführt wurden, müssen die Vorgaben der KI-Verordnung ab dem 2. August 2027 erfüllen.

Aufbau der zentralen Anlaufstelle: Die zentrale Anlaufstelle nach der KI-Verordnung Artikel 70 dient als Schnittstelle zum KI Büro der Europäischen Kommission und zu den zuständigen Stellen in den EU-Ländern, insbesondere den notifizierenden Behörden und Marktüberwachungsbehörden. Weitere Informationen finden Sie hier.

Vorbereitung auf Notifizierungsaufgaben: Die Bundesnetzagentur bereitet sich inhaltlich und organisatorisch auf die Tätigkeiten und Aufgaben der Notifizierung von Hochrisiko-KI-Systemen nach Anhang I Nr. 6 sowie Anhang III Nr. 1 der KI-Verordnung vor. Weitere Informationen finden Sie hier.

Erweiterung der bisherigen Marktüberwachungstätigkeiten: Die Bundesnetzagentur ist zuständige Marktüberwachungsbehörde im Sinne der Richtlinie 2014/53/EU über die Bereitstellung von Funkanlagen auf dem Markt. Sie wird daher künftig auch die damit verbundenen die Tätigkeiten und Aufgaben aus der KI-Verordnung für Funkanlagen wahrnehmen. Zusätzlich wird die Marktüberwachung für die Bereiche des Anhang III der KI-Verordnung vorbereitet. Weitere Informationen finden Sie hier

Aufbau eines Koordinierungs- und Kompetenzzentrums: In Deutschland soll ein zentrales Koordinierungs- und Kompetenzzentrums bei der Bundesnetzagentur eingerichtet werden, um nationalen Marktüberwachungs- und notifizierenden Behörden bei der komplexen Anwendung der KI-Verordnung unterstützend zur Seite zu stehen. Weitere Informationen finden Sie hier.

Pilotprojekt zur Simulation eines KI-Reallabors: Die Bundesnetzagentur hat gemeinsam mit dem Hessischen Ministerium für Digitales und Innovation und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit ein Pilotprojekt zur Simulation eines KI-Reallabors im Mai 2025 gestartet. Weitere Informationen finden Sie hier.