KI-Kompetenz

Nach der KI-Verordnung müssen seit Anfang Februar 2025 die Anbieter und Betreiber von KI-Systemen sicherstellen, dass alle Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen.

In Kürze

In Kürze

Die Fähigkeit, künstliche Intelligenz zu verstehen, kritisch zu hinterfragen und verantwortungsvoll einzusetzen, ist heutzutage essenziell. KI-Kompetenz ist Voraussetzung, um fundierte Entscheidungen zu treffen, Risiken zu minimieren und gesetzliche Vorgaben einzuhalten. Gleichzeitig ermöglicht sie, dass das Potenzial von KI bestmöglich genutzt wird und Innovationen entwickelt werden.
Die KI-Verordnung legt nicht fest, wie die KI-Kompetenz konkret aufzubauen ist. Es werden keine standardisierten Trainingsmaßnahmen vorgegeben. KI nutzende Organisationen können selbst entscheiden, wie sie nach bestem Wissen und Gewissen die KI-Kompetenz sicherstellen.
Der individuelle Kontext der Organisation ist essentiell: Die Rolle als Anbieter oder Betreiber, die entwickelten oder eingesetzten KI-Systeme und das damit verbundene Risiko, sowie die Vorkenntnisse des Personals sind hierbei entscheidend.
Der Aufbau von KI-Kompetenz ist ein kontinuierlicher Prozess. KI-Kompetenzen sollten regelmäßig aufgefrischt und an die technologischen Entwicklungen angepasst werden.
Die KI-Verordnung sieht keine Zertifizierungspflicht für in Anspruch genommene Schulungen oder Qualifizierungsmaßnahmen vor. Die Maßnahmen können sowohl intern als auch extern durchgeführt werden.
Getroffenen Maßnahmen zum Aufbau von KI-Kompetenz sollten dokumentiert werden.
Es gibt einige kostenlose Schulungsangebote zu KI-Kompetenz. Wir geben Ihnen Hinweise dazu.

Hier und im Hinweispapier zur KI-Kompetenz bietet die Bundesnetzagentur eine Orientierungshilfe zu den Pflichten und dem Aufbau von KI-Kompetenz. Das KI-Büro der Europäischen Union unterstützt die Mitgliedsstaaten bei der Umsetzung des Artikel 4 und stellt Informationen zum Thema KI-Kompetenz auf ihren Webseiten bereit, z.B. in Form eines Webinars zur KI-Kompetenz.
Hier geht es zur Aufzeichnung: Webinar zum dritten KI-Pakt zum Thema KI-Kompetenz | Gestaltung der digitalen Zukunft Europas

Was ist KI-Kompetenz?

Der Begriff „KI-Kompetenz“ wird in Artikel 3 Nr. 56 der KI-Verordnung legal definiert.

"KI-Kompetenz“ [bezeichnet] die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden." Artikel 3 Nr.56

KI-Kompetenz umfasst demnach im Kern

die Fähigkeiten, die Kenntnisse und das Verständnis,
um KI-Systeme sachkundig, verantwortungsvoll und sicher einzusetzen und
sich der Chancen und Risiken (z.B. ethisch, rechtlich, gesellschaftlich) von KI bewusst zu sein.

Die Legaldefinition spiegelt auch die zwei zentralen Säulen der KI-Verordnung wider. Es sollen Risiken und mögliche Schäden beim Einsatz von KI minimiert und Chancen und Innovationen durch die Nutzung von KI gefördert werden. Somit liegt der Aufbau von KI-Kompetenzen im Eigeninteresse der Unternehmen.

Seit dem 2. Februar 2025 gelten die Regelungen für die KI-Kompetenz gemäß Artikel 4 der KI-Verordnung.

"Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind." Artikel 4

Der Artikel 4 beinhaltet folgende Dimensionen:

Wer: Anbieter und Betreiber von KI-Systemen einschließlich solcher mit allgemeinem Verwendungszweck, wie bspw. Chatbots, unabhängig von Wirtschaftszweig oder Organisationsgröße.
Was: Ausreichendes Maß an KI-Kompetenz bei allen Personen, die im Auftrag der Organisation KI betreiben oder nutzen. KI-Kompetenz umfasst sowohl das eigene Personal als auch alle weiteren Personen, die im Auftrag der Organisation mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind, wie Auftragnehmer oder Dienstleister.
Wie: Nach besten Kräften und unter Berücksichtigung von personen- und kontextbezogenen Faktoren.

KI-Kompetenz als Enabler

Zum Ausschöpfen des Potentials, welches KI unbestritten bietet, liegt eine hohe KI-Kompetenz der Mitarbeitenden bereits im Eigeninteresse und somit in der Eigenverantwortung von Organisationen. Ein hohes Maß an KI-Kompetenz ermöglicht es Organisationen u.a.:

fundierte Entscheidungen zu treffen: KI-Kompetenz soll Anbieter, Betreiber und betroffenen Personen befähigen, um fundierte Entscheidungen über KI-Systeme zu treffen und so den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen;
Arbeitsbedingungen zu verbessern und Innovation zu fördern: KI-Kompetenz kann dazu beitragen, die Arbeitsbedingungen zu verbessern und den Innovationspfad vertrauenswürdiger KI zu unterstützen; sowie
die Einhaltung und Durchsetzung der Verordnung sicherzustellen: KI-Kompetenz soll allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.

Was sieht die KI-Verordnung vor und was ist nicht vorgeschrieben?

Zur Einhaltung der Verpflichtung zur KI-Kompetenz sollten Organisationen beim Einsatz und bei der Nutzung von KI	Nicht vorgeschrieben für die Compliance mit Artikel 4 sind:
- ein allgemeines Verständnis von KI sicherstellen, - die Rolle der eigenen Organisation als Anbieter oder Betreiber beachten, - die Risiken des spezifischen KI-Systems im konkreten Kontext berücksichtigen, - aktuelle Entwicklung und Neuerungen einbeziehen.	- formalisierte oder standardisierte Trainingsmaßnahmen, - (externe) Zertifizierungen der durchgeführten Maßnahmen, - die Einführung eines KI-Beauftragten und - regelmäßige Vorabüberprüfungen der Maßnahmen zur Sicherstellung der KI-Kompetenz durch Aufsichtsbehörden.

Zur Einhaltung der Verpflichtung zur KI-Kompetenz sollten Organisationen beim Einsatz und bei der Nutzung von KI

Nicht vorgeschrieben für die Compliance mit Artikel 4 sind:

- ein allgemeines Verständnis von KI sicherstellen,

- die Rolle der eigenen Organisation als Anbieter oder Betreiber beachten,

- die Risiken des spezifischen KI-Systems im konkreten Kontext berücksichtigen,

- aktuelle Entwicklung und Neuerungen einbeziehen.

- formalisierte oder standardisierte Trainingsmaßnahmen,

- (externe) Zertifizierungen der durchgeführten Maßnahmen,

- die Einführung eines KI-Beauftragten und

- regelmäßige Vorabüberprüfungen der Maßnahmen zur Sicherstellung der KI-Kompetenz durch Aufsichtsbehörden.

Ein Mangel an KI-Kompetenz kann als Verletzung der Sorgfaltspflicht angesehen werden, insbesondere wenn dadurch ein Schaden entsteht. Daher empfiehlt die Bundesnetzagentur, dass Organisationen ihre Maßnahmen zur Sicherstellung von KI-Kompetenz gut dokumentieren. So können sie jederzeit nachweisen, dass sie die Anforderungen des Artikels 4 erfüllen.

Wie baut man KI-Kompetenzen auf?

Die KI-Verordnung schreibt bewusst keine spezifischen Formate oder sonstige formalisierte und standardisierte Maßnahmen vor, da es schlicht keine „one-fits-all“ Lösung gibt. Organisationen sollen die Möglichkeit haben, die Maßnahmen zur Bildung und zum Ausbau der KI-Kompetenz an ihren Bedarf anzupassen. Dieser Bedarf hängt u.a. von den eingesetzten KI-Systemen und den damit verbundenen Risiken sowie den Aufgaben und Vorkenntnissen des Personals ab. So können Organisationen individuell entscheiden, wie sie ihre KI-Kompetenz sicherstellen. Diese Entscheidung soll plausibel und nachvollziehbar sein. Eine standardisierte Lösung kann diesen unterschiedlichen Anforderungen nicht gerecht werden.

Aus Sicht der Bundesnetzagentur scheinen vier Grundsteine beim Aufbau der KI-Kompetenz zur Orientierung geeignet.

Vier Grundsteine zum Aufbau der KI-Kompetenz
1. Individuellen Bedarf ermitteln	Welche Personen entwickeln, betreiben oder nutzen KI-Systeme? Welche KI-Systeme sind das? Zu welchem Zweck arbeiten diese Personen mit diesen KI-Systemen? Welche Risiken sind mit der Arbeit mit diesen KI-Systemen verbunden?
2. Maßnahmen ausgestalten und hierbei beachten:	Individuelle Faktoren der betroffenen Personen wie Ausbildung, Erfahrung, Wissensstand, Art der Tätigkeit; den Kontext, in dem das jeweilige KI-System eingesetzt wird, z.B. Anwendungsbereich, Nutzungsphase, betroffene Personen, Zweck; das damit verbundene Risiko sowie die Rolle der eigenen Organisation hinsichtlich der KI-Wertschöpfungskette.
3. Regelmäßige Auffrischung	Der Aufbau von KI-Kompetenzen sollte ein dynamischer und kontinuierlicher Prozess sein, da z.B. der Begriff der KI-Kompetenz sich im Laufe der Zeit ändern kann, der Kontext der Nutzung sich bei Personen ändern kann und technologische Entwicklungen neue Anwendungsfelder eröffnen können.
4. Ausreichende Dokumentation der durchgeführten Maßnahmen, u.a.	die Art der Maßnahmen, den inhaltlichen und zeitlichen Umfang, die teilnehmenden Personen.

Format und Inhalt der Maßnahmen

Die KI-Verordnung legt kein bestimmtes Format der Maßnahmen fest. Das Format kann von Selbstlernprogrammen über Workshops und Schulungen bis zu mehrstufigen Fortbildungsprogrammen reichen – in Abhängigkeit des jeweiligen Bedarfs und des konkreten Kontexts. Dies kann sowohl organisationsintern als auch -extern erfolgen.

Ebenso können Organisationen über die Inhalte der Maßnahmen individuell entscheiden.

Nach Einschätzung der Bundesnetzagentur empfiehlt sich ein interdisziplinärer und stufenweiser Aufbau der Inhalte. Interdisziplinär, da so die technischen, rechtlichen und ethischen Aspekte der künstlichen Intelligenz und ihre Interaktion effektiv berücksichtigt werden. Stufenweise, da die KI-Kompetenz sukzessiv in Abhängigkeit von unterschiedlichen Kenntnissen innerhalb der Belegschaft aufgebaut wird.

Als Anregung stellen wir im Folgenden mögliche Inhalte zum Aufbau von KI-Kompetenz kurz dar. Diese Inhalte sind weder verpflichtend noch abschließend. Sie sollten einerseits an die spezifischen Gegebenheiten der Organisation wie Größe, Branche oder technologischer Reifegrad und andererseits an den individuellen Bedarf der betroffenen Personen angepasst werden.

Stufe 1: Schaffung eines grundlegenden Verständnisses von Daten und KI in der Organisation

Grundlagen von Daten und KI, u.a. Begriffe, Historie
Überblick über KI-Technologien, u.a. Maschinelles Lernen, große Sprachmodelle
Allgemeine Chancen und Risiken von KI, z.B. durch Anwendungsfälle oder Rollenspiele

Stufe 2: Aufbau fortgeschrittener KI-Kompetenzen

Rolle der Organisation in der KI-Wertschöpfungskette, z.B. Entwickler, Nutzer
Technische Aspekte der angewendeten KI
Spezifische Chancen und Risiken und rechtliche Einordnung der angewendeten KI

Stufe 3: Rollenspezifische Trainings mit individuellen Schwerpunkten, z.B. Technik, Recht, Ethik

Unterstützung

Organisationen haben zahlreiche Möglichkeiten, kostenlose Unterstützung beim Aufbau von KI-Kompetenz zu erhalten. Dazu zählen u.a. europäische und nationale Maßnahmen sowie private Initiativen und Branchenverbände, z.B.:

Das Büro für Künstliche Intelligenz der Europäischen Kommission (AI Office) organisiert im Rahmen des KI-Paktes Veranstaltungen, um den Wissensaustausch zu fördern und Verfahren zur Förderung vertrauenswürdiger KI zu unterstützen. Das Ziel des KI-Paktes ist, Organisationen dabei zu unterstützen, die Umsetzung der Maßnahmen der KI-Verordnung zu planen. Im Zusammenhang mit der geforderten KI-Kompetenz nach Artikel 4 fand am 20. Februar 2025 ein Webinar statt, das auch nachträglich noch angesehen werden kann. Das KI Büro sammelt Beispiele und stellt FAQ zur Umsetzung dieser Verpflichtung. Freiwillige Verhaltenskodizes zur Förderung der KI-Kompetenz sollen durch die Europäische Kommission und die Mitgliedsstaaten, in Zusammenarbeit mit den einschlägigen Interessensvertretern, unterstützt werden.

Die European Digital Innovation Hubs (EDIHs) unterstützen kleine und mittlere Unternehmen (KMU), Small Mid-Caps sowie Institutionen des öffentlichen Sektors dabei, auf digitale Herausforderungen zu reagieren und wettbewerbsfähiger zu werden. Ihr Angebot umfasst das Testen vor dem Investieren, Aufbau tiefergehender Digitalisierungskompetenz, Beratung zu Finanzierungsmöglichkeiten und Networking.

Im Netzwerk der Mittelstand-Digital Zentren (MDZ) stehen etwa 100 KI-Trainer zur Verfügung. Die KI-Trainer unterstützen KMU individuell und anbieterneutral. Zusammen mit den MDZ bieten sie Workshops, Vorträge, Roadshows, Demonstratoren und weitere Angebote (wie den KI-Readiness Check) zum Thema KI speziell für KMU – zum Beispiel durch branchen- oder prozessbezogene Anwendungsfälle. Damit befähigen sie KMU, Chancen und Herausforderungen dieser neuen Technologie für den eigenen Betrieb zu erkennen und konkrete Anwendungen umzusetzen. Die Angebote umfassen zusätzlich die KI-relevanten Querschnittsthemen IT-Sicherheit, Nachhaltigkeit, Organisation und Change Management sowie Recht. Multiplikatoren können mit dem Train-the-Trainer-Programm eine umfangreiche, kostenfreie KI-Schulung in Anspruch nehmen.

Online Kurse

Darüber hinaus finden sich zahlreiche kostenlose Online-Kurse, beispielsweise von

Beispiele

Das KI-Büro sammelt Beispiele zur Umsetzung dieser Verpflichtung.