Navigation und Service

Springe direkt zu:

KI-Kom­pe­tenz

Nach der KI-Verordnung müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung von KI-Kompetenzen ihres Personals zu unterstützen.

In Kürze

  • Die Fähigkeit, künstliche Intelligenz zu verstehen, kritisch zu hinterfragen und verantwortungsvoll einzusetzen, ist heutzutage essenziell. KI-Kompetenz ist Voraussetzung, um fundierte Entscheidungen zu treffen, Risiken zu minimieren und gesetzliche Vorgaben einzuhalten. Gleichzeitig ermöglicht sie, dass das Potenzial von KI bestmöglich genutzt wird und Innovationen entwickelt werden.
  • Die KI-VO legt nicht fest, wie die Unterstützung erfolgen soll. Es werden keine standardisierten Trainingsmaßnahmen vorgegeben. Es muss auch kein bestimmtes Niveau an KI-Kompetenz bei einzelnen Personen gewährleistet werden.
  • Der individuelle Kontext der Organisation ist essentiell: Die Rolle als Anbieter oder Betreiber, die entwickelten oder eingesetzten KI-Systeme und das damit verbundene Risiko, sowie die Vorkenntnisse des Personals sind hierbei entscheidend.
  • Der Aufbau von KI-Kompetenz ist ein kontinuierlicher Prozess. KI-Kompetenzen sollten regelmäßig aufgefrischt und an die technologischen Entwicklungen angepasst werden.
  • Die KI-VO sieht keine Zertifizierungspflicht für in Anspruch genommene Schulungen oder Qualifizierungsmaßnahmen vor. Die Maßnahmen können sowohl intern als auch extern durchgeführt werden.
  • Getroffenen Maßnahmen zum Aufbau von KI-Kompetenz sollten dokumentiert werden.
  • Es gibt einige kostenlose Schulungs- und Informationsangebote zu KI-Kompetenz. Wir geben Ihnen Hinweise dazu.

Was ist KI-Kompetenz?

Der Begriff „KI-Kompetenz“ wird in Art. 3 Nr. 56 legal definiert.

"KI-Kompetenz“ [bezeichnet] die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."

KI-Kompetenz umfasst demnach im Kern

  • die Fähigkeiten, die Kenntnisse und das Verständnis,
  • um KI-Systeme sachkundig, verantwortungsvoll und sicher einzusetzen und
  • sich der Chancen und Risiken (z.B. ethisch, rechtlich, gesellschaftlich) von KI bewusst zu sein.


Die Legaldefinition spiegelt auch die zwei zentralen Säulen der KI-VO wider. Es sollen Risiken und mögliche Schäden beim Einsatz von KI minimiert und Chancen und Innovationen durch die Nutzung von KI gefördert werden. Somit liegt der Aufbau von KI-Kompetenzen im Eigeninteresse der Unternehmen.

Die Regelungen zur KI-Kompetenz werden in Art. 4 beschrieben:

"(1) Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind. Diese Verpflichtung verpflichtet Anbieter oder Betreiber nicht, für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren.

(2) Die Kommission und die Mitgliedstaaten unterstützen und fördern die Bemühungen der Anbieter und Betreiber von KI-Systemen und insbesondere von KMU, ihre Verpflichtung nach Absatz 1 dieses Artikels zu erfüllen. Zu diesem Zweck veröffentlicht die Kommission praktische Beispiele dafür, wie diese Verpflichtung erfüllt wird auf der in Artikel 62 Absatz 3 Buchstabe b genannten zentralen Informationsplattform.

(3) Das KI-Gremium nimmt unter Berücksichtigung der europäischen Kompetenzrahmen Empfehlungen an, um die Kommission und die Mitgliedstaaten unter anderem durch die Festlegung gemeinsamer Ziele bei der Förderung der KI-Kompetenz gemäß Absatz 1 zu unterstützen." 

Der Artikel beinhaltet folgende Dimensionen:

  • Wer: Anbieter und Betreiber von KI-Systemen einschließlich solcher mit allgemeinem Verwendungszweck, wie bspw. Chatbots, unabhängig von Wirtschaftszweig oder Organisationsgröße.
  • Was: Maßnahmen zur Unterstützung der Entwicklung von KI-Kompetenz bei allen Personen, die im Auftrag der Organisation ein KI-System betreiben oder nutzen. Das umfasst sowohl das eigene Personal als auch alle weiteren Personen, die im Auftrag der Organisation mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind, wie z. B. Auftragnehmer oder Dienstleister. Dabei werden sie von der Europäischen Kommission und den Mitgliedsstaaten unterstützt.
  • Wie: Unter Berücksichtigung von personen- und kontextbezogenen Faktoren.

KI-Kompetenz als Enabler

Zum Ausschöpfen des Potentials, welches KI unbestritten bietet, liegt eine hohe KI-Kompetenz der Mitarbeitenden bereits im Eigeninteresse und somit in der Eigenverantwortung von Organisationen. Ein hohes Maß an KI-Kompetenz ermöglicht es Organisationen u.a.:

  • fundierte Entscheidungen zu treffen: KI-Kompetenz soll Anbieter, Betreiber und betroffenen Personen befähigen, um fundierte Entscheidungen über KI-Systeme zu treffen und so den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen;
  • Arbeitsbedingungen zu verbessern und Innovation zu fördern: KI-Kompetenz kann dazu beitragen, die Arbeitsbedingungen zu verbessern und den Innovationspfad vertrauenswürdiger KI zu unterstützen; sowie
  • die Einhaltung und Durchsetzung der Verordnung sicherzustellen: KI-Kompetenz soll allen einschlägigen Akteuren der KI-Wertschöpfungskette die Kenntnisse vermitteln, um die angemessene Einhaltung und die ordnungsgemäße Durchsetzung der Verordnung sicherzustellen.

Was sieht die KI-VO vor und was ist nicht vorgeschrieben?

Um die Entwicklung der KI-Kompetenz zu unterstützen, sollten Organisationen beim Einsatz und bei der Nutzung von KI

Nicht vorgeschrieben für die Compliance mit Art. 4 sind:

- ein allgemeines Verständnis von KI sicherstellen,

- die Rolle der eigenen Organisation als Anbieter oder Betreiber beachten,   

- die Risiken des spezifischen KI-Systems im konkreten Kontext berücksichtigen,

- aktuelle Entwicklung und Neuerungen einbeziehen.

- garantierte KI-Kompetenzniveaus bei einzelnen Personen,

- formalisierte oder standardisierte Trainingsmaßnahmen,

- (externe) Zertifizierungen der durchgeführten Maßnahmen, 

- die Einführung eines KI-Beauftragten.

Ein Mangel an KI-Kompetenz kann als Verletzung der Sorgfaltspflicht angesehen werden, insbesondere wenn dadurch ein Schaden entsteht. Daher empfiehlt die Bundesnetzagentur, dass Organisationen ihre Maßnahmen zur Unterstützung der Enwicklung von KI-Kompetenz gut dokumentieren. So können sie jederzeit nachweisen, dass sie die Anforderungen des Art. 4 erfüllen.

Wie baut man KI-Kompetenzen auf?

Die KI-VO schreibt bewusst keine spezifischen Formate, sonstige formalisierte und standardisierte Maßnahmen oder feste Kompetenzniveaus für einzelne Personen vor, da es schlicht keine „one-size-fits-all“ Lösung gibt. Organisationen sollen die Möglichkeit haben, die Maßnahmen zur Unterstützung der Entwicklung der KI-Kompetenz an ihren Bedarf anzupassen. Dieser Bedarf hängt u.a. von den eingesetzten KI-Systemen, ihrem Kontext und den damit verbundenen Risiken sowie den Aufgaben und Vorkenntnissen des Personals ab. So können Organisationen individuell entscheiden, wie sie die Entiwcklung der KI-Kompetenz unterstützen. Diese Entscheidung soll plausibel und nachvollziehbar sein. Eine standardisierte Lösung kann diesen unterschiedlichen Anforderungen nicht gerecht werden.

Aus Sicht der Bundesnetzagentur scheinen drei Grundsteine bei der Unterstützung der Entwicklung der KI-Kompetenz zur Orientierung geeignet.

Drei Grundsteine zum Aufbau der KI-Kompetenz
1. Bedarf ermitteln

Welche Personen entwickeln, betreiben oder nutzen KI-Systeme?

Welche KI-Systeme sind das?

Zu welchem Zweck arbeiten diese Personen mit diesen KI-Systemen?

Welche Risiken und Chancen sind mit der Arbeit mit diesen KI-Systemen verbunden? 

2. Maßnahmen gestalten

Rolle der eigenen Organisation entlang der KI-Wertschöpfungskette einordnen;

individuelle Faktoren der betroffenen Personen wie Ausbildung, Erfahrung, Tätigkeit beachten;

Kontext und Risiko der eingesetzten KI-Systeme, z. B. Anwendungsbereiche, betroffene Personen, Zwecke berücksichtigen;

Ziele und Verantwortlichkeiten festlegen.

3. Dokumentieren, Evaluieren, Auffrischen

Ausreichende Dokumentation der durchgeführten Maßnahmen, u.a. die Art der Maßnahmen, den inhaltlichen und zeitlichen Umfang, die teilnehmenden Personen;

regelmäßige Evaluation der Maßnahmen, z.B. um Zielerreichung zu überprüfen und etwaigen Anpassungsbedarf zeitnah festzustellen;

bedarfsorientierte Auffrischung, z.B. weil sich KI-Systeme oder der Kontext der Nutzung bei Personen ändert, sich neue Technologien entwickeln und Anwendungsfelder ergeben.

Format und Inhalt der Maßnahmen

Die KI-Verordnung legt kein bestimmtes Format der Maßnahmen fest. Das Format kann von Selbstlernprogrammen über Workshops und Schulungen bis zu mehrstufigen Fortbildungsprogrammen reichen – in Abhängigkeit des jeweiligen Bedarfs und des konkreten Kontexts. Dies kann sowohl organisationsintern als auch -extern erfolgen.

Ebenso können Organisationen über die Inhalte der Maßnahmen individuell entscheiden.

Nach Einschätzung der Bundesnetzagentur empfiehlt sich ein interdisziplinärer und stufenweiser Aufbau der Inhalte. Interdisziplinär, da so die technischen, rechtlichen und ethischen Aspekte der künstlichen Intelligenz und ihre Interaktion effektiv berücksichtigt werden. Stufenweise, da die KI-Kompetenz sukzessiv in Abhängigkeit von unterschiedlichen Kenntnissen innerhalb der Belegschaft aufgebaut wird.

Als Anregung stellen wir im Folgenden mögliche Inhalte zum Aufbau von KI-Kompetenz kurz dar. Diese Inhalte sind weder verpflichtend noch abschließend. Sie sollten einerseits an die spezifischen Gegebenheiten der Organisation wie Größe, Branche oder technologischer Reifegrad und andererseits an den individuellen Bedarf der betroffenen Personen angepasst werden.

Stufe 1: Schaffung eines grundlegenden Verständnisses von Daten und KI in der Organisation

  • Grundlagen von Daten und KI, u.a. Begriffe, Historie
  • Überblick über KI-Technologien, u.a. Maschinelles Lernen, große Sprachmodelle
  • Allgemeine Chancen und Risiken von KI, z.B. durch Anwendungsfälle oder Rollenspiele

Stufe 2: Aufbau fortgeschrittener KI-Kompetenzen

  • Rolle der Organisation in der KI-Wertschöpfungskette, z.B. Entwickler, Nutzer
  • Technische Aspekte der angewendeten KI
  • Spezifische Chancen und Risiken und rechtliche Einordnung der angewendeten KI

Stufe 3: Rollenspezifische Trainings mit individuellen Schwerpunkten, z.B. Technik, Recht, Ethik 

Unterstützung

Organisationen haben zahlreiche Möglichkeiten, kostenlose Unterstützung beim Aufbau von KI-Kompetenz zu erhalten. Dazu zählen u.a. europäische und nationale Maßnahmen sowie private Initiativen und Branchenverbände, z.B.:

Das KI-Büro der Europäischen Union unterstützt die Mitgliedsstaaten bei der Umsetzung des Art. 4 und stellt Informationen zum Thema KI-Kompetenz auf ihren Webseiten bereit, z.B. in Form eines Webinars, FAQs oder Praxisbeispielen zur Umsetzung der Vorgaben. Freiwillige Verhaltenskodizes zur Förderung der KI-Kompetenz sollen durch die Europäische Kommission und die Mitgliedsstaaten, in Zusammenarbeit mit den einschlägigen Interessensvertretern, unterstützt werden.
Die European Digital Innovation Hubs (EDIHs) unterstützen kleine und mittlere Unternehmen (KMU), Small Mid-Caps sowie Institutionen des öffentlichen Sektors dabei, auf digitale Herausforderungen zu reagieren und wettbewerbsfähiger zu werden. Ihr Angebot umfasst das Testen vor dem Investieren, Aufbau tiefergehender Digitalisierungskompetenz, Beratung zu Finanzierungsmöglichkeiten und Networking.
Im Netzwerk der Mittelstand-Digital Zentren (MDZ) stehen etwa 100 KI-Trainer zur Verfügung. Die KI-Trainer unterstützen KMU individuell und anbieterneutral. Zusammen mit den MDZ bieten sie Workshops, Vorträge, Roadshows, Demonstratoren und weitere Angebote (wie den KI-Readiness Check) zum Thema KI speziell für KMU – zum Beispiel durch branchen- oder prozessbezogene Anwendungsfälle. Damit befähigen sie KMU, Chancen und Herausforderungen dieser neuen Technologie für den eigenen Betrieb zu erkennen und konkrete Anwendungen umzusetzen.

Darüber hinaus finden sich zahlreiche kostenlose Online-Angebote, z.B. die des KI-Campus oder des appliedAI Institute for Europe.

Interessante Links

Pfeil nach links
Pfeil nach rechts
Mastodon