EU AI Act: Pflicht zur KI-Kompetenz ab Februar 2025

Die Europäische Union hat mit dem KI-Gesetz (AI Act) ein weltweit einzigartiges Regelwerk geschaffen, um das Vertrauen in Künstliche Intelligenz zu stärken und Risiken für die Gesellschaft zu minimieren. Viele Experten halten dies für einen wegweisenden Schritt, durch den die EU eine Vorreiterrolle in der globalen Debatte über KI-Regulierung einnimmt.

Der im Juni 2024 beschlossene EU AI Act schafft erstmals verbindliche Vorgaben für Anbieter und Nutzer von KI – hier geht’s zur 144 Seiten starken deutschen Fassung. Zum 2. Februar 2025 werden zentrale Bestimmungen der Verordnung wirksam – anders als bei einer EU-Richtlinie, die zuerst in nationales Recht umgesetzt werden muss, gelten diese direkt und verbindlich in allen Mitgliedstaaten der EU.

KI-Schulungspflicht: Das sind die gesetzlichen Hintergründe

Viele Führungskräfte stehen nun vor der Frage, wie sich die Änderungen zum 02.02.2025 konkret umsetzen lassen: Reicht es bereits aus, bei Stellenausschreibungen einfach „KI-Kompetenz“ als Anforderung aufzulisten? Müssen Mitarbeiter nun regelmäßig KI-Schulungen durchlaufen? Und was versteht die EU eigentlich unter KI-Kompetenz?

KI-Kompetenz wird im EU AI Act definiert als „die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen […] ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden“ (Seite 49).

Aus dieser Begriffsbestimmung geht hervor, dass es sich bei KI-Kompetenz um ein ganzheitliches Verständnis handelt: Neben rein technischen Fähigkeiten gehört dazu auch ein umfassendes Risiko-Bewusstsein.  

Oder anders ausgedrückt: KI-Kompetenz bedeutet nicht nur, KI-Systeme beherrschen zu können, sondern auch die damit verbundenen Risiken und potenziellen Schäden verantwortungsvoll einzuschätzen.

KI-Kompetenz: Wer ist alles betroffen?

Der Kreis der Personen, die ab dem 2. Februar 2025 über KI-Kompetenz verfügen müssen, ist ebenso breit gefasst wie der Begriff selbst. Im Artikel 4 des KI-Gesetzes heißt es hierzu: „Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ (Seite 51)

Nicht nur diejenigen Mitarbeiter, die im Tagesgeschäft KI-Systeme einsetzen, müssen also über ein ausreißendes Maß an KI-Kompetenz verfügen, sondern alle, die in irgendeiner Form mit dem Betrieb, der Entwicklung oder der Nutzung von KI-Systemen zu tun haben. Zum Beispiel:

• Entscheidungsträger im Management, die den Einsatz von KI verantworten.
• Entwickler und IT-Fachkräfte, die KI-Systeme programmieren und betreiben.
• Mitarbeiter in sensiblen Bereichen, wie z. B. der automatisierten Kreditvergabe.
• Externe Dienstleister, die KI-Systeme für Unternehmen entwickeln, implementieren oder warten.

Nicht nur interne Mitarbeiter sind somit betroffen, sondern auch externe Partner und Dienstleister. Das Ziel: Alle Beteiligten – von der Technik bis hin zum Management – sollen befähigt werden, KI-Systeme sicher und verantwortungsvoll einzusetzen.

Das droht Unternehmen ohne KI-Kompetenz

Wer ohne Führerschein Auto fährt, weiß, was ihm im Falle einer Polizeikontrolle blüht. Doch mit welchen Konsequenzen müssen Unternehmen rechnen, die nach dem 2. Februar 2025 KI-Systeme betreiben, ohne dass die Beteiligten über ein ausreichendes Maß an KI-Kompetenz verfügen?

Zunächst einmal die gute Nachricht: Falls Unternehmen keine Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals und externer Partner sicherzustellen, sieht der EU AI Act keine direkten Bußgelder oder Strafen vor. Dennoch sollten Verantwortliche das Thema nicht auf die leichte Schulter nehmen, denn es drohen ernsthafte Konsequenzen.

In Zukunft könnte es nämlich als Verstoß gegen die allgemeine Sorgfaltspflicht des Arbeitgebers gewertet werden, wenn durch KI-Systeme Schaden entsteht. Unternehmen müssen sich also darauf einstellen, dass Sie rechtlich zur Verantwortung gezogen werden, wenn der Schaden durch angemessene Schulungen und Maßnahmen hätte verhindert werden können.  

Dr. Manuela Rauch, Fachanwältin für Arbeitsrecht, warnt auf Haufe.de, dass solche Versäumnisse ein erhebliches Haftungsrisiko darstellen können. Dazu kommt ein gewaltiger Reputations- und Vertrauensverlust bei Kunden – ohne ausreichende KI-Kompetenz drohen Unternehmen somit erhebliche Risiken.

Auch wenn vorerst keine direkten Strafen drohen, lohnt es sich für Unternehmen, in die KI-Kompetenz ihrer Mitarbeiter zu investieren. Statt in der Schulungspflicht nur eine lästige Aufgabe zu sehen, sollten Führungskräfte dies als Chance begreifen, um durch gezielte Maßnahmen die Innovationskraft und Wettbewerbsfähigkeit ihres Unternehmens zu stärken.  

Die folgenden vier Schritte zeigen, wie Sie KI-Compliance nachhaltig in Ihrem Unternehmen verankern können.

1. Bedarf analysieren: Wer braucht welche KI-Schulung?

Zuerst gilt es, sich einen Überblick darüber zu verschaffen, welche Personen und Abteilungen direkt oder indirekt mit KI-Systemen arbeiten und welche spezifischen Kenntnisse sie dafür benötigen. So ermitteln Sie gezielt den tatsächlichen Schulungsbedarf und vermeiden unnötige Maßnahmen.

2. Passende KI-Schulungsprogramme auswählen  

Basierend auf Ihrer Bedarfsanalyse können Sie nun Schulungsangebote bereitstellen, die sowohl technische Aspekte als auch rechtliche und ethische Anforderungen abdecken. Ob Sie dabei auf externe Anbieter setzen oder interne Programme entwickeln, bleibt Ihnen überlassen. Entscheidend ist, dass die Inhalte Ihrer KI-Schulungen den unterschiedlichen Rollen und Verantwortlichkeiten in Ihrem Unternehmen gerecht werden.

3. Regelmäßige KI-Weiterbildung sicherstellen

Planen Sie regelmäßige Auffrischungskurse ein, damit das Wissen Ihrer Mitarbeiter immer auf dem neuesten Stand bleibt. KI-Technologien und gesetzliche Rahmenbedingungen sind ständig im Wandel, daher entwickeln sich auch die Anforderungen an KI-Kompetenz kontinuierlich weiter und erfordern eine Kultur des lebenslangen Lernens.

4. Dokumentieren und Nachweise archivieren

Halten Sie lückenlos fest, welche KI-Schulungen durchgeführt wurden, welche Inhalte abgedeckt wurden und wer teilgenommen hat. So können Sie im Fall von Prüfungen oder Haftungsfragen lückenlos nachweisen, dass Sie die gesetzlichen Vorgaben erfüllt haben.

Mit diesen 4 Schritten sind Sie nicht nur auf dem besten Weg, die neuen Vorgaben des KI-Gesetzes zu erfüllen. Ihre KI-geschulten Mitarbeiter werden zudem deutlich produktiver werden und mehr Arbeit in weniger Zeit schaffen.

Best Practice Tipp: Klare Verantwortlichkeiten schaffen

Um eine ausreichende KI-Kompetenz möglichst effizient sicherzustellen, könnte es sinnvoll sein, eine zentrale Rolle für KI-Compliance zu schaffen – ähnlich wie den Datenschutzbeauftragten bei der DSGVO. Ein solcher Verantwortlicher schafft nicht nur externe Glaubwürdigkeit, sondern sorgt auch intern für klare Strukturen und eine effiziente Koordination aller Maßnahmen.

Mit einer solchen Position senden Sie ein klares Signal an Mitarbeitende, Kunden und Aufsichtsbehörden, dass Ihr Unternehmen die Bedeutung von KI-Kompetenz erkannt hat und proaktiv handelt. Sie minimieren damit nicht nur Risiken, sondern übernehmen aktiv Verantwortung im Umgang mit einer Technologie, die zunehmend unser tägliches Leben prägt.

Der Einsatz von KI-Systemen eröffnet Unternehmen fantastische Möglichkeiten, ihre Produktivität in ungeahnte Höhen zu steigern. Doch wie jede mächtige Technologie kann auch KI für böse Zwecke eingesetzt werden: Die immer häufiger werdenden, von AI generierten Fake News auf Social Media sind hier leider nur die Spitze des Eisbergs.

Um dies in Zukunft zu verhindern – oder zumindest einzudämmen - greift ab dem 2. Februar 2025 neben der Pflicht zur KI-Kompetenz noch eine weitere zentrale Regelung des EU AI Acts: Das Verbot von gefährlichen KI-Praktiken. Als gefährlich eingestuft werden unter anderem:

• Manipulative Technologien: KI-Systeme, die das Verhalten von Menschen beeinflussen, ohne dass sie es bemerken.
• Social Scoring: Systeme, die Personen basierend auf ihrem Verhalten oder Eigenschaften bewerten.
• Biometrische Identifikation im öffentlichen Raum: Echtzeit-Überwachung und ähnliche Technologien.

Diese neu in Kraft getretenen Regelungen zielen vor allem darauf ab, den Schutz der Grundrechte zu gewährleisten. Unternehmen, die KI-Systeme nutzen, sollten daher prüfen, ob ihre Anwendungen möglicherweise unter das neue Verbot fallen.

Wenn Sie mehr über die verschiedenen Risiko-Kategorien von KI-Systemen und deren rechtliche Einstufung wissen möchten, lesen Sie jetzt unseren ausführlichen Blog-Artikel zum EU KI Gesetz.