Die KI-Verordnung – Neue Pflichten für Arbeitgeber

Die Nutzung von Künstlicher Intelligenz (KI) am Arbeitsplatz nimmt rasant zu, denn die Einsatzmöglichkeiten sind nahezu unbegrenzt: Das Ausfüllen von Tabellen, das Erstellen kreativer Texte, die Gestaltung von Präsentationen oder das automatische Beantworten von E-Mails – KI wird in vielen Arbeitsbereichen genutzt. 

Die Europäische Union zieht nun nach: Auf Initiative von Kommissionspräsidentin Ursula von der Leyen hat das Europäische Parlament am 13.04.2024 die „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ verabschiedet – die erste umfassende Regulierung der KI-Nutzung weltweit. Werfen wir einen Blick auf die wichtigsten Inhalte und die zentralen Vorschriften der neuen Verordnung.

Wer ist von der neuen Verordnung betroffen?

Die Verordnung richtet sich an alle Nutzer von KI-Systemen. Sie sind Nutzer, wenn Sie ein KI-System eigenverantwortlich im Rahmen Ihrer beruflichen Tätigkeit einsetzen (Art. 3 Nr. 4).

Was regelt die Verordnung?

Je größer das Risiko eines durch Künstliche Intelligenz entstehenden Schadens, umso strenger die Regeln zu ihrem Einsatz - das ist der zentrale Ansatz der neuen KI-Verordnung. Sie reguliert daher besonders Risiko- und Hochrisiko-KI, um beispielsweise Verhaltensmanipulationen durch KI zu minimieren. Zudem enthält die Verordnung Vorschriften zur Förderung von Transparenz, Datenschutz und Haftung.

Welche Systeme gelten als riskant?

Bestimmte Nutzungsarten von KI sind in der EU künftig verboten. Dazu gehört die Nutzung von KI zur unterschwelligen Beeinflussung, die Personen schaden könnte sowie das Ausnutzen von körperlichen oder geistigen Behinderungen oder einer schutzbedürftigen Zielgruppe (Art. 5).

Für andere riskante Anwendungen, sogenannte Hochrisiko-KI, gelten umfassende neue Regeln. Zu den Hochrisiko-KI-Systemen gehören unter anderem bewertende Systeme im Personalmanagement, etwa zur Bewerberauswahl oder zur Entscheidung über Beförderungen oder Kündigungen.

Folgen bei Verstößen gegen die Verordnung

Eine Marktüberwachungsbehörde wird die Einhaltung der Verordnung kontrollieren. Ähnlich der Datenschutz-Grundverordnung (DSGVO) sieht auch die KI-Verordnung hohe Bußgelder vor. Der Einsatz verbotener KI kann mit bis zu 35 Millionen Euro geahndet werden, andere Verstöße mit bis zu 15 Millionen Euro.

Neue Pflichten für Arbeitgeber

1. Einsatz von KI im Personalmanagement

Bei der Nutzung von KI im Personalmanagement handelt es sich nach der neuen Einstufung oft um Hochrisiko-KI. Diese Systeme müssen gemäß der Bedienungsanleitung genutzt werden, dürfen nur zweckgebundene Daten verarbeiten und erfordern menschliche Aufsicht. Protokolle müssen aufbewahrt und bei schwerwiegenden Fehlfunktionen der Händler informiert werden.

2. Automatisiertes Bewerbermanagement

KI wird im Bewerbermanagement häufig eingesetzt. Das bleibt erlaubt, solange die Pflichten für Hochrisiko-KI eingehalten werden (siehe oben). Aber: Entscheidungen mit rechtlicher Wirkung oder erheblicher Beeinträchtigung dürfen laut DSGVO nicht allein durch automatisierte Prozesse getroffen werden; der letzte Entscheidungsschritt muss einem Menschen vorbehalten bleiben.

3. Transparenz- und Offenlegungspflichten

Die Verordnung verlangt die Offenlegung bei der Generierung bestimmter KI-Inhalte (sog. „Deepfakes“): Nutzer, die Inhalte generieren, die wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln müssen deutlich machen, dass die Inhalte künstlich erzeugt oder manipuliert wurden (Art. 52 Abs. 3).

4. Einbindung des Betriebsrats

Laut Betriebsverfassungsgesetz hat der Betriebsrat Mitbestimmungsrechte bei der Einführung von KI-Systemen, insbesondere wenn diese die Auswahl von Personal betreffen oder das Verhalten und die Leistung der Arbeitnehmer überwachen (§ 87 Abs. 1 Nr. 6, 7 BetrVG, § 80 Abs. 3 BetrVG, § 95 Abs. 2a BetrVG, § 87 Abs. 1 Nr. 6 BetrVG).

5. Entwicklung eigener KI-Systeme

Gibt ein Arbeitgeber ein KI-System in Auftrag, muss er, wenn es sich um Hochrisiko-KI handelt, umfangreiche Anforderungen an das Risikomanagement erfüllen. Dazu gehört eine Konformitätsbewertung, ein Qualitätsmanagementsystem und die Erstellung technischer Dokumentationen.

Fazit

Die neue KI-Verordnung setzt auf einen risikobasierten Ansatz. Besonders im Personalmanagement werden die neuen Regelungen relevant, da hier oft Hochrisiko-KI-Systeme verwendet werden. Hersteller und Nutzer dieser Systeme müssen zahlreiche neue Pflichten erfüllen. Es bleibt abzuwarten, welche weiteren Systeme in die Hochrisiko-Kategorie aufgenommen werden. Da es sich um eine europäische Verordnung handelt, sind die Vorschriften in Deutschland noch nicht unmittelbar bindend, werden jedoch in deutsches Recht umgesetzt werden.

Bei Fragen zum Einsatz von Künstlicher Intelligenz im Arbeitsverhältnis stehen wir Ihnen gerne zur Verfügung.

Mehr Informationen zum Thema und zum Urteil finden hier Sie in der ausführlichen Version unseres Blogbeitrags.