Der Einsatz von KI-Systemen im Zusammenhang mit Einstellungsprozessen und Personalmanagement im Betrieb

I. Regelungsgehalt der KI-Verordnung

Die KI-Verordnung ist das weltweit erste umfassende Regelwerk für den Einsatz von Künstlicher Intelligenz (KI). KI bezeichnet dabei eine Reihe von Technologien, die sich rasant entwickeln und zu vielfältigem Nutzen für Wirtschaft, Umwelt und Gesellschaft beitragen, jedoch gleichzeitig Risiken für öffentliche Interessen und bestimmte Rechte mit sich bringen. Diesen Konflikt möchte die KI-Verordnung lösen, indem sie die Einführung von menschenzentrierter und vertrauenswürdiger KI fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und in der Charta der Grundrechte der EU verankerte Rechte sicherstellen möchte.

Die Verordnung tritt am 01.08.2024 in Kraft und ist bis auf wenige Ausnahmen 24 Monate danach uneingeschränkt anwendbar.

II. Einschlägigkeit der KI-Verordnung im Zusammenhang mit Einstellungsprozess und Personalmanagement

Die KI-Verordnung gilt gemäß Art. 2 Abs. 1 b), c) KI-Verordnung u.a. für Betreiber von KI-Systemen, die ihren Sitz in der Europäischen Union haben oder sich dort befinden oder die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn das vom KI-System erzeugte Ergebnis in der Europäischen Union verwendet wird.

Ein „KI-System“ wird vereinfacht gesagt definiert als ein maschinengestütztes System, das aus vom Menschen getätigten Eingaben autonom ableitet, wie es bestimmte Ergebnisse erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können.

„Betreiber“ ist u.a. eine natürliche oder juristische Person, die ein solches KI-System in eigener Verantwortung im beruflichen, nicht persönlichen Kontext verwendet.

Die KI-Verordnung verfolgt einen risikobasierten Ansatz: Je höher das Risiko für oben genannte Rechte ist, desto strenger sind die Pflichten. Unterschieden wird zwischen Verbotener KI, Hochrisiko-KI-Systemen und KI-Systemen mit geringerem Risiko. „Risiko“ bedeutet dabei die Kombination aus der Wahrscheinlichkeit des Auftretens und der Schwere eines Schadens.

Art. 6 Abs. 2 KI-Verordnung i.V.m. Anhang III Nr. 4 definiert als Hochrisiko-KI-Systeme solche KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Gleiches gilt für KI-Systeme, die in bestehenden Arbeitsverhältnissen genutzt werden sollen für Entscheidungen betreffend Arbeitsbedingungen, Beförderungen, Kündigungen, Aufgabenzuweisungen aufgrund des Verhaltens oder persönlicher Merkmale und Eigenschaften oder für Beobachtung und Bewertung der Leistung und des Verhaltens. Nur in sehr eng umgrenzten Ausnahmefällen gelten solche KI-Systeme nicht als hochriskant.

III. Betreiberpflichten nach der KI-Verordnung

Betreiber müssen nach Art. 4 KI-Verordnung bestmöglich sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an „KI-Kompetenz“ verfügen. Auch § 12 Abs. 1 S. 3 ArbSchG verpflichtet den Arbeitgeber zur ausreichenden Unterweisung bei der Einführung neuer Arbeitsmittel und Technologien. Hierfür bieten sich insbesondere Unternehmensrichtlinien an.

Gemäß Art. 26 KI-Verordnung treffen Betreiber von Hochrisiko-KI-Systemen zudem u.a. folgende Pflichten: Sicherstellung der Verwendung gemäß der Betriebsanleitung; Übertragung der Aufsicht an geeignete Personen; Sorgetragen, dass Eingabedaten der Zweckbestimmung des KI-Systems entsprechen und ausreichend repräsentativ sind; Überwachung anhand der Betriebsanleitung und ggf. Information zuständiger Personen/Behörden und Aussetzen der Verwendung; Aufbewahrung automatisch erzeugter Protokolle; Information der Arbeitnehmervertreter und der betroffenen Arbeitnehmer darüber, dass sie der Verwendung des KI-Systems unterliegen werden; Zusammenarbeit mit den zuständigen Behörden.

In den Fällen des Art. 25 KI-Verordnung können Betreiber auch zugleich als Anbieter eines Hochrisiko-KI-Systems gelten, sodass sie auch die zahlreichen Anbieterpflichten treffen.

IV. Verdacht und Folgen von Verstößen gegen die KI-Verordnung

Gemäß Art. 77 KI-Verordnung dürfen die zuständigen Behörden Dokumentationen anfordern und einsehen, sofern dies notwendig ist, um eventuell betroffene Rechte zu schützen. Sollte dies nicht ausreichen, darf auch ein technischer Test des Hochrisiko-KI-Systems durchgeführt werden.

Nach Art. 99 Abs. 4 KI-Verordnung werden bei Verstößen gegen die Betreiberpflichten aus Art. 26 KI-Verordnung Geldbußen von bis zu EUR 15.000.000 oder – im Falle von Unternehmen – von bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist.

V. Beteiligung des Betriebsrates beim Einsatz von KI-Systemen

Ein Initiativrecht in Bezug auf die Einführung von KI hat der Betriebsrat nicht. Plant der Arbeitgeber aber, im Betrieb KI einzusetzen, hat er den Betriebsrat rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten, § 90 Abs. 1 Nr. 3 BetrVG.

Muss der Betriebsrat zur Durchführung seiner Aufgaben die Einführung oder Anwendung von KI beurteilen oder einigen sich Betriebsrat und Arbeitgeber auf einen ständigen KI-Sachverständigen, gilt die Hinzuziehung des Sachverständigen als erforderlich, § 80 Abs. 3 S. 2, 3 BetrVG. Nach § 95 Abs. 2a BetrVG gelten bestimmte Rechte, die der Betriebsrat bei der Aufstellung von Auswahlrichtlinien für Einstellungen, Versetzungen, Umgruppierungen und Kündigungen nach Abs. 1, 2 auch dann, wenn bei der Aufstellung der Richtlinien KI zum Einsatz kommt.

Dem Betriebsrat können zudem erzwingbare Mitbestimmungsrechte bei der Einführung von konkreten KI-Tools zur Verfügung stehen, § 87 Abs. 1 Nr. 6 (Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen), Nr. 7 (Regelungen über die Verhütung von Arbeitsunfällen und Berufskrankheiten sowie über den Gesundheitsschutz im Rahmen der gesetzlichen Vorschriften oder der Unfallverhütungsvorschriften) BetrVG. Durch den Einsatz von KI kann auch eine Betriebsänderung im Sinne des § 111 BetrVG vorliegen, sodass die Verhandlung eines Interessensausgleichs bzw. Sozialplans erforderlich sein kann.

VI. Fazit

Beim Betrieb eines Hochrisiko-KI-Systems bestehen zahlreiche Pflichten für Arbeitgeber, deren Nichtbeachtung weitreichende negative Folgen haben kann. Wir unterstützen und beraten Sie gerne bei sämtlichen Fragen rund um das Thema „Einsatz von KI im Betrieb“.

zurück