Interview mit der Juristin und KI-Expertin Dr. Inka Knappertsbusch (2/2)

Welche Rechte und Pflichten ergeben sich aus dem Einsatz von KI für Arbeitnehmer? Was gehört in eine KI-Richtlinie und was hat es mit der KI-Haftungsrichtlinie auf sich? Neue Technologien werfen viele arbeitsrechtliche Fragen auf. Dr. Inka Knappertsbusch kennt Antworten. Im ersten Teil unseres Interviews sprach sie über die neuen Herausforderungen durch KI im Arbeitsrecht, die Auswirkungen des neuen KI-Gesetzes, Mitbestimmungsrechte des Betriebsrats und erste Handlungsempfehlungen für Personaler.

Was bedeutet der Einsatz von KI für Arbeitnehmer? Welche besonderen Rechte und Pflichten haben sie? 

Dr. Inka Knappertsbusch:
Für Arbeitnehmer bringt der Einsatz von KI sowohl Chancen als auch Herausforderungen mit sich. Einerseits können KI-gestützte Systeme die Arbeit erheblich erleichtern. Ich denke hierbei an die mögliche Automatisierung von repetitiven Routineaufgaben wie zum Beispiel das Durchsuchen und Analysieren von Dokumenten bis hin zum Einsatz von sogenannten "Wearables", durch die körperlich anstrengende Arbeiten leichter erledigt werden können, wodurch ältere oder behinderte Arbeitnehmer wieder Zugang zum Arbeitsmarkt bekommen. Andererseits entstehen Risiken in Bezug auf Datenschutz und die Wahrung von Persönlichkeitsrechten, da KI-Systeme auf umfangreiche Trainingsdaten zurückgreifen. Arbeitnehmer haben ein Recht auf Transparenz, das heißt, sie müssen darüber informiert werden, wenn KI-basierte Entscheidungen getroffen werden, die sie betreffen. Sofern die KI personenbezogene Daten der Mitarbeiter verarbeitet, sind sie auch darüber umfassend zu informieren. Auf der anderen Seite sind Arbeitnehmer verpflichtet, den Weisungen des Arbeitgebers in Bezug auf den Einsatz von KI Folge zu leisten. Sofern sie selbst KI verwenden, ist darauf zu achten, dass die KI nicht zu diskriminierenden Ergebnissen führt.

Sich in das reizvolle, aber unbekannte Thema KI einzuarbeiten, ist für die Personalabteilung gar nicht so einfach. Was hat es beispielsweise mit der KI-Haftungsrichtlinie auf sich? Muss man die kennen? 

Dr. Inka Knappertsbusch: Auch wenn die KI-Haftungsrichtlinie bislang noch nicht verabschiedet wurde, liegt seit 2022 ein Entwurf der Europäischen Kommission vor. Ein zentrales Problem ist, dass Entscheidungen von KI-Systemen oft undurchsichtig und technisch komplex sind. Von KI-Systemen Geschädigten ist es in der Regel kaum möglich, die unrechtmäßige Handlung sowohl der KI als auch den Verantwortlichen nachzuweisen. Die Richtlinie soll dieses Problem entschärfen, indem sie eine Umkehr der Beweislast vorsieht: Künftig müsste nicht mehr der Geschädigte den Beweis erbringen, sondern der Betreiber des KI-Systems. Wie dies konkret ausgestaltet wird, bleibt abzuwarten. Dennoch ist es wichtig, solche Entwicklungen im Blick zu behalten, da sie frühzeitig zeigen, wo gewissermaßen "die Musik spielt".

Stichwort KI-Richtlinie: Wann sollten Unternehmen diese aufsetzen? Würden Sie bitte kurz erläutern, was darin eigentlich geregelt wird und welche Aspekte die Richtlinie abdecken sollte?

Dr. Inka Knappertsbusch: Immer dann, wenn Unternehmen KI verwenden oder zumindest die Einführung von KI planen, empfiehlt es sich, eine entsprechende KI-Richtlinie zu erlassen. Denn hierdurch kann der Arbeitgeber den verantwortungsvollen Umgang mit KI regeln

Stichwort KI-Richtlinie: Wann sollten Unternehmen diese aufsetzen? Würden Sie bitte kurz erläutern, was darin eigentlich geregelt wird und welche Aspekte die Richtlinie abdecken sollte? .  

Im Rahmen der Richtlinie sollte zunächst eine Definition des Begriffs „Künstliche Intelligenz“ (KI) erfolgen, um ein einheitliches Verständnis unter den Mitarbeitern zu gewährleisten. Hierbei kann auf die Definition in Art. 3 Nr. 1 KI-VI Bezug genommen werden. Alternativ steht es Unternehmen frei, eine eigene Definition zu formulieren. Um mögliche Regelungslücken bezüglich der unbemerkten Nutzung von KI-Systemen zu schließen, sollte der Anwendungsbereich alle von den Arbeitnehmern verwendeten KI-Systeme umfassen.

Artikel 3, Absatz 1 des „Artificial Intelligence Act“ definiert KI als „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können“. 

Anschließend sollte die konkrete Nutzung der KI-Systeme festgelegt werden. Dies könnte beispielsweise die Festlegung der Nutzungszwecke sowie eventuelle Einschränkungen (wie die ausschließliche interne Nutzung bestimmter KI-Systeme) umfassen. Der Arbeitgeber kann auch festlegen, ob der Einsatz von KI generell oder von spezifischen KI-Systemen verpflichtend ist oder ob die Mitarbeiter frei entscheiden dürfen, ob und in welchem Umfang sie KI für bestimmte Arbeitsaufgaben nutzen möchten. In der Regel wird der Arbeitgeber daran interessiert sein, dass die von ihm entwickelten oder von externen Anbietern erworbenen KI-Systeme zum Einsatz kommen. Angesichts der bekannten Unzuverlässigkeit mancher KI-Systeme, die oftmals scheinbar wahre, aber tatsächlich fehlerhafte Aussagen treffen („Halluzinationen“), sollten Mitarbeiter dazu verpflichtet werden, die Ergebnisse sorgfältig auf ihre Richtigkeit und Relevanz zu prüfen und sie gegebenenfalls vor der weiteren Nutzung zu korrigieren. Zusätzlich können Melde- und Offenlegungspflichten im Zusammenhang mit der Nutzung von KI festgelegt werden. 

Es sollten auch explizit Verbote aufgenommen werden. Um bei der Nutzung von KI-Systemen den Schutz vertraulicher Informationen zu gewährleisten und das Risiko eines Verlusts von Geschäftsgeheimnissen zu vermeiden, ist die Eingabe solcher Informationen in externe KI-Systeme zu untersagen, wenn diese keine Möglichkeit zum Verzicht auf die Datennutzung für das Training der KI bieten oder wenn die Mitarbeiter diese Opt-out-Möglichkeit nicht nutzen. Gleiches gilt für die Eingabe personenbezogener Daten von Beschäftigten, Kunden oder Geschäftspartnern. 

Schließlich können auch ethische Aspekte in einer KI-Richtlinie berücksichtigt werden. Obwohl es keine einheitlichen ethischen Richtlinien für KI gibt, bieten die Ethik-Richtlinien der EU-Kommission von 2019 sowie die Stellungnahme des Deutschen Ethikrats von März 2023 wertvolle Orientierungspunkte. Diese Richtlinien unterstreichen die Bedeutung von menschlicher Selbstbestimmung, Schadensvorbeugung, Fairness und Erklärbarkeit im Umgang mit KI. 

KI erlaubt, einfache, repetitive und vielfach als langweilig empfundene Tätigkeiten an KI zu übertragen. Mitarbeitende können ihre Arbeitszeit so mit anspruchsvolleren wertschöpfenden Tätigkeiten verbringen. Wie gehen Arbeitgeber am besten vor, wenn sie die Tätigkeitsprofile von Mitarbeitenden verändern? 

Dr. Inka Knappertsbusch: Arbeitgeber sollten regelmäßig die Auswirkungen von KI auf die Tätigkeitsprofile evaluieren. Dies ermöglicht es, rechtzeitig Anpassungen vorzunehmen und sicherzustellen, dass die durch KI verursachten Veränderungen den arbeitsvertraglichen Anforderungen entsprechen.

Um Akzeptanz und Verständnis für notwendige Änderungen zu fördern, sollten Arbeitgeber frühzeitig und transparent über die geplanten Änderungen informieren. Dies umfasst die Erklärung der Gründe für den KI-Einsatz, die möglichen Auswirkungen auf das Tätigkeitsprofil und die Rolle der Arbeitnehmer in diesem neuen Kontext. Es ist entscheidend, die Mitarbeiter in den Veränderungsprozess einzubeziehen und ihre Bedenken ernst zu nehmen. 

Arbeitgeber müssen sicherstellen, dass Änderungen im Tätigkeitsprofil den rechtlichen Rahmenbedingungen entsprechen. Wenn die Änderungen durch KI die Gleichwertigkeit der ursprünglichen Tätigkeit infrage stellen, muss geprüft werden, ob eine einvernehmliche Änderungsvereinbarung möglich ist. Falls dies nicht gelingt, könnte als letzte Maßnahme eine Änderungskündigung in Betracht kommen, die allerdings sozial gerechtfertigt sein muss. Zudem muss der Betriebsrat bei wesentlichen Änderungen, die als Versetzung gelten könnten, gemäß § 99 BetrVG beteiligt werden. 

Da der Einsatz von KI neue Fähigkeiten und Kompetenzen erfordert, sollten Arbeitgeber proaktiv Schulungen und Weiterbildungen anbieten. Dies ermöglicht den Mitarbeitern, die neuen Anforderungen zu erfüllen und ihre berufliche Qualifikation an die veränderten Aufgaben anzupassen. Solche Maßnahmen können auch dazu beitragen, die Motivation und das Engagement der Mitarbeiter zu erhalten. 

Insgesamt sollten Arbeitgeber strategisch und mit Bedacht vorgehen, um den Einsatz von KI in den Arbeitsprozessen rechtssicher und sozialverträglich zu gestalten. Eine Kombination aus rechtlicher Sorgfalt, frühzeitiger Einbindung der Arbeitnehmer und gezielten Weiterbildungsmaßnahmen wird dazu beitragen, die Anpassung von Tätigkeitsprofilen erfolgreich umzusetzen und gleichzeitig die Vorteile von KI-Technologien am Arbeitsplatz optimal zu nutzen. 

Dr. Inka Knappertsbusch: Der Schwerpunkt von Inka Knappertsbusch liegt auf der arbeitsrechtlichen Beratung und Verhandlung im Rahmen von Restrukturierungen und Betriebsvereinbarungen, insbesondere zu IT, KI und New Work. Darüber hinaus berät sie in allen Fragen des Individual- und Kollektivarbeitsrechts sowie des Dienstvertragsrechts. Besondere Kenntnisse besitzt sie außerdem in Datenschutzfragen im Beschäftigungskontext. Sie ist Mitherausgeberin der Bücher "Arbeitswelt und KI 2030" und "Die Zukunft der Arbeit". Zu ihren Mandanten zählen internationale Konzerne ebenso wie mittelständische Unternehmen. Inka Knappertsbusch schloss sich 2019 CMS Hasche Sigle an. Zuvor war sie drei Jahre als Anwältin in einer internationalen Kanzlei tätig. Während dieser Zeit absolvierte sie ein einjähriges Secondment in der Rechtsabteilung eines japanischen Handelshauses in London. 2023 wurde sie Counsel der Sozietät.