Arbeitswelt im Wandel: KI und ihre arbeitsrechtlichen Aspekte

Ein Gastbeitrag von Neels Lamschus

Die rasante Entwicklung und der zunehmende Einsatz von Künstlicher Intelligenz (KI) in der Arbeitswelt sind nicht zu übersehen. Ein Blick auf den Erfolg von ChatGPT oder Midjourney genügt, um zu erkennen, dass KI längst nicht mehr nur ein Thema für „Technikfreaks“ ist.

In der betrieblichen Praxis werden KI-System inzwischen vielseitig eingesetzt: Ob bei der Analyse großer Datenmengen, der Vorhersage von Trends, der Bild- und Mustererkennung oder der Sprach- und Textverarbeitung – die Einsatzmöglichkeiten sind nahezu unbegrenzt.

Für die Unternehmen ist jedoch nicht die Technologie selbst von Interesse, sondern vor allem die Frage, wie diese zur Erfüllung ihrer industriellen Bedürfnisse bei-tragen kann, beispielsweise zur Effizienzsteigerung oder um Arbeitsabläufe zu optimieren. Ein entscheidender Faktor für den Erfolg dieser Technologien ist ihre Integration in bereits bestehende Arbeitsprozesse – ein Aspekt, der maßgeblich zur Akzeptanz und Nutzung von KI-Systemen beiträgt.

In diesem Monat wollen wir uns eingehender mit den arbeitsrechtlichen Implikationen der KI auseinandersetzen – wohlwissend, dass wir bei der arbeitsrechtlichen Bewertung am Anfang stehen und es derzeit (noch) nahezu keine einschlägige Rechtsprechung der Arbeitsgerichte gibt. Wir werden hierbei feststellen, dass das bestehende rechtliche Instrumentarium ausreicht und Antworten auf die die meisten Fragen liefert

Zunächst ist es wichtig, ein klares Verständnis davon zu haben, was KI eigentlich ist. In der rechtlichen Welt gibt es keine einheitliche Definition, was zu verschiedenen Interpretationen und Ansätzen führt. Aus arbeitsrechtlicher Perspektive ist auf europäischer Ebene die im Entwurf für eine KI-Verordnung vorgeschlagene Definition von Bedeutung und auf deutscher Ebene die anhand des Betriebsverfassungsgesetzes vorgenommene Begriffsbestimmung.
Gemäß Art. 3 Nr. 1 des Entwurfs der KI-Verordnung wird unter „System der künstlichen Intelligenz“ (KI-System) eine Software verstanden, die mit Techniken und Konzepten, wie sie in Anhang I des Verordnungsentwurfs gelistet sind, entwickelt wird. Diese Software kann basierend auf menschlich definierten Zielen Ergebnisse erzeugen, wie zum Beispiel Inhalte, Prognosen, Empfehlungen oder Entscheidungen, die ihre Interaktionsumgebung beeinflussen können. Die in Anhang I genannten Techniken und Konzepte umfassen maschinelles Lernen (d.h. selbstlernende Systeme), logik- und wissensbasierte Ansätze sowie statistische Methoden.

Das Betriebsverfassungsgesetz erwähnt den Terminus „Künstliche Intelligenz“ seit 2021 an drei verschiedenen Stellen, liefert aber keine konkrete Definition oder detaillierte Erläuterung dieses Begriffs. Mit der Novellierung des Betriebsverfassungsgesetzes zielte man darauf ab, dem Betriebsrat das Verständnis, die Bewertung und die Mitgestaltung komplexer informationstechnischer Systeme zu ermöglichen. Nach allgemeiner Lesart bezieht sich „Künstliche Intelligenz“ im Kontext des Betriebsverfassungsgesetzes allerdings nur auf solche technischen Systeme, die durch den Einsatz von Informatik menschenähnliches, nicht vollständig vorhersehbares Verhalten simulieren können.

Bereits im Jahr 2021 legte die EU-Kommission ihren Entwurf für eine weltweit erste KI-Regulierung vor, den „Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Europäischen Union“. Nachdem das Parlament der Europäischen Union im Sommer 2023 sich auf einen gemeinsamen Standpunkt einigte, laufen gegenwärtig die Verhandlungen mit den EU-Mitgliedstaaten und der Kommission über den endgültigen Verordnungstext. Falls tatsächlich eine Einigung vor der Europawahl im nächsten Jahr erzielt werden sollte, könnte die KI-Verordnung voraussichtlich ab 2026 in Kraft treten, da Übergangszeiten von bis zu zwei Jahren vorgesehen sind. In der Zwischenzeit wird sich die künstliche Intelligenz ohne Rücksicht auf das europäische Gesetzgebungsverfahren weiterentwickeln.

Der Verordnungsentwurf verfolgt einen „risikobasierten Ansatz“ und verbietet beispielsweise hochriskante KI-Systeme, etwa biometrische Gesichtserkennung im öffentlichen Raum in Echtzeit. Eine Gesichtserkennung zur Überwachung, wie sie in China bereits angewandt wird, wird es in der EU daher nicht geben. Auch andere Anwendungen, die mit hohen Risiken für die Sicherheit von Menschen verbunden sind oder deren Persönlichkeitsrechte massiv beeinträchtigen, sollen verboten oder stark eingeschränkt werden. Danach staffeln sich die Auflagen und Anforderungen, je nachdem, wie riskant die Anwendungen sind. Hier wird zwischen risikoarmer, begrenzt riskanter, zu riskanter und verbotener KI unterschieden. KI-Systeme, die Menschen nach ihrem sozialen Verhalten oder ethnischen Merkmalen klassifizieren, wären nach dem Willen des EU-Parlaments ebenfalls nicht zulässig.

Im Juni 2021 hat der deutsche Gesetzgeber im Rahmen des Betriebsrätemodernisierungsgesetzes den Begriff der Künstlichen Intelligenz an drei Stellen in das Betriebsverfassungsgesetz integriert. Ziel war es, das Vertrauen und die Akzeptanz der Beschäftigten im Umgang mit KI am Arbeitsplatz zu stärken und Betriebsräten eine bessere Mitwirkungsmöglichkeit bei der Planung, Einführung und Nutzung von KI-Systemen zu bieten.

§ 80 Abs. 3 S. 2 BetrVG regelt nun, dass Betriebsräte zur Beurteilung von KI-Einführung oder -Anwendung ohne Nachweis der Erforderlichkeit einen Sachverständigen hinzuziehen können. Eine Absprache mit dem Arbeitgeber über den Sachverständigen und dessen Vergütung bleibt jedoch erforderlich. Bei einer Einigung auf einen ständigen Sachverständigen kann der Betriebsrat diesen ohne weitere Rücksprache ein-setzen, was eine schnellere Reaktion bei KI-Einsätzen ermöglicht.

§ 90 Abs. 1 Nr. 3 BetrVG stellt klar, dass der Betriebsrat bei der Planung von KI-Einsätzen Informations- und Beratungsrechte hat, welche sich sowohl auf den Technikeinsatz als auch auf damit verbundene Arbeitsprozessänderungen beziehen.

§ 95 Abs. 2a BetrVG dient der Klarstellung, dass das Mitbestimmungsrecht des Betriebsrats bei der Aufstellung von Auswahlrichtlinien für Personalmaßnahmen auch beim Einsatz von KI Anwendung findet. Die neue Vorschrift erweitert also nicht die Mitbestimmung, sondern soll das Bewusstsein der Betriebsparteien für die Mechanismen und Konsequenzen des Einsatzes von KI schärfen. Mitbestimmt ist nicht nur die Einflussnahme auf Steuerung und Zielsetzung von KI bei Auswahlentscheidungen, sondern auch die Frage, ob für die personelle Auswahl überhaupt auf KI zurückgegriffen werden soll.

Die Bewertung von Künstlicher Intelligenz sollte über den rechtlichen Rahmen hinausgehen und auch moralische und ethische Aspekte berücksichtigen, die im gesellschaftlichen Diskurs entwickelt werden müssen. Es ist zudem essenziell, dass die Betrachtung von KI nicht ausschließlich aus einer arbeitsrechtlichen Perspektive erfolgt. Vielmehr ist es notwendig, dass die verschiedenen juristischen Teildisziplinen voneinander lernen und sich gegenseitig bereichern, um ein umfassendes und ausgewogenes Verständnis der vielschichtigen Neben den arbeitsrechtlichen Fragestellungen werden gegenwärtig nicht nur in Deutschland oder Europa, sondern weltweit diverse weitere Schlüsselfragen diskutiert.

Haftung für KI-Entscheidungen: Wer ist verantwortlich, wenn eine KI Schaden verursacht? Muss zwischen verschiedenen Arten von KI (z. B. autonom, assistierend) unterschieden werden?

Datenschutz und Privatsphäre: Wie können die Datenschutzrechte der Nutzer gewährleistet werden, insbesondere wenn KI auf große Datenmengen angewiesen ist?

Urheberrecht und geistiges Eigentum: Wer besitzt das Urheberrecht an von KI erstellten Werken? Wie wird geistiges Eigentum geschützt, wenn KI in den Entwicklungsprozess involviert ist?

Ethische Richtlinien und KI-Governance: Wie können ethische Grundsätze in der Entwicklung und Anwendung von KI sichergestellt werden? Welche Rolle spielen staatliche Regulierungen und internationale Abkommen?

Transparenz und Erklärbarkeit von KI-Entscheidungen: Wie kann die Transparenz von KI-Algorithmen gewährleistet werden? Sind Unternehmen verpflichtet, die Funktionsweise ihrer KI-Systeme offenzulegen? Ist dies überhaupt möglich?

Die Integration künstlicher Intelligenz in die Arbeitswelt wirft eine Reihe neuer arbeitsrechtlicher Fragestellungen auf, die sowohl für Arbeitgeber als auch für Arbeitnehmer von großer Bedeutung sind. Die rasante Entwicklung und Integration künstlicher Intelligenz in den Arbeitsalltag führt zur Notwendigkeit, die neu entstehenden rechtlichen Fragen durch eine sorgfältige und teils auch innovative Interpretation des bereits bestehenden Rechtsrahmens zu beantworten.

Ausübung des Direktionsrechts durch KI
Gemäß § 106 der Gewerbeordnung hat der Arbeitgeber das Recht, die Einzelheiten von Arbeitsleistung, Ort und Zeit im Rahmen des Arbeitsvertrags zu bestimmen. Dieses Direktionsrecht kann grundsätzlich nicht nur an Mitarbeiter, sondern auch auf ein KI-System übertragen werden.

Ein KI-System kann daher ebenfalls als Empfänger und zugleich als Sender des Direktionsrechts fungieren, da es als Teil des Arbeitgeberbereichs anzusehen ist. Der Einsatz von KI kann aufgrund von Kostenersparnissen, einer objektiveren Aufgabenverteilung oder der Verarbeitung großer Datenmengen erfolgen, um die betrieblichen Ziele des Arbeitgebers zu unterstützen bzw. Effizienzen zu steigern.

Eine von einer KI erstellte Routenplanung für einen Außendienstmitarbeiter hat beispielsweise gewiss Vorteile gegenüber einer menschlich erstellten Route. Die KI kann komplexe Daten und Muster effizient analysieren, um die optimale Route zu bestimmen. Darüber hinaus hat sie die Fähigkeit, Verkehrsbedingungen in Echtzeit zu überwachen. Dies ermöglicht es, Staus vorauszusehen und zu umgehen, was zu einer effizienteren und zeitsparenderen Reise führt. Die Nutzung von KI in der Routenplanung kann somit zu einer erheblichen Verbesserung der Effizienz und Produktivität eines Außendienstmitarbeiters führen.

Es ist gesetzlich nicht vorgesehen, dass das Direktionsrecht von einer natürlichen Person ausgeübt wird. Ein in diesem Bereich eingesetztes KI-System muss jedoch so programmiert sein, dass seine Anweisungen sämtliche Grenzen des Weisungsrechts einhält, unter anderem müssen dabei der Grundsatz des billigen Ermessens gemäß § 315 BGB und die berechtigten Interessen der Arbeitnehmer angemessen berücksichtigt werden. Dies erfordert eine sorgfältige Bewertung und Berücksichtigung der Interessen des Arbeitgebers und des Arbeitnehmers, unter Einbeziehung aller spezifischen Umstände des Einzelfalls. Eine KI kann dies (noch?) nicht leisten.

Beispielsweise würde ein KI-System, das Aufgaben nur leistungsstarken Mitarbeitern zuweist und sie dadurch überlastet, diesen Anforderungen nicht gerecht. Bei der gerichtlichen Überprüfung steht jedoch nur das Ergebnis der Ermessensentscheidung, also der Inhalt der Weisung, im Fokus, nicht der Entscheidungsfindungsprozess selbst. Dies bedeutet, dass die Programmierung des Systems oder die Zusammensetzung der Daten nicht gerichtlich überprüfbar sind, sondern nur, ob das Ergebnis den gesetzlichen Vorgaben genügt. Zusätzlich müssen beispielsweise die Bestimmungen des Allgemeinen Gleichbehandlungsgesetzes eingehalten werden. Regelmäßige Kontrollen und Anpassungen des Systems sind daher unerlässlich.

Begrenzt wird die Möglichkeit von KI-basierten Weisungen durch Art. 22 DSGVO. Nach dieser Vorschrift darf ein Arbeitnehmer nicht ausschließlich automatisierten Entscheidungen unterworfen werden, die für ihn rechtliche Konsequenzen haben oder ihn erheblich beeinflussen. Dies betrifft jedoch nur grundlegende Entscheidungen, wie beispielsweise Einstellungen, Abmahnungen, Kündigungen oder Beförderungen. In solchen Fällen ist es Aufgabe des Arbeitgebers selbst, die endgültige Entscheidung zu treffen. Die KI kann jedoch als unterstützendes Instrument zur Vorbereitung dieser Entscheidungen dienen. Beispielsweise ist der Einsatz von KI zur Analyse der Leistungsdaten der Mitarbeiter denkbar, um die Grundlage für eine von einer Führungskraft zu treffende Beförderungsentscheidung zu schaffen.

Nutzung von Generative AI durch Mitarbeiter
Laut aktuellen Medienberichten haben bereits ein Drittel aller Deutschen den Chatbot ChatGPT getestet. Die meisten User dürften zunächst überrascht von der Qualität der Ergebnisse des Dialogs mit der KI gewesen sein. Da die Antworten weit überwiegend genutzt werden könnten, stellt sich die Frage, ob Beschäftigte KI-Systeme im Rahmen ihrer Arbeitsleistung nutzen dürfen. Der Einsatz solcher Systeme, etwa bei der Erstellung einer Präsentation oder eines „Beitrag des Monats“ durch ChatGPT, könnte mit dem Grundsatz der Höchstpersönlichkeit der Leistungspflicht in Konflikt treten.

§ 613 S. 1 BGB sieht vor, dass der Arbeitnehmer die Dienste im Zweifel in Person zu erbringen hat. Die Arbeitsleistung ist daher grundsätzlich selbst zu er-bringen und darf nicht auf einen anderen übertragen werden. Insoweit ist Gegenstand des juristischen Diskurses, ob der Einsatz von KI-Systemen eine solche Übertragung darstellt oder es sich hierbei lediglich um ein Werkzeug handelt, dessen sich der Arbeitnehmer zulässigerweise bedienen darf. Man wird hier wohl differenzieren müssen. Wenn der Kern der Arbeitsleistung nicht vom Arbeitnehmer erbracht wird, sondern eine KI ein fertiges Arbeitsprodukt erstellt, ist dies vergleichbar mit der Verrichtung der Arbeitsleistung durch eine andere Person. Ein von einem KI-System vollständig selbst erstellter „Beitrag des Monats“ widerspricht sicherlich der Höchstpersönlichkeit der Arbeitsleistung.

Solange der Einsatz von KI sich auf Hilfstätigkeiten für den vom Arbeitnehmer zu erbringenden Kern der Arbeitsleistung beschränkt, dürfte der Einsatz hinge-gen zulässig sein. Ein Arbeitnehmer kann sich daher beispielsweise Zusammenfassungen von juristischen Aufsätzen von einer KI erstellen lassen, eine KI nach den wichtigsten juristischen Fragestellungen rund um künstliche Intelligenz befragen oder einen Text einer automatisierten Rechtschreibprüfung unterziehen. Entscheidend ist, dass der Arbeitnehmer selbst gedankliche Transferleistungen vornimmt und die Verantwortung für das Ergebnis vornimmt.

Der Grundsatz der Höchstpersönlichkeit der Leistungspflicht nach § 613 S. 1 BGB ist dispositiv. Das heißt, dass der Arbeitgeber den Einsatz von KI-Systemen im Rahmen der Arbeitsleistung erlauben oder sogar anweisen kann. Derzeit bestehen jedoch ungeklärte Haftungsrisiken, wenn sich Arbeitnehmer KI-Systemen bedienen. Außerdem bestehen unbestrittene datenschutzrechtliche Risiken, etwa wenn Arbeitnehmer personenbezogene Daten in KI-Systeme wie ChatGPT einfügen. Um diese Risiken zu minimieren, sollten Arbeitgeber genau Branche. Soweit es sich bei der Einführung eines KI-Systems nicht nur um die übliche laufende Anpassung der Arbeitsmethoden und Fertigungsverfahren handelt, kann demnach eine Betriebsänderung vorliegen. Die Bedeutsamkeit der Veränderung kann sich sowohl aus der Zahl der betroffenen Beschäftigten als auch aus dem Gewicht der Auswirkungen auf die Beschäftigten ergeben.

Beschäftigtendatenschutz
Der Einsatz von KI-Systemen zur Sammlung und Analyse von Informationen und Daten bietet erhebliche Vorteile, insbesondere in Bezug auf Zeitersparnis. Dies macht sie für Arbeitgeber besonders attraktiv. Allerdings erfordert die Verarbeitung personenbezogener Daten, die oft in solchen Prozessen vorkommen, eine sorgfältige Handhabung im Rahmen der DSGVO. Arbeitgeber, die mit sensiblen Mitarbeiterdaten umgehen, müssen daher beim Einsatz von KI besonders sorgsam sein, um den Datenschutzbestimmungen gerecht zu werden.

Wenn KI-Systeme für Aufgaben wie die Erstellung von Berichten, Zusammenfassungen oder die Analyse personenbezogener Datensätze verwendet werden, müssen Arbeitgeber die in der DSGVO festgelegten Grundsätze beachten. Dazu gehören die Wahrung der Rechte Betroffener, die Klärung von Verantwortlichkeiten und die Einhaltung des Transparenzgebots.

Die konkrete Verantwortlichkeitskonstellation hängt von der Art des eingesetzten KI-Systems und dessen Nutzung ab und lässt sich nicht pauschal bestimmen. So können eine getrennte Verantwortlichkeit, eine gemeinsame Verantwortlichkeit oder eine Auftragsverarbeitung vorliegen.

Arbeitgeber müssen bei der Nutzung von KI auch die Rechte der betroffenen Personen gemäß Kapitel 3 der DSGVO sicherstellen. Besonders herausfordernd ist hier das Recht auf Löschung nach Art. 17 DSGVO, da KI-Systeme möglicherweise nicht in der Lage sind, Daten vollständig zu „vergessen“, sondern diese Daten wiederum selbst benutzen, um sich zu verbessern.

Ein weiterer wichtiger Aspekt ist die Einhaltung des Transparenzgebots und der Informationspflichten. Arbeitgeber, die KI-Systeme für die Verarbeitung personenbezogener Daten verwenden, müssen ihre Beschäftigten klar und verständlich über die Nutzung dieser Daten informieren. Dazu gehört die Angabe, welche Daten verwendet werden, ob und an wen sie weitergegeben werden, sowie die Darlegung der Rechtsgrundlagen und des verfolgten Zwecks.

Schließlich müssen Arbeitgeber gemäß Art. 13 und 14 DSGVO bei automatischen Entscheidungsfindungen durch KI-Systeme aussagekräftige Informationen über die beteiligte Logik bereitstellen. Dies kann aufgrund der Komplexität der Datenverarbeitung und der involvierten Technologien eine Herausforderung darstellen.

Arbeitsschutz
Nicht alle Arbeitnehmer sind technisch versiert oder anpassungsfähig, was die Eingliederung in neue, KI-gesteuerte Arbeitsprozesse erschweren kann. Es ist daher ratsam, dass Unternehmen ihre Mitarbeiter durch Qualifizierung, Schulungen, offene Kommunikation über die Rolle der KI und Bereitstellung von Ressourcen zur Stressbewältigung unterstützen.

Bei der Einführung von KI-Systemen müssen bestehende Gefährdungsbeurteilungen hinsichtlich der potentiellen psychischen Belastungen für die Beschäftigten in jedem Fall überprüft und soweit erforderlich erneuert werden.

Die Rolle von KI im Arbeitsverhältnis ist ein sich ständig entwickelndes Feld. Ob tatsächlich rechtliche Anpassungen notwendig sein werden, um mit den technologischen Fortschritten Schritt zu halten, werden erst die nächsten Jahre zeigen können. Da man den sich aufdrängenden Fragen mit den bereits bestehenden rechtlichen Rahmenbedingungen begegnen kann, wird dies nicht zwingend erforderlich sein.

Abschließend lässt sich festhalten, dass bei der Schaffung neuer rechtlicher Rahmenbedingungen jedenfalls äußerste Sorgfalt geboten ist. Es ist unerlässlich, dass diese nicht zu einer zusätzlichen bürokratischen Belastung für Unternehmen führen, da dies Europa und Deutschland in Bezug auf die Entwicklung und Anwendung künstlicher Intelligenz ins Hintertreffen geraten lassen könnte, sofern dies nicht ohnehin schon der Fall ist. Wir müssen sicherstellen, dass KI-Systeme in einer Weise rechtssicher genutzt werden können, die den industriellen Bedürfnissen gerecht werden. Vor allem muss vermieden werden, dass durch diese neuen Regelungen ein zusätzliches Mitbestimmungsrecht entsteht, das die Effizienz und Innovationskraft der Unternehmen beeinträchtigen könnte. Nur durch ein ausgewogenes Verhältnis zwischen Regulierung und unternehmerischer Freiheit kann die Entwicklung und Nutzung von KI optimal gefördert werden.

Der Autor