Editorial : Beschäftigtendatenschutzrecht für KI?

Ein Profiling von Bewerbern hinsichtlich emotionaler Stabilität, Extrovertiertheit, Offenheit und Gewissenhaftigkeit. Ein Tool, das mittels Sprachanalyse die Bewerberauswahl unterstützen kann, verspricht ein Profiling von Bewerbern hinsichtlich emotionaler Stabilität, Extrovertiertheit, Offenheit und Gewissenhaftigkeit. Im laufenden Beschäftigungsverhältnis soll mit dem Ziel eines „agilen Arbeitens“ datenbasiert Teamstrukturen analysiert und optimiert werden.

Diesem Profiling liegt die sogenannte Künstliche Intelligenz (KI) zugrunde. Eine Software muss mit riesigen Datenmengen versehen werden, um daraus Muster zu erkennen. Die beim Beschäftigten erhobenen Daten können dabei den Algorithmen etwa zum Targeting oder zur Erkennung von Mustern oder strukturellen Prozessen dienen. Der Beschäftigte als betroffene Person wird zum Datenlieferanten und zum Datenobjekt.

Jedenfalls für das laufende Beschäftigungsverhältnis ist eine Hürde für die Datengewinnung das kollektivrechtliche Mitbestimmungsrecht der Mitarbeitervertretungen. Sofern die Mitarbeitervertretungen die Zustimmung der Datennutzung für die Generierung von KI verweigern, fehlt jedenfalls für Deutschland eine aussagekräftige Datenbasis für KI-Anwendungen. Diese müsste aus Ländern ohne arbeits- oder datenschutzrechtliche Restriktionen gewonnen werden. Deren Implikationen kultureller und rechtlicher Art mit Blick auf die Nutzung in der deutschen Arbeitswelt müssten vorab untersucht werden.

Gelingt der KI eine eigenständige Entscheidungsfindung, kann damit eine automatisierte Einzelentscheidung einhergehen, die gem. Art. 22 DS-GVO regelmäßig untersagt ist. Erfolgt beispielsweise im Bewerbungsverfahren eine vollautomatisierte Absage auf Grund einer KI-Anwendung, handelt es sich wegen der rechtlichen Wirkung dabei um eine automatisierte Einzelentscheidung, die gem. Art. 22 DS-GVO verboten ist. Die KI hat damit den Menschen erübrigt, der für die Rechtmäßigkeit einer solchen Handlung mit rechtlicher Wirkung oder ähnlicher Beeinträchtigung gem. Art. 22 DS-GVO nötig ist.

Vielfach werden im laufenden Beschäftigungsverhältnis aber nur Entscheidungen aus dem Einsatz von KI resultieren, die nicht von der Regelung des Art. 22 DS-GVO erfasst sind, da sie keine unmittelbare Rechtswirkung entfalten oder den Grad der „erheblichen Beeinträchtigung“ nicht erreichen. Gleichwohl können diese Entscheidungen aber für die Persönlichkeitsrechte der Beschäftigten im Arbeitsverhältnis Auswirkungen haben. Auf Grund der arbeitgeberseitigen Fürsorgepflicht erscheint eine entsprechende Regelung i.S.d. Art. 22 DS-GVO für die durch KI getroffenen Entscheidungen mit Auswirkungen auf das Arbeitsverhältnis erwägenswert, insbesondere ein Recht auf menschliche Überprüfung und Letztentscheidung.

Genau zu prüfen ist auch die Einhaltung des Allgemeinen Gleichbehandlungsgesetzes (AGG). Der Einsatz von KI im Beschäftigungsverhältnis bedarf vor deren Nutzung der Erprobung, um diskriminierungsrelevante Auswirkungen zu ermitteln und auszuschließen. Noch sind die Anwendungsszenarien des Einsatzes von KI im Beschäftigungsverhältnis nur bedingt absehbar. Für eine detaillierte Regelung auf europäischer Ebene oder zumindest in einem Beschäftigtendatenschutzgesetz ist es noch zu früh.