KI ist im Arbeitsalltag angekommen und dient Arbeitnehmern vermehrt als Hilfsmittel. Arbeitsrechtler Philipp Byers und Manuela Winkler zeigen auf, worauf HR bei der Verarbeitung personenbezogener Daten achten sollte. Unabhängig von datenschutzrechtlichen Hürden besteht bei KI im Arbeitsverhältnis vielfach noch Rechtsunsicherheit.
Dies ist der zweite Beitrag einer 3-teiligen Serie zu wichtigen rechtlichen Aspekten der „Zusammenarbeit“ von KI und HR.
Im Bereich der künstlichen Intelligenz („KI“) erfährt derzeit ChatGPT besondere Aufmerksamkeit. Der KI-gesteuerte Chatbot von OpenAI, der unter anderem automatisiert Texte erstellen kann, ist auch im Arbeitsalltag angekommen und dient vielen Arbeitnehmern vermehrt als Hilfsmittel. Aufgrund der dynamischen Entwicklung im Bereich KI fällt es der Gesetzgebung jedoch schwer, hier Schritt zu halten. Dadurch ist der rechtliche Rahmen für KI im Arbeitsverhältnis noch weitestgehend ungeklärt. Auf einige ausgewählte rechtliche Rahmenbedingungen soll nachfolgend eingegangen werden.
- Anzeige -
Datenschutzrechtliche Anforderungen an KI im Arbeitsverhältnis
Erhebliche Hürden für KI im Arbeitsverhältnis ergeben sich aus datenschutzrechtlichen Anforderungen. So hat beispielsweise die italienische Datenschutzbehörde ChatGPT Ende März 2023 aufgrund datenschutzrechtlicher Bedenken bereits vorübergehend gesperrt. Die europaweit geltende Datenschutz-Grundverordnung (DSGVO) geht nicht ausdrücklich auf den Umgang mit KI ein.
Werden durch das KI-System aber personenbezogene Daten verarbeitet, sind die allgemeinen datenschutzrechtlichen Anforderungen zu beachten (zum Beispiel umfassende Informationspflichten). Der Einsatz von KI wird dabei häufig mit der DSGVO in Konflikt geraten. Während KI beispielsweise auf eine Verarbeitung großer Datenmengen angewiesen ist, verfolgt die DSGVO den Grundsatz der Datenminimierung.
HR muss beim Umgang mit KI darauf achten, dass – wie immer bei der Verarbeitung von personenbezogenen Daten – für jeden Datenverarbeitungsvorgang mithilfe von KI eine datenschutzrechtliche Erlaubnisnorm besteht. Arbeitgeber werden dabei häufig auf Art. 6 Abs. 1 lit. b) oder lit. f) DSGVO zurückgreifen. Durch diese Generalklauseln der DSGVO werden Datenverarbeitungen ermöglicht, die für die Erfüllung eines Vertrags oder (nach umfassender Interessenabwägung) zur Wahrung berechtigter Interessen erforderlich sind.
Diese Erlaubnisnormen können im Beschäftigungskontext in Betracht kommen, sofern eine Datenverarbeitung für die Begründung oder Durchführung des Beschäftigungsverhältnisses erforderlich ist. Bislang diente § 26 Abs. 1 S. 1 BDSG den Arbeitgebern als zentrale Erlaubnisnorm für Datenverarbeitungen im Arbeitsverhältnis. Ob auf diese Norm weiterhin zurückgegriffen werden kann, ist jedoch aufgrund einer Entscheidung des Europäischen Gerichtshofs (EuGH) vom 30.03.2023 (Rechtssache C-34/21) mittlerweile ungewiss.
Gerade beim Einsatz von KI ist jedoch zu beachten, dass die Datenschutzbehörden die Erforderlichkeit von KI-Systemen eher kritisch beurteilen. In die Persönlichkeitsrechte der Mitarbeiter darf nicht stärker eingegriffen werden, als dies für die Begründung oder Durchführung eines Arbeitsverhältnisses zwingend notwendig ist. KI-Systeme bergen aufgrund ihrer hohen Leistungsfähigkeit teilweise die Gefahr, dass mehr Daten verarbeitet werden, als für den konkreten Zweck im Arbeitsverhältnis benötigt sind. An eine Verarbeitung besonderer Kategorien personenbezogener Daten (zum Beispiel Gesundheitsdaten) werden aus datenschutzrechtlicher Sicht sogar noch höhere Anforderungen gestellt.
Darüber hinaus sollte HR stets prüfen, ob die eingesetzte KI automatisierte Entscheidungen gegenüber den Mitarbeitern trifft (zum Beispiel automatische Auswahl oder Ablehnung von Mitarbeitern für Fortbildungen durch KI). Entscheidungen, die ausschließlich durch KI getroffen werden, werden aufgrund von Art. 22 DSGVO nur in den seltensten Fällen zulässig sein. Beim Einsatz von KI sollte HR daher darauf achten, dass KI mögliche Auswahlentscheidungen im Arbeitsverhältnis nur vorbereitet und die finale Prüfung und Entscheidung beim Arbeitgeber verbleibt.
Guidelines im Arbeitsverhältnis
Unabhängig von den datenschutzrechtlichen Hürden besteht beim Einsatz von KI im Arbeitsverhältnis derzeit grundsätzlich noch Rechtsunsicherheit. Sofern Arbeitgeber ihren Mitarbeitern die Nutzung von KI am Arbeitsplatz gestatten, ist ihnen daher dringend zu empfehlen, hierfür verbindliche Richtlinien im Unternehmen zu etablieren. Guidelines zur Nutzung von KI können dazu beitragen, dass mit KI einhergehende rechtliche Risiken minimiert werden.
Neben zahlreichen weiteren zu berücksichtigenden Aspekten sollten Arbeitgeber ihre Mitarbeiter beispielsweise im Zusammenhang mit der Nutzung von ChatGPT darauf hinweisen, dass sie keine Betriebs- und Geschäftsgeheimnisse eingeben dürfen. Andernfalls ist ein vertraulicher Umgang mit solchen sensiblen Unternehmensinformationen nicht gewährleistet. ChatGPT nutzt eingegebene Informationen zur eigenen Weiterentwicklung, sodass ggf. andere Nutzer solch sensible Daten erhalten könnten. Aus denselben Gründen sollten personenbezogene Angaben zu Arbeitskollegen, Kunden oder Geschäftspartnern bei der Nutzung von ChatGPT ebenfalls untersagt werden.
Entwicklungen auf europäischer Ebene
Auch auf Gesetzgebungsebene soll der Rechtsrahmen für den Einsatz von KI geschärft werden. Zu den schwierigen Haftungsfragen bei KI sollen beispielsweise neue EU-Richtlinien Klarheit schaffen. Darüber hinaus befindet sich derzeit auch eine KI-Verordnung im europäischen Gesetzgebungsverfahren. Damit soll erstmals ein gesetzlicher Rahmen für die Entwicklung und Nutzung von KI gesetzt werden.
Die KI-Verordnung will unter anderem eine einheitliche Definition von KI schaffen. Zudem sieht sie nach derzeitiger Planung vor, KI nach den Risiken ihrer Anwendungszwecke zu klassifizieren (KI-Systeme mit minimalem Risiko, mit geringem Risiko, Hochrisiko KI-Systeme sowie verbotene KI-Systeme). Verboten werden sollen danach KI-Systeme, die den ethischen Grundsätzen der EU widersprechen und somit ein inakzeptables Risiko darstellen (zum Beispiel Social-Scoring-Systeme).
KI – Wie kommt sie bei Mitarbeitern an?
Es bleibt spannend zu beobachten, wie KI unser Arbeitsleben verändern wird. Derzeit kann in der Belegschaft eine unterschiedliche Akzeptanz angetroffen werden. Einerseits sind viele Mitarbeiter (beispielsweise im Marketingbereich) begeistert von den Möglichkeiten, die ChatGPT durch die automatisierte Texterstellung bietet. Andererseits sehen viele Mitarbeiter die rasche Entwicklung im Bereich KI kritisch, da sie um ihre Arbeitsplätze oder den Schutz ihrer Daten fürchten.
Archaische Intelligenz und KI - gemeinsam stärker Wir müssen nicht nur den Umgang mit Künstlicher Intelligenz, sondern auch mit menschlicher Intuition (wieder) lernen, sagt Professor Andreas Moring.…
Arbeitsrecht: Was darf KI im Bewerbungsverfahren und… KI kann Auswahlentscheidungen erleichtern und beschleunigen. Arbeitsrechtler Philipp Byers und Manuela Winkler erläutern, wann der Einsatz von KI im Bewerbungsverfahren…
Human-Centric Recruiting in der digitalen Welt Im Recruiting geht es heute darum, die richtige Balance zwischen Digitalisierung und Menschlichkeit zu finden, so Marcel Bott, Country Manager…
ChatGPT in HR - bald allgegenwärtig? ChatGPT in HR? Wer HR mit einem Chatbot unterstützen möchte, sollte auf einen dedizierten HR-Chatbot zurückgreifen, sagt Andreas Meya, Division…
