KI kann Auswahlentscheidungen erleichtern und beschleunigen. Arbeitsrechtler Philipp Byers und Manuela Winkler erläutern, wann der Einsatz von KI im Bewerbungsverfahren und Stellenabbau rechtlich zulässig ist.
Dies ist der erste Beitrag einer 3-teiligen Serie zu wichtigen rechtlichen Aspekten der „Zusammenarbeit“ von KI und HR.
- Anzeige -
Künstliche Intelligenz („KI“) ist aufgrund der wachsenden Fortschritte aus der heutigen gesellschaftlichen Diskussion nicht mehr wegzudenken. KI zeichnet unter anderem aus, dass sie zunächst – wie jede Software – auf Algorithmen basiert und darüber hinaus die Fähigkeit besitzt, aus großen Datenmengen zu lernen und Muster zu erkennen. KI wird folglich künftig nicht nur für die Informationsbeschaffung, sondern auch für Auswahlprozesse eine immer wichtigere Rolle einnehmen.
Auch das Arbeitsverhältnis ist von Auswahlentscheidungen geprägt. Dies beginnt bereits bei der Bewerberauswahl und endet ggf. mit einer Sozialauswahl im Rahmen einer betriebsbedingten Kündigung des Arbeitsverhältnisses.
- Anzeige -
Grenzen für KI im Arbeitsverhältnis
Der Einsatz von KI im Arbeitsverhältnis bietet sowohl Chancen als auch erhebliche Risiken. Mithilfe von KI können große Datenmengen verarbeitet werden, wodurch Arbeitsprozesse unterstützt und effizienter gestaltet werden können. Auf der anderen Seite darf der Schutz der Persönlichkeitsrechte der Arbeitnehmer dabei nicht vernachlässigt werden.
Auswahlentscheidungen, die durch KI getroffen werden, sind daher aus verschiedenen rechtlichen Gründen enge Grenzen gesetzt. So können KI-basierten Auswahlentscheidungen beispielsweise diskriminierungsrechtliche Bedenken begegnen. KI wählt Personen regelmäßig dergestalt aus, dass sie diese aufgrund von einzelnen Merkmalen bestimmten Gruppen zuordnet. Dadurch besteht ein Risiko, dass diese Personen aufgrund gewisser Merkmale benachteiligt werden.
Datenschutz als Grenze
Eine wesentliche Grenze für KI stellt zudem das Datenschutzrecht dar, das den Persönlichkeitsschutz sichert. So enthält insbesondere Art. 22 DSGVO im Grundsatz ein Verbot von automatisierten Einzelentscheidungen. Nach dieser Vorschrift darf zu einer Person keine Entscheidung getroffen werden, die ausschließlich auf einer automatisierten Verarbeitung beruht und die der Person gegenüber eine rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Hintergrund von Art. 22 DSGVO ist der Gedanke, dass kein Mensch der alleinigen Entscheidung einer Maschine unterworfen werden darf.
Durch KI getroffene Auswahlentscheidungen sind daher nach Art. 22 DSGVO nur in eng begrenzten Ausnahmefällen zulässig. Diese werden jedoch im Rahmen einer Bewerberauswahl oder bei einer Entscheidung über betriebsbedingte Kündigungen kaum einschlägig sein. Eine automatisierte Entscheidung ist beispielsweise mit Einwilligung der betroffenen Person möglich. Eine solche Einwilligung und ihre Gestaltung unterliegen jedoch erheblichen Anforderungen. Regelmäßig wird sie daran scheitern, dass nicht von einer Freiwilligkeit der Einwilligung ausgegangen werden kann.
Darüber hinaus müsste der Arbeitgeber angemessene Maßnahmen treffen, um die Rechte und Freiheiten sowie die berechtigten Interessen der betroffenen Person zu wahren. Hierzu gehört mindestens, dass der betroffenen Person die Möglichkeit eingeräumt werden muss, die Entscheidung anzufechten beziehungsweise auf sie einzuwirken. Die Ausnahmetatbestände sind in der Praxis schwer umzusetzen. Des Weiteren dürfte gerade die Einholung einer Einwilligung im Zusammenhang mit einer Beendigung des Arbeitsverhältnisses wenig aussichtsreich sein.
Das datenschutzrechtliche Verbot von automatisierten Einzelentscheidungen ist in der Praxis nicht betroffen, sofern lediglich eine automatisierte Vorauswahl vorliegt. KI kann folglich im Rahmen von Auswahlentscheidungen unterstützen, indem sie eine Entscheidungsgrundlage für den letztentscheidungsbefugten Arbeitgeber trifft. Es ist jedoch in jedem Fall zu beachten, dass Art. 22 DSGVO allein eine Datenverarbeitung nicht rechtfertigen kann. Der Datenverarbeitungsvorgang an sich muss durch eine Erlaubnisnorm der DSGVO (zum Beispiel Art. 6 DSGVO) oder des BDSG (zum Beispiel § 26 BDSG) gerechtfertigt sein. Art. 22 DSGVO stellt sodann zusätzliche Voraussetzungen für automatisierte Datenverarbeitungen auf.
Praxisbeispiel: KI im Bewerbungsverfahren
Twenty20/@vegasworld
In der Praxis verspricht KI im Bewerbungsverfahren, beispielsweise durch die automatisierte Analyse von Bewerbungsunterlagen oder durch das Erstellen von Rankings, eine Erleichterung bei der Auswahlentscheidung.
Dabei ist jedoch zu beachten, dass ein vollautomatisiertes Recruitingverfahren ohne ein menschliches Eingreifen oder Kontrolle aufgrund von Art. 22 DSGVO und Erwägungsgrund 71 zur DSGVO nicht zulässig sein wird. Dies gilt jedenfalls dann, wenn Bewerber automatisch eine Absage vom Online-Bewerbungssystem erhalten, weil sie im automatisierten Ranking einen bestimmten Platz nicht erreichen.
Möglich ist dagegen beispielsweise der Einsatz von KI-Systemen, die Bewerbungsunterlagen analysieren und nach vorgegebenen Kriterien filtern. Maßgeblich ist, dass der Arbeitgeber selbst diese Entscheidungsgrundlage prüft und die Letztentscheidung darüber trifft, ob und welcher Bewerber in Betracht kommt.
Unabhängig davon ist auch der Einsatz von KI im Bewerbungsverfahren an die allgemeinen Grundsätze gebunden. So dürfen unter anderem Kriterien, die nicht vom Fragerecht des Arbeitgebers umfasst sind, nicht Bestandteil der Entscheidungsgrundlage für den Arbeitgeber werden. Die Datenschutzaufsichtsbehörden sehen den Einsatz von KI im Bewerbungsverfahren, insbesondere automatisierte Text- und Sprachanalysen, derzeit noch sehr kritisch. Arbeitgebern ist daher zu empfehlen, den Einsatz von KI im Bewerbungsverfahren vorab, insbesondere in datenschutzrechtlicher Hinsicht, sorgfältig zu prüfen.
Praxisbeispiel: Betriebsbedingte Kündigung und Sozialauswahl
Twenty20/@lindaze
Auch zum Ende eines Arbeitsverhältnisses, im Rahmen eines Personalabbaus, können Auswahlentscheidungen relevant werden. KI-Systeme können dem Arbeitgeber dabei die Durchführung einer Sozialauswahl erleichtern, indem sie unter anderem zur Unterstützung bei der Erstellung eines Punktesystems oder einer Altersgruppenbildung eingesetzt werden.
Eine vollautomatisierte Sozialauswahl, die die zu kündigenden Arbeitnehmer bestimmt, wird jedoch wiederum nicht möglich sein, da die Letztentscheidung vor dem Hintergrund von Art. 22 DSGVO und Erwägungsgrund 71 zur DSGVO beim Arbeitgeber verbleiben muss.
Eine „menschliche“ Kontrolle der Sozialauswahl liegt jedoch auch im Interesse des Arbeitgebers. So sollte arbeitgeberseitig beispielsweise sorgfältig geprüft werden, dass relevante Leistungsträger von der Sozialauswahl und dem Kreis der möglichen Kündigungen ausgenommen werden.
Künstliche Intelligenz: Wie Algorithmen werten sollten Unternehmen müssen Wertegerüste für eine gerechte, moralisch vertretbare KI-Nutzung errichten, sagt Katja Nagel, Global Organizational Integrity Institute. Mit der zunehmenden…
Einsatz von Künstlicher Intelligenz im… Haftungsfragen sind bei der Nutzung von Künstlicher Intelligenz im Arbeitsverhältnis vielfach ungeklärt, etwa im datenschutzrechtlichen Kontext. Arbeitsrechtler Philipp Byers und…
