Gehypt! Gescholten! Der Einsatz von KI im Recruiting

Was Unternehmen beim Einsatz von KI im Recruiting beachten sollten, erklärt Zukunftsforscher und Politikberater Robert Peters in einem Grundsatzbeitrag.

Es ist eines der umstrittensten Themen in der öffentlichen Debatte um Künstliche Intelligenz: Der Einsatz von KI im Recruiting. Während aus Wissenschaft und Zivilgesellschaft bereits seit Jahren lautstark gewarnt wird, fließen auch in Europa Millionensummen an Risikokapital in KI-Start-ups, die mit weitreichenden Leistungsversprechen in Aussicht stellen, Recruiting-Prozesse effizienter und fairer zu machen. Das Problem: Die teils erbittert geführte Debatte zwischen Systemanbietenden und Kritikerinnen / Kritikern dieser Technologie überdeckt die tatsächlichen Herausforderungen für Unternehmen, die KI im Recruiting einsetzen möchten: Sie kaufen häufig die Katze im Sack!

Personalauswahlentscheidungen sind von höchst subjektiven Faktoren beeinflusst

In einer polarisierten Debatte macht es Sinn von dem auszugehen, worüber Einigkeit besteht: Personalauswahlentscheidungen sind von höchst subjektiven Faktoren beeinflusst. Bewusste und unbewusste Vorprägungen, Biases, denen wir alle unterliegen, haben dazu geführt, dass in den meisten Unternehmen und Behörden Teams zu homogen, zu weiß, zu männlich und zu binär sind.

- Anzeige -

Das ist ein Problem! Nicht nur für eine offene und demokratische Gesellschaft. Denn, diverse Teams sind auch in Sachen Performance ein Vorteil. Immer mehr Unternehmen werden sich dessen bewusst. Genau diesen offenkundigen Bedarf adressiert ein wachsender Markt von Software-Firmen, die so etwas versprechen wie die „Eierlegende-Wollmilchsau“: Recruiting Software, die Personalauswahlentscheidungen nicht nur effizienter, sondern gleich auch fairer macht.

Kritische Debatte in Deutschland wird an Fahrt gewinnen

Nach dieser Problemanalyse endet der „Common Ground“ zwischen Wirtschaft, Wissenschaft und Zivilgesellschaft. HireVue und andere große Player auf dem Markt kommen vor allem aus den USA. Sie haben einen Teil der kritischen Debatte bereits hinter sich, die viele Start-ups und Software-KMU in Deutschland noch vor sich haben dürften. HireVue steht bereits seit Jahren massiv in der Kritik. Führende Expertinnen / Experten fordern gar ein Verbot von Gesichtserkennungstechnologien.

Softwareunternehmen geben an, über die Auswertung von Videointerviews mittels Gesichtsanalyse Emotionen und Persönlichkeitsmerkmale von Bewerbenden analysieren zu können. Aus Wissenschaft und Zivilgesellschaft werden Zweifel angemeldet. Es gibt erste vorsichtige Anzeichen, dass die Branche in den USA beginnt, das Risiko eines Vertrauensschadens ernst zu nehmen. Mittlerweile verzichtet HireVue darauf visuelle Daten, zum Beispiel vom Gesicht der Bewerbenden in seine Analysen einzubeziehen. Insgesamt ist die Debatte in den USA stärker vorangeschritten als in Deutschland: Grund dafür dürfte vor allem sein, dass die Nutzung entsprechender Technologien dort weiter fortgeschritten ist. Doch auch in Deutschland verschärft sich die Diskussion über den Einsatz von KI in der Personalauswahl.

Mit Brille wirkt die Test-Bewerberin plötzlich weniger ‚gewissenhaft‘

Einen ersten Vorgeschmack davon bekam Anfang 2021 das Münchener Start-up Retorio, das ein System zur Persönlichkeitsanalyse einsetzt. Der Bayerische Rundfunk berichtete über einen von Journalistinnen / Journalisten durchgeführten Versuch mit dem System der Münchener: Man ließ dieselben Personen mehrfach das gleiche Gespräch mit der Analysesoftware führen und tauschte dabei Kleidung, Frisuren und Accessoires sowie Bildhintergründe aus.

Auf Grundlage dieses Versuchs kommen die Journalistinnen / Journalisten zu einem ernüchternden Ergebnis: „Mit Brille wirkt die Test-Bewerberin plötzlich weniger ‚gewissenhaft‘ als ohne, ihr Konkurrent erscheint vor einem Bücherregal sitzend ‚verträglicher‘ als vor einer weißen Wand.“ Ist KI am Ende genauso wenig objektiv wie der Mensch? Eine führende KI-Expertin in Deutschland, Katharina Zweig, formuliert es im SPIEGEL so: „Dass die KI den Bewerbungsprozess diskriminierungsfreier macht, ist im Grunde nicht mehr als eine plakative Werbung, mit der solche Systeme verkauft werden.“

Mangelnde technologische Reife gibt Anlass zur Kritik

Während andere KI-Anwendungsszenarien im Recruiting, zum Beispiel im Zusammenhang mit Active Sourcing oder CV-Parsing weniger im Fokus der Debatte stehen, entfachen vor allem Chatbots beziehungsweise sogenannte Conversational AI und damit verbundene Stimm- und Videoanalysen Kritik. Der Grund: Die heute bereits zum Einsatz kommenden Technologien haben noch gar nicht die technologische Reife, um ihren eigentlichen Zweck nachvollziehbar zu erfüllen. Studien zeigen, dass bei Video-Interviews angewendete Gesichtserkennungssysteme Gesichter von Männern sowie von Menschen mit heller Hautfarbe zuverlässiger erkennen als Gesichter von Frauen und von Menschen mit dunkler Hautfarbe.

Hinzu kommt: Die meisten Systemanbietenden preisen ihre jeweilige Software an, indem sie auf eine fundierte wissenschaftliche Grundlage verweisen. Zum Beweis werden ausgewählte Publikationen referenziert. Was solide aussieht, ist es häufig nicht. So zeigt etwa eine Meta-Studie zu gesichtsanalyse-basierter Emotionserkennung, dass aktuelle KI-Systeme zur Emotionserkennung auf wissenschaftlichen Fehlannahmen beruhen. Sogar technisch einwandfrei funktionierende Systeme haben das Problem, dass sie von falschen Annahmen über die Repräsentation von Emotionen im menschlichen Gesicht ausgehen.  Ähnliche Herausforderungen stellen sich auch bei Systemen, die mit Spracherkennung arbeiten.

Ergebnisse von KI-basierten Analysen nicht vollständig nachvollziehbar

Ein strukturelles Problem für die Branche ist zudem die mangelnde Erklärbarkeit der Ergebnisse von KI-basierten Analysen. Insbesondere bei komplexen selbstlernenden Systemen können Softwareanbietende in der Regel selbst nicht vollständig nachvollziehen, welche Informationen etwa bei einer Gesichtsanalyse im Einzelnen zu einem bestimmten Ergebnis führen. Das heißt: Ob äußerliche Merkmale der interviewten Kandidatinnen / Kandidaten oder ein Merkmal im Bildhintergrund zu einer bestimmten Aussage führen, bleibt unklar. Theoretisch könnte eine solche Nachvollziehbarkeit erreicht werden. Die Aufwände sind jedoch insbesondere für kleine Systemanbietenden kaum zu leisten.

Das führt dazu, dass Systeme auf den Markt kommen, die für die anbietenden Softwareunternehmen selbst eine Blackbox darstellen. Zum Vergleich: Das ist in etwa so, als wenn ein Hersteller von Abfüllanlagen seine neueste Erfindung an eine Brauerei verkaufen möchte und dabei nicht erklären kann, wie das Bier in die Flasche kommt. Er zeigt der Brauerei jedoch eine Studie in der nachgewiesen wird, dass es theoretisch eine gute Idee ist, nicht von Hand, sondern maschinell abzufüllen.

Erschwerend kommt hinzu: Entscheidend für die Güte eines KI-Systems ist auch die Qualität der Trainingsdaten. Wenn das Datenset nicht repräsentativ für die Gruppe von Personen ist, auf die das KI-System angewendet werden soll, kommt es zu Verzerrungen und diskriminierende Muster können skaliert werden. Entscheidend sind daher die Größe und die Qualität der Datensets. Auch das ist für viele Systemanbietende eine Frage des Geldes.

KI im Recruiting: Handlungsoptionen für Unternehmen

Unternehmen, die ihre Einstellungsprozesse fairer und effizienter, ihre Teams diverser machen und die Candidate Experience verbessern wollen, stellt dies vor eine grundsätzliche Herausforderung: Welches System hilft mir tatsächlich dabei, meinen Zielen näher zu kommen? Auf welche KI kann ich mich tatsächlich verlassen?

• Bedarf konkretisieren und Notwendigkeit des Technologieeinsatzes prüfen

  Wenn für Sie bereits feststeht, dass Sie KI-basierte Systeme in der Personalauswahl einsetzen wollen, haben Sie wahrscheinlich schon den zweiten Schritt vor dem ersten gemacht. Stellen Sie sicher, dass Sie zunächst definieren, welche Ziele Sie bei der Verbesserung ihrer Personalauswahlprozesse eigentlich erreichen wollen. Ermitteln Sie dann, welche Möglichkeiten Ihnen dabei zur Verfügung stehen. KI-Systeme für die Personalauswahl sind keine Plug-and-Play-Lösungen. Sie werden in der Regel mit dem Softwareunternehmen an Ihre Bedürfnisse angepasst.

  Üblicherweise müssen dazu Ihre etablierten Prozesse überarbeitet und an die Anforderungen des jeweiligen KI-Systems angepasst werden, zum Beispiel indem die Erstellung von Anforderungsprofilen für Kandidatinnen / Kandidaten überarbeitet wird. Für viele – vor allem kleine und mittlere Unternehmen – bedeutet bereits dieser Schritt eine echte Professionalisierung ihres Recruitings. Bewerten Sie vor diesem Hintergrund: Braucht es tatsächlich eine neue Technologie? Oder Brauchen Sie eigentlich (nur) externes Know-how und Beratung?

• Kennen Sie die Stärken von KI!

  Das größte Potenzial entfalten KI-Systeme dann, wenn sie auf eine Vielzahl von Fällen angewendet werden können. Das heißt: Je mehr Stellen Sie regelmäßig zu besetzen haben und je mehr Bewerbungen Sie pro Stelle erhalten, desto eher könnte sich der Einsatz von KI-basierter Software lohnen. Im Umkehrschluss bedeutet das: In Zeiten eines großen Fachkräftemangels dürften sich nur für wenige Unternehmen KI-Systeme in der Personalauswahl voll auszahlen.

• Kritisch bleiben!

  Die Kritik an KI-Systemen für die Personalauswahl aus Wissenschaft und Zivilgesellschaft wirkt auf viele Unternehmen alarmistisch. Grade hierzulande, wo der Nachholbedarf in Sachen Digitalisierung so allgegenwärtig ist, wird Kritik schnell als innovationsfeindlich wahrgenommen. Tatsächlich können Sie die Kritik aus Wissenschaft und Zivilgesellschaft für sich nutzen, um die Leistungsversprechen von Systemanbietenden zu hinterfragen.

  Nutzen Sie für Ihr Unternehmen den Umstand, dass zivilgesellschaftliche Organisationen sich kritisch mit Anwendungen, zum Beispiel im Recruiting beschäftigen. Nutzen Sie Angebote wie Leitfäden und Gestaltungsansätze, die Akteure aus Wissenschaft und Zivilgesellschaft für den Einsatz von KI in Unternehmen entwickeln. Hier finden Sie Anregungen und Unterstützung für die Implementierung konstruktiver Technologieentwicklungs- und Einführungsprozesse.

• Kompetenzen aufbauen und externes Know-how heranziehen!

  Die Leistungsversprechen vieler Systemanbietenden sind wohlklingend und vielversprechend. Bevor Sie jedoch für sensible Bereiche wie die Personalauswahl KI-Systeme einführen, sollten Sie sicher sein, dass Sie in der Lage sind, die richtigen Fragen zu stellen. Für viele Unternehmen stellt genau das die zentrale Herausforderung dar. Bauen Sie dazu rechtzeitig intern Kompetenzen auf, damit Entscheiderinnen / Entscheider im Personalwesen dazu befähigt werden.

  Wenn Sie selbst und Ihr Team nicht wissen, woran Sie erkennen, ob ein KI-System das hält, was der Anbieter verspricht (zum Beispiel welche Anforderungen an die Trainingsdaten zu stellen sind), dann nutzen Sie externes, unabhängiges Know-how. Insbesondere in der universitären Forschung finden Sie geeignete Expertinnen und Experten, die Ihnen dabei helfen können, KI-Systemanbietenden die richtigen Fragen zu stellen!

Photos: ©Envato/Olivier_Le_Moal / ©Twenty20/@alesha_macarosha / ©Twenty20/@thanmano / ©Envato/Pressmaster

Robert Peters

Robert Peters leitet als Zukunftsforscher und Politikberater am Institut für Innovation und Technik (iit) Analyse- und Beratungsprojekte für Kundinnen und Kunden aus dem öffentlichen und privaten Sektor. Für das Bundesministerium für Arbeit und Soziales (BMAS) koordiniert er den Fachdialog „Mensch-Technik-Interaktion – Arbeiten mit Künstlicher Intelligenz“. Für das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag beschäftigte er sich u.a. mit dem Einsatz von KI-Systemen im Recruiting.

This author does not have any more posts.