KI-gestütztes Recruiting – technische Grundlagen, wirtschaftliche Chancen und Risiken sowie ethische und soziale Herausforderungen

Black und van Esch (2020) unterscheiden drei historische Entwicklungsstadien vom analogen bis hin zum heute verbreiteten KI-gestützten digitalen Recruiting. Traditionelles, analoges Recruting war bis Ende der 1990er-Jahre vorherrschend. Firmen publizierten Stellenausschreibungen vornehmlich in Zeitungen, wodurch die Reichweite stark beschränkt war. Da Anzeigen teuer waren, wurden Stellenausschreibungen kurz gehalten, sodass Anforderungsprofil und Angebot oft ungenau gerieten.

KI-Methoden werden heute in der Ansprache (Outreach) von potenziellen Kandidatinnen und Kandidaten, in der Vorauswahl (Screening) von eingegangenen Bewerbungen und in der Bewertung (Assessment) der vorausgewählten Bewerbungen eingesetzt. Darüber hinaus kann der Prozess der Abstimmung und Kommunikation (Coordination) mit Bewerbenden verbessert werden.

Warum sind KI-Methoden im Recruitingprozess nun so mächtig? Nach Poole und Mackworth (2010, S. 3) besteht ein KI-System aus intelligenten Computeragenten (Softwareagenten), die die Fähigkeit haben, ihre Umwelt wahrzunehmen, diese Wahrnehmungen mit Hilfe einer Wissensbasis und eines Datenanalysemoduls zu analysieren und dann mit einer „Handlung“ auf sie zu reagieren. Ziel ist es dabei, eine bestimmte vorgegebene Aufgabe mit den zur Verfügung stehenden Mitteln in einem iterativen Zyklus möglichst optimal zu erfüllen (s. Abb. 1a). Die Umwelt des Computeragenten kann dabei entweder eine Konzeptualisierung (eines Teils) der realen Welt sein oder eine rein virtuelle Welt.

Die virtuelle Umwelt des KI-Computeragenten im Recruitingprozess besteht z. B. aus den Benutzerprofilen von LinkedIn. Sein vorgegebenes Ziel könnte es sein, zur automatischen Unterstützung des Outreach-Prozesses die am besten passenden LinkedIn-Profile zu einem gegebenen Stellenprofil zu identifizieren. Um das Ziel zu erreichen, liest er alle Benutzerprofile ein, d. h. er „nimmt seine Umwelt wahr“. Mit seinem Datenanalysemodul untersucht er sie, vergleicht sie mit dem in seiner Wissensbasis abgelegten Stellenprofil und sortiert sie hinsichtlich ihrer Eignung. Die besten Ergebnisse übergibt er an den Screening-Prozess (virtuelle Handlung), was den Zustand seiner virtuellen Umwelt beeinflussen kann. Denn sollte eine von ihm vorgeschlagene Person tatsächlich angestellt werden, ändert diese ihr Profil auf LinkedIn.

Intelligente Agenten besitzen also ein relativ hohes Maß an Autonomie. Viele von ihnen haben die Fähigkeit, mit ihren Handlungen auf die reale Welt Einfluss zu nehmen, etwa indem eine Person auf Grund der Analyse ihres LinkedIn-Profils tatsächlich angestellt wird. Die Hauptkomponente des KI-Systems, die Datenanalyse, erlaubt intelligentes und flexibles Lösen komplexer Probleme in kurzer Zeit. Sie hat durch die starke Zunahme an Rechenkapazität und den dadurch ermöglichten stärkeren Einsatz maschinellen Lernens seit Beginn der 2000er-Jahre einen enormen Aufschwung erfahren. Das Zusammenspiel von schnellem, flexiblem Problemlösen und einem hohen Grad an Autonomie ermöglicht eine Unterstützung des Recruitingprozesses in einem vorher nicht dagewesenen Ausmaß.

Nach Paschen et al. (2020) können die Eingabedaten („Wahrnehmen“) sogenannte strukturierte Daten sein, wie Einträge in der Datenbank einer Recruitingsoftware, oder unstrukturierte Daten, wie Profilbeschreibungen auf LinkedIn oder aufgezeichnete Videointerviews (s. Abb. 1b). Die Verarbeitung („Analyse“) der Eingabedaten gliedert sich in Vorverarbeitung und Hauptverarbeitung.

Eine der wichtigsten Methoden des KI-gestützten Recruitings ist die KI-basierte Textanalyse. Diese geht über das simple Durchsuchen des Textes nach passenden Schlüsselwörtern und dessen Synonymen weit hinaus. Methoden des Natural Language Understanding (NLU) erlauben es bis zu einem gewissen Grad, Bedeutung aus textuellen Beschreibungen abzuleiten, d. h. den Text zu „verstehen“ und über die offensichtlichen Aussagen hinaus zu „interpretieren“. Hierfür bieten Softwarehersteller Programmierschnittstellen (APIs) oder fertige Services an.³

Mittels KI-basierter Textanalyse kann nicht nur der Inhalt eines Textes, sondern auch die Wortwahl oder der Satzbau analysiert werden, um Hinweise auf erfolgsrelevante Eigenschaften zu erhalten, sodass semantische und syntaktische Ebene betroffen sind. So ist eine exakte Formulierung komplexer Zusammenhänge bei Verwendung einschlägiger Sachbegriffe offenbar ein Indiz für langjährige Erfahrung auf einem Wissensgebiet.

Im Outreach-Prozess kann Textanalyse bei Kandidatenprofilen in Netzwerken wie LinkedIn genutzt werden. Im Screening-Prozess dient sie u. a. der Vorauswahl von relevanten Bewerbungsdossiers, im Assessment-Prozess der Erstellung von Persönlichkeits- und Kompetenzprofilen. Im Coordination-Prozess kann sie die Kommunikation mit Kandidaten erleichtern, indem etwa E‑Mails oder die Kommunikation mit Chatbots auf ihre Bedeutung hin analysiert werden. Insbesondere Chatbots sind auf ein gutes Verständnis von Text, Subtext, Kontext etc. angewiesen, um ein positives Erlebnis und einen sinnvollen Austausch zu ermöglichen.

Ein Chatbot bzw. Voicebot (Voice Assistant) ist ein Computeragent, welcher menschliche Kommunikation auf Basis von natürlichsprachlichem geschriebenem Text bzw. natürlichsprachlicher gesprochener Sprache nachahmt und somit intelligente und intuitive Mensch-Maschine-Kommunikation (engl. „human–computer interaction“, HCI) ermöglicht (Bendel 2019). Er interagiert also auf intelligente Weise mit seiner Umwelt (dem Menschen) und ist damit ein typisches Beispiel eines intelligenten Agenten, also eines bestimmten KI-Systems (s. Abb. 1).

Chatbots sind Dialogsysteme, die im Kern Methoden des NLP nutzen: das NLU, um geschriebene Sätze zu „verstehen“, eine Dialogsteuerung, um zu entscheiden, was als Nächstes im Kontext des aktuellen Dialogstatus zu tun ist, und die Response-Generation-Einheit, um den Inhalt der gefundenen Antwort mittels NLG in natürlicher Sprache zu vermitteln (Adamopoulou und Moussiades 2020). Während die meisten Chatbots bis anhin manuell eingepflegte Dialogregeln benutzen, nimmt die Verwendung von datengetriebenen Systemen stetig zu. Diese gleichen Benutzereingaben mit Beispieldaten aus großen Dialogkorpora auf Basis statistischer Methoden ab, um die am besten passende Antwort zu finden. Sie sind dadurch flexibler, müssen jedoch noch mit firmenspezifischen Informationen angereichert werden. Einige Chatbots lernen mittels Reinforcement Learning aus jeder Kommunikation, um Informationen zu sammeln und die Qualität der Antworten kontinuierlich zu verbessern.

Beispiele für Out-of-the-Box-Chatbotsysteme für Recruiting sind XOR (https://​www.​xor.​ai), Olivia von Paradox (https://​www.​paradox.​ai), Humanly (https://​humanly.​io) und Espressive (https://​www.​espressive.​com). Bekannte Beispiele für Voicebots sind Google Assistant (https://​assistant.​google.​com), Siri von Apple (https://​www.​apple.​com/​de/​siri/​) und Alexa von Amazon (https://​developer.​amazon.​com/​de-DE/​alexa) (Bendel 2021). Sie besitzen zwei zusätzliche Systemkomponenten: Automatic Speech Recognition (ASR), also die Umwandlung von Spracheingabe in geschriebenen Text, und die Umwandlung der generierten Textantwort zurück in synthetische gesprochene Sprache (Text-to-Speech).⁴

Chatbots und Voicebots spielen eine zentrale Rolle im Screening- und Coordination-Prozess, d. h. in der Vorauswahl und in der Kommunikation mit und Koordination von Bewerbern. Diese können Fragen an den Chatbot oder Voicebot richten, die bspw. den Bewerbungsprozess, das Unternehmen oder die ausgeschriebene Stelle betreffen. Chat- oder Voicebots können umgekehrt Anwendung finden, um Fragen an den Bewerber zu richten, etwa um fehlende Informationen im Bewerbungsdossier automatisiert zu ergänzen (Black und van Esch 2020). So können die Bewerbungserfahrungen der Kandidaten verbessert werden, da die Bots rund um die Uhr zur Verfügung stehen. Unklarheiten bzgl. des Bewerbungsprozesses und der Rahmenbedingungen der potenziellen Anstellung oder der aktuelle Status der Bewerbung können einfach und unkompliziert abgefragt werden.

Immer häufiger werden Videointerviews durchgeführt, ob synchron oder asynchron. Ein synchrones Videointerview läuft wie ein herkömmliches Interview ab. Die Interviewpartner sprechen in Echtzeit miteinander, wobei eine Software für Videokonferenzen wie Zoom oder Skype genutzt wird. Für die ausschreibende Firma bietet sich der Vorteil, dass die Interviews aufgezeichnet und mit KI-basierten Methoden analysiert werden können. Für den Kandidaten oder die Kandidatin eröffnet sich Ortsunabhängigkeit. Zeitaufwändige Reisen für ein Vorauswahlgespräch können so entfallen. In einem asynchronen Videointerview werden die Fragen innerhalb von Videosequenzen formuliert und dem Bewerber zugestellt. Dieser zeichnet seine Antworten wiederum als Videosequenzen auf. Hierbei ergibt sich für ihn neben der Ortsunabhängigkeit noch der Vorteil einer relativen Zeitunabhängigkeit. Die Firma kann eine große Zahl von Interviews effizient führen und automatisch analysieren lassen.

Bei der Videointerviewanalyse können nicht nur explizit besprochene Inhalte automatisiert untersucht werden, sondern auch Persönlichkeitsfaktoren wie Beharrlichkeit, Risikobereitschaft, Selbstsicherheit oder Gewissenhaftigkeit aus der Analyse des Antwortverhaltens eines Kandidaten oder einer Kandidatin automatisch abgeleitet und daraus Persönlichkeitsprofile gefertigt werden. Dazu werden neben dem eigentlichen Inhalt einer Antwort bspw. Wortwahl, Satzbau, Artikulation, Stimmlage, Sprechgeschwindigkeit, Gesichtsausdruck, Mimik und sogar Mikromimik analysiert.⁵

Für die Inhaltsanalyse wird das aufgezeichnete Videointerview automatisch in geschriebenen Text transkribiert. Dieser kann dann wie oben beschrieben auf relevante Eigenschaften des Kandidaten oder der Kandidatin hin ausgewertet werden. Für die Analyse von Artikulation, Stimmlage und Sprechgeschwindigkeit wird die Tonspur herangezogen. Dabei werden akustische Merkmale wie Frequenzspektrum genutzt und mit den Kandidateneigenschaften in Beziehung gesetzt. Für die Analyse von Gesichtsausdruck und (Mikro‑)Mimik verwendet man Verfahren der Bilderkennung. Spezialisierte Methoden, oft unter dem Schlagwort Affective Computing zusammengefasst, ermöglichen es, Emotionen und Stimmungen eines Kandidaten oder einer Kandidatin zu extrahieren. Hierbei kommen vornehmlich Deep Learning, Optic Flow Analysis, Hidden Markov Models oder Active-Appearance-Modelle zum Einsatz.

Um all diese Modelle und Methoden gebrauchen zu können, ist es nötig, sie mit Beispieldaten zu trainieren (überwachtes Lernen). So sammelt man für die Emotionsanalyse Beispiele für Gesichter, welche Ärger, Angst, Trauer, Überraschung, Freude etc. ausdrücken und entsprechend gekennzeichnet sind. Der Algorithmus lernt dann anhand dieser Beispiele neue Gesichter zu interpretieren, also solche, die das System noch nie „gesehen“ hat. Da für die Lernphase eine sehr große Menge von Beispieldaten benötigt werden, existieren sogenannte Emotionsdatenbanken, welche diese bereitstellen. Eine Softwarelösung für KI-basiertes Recruiting, die Videoemotionsanalyse anbietet, enthält bereits trainierte Modelle, welche „out of the box“ angewendet werden können.

Der Einsatz von KI-basierten Recruitingsystemen zieht Anschaffungs- bzw. Bereitstellungskosten nach sich. Man kauft entweder entweder eine Lösung ein oder bezieht einen Dienst über die Cloud (z. B. Software-as-a-Service). Es ergeben sich laufende Betriebs- und Wartungskosten. Dazu kommen Ausgaben für die Einarbeitung der HR-Mitarbeiter für die Software sowie – je nach eingekaufter Lösung und eingesetzten Modulen – Zusatzkosten zum initialen Anlegen und Pflegen einer firmenspezifischen Wissensbasis. Bspw. sind bei Chatbots im Coordination-Prozess relativ umfassende Informationen zu den „hard facts“ der Anstellungsbedingungen, des Unternehmens selbst und der ausgeschriebenen Position sinnvoll, um möglichst viele Fragen im Vorfeld abdecken zu können. Hierbei sind standardisierte Bewerbungsprozesse und Anstellungsbedingungen vorteilhaft. Beim Einsatz von Textanalyse im Outreach- oder Screening-Prozess hingegen müssen v. a. positionsspezifische Informationen zugreifbar sein, welche in relativ kurzer Zeit von der HR-Abteilung erfasst werden können. Anschaffungskosten und laufende Kosten sind nicht per se ein Nachteil, sondern müssen einfach einkalkuliert werden – und relativieren sich, wenn sich Einsparpotenziale ergeben.

Die stärkere Automatisierung des Recruitingverfahrens birgt Einsparpotenziale bei den Personalkosten, insbesondere in der Vorauswahl (im Screening) von Dossiers durch automatisierte Textanalyse und durch die Verkürzung oder Ersetzung von Vorgesprächen durch Chatbots im Coordination-Prozess. Bei Chatbots muss jedoch der Aufwand, eine entsprechende Wissensbasis anzulegen, mit dem eingesparten Kommunikationsaufwand abgewogen werden. Darüber hinaus können im Outreach- und Screening-Prozess ggf. Kosten für professionelle Headhunter eingespart werden. Spesen für Bewerbungsfahrten fallen zumindest am Anfang weg, was je nach Fall den Behörden, den Unternehmen oder den Bewerbern hilft.

Die Zeitspanne von Ansprache bis Einstellung (Time-to-Hire) kann durch KI-gestützte Recruitingverfahren drastisch reduziert werden. Dies erhöht die Effizienz des Einstellungsprozesses gegenüber manuellem oder digitalem Recruiting ohne KI-Unterstützung und senkt massiv Kosten, da offene Stellen schneller und agiler besetzt werden können. Während in Zeiten des analogen Recruitings meist nur wenige Bewerbungen auf eine ausgeschriebene Position entgegengenommen und bearbeitet werden mussten, generiert der Netzwerkeffekt im digitalen Recruiting oft eine wahre Flut, was zunächst ein Nachteil zu sein scheint. So erhielt Johnson & Johnson im Jahr 2017 rund eine Million Bewerbungen auf 28.000 Stellen (McIlvaine 2018). Insbesondere in Konzernen ist daher enormes Einsparungspotenzial durch KI-Systeme zu erwarten.

Noch wichtiger ist eine Senkung der Time-to-Hire in Branchen mit hoher Personalfluktuation. Hier ergibt sich neben Effizienzgewinn und Kostensenkung zusätzlich ein strategischer Vorteil im Wettbewerb um Humankapital. Eine Hotelkette beispielsweise befindet sich in vielen Fällen in einem permanenten Recruitingprozess. Eine qualifizierte Bewerberin, welche statt vier Wochen nur sieben Tage auf eine Zusage für eine vergleichbare Stelle warten muss, wird sich mit hoher Wahrscheinlichkeit für diejenige entscheiden, bei der eine schnellere Zusage eintrifft (Black und van Esch 2020).

Das automatische Screening von Netzwerkprofilen ermöglicht ein aktives Sourcing, d. h. das direkte Ansprechen und etwaige Abwerben von Experten, welche zum gegebenen Zeitpunkt nicht nach einer Anstellung suchen (Guinan et al. 2014). Dabei werden Profile in LinkedIn, XING, Ryze, Facebook oder Twitter automatisch nach bestimmten Kriterien intelligent durchsucht oder mittels automatisierter Textanalyse aufgeschlossen (Campbell et al. 2020).⁶ Einige Firmen gehen heute bereits so weit, auf Bewerbungsdossiers komplett zu verzichten und stattdessen die Netzwerkprofile der Kandidaten zu screenen. Aktives Sourcing hat mit der zentralen Rolle von Humankapital für den Wettbewerbsvorteil in vielen Branchen massiv an Bedeutung gewonnen.

Der in einer Firma vorhandene Pool aus ehemals abgelehnten Bewerbungen wird mit steigendem Wettbewerbsdruck ebenfalls mehr und mehr als wertvolle Ressource erkannt: Eine in der Vergangenheit abgelehnte Bewerberin für eine bestimmte Position in der Firma kann durchaus die perfekte Passung für eine andere ausgeschriebene Position sein. Über solche Personen liegen bereits detaillierte Informationen vor, bspw. in Form von Dossiers, Korrespondenzen oder aufgezeichneten Videointerviews, welche direkt unter den neuen Gesichtspunkten ausgewertet werden. Das manuelle oder schlüsselwortbasierte Screening dieses Pools gestaltete sich bisher schwierig, da Bewerbungen oft nicht zentral vorgehalten werden und daher schwer vergleichbar waren. Der jeweils betriebene Aufwand stand in keinem Verhältnis zum Ergebnis. Diese Hürde kann durch die Flexibilität KI-gestützter Methoden vielfach überbrückt werden. So können NLP-Verfahren oftmals auf (fast) beliebige Textformate angewendet werden, nachdem die entsprechenden Dossiers automatisiert zusammengeführt wurden.

KI kann Unternehmen auch dabei helfen, passendere Kandidaten gezielter anzusprechen, bspw. durch die zielgruppenspezifische Auswahl des Publikationskanals abhängig vom gewünschten Kandidatenprofil. Dabei platziert das System Stellenangebote auf Banner, auf Pop-ups, in E‑Mails oder in anderen Texten so, dass eine optimale Reaktion erzielt wird. Textio (https://​textio.​com/​products/​recruiting/​) nutzt KI-Verfahren, um die Wortwahl von Stellenanzeigen automatisch an die Eigenschaften der gesuchten Bewerber und an demografische Gegebenheiten anzupassen (McIlvaine 2018; Sharma 2018).

Im traditionellen Recruiting werden gemäß Testtheorie vornehmlich die Kriterien Objektivität, Reliabilität und Validität zur Beurteilung der Güte des Prozesses herangezogen, während das Kriterium der Akzeptanz durch die Bewerbenden häufig vernachlässigt wird. Eine positive Bewerbungserfahrung ist im Wettkampf um qualifizierte Mitarbeiter heute jedoch ein wichtiges Asset, da sich das Image einer Firma schnell über Mundpropaganda in sozialen Medien verbreitet. Bewerbende als Kunden zu behandeln, ist eine erfolgversprechende Strategie (Sharma 2018). Hier zeigt der Einsatz von KI-gestütztem Recruiting einen wesentlichen Vorteil: Eine Umfrage aus dem Jahr 2017 hat ergeben, dass ein wesentlicher Grund für eine negative Bewerbungserfahrung unzureichende Information bzw. Kommunikation während des Bewerbungsprozesses ist (Talent Board 2017) – ein Problem, welches bspw. mit Hilfe von Chatbots gemildert werden kann. Bewerbungen können darüber hinaus vereinfacht werden, indem statt eines ausgefüllten Formulars nur ein LinkedIn- oder XING-Profil angefragt wird. Das Bewerbungsformular kann dann automatisch vom KI-System ausgefüllt, eine fehlende Information vom Chatbot eingeholt werden. Solche und ähnliche Maßnahmen mögen dabei helfen, die Zufriedenheit der Bewerber mit dem Bewerbungsprozess massiv zu erhöhen.

Setzt ein Unternehmen KI-Systeme ein, die es nicht selbst entwickelt, macht es sich abhängig von anderen Unternehmen, was sich meist als deutlicher Nachteil erweist. Dies betrifft sowohl die Zurverfügungstellung des Systems als auch seiner Komponenten. Zudem macht man sich abhängig von erfolgenden oder nicht erfolgenden technischen Entwicklungen, nicht zuletzt mit Blick auf die Konkurrenz. Sind KI-Verfahren im Recruiting beispielsweise etabliert, kommt man nicht umhin, die neueste Technologie einzusetzen, schon aus Reputationsgründen. Den Herstellern selbst kann es wirtschaftlich helfen, dass die Bewerber ihre Software kennenlernen, zumindest wenn deren Name genannt wird und die Nutzung befriedigend ist. Es ist insgesamt eher die Ausnahme, dass Personen, die nicht oder noch nicht zu einem Unternehmen gehören, etwas über dessen technische Infrastruktur erfahren.

Der Einsatz von Chatbots und Voicebots (wie auch von Videointerviews) kann das persönliche Gespräch zwischen Einrichtungen und Bewerbern sowie den physischen Aufenthalt vor Ort ergänzen oder ersetzen, was ethische und soziale Aspekte hat. Wenn er es ersetzt, geht damit eine wichtige Komponente im Bewerbungsgespräch verloren. Im persönlichen Gespräch lernt der Bewerber nämlich einen oder mehrere Mitarbeiter kennen, erfährt damit indirekt oder direkt etwas über Kommunikation und Kultur im Unternehmen. Man hat die Möglichkeit, das Gegenüber jenseits der vorgesehenen Verläufe und Inhalte etwas zu fragen. Es ergibt sich ein erster Eindruck und im besten Falle eine erste Bindung. Dies alles ist auch ein Vorteil für das Unternehmen – es sollte Bewerber als Kunden behandeln im „war of talent“.

Wenn das Gespräch zwischen Mensch und Mensch durch eines zwischen Mensch und Maschine substituiert wird, kann dies dazu führen, dass die Qualität schwindet und die Akzeptanz leidet. „So kann es passieren, dass komplexere Fragen nicht oder falsch beantworten [!] werden, was zur Unzufriedenheit des Benutzers führen kann. Möglicherweise verliert das Unternehmen hierdurch schnell sein Image als moderner Arbeitgeber. Unklar ist auch, ob sich Bewerber diesen Systemen letztlich anvertrauen oder ob sie den Einsatz skeptisch betrachten und ihn sogar ablehnen“ (Mülder 2021). In diesem Sinne ist der Chatbot keine vollwertige und u. U. sogar unbefriedigende Lösung. Auch bei Videointerviews kann die Akzeptanz in Frage gestellt sein, insbesondere bei asynchronen, wo keine unmittelbare Interaktion und Kommunikation zwischen Menschen stattfindet.

Das Gespräch per Chatbot verläuft meist in einem eng gesteckten Rahmen – Small Talk wird zwar beherrscht, ist aber nicht im Vordergrund (wobei er dazu dienen kann, die Soft Skills abzufragen). Dies ist freilich im klassischen Bewerbungsgespräch nicht anders. Es tut sich die Chance auf, dass Persönliches, das nichts mit der Stelle zu tun hat, ausgeklammert wird. Man wird kaum einen Chatbot programmieren, der nach den Beziehungsverhältnissen und der Familienplanung fragt, und wenn doch, ist die Gefahr für das Unternehmen groß, dass dies an die Öffentlichkeit gelangt. Zudem kann der Dialog nicht nur vom Unternehmen, sondern auch vom Bewerber mitgeschnitten werden, was diesem eine gewisse Sicherheit bietet.

Es ist fraglich, ob es in moralischer Hinsicht zu vertreten ist, ein Gesicht einfach aufzunehmen und mit Hilfe von Technologien zu analysieren (Bendel 2018a). Die personenbezogenen Daten, so könnte man argumentieren, gehören der Person und dürfen nur unter speziellen und kontrollierten Bedingungen erhoben und verarbeitet werden. Kosinski und Wang (2017) haben auf den Eingriff in die Privatsphäre durch diese Form von Software aufmerksam gemacht.⁷ Bei der Analyse von Texten dürfte dieses Argument nicht gelten. Zumindest in unserem Kulturkreis gilt das Schriftliche nach seiner Weitergabe als etwas, was sich vom Urheber ablöst und beliebig untersucht werden darf. Es existiert das Urheberrecht, das die Verbreitung regelt, aber wohl kein moralisches Recht des Urhebers, vor Textanalyse geschützt zu sein. Allerdings könnte man argumentieren, dass hier persönliche und vertrauliche Dokumente vorliegen sowie Vertrauen missbraucht und Unwissen ausgenutzt wird.

Der Einsatz von Machine Learning inkl. Deep Learning wirft weitere Fragen auf. Der Bewerber wird zum Trainingspartner des Systems, ob er das möchte oder nicht. Zudem fließen seine Daten und Informationen ein und werden bei weiteren Gesprächen verwendet. Zwar wird man kaum auf vorherige Gesprächspartner schließen können, und auch das Urheberrecht dürfte kaum greifen – dennoch kann man das Auswerten der Dialoginhalte und des Kommunikationsverhaltens beanstanden. Zudem kann sich das System je nach vorangegangener Bewerberschaft in eine für den Bewerber positive oder negative Richtung entwickeln. Es „besteht die Gefahr, dass allein durch Erfahrungslernen aus vergangenen Daten falsche Schlussfolgerungen gezogen werden“ (Mülder 2021).

Ein heikler Punkt ist, dass Soft- und Hardware andere und noch mehr Eigenschaften zu finden scheinen als Menschen und – dies berührt soziale und ethische Aspekte – eine gewisse Mächtigkeit besitzen. Sie scheinen herauszulesen, was wir überlesen, zu sehen, was wir übersehen, zu hören, was wir überhören. Dies lässt sich etwa bei der Bestimmung von Alter und Geschlecht feststellen. Wir lassen uns von Kleidung und Frisur sowie Habitus beeinflussen, während das Gesichtserkennungssystem sich eben auf das Gesicht konzentriert (Bendel 2018a). Wenn das System einer Frau ins Gesicht sagt, dass sie ein Mann ist (oder umgekehrt), wird sie (oder ihn) das nicht immer erfreuen. Bei der Bewerbung könnte dies durchaus eine Rolle spielen, etwa wenn das Unternehmen weibliche oder männliche Erscheinungsformen wünscht – in Gastronomie und Hotellerie sowie im Unterhaltungsgewerbe nicht unüblich. Im klassischen Bewerbungsgespräch wird diese Auswahl ebenso vorgenommen, doch womöglich weniger streng.

In der ethischen und rechtlichen Diskussion von KI-Systemen ist oft von Vorurteilen oder Verzerrungen die Rede, von einem Bias. Meist handelt es sich um etwas, was unbewusst von Entwicklern ins System gegossen oder durch Big Data bzw. Machine Learning dort hinein gekommen ist. Der Bias kann z. B. das Geschlecht oder die Ethnie betreffen. Es werden falsche Annahmen getroffen und falsche Schlussfolgerungen gezogen, und zuweilen sind Unzulänglichkeiten bei der Analyse vorhanden. So sind Gesichts- und damit verbundene Emotionserkennungssysteme vor allem bei weißen Personen mehr oder weniger verlässlich, was zum einen an den Trainingsdaten liegt, zum anderen daran, dass weiße Gesichter von den verwendeten Technologien besser erkundet werden können als z. B. schwarze (Fernández und Fernández 2019).

Amazon entwickelte einen Chatbot, der ein Ranking für eingehende Bewerbungen generieren sollte, „mit dem Ziel, den Personalauswahlprozess zu optimieren“ (Mülder 2021). „Ein Jahr nach Inbetriebnahme stellte sich heraus, dass der Bot diskriminierend funktionierte und weibliche Bewerberinnen [!] beziehungsweise Bewerbungen mit dem Wort ‚Women‘ schlechter einstufte als männliche Bewerber. Der Grund hierfür lag in den Datensätzen, mit denen trainiert wurde […]“ (Mülder 2021) – ein Problem, das bereits oben angesprochen wurde. Basis waren Bewerbungen der vorangegangenen zehn Jahre, die mehrheitlich von männlichen Kandidaten stammten.

Im Prinzip können Vorurteile und Verzerrungen allerdings ebenso zurückgedrängt werden. Je nach Konzeption und Evolution der Systeme mögen sie objektiver sein als menschliche Recruiter und Interviewpartner. Sie können von Sympathie und Antipathie abstrahieren und weitere persönliche Gesichtspunkte außer Acht lassen. In dieser Richtung wollen Ethics by Design und Responsible AI wirken (Bendel 2021). Man vermeidet auf der Entwicklungsseite von Anfang an einen Bias im System oder erkennt einen solchen und beseitigt ihn dann oder gleicht ihn aus. Dabei helfen ethische Leitlinien, flankiert von Ethikkommissionen und -räten. Aus rechtlicher Sicht manifestieren sich Diskriminierungsaspekte, sodass das Antidiskriminierungsrecht greift (Imping 2021).

Manche KI-Systeme, unter welchen Bedingungen und mit welchen Methoden auch immer, nehmen falsche Kategorisierungen vor, machen – wie bereits angedeutet – falsche Aussagen und Vorhersagen bzw. liefern Fehlinformationen und Fehlschlüsse. Diese können im vorliegenden Kontext zu Nachteilen für den Bewerber oder die Bewerberin führen, aber auch zu Vorteilen, was ethische, soziale und rechtliche Herausforderungen aufwirft. Beide Möglichkeiten sind problematisch, da eine Ungerechtigkeit zwischen Bewerbern erzeugt wird. Sie fördern zudem das Misstrauen gegenüber Systemen und Unternehmen.

Sind die Tools danach ausgelegt, eine Vorauswahl zu treffen, können Fehlschlüsse kaum korrigiert werden, wenn man erst gar nicht eingeladen und angehört wird. In diesem Sinne ist die Gefahr groß, dass sich ein fehlerhaftes System erhält und dem Unternehmen letztlich die geeigneten Kandidaten fehlen und es im „war of talents“ verliert. Es tauchen erneut Nachteile für Bewerber auf, wenn diese abgewiesen, und Vorteile, wenn sie durchgeschleust werden, was wiederum in Nachteile für das Unternehmen und seine Mitarbeiter münden kann.

Besonders heikel ist die Profilbildung, wenn sie bereits in jungen Jahren startet. Microsoft und Co. drängen seit vielen Jahren mit umstrittenen Mitteln und Allianzen in den Schulbereich (Bendel 2012). Sie haben zu Kindern und Jugendlichen, die die Produkte nutzen (müssen), umfassende Erkenntnisse. Diese könnten im Prinzip die Karriere im Guten wie im Schlechten beeinflussen. Während jedoch die Lehrkraft i. d. R. um die Gesamtsituation weiß und z. B. eine darauf abgestimmte Empfehlung für eine weiterführende Schule oder eine erste Ausbildung geben kann, ist dies dem System kaum möglich.

Ein weiteres Problem, das in der Informationsethik diskutiert wird, ist das Ungleichgewicht zwischen Betreiber und Benutzer, das sich auf verschiedenen Ebenen ausdrückt (Bendel 2012). Dieser verfügt nicht über die Technik des Betreibers, kennt die Reichweite und Funktionsweise nicht im Detail – etwa mit Blick auf Textanalyse – und ist sich unsicher, wie er sich darauf einstellen kann und soll. Er weiß nicht, an wen die Daten weitergereicht und vom wem sie eingesehen und ausgewertet werden. In vielen Fällen sind lediglich oberflächliche Informationen vorhanden. Als Betroffener ist man meist unterinformiert und wehrlos. Man kann sich allenfalls pauschal vorbereiten und versuchen, die Sprache des Unternehmens zu sprechen (CIO News 2021).

Das Ungleichgewicht kommt besonders dann zum Tragen, wenn eine missbräuchliche Verwendung innerhalb der Mitarbeiterschaft stattfindet. Dazu laden insbesondere Bilder ein. Sie können auf Plattformen gepostet oder mit Deep-Fake-Apps manipuliert werden. Emotionserkennung sowie Geschlechts- und Alterserkennung laden zu weiterem Missbrauch ein. Manche Systeme versprechen auch die Identifizierung individueller Haltungen und kulturellen Verhaltens durch E‑Assessments sowie der politischen Gesinnung, der sexuellen Ausrichtung oder der kriminellen Energie durch Gesichtserkennung, ganz im Sinne traditioneller Physiognomik (Bendel 2019) und moderner Pseudowissenschaft.

Noch in anderer Hinsicht werden Unterschiede sichtbar. Die Nutzung von KI-Systemen kann im Moment, wie ausgeführt, mit hohen Anfangskosten verbunden sein. Nur bestimmte Unternehmen und letztlich nur bestimmte Länder sind in der Lage, ihre Bewerbungsprozesse damit effizienter und zumindest auf längere Sicht – dies ist nicht zuletzt von der Unternehmensgröße abhängig – effektiver zu gestalten. Damit entstehen anderen Unternehmen und Ländern allenfalls Nachteile, womöglich aber auch Vorteile, wenn sich ein menschengesteuertes Recruiting als effektiver (wenngleich weniger effizient) erweist.