Ein Stellenbewerber hat Workday in den USA wegen Diskriminierung verklagt. Aus Gerichtsdokumenten geht hervor, dass der Bewerber seit 2018 für mehr als 80 Stellen bei Unternehmen abgelehnt wurde, die Workday als Tool zur Einstellungsprüfung nutzen. In dieser Serie tauchen wir in die wundersame Welt der KI, der Personalbeschaffung und der Regulierung ein.
Regulierung der künstlichen Intelligenz
Der Einsatz von Künstlicher Intelligenz bei der Personalbeschaffung und -einstellung hat in den USA und in Europa zu einer Flut von neuen Gesetzen und Vorschriften geführt. Im April 2021 schlug die Europäische Union eine Kombination aus dem allerersten rechtlichen Rahmen für KI und einem koordinierten Plan vor, der die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert. „Indem wir die Standards setzen, können wir den Weg zu einer ethischen Technologie weltweit ebnen und sicherstellen, dass die EU auf diesem Weg wettbewerbsfähig bleibt“, sagte Margrethe Vestager, Vizepräsidentin der Kommission für ein Europa, das fit für das digitale Zeitalter ist.
„Indem wir Standards setzen, können wir den Weg zu ethischer Technologie weltweit ebnen und sicherstellen, dass die EU auf diesem Weg wettbewerbsfähig bleibt.“
Die USA scheinen derweil einen Schritt voraus zu sein. Im Jahr 2020 wird Illinois der erste Bundesstaat sein, der den zunehmenden Einsatz von künstlicher Intelligenz in der Einstellungspraxis regelt. Der Illinois Artificial Intelligence Video Interview Act (AIVI) geht gegen den Einsatz von KI in Videointerviews vor, um festzustellen, ob der Bewerber die Merkmale „erfolgreicher“ Kandidaten aufweist, und kann Einstellungsempfehlungen geben.
Muster der Diskriminierung?
Wo Gesetze gemacht werden, folgen meist auch Klagen. Jetzt wurde in den USA die erste Sammelklage gegen Workday eingereicht. Derek Mobley, ein über 40-jähriger Mann mit einem Bachelor-Abschluss in Finanzwesen und einem Associate Degree in Network Systems Administration, will gegen „systemische Diskriminierung“ vorgehen. „Indem er eine gruppenweite Entlastung gegen Workday anstrebt, weil das Unternehmen diskriminierende Screening-Produkte als Teil seiner Beschäftigungspolitik und -verfahren verwaltet und verbreitet, die ein Muster und eine Praxis der Diskriminierung aufgrund von Rasse, Alter und Behinderung bei der Auswahl darstellen.“
In der Klage, die in Gerichtsdokumenten veröffentlicht wurde, argumentiert Mobley, dass er sich auf mindestens 80 offene Stellen beworben hat, die Workday als Auswahlinstrument nutzen, „und jedes Mal abgelehnt wurde“. Mobleys Klage stützt sich auf drei verschiedene Punkte. Er behauptet, dass er aufgrund seiner Rasse diskriminiert wurde, was einen Verstoß gegen das Bürgerrechtsgesetz von 1964 darstellen würde. Er behauptet, dass die Screening-Tools von Workday eine Diskriminierung aufgrund einer Behinderung darstellen, was einen Verstoß gegen den ADA Amendments Act von 2008 darstellen würde. Und schließlich aufgrund des Alters, was einen Verstoß gegen den Age Discrimination in Employment Act von 1967 darstellen würde.
Schwierig zu beweisen
Mobley ist nicht der erste – und wird auch nicht der letzte – sein, der eine solche Klage anstrengt. Aber wenn man sich die Rechtsprechung anschaut, wird er große Schwierigkeiten haben, Erfolg zu haben. Ausgehend vom ADA-Gesetz hat die Psychiatrieforschung bis 2019 26 Fälle ermittelt, in denen das Gesetz angewandt wurde. Von diesen 26 Fällen haben die unteren Gerichte 25 Mal zugunsten des Arbeitgebers entschieden. Auch Altersdiskriminierung wird schwer zu beweisen sein, wie andere Untersuchungen zeigen.
Laut Bloomberg Law lag die Erfolgsquote solcher Fälle bei den englischen und walisischen Arbeitsgerichten im Jahr 2021 bei etwa 2%.
In den USA wurden 2021 etwa 13.000 Klagen nach dem ADEA eingereicht, aber Rechtsexperten sagen, dass die Zahl der Klagen nur einen Bruchteil der tatsächlichen Vorfälle ausmacht, da sie die Fälle, die nach den Gesetzen der Bundesstaaten eingereicht wurden, nicht einschließt. Fälle von Altersdiskriminierung machen etwa 21 % der Klagen aus, die jedes Jahr bei der Equal Employment Opportunity Commission, der Bundesbehörde zur Durchsetzung des Arbeitsrechts, eingereicht werden. Während US-Statistiken schwer zu bekommen sind, lag die Erfolgsquote solcher Fälle bei den englischen und walisischen Arbeitsgerichten laut Bloomberg Law im Jahr 2021 bei etwa 2%.
‚KI ist letztlich ein Spiegel‘
Der Einsatz von Künstlicher Intelligenz in der Einstellungspraxis wird immer mehr zu einem globalen Thema. In einem Video, das auf YouTube mehr als 7 Millionen Mal aufgerufen wurde, spricht Talkmaster John Oliver den gesamten Bereich der KI an. Ein großer Teil des Beitrages befasst sich jedoch mit der Art und Weise, wie sie bei der Personalbeschaffung eingesetzt wird. „Eines der wichtigsten Dinge, die wir tun müssen, ist, das Blackbox-Problem anzugehen“, sagte Oliver. „Auch wenn die Unternehmen zögern, müssen wir sie dazu zwingen“.
„Wie jedes glänzende neue Spielzeug ist auch die KI letztlich ein Spiegel. Und sie wird uns genau das zurückspiegeln, was wir sind.“
Oliver verweist auf die bevorstehende europäische Gesetzgebung, die viel härter gegen Künstliche Intelligenz vorgehen würde, als es die amerikanischen Gesetze bisher getan haben. „KI würde einer strengen Regulierung unterliegen, bevor sie auf den Markt kommt. Das scheint ein guter Anfang zu sein. KI hat ein enormes Potenzial und könnte Großes bewirken. Aber wenn es so ist wie bei den meisten technologischen Fortschritten. Wenn wir nicht sehr vorsichtig sind, könnte sie den Unterprivilegierten schaden. Die Mächtigen bereichern und die Kluft zwischen ihnen vergrößern. Wie jedes glänzende neue Spielzeug ist auch die KI letztlich ein Spiegel. Und sie wird uns genau das zurückspiegeln, was wir sind.
Möchtest du mehr über KI in der Personalbeschaffung erfahren?
KI ist in der Personalbeschaffung allgegenwärtig, aber wie wird sie genau eingesetzt? In der neuen Podcast-Serie „KI in der Personalbeschaffung“ erforschen die Co-Moderatoren Martijn Hemminga und Jasper Spanjaart die sich schnell entwickelnde Welt der künstlichen Intelligenz (KI) in der Personalbeschaffung.
