Voreingenommenheit bei Personalentscheidungen mit KI verhindern

© opolja – stock.adobe.com

Mehr als ein Dutzend der weltweit führenden Arbeitgeber haben heute bekannt gegeben, dass sie verschiedene Kriterien einführen, um Daten- und algorithmische Voreingenommenheit bei Belegschafts- und Personalentscheidungen zu mindern, unter anderem bei der Rekrutierung, der Vergütung und der Mitarbeiterentwicklung.

Die Unternehmen sind Mitglieder der neu gegründeten Data & Trust Alliance, einer Organisation, in der sich führende Institutionen zusammengeschlossen haben, um verantwortungsvolle Daten- und KI-Verfahren zu lernen, zu entwickeln und anzuwenden.

Die Mitglieder der Vereinigung vertreten die gemeinsame Überzeugung, dass Daten und intelligente Systeme für die Schaffung von wirtschaftlichem und gesellschaftlichem Wert in Zukunft entscheidend sind, aber verantwortungsvoll eingesetzt werden müssen. Die heutige Ankündigung ist die erste Initiative der Alliance. Doug McMillon, Präsident und Chief Executive Officer von Walmart und derzeitiger Vorsitzender von Business Roundtable, erklärte:

Im Zuge des Übergangs von ‚digitalen Unternehmen‘ zu ‚Datenunternehmen‘ ist es unerlässlich, den Wert von Daten und KI auf eine Weise zu erschließen, die bei allen Beteiligten für Vertrauen sorgt. Wenn sie verantwortungsbewusst entwickelt und eingesetzt werden, können diese Systeme unsere Belegschaften vielfältiger, inklusiver und letztlich innovativer machen.

Die Alliance schützt Mitarbeiter vor algorithmischer Voreingenommenheit

Die Mitglieder der Alliance nutzen zunehmend Daten, Algorithmen und KI, um Bewerber aus größeren und vielfältigeren Kandidatenpools auszuwählen, die richtigen Fachkräfte besser auf die richtigen Stellenangebote abzustimmen und die Erfahrung jedes Mitarbeiters zu personalisieren.

Wie die meisten Arbeitgeber verlassen sie sich dabei auf Softwareanbieter, professionelle Netzwerkstandorte, Berater und Recruiting-Unternehmen, die zunehmend KI und maschinelles Lernen in ihren Produkten und Dienstleistungen einsetzen. Beim Einsatz dieser neuen Technologien ist den Mitgliedsunternehmen aufgefallen, dass potenzielle unfaire Voreingenommenheit eines der größten Risiken ist, das mit der Nutzung solcher Technologien zur Verbesserung des Personalmanagements verbunden ist.

Erste Initiative: „Algorithmic Safety: Mitigating Bias in Workforce Decisions“

Aus diesem Grund hat die Alliance ihre erste Initiative, „Algorithmic Safety: Mitigating Bias in Workforce Decisions“ (zu deutsch: „Algorithmische Sicherheit: Abschwächung von Voreingenommenheit bei Personalentscheidungen“) ins Leben gerufen. Diese soll die Unternehmen dabei unterstützen, die einzelnen Anbieter hinsichtlich ihrer Fähigkeit zu bewerten, algorithmische Voreingenommenheit zu erkennen, zu reduzieren und zu überwachen.

Die Mitgliedsunternehmen können ihre jeweiligen Anbieterbewertungsprozesse jetzt um Schulungen und Kriterien zur Bewertung von Anbietern von HR-Anwendungen und -Lösungen hinsichtlich ihres Engagements für algorithmische Sicherheit sowie um eine qualitative Scorecard und Anleitung zur Integration der „Algorithmic Bias Safeguards“ in ihren Prozessen ergänzen. Mary Barra, Vorsitzende und Chief Executive Officer von General Motors, erklärte:

Jedes Unternehmen ist bestrebt, die talentiertesten und vielfältigsten Fachkräfte einzustellen, zu motivieren und zu halten. Diese Initiative wird eine wichtige Rolle in unserem gesamten Engagement für Vielfalt, Gerechtigkeit und Inklusion spielen, denn so erhöhen wir die Standards für Vertrauen und Transparenz in unseren Personalprozessen.

Zu den Unternehmen, die die Sicherheitskriterien anwenden, gehören American Express, CVS Health, Deloitte, Diveplane, General Motors, Humana, IBM, Mastercard, Meta, Nielsen, Nike, Under Armour und Walmart. Insgesamt beschäftigen diese Unternehmen mehr als dreieinhalb Millionen Menschen. Weitere Unternehmen der Alliance prüfen derzeit die Sicherheitsvorkehrungen und werden sie in naher Zukunft selbst einführen.

Bewertungskriterien von branchenübergreifender Arbeitsgruppe festgelegt

Die „Algorithmic Bias Safeguards“ der Alliance umfassen 55 Fragen aus 13 Kategorien, die von den Unternehmen angepasst werden können, um die Anbieter nach Kriterien wie Trainingsdaten und Modelldesign, Methoden zum Testen von Voreingenommenheit, Beseitigung von Voreingenommenheit, Transparenz und Rechenschaftspflicht sowie Verpflichtungen zu KI-Ethik und Vielfalt zu bewerten.

Die Bewertungskriterien wurden von einer branchenübergreifenden Arbeitsgruppe von Unternehmensexperten in den Bereichen Personalmanagement, künstliche Intelligenz, Informationstechnologie, Beschaffung, Recht und Diversität, Gerechtigkeit und Inklusion entwickelt. Anschließend wurden die Kriterien mit Hilfe führender HR- und KI-Anbieter sowie von mehr als 200 Fachexperten aus Wirtschaft, Wissenschaft und Zivilgesellschaft getestet und überarbeitet.

Die von der Alliance bereitgestellten Bildungsmaterialien werden dazu beitragen, die Mitarbeiter der Personal-, der Beschaffungsabteilung und andere Fachleute mit algorithmischer Voreingenommenheit vertraut zu machen und ihre Kriterien und Auswahlprozesse zu verbessern.

Unterstützung seitens der CEO für die „Algorithmic Bias Safeguards“

Arvind Krishna, Vorsitzender und Chief Executive Officer von IBM:

Vertrauenswürdige KI ist für Unternehmen von entscheidender Bedeutung. IBM freut sich auf die Zusammenarbeit mit den Mitgliedern der Data & Trust Alliance, zu der einige der weltweit führenden Marken gehören, damit verantwortungsvolle Daten und KI-Praktiken zur Norm werden und nicht die Ausnahme bleiben. Die ‚Algorithmic Bias Safeguards‘ der Alliance können Unternehmen dabei helfen, sicherzustellen, dass sie bei der Personalsuche KI-gestützte Tools einsetzen, die Vertrauen fördern und den Unternehmen beim Aufbau einer qualifizierten, vielfältigen und integrativen Belegschaft helfen.

David Kenny, Chief Executive Officer von Nielsen:

Als führendes Daten- und Analyseunternehmen wissen wir, dass faire und unvoreingenommene Daten für Vertrauen und Wahrheit unerlässlich sind. Die Kriterien der Alliance zur Vorbeugung von Voreingenommenheit für Algorithmen im Personalbereich sind bei der Einstellung und Entwicklung eines erfolgreichen Teams ein entscheidender Faktor für Vertrauen und Offenheit.

Die Data & Trust Alliance

Unter der im September 2020 gegründeten Data & Trust Alliance haben sich führende Unternehmen und Institutionen aus verschiedenen Branchen zusammengeschlossen, um verantwortungsvolle Daten- und KI-Verfahren zu erlernen, zu entwickeln und anzuwenden.

Die Alliance, ein gemeinnütziges Konsortium, wird gemeinsam von Ken Chenault, Vorsitzender und Geschäftsführer von General Catalyst und ehemaliger Vorsitzender und CEO von American Express, sowie von Sam Palmisano, ehemaliger Vorsitzender und CEO von IBM, geleitet. Jon Iwata ist der Gründungsdirektor. Ken Chenault erklärte:

Die Data & Trust Alliance ist ein vielversprechendes Beispiel für die Geschäftswelt, die verantwortungsvolle Innovation fördert und sowohl etablierten Unternehmen als auch Start-ups den Weg dahin ebnet, florierende Unternehmen aufzubauen, die sich an den langfristigen Interessen der Gesellschaft ausrichten und sich positiv auf diese auswirken.

Palmisano erläuterte:

Die Gründer-Unternehmen der Data & Trust Alliance kommen aus einer Vielzahl unterschiedlicher Branchen, aber sie haben mehrere Gemeinsamkeiten. Sie setzen auf Innovation für die Zukunft. Sie innovieren ihre Produkte, Dienstleistungen und Betriebsabläufe durch den Einsatz von Daten und intelligenten Technologien. Und sie legen großen Wert darauf, Vertrauen bei all ihren Interessengruppen zu gewinnen.

Jon Iwata erklärte:

Viele konzentrieren sich heutzutage auf die Theorie und Richtlinien im Bereich verantwortungsvoller Daten und KI, und das ist wichtige Arbeit. Die Data & Trust Alliance konzentriert sich auf die Anwendung. Wir sind dabei, die Geschäftspraxis durch echte Innovationen zu verändern. Unser einziger Maßstab für den Erfolg ist die praktische Anwendung in der Wirtschaft.

Unterstützung seitens der CEO für die Data & Trust Alliance

Joe Ucuzoglu, Chief Executive Officer von Deloitte in den USA, erkläutert:

Wenn Unternehmen ethische Entscheidungsfindung in den Einsatz von neuen Technologien einfließen lassen, führt das zu besseren Geschäftsergebnissen und sorgt gleichzeitig für Vertrauen in der Gesellschaft. Wir bei Deloitte sind stolz darauf, diese Herausforderungen in Zusammenarbeit mit anderen führenden zweckorientierten Unternehmen der Data & Trust Alliance anzunehmen.

Mike Capps, Chief Executive Officer von Diveplane:

Die Alliance bietet weltweit renommierten Unternehmen eine ausgezeichnete Gelegenheit, beim ethischen und fairen Umgang mit Daten mit KI mit gutem Beispiel voranzugehen. Es ist wirklich bemerkenswert zu sehen, wie diese Mitglieder der Alliance ganz vielfältige Perspektiven vertreten und doch alle dieses eine Ziel gemeinsam haben. Diveplane ist stolz darauf, hier mitzuwirken.

Die Mitgliedsunternehmen der Data & Trust Alliance umfassen 15 Branchen, sind in mehr als 175 Ländern tätig und erwirtschaften einen jährlichen Umsatz von mehr als 1,5 Billionen US-Dollar.

Zusätzliche Bestätigung durch Führungskräfte

Laurie Havanec, Chief People Officer von CVS Health, betont:

Im Zuge der Beschleunigung unserer digitalen Transformation müssen wir auch sicherstellen, dass die Art und Weise, wie wir Daten und KI verwenden, mit unseren Werten übereinstimmt. Unsere Arbeit zur Eindämmung von Voreingenommenheit im Personalwesen und bei der Rekrutierung wird uns helfen, die vielfältigeren und inklusiveren Teams zu bilden, von denen wir wissen, dass sie unseren Unternehmen und unseren Gemeinden bessere Ergebnisse bescheren werden.

Athena Karp, Vorstandsvorsitzende von HiredScore, erläutert:

HiredScore unterstützt voll und ganz Gruppen wie die Data & Trust Alliance, die Führungspersönlichkeiten zusammenbringen, die zu dem wichtigen Thema der Eindämmung von Voreingenommenheit im Arbeitsumfeld Stellung nehmen und Ressourcen für die Branche bereitstellen, wie unter anderem wertvolle Rahmenbedingungen für die Bewertung von Technologien im Hinblick auf ihre Einbeziehung ethischer und Compliance-Standards.

Timothy Murphy, Chief Administrative Officer von Mastercard, erklärt:

Vertrauen ist von zentraler Bedeutung für den Aufbau einer Unternehmenskultur, in sich der die besten Fachkräfte wohl fühlen. In der digitalen Welt von heute muss sich dieses Vertrauen auch auf die datengesteuerten Technologien erstrecken, die es uns ermöglichen, integrative, dynamische Arbeitskräfte zu rekrutieren, zu halten und zu fördern. Wir freuen uns, Teil der D&TA-Arbeitsgruppe zu sein, die diese Bemühungen vorangetrieben hat.

Jean Martin, Global Head of Product, Global Business Solutions & Career bei Mercer, kommentiert:

Was ich an dieser Arbeit so schätze, ist, dass sie Sensibilität und Bewusstsein aufbaut. Diesen Ansatz, sich in Richtung einer gerechteren algorithmischen Lösung zu bewegen.

Monique Matheson, EVP und Leiter der Personalabteilung bei NIKE Inc., erklärt:

Keiner von uns möchte die richtige Gelegenheit oder die richtige Person aufgrund unvollständiger, ungenauer oder voreingenommener Datensätze verpassen. Die Arbeit dieses branchenübergreifenden, multidisziplinären Teams aus Führungskräften und kompetenten Fachexperten soll für gerechte Wettbewerbsbedingungen sorgen.

Frida Polli, Geschäftsführerin von Pymetrics, betont:

Zukunftsorientierte Unternehmen haben erkannt, dass Daten und KI sehr effektive Werkzeuge sein können, um Chancen zu schaffen und Ziele in den Bereichen Diversität, Gerechtigkeit und Inklusion zu erreichen. Und es ist schwierig, Voreingenommenheit aus Algorithmen zu entfernen, aber es ist noch schwieriger, Voreingenommenheit aus der menschlichen Entscheidungsfindung herauszuhalten. Die Data & Trust Alliance arbeitet eng mit den Anbietern zusammen, um Produkte und Angebote im Zusammenhang mit dem Talentmanagement zu verbessern. Damit demonstriert sie ihr Engagement für Fortschritte, von denen alle profitieren werden.

Es handle sich hier nicht nur um ein Werkzeug gegen Voreingenommenheit. Es sei ein Werkzeug für verbesserte Ergebnisse – für ein Zeitalter, in dem das Rekrutieren und die Bindung von Fachkräften für Fairness, Chancen und den zukünftigen Geschäftserfolg entscheidend werde, so Nuala O’Connor, SVP, Chief Counsel für digitale Staatsbürgerschaft bei Walmart.