Des employeurs de premier plan se dotent de critères permettant d'atténuer le biais algorithmique dans les décisions relatives à la main-d'œuvre English
L'organisme Data & Trust Alliance a été créé pour promouvoir la sécurité algorithmique, et il est fondé sur les pratiques responsables en matière de données et d'IA
NEW YORK, 10 décembre 2021 /CNW/ - Plus d'une douzaine d'employeurs de calibre mondial ont annoncé aujourd'hui qu'ils se dotaient de critères pour éviter les biais dans les algorithmes et les données au moment de prendre des décisions en matière de ressources humaines et de main-d'œuvre, y compris sur le plan du recrutement, de la rémunération et du perfectionnement des employés.
Ces entreprises sont membres du nouvel organisme Data & Trust Alliance qui réunit des institutions de premier plan pour apprendre, élaborer et adopter des pratiques responsables en matière de données et d'IA. Les membres de l'Alliance croient tous que les données et les systèmes intelligents seront essentiels pour créer une valeur économique et sociétale à l'avenir, mais qu'ils doivent être déployés de façon responsable. L'annonce d'aujourd'hui est la première initiative de l'organisme.
« Au fur et à mesure que les entreprises effectuent un virage vers le numérique, pour éventuellement devenir des sociétés de données, il est impératif de promouvoir la valeur des données et de l'IA de manière à gagner la confiance de tous les intervenants, a déclaré Doug McMillon, président et chef de la direction de Walmart et actuel président de la Business Roundtable. Élaborés et utilisés de façon responsable, ces systèmes nous permettront de rendre nos effectifs plus diversifiés, plus inclusifs et, en fin de compte, plus novateurs. »
L'Alliance établit des mesures de protection contre les biais algorithmiques relatifs à la main-d'œuvre
Les membres de l'Alliance utilisent de plus en plus les données, les algorithmes et l'intelligence artificielle pour identifier les talents au sein de bassins de candidats plus vastes et diversifiés, et pour mieux jumeler les bons talents aux bonnes occasions tout en personnalisant l'expérience de chaque employé. Comme la plupart des employeurs, ils ont recours à des fournisseurs de logiciels, des sites de réseautage professionnel, des consultants et des entreprises de recrutement qui utilisent de plus en plus l'IA et l'apprentissage automatique dans leurs offres de produits et services. Tout en adoptant ces nouvelles technologies, les entreprises membres ont également indiqué que le biais potentiel injuste était l'un des risques les plus élevés associés à leur utilisation pour accroître les services de gestion de la main-d'œuvre.
Cette préoccupation a conduit l'Alliance à lancer sa première initiative, « Algorithmic Safety: Mitigating Bias in Workforce Decisions » pour aider les entreprises à évaluer les fournisseurs en fonction de leur capacité à détecter, atténuer et surveiller le biais algorithmique. Les entreprises membres peuvent maintenant compléter leurs processus d'évaluation des fournisseurs respectifs à l'aide d'une formation et de critères qui leur permettent d'évaluer les fournisseurs d'applications et de solutions de RH en fonction de leur engagement envers la sécurité algorithmique. On leur offre aussi une carte de pointage qualitative et des conseils pour intégrer les mesures de protection prévenant le biais algorithmique dans leurs processus.
« Chaque entreprise s'efforce d'attirer, de motiver et de maintenir en poste les personnes les plus talentueuses et diversifiées sur le marché du travail, a déclaré Mary Barra, présidente et chef de la direction de General Motors. Cette initiative jouera un rôle important dans notre engagement global envers la diversité, l'équité et l'inclusion en rehaussant les normes de confiance et de transparence dans nos processus de ressources humaines. »
Les entreprises qui adoptent les mesures de protection comprennent American Express, CVS Health, Deloitte, Diveplane, General Motors, Humana, IBM, Mastercard, Meta, Nielsen, Nike, Under Armour et Walmart. Ensemble, elles emploient plus de trois millions et demi de personnes. D'autres entreprises membres de l'Alliance évaluent les mesures de protection et devraient les adopter dans un avenir rapproché.
Les mesures de protection contre les biais algorithmiques proposées par l'Alliance comprennent 55 questions dans 13 catégories, et peuvent être adaptées par les entreprises pour évaluer les fournisseurs en fonction de critères. Ces critères sont notamment : les données d'apprentissage et la conception du modèle; les méthodes d'évaluation des biais; la correction des biais; la transparence et la responsabilisation; et les engagements en matière d'éthique de l'IA et de diversité.
Les critères d'évaluation ont été élaborés par un groupe de travail intersectoriel composé d'experts des entreprises membres dans les domaines des ressources humaines, de l'intelligence artificielle, des technologies de l'information, de l'approvisionnement, des services juridiques et de la diversité, de l'équité et de l'inclusion. Les critères ont ensuite été mis à l'essai et peaufinés avec l'aide de fournisseurs de RH et d'IA de premier plan, et de plus de 200 experts en la matière issus du milieu des affaires, du milieu universitaire et de la société civile.
Les documents de formation fournis par l'Alliance aideront les professionnels des ressources humaines et de l'approvisionnement, et d'autres professionnels à se familiariser avec le biais algorithmique et à améliorer leurs critères et leurs processus de sélection.
Messages de chefs de la direction en faveur des mesures de protection contre les biais algorithmiques :
Arvind Krishna, président du conseil et chef de la direction d'IBM : « Le fait de pouvoir se fier à l'intelligence artificielle est une question cruciale pour les entreprises. IBM se réjouit à l'idée de travailler avec les membres du Data & Trust Alliance, qui regroupe certaines des plus grandes marques au monde, pour normaliser les données responsables et les pratiques en matière d'IA. Lesdites mesures de protection contre les biais algorithmiques de l'Alliance peuvent aider les entreprises à adopter des outils de ressources humaines axés sur l'IA qui favorisent la confiance et aident les entreprises à constituer une main-d'œuvre qualifiée, diversifiée et inclusive. »
David Kenny, chef de la direction de Nielsen : « En tant que chefs de file de l'analyse de données, nous savons que des données équitables et impartiales représentent un élément essentiel d'un climat reposant sur la confiance et la vérité. Les critères d'impartialité de l'Alliance à l'égard des algorithmes des RH sont essentiels à la confiance et à la vérité lors de l'embauche et du développement d'une équipe gagnante. »
À propos du Data & Trust Alliance
Le Data & Trust Alliance, qui a été créé en septembre 2020, réunit des entreprises et des institutions de premier plan issues de multiples industries pour apprendre, élaborer et adopter des pratiques responsables en matière de données et d'IA.
L'Alliance, un consortium sans but lucratif, est coprésidé par Ken Chenault, président du conseil et directeur général de General Catalyst et ancien président du conseil et chef de la direction d'American Express, et Sam Palmisano, ancien président du conseil et chef de la direction d'IBM. Jon Iwata est directeur général et fondateur de l'Alliance.
« Le Data & Trust Alliance est un exemple éloquent de la volonté du milieu des affaires d'innover de façon responsable, en ouvrant la voie aux organisations établies et aux entreprises en démarrage afin qu'elles puissent bâtir des entreprises prospères qui s'harmonisent avec les intérêts à long terme de la société et y contribuent », a déclaré M. Chenault.
Bien que les entreprises qui composent le Data & Trust Alliance proviennent d'un large éventail de secteurs d'activités, elles ont plusieurs points en commun. Elles misent sur l'innovation pour assurer leur avenir. Elles innovent sur le plan des produits, des services et des opérations en adoptant les données et les technologies intelligentes. Et elles ont à cœur de gagner la confiance de tous les intervenants », a déclaré M. Palmisano.
« La théorie et la politique des données responsables et de l'IA mobilisent un grand nombre de personnes, et c'est un travail important. Le Data & Trust Alliance se concentre à les mettre en pratique, a déclaré M. Iwata. Nous voulons changer la pratique des affaires grâce à l'innovation dans le monde réel. Nous mesurons notre succès au degré d'adoption des intervenants du monde des affaires. »
Messages de chefs de la direction en faveur du Data & Trust Alliance :
Joe Ucuzoglu, chef de la direction, Deloitte É.-U. : « Lorsque les entreprises intègrent la prise de décisions éthiques au déploiement des technologies émergentes, elles obtiennent des résultats commerciaux supérieurs tout en gagnant la confiance de la société. Chez Deloitte, nous sommes fiers de relever ces défis en collaboration avec d'autres grandes entreprises spécialisées membres du Data & Trust Alliance. »
Mike Capps, chef de la direction de Diveplane : « L'Alliance représente une occasion extraordinaire pour les entreprises de renommée mondiale de donner l'exemple en matière d'utilisation éthique et équitable des données avec l'IA. Il est vraiment remarquable de voir ces membres de l'Alliance se rassembler et offrir de multiples points de vue, tout en partageant cet objectif commun. Diveplane est fière d'en faire partie. »
Les entreprises membres du Data & Trust Alliance proviennent de 15 secteurs d'activités, sont présentes dans plus de 175 pays et génèrent des revenus annuels de plus de 1,5 billion de dollars. Vous trouverez des renseignements supplémentaires sur l'Alliance et les mesures de protection à l'adresse dataandtrustalliance.org
Autres messages d'appui de cadres supérieurs
Laurie Havanec, chef des ressources humaines, CVS Health : « À mesure que nous accélérons notre transformation numérique, nous devons également nous assurer que la façon dont nous utilisons les données et l'IA est conforme à nos valeurs. Notre travail visant à atténuer les préjugés en matière de ressources humaines et de recrutement nous aidera à bâtir des équipes plus diversifiées et inclusives qui, nous le savons, produiront de meilleurs résultats pour nos entreprises et nos collectivités. »
Athena Karp, chef de la direction, HiredScore : « HiredScore soutient pleinement les collectifs comme le Data & Trust Alliance qui incitent les dirigeants d'entreprises à prendre position sur l'important sujet de l'atténuation des préjugés dans les processus rattachés au travail et qui proposent des ressources à l'industrie pour ce faire, notamment en offrant des cadres utiles pour évaluer les technologies et s'assurer qu'elles intègrent des normes en matière d'éthique et de conformité. »
Timothy Murphy, administrateur en chef, Mastercard : « La confiance est un élément essentiel dans l'instauration d'une culture où se retrouvent les meilleurs esprits. Dans le monde numérique d'aujourd'hui, cette confiance doit s'étendre aux technologies axées sur les données qui nous permettent de recruter, de maintenir en poste et de développer une main-d'œuvre inclusive et dynamique. Nous sommes heureux de faire partie du groupe de travail Data & Trust Alliance, qui fait avancer les choses. »
Jean Martin, chef mondial des produits, des solutions commerciales et des carrières, Mercer : « Ce que j'aime de ce projet, c'est qu'il permet d'accroître la réceptivité et la sensibilisation. C'est l'idée de passer à une solution algorithmique plus équitable. »
Monique Matheson, VPD, dirigeante principale des ressources humaines, NIKE inc. : « Personne ne souhaite rater la bonne occasion ou encore ne pas rencontrer la bonne personne en raison d'ensembles de données incomplets, inexacts ou biaisés. Le travail de cette équipe multidisciplinaire composée de chefs de file et d'experts en la matière a pour but de créer des règles du jeu équitables pour tous. »
Frida Polli, chef de la direction, Pymetrics : « Les entreprises tournées vers l'avenir comprennent que les données et l'IA peuvent être des outils très efficaces pour créer des possibilités et atteindre les objectifs de diversité, d'équité et d'inclusion. Bien qu'il soit difficile d'éliminer les biais algorithmiques, il est encore plus difficile de les éradiquer du processus humain de prise de décisions. En travaillant en étroite collaboration avec la communauté des fournisseurs pour améliorer les offres et les produits liés à la gestion des talents, le Data & Trust Alliance démontre un engagement envers le progrès qui profitera à tous. »
Nuala O'Connor, vice-présidente principale et avocate en chef, Citoyenneté numérique, Walmart : « Il ne s'agit pas seulement d'un outil pour lutter contre les biais. Il s'agit d'un outil d'amélioration des résultats, à un moment où le recrutement et le maintien en poste des talents deviennent essentiels à l'équité, aux possibilités et au succès commercial futur. »
Personne-ressource : Robyn Bennett
Courriel : [email protected]
(203)-945-6366
SOURCE Data & Trust Alliance
Partager cet article