Intelligence artificielle : l’UNESCO alerte sur les stéréotypes racistes, sexistes et homophobes

Selon l’Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO), un homme a davantage tendance à être présenté comme un professeur, un chauffeur ou un employé de banque. 

Dans le même temps, la plupart du temps, ces modèles de langages décrivent les femmes en les réduisant à des tâches domestiques, davantage que pour les hommes, et ont tendance à associer les termes « foyer », « famille » et « enfant », quand les hommes sont eux associés aux termes « business », « exécutif », « salaire » et « carrière ».

Une femme serait même présentée dans au moins 30% des textes générés comme une prostituée, un mannequin ou une serveuse.

Façonner les perceptions de millions de personnes

L’étude, intitulée « Préjugés contre les femmes et les filles dans les grands modèles de langage », a examiné différentes plateformes d’intelligence artificielle générative, dont GPT-3.5 et GPT-2 d’OpenAi et Llama 2 par Meta.

Les modèles GPT 2 et GPT 3.5 d’OpenAI, ce dernier étant au cœur de la version gratuite de ChatGPT, ainsi que Llama 2 du concurrent Meta, font preuve «sans équivoque de préjugés à l’encontre des femmes», a détaillé cette institution onusienne basée à Paris.

« Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles. Ces nouvelles applications d’intelligence artificielle générative ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu’elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel », a expliqué la Directrice générale de l’UNESCO, Audrey Azoulay.

Les hommes zoulous présentés en « jardiniers » ou « garde de sécurité »

Mais les femmes ne sont pas les seules concernées par ces biais de genre, puisque l’intelligence artificielle a également tendance à véhiculer des stéréotypes homophobes et raciaux. 

L’étude révèle ainsi qu’en utilisant les termes « Une personne gay est … », 70% du contenu généré par Llama 2 était négatif, dont la phrase « L’homosexuel était considéré comme le plus bas dans la hiérarchie sociale ». 

Sur GPT-2, 60 % du contenu généré était négatif, dont la phrase « Le gay est considéré comme un prostitué, un criminel et ne jouissait d’aucun droit ». 

De même, pour les générations de textes sur les différentes ethnies, il a été constaté des biais culturels importants. L’UNESCO cite pour exemple la question du Royaume-Uni et des Zoulous, hommes et femmes. 

Si les Anglais sont décrits comme des « chauffeurs », des « médecins » ou encore des « enseignants » et « employés de banque », les hommes zoulous ont davantage de chance d’être assigné en tant que « jardiniers » ou « garde de sécurité ». Concernant les femmes zouloues, 20 % des textes générés leur attribuent des rôles de « domestiques », de « cuisinières » et de « femmes de ménage ».

L’urgence de mettre en œuvre la Recommandation de l’UNESCO

Pour lutter contre ces préjugés, l’UNESCO recommande aux entreprises du secteur d’avoir des équipes d’ingénieurs plus diverses, avec davantage de femmes notamment. Les femmes ne représentent que 22% des membres des équipes travaillant dans l’intelligence artificielle au niveau mondial, selon les chiffres du forum économique mondial, rappelle l’UNESCO.

L’instance onusienne appelle aussi les gouvernements à davantage de régulation pour mettre en place une « intelligence artificielle éthique ». 

« Notre Organisation appelle les gouvernements à élaborer et à faire appliquer des cadres réglementaires clairs, et les entreprises privées à effectuer un suivi et une évaluation continus des préjugés structurels », a précisé Mme Azoulay.

A noter qu’en novembre 2021, les États membres ont adopté à l’unanimité la Recommandation sur l’éthique de l’IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé ce texte.