`
 

L’intelligence artificielle peut-elle résoudre les biais inconscients à l’écrit?

L’intelligence artificielle peut-elle résoudre les biais inconscients à l’écrit?

25 000 $ pour celles.ceux qui vont réussir à choisir les bons pronoms. Qui est partant.e?

J’ai récemment eu l’occasion de participer à un atelier sur les biais inconscients dans le traitement du langage naturel par l’intelligence artificielle. Cet atelier était une première en son genre et s’est tenu dans le cadre de la conférence annuelle de l’Association of Computational Linguistics. En tant que chercheuse travaillant sur les biais inconscients, c’était une excellente occasion pour mon équipe et moi-même, BiaslyAI, de présenter ce sur quoi nous travaillons depuis un an. D’autres participants comprenaient un groupe de chercheurs enthousiastes de l’industrie et du milieu universitaire dans le domaine du traitement du langage naturel, tous travaillant sur l’atténuation des biais sexistes dans les algorithmes.

Qu’est-ce que le traitement du langage naturel
Le traitement du langage naturel est un domaine interdisciplinaire qui comprend un mélange de plusieurs disciplines telles que l’intelligence artificielle, la linguistique, l’informatique etc. Toutes les données textuelles sont étudiées sous l’égide du traitement du langage naturel, qui comprennent, par exemple, les billets de blogue, les articles de nouvelles, les formats de questions-réponses, la synthèse vocale et même la génération de textes. Avec le développement des algorithmes, un problème majeur est apparu: nos biais inconscients apparaissent dans les résultats.

Un concours de 25 000$ organisé par Google
Un concours a été lancé pendant l’atelier: élaborer des algorithmes tellement précis, qu’ils seront capable de choisir le bon pronom à utiliser dans une phrase. Google offrait 25 000$ aux gagnants.

Identifier le bon pronom est très important et s’avère une tâche particulièrement problématique lorsqu’une personne ou plusieurs personnes sont référencées dans un texte. Imaginez un texte où plusieurs individus sont mentionnés. Comment l’algorithme est-il supposé savoir quel pronom utiliser? Il faut également composer avec le fait que certains clichés ou noms propres ont tendance à être associés à un «il» ou une «elle». Dans ce cas, ces généralisations deviennent des préjugés sexistes.

La traduction automatique du turc vers l’anglais
Melvin Johnson, un conférencier à l’atelier et développeur de logiciels chez Google AI, travaille sur le genre dans la traduction automatique par l’intelligence artificielle. Sa découverte porte sur la traduction du turc vers l’anglais.

La langue turc a la particularité d’être parfois neutre -ni féminin, ni masculin-, mais lorsqu’elle est traduite, elle devient genrée. Voici un exemple: Lorsque le mot«médecin» est non-genré en turc. Lors de sa traduction, il deviendra «il est médecin». Cela s’explique par la source des données avec lesquelles on a nourri l’algorithme. Comme expliqué tantôt, nos biais inconscients peuvent influencer les résultats d’une traduction.

L’atelier a été une grande source d’inspiration. Avec l’évolution rapide de la technologie, il est rassurant de savoir qu’un plusieurs personnes dans le monde s’efforcent d’éliminer les préjugés sexistes dans la linguistique informatique.

Avatar

Yasmeen Hitti

Yasmeen est étudiante au Doctorat en génie des bioressources et en Intelligence Artificielle. Elle fait partie de BiaslyAI, un groupe de recherche au Mila, qui recherche à combattre les biais par rapport aux genres dans le texte tout en créant des bases de données accessibles aux industries et aux centres de recherche. Elle est curieuse de nature et aime relever de nouveaux défis. Elle encourage le développement de technologies éthiques et invite les gens à participer à la science ouverte! Son combo préféré? Café et jazz

Yasmeen is a doctoral student in bioresource engineering and artificial intelligence. She is equally part of BiaslyAI, a research project at Mila. BiaslyAI’s mission is to eliminate gender bias in text and to create accessible text datasets for industry and academia to use. Curious by nature she is always redy for a new challenge. An advocate for ethical and fair technology, Yasmeen invites people to pursue open science! Her favorite combo consists of coffee and jazz.
Avatar

Les derniers articles par Yasmeen Hitti

Poster un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.