L’intelligence artificielle peut-elle résoudre les biais inconscients à l’écrit?
25 000 $ pour celles.ceux qui vont réussir à choisir les bons pronoms. Qui est partant.e?
J’ai récemment eu l’occasion de participer à un atelier sur les biais inconscients dans le traitement du langage naturel par l’intelligence artificielle. Cet atelier était une première en son genre et s’est tenu dans le cadre de la conférence annuelle de l’Association of Computational Linguistics. En tant que chercheuse travaillant sur les biais inconscients, c’était une excellente occasion pour mon équipe et moi-même, BiaslyAI, de présenter ce sur quoi nous travaillons depuis un an. D’autres participants comprenaient un groupe de chercheurs enthousiastes de l’industrie et du milieu universitaire dans le domaine du traitement du langage naturel, tous travaillant sur l’atténuation des biais sexistes dans les algorithmes.
Qu’est-ce que le traitement du langage naturel
Le traitement du langage naturel est un domaine interdisciplinaire qui comprend un mélange de plusieurs disciplines telles que l’intelligence artificielle, la linguistique, l’informatique etc. Toutes les données textuelles sont étudiées sous l’égide du traitement du langage naturel, qui comprennent, par exemple, les billets de blogue, les articles de nouvelles, les formats de questions-réponses, la synthèse vocale et même la génération de textes. Avec le développement des algorithmes, un problème majeur est apparu: nos biais inconscients apparaissent dans les résultats.
Un concours de 25 000$ organisé par Google
Un concours a été lancé pendant l’atelier: élaborer des algorithmes tellement précis, qu’ils seront capable de choisir le bon pronom à utiliser dans une phrase. Google offrait 25 000$ aux gagnants.
Identifier le bon pronom est très important et s’avère une tâche particulièrement problématique lorsqu’une personne ou plusieurs personnes sont référencées dans un texte. Imaginez un texte où plusieurs individus sont mentionnés. Comment l’algorithme est-il supposé savoir quel pronom utiliser? Il faut également composer avec le fait que certains clichés ou noms propres ont tendance à être associés à un «il» ou une «elle». Dans ce cas, ces généralisations deviennent des préjugés sexistes.
La traduction automatique du turc vers l’anglais
Melvin Johnson, un conférencier à l’atelier et développeur de logiciels chez Google AI, travaille sur le genre dans la traduction automatique par l’intelligence artificielle. Sa découverte porte sur la traduction du turc vers l’anglais.
La langue turc a la particularité d’être parfois neutre -ni féminin, ni masculin-, mais lorsqu’elle est traduite, elle devient genrée. Voici un exemple: Lorsque le mot«médecin» est non-genré en turc. Lors de sa traduction, il deviendra «il est médecin». Cela s’explique par la source des données avec lesquelles on a nourri l’algorithme. Comme expliqué tantôt, nos biais inconscients peuvent influencer les résultats d’une traduction.
L’atelier a été une grande source d’inspiration. Avec l’évolution rapide de la technologie, il est rassurant de savoir qu’un plusieurs personnes dans le monde s’efforcent d’éliminer les préjugés sexistes dans la linguistique informatique.
- Est-ce que ça se dit: «T’as pas l’air autiste» ? - 3 avril 2024
- Est-ce que ça se dit: « mademoiselle » ? - 7 mars 2024
- Est-ce que ça se dit: « Tu parles bien français » ? - 19 février 2024