Articles récents \ France \ Économie Aude Bernheim et Flora Vincent : «L’intelligence artificielle, pas sans elles!»

Co-écrit par Aude Bernheim et Flora Vincent, L’intelligence artificielle, pas sans elles ! est un ouvrage, un outil essentiel pour comprendre les enjeux de l’implication des femmes dans le numérique. Les besoins des entreprises dans ce domaine sont considérables, 32 % des emplois actuels vont disparaître et il apparaît (selon la DARES) que 80 000 places seront à prendre dans le numérique. Il y a donc urgence à favoriser la présence des femmes pour des raisons d’emploi et d’éthique digitale.

Qu’est ce que le numérique ? C’est l’ensemble des technologies informatiques dont les informations sont codées en nombre. Qu’est ce que l’Intelligence Artificielle (IA) ? C’est une révolution technologique car elle a pour ambition de construire une intelligence non humaine capable de résoudre des problèmes à notre place. Il y a pour le moment constat d’échec pour l’égalité des sexes dans l’informatique et l’IA.

D’entrée, le constat est un peu décourageant : il y a seulement 15 % de femmes dans ces domaines. Pourquoi ? A cause de la force des stéréotypes : les carrières du numérique tout comme les carrières dans les mathématiques sont réputées difficiles. Sciences dures, elles seraient traditionnellement masculines et feraient peur aux filles, qui peu sûres de leurs talents dans ces domaines, ne se projetteraient pas dans cette branche. Le manque de mentoresses/mentors et de modèles, la pression sociale provoquent l’autocensure qui persuade les filles qu’elles ne sont pas douées pour cette matière. Peu osent s’y aventurer quand l’environnement familial, scolaire et médiatique n’y est pas favorable.

Ces obstacles ne peuvent être la seule explication car dans les années 70/80, il y avait 37 % de femmes dans le numérique. Il y a donc eu un avant et un après. A partir de 1980, la tendance s’inverse. Alors que la part des femmes augmente dans le secteur du droit et de la médecine, elle chute dans le milieu de l’informatique pour atteindre entre 10 à 15 % aujourd’hui. Que s’est il passé ?
En cause la prolifération des ordinateurs personnels vendus au début comme jouets réservés aux garçons. En outre, les publicités et les films de l’époque indiquent que ces ordinateurs ne sont pas faits pour les filles. Progressivement, la narration autour de la révolution informatique se fait exclusivement au masculin. Les héros de cette mythologie sont des geeks : cette vision se propage dans toute la société.

«Au-delà du prisme de la culture geek, l’histoire de la présence des femmes en informatique s’inscrit dans la droite lignée des innovations émergentes» expliquent les autrices. Tant que le secteur reste perçu comme peu prometteur, on y trouve des femmes. Lorsque l’innovation est développée et que le marché s’annonce juteux, elles sont évincées du secteur.

Les autrices citent la journaliste Emily Chang : «moins formées, moins promues, les femmes ne sont pas les bienvenues.» Elle dénonce la culture hyper masculine de la Silicon Valley : dans le milieu de la cybersécurité américaine, 51 % des femmes déclarent avoir été confrontées à des discriminations liées à leur genre.

Comment les Algorithmes peuvent être biaisés et sexistes ?

Les algorithmes imprègnent toute la technologie moderne, nous les utilisons au quotidien, pour faire un café, pour réserver un billet, pour trouver une recette de cuisine. La définition d’un algorithme proposée par Aude Bernheim et Flora Vincent est la suivante : «un algorithme détaille les tâches à effectuer par une suite d’instructions élémentaires et d’opérations logiques et pour que l’ordinateur puisse l’implémenter, un développeur ou une développeuse traduit les instructions numériques dans un langage de programmation tel que Fortan, Java, PHP.» Ces algorithmes nécessitent des données et ces données sont en général biaisées car elles favorisent le masculin.

L’IA est donc le reflet de notre société. Si il y avait un règlement éthique et que les femmes soient impliquées dans la construction des algorithmes, on pourrait espérer une utilisation éthique et un contenu égalitaire dans les algorithmes. Aude Bernheim et Flora Vincent s’emploient à nous expliquer les obstacles à des algorithmes égalitaires, mais aussi les remèdes possibles.

Comment réguler les algorithmes ? Un casse-tête non encore résolu.

Cependant, une certaine auto-régulation se fait. Par exemple, les GAFAMI (Google, Amazon, Facebook, Apple, Microsoft, IBM) accusées de biais sexistes et racistes, développent désormais des logiciels pour les débusquer, ne voulant pas ternir leur réputation.
D’autre part, les professionnel.les de l’IA vont faire une partie du travail. Il y a eu récemment une conférence internationale pour des algorithmes équitables. Aujourd’hui, il y a des recommandations mais pas d‘obligations légales. Cela avance vite dans ce domaine affirment Aude Bernheim et Flora Vincent. Des associations telles que : Fact. Accountability Transparancy, Data Scientist, Data for good, Wax science œuvrent pour des algorithmes équitables. A Paris le nouveau centre pour l’IA, inauguré à la Sorbonne en juin, comporte un volet étude des biais sexistes et racistes. Il y a des conférences dédiées à ces questions et de plus en plus d’études.
Pour accélérer le processus d’algorithmes équitables, Aude Bernheim et Flora Vincent préconisent de favoriser la prise de conscience de tou.tes les actrices/acteurs en présence : industries, entreprises, écoles, centres culturels etc. Elles ont écrit ce livre pour informer et vont sur le terrain pour sensibiliser les entreprises et écoles concernées et les centres culturels.

Elles donnent des exemples de solutions innovantes pour des algorithmes éthiques : «nous faisons en sorte que les solutions ne soient pas seulement correctives mais créatives» disent-elles. Par exemple, des algorithmes sont créés pour révéler des informations qui peuvent changer les mentalités.

Ce qui n’est pas visible n’existe pas, des algorithmes quantifient la présence du temps d’apparition des femmes dans les films par exemple. Ceci revient à une sorte de test de Bechdel quantitatif qui a fait prendre conscience à des réalisateurs que les femmes étaient beaucoup moins présentes à l’écran. Résultat, certains souhaitent changer la donne.

Pour les autrices, il faut amorcer et forcer les changements par des algorithmes qui peuvent servir aussi dans les documents administratifs et les offres d’emploi: en utilisant un langage épicène, on favorise la candidature des femmes. Pour la construction du monde de demain, les femmes doivent être présentes dans les données et pour coder. En effet jusqu’à présent la norme est souvent le masculin par défaut.

Une raison importante des biais est le Gender Data Gap ou Manque de données au féminin. Dans le domaine des biographies recensées sur Wikimedia, il y a 17 % de femmes seulement. C’est pourquoi lorsque l’on tape le mot écrivain, apparaissent prioritairement des noms d’hommes. En août 2018, la société américaine Primer a créé un outil qui génère automatiquement des mini-biographies de femmes scientifiques pour tenter de rééquilibrer les données.

Il y a des solutions pratiques à appliquer et faire appliquer. Mais le plus efficace des outils serait la présence d’au moins 35 % de femmes dans l’IA. C’est le pourcentage qui permet de changer les choses et les points de vue en profondeur.

Roselyne Segalen 50-50 magazine

Aude Bernheim et Flora Vincent : L’intelligence artificielle, pas sans elles ! Préface Cédric Villani. Ed. Belin, Collection Egale à Egal 2019

Imprimer cet article