Aller au contenu principal

La diversité rend notre technologie plus intelligente !

  • Les décisions prises par les algorithmes sont-elles objectives ? Pas selon Julie Foulon, fondatrice de Molengeek et Girleek. Elle reflètent souvent les préjugés de ceux qui ont encodé les instructions. 

La diversité rend notre technologie plus intelligente !

.
2 min. de lecture
mer 09/10/2019 - 13:44
Julie Foulon - Cofondatrice de Molengeek et Girleek

Omniprésents dans nos vies, les algorithmes sont partout. Netflix, Facebook, Tinder... les algorithmes que l’on trouve en intelligence artificielle régissent nos vies. Ils nous évaluent en nous attribuant des notes et, sans même que nous nous en rendions compte, prennent des décisions importantes à notre place. Des décisions qui ont un impact sur nos vies.  

De la recommandation de séries en fonction de nos goûts à la décision du prêt hypothécaire de la maison de nos rêves, en passant par le choix de notre futur compagnon, les algorithmes fonctionnent tous de la même manière. Ils sont constitués d’une suite d’instructions qui permet d’obtenir un résultat. 

Derrière leur côté supposément objectif, les algorithmes sont basés sur des critères qui ne font pas intervenir l’homme et par conséquent, nos émotions. Ils sont particulièrement pratiques pour prendre des décisions difficiles à notre place, comme par exemple désigner les personnes d’une entreprise à licencier. L’algorithme a fait son choix et l’homme obéit, sans se poser de questions. 

Et si les algorithmes avaient tort ? 

Lorsqu’on y regarde de plus près, les algorithmes sont en fait constitués d’instructions encodées par des ingénieurs, des mathématiciens ou encore des chercheurs, qui ont, comme tout le monde, des opinions et des idées préconçues qui ne reflètent pas toujours la réalité. Sur le plan humain, certes, les préjugés se révèlent parfois protecteurs et relèvent de notre instinct de survie, mais dans les algorithmes, ils engendrent des discriminations. 

La scène technologique est composée essentiellement des mêmes profils avec un manque en termes de diversité de genre, de génération et de culture. Ainsi, en Belgique, le secteur des nouvelles technologies est principalement dominé par des hommes, blancs, issus des classes moyennes et supérieures, et qui ont fait des études.   

Exemples de discrimination due aux algorithmes          

Prenez l’application de « dating » Tinder. En plus de lire nos messages pour nous évaluer sur notre intelligence et notre « désirabilité », celle-ci attribue des points « bonus » pour les hommes et des points « malus » pour les femmes pour des niveaux de carrière et de compétences équivalents.1 

Dans un autre registre, les femmes noires qui voyagent en avion aux Etats-Unis sont régulièrement victimes d’attouchements discriminatoires parce que les portiques de sécurité n’arrivent pas à scanner les tresses et les cheveux plus épais.2 Les agents de sécurité procèdent alors à des fouilles du cuir chevelu à la recherche d’objets dangereux. 

Finalement, l’Intelligence Artificielle (et les algorithmes qui la composent) n’est pas si intelligente que ça. Et si nous ne sommes pas vigilants, d’autres cas de discrimination se reproduiront encore et encore. La seule solution est de faire évoluer ces algorithmes et d’inclure plus de diversité dans le processus de développement des applications et des projets. 

Grâce à la diversité, la créativité sera favorisée, encourageant la recherche de nouvelles perspectives pour le projet, ce qui mènera à plus d’innovation et à une meilleure prise de décision. Il est fondamental aujourd’hui de comprendre ce qui se cache derrière ces algorithmes qui régissent nos vies et de les corriger afin de réduire les inégalités. Parce que, finalement, nous sommes tous victimes à un moment ou un autre de la décision arbitraire d’un algorithme. 

 

1L'amour sous algorithme de Judith Duportail  

2http://www.lefigaro.fr/international/2016/01/19/01003-20160119ARTFIG00239-la-fouille-des-cheveux-des-femmes-noires-dans-les-aeroports-americains-fait-polemique.php