Aller au contenu principal

Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

  • L’application ImageNet Roulette dresse votre profil à partir d’un selfie, avec souvent des surprises à la clé. Bonnes ou mauvaises. L’objectif de ses créateurs : dénoncer les biais de la reconnaissance faciale. 

2
minutes
de lecture

Êtes-vous un sex-symbol ou un meurtrier ? Cette app a la réponse !

2 min. de lecture
jeu 19/09/2019 - 13:50

Postez un selfie ou une photo de vous et attendez le résultat. Comment ImageNet Roulette vous a-t-elle catégorisé(e) ? Un pilote d’avion ? Une prof de math ? Un aventurier ? Il y a peu de chances en tout cas pour que le résultat se soit approché de la vérité... C’est ce qu’ont voulu démontrer les créateurs de cette intelligence artificielle (IA) de reconnaissance d’images, actuellement exposée au musée Fondazione Prada de Milan. 

La preuve par l’exemple 

Les projections vont bon train quant au rôle que tiendra l’IA dans le futur. Lui demandera-t-on de prendre nos décisions ou de recruter pour nous ? Prendra-t-elle nos jobs ? Dans tous les cas, nous n’en sommes pas encore là tant la technologie reste pour l’instant imparfaite. Certes, grâce au machine learning, les robots sont désormais capables de reconnaître un objet sur une image. Mais pour ce qui est des humains, le chemin à parcourir est encore long. 

ImageNet Roulette se base sur ImageNet, une banque de données qu’utilisent les chercheurs en intelligence artificielle pour mener leurs travaux. Et le moins que l’on puisse dire, c’est que les résultats qu’elle génère en termes de catégorisation des êtres humains sont surprenants. Voire parfois même grotesques. En ce qui me concerne, au moment où j’écris cet article, je ressors comme quelqu’un d’excentrique et de... geek ! Peut-être parce que je porte des lunettes... 

Du drôle et du moins drôle 

Dans ce cas-ci, c’est risible. Mais parfois, c’est beaucoup moins drôle. Les profils à la mine trop boudeuse ou mal rasés par exemple sont facilement identifiés comme malhonnêtes, sans domicile ou même suspects de meurtre. Une sentence plutôt inquiétante, surtout quand on pense que l’IA sera sans doute utilisée un jour pour sélectionner le bon candidat à un poste, ou décider quelle sentence s’impose pour tel ou tel accusé.  

Heureusement, sur ImageNet Roulette, si on n’est pas satisfait du résultat, il suffit de recommencer la prise de vue en arborant un air plus jovial ou simplement en améliorant la résolution du cliché. En l’espace d’un clin d’œil, sans même changer de tenue, on peut ainsi passer de l’image d’un tueur en série à celle de sex-symbol, ou d’hystérique à celle de présentatrice de JT.  

Un miroir de la société 

Comment expliquer un tel grand écart ? Tout simplement parce que l’intelligence artificielle, entraînée grâce aux réponses de milliers d’humains, reflètent tous les stéréotypes véhiculés dans la société. Y compris les plus répréhensibles, comme les stéréotypes sexistes ou racistes.  

Une blonde aux lèvres pulpeuses a toutes les chances d’être taxée de « superficielle » alors que le terme « négro » pourra s’inscrire sur le selfie d’un Noir. C’est ce qu’ont voulu dénoncer les initiateurs d’ImageNet Roulette.