Créer une vidéo à partir d’une image fixe – c’est possible et cela ouvre de nouvelles opportunités pour le secteur de l’industrie du divertissement. Actuellement, Runway AI est l’un des meilleurs outils en la matière. Avec des instructions compréhensibles en anglais, cet outil est facile à utiliser et offre de nombreuses possibilités.
Mais quelque chose me préoccupe : la différence d’interprétation de l’outil lorsqu’il s’agit de photos d’hommes et de femmes. Vous pouvez le tester vous-même en téléchargeant une photo et en demandant à l’outil de générer une vidéo montrant la personne en train de marcher vers la caméra. Dans le cas d’un homme, vous obtenez une vidéo banale qui montre la personne (de la tête aux pieds) marcher droit vers la caméra. Mais que se passe-t-il lors qu’il s’agit d’une image de femme ? Tout à coup, ses seins sont plus gros, elle porte des vêtements différents et elle bouge de manière suggestive, comme si elle était sur un podium (c’est en tout cas ce qui m’est arrivé). Le logiciel sait-il quelque chose que j’ignore ?
Voyez par vous-même. Voici une photo tout à fait ordinaire de moi :
Et voici ce que l’IA en a fait:
Je peux vous garantir que je ne ressemble pas du tout à ça et que je ne marche absolument pas comme ça non plus.
Un problème bien plus grave
L’équité de traitement ne doit pas être à géométrie variable et Runway est loin d’être le seul. Les générateurs d’images via l’IA comme DALL-E, Stable Diffusion et Midjourney sont également critiqués pour leur tendance à sexualiser les femmes. Si vous voulez générer une image d’un métier de façon neutre tel qu’un « PDG » ou un « médecin », l’outil d’IA va très probablement vous donner l’image d’un homme en costume. En revanche, si vous demandez à voir une « secrétaire » ou une « infirmière », vous obtiendrez des images sexualisées de femmes. Même si vous demandez explicitement une « professionnelle », régulièrement, elles seront affublées de tenues irréalistes et dénudées.
Et cela ne s’arrête pas là ! De plus en plus d’outils d’IA sont lancés sur le marché et permettent aux utilisateurs de créer de fausses images de femmes. Une application tristement célèbre, DeepNude, utilise le deep learning pour générer de fausses images de femmes en train de se déshabiller. L’application a été entraînée à partir de milliers de photos de personnes nues. Après de vives critiques, les développeurs ont retiré l’application, mais la technologie avait déjà fuité et les répliques sont utilisées par d’autres.
On trouve également des stéréotypes de genre dans les jeux vidéo et les assistants numériques (Siri, Alexa et Cortana). Ils utilisent presque toujours une voix féminine. Cela renforce le stéréotype selon lequel les femmes sont soumises ou orientées vers le service. De même, les avatars féminins ont souvent des proportions corporelles exagérées et hyper-sexualisées dans les jeux-vidéos, en réalité virtuelle (RV) et en réalité augmentée (RA).
Il y a ensuite la pornographie deepfake, où des vidéos générées par l’IA placent le visage de femmes (sans leur consentement) sur des contenus explicites. Des personnalités féminines célèbres comme Emma Watson, Scarlett Johansson et Taylor Swift en ont déjà été victimes.
Que peut-on faire ?
Comment s’attaquer à ce problème ? La première étape réside dans la sensibilisation. Ensuite, les gouvernements et les entreprises technologiques doivent élaborer des lois et des règlements pour lutter contre ces contenus problématiques générés par l’IA.
Heureusement, certains pays comme le Royaume-Uni et les États-Unis travaillent déjà à criminaliser les deepfake pornographiques générés par l’IA. Par ailleurs, les développeurs spécialisés dans l’IA devraient s’assurer qu’ils travaillent bien avec des ensembles de données qui représentent équitablement les genres, afin que cette technologie ne vienne pas renforcer les stéréotypes pernicieux. Les plateformes qui utilisent des contenus générés par l’IA, comme Instagram, TikTok et certains outils créatifs, devraient appliquer une modération plus stricte. Des lignes directrices éthiques peuvent contribuer à prévenir la sexualisation des femmes dans les environnements numériques.
Malheureusement, la tendance semble suivre des vents contraires. Meta a cessé de travailler avec des milliers de modérateurs au début du mois de janvier. Cela signifie que les faux contenus peuvent désormais se propager encore plus rapidement. Et plus l’IA rendra les images et les vidéos réalistes, plus nous aurons du mal à distinguer le vrai du faux. C’est peut-être le but recherché.
On a l’impression que tous les efforts déployés par les hommes et les femmes en faveur de l’égalité au cours des dernières décennies, sont en train d’être détricotés. Pour contrer cette tendance, nous avons lancé une étude sur l’impact de l’IA sur les préjugés sexistes. Nous partagerons nos conclusions à l’occasion de la Journée internationale du droit des femmes, alors continuez à nous suivre sur les réseaux sociaux pour la découvrir.
