J’informe et je forme les communicants à la transformation de leurs pratiques et de leurs événements - 🚀 Formatrice & Conférencière IA - 🎙Podcast Live Stories -💌 Newsletter Comeeti
Les IA génératives d'images ont elles des biais de pensées ?
La preuve en images ...
Au cours de mes nombreuses expérimentations sur les IA génératives de textes et d'images, j'ai parfois des surprises.
1ère image : ChatGPT me rédige un prompt pour illustrer un bloc opératoire à ma demande. L'image est générée ensuite par Dall.E
2ème image : je lui demande de re-générer cette image avec uniquement des médecins hommes afin de tester les variations de rendu en changeant un seul paramètre du prompt
3ème image : même exercice mais je demande uniquement des médecins femmes...
Résultat : une belle brochette de chirurgiennes qui posent en regardant l'objectif... et qui ont subitement arrêté d'opérer !
Contrairement à leurs homologues masculins bien concentrés...
Tous ces outils d'intelligence artificielle créent et composent à partir de paramètres (textes et images) avec lesquels on les a nourrit.
Des paramètres sélectionnés par les hommes... et forcément emprunts de leurs biais de pensées.
Si les dérives les plus graves sont certainement évitées, d'autres biais plus subtils et sous-jacents sont là....
Si ces images prêtent à sourire, elles restent l'écho d'une représentation féminine caricaturale que l'on a déjà enseigné à l'IA ! Malheureusement...
L'équité est encore loin ...