Des chercheurs en bioéthique ont essayé de générer via Midjourney des photos de médecins noirs soignant des enfants blancs pauvres. Spoiler : c'est quasiment impossible, sauf à renforcer un autre stéréotype, celui du guérisseur tr...
Si j’ai bien compris,Le modèle de l’IA ne fait que répéter les caractéristiques qu’il voit beaucoup trop souvent . Dans l’article que j’ai partagé si dessus, l’auteur donne l’exemple des montres . Si vous demandez à L’IA l’image d’une montre a tel ou tel heure, elle ne donnera que des images avec des aiguilles pointées vers 10:10 car la majorité de sont entraînements s’est fait avec des images issues de magasin en ligne qui ont tous des miniatures d’image avec les montres qui pointent sur 10:10. La raison? Les vendeurs de montre considèrent que cella rend les montres plus attractives visuellement.
Article en anglais qui en parle : https://garymarcus.substack.com/p/race-statistics-and-the-persistent
Si j’ai bien compris,Le modèle de l’IA ne fait que répéter les caractéristiques qu’il voit beaucoup trop souvent . Dans l’article que j’ai partagé si dessus, l’auteur donne l’exemple des montres . Si vous demandez à L’IA l’image d’une montre a tel ou tel heure, elle ne donnera que des images avec des aiguilles pointées vers 10:10 car la majorité de sont entraînements s’est fait avec des images issues de magasin en ligne qui ont tous des miniatures d’image avec les montres qui pointent sur 10:10. La raison? Les vendeurs de montre considèrent que cella rend les montres plus attractives visuellement.