Indice n°2 : le consentement c'est important
Les deepfakes pornographiques sont en nette augmentation depuis la sortie d’outils d’intelligence artificielle générative. Next décortique la réponse des principaux acteurs à même d’enrayer le phénomène.
Dans un précédent article, nous revenions sur les enjeux soulevés par les deepfakes pornographiques, qui constituent l’immense majorité des images créées à l’aide d’intelligence artificielle générative. Loin d’être anecdotique, le sujet occupe toute une variété d’acteurs. Voyons quelles sont leurs réactions :
Quelle est la réaction des géants numériques ?
Tout dépend desquels on parle. Certains sont relativement réactifs, ou a minima coopératifs, avec les forces de l’ordre et les associations spécialisées qui prennent le rôle de « signaleurs de confiance ». La modération efficace de ces contenus reste un défi technique, ce qui a pu conduire à des actions de modération grossière, comme dans le cas de la diffusion de deepfakes de Taylor Swift sur X – devant l’émoi de sa communauté de fans, le réseau a surtout bloqué l’accès à certains hashtags précis, une limitation facilement contournable pour quelqu’un de motivé.