Nl

TECH

Les plateformes progressent dans l'identification des contenus générés par l'IA

Jeudi 15 Février 2024

Les plateformes progressent dans l'identification des contenus générés par l'IA

Le succès des IA génératives pousse les acteurs de la Tech à se lancer dans l’identification de leurs contenus. Meta vient ainsi d’annoncer le prochain lancement d’un outil capable de repérer et de marquer les images produites avec DALL-E (OpenAI), Midjourney ou encore Firefly (Adobe) sur l’ensemble de ses plateformes.

OpenAI travaille également sur le sujet en intégrant les standards développés par l’association C2PA (Coalition for Content Provenance and Authenticity) lancée en 2021 par Adobe, Arm, BBC, Intel, Microsoft et Truepic. L’objectif étant de définir des standards en matière d’identification d’images grâce à des filigranes placés dans leurs métadonnées. Cette coalition étant directement liée à la Content Authenticity Alliance initiée en 2019 par Adobe pour travailler à l’authenticité des contenus numériques et soutenue par des centaines de membres, dont quelques poids lourds du secteur tels que Axel Springer, Associated Press, Microsoft, Shutterstock, etc.

De leurs côtés, YouTube et TikTok ont également annoncé des mesures de signalement des vidéos produites par l’IA. Dans les deux cas, les créateurs sont incités à indiquer spontanément une mention "généré par l’IA" sur leurs contenus. Les deux plateformes spécifiant que cette mention sera appliquée automatiquement si leurs outils détectent de contenus produits par une IA générative.

Aucune de ces solutions ne propose des garanties parfaites, certains de ces filigranes pouvant être supprimés et la détection des vidéos produites par l’IA étant encore un sérieux défi technique.

Cette agitation s’inscrit dans la perspective des élections américaines de novembre qui seront propices à la diffusion de deepfakes.

Archive / TECH