Fr

TECH

Platformen boeken vooruitgang in identificatie van AI gegenereerde content

Donderdag 15 Februari 2024

Platformen boeken vooruitgang in identificatie van AI gegenereerde content

Het succes van generatieve AI spoort techbedrijven aan om te investeren in de identificatie van hun content. Meta kondigde zopas aan dat het weldra een tool lanceert waarmee de beelden die zijn geproduceerd met DALL-E (OpenAI), Midjourney of Firefly (Adobe) op al zijn platformen kunnen worden geïdentificeerd en getagd.

OpenAI is ook bezig met deze uitdaging, dit door de standaarden te integreren die zijn ontwikkeld door C2PA (Coalition for Content Provenance and Authenticity). C2PA is een organisatie die in 2021 is gelanceerd door Adobe, Arm, BBC, Intel, Microsoft en Truepic. Het doel is om standaarden te definiëren voor het identificeren van afbeeldingen dankzij watermerken in hun metadata. Deze coalitie is  nauw verbonden met de Content Authenticity Alliance die in 2019 gelanceerd is door Adobe. Ze werkt rond de authenticiteit van digitale content en wordt ondersteund door honderden leden, waaronder zwaargewichten uit de industrie zoals Axel Springer, Associated Press, Microsoft en Shutterstock.

YouTube en TikTok hebben ook maatregelen aangekondigd voor het signaleren van video’s die door AI zijn gegenereerd. Content creators worden op de beide platformen aangemoedigd om spontaan het label ‘generated by AI’ toe te voegen aan hun content, tenminste als dit het geval is. Beide platformen verduidelijken dat deze vermelding automatisch wordt toegevoegd als hun tools content detecteren die is geproduceerd door generatieve AI.

Geen van deze oplossingen biedt echter waterdichte garanties, aangezien sommige watermerken kunnen worden verwijderd. Bovendien vormt het detecteren van video’s die door AI zijn gemaakt nog steeds een serieuze technische uitdaging. De timing van dit alles is ook niet toevallig, gezien de Amerikaanse verkiezingen in november van dit jaar en de vrees voor de verspreiding van deepfake video’s.

Archief / TECH