OpenAI lanceert een tool die afbeeldingen kan detecteren die gemaakt zijn door zijn tekst-naar-afbeelding generator DALL-E 3, zei de door Microsoft gesteunde startup op dinsdag tegen de achtergrond van toenemende zorgen over de invloed van door AI gegenereerde inhoud op de wereldwijde verkiezingen van dit jaar.

Het bedrijf zei dat de tool in interne tests afbeeldingen die door DALL-E 3 zijn gemaakt in ongeveer 98% van de gevallen correct identificeerde en veelvoorkomende wijzigingen zoals compressie, bijsnijden en verzadiging met minimale impact kan verwerken.

De maker van ChatGPT is ook van plan om manipulatiebestendige watermerken toe te voegen om digitale inhoud zoals foto's of audio te markeren met een signaal dat moeilijk te verwijderen zou moeten zijn.

Als onderdeel van de inspanningen heeft OpenAI zich ook aangesloten bij een industriegroep waar Google, Microsoft en Adobe deel van uitmaken en is het van plan om een standaard aan te bieden die zou helpen om de herkomst van verschillende media te traceren.

In april, tijdens de algemene verkiezingen in India, zijn nepvideo's van twee Bollywood-acteurs online gegaan die kritiek hadden op premier Narendra Modi.

De verspreiding van AI-gegenereerde inhoud en deepfakes worden steeds vaker gebruikt in India en bij verkiezingen elders in de wereld, waaronder in de VS, Pakistan en Indonesië.

OpenAI zei dat het samen met Microsoft een fonds van $2 miljoen voor "maatschappelijke veerkracht" lanceert om AI-onderwijs te ondersteunen.