Het NCMEC vertelde Reuters dat het cijfer een beginnend probleem weerspiegelde dat naar verwachting zal groeien naarmate de AI-technologie voortschrijdt.

In de afgelopen maanden hebben deskundigen en onderzoekers op het gebied van kinderveiligheid alarm geslagen over het risico dat generatieve AI-technologie, die tekst en afbeeldingen kan creëren als reactie op aanwijzingen, online uitbuiting kan verergeren.

Het NCMEC heeft nog niet het totale aantal meldingen van kindermisbruikcontent uit alle bronnen gepubliceerd dat het in 2023 heeft ontvangen, maar in 2022 ontving het meldingen van ongeveer 88,3 miljoen bestanden.

"We ontvangen meldingen van de generatieve AI-bedrijven zelf, (online) platforms en leden van het publiek. Het gebeurt absoluut," zei John Shehan, senior vice president bij NCMEC, dat dient als nationaal clearinghouse voor het melden van kindermisbruikcontent aan de wetshandhaving.

De algemeen directeuren van Meta Platforms, X, TikTok, Snap en Discord getuigden woensdag in een hoorzitting van de Senaat over online veiligheid van kinderen, waar wetgevers de sociale media en berichtenbedrijven ondervroegen over hun inspanningen om kinderen te beschermen tegen online roofdieren.

Onderzoekers van het Stanford Internet Observatory zeiden in juni in een rapport dat generatieve AI door misbruikers kan worden gebruikt om herhaaldelijk echte kinderen te schaden door nieuwe afbeeldingen te creëren die overeenkomen met de gelijkenis van een kind.

Inhoud die gemarkeerd wordt als AI-gegenereerd wordt "steeds fotorealistischer", waardoor het moeilijk wordt om vast te stellen of het slachtoffer een echt persoon is, aldus Fallon McNulty, directeur van de CyberTipline van het NCMEC, die meldingen ontvangt van online uitbuiting van kinderen.

OpenAI, maker van het populaire ChatGPT, heeft een proces opgezet om meldingen naar het NCMEC te sturen en de organisatie voert gesprekken met andere generatieve AI-bedrijven, aldus McNulty.