Australië zal ervoor zorgen dat zoekmachines zoals Google en Bing stappen ondernemen om te voorkomen dat materiaal over seksueel kindermisbruik dat door kunstmatige intelligentie is gemaakt, wordt gedeeld, aldus de internettoezichthouder van het land op vrijdag.

Een nieuwe code die op verzoek van de regering door de industriereuzen is opgesteld, verplicht zoekmachines om ervoor te zorgen dat dergelijke inhoud niet in de zoekresultaten wordt weergegeven, aldus Julie Inman Grant, commissaris voor e-Safety, in een verklaring.

Het zal ook vereisen dat AI-functies die in zoekmachines zijn ingebouwd geen synthetische versies van hetzelfde materiaal kunnen produceren, zei ze. Synthetische versies van het materiaal worden ook wel deepfakes genoemd.

"Het gebruik van generatieve AI is zo snel gegroeid dat ik denk dat het de hele wereld tot op zekere hoogte heeft verrast," zei Inman Grant.

De code is een voorbeeld van hoe het regelgevende en juridische landschap rondom internetplatforms opnieuw gevormd wordt door de explosie van producten die automatisch levensechte inhoud genereren.

Inman Grant zei dat een eerdere code die was opgesteld door Google, eigendom van Alphabet, en Bing, eigendom van Microsoft, geen betrekking had op AI-gegenereerde inhoud, dus vroeg ze hen om terug te gaan naar de tekentafel.

"Toen de grootste spelers in de branche aankondigden dat ze generatieve AI in hun zoekfuncties zouden integreren, hadden we een ontwerpcode die duidelijk niet langer geschikt was voor het doel. We vroegen de industrie om het nog eens te proberen," voegde Inman Grant toe.

Google en Microsoft waren niet direct beschikbaar voor commentaar.

Eerder dit jaar registreerde de toezichthouder veiligheidscodes voor verschillende andere internetdiensten, zoals sociale media, smartphonetoepassingen en leveranciers van apparatuur. Deze codes worden eind 2023 van kracht.

De toezichthouder is nog bezig met het ontwikkelen van veiligheidscodes voor internetopslag en privéberichtendiensten, die wereldwijd op weerstand van privacyvoorvechters stuitten.