Generatieve AI-technologie die gezaghebbende proza kan genereren uit tekstaanwijzingen heeft het publiek in zijn ban sinds ChatGPT zes maanden geleden werd gelanceerd en de snelst groeiende app aller tijden werd. Er is ook bezorgdheid ontstaan over het vermogen van AI om deepfake foto's en andere desinformatie te maken.
"De alarmbellen over de nieuwste vorm van kunstmatige intelligentie - generatieve AI - zijn oorverdovend. En ze klinken het luidst vanuit de ontwikkelaars die het hebben ontworpen," vertelde Guterres aan verslaggevers. "We moeten die waarschuwingen serieus nemen."
Hij heeft plannen aangekondigd om tegen het einde van het jaar een adviesorgaan op hoog niveau voor AI op te richten, dat regelmatig AI-bestuursregelingen zal evalueren en aanbevelingen zal doen over hoe ze in overeenstemming kunnen worden gebracht met de mensenrechten, de rechtsstaat en het algemeen belang.
Maar op maandag voegde hij eraan toe: "Ik zou voorstander zijn van het idee dat we een agentschap voor kunstmatige intelligentie zouden kunnen hebben ... geïnspireerd op wat het internationale agentschap voor atoomenergie vandaag de dag is."
Guterres zei dat zo'n model "heel interessant" zou kunnen zijn, maar merkte op dat "alleen lidstaten het kunnen oprichten, niet het secretariaat van de Verenigde Naties". Het in Wenen gevestigde IAEA werd in 1957 opgericht en bevordert het veilige, beveiligde en vreedzame gebruik van nucleaire technologieën, terwijl het waakt over mogelijke schendingen van het Non-Proliferatieverdrag (NPV). De organisatie heeft 176 lidstaten.
De maker van ChatGPT, OpenAI, zei vorige maand dat een instantie als de IAEA beperkingen zou kunnen opleggen aan het gebruik, naleving van veiligheidsnormen zou kunnen controleren en het gebruik van rekenkracht zou kunnen bijhouden.
De Britse premier Rishi Sunak heeft het idee ook gesteund en gezegd dat hij wil dat Groot-Brittannië de thuisbasis wordt van wereldwijde AI-veiligheidsregulering. Groot-Brittannië zal later dit jaar als gastheer optreden voor een top over hoe gecoördineerde internationale actie de risico's van AI kan aanpakken.
Guterres zei dat hij het plan voor een top in Groot-Brittannië steunde, maar zei dat er "serieus werk" aan vooraf moest gaan. Hij zei dat hij van plan is om in de komende dagen een wetenschappelijke adviesraad van AI-experts en hoofdwetenschappers van VN-agentschappen te benoemen.
