India heeft techbedrijven gevraagd om goedkeuring te vragen voordat ze tools voor kunstmatige intelligentie (AI) die "onbetrouwbaar" zijn of nog worden getest, vrijgeven. Ze moeten ook een label krijgen omdat ze mogelijk verkeerde antwoorden geven op vragen van gebruikers.

Het gebruik van dergelijke tools, inclusief generatieve AI, en de "beschikbaarheid ervan voor gebruikers op het Indiase internet moet gebeuren met uitdrukkelijke toestemming van de Indiase overheid", aldus het Indiase IT-ministerie in een advies dat afgelopen vrijdag naar de platforms is gestuurd.

Landen over de hele wereld zijn bezig met het opstellen van regels om AI te reguleren. India heeft de regels voor sociale mediabedrijven, die de Zuid-Aziatische natie als een belangrijke groeimarkt beschouwen, aangescherpt.

Het advies kwam een week nadat een topminister op 23 februari de AI-tool Gemini van Google bekritiseerde voor een reactie die de Indiase premier Narendra Modi door sommigen is beschuldigd van het uitvoeren van beleid dat als "fascistisch" wordt gekarakteriseerd.

Een dag later zei Google dat het snel had gewerkt om het probleem aan te pakken en dat de tool "mogelijk niet altijd betrouwbaar is", met name voor actuele gebeurtenissen en politieke onderwerpen.

"Veiligheid en vertrouwen zijn platforms wettelijke verplichting. 'Sorry Onbetrouwbaar' is geen vrijstelling van de wet," zei onderminister van IT Rajeev Chandrasekhar op het sociale mediaplatform X in reactie op de verklaring van Google.

Het Indiase advies van vrijdag vroeg platforms ook om ervoor te zorgen dat hun AI-tools "de integriteit van het verkiezingsproces niet bedreigen". Deze zomer worden in India algemene verkiezingen gehouden, waarbij de regerende Hindoe-nationalistische partij naar verwachting een duidelijke meerderheid zal behalen.