De Europese Commissie heeft de AI-regels vorig jaar voorgesteld om China en de Verenigde Staten in te halen met een technologie die wordt gebruikt in smartphones, computers, zelfrijdende auto's, online winkelen en adverteren, en fabrieken.
De ontwerpregels moeten volgend jaar met de EU-landen en de EU-wetgevers worden uitgewerkt voordat ze kunnen worden ingevoerd. De EU-wetgevers moeten nog overeenstemming bereiken over hun gemeenschappelijk standpunt.
Volgens een verklaring van de Raad van de Europese Unie zijn de landen overeengekomen nationale veiligheid, defensie en militaire doeleinden uit te sluiten van de AI-regels.
Ze zijn overeengekomen dat AI niet mag worden gebruikt voor sociale scoring - waarbij burgers worden beoordeeld op basis van gegevens over hun activiteiten - terwijl rechtshandhavingsinstanties alleen biometrische identificatie in openbare ruimten mogen gebruiken als dat strikt noodzakelijk is, aldus de verklaring.
De landen classificeerden AI-systemen met een hoog risico als systemen die fundamentele rechten schenden.
De Europese Consumentenorganisatie (BEUC) zei dat veel belangrijke kwesties niet werden aangepakt, zoals gezichtsherkenning door bedrijven in openbare ruimtes, terwijl bepalingen die systemen als hoog risico classificeren, werden afgezwakt.
"Consumenten zijn bezorgd over de risico's van AI, zoals de mogelijkheid van meer discriminatie, en hebben er weinig vertrouwen in dat de autoriteiten effectieve controle uitoefenen op AI", aldus adjunct-directeur-generaal Ursula Pachl van het BEUC.
Europees parlementslid Patrick Breyer van de Duitse Piratenpartij luidde de noodklok over gezichtsherkenning.
"We moeten opstaan tegen biometrische massasurveillance in onze openbare ruimten, omdat deze technologieën grote aantallen onschuldige burgers onterecht rapporteren, ondervertegenwoordigde groepen systematisch discrimineren en een chilling effect hebben op een vrije en diverse samenleving", zei hij.
