Door de staat gesteunde hackers uit Rusland, China en Iran hebben tools van het door Microsoft gesteunde OpenAI gebruikt om hun vaardigheden te verbeteren en hun doelwitten te misleiden, volgens een rapport dat woensdag is gepubliceerd.

Microsoft zei in zijn rapport dat het hackersgroepen had gevolgd die gelieerd waren aan de Russische militaire inlichtingendienst, de Iraanse Revolutionaire Garde en de Chinese en Noord-Koreaanse regeringen terwijl ze hun hackcampagnes probeerden te perfectioneren met behulp van grote taalmodellen. Deze computerprogramma's, die vaak kunstmatige intelligentie worden genoemd, putten uit enorme hoeveelheden tekst om menselijk klinkende reacties te genereren.

Het bedrijf kondigde de vondst aan toen het een algemeen verbod uitrolde op staatsgesteunde hackersgroepen die zijn AI-producten gebruiken.

"Ongeacht of er sprake is van wetsovertredingen of overtredingen van de servicevoorwaarden, we willen gewoon niet dat die actoren die we hebben geïdentificeerd - die we volgen en waarvan we weten dat het bedreigende actoren van verschillende aard zijn - toegang hebben tot deze technologie," vertelde Tom Burt, Vice President Customer Security van Microsoft, aan Reuters in een interview voorafgaand aan de publicatie van het rapport.

Russische, Noord-Koreaanse en Iraanse diplomatieke functionarissen reageerden niet direct op vragen om commentaar op de beschuldigingen.

Liu Pengyu, woordvoerder van de Chinese ambassade in de V.S., zei dat hij zich verzette tegen "ongegronde laster en beschuldigingen aan het adres van China" en pleitte voor de "veilige, betrouwbare en controleerbare" inzet van AI-technologie om "het algemeen welzijn van de hele mensheid te verbeteren".

De beschuldiging dat door de staat gesteunde hackers zijn betrapt op het gebruik van AI-tools om hun spionagecapaciteiten te vergroten, zal waarschijnlijk de bezorgdheid over de snelle verspreiding van de technologie en het potentieel voor misbruik onderstrepen. Hoge cyberbeveiligingsfunctionarissen in het Westen waarschuwen al sinds vorig jaar dat malafide actoren misbruik maken van dergelijke tools, hoewel er tot nu toe weinig concreets over bekend is.

"Dit is een van de eerste, zo niet het eerste, geval van een AI-bedrijf dat naar buiten treedt en publiekelijk bespreekt hoe cyberdreigingsactoren AI-technologieën gebruiken," zei Bob Rotsted, die leiding geeft aan de informatiedienst over cyberdreigingen bij OpenAI.

OpenAI en Microsoft beschreven het gebruik van hun AI-tools door hackers als "in een vroeg stadium" en "incrementeel". Burt zei dat geen van beide cyberspionnen een doorbraak had gezien.

"We zagen dat ze deze technologie gewoon gebruikten zoals elke andere gebruiker," zei hij.

Het rapport beschreef hackinggroepen die de grote taalmodellen gebruikten op een andere manier.

Hackers die naar verluidt werkten namens het Russische militaire spionageagentschap, algemeen bekend als de GRU, gebruikten de modellen om onderzoek te doen naar "verschillende satelliet- en radartechnologieën die betrekking kunnen hebben op conventionele militaire operaties in Oekraïne", aldus Microsoft.

Microsoft zei dat Noord-Koreaanse hackers de modellen gebruikten om inhoud te genereren "die waarschijnlijk gebruikt kan worden in spear-phishing campagnes" tegen regionale experts. Volgens Microsoft gebruikten Iraanse hackers de modellen ook om overtuigendere e-mails te schrijven. Op een gegeven moment gebruikten ze de modellen om een bericht op te stellen dat "prominente feministen" naar een website met boobytraps probeerde te lokken.

De softwaregigant zei dat Chinese hackers die gesteund worden door de staat ook experimenteren met grote taalmodellen, bijvoorbeeld om vragen te stellen over rivaliserende inlichtingendiensten, cyberbeveiligingskwesties en "opmerkelijke personen".

Burt noch Rotsted wilden iets zeggen over het volume van de activiteit of hoeveel accounts er waren geschorst. En Burt verdedigde het nultolerantieverbod voor hackersgroepen - dat zich niet uitstrekt tot aanbiedingen van Microsoft, zoals de zoekmachine Bing - door te wijzen op de nieuwigheid van AI en de bezorgdheid over het gebruik ervan.

"Deze technologie is zowel nieuw als ongelooflijk krachtig," zei hij. (Verslaggeving door Raphael Satter; Aanvullende rapportage door Christopher Bing in Washington en Michelle Nichols bij de Verenigde Naties;)