De regering Biden heeft donderdag gezegd dat toonaangevende bedrijven op het gebied van kunstmatige intelligentie behoren tot de meer dan 200 entiteiten die zich aansluiten bij een nieuw Amerikaans consortium ter ondersteuning van de veilige ontwikkeling en toepassing van generatieve AI. Minister van Handel Gina Raimondo kondigde het Amerikaanse AI Safety Institute Consortium (AISIC) aan, dat OpenAI, Alphabet's Google, Anthropic en Microsoft omvat, samen met Facebook-moeder Meta Platforms, Apple, Amazon.com, Nvidia Palantir, Intel, JPMorgan Chase en Bank of America.

"De Amerikaanse overheid heeft een belangrijke rol te spelen in het vaststellen van de standaarden en het ontwikkelen van de hulpmiddelen die we nodig hebben om de risico's te beperken en het immense potentieel van kunstmatige intelligentie te benutten," zei Raimondo in een verklaring.

Het consortium, dat ook BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa en grote academische instellingen en overheidsinstanties omvat, zal worden ondergebracht in het U.S. AI Safety Institute (USAISI).

De groep heeft als taak om te werken aan prioritaire acties die worden beschreven in president Bidens AI-uitvoeringsbevel van oktober "inclusief het ontwikkelen van richtlijnen voor red-teaming, vermogensevaluaties, risicobeheer, veiligheid en beveiliging, en het watermerken van synthetische inhoud".

Grote AI-bedrijven beloofden vorig jaar om AI-gegenereerde inhoud te voorzien van een watermerk om de technologie veiliger te maken. Red-teaming wordt al jaren gebruikt in cyberbeveiliging om nieuwe risico's te identificeren, waarbij de term verwijst naar simulaties uit de Koude Oorlog in de VS waarbij de vijand het "rode team" werd genoemd.

Het bevel van Biden gaf agentschappen de opdracht om normen op te stellen voor dat testen en om gerelateerde chemische, biologische, radiologische, nucleaire en cyberbeveiligingsrisico's aan te pakken.

In december zei het ministerie van Handel dat het de eerste stap aan het zetten was om belangrijke normen en richtlijnen op te stellen voor het veilig inzetten en testen van AI.

Het consortium vertegenwoordigt de grootste verzameling test- en evaluatieteams en zal zich richten op het creëren van fundamenten voor een "nieuwe meetwetenschap in AI-veiligheid", aldus Commerce.

Generatieve AI - die tekst, foto's en video's kan maken als reactie op open vragen - heeft zowel opwinding veroorzaakt als angst dat het sommige banen overbodig kan maken, verkiezingen kan ontregelen en mogelijk mensen kan overmeesteren met catastrofale gevolgen.

Terwijl de regering Biden voorzorgsmaatregelen nastreeft, zijn de inspanningen in het Congres om wetgeving over AI aan te nemen gestagneerd, ondanks talloze fora op hoog niveau en wetsvoorstellen. (Verslag door David Shepardson; Redactie door Jamie Freed)