De Financial Stability Oversight Council, die bestaat uit de belangrijkste financiële toezichthouders en wordt voorgezeten door minister van Financiën Janet Yellen, heeft in zijn jaarlijkse rapport over financiële stabiliteit voor het eerst de risico's van AI genoemd.
Hoewel de groep zei dat AI innovatie of efficiëntie bij financiële bedrijven zoals banken zou kunnen stimuleren, vereist de snel voortschrijdende technologie waakzaamheid van zowel de bedrijven als hun waakhonden.
"AI kan bepaalde risico's met zich meebrengen, waaronder risico's voor de veiligheid en soliditeit, zoals cyber- en modelrisico's," aldus de groep in haar jaarverslag dat donderdag is gepubliceerd. De groep voegde daaraan toe dat ze bedrijven en hun toezichthouders aanraadde om "de expertise en capaciteit te verdiepen om toezicht te houden op AI-innovatie en -gebruik en opkomende risico's te identificeren".
Het panel gaf ook aan dat de groeiende rol van niet-banken en privékrediet bijzondere aandacht verdient, en zei dat financiële instellingen en toezichthouders moeten blijven proberen om risico's als gevolg van klimaatverandering beter in te schatten.
Sommige AI-tools kunnen enorm technisch en ondoorzichtig zijn, waardoor het voor instellingen moeilijk is om ze uit te leggen of goed te controleren op tekortkomingen. Als bedrijven en toezichthouders AI-tools niet volledig begrijpen, is het mogelijk dat ze bevooroordeelde of onnauwkeurige resultaten missen, aldus het rapport.
Het rapport merkte ook op dat AI-tools in toenemende mate afhankelijk zijn van grote externe datasets en externe leveranciers, die hun eigen privacy- en cyberbeveiligingsrisico's met zich meebrengen.
Sommige regelgevende instanties, waaronder de Securities and Exchange Commission, die zitting heeft in het panel, houden nauwlettend in de gaten hoe bedrijven AI gebruiken, terwijl het Witte Huis onlangs een uitvoerend bevel heeft uitgevaardigd om de risico's van AI te beperken.
Elders in het rapport merkte de FSOC op dat het Amerikaanse banksysteem veerkrachtig blijft, ondanks grote bankfaillissementen dit jaar. Maar het drong er bij de toezichthouders op aan om onverzekerde bankdeposito's, waarvan de snelle vlucht de oorzaak was van de faillissementen, goed in de gaten te houden. (Verslaggeving door Pete Schroeder; Bewerking door David Gregorio)
