De subsidies van 100.000 dollar gaan naar ontvangers die overtuigende kaders presenteren voor het beantwoorden van vragen als of AI publieke figuren moet bekritiseren en wat het als het "mediane individu" in de wereld moet beschouwen, aldus een blogbericht waarin het fonds wordt aangekondigd.

Critici van AI-systemen, zoals ChatGPT, zeggen dat ze een inherente vooringenomenheid hebben door de input die wordt gebruikt om hun standpunten vorm te geven. Gebruikers hebben voorbeelden gevonden van racistische of seksistische output van AI-software, afhankelijk van de vragen die zij beantwoorden. De bezorgdheid groeit dat AI die samenwerkt met zoekmachines als Google van Alphabet Inc en Bing van Microsoft Corp. op overtuigende wijze onjuiste informatie kan produceren.

OpenAI, gesteund door 10 miljard dollar van Microsoft, heeft de oproep tot regulering van AI geleid. Toch dreigde het zich onlangs terug te trekken uit de Europese Unie vanwege voorgestelde regels die volgens het bedrijf te belastend zouden kunnen zijn.

"Het huidige ontwerp van de EU AI Act zou overregulerend zijn, maar we hebben gehoord dat het wordt teruggetrokken," vertelde OpenAI's chief executive Sam Altman aan Reuters. "Er wordt nog steeds over gesproken."

De subsidies van de startup zouden niet veel AI-onderzoek financieren. De salarissen van AI-ingenieurs en anderen die in deze snelgroeiende sector werken, bedragen gemakkelijk meer dan 100.000 dollar en kunnen oplopen tot 300.000 dollar of meer.

AI-systemen "moeten de hele mensheid ten goede komen en zo inclusief mogelijk zijn", aldus OpenAI in de blogpost. "We lanceren dit subsidieprogramma om een eerste stap in deze richting te zetten."

De startup uit San Francisco zei dat de resultaten van de financiering haar eigen visie op AI-governance zouden kunnen vormen, hoewel ze zei dat er geen aanbevelingen "bindend" zouden zijn.