SAN FRANCISCO/NEW YORK - Safe Superintelligence (SSI), pas opgericht door OpenAI's voormalige hoofdwetenschapper Ilya Sutskever, heeft $1 miljard in contanten opgehaald om veilige kunstmatige intelligentiesystemen te helpen ontwikkelen die de menselijke capaciteiten ver overstijgen, aldus leidinggevenden van het bedrijf tegen Reuters.

SSI, dat momenteel 10 werknemers heeft, is van plan om het geld te gebruiken om rekenkracht te verwerven en toptalent aan te nemen. Het zal zich richten op het opbouwen van een klein, zeer betrouwbaar team van onderzoekers en ingenieurs, verdeeld over Palo Alto, Californië en Tel Aviv, Israël.

Het bedrijf weigerde zijn waardering bekend te maken, maar bronnen dicht bij de zaak zeiden dat de waarde op $5 miljard werd geschat. De financiering onderstreept hoe sommige investeerders nog steeds bereid zijn om buitenproportioneel in te zetten op uitzonderlijk talent dat zich richt op fundamenteel AI-onderzoek. Dit ondanks een algemene afnemende belangstelling voor het financieren van dergelijke bedrijven, die enige tijd niet winstgevend kunnen zijn en waardoor verschillende oprichters van startups hun baan hebben moeten opgeven aan techgiganten.

Tot de investeerders behoorden de beste durfkapitaalbedrijven Andreessen Horowitz, Sequoia Capital, DST Global en SV Angel. NFDG, een investeringspartnerschap geleid door Nat Friedman en SSI's Chief Executive Daniel Gross, nam ook deel.

"Het is belangrijk voor ons om omringd te zijn door investeerders die onze missie begrijpen, respecteren en steunen, namelijk om rechtstreeks naar veilige superintelligentie te gaan en in het bijzonder om een paar jaar R&D aan ons product te besteden voordat we het op de markt brengen," zei Gross in een interview.

AI-veiligheid, wat verwijst naar het voorkomen dat AI schade aanricht, is een veelbesproken onderwerp door de angst dat malafide AI tegen de belangen van de mensheid in zou kunnen handelen of zelfs het uitsterven van de mensheid zou kunnen veroorzaken.

Een wetsvoorstel in Californië dat bedrijven veiligheidsregels wil opleggen, heeft de industrie verdeeld. Het wordt tegengewerkt door bedrijven als OpenAI en Google, en gesteund door Anthropic en Elon Musk's xAI.

Sutskever, 37, is een van de meest invloedrijke technologen op het gebied van AI. Hij richtte SSI in juni mede op met Gross, die eerder AI-initiatieven leidde bij Apple, en Daniel Levy, een voormalig onderzoeker van OpenAI.

Sutskever is hoofdwetenschapper en Levy is hoofdwetenschapper, terwijl Gross verantwoordelijk is voor rekenkracht en fondsenwerving.

NIEUWE BERG

Sutskever zei dat zijn nieuwe onderneming zinvol was omdat hij "een berg identificeerde die een beetje anders is dan waar ik aan werkte".

Vorig jaar maakte hij deel uit van het bestuur van OpenAI's non-profit moedermaatschappij die stemde om OpenAI CEO Sam Altman te ontslaan vanwege een "communicatiestoornis".

Binnen enkele dagen kwam hij op zijn beslissing terug en sloot zich aan bij bijna alle werknemers van OpenAI die een brief ondertekenden waarin ze de terugkeer van Altman en het aftreden van het bestuur eisten. Maar de wending in de gebeurtenissen verminderde zijn rol bij OpenAI. Hij werd uit het bestuur gezet en verliet het bedrijf in mei.

Na het vertrek van Sutskever ontmantelde het bedrijf zijn "Superalignment" team, dat ervoor zorgde dat AI afgestemd bleef op menselijke waarden om zich voor te bereiden op de dag dat AI de menselijke intelligentie overstijgt.

In tegenstelling tot de onorthodoxe bedrijfsstructuur van OpenAI, die geïmplementeerd werd omwille van de veiligheid van AI maar die het ontslag van Altman mogelijk maakte, heeft SSI een normale winststructuur.

SSI is momenteel erg gericht op het aannemen van mensen die in de bedrijfscultuur passen.

Gross zei dat ze urenlang controleren of kandidaten "een goed karakter" hebben, en dat ze op zoek zijn naar mensen met buitengewone capaciteiten in plaats van te veel nadruk te leggen op referenties en ervaring in het vakgebied.

"Eén ding dat ons opwindt is wanneer je mensen vindt die geïnteresseerd zijn in het werk, die niet geïnteresseerd zijn in de scène, in de hype," voegde hij eraan toe.

SSI zegt van plan te zijn om samen te werken met cloudproviders en chipbedrijven om de benodigde rekenkracht te financieren, maar heeft nog niet besloten met welke bedrijven het zal samenwerken. AI-startups werken vaak samen met bedrijven zoals Microsoft en Nvidia om in hun infrastructuurbehoeften te voorzien.

Sutskever was een vroege voorstander van schaalvergroting, een hypothese dat AI-modellen beter zouden gaan presteren als er grote hoeveelheden rekenkracht beschikbaar zouden zijn. Het idee en de uitvoering ervan hebben een golf van AI-investeringen in chips, datacenters en energie op gang gebracht en de basis gelegd voor generatieve AI-ontwikkelingen zoals ChatGPT.

Sutskever zei dat hij het schalen op een andere manier zal benaderen dan zijn vorige werkgever, zonder details te delen.

"Iedereen zegt gewoon schaalhypothese. Iedereen vergeet de vraag te stellen: wat schalen we?", zei hij.

"Sommige mensen kunnen echt lange uren maken en zullen gewoon sneller hetzelfde pad bewandelen. Dat is niet zozeer onze stijl. Maar als je iets anders doet, dan wordt het mogelijk om iets speciaals te doen."