Het nieuwe model, dat intern MAI-1 wordt genoemd, staat onder toezicht van de onlangs ingehuurde Mustafa Suleyman, de medeoprichter van Google DeepMind en voormalig CEO van AI-startup Inflection, aldus het rapport, dat zich beroept op twee Microsoft-werknemers die op de hoogte zijn van de inspanningen.
Het precieze doel van het model is nog niet vastgesteld en zal afhangen van hoe goed het presteert. Microsoft zou een voorvertoning van het nieuwe model kunnen geven tijdens de Build-ontwikkelaarsconferentie later deze maand, aldus het rapport.
Microsoft gaf geen commentaar toen Reuters contact met hen opnam.
MAI-1 zal "veel groter" zijn dan de vorige kleinere, open source modellen die Microsoft eerder heeft getraind, wat betekent dat het duurder zal zijn, aldus het rapport.
Microsoft lanceerde vorige maand een kleiner model voor kunstmatige intelligentie, Phi-3-mini genaamd, in een poging om een breder klantenbestand aan te trekken met kosteneffectieve opties.
Het bedrijf heeft miljarden dollars geïnvesteerd in OpenAI en de technologie van de ChatGPT-maker ingezet in zijn pakket productiviteitssoftware, waardoor het al vroeg een voorsprong kon nemen in de generatieve AI-race.
Volgens het rapport heeft Microsoft grote servers opzij gezet die zijn uitgerust met grafische verwerkingseenheden van Nvidia, samen met grote hoeveelheden gegevens om het model te verbeteren.
MAI-1 zal ruwweg 500 miljard parameters hebben, aldus het rapport, terwijl OpenAI's GPT-4 naar verluidt een biljoen parameters heeft en Phi-3 mini 3,8 miljard parameters meet.
Microsoft heeft Suleyman in maart aangesteld als hoofd van zijn nieuw opgerichte AI-eenheid voor consumenten en heeft verschillende werknemers van Inflection aangenomen.
Het nieuwe model wordt niet overgenomen van Inflection, hoewel het kan voortbouwen op trainingsgegevens van de startup, voegde het rapport eraan toe.
