Roblox zegt dat het toezicht houden op de virtuele wereld hetzelfde is als 'speakeasies sluiten'.

Terwijl het online spelletjesplatform Roblox Corp wordt geconfronteerd met een rechtszaak waarin wordt beweerd dat het de uitbuiting van een Californisch meisje mogelijk heeft gemaakt, zegt de hoofdwetenschapper van het bedrijf dat het vinden van gevaarlijke inhoud in de virtuele wereld van het bedrijf niet te vergelijken is met het spotten ervan in video.

"Het is zo'n uitdaging om 3D te modereren," zei Morgan McGuire dinsdag in een interview op de Reuters Momentum conferentie in Austin. Hij had geen commentaar op de recente rechtszaak, maar zei dat Roblox is gebouwd met veiligheid en beschaafdheid op de voorgrond.

Het in San Mateo, Californië gevestigde Roblox zet bots in om door gebruikers gegenereerde spellen te patrouilleren en op knoppen te drukken om gevaarlijke inhoud te detecteren die spelers hebben vermomd.

"Dit lijkt meer op het sluiten van speakeasies," zei hij, verwijzend naar bars uit het verbodsperiode in de V.S. die zich verstoppen voor de wetshandhaving.

De BBC meldde dit jaar dat gebruikers expliciete privéruimtes hadden gecreëerd, bekend als "condo's", waar de digitale avatars van mensen virtuele seks konden bedrijven.

McGuire zei dat het bedrijf in staat is om ongepaste inhoud binnen enkele minuten te verwijderen dankzij kunstmatige intelligentiesoftware en moderatoren. Wat aan de controle ontsnapt, is niet "afschuwelijk slecht" maar eerder een schending van de voorwaarden, zei hij.

In een rechtszaak die vorige week werd aangespannen, wordt beweerd dat volwassen mannen op Roblox contact maakten met een meisje dat in 2009 werd geboren en haar aanspoorden om zich aan te melden bij Discord, Snap Inc's Snapchat en Meta Platforms Inc's Instagram om met hen te praten. In de aanklacht wordt beweerd dat ze haar onder druk zetten om te drinken, voorgeschreven medicijnen te misbruiken en expliciete afbeeldingen te versturen, wat later zelfmoordpogingen veroorzaakte.

McGuire zei dat Roblox gebruikers verbiedt om telefoonnummers of off-platform links te plaatsen. Maar nu het momentum groeit om ongelijksoortige werelden met elkaar te verbinden in een alternatieve digitale realiteit die de metaverse wordt genoemd, is Roblox in gesprek met een consortium van bedrijven over hoe ze kunnen samenwerken met het oog op verschillende standaarden, zei hij.

"Een echte uitdaging wanneer we naar het open metaverse-concept beginnen te kijken, is dat we willen kunnen behouden wat we hebben opgebouwd en niet zomaar alles toelaten op ons platform," zei hij.