Roblox, de populaire online gamingplatform, heeft onlangs zijn chatfunctionaliteit geoptimaliseerd door een innovatieve functie te introduceren die gebruikmaakt van kunstmatige intelligentie om ongepaste taal te herschrijven in plaats van deze simpelweg te vervangen door onleesbare hashmark-tekens. Dit nieuwe systeem, dat bekendstaat als real-time chat herschrijving, stelt gamers in staat om teksten te blijven lezen tijdens gameplay, wat de algehele communicatieve ervaring verbetert.
Een voorbeeld van deze toepassing is te zien bij een bericht dat volgens de richtlijnen van Roblox ongeschikt zou zijn, zoals “Hurry TF up!” Dit zou voorheen als “####” verschijnen, maar met de nieuwe update wordt het herschreven naar “Hurry up!” Een dergelijke aanpak bevordert de leesbaarheid en zorgt ervoor dat gesprekken ook bij gebruik van ongepaste taal nog steeds nuttig blijven.
Volgens Rajiv Bhatia, Vice President van User and Discovery Product bij Roblox, is chat een cruciaal onderdeel van de interactie tussen spelers. Zijn visie is dat door het herschrijven van de taal in real-time, de gameplay en de gesprekken op een constructieve manier kunnen blijven verlopen. De implementatie van deze functie valt samen met eerdere vooruitgangen, zoals waarschuwingen die spelers in real-time informeren wanneer hun berichten mogelijk de platformregels schenden. Tijdens experimenten bleek dat deze waarschuwingen leidde tot een vermindering van 5% in gefilterde berichten en 6% minder meldingen van misbruik.
Desondanks benadrukt Roblox dat de herschreven teksten nog steeds onderhevig zijn aan hun moderatiebeleid. Bhatia verduidelijkt dat zelfs al wordt een ongeschikt bericht herschreven, het nog steeds een schending van hun beleid vormt en dat herhaaldelijke overtreders dezelfde gevolgen zullen ondervinden.
De rephrase-functie van Roblox sluit aan bij een bredere trend binnen de game-industrie. Steeds meer bedrijven integreren AI-technologieën om het gedrag van spelers in multiplayergames te modereren. Activision heeft bijvoorbeeld gerapporteerd dat meer dan 2 miljoen accounts gemarkeerd werden voor storende gesprekken na de implementatie van hun ToxMod-systeem. Dit voorbeeld onderstreept het potentieel van AI om probleemgedrag te verminderen.
Roblox’s inzet voor AI stopt echter niet bij chatfilters. In 2024 introduceerde het platform ook real-time vertalingen die communicatie tussen spelers in meer dan zestien talen ondersteunt. Deze evolutie in de communicatiefuncties van Roblox weerspiegelt hun ambitie om een inclusieve en respectvolle speelomgeving te bevorderen.
Bhatia erkent de uitdagingen van deze innovatieve benadering, maar is optimistisch over de ontwikkeling en verfijning van de technologie. Hij benadrukt dat het doel is om spelers te empoweren en tegelijkertijd een respectvolle omgeving te waarborgen.
Hoe beïnvloedt de nieuwe chatfunctie de gebruikerservaring op Roblox?
De nieuwe chatfunctie maakt de communicatie tussen spelers toegankelijker en verbetert de interactie, waardoor gesprekken vloeiender verlopen tijdens gameplay.
Wat zijn de gevolgen van herhaalde overtredingen van de chatregels?
Spelers die herhaaldelijk ongepaste taal gebruiken, zullen nog steeds geconfronteerd worden met consequenties zoals schorsingen of bans, ondanks het feit dat hun berichten worden herschreven.
Waarom kiest Roblox ervoor om AI te gebruiken in hun moderatiestrategieën?
AI helpt bij het effectief modereren van spelergedrag, verbetert de leesbaarheid van chats en draagt bij aan een veiligere en inclusievere omgeving voor alle gebruikers.
