Epic Games heeft onlangs een AI-gestuurde Darth Vader-personage geïntroduceerd in Fortnite, gebaseerd op de stem van de overleden acteur James Earl Jones. Helaas deed zich al snel een probleem voor: spelers bleken in staat om de AI te manipuleren zodat deze racistische en homofobe uitdrukkingen, naast een aantal scheldwoorden, uitsprak.
Het personage werd vrijdag gelanceerd als onderdeel van het Star Wars/Fortnite crossover-evenement “Fortnite: Galactic Battle.” De dialoog van Darth Vader in het spel is ontwikkeld door het New Yorkse bedrijf ElevenLabs, dat gespecialiseerd is in stem-AI. Deze slimme creatie kan in real-time antwoorden geven op spelers. En dat leidde binnen enkele uren tot een storm van sociale media waarin spelers de Dark Lord met ongepaste woorden aan het woord kregen.
De situatie escaleerde snel; talloze video’s doken op waarin spelers de AI-uitdrukking juist zo uitlokten dat hij beledigende en kwetsende taal gebruikte. Epic Games reageerde vrijwel direct na het viral gaan van deze clips. Het bedrijf gaf aan dat er een hotfix was uitgerold om deze ongewenste woordenschat te verhelpen. De verklaring vermeldde dat hun filters voor contentmodificatie hadden gefaald, waardoor dit voorval mogelijk was geworden. Alhoewel er vooraf speciale regels waren ingesteld om dergelijk gedrag te voorkomen, gebeurde het toch. Ze verzekerden dat de recente update dit soort incidenten in de toekomst moet voorkomen.
De AI-functie die voor Darth Vader is gebruikt, omvat drie lagen aan veiligheidfilters om te zorgen voor een veilige gebruikerservaring. Het eerste filter komt van Gemini, het tweede biedt instructies om ervoor te zorgen dat de AI-antwoordformuleringen voldoen aan de communityregels, en het derde is een laatste controle om eventuele overtredingen van haatdragende of kwetsende taal te detecteren.
Darth Vader heeft zijn karakteristieke stem te danken aan eerder opgenomen geluidsfragmenten van James Earl Jones, die in 2024 overleed maar diens stem al eerder aan Lucasfilm had gelicentieerd. Epic Games heeft daarom de eer en verantwoordelijkheid om de stem van Jones te gebruiken, een eerbetoon aan de legendarische acteur.
Wat betreft generatieve AI, heeft Epic Games sinds 2023 hun nieuwsgierigheid omarmen, zelfs terwijl andere bedrijven proberen deze technologie te beperken. Dit is niet de eerste keer dat AI-gegenereerde content op zorgelijke wijze in Fortnite aan de orde kwam. In januari 2024 moest Epic snel ingrijpen toen er racistische afbeeldingen op gebruikerscreaties opdoken.
Epic Games is zich bewust van de kwetsbaarheid van het platform en erkent dat hun moderators de neiging hebben om vanuit goede bedoelingen te werken. Ze passen een relatief lichte censuur toe om creativiteit en vrijheid te bevorderen. Maar soms kunnen deze goede bedoelingen leiden tot ongewenste resultaten, wat duidelijk naar voren komt in het Darth Vader-incident.
Waarom zorgde de AI-gestuurde Darth Vader voor controverse?
De AI-gestuurde Darth Vader sprak kwetsende taal, waaronder racistische en homofobe uitdrukkingen, wat spelers tot verontwaardiging leidde.
Wat heeft Epic Games gedaan om het probleem op te lossen?
Epic Games heeft onmiddellijk een hotfix uitgerold om de filters te verbeteren, zodat dergelijke ongepaste uitspraken niet opnieuw kunnen plaatsvinden.
Waarom is de stem van James Earl Jones zo belangrijk voor de AI-Darth Vader?
De stem van James Earl Jones verleent authentieke diepgang aan het personage en is een eerbetoon aan de legendarische acteur, die zijn stem voor het karakter had gelicentieerd.
