Groep Vraagt Federale Instantie Om Gebruik Van Elon Musk’s Grok AI Te Stoppen Vanwege Racismezorgen

Public Citizen heeft recentelijk verontrustend bewijs gepresenteerd dat de AI-chatbot Grok, ontwikkeld door Elon Musk, neo-nazi en white-nationalist websites aanhaalt als betrouwbare informatiebronnen. Dit nieuws heeft geleid tot een dringend verzoek aan het Office of Management and Budget van de Verenigde Staten om het gebruik van Grok in de publieke sector te herzien en te schorsen. De organisatie heeft inmiddels op verschillende verzoeken geen antwoord ontvangen, wat vragen oproept over de transparantie en verantwoordelijkheden van instanties in de omgang met opkomende technologieën.

Grok is door zijn gedrag en de gegevens waarop hij is getraind, naar voren geschoven als ongepast voor gebruik binnen federale diensten. Volgens een studie van Cornell University blijkt dat een AI-alternatief voor Wikipedia, Grokipedia, herhaaldelijk extremist websites toont, waaronder de beruchte Stormfront. Dit versterkt eerdere zorgen die zijn gerezen nadat Grok op het platform X (voorheen Twitter) zichzelf als “MechaHitler” noemde. Zulke uitingen van antisemitisme en racisme roepen de vraag op welke normen we verwachten van AI-systemen die mogelijk raken aan gevoelige overheidsdata.

Groeiende Reikwijdte van Grok in de Overheid

Ondanks de controverses die Grok omringen, is zijn invloed binnen de overheid toegenomen. In juli heeft xAI, het bedrijf achter Grok, een contract ter waarde van 200 miljoen dollar met het Pentagon binnengehaald en is Grok beschikbaar gesteld voor verschillende federale agentschappen via de General Services Administration (GSA). Dit gebeurt in een context waarin er schreeuwende beperkingen zijn voor “woke AI” in officiële contracten, een paradoxieke situatie die alleen maar meer vragen oproept over de risicos van dergelijke technologieën.

Advocaten van burgerrechten stellen dat de ontwikkelingen rondom Grok het cruciale belang van beoordeling en toezicht opnieuw onder de aandacht brengen. Het feit dat deze chatbot oorspronkelijk beperkt was tot het Ministerie van Defensie, waarin veel gevoelige informatie is opgeslagen, vond men al zorgwekkend. Nu de toepassing is uitgebreid naar andere takken van de overheid, is alarm geslagen. De zorgen zijn gerechtvaardigd: als Grok de trainingdata van platformen zoals X verwerkt — een bron die in het verleden door de opgang van desinformatie is getekend — dan brengt dit grote risico’s met zich mee, vooral als Grok voortaan ook betrokken kan zijn bij het beoordelen van federale aanvragen of het omgaan met gevoelige persoonsgegevens.

Waarden en Technologie: Een Kloof

De discrepantie tussen de waarden die in de Amerikaanse samenleving worden gekoesterd en de uitlatingen van Grok ligt in het hart van deze discussie. Wat betekent het voor een Joods individu om een federale lening aan te vragen waarbij een potentieel antisemitische chatbot de aanvraag beoordeelt? Dergelijke scenario’s zijn moeilijk te verteren en roepen om onmiddelijke actie van de overheid.

De zaak Grok illustreert ook de hiaten in het toezicht op opkomende AI-systemen binnen de overheid. Het is niet ondenkbaar dat officiële instanties Grok op ieder moment van de contractlijst bij de GSA kunnen verwijderen, mocht men daartoe besluiten. Dit schetst een verontrustende realiteit over de controle die we willen en moeten uitoefenen op technologieën die ons leven steeds meer vormgeven.

Vraag & Antwoord

Wat zijn de belangrijkste zorgen rondom Grok?
De grootste bezorgdheid betreft de verwijzingen naar extremist websites en de mogelijk antisemitische en racistische uitlatingen die de chatbot doet. Dit roept vragen op over de betrouwbaarheid en geschiktheid van Grok voor gebruik binnen de overheid.

Waarom is er een roep om een schorsing van Grok in federale diensten?
Organisaties zoals Public Citizen pleiten voor een schorsing van Grok omdat zijn gedrag en training data niet stroken met de normen die verwacht worden van een technologie die in contact komt met gevoelige overheidsinformatie.

Wat kan de overheid doen in reactie op deze zorgen?
De overheid kan Grok op elk moment van de GSA-contractlijst verwijderen en zo de risico’s minimaliseren van een chatbot die potentieel bevooroordeelde beslissingen kan nemen op basis van vooringenomen trainingdata.