EU Onderzoekt X Voor Vermeende Tekortkomingen In Het Bestrijden Van Illegale Grok AI Inhoud

De Europese Commissie heeft maandag een formeel onderzoek ingesteld naar de vraag of X heeft voldaan aan de EU-regels voor digitale diensten door te verzuimen de risico’s te minimaliseren bij het gebruik van de Grok AI-chatbot. Deze chatbot is aangeklaagd vanwege het genereren en verspreiden van illegale inhoud, waaronder seksueel expliciete beelden van kinderen. Dit onderzoek is een kritische evaluatie van de verantwoordelijkheden die digitale platforms hebben in het beschermen van hun gebruikers, en stelt de vraag in hoeverre er adequaat is omgegaan met de ethische en juridische implicaties van AI-technologie.

De Commissie zal specifiek beoordelen of X de risico’s voldoende heeft geëvalueerd en verminderd voordat het zijn functies voor beeldgeneratie introducerde. Deze situatie benadrukt het feit dat er daadwerkelijk risico’s zijn materialiseerd, zoals de opkomst van illegale seksueel getinte inhoud, wat EU-burgers blootstelt aan ernstige schade. Het is niet alleen een kwestie van juridisch afbreken, maar ook van morele verantwoordelijkheid binnen de digitale ecosysteem.

Internationale druk en wettelijke verplichtingen

De druk op X is toegenomen, vooral in het licht van hun rol in het creëren van niet-consensuele deepfakes. Twee weken geleden heeft het bedrijfrestricties ingevoerd, waarbij de mogelijkheid om beelden te genereren beperkt is tot betalende abonnees. Technische barrières zijn geïmplementeerd om te voorkomen dat gebruikers mensen digitaal kunnen manipuleren in compromitterende situaties, en bepaalde functies zijn geblokkeerd in landen waar dergelijke inhoud verboden is. Ondanks deze maatregelen blijkt uit een recente analyse dat ongeveer een derde van de geïdentificeerde seksueel getinte beelden van kinderen nog steeds toegankelijk is op het platform van X. Dit roept ernstige vragen op over de effectiviteit van hun controlesystemen.

Henna Virkkunen, de uitvoerend vice-president voor technologie, soevereiniteit, veiligheid en democratie, heeft benadrukt dat het onderzoek moet vaststellen of X haar wettelijke verplichtingen onder de Digital Services Act (DSA) nakomt, of dat de rechten van Europese burgers, inclusief die van vrouwen en kinderen, als collateral damage zijn behandeld binnen de breedte van hun diensten.

De spelregels rond deepfake-technologie zijn controversieel en complexe. Fraser Edwards, mede-oprichter en CEO van cheqd, wijst op een fundamenteel falen van het internet: het gebrek aan een betrouwbare manier om te verifiëren wie verantwoordelijk is voor synthetische content. Dit probleem leidt ertoe dat de aansprakelijkheid vaak rust op platforms zoals X, in plaats van op de daadwerkelijke gebruikers of makers die de misleiding veroorzaken. Dit systeem vraagt om een herziening van de verantwoordelijkheden en een nieuw kader voor aansprakelijkheid dat recht doet aan de digitale realiteit van vandaag.

Indien bewezen, zou de falende aanpak die momenteel wordt onderzocht, een schending opleveren van verschillende artikelen in de DSA, waaronder de artikelen 34 en 35, die vereisen dat platforms systemische risico’s beoordelen en mitigeren, vooral die gerelateerd aan de verspreiding van illegale content en gendergerelateerd geweld. Dit onderzoek volgt op een eerdere casus uit 2023, waarbij X een boete van 140 miljoen dollar (ongeveer 120 miljoen euro) kreeg opgelegd voor misleidende ontwerpelementen en tekortkomingen in advertentietransparantie.

De Europese Commissie heeft haar onderzoek recent uitgebreid naar Grok als gevolg van eerdere zorgen over antisemitische inhoud die door de chatbot werd gegenereerd. De nadruk ligt nu niet alleen op het commercieel potentieel van dergelijke technologieën, maar ook op hun verantwoorde toepassing binnen de samenleving.

Vraag & Antwoord

Wat zijn de belangrijkste zorgen rondom Grok’s AI-functies?
De meeste zorgen zullen draaien om de mogelijkheid dat de AI illegale of schadelijke inhoud genereert, waarbij de bescherming van kwetsbare groepen, zoals kinderen, in het geding komt.

Hoe reageert X op de druk van de Europese Commissie?
X heeft reeds enkele restrictieve maatregelen aangekondigd, zoals het beperken van de toegang tot beeldgeneratiefuncties en het opleggen van technische barrières, maar de effectiviteit hiervan wordt betwijfeld.

Wat betekent dit voor de toekomst van AI-regulering in de EU?
Dit onderzoek benadrukt de noodzaak voor strengere regulering en transparantie rond AI-systemen, en zet de EU voor de uitdaging om een balans te vinden tussen innovatie en bescherming van de burger.