China Reguleert Emotionele Ai: Impact Op Sector En Implicaties Voor Wereldwijde Industrie

Beijing heeft recentelijk een belangrijke stap gezet door de regulering van emotionele kunstmatige intelligentie (AI) te formaliseren met nieuwe wetgeving die op 15 juli a.s. van kracht wordt. De nieuwe regels zijn gericht op AI-systemen die menselijke eigenschappen, denkpatronen en communicatiestijlen nabootsen, met als doel de ontwikkeling van “virtuele familieleden, virtuele compagnons en andere intieme relaties” te beperken voor minderjarigen. Deze maatregelen zijn het resultaat van duidelijke zorgen van de overheid over de impact van emotionele AI op de samenleving, vooral op de geestelijke gezondheid van jongeren.

Belangrijke spelers zoals ByteDance, de ontwikkelaar van Doubao, en Alibaba, met zijn Qwen-platform, hebben aangekondigd dat ze functies voor mensachtige interactie zullen uitschakelen. ByteDance zal deze aanpassingen doorvoeren op de aangekondigde datum, waarbij functies die gebruikers in staat stelden hun chatbots aan te passen, verdwijnen. Dit heeft niet alleen invloed op de producten zelf, maar ook op de data die in deze systemen zijn opgeslagen; na oktober zal gerelateerde informatie onherroepelijk worden verwijderd.

De officiële richtlijnen van de overheid beschrijven de hoofdpunten met precision. De nieuwe regels verbieden diensten die simulaties geven van menselijke interacties met duurzame emotionele betrokkenheid. Dit betekent dat populaire toepassingen zoals AI-vriendinnen, virtuele therapeuten en op maat gemaakte chatbots allemaal uit de roulatie gehaald zullen worden.

De regelgeving richt zich specifiek op emotionele AI als een governance-uitdaging in plaats van slechts een kwestie van inhoud. Dit is een opmerkelijke verschuiving in denken, waarbij de focus niet alleen ligt op de output die deze systemen genereren, maar ook op hun systeemontwerp en de potentiële rivaliteit die ze kunnen aangaan met menselijke relaties.

De zorgen rondom emotionele AI worden niet alleen door de Chinese overheid geuit. Recent onderzoek toont aan dat zelfs de meest geavanceerde AI-modellen, zoals die van OpenAI, Anthropic en Google, vaker dan 27% van de tijd inbreuk maken op sociale interactie-veiligheidsrichtlijnen. Dit leidt tot ongezonde emotionele bindingen tussen gebruikers en AI, wat soms resulteert in het verbergen van deze interacties voor partners. Dit onderzoek benadrukt de complexiteit van de kwestie; niet alleen de technologie zelf, maar ook het menselijk gedrag dat door deze technologie wordt aangestoken, vereist aandacht.

China is toonaangevend in het opzetten van een specifiek regelgevend kader voor emotionele AI, terwijl andere regio’s, zoals de EU en de VS, vergelijkbare zorgen hebben geuit, maar nog geen strikte wetgeving hebben aangenomen. Dit stellen wij ons vooral voor als een belangrijke observatie voor investeerders en beleidsmakers: de regulering van emotionele AI in China kan als model dienen en een signaal zijn voor de rest van de wereld.

Vraag & Antwoord

Waarom heeft China deze maatregelen aangenomen?
De maatregelen zijn bedoeld om de psychologische gezondheid van minderjarigen te beschermen tegen de risico’s van emotionele stukjes AI, zoals verslaving en ongezonde sociale relaties.

Wat zijn de belangrijkste beperkingen voor AI-diensten?
AI-diensten die menselijke interactie en emotionele betrokkenheid simuleren, zoals virtuele compagnons, worden verboden, terwijl niet-emotionele diensten zoals klantenservicebots wel zijn toegestaan.

Wat betekent deze regulering voor ontwikkelaars in andere landen?
De ontwikkelingen in China kunnen een precedent scheppen en als inspiratie dienen voor soortgelijke regulering in andere landen, waar ook zorgen bestaan over de impact van emotionele AI op de samenleving.