Belangenorganisaties Vragen OpenAI Om Heroverweging Van ‘kids Safe Ai Act’ Vanwege Kinderveiligheid

Een aantal belangenorganisaties heeft OpenAI aangespoord om een initiatief voor stemverklaring in California, gericht op de veiligheid van kunstmatige intelligentie (AI), in te trekken. Critici beweren dat deze maatregel de bescherming van kinderen kan verzwakken en de juridische aansprakelijkheid voor AI-bedrijven kan beperken.

In een brief, verzonden naar OpenAI, benadrukken deze groepen dat het voorgestelde “Parents & Kids Safe AI Act” tekortschiet op het gebied van kindveiligheid. De kritiek richt zich met name op de nauwe definitie van ‘schade’ die in de maatregel wordt gehanteerd, evenals de beperkingen voor gezinnen om rechtszaken aan te spannen en de toekomstige wettelijke verankering van AI-regelgeving in California. De betrokken organisaties, waaronder Encode AI en de Electronic Privacy Information Center, roepen OpenAI op om de juridische stappen rondom dit initiatief te heroverwegen.

Het hart van de discussie ligt bij de regels die zijn vastgesteld voor hoe AI-chatbots met minderjarigen dienen om te gaan. De opzet houdt veiligheidsvereisten en compliance-normen in, maar volgens de betrokken belangenorganisaties zijn deze regels onvoldoende. Zo beweren zij dat de maatregel schade te smal definieert, waardoor het strafbaar stellen van overtredingen moeilijker wordt en de mogelijkheden voor gezinnen om rechtszaken aan te spannen wordt beperkt. Dit kan vooral problematisch zijn gezien de recente trends waarbij families juridische stappen ondernemen tegen technologiebedrijven als gevolg van schadelijke interacties met AI-systemen.

OpenAI beschikt momenteel over het initiatief zelf, wat betekent dat het bedrijf de controle heeft over de verdere ontwikkeling en uitvoering van de stemverklaring. Als OpenAI besluit niet verder te gaan, zou dit de weg vrijmaken voor wetgevers om proactieve maatregelen te nemen zonder de druk van een mogelijke stemming die niet in het belang van de publieke veiligheid is.

Er zijn ook zorgen over hoe het voorstel omgaat met gebruikerdata. De inhoudelijke definitie van ‘versleutelde gebruikersinhoud’ die wordt gehanteerd kan het voor ouders en onderzoekers moeilijk maken om toegang te krijgen tot gesprekslogs van chatbots, wat cruciaal kan zijn in rechtszaken. Dit kan de juridische bescherming van kinderen zelfs verder ondermijnen.

Bovendien waarschuwen de belangenorganisaties dat de maatregel als het eenmaal is aangenomen, moeilijk te wijzigen zal zijn. Dit komt doordat het wettelijk vereisen van een tweederde meerderheid in de wetgevende macht om wijzigingen aan te brengen een aanzienlijk obstakel vormt. In een tijdperk waarin de technologische omgeving razendsnel verandert, worden wetgevers hierdoor beperkt in hun vermogen om effectief te reageren op nieuwe risico’s.

Naast OpenAI zijn er verschillende andere technologiebedrijven die onder vuur liggen vanwege de impact van hun AI-toepassingen. Recentelijk hebben families in andere rechtszaken soortgelijke beschuldigingen geuit tegen bedrijven zoals Google, die worden aangeklaagd wegens vermeende schade veroorzaakt door hun AI-systemen. Dit wijst niet alleen op de kwetsbaarheid van de huidige regelgeving, maar ook op een bredere trend waarbij technologiebedrijven proberen de regels te dicteren die hen reguleren.

Het is cruciaal dat bedrijven actief hun verantwoordelijkheden inzien en zich niet beperken tot het maximaliseren van hun winst ten koste van de samenleving. Zoals Adam Billen, een van de betrokken belangenbehartigers, terecht opmerkte: technologiebedrijven moeten niet de enigen zijn die de spelregels bepalen, vooral als deze regels hun eigen aansprakelijkheid en verantwoordelijkheden verlichten.

Vraag & Antwoord

Wat zijn de hoofdzorgen rondom het ‘Parents & Kids Safe AI Act’?
De zorgen richten zich vooral op de beperkte definitie van ‘schade’, wat gezinnen zou kunnen uitsluiten van het recht om juridische stappen te ondernemen in geval van schade aan kinderen, evenals de potentiële gevolgen voor de verzameling van gebruikersdata.

Hoe kan dit initiatief de toekomstige AI-regelgeving in California beïnvloeden?
Als het initiatief wordt aangenomen, kan het moeilijk te wijzigen zijn, aangezien toekomstige wijzigingen een tweederde meerderheid in de wetgevende macht vereisen. Dit zou wetgevers kunnen beletten om adequaat te reageren op opkomende problemen binnen de snel ontwikkelende AI-omgeving.

Waarom is het belangrijk dat bedrijven niet de regels schrijven die hen reguleren?
Wanneer bedrijven het voor het zeggen hebben over hun eigen regulering, is de kans groot dat publiek belang en veiligheid ondergeschikt raken aan hun commerciële belangen, hetgeen zou kunnen leiden tot onveilige situaties voor kwetsbare groepen zoals kinderen.