Nieuwe Aanpak Voor Financieel Risico Beheer Bij Foutieve Handelingen Van AI Agents

Een toenemend aantal AI-systemen neemt verantwoordelijkheden op zich die voorheen door mensen werden uitgevoerd, zoals het beheren van betalingen en het uitvoeren van financiële transacties. Dit brengt serieuze zorgen met zich mee over de financiële risico’s die mensen lopen wanneer deze systemen falen. Onderzoekers van vooraanstaande techbedrijven en universiteiten – waaronder Microsoft en Google DeepMind – pleiten ervoor dat de bestaande veiligheidsmaatregelen voor AI tekortschieten. Zij benadrukken de noodzaak van nieuwe methoden die de risico’s op een meer robuuste manier kunnen beheren.

In een recent gepubliceerde studie stellen deze onderzoekers de “Agentic Risk Standard” voor. Dit is een kader dat is ontworpen om gebruikers te compenseren die schade lijden door fouten van een AI-agent, zoals het verkeerd uitvoeren van een taak of het niet tijdig leveren van een dienst. De paper benadrukt dat technische waarborgen slechts een probabilistische zekerheid bieden, terwijl gebruikers in situaties met hoge inzet vaak handhaafbare garanties op de uitkomsten vereisen. Het is een cruciale overweging, vooral voor investeerders en analisten die zich afvragen wat deze ontwikkelingen betekenen voor de bredere cryptomarkt en de financiële sector.

De Agentic Risk Standard introduceert financiële waarborgen in de uitvoering van AI-taken. Voor minder risicovolle taken, waarbij de gebruiker voornamelijk een servicevergoeding betaalt, wordt betaling in een escrow-rekening gehouden en pas vrijgegeven nadat het werk is goedgekeurd. In contrast, voor hogere risico-taken, zoals trading of valuta-exchanges, komt er een onderwriter in beeld. Deze onderwriter beoordeelt het risico, vereist dat dienstverleners onderpand bieden en vergoedt de gebruiker in het geval van een gedekte fout. Dit biedt niet alleen een gevoel van zekerheid, maar kan ook de weg effenen voor een structurele hervorming in de manier waarop financiële interacties worden afgehandeld.

Hoewel de Agentic Risk Standard een vooruitstrevende stap is, blijft het belangrijk te erkennen dat niet-financiële schade, zoals hallucinaties in AI, laster of psychologisch letsel, buiten dit kader vallen. De praktijk van risicobeheer voor deze schade blijft een onopgelost probleem. De onderzoekers onderstrepen dat hun systeem in een simulatie is getest met 5.000 proeven, maar zij wijzen ook op de beperkingen van deze opzet, die niet bedoeld was om de werkelijke faalpercentages in de praktijk weer te geven.

De bevindingen uit de simulatie benadrukken de noodzaak voor verder onderzoek naar risicomodellering en het empirisch meten van faalfrequenties onder omstandigheden die lijken op een praktische inzet. Het ontwerpen van onderwriters en onderpandregelingen die bestand zijn tegen detectorfouten en strategisch gedrag is cruciaal voor de toekomst. Deze uitdagingen kunnen voor investeerders en analisten significante implicaties hebben, vooral in het licht van de groeiende integratie van AI in financiële markten en de daaruit voortvloeiende aansprakelijkheden.

Vraag & Antwoord

Wat houdt de Agentic Risk Standard in?
De Agentic Risk Standard is een nieuw kader dat financiële waarborgen biedt voor gebruikers van AI-systemen, waarbij het risico op verliezen bij verkeerde uitvoering van taken wordt gemitigeerd door onderwriters en escrow-rekeningen.

Waarom zijn technische waarborgen onvoldoende?
Technische waarborgen bieden slechts probabilistische zekerheid, terwijl gebruikers in kritieke situaties vaak betrouwbare en handhaafbare garanties nodig hebben over de uitkomsten van diensten die door AI worden geleverd.

Wat zijn de beperkingen van het huidige systeem?
De huidige frameworks adresseren vooral financiële risico’s en negeren niet-financiële schade, zoals psychologische impact of hallucinaties, wat een aanzienlijk pijnpunt blijft voor het beheer van risico’s in AI-systemen.