Van Ai-modellen Naar Autonome Beslissystemen: Het Vertrouwen In Financiële Technologie

Tijdens de financiële bijeenkomst van SAS Innovate on Tour op 2 juni in Amsterdam, was de overgang van individuele AI-modellen naar deels autonome beslissystemen een centraal thema. De kernvraag voor banken en verzekeraars verschuift van “Hoe goed is mijn model?” naar “Kan ik de beslissingen van dit systeem vertrouwen?”.

Maurits Bakker, risicoleider bij SAS Benelux, opende de middag met een belofte die als sciencefiction klinkt: een balans die zichzelf voortdurend aanpast. Bakker, met ruim twintig jaar ervaring in risicofuncties bij internationale banken en verzekeraars, begon zijn betoog met een citaat van Albert Einstein: “We kunnen onze problemen niet oplossen met dezelfde manier van denken waarmee we ze hebben veroorzaakt.”

Menselijke goedkeuring vereist

Bakker benadrukt dat de menselijke rol niet in het maken van berekeningen ligt, maar in het vellen van een oordeel en het bewaken van de governance. Het bepalen van de risicobereidheid blijft mensenwerk; de AI-agent adviseert, maar beslist niet.

De verschuiving van risico

Dr. Ian Brown, Global Head of AI & Data Science bij SAS, benadrukte dat het grootste risico niet langer in het model zelf zit, maar in het systeem eromheen. De oude vraag was of een model accuraat was, de nieuwe is wat deze systemen mogen doen.

Patrick Özer, partner bij KPMG Advisory, en Frederic Hennequin, Head of AI for Risk, Fraud & Compliance bij SAS, belichtten de rol van AI in de strijd tegen fraude. Ze wezen op de toename van fraude en hoe AI deze wapenwedloop aan beide kanten versnelt.

Özer en Hennequin benadrukten het belang van continue validatie in het licht van de veranderende aard van fraude en het feit dat controles kunnen verslechteren.

De kloof tussen intentie en actie

Hennequin benadrukt dat governance vanaf het ontwerp moet worden ingebouwd, en niet als een bijzaak achteraf. Elke beslissing moet traceerbaar en uitlegbaar zijn, en modellen moeten continu worden gemonitord op prestaties, bias en drift.

De echte uitdaging is de overgang van individuele modellen naar bestuurde beslissystemen, waarbij elke keuze te herleiden, uit te leggen en te controleren is. Het gaat niet om het aantal of de intelligentie van de modellen, maar om het vertrouwen in de beslissingen die deze systemen nemen.