De recente rapportage van Google’s Threat Intelligence Group (GTIG) onderstreept de toenemende dreigingen die kunstmatige intelligentie met zich meebrengt, vooral wanneer deze wordt ingezet door goed gefinancierde staatsacteurs. In hun rapport wordt een zorgwekkende stijging van pogingen tot modelextractie gesignaleerd. Dit houdt in dat kwaadwillenden AI-modellen herhaaldelijk ondervragen om hun interne logica te doorgronden en zo hun technologie na te maken. Dit speelt zich af temidden van een bredere cyclus van groeiende cyberdreigingen die steeds geavanceerder worden.
Het gebruik van grote taalmodellen (LLM’s) voor doelgerichte phishingaanvallen vormt een serieuze zorg. Cybercriminelen kunnen deze modellen nu inzetten voor technische research en het razendsnel creëren van genuanceerde phishinglures (misleidende berichten die zijn ontworpen om gevoelige informatie te verkrijgen). De rapportage wijst met name naar landen zoals Noord-Korea, Iran, China en Rusland, waar de ontwikkeling van deze capaciteiten steeds verfijnder lijkt te worden.
De toenemende inzet van AI-tools, waaronder Google’s Gemini, maakt specifieke en schaalbare aanvallen mogelijk. Deze staatsacteurs gebruiken open-source informatie om doelwitten te definiëren en hyper-gepersonaliseerde phishingaanvallen te ontwikkelen. Deze verschuiving naar AI-gestuurde phishing betekent dat traditionele indicatoren van phishing, zoals een ongepaste grammatica of vreemde zinsconstructies, steeds minder effectief zijn. Bedreigingsactoren zijn erin geslaagd om zeer persoonlijke lures te genereren die de professionele toon van een organisatie nauwkeurig nabootsen.
Een voorbeeld hiervan is dat als Gemini een biografie van een doelwit krijgt, het een geloofwaardige persona kan creëren die gericht is op het effectief aanspreken van dat doelwit. Ook vertaalt AI deze persona’s soepel naar verschillende lokale talen, wat de kans op succes van de aanval vergroot. De ontwikkeling van AI-gebaseerde tooling, gericht op het genereren van schadelijke software, heeft deze dreiging verder versterkt, waarbij AI de mogelijkheid biedt om malware op autonome wijze te ontwikkelen en te automatiseren.
Google reageert op deze zorgen door regelmatige Threat Intelligence-rapporten te publiceren en een team van experts in te schakelen dat voortdurend de dreigingen in de gaten houdt. Er wordt ook gewerkt aan het versterken van Gemini, zodat deze niet in gevaarlijke contexten kan worden misbruikt. Google DeepMind speelt een cruciale rol bij het vroegtijdig identificeren van mogelijke bedreigingen, met als doel het neutraliseren van kwaadaardige functionaliteiten vóórdat ze onbedoeld schade kunnen aanrichten.
Toch is het belangrijk te benadrukken dat, hoewel het rapport een verscherpt gebruik van AI in het dreigingslandschap signaleert, er momenteel nog geen revolutionaire doorbraken zijn te zien. De gevaren komen voort uit de toenemende mogelijkheden en middelen die door kwaadwillenden worden ingezet, wat op zich al een alarmerende ontwikkeling is voor investeerders en beleidsmakers die het speelveld van crypto en technologie nauwlettend volgen.
Hoe ontdekken bedrijven zoals Google de dreigingen van AI-gebaseerde aanvallen?
Google’s Threat Intelligence Group maakt gebruik van een combinatie van geavanceerde monitoringtools en speciale teams die zich richten op het in kaart brengen van opkomende dreigingen. Door middel van diepgaande analyses worden potentieel schadelijke trends al in een vroeg stadium gesignaleerd.
Wat is modelextractie en waarom is het zorgwekkend?
Modelextractie is het proces waarbij kwaadwillenden AI-modellen herhaaldelijk ondervragen om hun geavanceerde logica te repliceren. Dit kan leiden tot intellectuele eigendomsdiefstal en stelt aanvallers in staat om eigen AI-systemen te ontwikkelen op basis van deze gekopieerde modellen, wat een serieus risico vormt voor elke organisatie die vertrouwt op unieke AI-technologie.
Wat kunnen investeerders doen om zich te beschermen tegen deze dreigingen?
Investoren dienen te investeren in cybersecurity-oplossingen die zich richten op het identificeren en mitigeren van AI-gedreven dreigingen. Het is essentieel om technologische veerkracht te waarborgen en om bewustzijn te creëren over de mogelijke risico’s die samenhangen met de opkomst van AI in cybercriminaliteit.
