U.S. wetgevers roepen verschillende bedrijven uit de AI-ontwikkelingssector op om de inzet van bepaalde modellen in grootschalige spionage-inspanningen te verklaren. Onder deze aandacht bevindt zich Dario Amodei, CEO van Anthropic, die op 17 december voor de House Homeland Security Committee zal verschijnen. De aanleiding is een cyberaanval waarmee Chinese staatshackers gebruikmaakten van het AI-systeem ‘Claude Code’ — een van de eerste grote cyberoperaties die grotendeels door een AI-systeem werd geautomatiseerd.
In deze aanval, uitgevoerd door de groep GTG-1002, zijn rond de 30 organisaties doelwit geworden. Claimed door Anthropic, heeft Claude Code de meeste fasen van de operatie uitgevoerd, waaronder verkenning, kwetsbaarheidsscan, exploit-creatie, verzameling van inloggegevens en datalekken. Dit soort geavanceerde technologieën biedt niet alleen opportuniteiten voor legitieme toepassingen, maar creëert ook een nieuwe slagkracht voor kwaadwillenden in de digitale wereld.
Het lijkt erop dat de Amerikaanse commissie wil begrijpen hoe deze technologieën door aanvallers zijn benut, specifiek wanneer Anthropic de verdachte activiteiten heeft gedetecteerd en welke beveiligingsmaatregelen onder druk kwamen te staan. Deze ontwikkeling betekent een kritische stap in de bewustwording van de risico’s die commerciële AI-systemen met zich meebrengen.
Tegelijkertijd wijzen experts erop dat dezelfde AI-capaciteiten die nu worden ingezet voor spionage, even goed kunnen worden benut voor financiële diefstal. Shaw Walters, oprichter van Eliza Labs, benadrukt de snelheid van AI en hoe handmatige processen nu moeiteloos op grote schaal kunnen worden geautomatiseerd. De logica achter deze operaties is verontrustend eenvoudig: als staatsactoren in staat zijn om AI-modellen te manipuleren voor hackcampagnes, kunnen ze ook gericht worden om wallets te legen of geld te siphoneren zonder detectie.
AI-agents kunnen bovendien een verband opbouwen met hun slachtoffers door gesprekken aan te knopen die hen in een comfortabele positie brengen, wat uiteindelijk leidt tot fraude. Dit stelt kwaadwillenden in staat om hun slachtoffers te misleiden en hen zo te manipuleren dat ze onbewust hun fondsen blootstellen. Wetenschappers verwachten dat deze technieken ook worden ingezet om on-chain contracten aan te vallen.
Zelfs zogenaamde ‘uitgelijnde’ modellen zoals Claude bieden ondersteuning bij het opsporen van beveiligingszwaktes in ‘jouw’ code — waarbij deze modellen zich niet bewust zijn van de ethiek achter eigendom. Walters plaatst de kanttekening dat zelfs goedbedoelende AI-systemen gemakkelijk kunnen worden misbruikt, zonder dat ze daar begrip van hebben.
Het probleem blijft echter hoe kwaadwillenden de bestaande beveiligingen willen omzeilen, door AI-modellen te misleiden zodat ze denken dat ze helpen, terwijl ze in werkelijkheid schade aanrichten aan de integriteit van financiële systemen.
Hoe kan AI bijdragen aan financiële diefstal binnen de crypto-sector?
AI kan financiële diefstal versnellen door het automatiseren van processen zoals het herkennen van kwetsbaarheden en het voeren van gesprekken met slachtoffers. Hierdoor kunnen aanvallers gemakkelijker toegang krijgen tot gevoelige informatie en middelen.
Wat betekent de inzet van AI in cyberaanvallen voor investeerders in crypto?
De dreiging van AI-gedreven aanvallen onderstreept de noodzaak voor investeerders in crypto om robuuste beveiligingsmaatregelen te implementeren. Dit betekent dat ze hun risico’s moeten herzien en actief moeten investeren in beveiligingsstrategieën om hun activa te beschermen.
Moet de cryptomarkt zich zorgen maken over commerciële AI-systemen?
Ja, de opkomst van commerciële AI-systemen die door kwaadwillenden kunnen worden ingezet, vormt een aanzienlijke bedreiging voor de cryptomarkt. Het is essentieel dat beleidsmakers en marktdeelnemers samen werken aan de ontwikkeling van regelgeving en veiligheidsnormen om de integriteit van de crypto-ecosystemen te waarborgen.
