Eerste cyberaanval volledig door AI gedaan blijkt keerpunt in digitale veiligheid

Hackers zetten AI in om cyberaanvallen uit te voeren. Cloudbeveiligingsbureau Sysdig deelt dat zij een hack hebben onderschept, die waarschijnlijk volledig door AI werd gedaan. De AI blijkt hardnekkiger en effectiever dan menselijke hackers, waardoor dit moment als keerpunt voor cyberveiligheid kan worden gezien.

Dat hackers AI gebruiken om malafide software te schrijven, is geen verrassing. Die AI-ransomware komt Sysdig vaak tegen. Wat ze nog niet hadden gezien, was een hack die volledig werd uitgevoerd door AI. Het doelwit was de database van AI-software Langflow. De AI-hack (intern JadePuffer genoemd) viel op vanwege verschillende trekjes, die menselijke hackers niet snel zouden vertonen.

AI-agents hacken snel, maar laten sporen achter

De AI had namelijk een uitzonderlijk goed zelfcorrigerend vermogen. Als een hack-poging mislukt, gaf de AI niet op. Het bekeek de foutmelding, begreep wat er misging en paste binnen een paar seconden de code aan om het opnieuw te proberen. In een specifiek geval loste de AI een inlogprobleem helemaal zelf op in 31 seconden. Een mens doet daar veel langer over.

Ook het tempo waarmee de AI zocht naar wachtwoorden, API-sleutels, cryptoportemonnees en cloudgegevens was aanzienlijk hoger dan dat van mensen. Hoe Sysdig echter zeker weet dat er geen mens actief de code schreef tijdens de hack, kwam door de code zelf. Deze was namelijk opvallend menselijk en omschrijvend. Zo gaf de code toelichting waarom het bepaalde keuzes maakte, vermoedelijk zodat een meekijkend persoon begrijpt hoe de AI te werk gaat.

Sysdig benadrukt hoe belangrijk deze ontdekking van de AI-aanval is. AI gaat van het schrijven van malware naar het bedenken en uitvoeren van het hele plan. De AI brak in via een bekend beveiligingslek, zocht rondslingerende gevoelige toegangsinformatie, betrad daarmee een beveiligde database en maakte zelfs achterdeurtjes om toegang te behouden tot de systemen, terwijl het ook nog zijn eigen sporen (probeerde) uit te wissen.

Nu zijn er nog eigenschappen om te herkennen dat het om een AI-hack gaat. In de toekomst kan dit alsmaar moeilijker te herkennen worden, net zoals AI-teksten, afbeeldingen en video’s die we nu al zien.