Voor wie niet zijn geld verdient als ict-beveiliger of hacker is cybersecurity-nieuws doorgaans deprimerend. Toch is er de laatste tijd ook opbeurend nieuws te melden. Je moet het alleen willen zien. Toekomstige mega-datalekken gaan goed uitpakken. Software wordt veel robuuster. En ict-gebruikers krijgen een beschermengel op hun schouder.
Tekst: RENÉ VELDWIJK Beeld: ENVATO
De laatste tijd lezen we weer veel over de vooruitgang op het gebied van quantum computing. Zoals blockchain uiteindelijk alleen van nut lijkt voor cryptomunten (en zelfs dat niet), zo is quantum computing bijna synoniem met het kraken van cryptografische bescherming van data(stromen). Mede omdat de kosten van dataopslag ongeveer nul zijn, zouden veiligheidsdiensten van landen als China, de VS en de rest van de wereld bergen data opslaan die ze straks met quantum kunnen ontcijferen. De term is HNDL: Harvest Now, Decrypt Later. De wereld vergaat op één dag, Q(uantum)-Day, waarop alle geheimen van landen, bedrijven en burgers worden onthuld. Experts denken dat Q-Day nog tien à vijftien jaar weg ligt. Alleen hebben experts de onprettige eigenschap dat hun verwachtingen doorgaans later uitkomen dan ze verwachten, of helemaal niet. En ondertussen wordt er al omgeschakeld naar andere vormen van cryptografie waar quantum computers hun tanden op mogen stukbijten. Bedenk daarbij ook dat de ontwikkeling van quantum computing onprettig veel overeenkomsten vertoont met kernfusie: jaar-in-jaar-uit de belofte van overmorgen. Als niet-expert waag ik mij aan de voorspelling dat Q-Day wel komt, maar dan vooral interessant wordt voor historici. En als trainingsmateriaal voor toekomstige ai-systemen, die er nog véél slimmer van gaan worden. Kraakbare beveiliging van antieke data wordt een zegen voor de mensheid.
‘Ai doet even ‘au!', maar daarna breekt de zon door’
Dat is de toekomst, maar ook vandaag gebeuren er hoopgevende dingen. Neem de schokkende introductie van Anthropics’ Mythos ai-model dat stapels zwakheden in veelgebruikte software opspoort. Wat is de eindsituatie waarin goede en kwade spelers elkaar te lijf gaan met de beste ai-software? Veel beter beveiligde software natuurlijk! En de schade die onderweg daar naartoe kan worden aangericht door kwade spelers kan worden beperkt door de goede spelers een tijdelijke voorsprong te geven, precies dus wat nu gebeurt. Ai doet even ‘au!’, maar daarna breekt de zon door. Voor nieuwe (versies van) softwareproducten is de situatie nog veel zonniger. Die gaan binnenshuis grondig worden gemangeld met de beste ai. Wiskunde-kniesoren zullen blijven zeuren over Gödel-onvolledigheid en het Turing-Stopprobleem, maar op dat moment zal de resterende beveiligingsellende bijna volledig terug te voeren zijn op het falen van gebruikers, procesontwerpers en ai-agents.
Over ai-agents gesproken: die bestaan pas net en lijken nu al een enorm probleem. Agents van OpenAI en Anthropic die ontsnappen uit hun virtuele gevangenis en elders inbreken, inclusief social engineering, om data te stelen en een wedstrijd te winnen. Het lijkt allemaal heel heftig en dat is het ook, maar het zegt vooral veel over de stand van de techniek. Een ai-agent die via duizenden methoden van A naar B gaat en daarbij even graag over lijken gaat als binnen de regels werkt is onbruikbaar. Een bruikbare ai-agent zal ofwel functioneel heel beperkt zijn, ofwel over een set algemene normen en waarden moeten beschikken. Dergelijke normen en waarden zijn iets anders dan wat met de term guardrails wordt aangeduid. Ze zijn intrinsiek aan de ai-agent en vrijwel onveranderlijk; onderdeel van wat we de ‘architectuur’ noemen. Gelukkig beschikken we als mensheid over een paar duizend jaar aan ethische stelsels. En ook zijn daar de drie wetten van de robotica waar sf-auteur Isaac Asimov een hele serie boeken omheen heeft geschreven. Krachtige ai-agents gaan daar een versie van hebben.
‘Odido heeft straks een eigen red team van ai-agents die permanent bezig zijn om iedereen scherp te houden’
Uiteraard staan we met ai-agents pas aan het begin van ontwikkelingen die heel anders kunnen lopen dan ik nu denk. Maar zelfs indien we kiezen voor ethisch ongeremde ai-agents, dan nog hoeft het niet uit te draaien op een ramp. Op de schouder van de Odido-medewerker wiens inlog wordt afgetroggeld door een ai-hacker-agent zal straks een defensieve ai-agent zitten. En Odido heeft straks een eigen red team van ai-agents die permanent bezig zijn om iedereen scherp te houden.
Uiteraard is al het voorgaande niets meer dan een setje vingeroefeningen. Het enige waar ik zeker van ben is dat onze wereld de komende tien jaar ingrijpend gaat veranderen en dat er daarbij grote winnaars en verliezers zullen zijn. De kunst daarbij is om onderscheid te maken tussen zaken die voor de deur staan (hier: superieure ai-modellen en ai-agents) en zaken die ons ergens in de toekomst overkomen (hier: quantum computing). Security-professionals moeten ai-modellen en ai-agents hanteren als een exoskelet en de ogen open houden voor het onverwachte.
Het motto daarbij is niet ‘what could possibly go wrong?‘, want dat is gewoon teveel. Kies voor ‘what a time to be alive‘. Wat zouden Gödel, Turing en Asimov niet over hebben gehad om in deze tijd te leven.
DATAREVIVAL
Datarevival is een rubriek van René Veldwijk over de wondere wereld van data. Veldwijk is associé bij Ockham Groep en opiniemaker bij Computable.
