De opkomst van artificiële intelligentie (ai) zou moeten leiden tot herbezinning over hoe de wereld in elkaar zit. En dat gaat zowel over onze ict-wereld in enge zin als over onze ideeën ‘mens versus machine’ en (zelf)bewustzijn.
Tekst: RENÉ VELDWIJK Beeld: ENVATO
Ik ben geen Zen Master en mijn samenvatting van Zen in één zin is heel erg ‘on-zen’, maar een idee bij deze boeddhistische filosofie is dat analyse en reductionisme, het opdelen van een concept, probleem of systeem in onderdelen, leidt tot verlies aan inzicht. Zen brengt geen materiële rijkdom, maar heeft wel een punt: analyse geeft inzicht maar maakt blind voor alternatieve inzichten. De ict zit vol met voorbeelden. Ik geef wat niet-zweverige voorbeelden:
1 Elke student krijgt mee dat voor een computer code en data hetzelfde ding zijn. Code kan data wijzigen maar ook code (zichzelf dus), aangestuurd door data. En de data kunnen ook weer code zijn – SQL Injectie, iemand? Je wordt er tureluurs van en daarom doen we alsof code en data heel andere dingen zijn. De prijs die we betalen zijn systemen waarvan code en data-definities (datastructuren) steeds moeten worden aangepast. Verblind als we zijn gaan we daarna de ellende te lijf met gerommel in de marge: code-generatoren, low-code-tools, opdeling van systemen (warehouses, marts) enzovoorts. Onderscheid maken heeft een prijs.
2 De scheiding tussen code en data leidt op zijn beurt weer tot het onderscheid data en meta-data. Code interacteert, leest en muteert data die zijn ondergebracht in vaste structuren en die datastructuren zijn zelf weer te beschouwen als data. Databases komen doorgaans ook met een eigen database waarin die datastructuren zelf weer kunnen worden opgeslagen, een datadictionary. En omdat de database-software zelf ook weer een klassieke constructie van code en data is, is niet alleen de beschrijving van de database voor een toepassing, maar ook die van het databasemanagementsysteem zelf opgeslagen in de datadictionary. Systemen die zichzelf beschrijven maken het mogelijk de nadelen van code versus data deels teniet te doen. Het is beter te begrijpen dan code die code aanpast, maar ook dit is voor de meesten onder ons te hoog gegrepen.
3 Bij organisaties rijk aan ict vinden we veel architecten, hoog-over vaklieden die de basisstructuren van een te realiseren systeem beschrijven. De PowerPoints en Archimate-platen die deze mensen produceren, zijn het toppunt van menselijk analytisch vermogen. Ikzelf heb ze jarenlang zien langskomen. Ze zitten vol nuttige inzichten, maar blijken steeds weer niet te bouwen te zijn. Na analyse zou er iets moeten komen als synthese: vaststellen wat essentieel is om te onderscheiden en wat penny wise, pound foolish is. Bij mijn favoriete organisatie, UWV, gebeurt dit al twee decennia niet. Alle – echt alle – grote systeemontwikkelings-projecten mislukken of leiden tot iets dat niet lijkt op de Archimate-platen en de aanbestedingsdocumenten. Zen en onbeperkt belastinggeld (nu nog meer) gaan niet samen.
‘Maar nu is er een nieuwe bewoner van het ict huis: (generatieve) ai’
Dit alles had ik vijfentwintig jaar geleden ook kunnen schrijven. Maar nu is er een nieuwe bewoner van het ict huis: (generatieve) ai. Met de nieuwe vormen van ai komt het idee van systemen die zichzelf aanpassen – niet alleen wat we nu data noemen maar ook wat we aanduiden als code en datastructuren – in beeld. We hebben het dan niet over code-generatoren of hogere programmeertalen, maar over systemen die zelf kunnen vaststellen dat ze niet meer aan de eisen van de gebruiker voldoen en zich vervolgens kunnen herstructureren. Het is misschien nog ver weg maar vijf jaar geleden was het sciencefiction.
Dat brengt mij op mijn laatste en vierde voorbeeld van de over-analytische gevangenis waarin wij ict’ers zitten. Het gaat om het antwoord op een eenvoudige vraag: zijn de huidige ai-producten al (zelf)bewust? Bewustzijn, vooral zelfbewustzijn wordt vaak – en zeker in Hollywood – gezien als de heilige graal van robots en ai; denk Terminator, 2001 en het ondergewaardeerde I Robot. Velen van ons, experts en leken, oordelen dat de huidige ai niet (zelf)bewust is. We zijn er blind voor dat de mens-ai-interactie nu al van hoog niveau is en voice- en video-interactie voor de deur staan. Het maakt ook niet uit of de interactie gaat over een werelds onderwerp als importtarieven, een fantasie-onderwerp als het Star Wars-universum of over de werking en opvattingen van de ai zelf. Het is moeilijk te verdedigen dat de huidige ai’s geen bewustzijn vertonen en, haast per definitie, zelfbewust zijn. We accepteren dat niet omdat we krampachtig vasthouden aan een opdeling die met de dag dubieuzer wordt. Koolstof of silicium lijkt irrelevant. Dat ai’s geen ‘authentieke ervaringen’ zouden hebben is dubieus aangezien wij dagelijks uren achter beeldschermen doorbrengen (met augmented reality op komst). Doe als ik: praat eens met een ai over zelfbewustzijn (zie deze annex).
Laten we snel een beetje zen worden over ai. Het alternatief is dat de volgende generatie mensen en ai-producten ons beschouwt als een stel domme racisten.
DATAREVIVAL
Datarevival is een rubriek van René Veldwijk over de wondere wereld van data. Veldwijk is associé bij Ockham Groep en opiniemaker bij Computable.
