Open the pod bay doors, HAL

Waar zal ik eens beginnen? Misschien door te vermelden dat ik dit schrijf een dag nadat een duizendtal ‘technology bigwigs’ de A.I. ontwikkeling in de pauzestand wilden zetten. Dit magazine komt pas veel later uit waardoor de wereld, wanneer je dit leest, zomaar eens in een GPT5 of -6 chaos kan verkeren. Misschien zitten we wel in een soort dystopisch Cyber Wuhan scenario: een A.I. ontsnapt aan zijn ethische ‘guardrails’, automuteert naar een polymorfe worm, propageert zich per milliseconde en valt het hele internet aan waardoor de (digitale) wereld tot een stilstand komt totdat een slimme student de CAPTCHA killswitch weet te vinden: ‘Open the pod bay doors, HAL’.

Het Collingridge dilemma is een bekend vraagstuk binnen de technologie-ethiek. Het dilemma stelt dat het erg moeilijk is om in een vroeg stadium te bepalen welke gevolgen een technologie zal hebben, en dat het juist als deze gevolgen duidelijk zijn, het vaak te laat is om er nog iets aan te veranderen.

Dit dilemma wordt alleen maar actueler (en groter) wanneer we kijken naar de snel evoluerende Decentrale Sociale Technologieën (DST’s) zoals, het metaverse, web3, activitypub, e-ID’s en de Fediverse. Maar ook cryptografie, artificial intelligence en quantum computing trekken een exponentiële sprint. Het grote geld moet natuurlijk wel snel terugverdiend worden en de doorontwikkeling lijkt dus vaak op een race waarbij bedrijven proberen om zo snel mogelijk nieuwe producten op de markt te brengen, zonder zich al te veel zorgen te maken over de potentiële cybersecurity- en privacyrisico's. Sterker nog, vele organisaties spenderen miljarden om endorfine genererende algoritmes te bedenken om massa’s gebruikers verslaafd te maken aan hun apps en content. Ik verzin het helaas niet!

Een van de betere papers die ik recent las is Ethics of Decentralized Social Technologies: Lessons from Web3, the Fediverse, and Beyond. De paper is geschreven door Danielle Allen, Glen Weyl et al. (echt even lezen). Het beschrijft de radicale technologische versnelling waarin we terecht zijn gekomen en de uitdaging die dat voor de samenleving betekent. ‘Too Long; Didn’t Read (TL; DR)’: we hebben een nieuwe vorm van beleid en toezicht hierop nodig om de pluraliteit en democratie van de samenleving te bewaken. Analoog aan het Collingridge dilemma kunnen we niet altijd wachten tot we precies snappen wat de transformatieve technologie gaat betekenen voor de maatschappij en zullen we richting moeten geven aan zaken die we niet altijd helemaal begrijpen. De schrijvers noemen dit ‘Experimental Governance’. Ik vertaal het even naar experimenteel beleid.

Het houdt in dat we proberen risico’s te duiden vóórdat we precies weten wat de exacte consequenties zijn. Het kan dus ook betekenen dat we er wel eens naast kunnen zitten. Binnen NS Cybersecurity zijn we dit ‘hot topics’ gaan noemen en helpen we de bedrijfsonderdelen de risicoscenario’s te schetsen zonder ze per se te weerhouden van het gebruik ervan. Ik vermoed dat we de komende jaren meer en meer gebruik gaan maken van ‘digital twins’, ‘testbeds’ en ‘cyberranges’ om de risico’s op- en van nieuwe technologie te verminderen. Wél zullen we hierin een zekere mate van transparantie moeten gaan betrachten richting onze klanten. Experimenteren met experimenteel beleid zal één van onze dagelijkse cybersecurity-activiteiten moeten worden. Een stuk interessanter dan die vermaledijde basis securitymaatregelen. Dat dan weer wel :-)

Dimitri van Zantvliet
Directeur Cybersecurity bij NS en columnist van iB-Magazine.

Deze column verscheen in iB3-2023.