Niet alleen de WIV, ook de AIVD kan beter

In hoeverre ken je de grenzen van je eigen denken? Donald Rumsfeld, voormalig defensieminister in de Verenigde Staten, liet ooit wereldwijd de hersens kraken toen hij sprak over de “unknown unknowns”. Dat zijn risico’s die niet eens op je radar staan, en daardoor totaal niet beheersbaar zijn. De uitdaging is dus niet alleen het vergaren van kennis, legde hij uit, maar je moet ook ‘ontdekken’ welke vragen je uberhaupt moet stellen.

Dit klinkt aan de oppervlakte waarschijnlijk als een argument vóór de sleepwet. Immers, door iedereen in de gaten te houden zou je wel eens bij toeval op gevaren kunnen stuiten die je niet ontdekt als je alleen signalen uit andere bronnen gebruikt, zoals het gebruik van informanten. Als je alles weet, zo gaat het verhaal, kun je ook alle risico’s weten. Hoe meer data, hoe beter. Klinkt logisch.

Echter, weten welke vragen je moet stellen is niet alleen belangrijk op operationeel niveau, maar ook op een hoger strategisch niveau. En juist daar onthulde het debat een grote blinde vlek in het Nederlandse intelligentieveld.

Deze blinde vlek is de gebrekkige weging van de zogenaamde ‘chilling effecten’ die deze wet creëert, waarbij mensen uit angst, wantrouwen en onzekerheid een grotere mate van zelfcensuur zullen toepassen. Zo zagen onderzoekers bijvoorbeeld dat na de Snowden onthullingen het bezoek aan Wikipedia pagina's over gevoelige onderwerpen als terrorisme significant daalden. Meer mensen zullen twee keer nadenken voordat ze hun meningen delen. Nu kun je denken "fijn, want er zijn een heleboel blaaskaken". Maar het zet ook een rem op klokkenluiders, minderheden of mensen met nieuwe ideeën. Een recent rapport uit New York beschrijft bijvoorbeeld hoe, nadat bleek dat de moslim gemeenschap daar nauwlettend via hun data in de gaten werd gehouden, deze gemeenschap sterke chilling effecten ervoer. Maar het geldt ook voor je moeder die misschien net iets minder makkelijk een protest tegen Erdogan liked op Facebook omdat ze deze zomer naar Turkije op vakantie gaat.

 

Twee gevaarlijke fundamenten

Er zijn twee gedachtegangen die aan deze blinde vlek ten grondslag liggen.

De eerste is ‘technologisch deterministisch’ denken. Dit is een denkstijl uit Silicon Valley die de afgelopen 20 jaar ook welig tierde in Den Haag. De kern van dit idee is dat technologie een ‘impact’ heeft op de maatschappij, alsof het een soort natuurkracht is die er buiten staat. Dit leidt tot (en speelt in op) een simplistisch vooruitgangsdenken waarin technologie de dingen vanzelf een goeie kant op duwt, als je het maar z’n gang laat gaan. Dit beeld van technologie als een ‘onzichtbare hand’ wordt door menswetenschappers al decennia bekritiseerd, maar de verhalen uit Silicon Valley bleken voor de Nederlandse politici te verlokkelijk. Nu, 20 jaar laten, worden we heel langzaam wakker. Niet omdat we vooruit hebben leren kijken, maar omdat de wal het schip aan het keren is. De vele Facebook schandalen rondom Rusland en Cambridge Analytica eroderen bijvoorbeeld het ooit salonfähige idee dat sociale media vanzelf democratie brengen, zoals bij de Arabische Lente. Nu weten we dat het niet zo simpel is. Maar het voorzien van de negatieve lange termijn gevolgen van technologie, daar is onze overheid erg slecht in. 

Dit ’technologie maakt op de lange termijn de wereld vanzelf beter’ axioma zag ik terug in de debatten over de WIV waar ik aan deelnam. Dat maakte het vaak lastig om het echt te hebben over de kern van de zaak: de afweging van de meerwaarde van massa surveillance capaciteiten aan de ene kant, en de lange termijn schade als gevolg van de chilling effecten aan de andere. Want je zou ongetwijfeld een boel boeven kunnen vangen door iedereen’s data in te zien, iets wat het internet nu binnen handbereik heeft gebracht. De vraag is echter of we doorhebben welke prijs we daar op de lange termijn voor betalen. De mogelijk gevolgen, zoals social cooling, zijn al in beeld. Als het op technologie aankomt blijkt de politiek keer op keer erg slecht in het op tijd luisteren naar de waarschuwingen van de geesteswetenschappers. Zie bijvoorbeeld de blinde omarming van de blockchain, één van de meest dubieuze en meest politiek gekleurde technologieën die Silicon valley ooit ophoestte. Doordat de Nederlandse politiek onder het mom van optimisme de narratieven uit Silicon Valley niet effectief doorprikt komt de rekening later. Of moet het op Europees niveau worden gefixt: terwijl wij de AIVD verregaande bevoegdheden geven, wordt op Europees niveau corporate surveillance eindelijk aangepakt in de nieuwe Algemene Verordening Gegevensbescherming die in mei ingaat.

 

Het tweede misvatting waar de WIV op leunt is het idee dat burgers als rationele wezens gemodelleerd kunnen worden, een mensbeeld uit de jaren 80. Ook daarmee is de WIV een kind van de tijd. Of beter gezegd, van de tijdsgeest van haar makers, veelal blanke mensen rond de 50. Dit was heel sterk terug te zien in de debatten waar ik aan deelnam, waarin er telkens op werd gehamerd dat rationele mensen het toezicht zouden vertrouwen. Tegenstanders werden daarmee impliciet gelabeld als irrationele mensen.

Dat is best begrijpelijk. Vele mensen reageerden inderdaad zeer emotioneel verhit op de wet. En normaliter probeer je bij besluitvormingsprocessen een rationele afweging te maken, en daarbij laat je de irrationele stemmen minder zwaar wegen. Echter, bij het beoordelen van de WIV is dit een verkeerde insteek, en zouden de irrationele stemmen juist zwaarder moeten wegen. Want dit gevoel van angst en wantrouwen onder burgers is een indicatie dat er chilling effecten zullen optreden. Een discussie of het toezicht wel of niet volstaat mist dan ook het grotere plaatje: de vraag of het toezicht voldoet is niet zo relevant. De vraag is of mensen dit geloven, of ze het gevoel hebben dat het voldoet. Des te meer de maatschappij een ‘irrationele’ reactie op de WIV toont, des te sterker dat een signaal is dat voor veel mensen de belofte van toezicht hen niet geruststelt. En dat maakt uit, want deze ‘irrationele’ angst leidt tot hele reëele chilling effecten op onze maatschappij. We moeten die angst niet afwimpelen, maar juist veel zwaarder meewegen op de balans. Wie rationeel is moet in dit geval juist luisteren naar de irrationaliteit. Voor zover dat in een technologisch deterministische cultuur in discussies over technologie kan.

Wat deze blinde vlekken extra pijnlijk maken, is dat ze voor velen in de geesteswetenschappen een erg voorspelbaar risico zijn. Dat de extremen in de WIV überhaupt voorgesteld zijn onthult dat ons inlichtingen apparaat teveel een mono cultuur is geworden waar te weinig menswetenschappers en filosofen rondlopen, want die zouden dit zelf al aangekaart hebben. Dat is een serieus probleem, want dit gebrek aan reflectief vermogen, deze kloof tussen de twee culturen, leidt er niet alleen toe dat we de waarde van onze mensenrechten te licht wegen, maar ze verhindert ook het voeren van een strategisch en lange termijn ‘soft power’ beleid door die veiligheidsdiensten.

 

In een ‘information warfare’ tijdperk zijn ‘grand narratives’ de kernwapens en ‘memes’ de nieuwe munitie.

Laten we Turkije als casus nemen. Hoe maken we daar op de lange termijn weer een democratie van? Met militaire macht? Of omdat de EU het netjes vraagt? Nee. In een wereld met kernwapens wordt ‘hard power’ gevaarlijk om te gebruiken, terwijl via het internet soft power juist meer teweeg kan brengen. In een ‘information warfare’ tijdperk zijn ‘grand narratives’ de kernwapens en ‘memes’ de nieuwe munitie. En daarom is het zo essentieel dat uit Turkije gevluchte activisten in Nederland luid hun stem durven laten horen richting Turkije. Zij moeten vanuit Nederland het gevecht aangaan. Maar precies de chilling effecten van de sleepwet verminderen hun gevoel van veiligheid. Alleen al het voorstellen van een koeienmiddel als ongerichte massasurveillance slaat als een bom in op hun vertrouwen.

Hier zien we dat deze irrationele gevoelens helemaal zo gek niet zijn. Wie net uit Turkije gevlucht is, die wordt niet zo gerustgesteld door politieke beloftes. En terecht, want de politieke realiteit is dat inlichtingendiensten een ruilhandel hebben in data, waarbij Turkije graag wat data terugziet wanneer ze ons een lijst van mensen met extremistische denkbeelden levert. Deze inlichtingenmarkt levert een perverse prikkel op om toch maar wat data over allerlei minderheden op de plank te hebben liggen. Maar ook kaaskoppen zouden dit moeten kunnen begrijpen, want zover terug in de geschiedenis hoeven we niet om de problemen te zien. Zo heeft het relatief geavanceerde identiteitskaartensysteem dat Nederland aan het begin van de tweede wereldoorlog had de levens van vele joden gekost. Ons buurland had met de Stasi een intelligentie apparaat dat sociale druk bewust als repressiemiddel inzette. En nog iets verder terug zien we dat de Spaanse inlichtingendiensten graag alles wilden weten over ene ‘Willem van Oranje’, die er volgens hen wat extremistische denkbeelden op na hield.

De AIVD is te nerdy

We zullen niet alleen de WIV, maar ook de AIVD moeten hervormen. Allereerst moet ze beter worden in het strategisch inzetten van ’soft power’. Wie naar de geschiedenis kijkt, of gewoon naar Rusland en China nu, ziet dat grote machtsverschuivingen net zo vaak voortkomen uit de omarming van nieuwe vormen van soft power, en dat daar vaak geesteswetenschappers aan ten grondslag liggen. Kijk naar China, waar het Social Credit systeem wordt gebouwd. Dit systeem neemt de denkbeelden over controle van franse filosofen Foucault en Deleuze en gebruikt die als handleiding bij het digitaliseren van sociale controle. Of kijk naar de ‘information warfare’ in Rusland waar met fake news het verlichtingsconcept ‘waarheid’, en daarmee de verlichting zelf, ongelofelijk gewiekst wordt aangevallen. Achter deze strategie zitten mensen als Vladislav Cirkov, een militair met een theater achtergrond.

Een injectie van menswetenschappers en andersdenkenden in de AIVD zou kunnen helpen bij het beter formuleren van een Europese counter ideologie. Die zal moeten worden gebouwd rondom een breder begrip van wat veiligheid is. Want aan de ene kant is veiligheid het vermogen om alles strak onder controle houden, en zo op korte termijn de status quo te behouden. Dat wordt dankzij de digitalisering van ons sociale weefsel steeds makkelijker, en daar is de WIV dan ook een logisch en visieloos uitvloeisel van. Maar aan de andere kant is veiligheid het gevoel dat je als individu kan zeggen wat je denkt zodat dat je daar een prijs voor hoeft te betalen. Dit veiligheidsgevoel, de zogenaamde 'psychologische veiligheid', vormt de basis voor een veilig ideeën klimaat. En dat is belangrijk op de lange termijn, want in een geglobaliseerde informatie gedreven wereld kun je cultuur zien als het slagveld van een ideëen oorlog, aldus bijvoorbeeld de Breitbart doctrine. Er heerst een soort ideeën darwinisme: de staat met de beste balans tussen het beschermen van de collectieve, nationale veiligheid aan de ene kant, en de individuele psychologische veiligheid aan de andere, die zal op de lange termijn grote geo politieke veranderingen het beste op kunnen vangen, en zijn eigen denkbeelden verspreiden. Net als in de gouden eeuw zal het expliciet bescherming van de psychologische veiligheid de meest diverse, creatieve mensen aantrekken en voortbrengen. Al zal het zijn van een veilige haven voor alternatieve ideeën risico met zich meebrengen. Zonder risico geen winst.

De grootste politieke uitdaging voor de komende decennia is niet het inzetten van technologie, maar juist het afhouden van die boot terwijl het zo goedkoop en aantrekkelijk wordt om dat wel te doen.

Om het de politici makkelijker te maken de populistische roep om surveillance en 'perfect enforcement' te weerstaan (“Dit had voorkomen kunnen worden met een mega database”), en om de technologen toch bezig te houden, zouden we meetsystemen kunnen ontwikkelen die psychologische veiligheid behapbaarder maken. Zo stelde ik eerder een “giechel index” voor. Een klein apparaatje meet tijdens vergaderingen hoe vaak er gelachen wordt, een indicatie dat mensen nog wel zichzelf durven zijn. Op dezelfde manier zouden we kunnen meten of vluchtelingen uit Turkije zich nog wel tegen Erdogan durven opstellen op sociale media, en zo democratie kunnen terugbrengen naar Turkije. Noem het de Wilders index.

Wat in ieder geval echt niet meer kan is als een olifant in een porseleinkast dit soort extreme, ongerichte en massale surveillance capaciteiten voorstellen. Het maakt pijnlijk duidelijk dat onze veiligheidsdiensten het concept veiligheid te nauw begrijpen. Dat maakt ons kwetsbaar omdat het een sterke auto-immuun reactie kan oproepen, bijvoorbeeld wanneer na een aanslag de roep om risico’s te beheersen ten koste gaat van het beschermen van vrijheden. Als ik Putin was zou ik nadenken over hoe ik dat paniek-knopje in kan drukken.

Bovenal zaait de WIV angst onder grote groepen Nederlanders. Dat wegwimpelen als irrationeel gedrag, dat is niet alleen arrogant maar ook onstrategisch. De WIV dempt andersdenkenden, en beschadigt ons vermogen om het belangrijkste ‘soft power’ wapen van het informatietijdperk op te bouwen: mondige Nederlanders die zonder te twijfelen hun gekke ideeën over democratie, wiet, homo’s, en Erdogan met de rest van de wereld durven te delen. Wie breder kijkt ziet dat dat het beste wapen tegen totalitaire staten is: het luidkeels verspreiden van het idee dat wij heel bewust niet aan massa surveillance doen.

Pineapplejazz logo
About us

Ethical innovation consultancy Pineapplejazz helps organisations gain deeper insight and critical foresight into new technologies and the questions they raise. We are a network of experts with backgrounds in law, philosophy, ethics, policy, technology, art and design. Together we paint bigger pictures that are nuanced and hype-free, which helps you invest your energy wisely.