Blijven nadenken over wat techniek met ons doet

Thuis in ballingschap – slot

Wie de opiniepagina’s van de kranten een beetje bijhoudt, kan bijna elke week lezen over de gevaren van de digitalisering van onze wereld. Zelfs de bedenkers van internet trekken aan de bel. Wat begon als de zoveelste technische vooruitgang, lijkt te eindigen in iets wat niemand wil. Maar tegelijkertijd is er niemand meer bij machte de voortdenderende trein te stoppen.

Hans Achterhuis sprak in dit verband ooit van de paradoxen van de moderniteit [1]. In de jaarserie over vervreemding van de afgelopen jaargang ‘Thuis in ballingschap’ hebben we de digitale revolutie aangewezen als een van de bronnen van vervreemding. Vooruitgang heeft altijd een prijs. Moderne communicatietechnologie geeft ons enorme mogelijkheden, maar kan ons ook eenzaam maken. Hoe groot de prijs is die we betalen, zien we vaak pas achteraf. Het lijkt onschuldig om digitaal gevolgd te worden door het achterlaten van onze gegevens. Wie heeft als nette burger immers wat te verbergen? Maar een klein beetje verbeelding kan ons doen beseffen dat we op die manier meehelpen aan het ontstaan van de ultieme massamens, hulpeloos in de handen van op macht en geld beluste lieden.

Misschien speelt er al een kleine glimlach om uw lippen of ergert u zich aan de onheilsprofeten in de kranten. Voor je het weet kom je terecht in de wereld van complottheorieën. Als die allemaal waar zijn, kunnen we maar beter de luiken en deuren dichtdoen. Het probleem is alleen dat de afgelopen tien jaar keer op keer is gebleken dat complottheorieën hout snijden. Denk aan de Paradise Papers, waaruit naar voren kwam hoe het eraan toegaat in de belastingparadijzen, of het gebrek aan moraal in de bankenwereld. [2] Het zou weleens het topje van de ijsberg kunnen zijn. Een wereld vol met mensen van goede wil bestaat niet. En zelfs al zou die bestaan, dan kijken al die lieve mensen niet verder dan hun neus lang is. Wie alleen de regels volgt, ziet niet de problemen die het systeem veroorzaakt. Het kan wel kloppen wat we doen, maar dat wil nog niet zeggen dat het deugt. [3]

De wereld waarin wij leven kan ons angstig maken. Of juist heel activistisch. Misschien is het tij nog te keren. Kies een alternatieve zoekmachine en vernietig uw Google-account. Laat de overheid eindelijk eens werk maken van het controleren van de digitale reuzen, die ons constant digitaal begluren. En laat wetenschappers eens een lesje ethiek nemen, in plaats van in hun labs te zitten prutsen aan nieuwe technologieën waar wij nog geen weet van hebben. Ondertussen zijn angst en activisme misschien wel de keerzijde van dezelfde medaille. In beide gevallen zien we mens en technologie als twee losstaande entiteiten. In het ene geval is de mens slachtoffer van technologie, in het andere geval is hij de beheerser ervan. Wij bepalen de techniek of de techniek bepaalt ons. In dit artikel wil ik het strijdtoneel eens van een andere kant bekijken. Met als resultaat dat we iets bedachtzamer kunnen omgaan met de paradoxen van de moderniteit.

Voorspellen is lastig
Toen 20 jaar geleden internet en e-mail hun intrede deden was niet iedereen meteen enthousiast. Ik herinner mij serieuze discussies met medestudenten over de vraag of er geen tweedeling zou ontstaan tussen gebruikers en niet-gebruikers. Met de kennis van nu is dat een non-issue. Ik heb er geen onderzoek naar gedaan, maar ik vermoed dat er toen niemand was die waarschuwde voor de beïnvloeding van verkiezingen door internet. Ondertussen blijkt de verkiezingsoverwinning van Trump mede het resultaat van duistere machten die vooral via internet opereerden. Terugkijkend vermoed ik dat het niet verkeerd zou zijn geweest als daar eerder over was nagedacht. Maar dat is makkelijk praten achteraf, nu kunnen we niet meer zonder internet en e-mail.

In essentie zie je in dit verhaal drie punten die telkens terugkomen bij de introductie van nieuwe technologie, zoals smartphones, navigatiesystemen of contactloos betalen. In het begin zijn er genoeg mensen die een niet-pluisgevoel hebben (1). Deze mensen hebben gelijk en ongelijk: waar ze bang voor zijn gebeurt vaak niet, maar toch zijn achteraf sommige negatieve gevolgen voor onze leefwereld wel merkbaar (2). Maar als de vernieuwingen eenmaal zijn ingeburgerd, is er geen weg meer terug (3). Het christelijk geloof is zonder schrift niet denkbaar

Om wat beter te begrijpen wat technologische veranderingen met ons doen, kan het geen kwaad terug te kijken. De digitale revolutie is niet de eerste die de mensheid meemaakt. De overgang van een vertelcultuur naar een schriftcultuur is een revolutie geweest van misschien nog wel grotere omvang. Voor het gemak stel ik de introductie van het alfabetische schrift voor als een vorm van techniek, een beetje vergelijkbaar met de manier waarop wij nu spreken over informatie- en communicatietechnologie. De introductie van het schrift gebeurde grofweg drieduizend jaar geleden en zorgde voor een grote omslag. Het maakt immers uit of je het verleden alleen kent uit verhalen die je uit je hoofd hebt geleerd, of dat je het in een boek kunt opzoeken. Het doet ook iets met je zelfbeeld. De filosoof René Munnik meent zelfs dat geletterden als eersten een besef van objectiviteit ontwikkelden. [4] Zonder schrift is er immers geen maatstaf om het verleden als fictief te kwalificeren. Sterker nog, de vraag naar historische betrouwbaarheid kon niet eens gesteld worden.

In zekere zin zou je kunnen zeggen dat ook het christelijk geloof zonder schrift niet denkbaar is. De protestanten onder ons zullen zich een christen die niet in staat is zelf de Bijbel te lezen eenvoudigweg niet kunnen voorstellen. Wat weer betekent dat ook het geloof waar wij vertrouwd mee zijn ‘afhankelijk’ is van technologische vooruitgang, in dit geval de uitvinding van het schrift. Veelzeggend is in dit verband dat in het werk van bijbelvertalers alfabetisering altijd vanzelfsprekend is ingesloten. 

Niet los verkrijgbaar
De uitvinding van het schrift in de orale culturen van weleer laat zich vergelijken met de huidige digitale revolutie. De eerder genoemde drie punten gaan evengoed op. Het schijnt dat Plato het schrift als filosofisch medium nog heeft afgewezen. Wat gaat er immers boven een goed filosofisch gesprek? Evenmin konden Plato en de filosofen na hem bevroeden wat de schriftcultuur zou opleveren. Bijvoorbeeld de opschriftstelling van het getuigenis van de profeten van Israël, ongeveer in dezelfde tijd. Athene en Jeruzalem zijn beide zonder het schrift onvoorstelbaar. Zonder hen zou onze westerse cultuur niet bestaan. En ook het laatste kenmerk gaat vanzelfsprekend op: een weg terug bestaat niet.

De ontwikkeling van het schrift heeft ons zelfbeeld beïnvloed. Maar dat is precies iets wat geldt voor alle vormen van techniek. Techniekfilosofen mogen er daarom graag op wijzen dat techniek geen neutraal middel is in de hand van mensen. Techniek doet ook iets met ons, of we willen of niet. Daarom gaan de twee extreme posities van de mens als slachtoffer of als beheerser van de techniek altijd mank. Een bekend hedendaags voorbeeld dat door Peter-Paul Verbeek is uitgewerkt is prenatale diagnostiek. [5] Wie een 20 wekenecho laat maken, maakt niet alleen gebruik van een nuttige techniek, maar betreedt ook een nieuw moreel landschap. Echoscopie doet meer dan het maken van een foto voor het plakboek. Als blijkt dat de foetus een afwijking heeft, sta je voor de beslissing of je wel of niet ‘preventief’ wilt ingrijpen. Natuurlijk is een 20 wekenecho niet verplicht, maar wie ervan afziet, moet wel de gevolgen dragen. Als je kind toch een afwijking blijkt te hebben, ben je daar in zekere zin zelf verantwoordelijk voor. Mens en techniek zijn verweven en laten zich niet los van elkaar beschouwen.

Die verwevenheid van mens en techniek lijkt zich in onze tijd alleen maar te intensiveren. Moderne techniek komt steeds dichter op onze huid te zitten. Letterlijk vaak. Niet voor niets spreekt het Rathenau Instituut in een recent rapport over intieme technologie. [6] Technische hulpmiddelen lijken meer en meer te versmelten met ons lichaam. Computers worden kleiner en slimmer. Ze passen in ons lichaam zonder dat we het merken. En ze kunnen allang veel meer dan alleen maar een beslisboom langslopen en duizend keer achter elkaar hetzelfde doen. In het rapport staan alarmerende zinnen: ‘We beleven thans het historische omslagpunt waarop de afstand tussen technologie en onszelf in hoog tempo kleiner wordt’. 'We staan met 5-0 achter en weten vrijwel niets van de computer'

Onlangs moest ik me vervoegen in het Maagdenhuis, het bestuurlijk centrum van de universiteit waar ik voor werk. Ik ontmoette daar een hoogleraar Accounting, met wie ik werd geacht een verstandig gesprek te voeren. Dat voelde ongemakkelijk. Maar wat bleek? Op onze wetenschappelijke congressen ging het over hetzelfde. Daar vallen woorden als machine learning, deep learning of kunstmatige intelligentie. Ze duiden allemaal op een grote stap in de automatisering van processen waar tot nog toe hoogopgeleide mensen een belangrijke rol spelen. Op congressen van mijn collega gaat het steeds minder over de zoveelste slimmigheid in het controleren van de boeken van een groot bedrijf, maar steeds vaker over hoe zo’n controle kan worden uitgevoerd door zelflerende computers.

Hetzelfde zie ik in mijn eigen omgeving. Voor het beoordelen van medische beelden is in de toekomst steeds minder vaak een radioloog nodig. Computerprogramma’s kunnen het ook; net als mensen kunnen ze zelf leren. Ze zijn vervolgens veel consequenter en betrouwbaarder in de uitvoering van hun taak. Op dit moment lijkt in meerdere vakgebieden tegelijkertijd een vergelijkbare omslag plaats te vinden. Kunstmatige intelligentie is terug van weggeweest.

Deze ontwikkelingen roepen natuurlijk vragen op van kritische vakgenoten. Terecht. Wat te denken van de Russische geheime dienst die in de systemen van het ziekenhuis of van de accountant infiltreert? Hoe weten wij zeker dat er op cruciale punten een menselijke check wordt uitgevoerd om de computer te ‘controleren’? De schrijvers van het Rathenau-rapport zijn daar niet gerust op: ‘Op dit moment staan we met 5-0 achter: de computer weet heel veel van ons, maar wij weten vrijwel niets van zijn algoritmes en van de bedrijfsmodellen daarachter.’

In het Rathenau-rapport wordt ervoor gepleit tijdens deze nieuwe fase van verstrengeling tussen mens en techniek goed te blijven opletten. Met name politici moeten nog wakker worden. [7] Ze geloven nog veel te vaak dat de wereld met meer technologie alleen maar beter wordt. Of ze vinden het een domein waarin mensen hun eigen keuzes moeten maken en de markt zijn werk maar moet doen. In verkiezingsdebatten speelt het thema technologie nauwelijks een rol. Terwijl het een van de vele thema’s is waardoor burgers zich onveilig voelen. Wat wij een goed leven vinden, is bij uitstek een politieke vraag. 

Een beetje koesteren
Met het Rathenau-rapport in de hand lijken we weer terug te zijn in wereld van de techniekkritiek. Was juist niet de les dat de gevolgen van de digitale revolutie zich niet helemaal laat voorspellen? Ik zie het liever zo dat dit besef ons ervoor behoedt onze kritiek al te totalitair te maken. Voor we het weten is het een nieuw systeem waar we in gaan geloven. We kunnen er immers vreselijk naast zitten. We hebben geen blauwdruk van hoe het allemaal wel zou moeten. Maar het valt niet te ontkennen dat er zich iets aan het afspelen is met enorme dimensies, waarin de paradox van de vooruitgang zich nog intenser aan ons meedeelt. Wat gaat er met ons gebeuren? Dit niet-pluisgevoel moeten we maar niet te snel van ons afschudden. We moeten het eerder een beetje koesteren. Wij zijn in onze cultuur zo gericht op maakbaarheid en het vinden van technische oplossingen, dat we met lastige vragen over de verwevenheid van mens en techniek weinig raad weten.
De onrust over de digitale revolutie kom je ook tegen in het werk van de momenteel populaire historicus Yuval Noah Harari. In twee meeslepende boeken beschrijft hij de geschiedenis en de toekomst van de mensheid. Zijn tweede boek is helemaal gewijd aan de volgende stap in de evolutie van de mens. We zitten er momenteel middenin. De mens wordt als God. Maar wie goed leest, merkt dat Harari geen naïeve techniekgelovige is. Zulke lieden heten met een mooi woord transhumanisten: dankzij techniek worden we betere mensen met een eeuwig leven binnen handbereik. Dat heb ik bij Harari niet gelezen; hij beseft maar al te goed dat het ook mis kan gaan. De toekomst is onvoorstelbaar. Maar juist op die momenten in zijn betoog zoomt Harari razendsnel uit. Hij plaatst alles in het verband van de grote geschiedenis die hij als alwetende verteller overziet. In een luchtballon zwevend boven de geschiedenis van de mensheid, ervaren we onze problemen als kleiner. Het is rustgevend, maar het voelt ook als een capitulatie voor het noodlot. De troost van de geschiedenis kan onze onrust nooit helemaal wegnemen. Je kunt de stroom alleen voelen als je af en toe stil staat

Als ik me niet vergis, is het onder christenen bon ton om te menen dat het zinloos is afzijdig te blijven bij nieuwe technologische ontwikkelingen. Natuurlijk is er veel werk verzet als het gaat over belangrijke ethische kwestie rond abortus en euthanasie. Maar Kamervragen over de negatieve gevolgen van technologie komen vaak uit de linkse hoek. Christenen lopen vaak niet voorop in het ontwikkelen van kritiek in de geest van het Rathenau Instituut. Een uitzondering is het werk van Egbert Schuurman, die de afgelopen decennia binnen en buiten christelijke kring gewaarschuwd heeft voor de gevolgen van de technische vooruitgang. Niet voor niets blijkt in zijn onlangs verschenen biografie [8] dat hij in de Eerste Kamer vaak samenwerking zocht met de linkse partijen.

Schuurman is in ons land vooral bekend geworden als criticus van de techniek. Een leerzame anekdote uit zijn leven illustreert dat. Aanvankelijk was hij zelfs tegenstander van het gebruik van computers in de thuisomgeving, maar later ging hij toch overstag. Met eigen ogen heb ik gezien dat hij inmiddels zelfs een mobiele telefoon bezit, al is het dan een Nokia zonder whatsapp. Schuurman zou het zelf nooit zo zeggen, maar in zijn leven laat hij zien dat afwijzen van technische vooruitgang meestal tijdelijk is, maar niettemin wel zinvol. Hij dwingt zo zichzelf en anderen om na te denken over wat techniek met ons doet.

Ik zie een parallel tussen de troost van de geschiedenis die Harari biedt en de lijdelijke houding die we vaak tentoonspreiden bij techniekontwikkeling. Vanuit een groter perspectief weten we dat de ontwikkelingen toch wel doorgaan. Maar dat beperkt wel ons engagement en misschien zelfs wel onze vrijheid. Ik zie meer in een combinatie van bescheidenheid en engagement. Bescheiden, omdat we niet weten waar de huidige digitale revolutie ons zal brengen. Omdat we weten dat we als mens de ontwikkeling niet in de hand hebben, vroeger niet, en ook nu niet. Maar ook geëngageerd: je kunt de stroom die ons meevoert alleen voelen als je af en toe stil blijft staan. En zelfs wie uiteindelijk toch wordt meegevoerd, kan van het verzet veel hebben geleerd.

Schuurman en aan hem verwante denkers laten keer op keer zien dat technologie parasiteert op onze behoefte aan zekerheid. Ze helpt ons om onze omgeving en onszelf te beheersen. Beheersing is het aloude ideaal dat ingebakken zit in de ontwikkeling van wetenschap en technologie sinds Descartes. Wie zonder navigatie door een wereldstad loopt, voelt zich onveilig. Het lijkt op een arm die je evenmin kunt missen. Tussen deze neiging alles te willen controleren (waar we als vanzelf aan meedoen) en hedendaagse navolging van Christus zit een behoorlijke streep licht. Is niet een van de meest wezenlijke – en tegelijkertijd dwarse – kenmerken van discipelen van Jezus Christus in deze tijd dat ze out of control [9] willen leven? Hun zwakheid is hun kracht. Deze ‘heilige’ onzekerheid gedijt het beste als we achteraan lopen in de massa, een beetje zoals Schuurman laat zien met zijn oude telefoon. Zonder kwetsbaarheid verliezen we een belangrijke dimensie in het leven voor Gods aangezicht. Niet dat technologie ons onkwetsbaar maakt, laat staan onsterfelijk. Maar we doen er goed aan deze kwetsbaarheid niet pas te leren bij het falen van de techniek.

Vrijheid
Het is zonneklaar dat we vaak het gevoel hebben dat technologie ons van onze vrijheid berooft. Kunnen we onze vrijheid nog wel behouden? Techniek vervreemdt ons van onszelf. Wie inziet dat we van meet af aan al verweven zijn met techniek, beseft dat dit niet helemaal de goede vraag is. Maar er valt nog een stap te zetten. In deze vraagstelling is ook de gedachte voorondersteld dat onze vrijheid vooral met de materie te maken heeft. Als de techniek groot wordt, moet dat wel ten koste van ons mensen gaan. Maar juist in de bezinning op wat er gebeurt met ons als mens, opent zich een andere dimensie. Even stilstaan in de stroom kan ons al op andere gedachten brengen. Waar wij onszelf als subject Een robot zal zich nooit afvragen: wie ben ik eigenlijk? beleven, opent zicht de ruimte van het innerlijk. De grote denkers van de mensheid hebben in dit domein de vrijheid van de mens gezocht. Die laat zich niet bevechten door te argumenteren over de vraag waarom robots ons nooit van onze vrijheid kunnen beroven. Belangrijker is de vaststelling dat een robot zich nooit de vraag zal stellen: wie ben ik eigenlijk? [10] Hoezeer ons zelf-verstaan beïnvloed wordt door de technologie waarmee we verweven zijn, de existentiële dimensie van ons mens-zijn is niet te reduceren tot de wetten van de materie.

Terug naar de vraagstelling van dit artikel: waarom maakt meer techniek ons niet gelukkig? Waar blijven we zelf nu de techniek steeds dichter op onze huid komt te zitten? De twee uiterste posities van accepteren en afwijzen bieden weinig soelaas. Het verleden leert dat we altijd al technologische mensen zijn geweest. En ook de huidige digitale revolutie zal ons tot mensen maken die anders denken en zelfs anders geloven dan ons voorgeslacht. Dit besef kan ons aanzetten tot technologiekritiek die de menselijke maat in het oog houdt. Want kritiek blijft nodig, zowel in de politiek als in de persoonlijke levenssfeer. Het laatste decennium zijn we te veel doorgeslagen naar de acceptatie. De wal is het schip momenteel aan het keren. Best kans dat we ons binnen enkele jaren schamen dat we ooit een Google-account hebben gehad.

Tegelijkertijd duidt de vraag naar controle op een verkeerd begrip van de menselijke conditie. De menselijke vrijheid bevindt zich in een domein waar onze apparaten nooit zullen komen. Maar om dat te ontdekken moeten we leren aanvoelen waar onze digitale gewoontes en gadgets dwingen en dringen. Meerdere filosofen gebruiken in dit verband het woord experimenteren. Daar kunnen we vandaag mee beginnen. Niet om onze ruimte opnieuw te veroveren, maar om onszelf te leren kennen. Alleen wie pijn heeft, merkt immers dat hij een lichaam heeft.

Prof. dr. ir. A.J. Nederveen is hoogleraar Toegepaste MR Fysica aan de UvA en klinisch fysicus bij de afdeling Radiologie van het AMC.

  1. Hans Achterhuis, De erfenis van de utopie, Amsterdam (1998).
  2. Joris Luyendijk, Dit kan niet waar zijn. Onder bankiers. Amsterdam (2015).
  3. Stevo Akkerman, Het klopt wel, maar het deugt niet. De maatschappelijke moraal in het nauw. Rotterdam (2016).
  4. René Munnik, We zijn altijd technologische burgers geweest. In: Geerten Boogaard, Pieter Jan Dijkman, René Munnik en Martijntje Smits (red.), Christen Democratische Verkenningen (2016), ‘Burgerschap in een technocratie’, pp. 36-43.
  5. Peter-Paul Verbeek, Op de vleugels van Icarus. Hoe techniek en moraal met elkaar meebewegen, Rotterdam (2014), p. 40-42
  6. Rinie van Est, m.m.v. Virgil Rerimassie, Ira van Keulen en Gaston Dorren, Intieme technologie. De slag om ons lichaam en gedrag, Rathenau Institutuut, Den Haag (2014).
  7. Zie ook het interview met Koo van der Wal in Wapenveld 49(1) en zijn pleidooi voor technology assessment: http://wapenveldonline.nl/artikel/439/.
  8. Remco van Mulligen, Alleen God kan ons nog redden. Egbert Schuurman: tegendraads christen in een seculier land, Amsterdam (2017).
  9. Herman Paul laat in zijn recente boek De slag om het hart - Over secularisatie van verlangen in navolging van de theologen Hauerwas en Williams zien hoe juist dit thema de kern is van discipelschap anno nu.
  10. Gerard Visser, Niets cadeau. Een filosofisch essay over de ziel, Nijmegen (2009), p. 92.