Voorpublicatie Down to Earth (copy)

Hoofdstuk 1 – De wereld opnieuw ontwerpen

In gesprek met Peter-Paul Verbeek
Enschede, Nederland

De populaire documentaire The Social Dilemma, die wekenlang de hitlijsten van Netflix domineerde, is een alarmerende waarschuwing voor de gevaarlijke impact van sociale netwerken: de verslavende algoritmes van Facebook, Twitter en Instagram perken onze vrijheid in. De nietsvermoedende gebruiker wordt gemanipuleerd en misleid met reclameboodschappen en nieuwsberichten die onze diepste angsten, verlangens en vermoedens versterken. De algoritmes laten ons beslissingen nemen die eigenlijk niet van ons zijn: van de aankoop van een shampoo tot onze stem op een politieke partij.
   Angst voor technologie is van alle tijden. Al sinds er techniek bestaat, zijn mensen bang dat die ons gaat overheersen. De Griekse filosoof Plato dacht dat de uitvinding van het schrift ons geheugen zou bederven, want alles wat je opschrijft hoef je niet te onthouden. Tijdens de industriële revolutie sloegen arbeiders weefmachines kapot uit vrees voor hun baan. En ook vandaag de dag is de angst voor technologie springlevend. Als je ‘s morgens wakker wordt en automatisch naar je telefoon grijpt, dringt de vraag zich op: ben je nog een gebruiker of word je gebruikt?
   Dit hoofdstuk gaat niet over de vraag of die angst reëel is of niet. Hoewel daar veel over te zeggen valt, levert het volgens techniekfilosoof Peter-Paul Verbeek meer op als we eerst een laag dieper kijken. Waar komt die angst vandaan? Dan ontdekken we een dominante manier van denken over technologie.
   In onze manier van denken plaatsen we technologie steeds tegenover de mens, zegt Verbeek. De mens is het ‘subject’ met emoties en intenties, daartegenover staat technologie als het levenloze ‘object’. Als objecten het gebied van de subjecten binnentreden, schieten we in de verdediging. Techniek is de gevaarlijke indringer die we buiten moeten houden.
   We kunnen ook anders kijken naar technologie. In zijn wereldbeeld staan mens en technologie niet tegenover elkaar, maar verbindt techniek ons met de wereld om ons heen. Techniek vormt een medium voor ons bestaan: alles wat we zien, horen en doen wordt gemedieerd door technologie. Door de ontdekking van het schrift en het internet zijn we de mensen geworden die we nu zijn. Een menselijke wereld zonder technologie is letterlijk ondenkbaar geworden.
   Mens en technologie zijn onlosmakelijk met elkaar verknoopt: wij maken technologie, maar de technologie maakt ons ook. Echoscopie veranderde wat het betekent om een kind te verwachten. Een ongeboren kind werd een potentiële patiënt. Ouders moeten opeens kiezen of ze wel een kind met het Syndroom van Down willen. MRI-scanners veranderden hoe hersenwetenschappers het gedrag van mensen begrijpen. Techniek vormt wie wij zijn en wat de wereld voor ons is.
   De echte vraag is niet hoe we de macht van technologie buiten de deur houden, maar hoe we vormgeven aan onze samenleving waarin technologie een steeds grotere rol speelt. Voor welke doeleinden gebruiken we technologie? Hoe geven we opnieuw vorm aan de zorg en het onderwijs? De ethiek van Verbeek draait niet om het weghouden of toelaten van techniek, maar om het vormgeven van een verbinding die er altijd is. Geen ethiek van buitenaf, maar van binnenuit.
   Verbeek is hoogleraar Filosofie en Techniek aan de Universiteit Twente. Hij is verbonden aan verschillende nationale en internationale commissies die zich buigen over de ethiek van wetenschap en techniek. Op wereldschaal is hij voorzitter van Unesco’s World Commission for the Ethics of Science and Technology, waar hij studies doet over water, landgebruik, the internet of things, robotica en kunstmatige intelligentie.
   We ontmoeten elkaar in het DesignLab aan de Universiteit Twente, waar Verbeek mededirecteur is. In het DesignLab werken onderzoekers uit verschillende disciplines samen aan innovatieve projecten, zoals een brug die zichzelf 3D-print en een burgerproject waarin een patiënt zijn eigen ziekte onderzoekt. De doelstelling van het DesignLab is om met wetenschap en technologie een bijdrage te leveren aan de grote uitdagingen van onze samenleving.
   Als filosoof voelde Verbeek zich steeds ongemakkelijker bij een ethiek vanaf de zijlijn: zonder vuile handen te maken roepen wat verkeerd is. Daar wordt de wereld niet beter van. Daarom zit hij in verschillende adviesraden, van de Koninklijke Nederlandse Akademie van Wetenschappen (KNAW), de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO) en het Rathenau Instituut. Daar denkt de hoogleraar Filosofie en Ethiek actief mee over beleid.

Je maakt deel uit van een UNESCO Expert Group die internationale aanbevelingen doet over de ethiek van kunstmatige intelligentie. Waarom is het belangrijk om dit gesprek op mondiaal niveau te voeren?

Technologieën zoals kunstmatige intelligentie overstijgen de schaal van regio’s of landen. Hun impact gaat veel verder. Ze veranderen onze geest. Overal zitten algoritmes achter die ons wereldbeeld meehelpen vormen. We hebben tot nu toe weinig moeite gedaan om op ethisch niveau met de hele wereld daarover te spreken. De ambitie van Unesco is om dat gesprek wel te voeren.
   Als we de geest beïnvloeden met technologie, dan moet je daar verantwoord mee omgaan. Wat staat er op het spel op het gebied van wereldvrede? Wat blijft er over van de nuances van kleine talen als we met machines elke taal kunnen vertalen? Wat doen Spotify en Netflix met ons gevoel voor culturele diversiteit? Moet je alleen suggesties krijgen die lijken op dingen die je al leuk vond, of is het een pedagogische taak om af en toe iets anders aan te bieden? Of is dat dan paternalisme?
   Ik heb niet per se antwoorden op zulke vragen, maar als we niks doen dan worden we ook beïnvloed, maar dan door de toevallige manier waarop die algoritmes zijn getraind. We kunnen er dus beter verantwoordelijkheid voor nemen. Dat betekent niet dat we weer de baas moeten worden over technologie, want dat is onmogelijk. We kunnen ons niet onttrekken aan technologie, we zijn erdoor gevormd. Die verwevenheid tussen mens en techniek maakt het waanzinnig complex om invulling te geven aan die verantwoordelijkheid.
   Technologie beïnvloedt immers niet alleen de samenleving, maar ook de waardenkaders die we gebruiken. Er is geen onafhankelijk meetinstrument. De waarden waarmee we techniek beoordelen zijn zelf technologisch gemedieerd. We willen onze privacy beschermen tegen Google Glass, maar ons begrip van privacy wordt gekleurd door Google Glass. De slimme bril opent nieuwe interpretaties van privacy, zoals het recht om alleen gelaten te worden of controle over je persoonlijke gegevens.
   Kritisch zijn kan alleen van binnenuit, door aan de grens van het systeem te gaan staan. De Franse filosoof Michel Foucault noemt dat een ‘grenshouding’. Je kunt aan de grens gaan staan en van daaruit kijken wat erin zit, maar je realiseert je dat je dat altijd doet in de taal van het systeem.

Algoritmes sturen ons gedrag. Ze bepalen naar welke muziek je luistert en welke resultaten je ziet in Google. Begrijp je dat mensen hun hakken in het zand zetten en zeggen: ‘Ho eens even met die techniek’?

Dat snap ik goed. Sterker nog, ik kom vanuit eenzelfde bezorgdheid. Die drijft mij net zo sterk als mensen die daaruit concluderen dat we naar de noodrem moeten zoeken. Het verschil is: ik denk niet dat die noodrem er is. De kernvraag is voor mij niet ‘Ja of nee?’, maar ‘Hoe?’.
   Niemand wil kernwapens, maar ze zijn er. Op het moment dat ze bedacht zijn, hebben ze al invloed. We zullen een manier moeten vinden om daarmee te dealen. Ik zie techniek als een soort lot. Dat is niet altijd leuk. Natuurlijk maak ik me ook zorgen over kunstmatige intelligentie. Maar het antwoord op die zorgen is niet dat we die techniek moeten verbieden. Je moet het probleem recht in de ogen kijken.
   Om recht te doen aan die zorgen, moeten mensen erop kunnen vertrouwen dat ze gehoord worden tijdens de ontwikkeling, maar ook tijdens de implementatie en het gebruik van een technologie. Mensen moeten nog iets te zeggen hebben en instellingen kunnen veranderen. Mijn diepe overtuiging is dat dat een beter antwoord is dan heel hard proberen aan een noodrem te trekken die nergens op aangesloten is.

(Dit is een deel van hoofdstuk 1 van Down to Earth)

—