Big data-technologie biedt vanuit ethisch perspectief kansen en bedreigingen, aldus hoogleraar filosofie Jeroen van den Hoven. Hij zit in een commissie die de KNAW dit voorjaar adviseert over de ethische en juridische aspecten van informaticaonderzoek.
“De regel is: als iets gratis is op internet, betaal je met je persoonsgegevens.”
Uit een enquête van de Nationale Denktank blijkt dat tachtig procent van de Nederlanders niet weet wat de term big data inhoudt. Hoe omschrijft u big data?
“Big data gaat over echt heel grote databestanden. Petabytes, exabytes en zettabytes. Twitterstreams, Facebookdata, interactieve data die we produceren met al die smart technology die we met ons meedragen. En dan gecombineerd met allerlei andere databronnen: betalingsgedrag, bewegingsgedrag, dingen die we in huis doen met smart devices en die constant met sensoren data genereren. Constante stromen van data.”
Ziet u big data als een kans of een bedreiging?
“Vanuit het ethische perspectief is het beide. Technologie is vaak dual use. Het gaat erom dat we graag de voordelen van die technologie willen benutten, maar dan het liefst zonder alle nadelen. Dat is de basisgedachte van maatschappelijk verantwoord ondernemen. De voordelen zijn gigantisch. Big data wordt bij de sociale wetenschappen enorm belangrijk, die gaan helemaal veranderen.”
Waarom?
“Omdat we veel beter kunnen begrijpen wat ons beweegt. Vroeger stuurde je duizend enquêteformulieren en was je al blij met vijftig procent respons. Tegenwoordig kun je van veel mensen veel weten. Real time. Daar kun je de meest fantastische patronen uit halen. Hoe besmettelijke ziektes zich verspreiden kunnen we voorspellen op basis van waar mensen zijn en hoe ze zich voortbewegen. We moeten ook leren snappen hoe ideeën zich voortplanten op internet. Als je een feestje organiseert in Haren, staan er opeens vijftigduizend mensen op je stoep. Dat moeten we real time bestuderen en daar hebben we veel data voor nodig. Die big data revolutie kan ons helpen de samenleving te snappen.”
Ik hoor allemaal voordelen.
“Er zijn ook veel nadelen. Een die enorm in het oog springt, is dat we veel over individuen te weten kunnen komen. Er is een gestage en constante belangstelling van mensen in elkaar, maar ook van mensen die geld willen verdienen aan anderen, of ze willen benadelen. Dat levert een enorme kwetsbaarheid op met betrekking tot de privacy. Privacy wordt een enorm probleem.”
Daar hebben we in de EU toch allerlei wetten voor?
“Ja, maar die wetten zijn niet helemaal bij de tijd en niet gemaakt voor onderzoek met en naar big data. Een van de kernprincipes is dat je steeds toestemming moet vragen om die data te gebruiken. Maar ja, sommige mensen zoals Mark Zuckerberg van Facebook hebben al gezegd: vergeet het maar, dat hou je toch niet tegen. Het is dweilen met de kraan open, je geeft de hele tijd en overal zoveel informatie af.
Facebook mag alles van je gebruiken en doet ontzettend veel onderzoek. We weten niet precies wat ze allemaal doen met die data. De regel is: als iets gratis is op internet, betaal je met je persoonsgegevens. Dat is de nieuwe olie, het nieuwe goud. Bedrijven willen alles van je weten om je hun commerciële diensten beter aan te kunnen bieden en daar meer aan te verdienen.”
Daar doen we zelf even hard aan mee. Apps vragen toestemming voor van alles. De meeste mensen geven die.
“Klopt. Dus ik denk dat er nog een paar momenten komen zoals de Snowden-affaire. Deze datawereld zal ook zijn Tsjernobyls en Fukushima’s krijgen. Naar aanleiding van Fukushima heeft Duitsland gezegd te stoppen met nucleaire energie. Amerika heeft een groot deel van zijn cloudmarkt verloren na Snowden. Een andere bedreiging is veiligheid: als je kunt zien hoe je een virus het handigste de kop kunt indrukken, kun je misschien ook uitzoeken hoe je de dodelijkste route voor virussen kunt bewandelen. Als je wat bacteriën of virussen wilt loslaten, waar moet je dat dan het handigste doen op welk moment in welke stad? Je kunt berekenen wat de meeste impact zal hebben. Een ander punt is gelijkheid: als data zo waardevol zijn, komt de vraag: wie kan er allemaal van profiteren? En wie niet? Al die data accumuleren nu bij de Microsofts, Facebooks, Googles en Amazons van deze wereld. Zij gaan al die dingen leren over wat mensen beweegt en wat ze doen. Is dat exclusief voor hen?”
Zou dat allemaal open moeten zijn?
“Ik denk dat we meer die kant op moeten gaan denken. Voor zover het nuttige en interessante informatie oplevert die het gemeenschappelijke belang betreft, zou dat in principe open moeten zijn. Europa zit toch meer dan Amerika langs lijnen van open access te denken. Ict-bedrijven zijn allemaal bezig met zulke belangrijke dingen in ons leven, dat je daar morele en politieke eisen aan moet stellen over accountability, betrouwbaarheid en gelijkheid.”
Wat wil de KNAW?
“De KNAW wil richtlijnen voor onderzoek in dit enorme dynamische, hoogtechnologische zich snel ontwikkelende domein met apps, internet, Facebook, Twitter en geavanceerde software van gezichtsherkenning tot emotiedetectie. Zijn dat allemaal projecten die we moeten gaan doen? En zo ja, zonder enige voorwaarden?”
Zou dat kunnen betekenen dat er bijvoorbeeld een beperking komt op het genereren van big data?
“Ja, ik denk het wel. Wij hebben van die campuskaarten hier. De slimme variant daarvan kan bijhouden of je aan het lopen, zitten of praten bent. Als je dat van duizenden mensen bijhoudt, krijg je een beeld van een organisatie. De vraag is: zou je dat ook in een psychiatrische inrichting moeten gebruiken? Of in gevangenissen? In een kleuterschool?In Amerika wordt dit steeds vaker gedaan. Je kunt daar korting krijgen op je verzekeringspremie als je een half jaar rondrijdt met een zwarte doos in je auto die data bijhoudt. Je betaalt met je data. De les is: data zijn ontzettend interessant en veel geld waard.”
Er zullen ook mensen zijn die denken: ‘wat kan het mij schelen dat ze mijn gegevens hebben. Ik kan toch gewoon nee zeggen tegen aanbiedingen?’
“Dat kan, punt is alleen dat je niet precies weet hoe het gebruikt zal worden. Daar moeten we echt op letten. Als jij op internet kijkt of je een goedkoop ticket naar Venetië kunt krijgen en een retourtje voor 96 euro ziet, denk je: leuk gevonden, vanavond eens overleggen. Terug op de website kost het opeens 196 euro, omdat de cookies op je computer weten dat je nu echt geïnteresseerd bent. Dat heet price targeting. Het opbouwen van profielen met al die data, leert ons hoe je in elkaar zit en wat je bereid bent te betalen. Daar gaan we straks spijt van krijgen. Je denkt: ik heb misschien voordeel van die data, maar of jij voordeel hebt, maakt de andere partij wel uit. Die weet dat jij van zeventig procent bittere chocolade houdt. Als je om vijf voor zes de supermarkt in gaat om nog eventjes een lekkere reep in te slaan, wordt hij voor jou dus duurder. Je hebt nu al bij Albert Heijn dat er geen prijs meer op zit en je het artikel onder de scanner moet houden. Dat betekent dat die prijs flexibel kan worden. Bij Amazon is dit al zo. Voor bepaalde mensen is het duurder dan voor andere. Dat wordt de toekomst als we niet oppassen. Is dat erg? Ik denk van wel. Want wat is het einde?”
Wat kun je ertegen doen?
“Een kritische club ernaar laten kijken wat je van plan bent met onderzoek. Wat vind je zelf de kansen en risico’s? Als wij denken dat die risico’s te groot zijn, moet je het anders doen.”
Dus een strengere beoordeling bij NWO en universiteiten zelf?
“Ja, of slimme oplossingen waardoor je toch veel te weten komt. Dataminimalisatie, anonimisering of pseudonimisering. Je hebt allerlei technieken waarbij je toch te weten kunt komen wat gedragspatronen van mensen zijn zonder dat je hoeft te weten wie wie was en wie waar was. Dat hoef je niet te weten om grote patronen in het gedrag van mensen te kunnen bestuderen.”
Bedrijven als Facebook heb je daarmee niet te pakken.
“Dat is waar, maar daar valt wel wat aan te doen via wetgeving. Het mooiste voorbeeld is het recht om vergeten te worden. Google moet, als het in de EU actief wil zijn, daar aan voldoen. Er komen duizenden verzoeken van mensen die links verwijderd willen hebben. We hebben privacywetgeving en we hebben toezichthouders. In Nederland houden zo’n zeventig juristen van het College Bescherming Persoonsgegevens bij of iedereen zich aan de regels houdt. Dat is met al die big data bijna onbegonnen werk. Dat betekent dat je technologie zo moet maken dat die zelf al een beetje helpt om het probleem te voorkomen. Daar zijn allerlei methodes voor.”
Zoals?
“Anonimisering, security technology, wachtwoorden, autorisatie, het wissen van gegevens na bepaalde tijd, loggegevens bijhouden. Zo zijn er allerlei manieren van privacy enhancing technologies (PET). Een mooi voorbeeld is een camerasysteem dat de politie in Rotterdam gebruikt. Sommige camera’s zijn zo opgesteld dat ze soms bij mensen naar binnen kijken. Op dat moment schuift er op de monitor een grijze band in beeld. Dat is steeds de truc: je wilt die technologie gebruiken, maar de nadelen voorkomen via het ontwerp van de technologie. Responsible innovation. Het grappige is dat informatietechnologie zelf ook steeds meer gebruikt wordt om te monitoren of big data worden misbruikt. Er zijn mensen die nu werken aan het detecteren van discriminatie. Je kunt in grote databestanden bijvoorbeeld zien dat er in een bepaald postcodegebied geen leningen worden verstrekt. Sousveillance: het in de gaten houden van degenen die ons in de gaten houden.”
Hoe hou je Mark Zuckerberg in de gaten?
“Dat is inderdaad het grote probleem: naarmate diensten of producten die commerciële bedrijven leveren een centralere rol in de samenleving innemen, moet je meer eisen aan ze stellen. Moet je misschien op een gegeven moment wel – en dat is lange tijd taboe geweest – iets tot een publiek goed of een publieke zaak verklaren. Economen noemen dat een merit good: iets waarvan je zegt ‘dit is te belangrijk om aan de markt over te laten’. We zouden misschien een discussie kunnen hebben over wat in het ict-domein zó cruciaal is voor de samenleving, dat het misschien niet zo’n slim idee is om het in handen te leggen van mensen die alleen maar aan hun volgende quarterly revenues denken.”
CV
Prof.dr. Jeroen van den Hoven (Rotterdam, 1957) studeerde filosofie aan de Erasmus Universiteit, waar hij 1998 werd benoemd tot bijzonder hoogleraar filosofie van informatie- en communicatietechnologie. Sinds 2004 is hij als hoogleraar verbonden aan de faculteit Techniek, Bestuur en Management. Als onderzoeker publiceerde hij onder meer over de schaduwzijden van het internet en de mogelijke gevolgen van nanotechnologie voor onze privacy. De KNAW benoemde hem in een commissie die de Academie dit voorjaar zal adviseren over de ethische en juridische aspecten van big data en informatietechnologie.
Comments are closed.