‘Big tech is niet gebaat bij fatsoenlijk functionerende maatschappijen’

Nog maar enkele weken is hij herbenoemd in de European Group on Ethics in Science and New Technologies of Rusland valt Oekraïne binnen. En in dezelfde week dat de eerste bommen op Kyiv vallen, vernemen Jeroen van den Hoven en zijn medecommissieleden dat de bedreiging die van klimaatverandering uitgaat volgens VN-klimaatpanel IPCC ernstiger is dan tot dusver gedacht.

Delta sprak Van den Hoven, verbonden aan de faculteit Techniek, Bestuur en Management, enkele dagen voor de inval in Oekraïne. De aanleiding was zijn herbenoeming bij de ethische denktank van de EU. Ook toen was al duidelijk dat Europa haar afhankelijkheid van fossiele brandstoffen versneld zou moeten afbouwen. Sneller dan voorzien in de Europese Green Deal. De EU heeft nu, meer dan ooit zo lijkt het, behoefte aan een ethisch kompas.

Van den Hoven: “We staan voor een enorme opgave. Hoe verdelen we de lasten en geneugten van de energietransitie?” Het is een van de hete hangijzers, naast zaken die raken aan democratie, geopolitiek, big tech, robotisering en bio-ethiek, waarover Van den Hoven en veertien andere filosofen en ethici uit EU-landen zich zullen buigen. Hun taak is om de Europese Commissie gevraagd en ongevraagd te adviseren over maatschappelijke vraagstukken.

Tussen het voorjaar van 2021 (toen uw eerste termijn afliep) en februari 2022 was er geen European Group on Ethics in Science and new Technologies. Dat is opmerkelijk. Had de Europese Commissie toen geen moreel kompas?
Lacht. “Ja, zo zou je dat kunnen zien. Ik heb geen idee waarom dit zo is gegaan, en of dit zich al eens eerder heeft voorgedaan. Misschien hoor ik dat nog eens in de wandelgangen van het Berlaymontgebouw (het gebouw in Brussel waarin de Europese Commissie zetelt, red.). Daar komen we geregeld bij elkaar om te vergaderen en te praten met EU-commissarissen.”

‘We leven in een wereld van desinformatie’

Er liggen veel onderwerpen op jullie bord. Behalve vraagstukken over de energietransitie spelen meer existentiële en fundamentele principes een rol in jullie werk: het bewaken van de waarden waarop de EU is gestoeld. Hoe belangrijk zijn ethische principes, zoals onafhankelijke rechtspraak, vrije pers en gelijke rechten voor minderheden voor de EU?
“In Europa hebben we altijd de mond vol gehad van ethiek. Daar zijn we de afgelopen decennia om uitgelachen. ‘Daar heb je de Europeanen weer met hun ethiek en fundamentele principes’, klonk het dan. ‘Dat is zeker een methode om de interne markt te beschermen.’ Nou nee dus, dat is het dus niet. De EU is bij uitstek een community of values. De EU is gestoeld op twee bindende grondwettelijke verdragen: de charter of fundamental rights (Handvest van de grondrechten van de Europese Unie) en de European convention of human rights (Europees Verdrag voor de Rechten van de Mens). Die twee verdragen vormen de kern van Europa.”

Maar voerde marktdenken desondanks niet altijd de boventoon?
“De EU is lang in de ban geweest van marktdenken. Dat heeft de democratie geen goed gedaan. Neem de rol die we big tech in Europa hebben laten spelen. Het adagium was, zolang iets innovatief is, is het goed. Daar kon je niet tegen zijn. We hebben ons in slaap laten sussen. We stonden te weinig stil bij een fundamentele vraag: zijn deze innovaties in lijn met onze ethische principes? Big tech-bedrijven hebben het monopolie verkregen over onze data. Internet zou het walhalla voor de democratie zijn, dacht men in de jaren negentig. Maar we leven nu in een wereld van desinformatie, bot-legers en computationele propaganda (politieke manipulatie via het internet, red.).

“Big tech vaart wel bij polarisatie, want emotie verkoopt. Bij fatsoenlijk functionerende maatschappijen zijn ze niet gebaat. De EU werkt aan een pakket maatregelen om de macht van big tech in te perken (de Digital Markets Act, die binnenkort in werking moet treden, red.). De ethische principes treden de laatste jaren meer naar de voorgrond bij de Europese Commissie. Men had het er al decennia over, maar nu wordt de noodzaak gevoeld.”

‘Innovatie is een moreel concept’

Aan welke onderwerpen in het verlengde van de datahonger van big tech zouden jullie kunnen gaan werken?
“Subtiele en digitally enabled manieren van burgermanipulatie is wat mij betreft een belangrijk onderwerp. Dit staat ook hoog op de agenda in de EU.”

Wat houdt dat in?
“Bedrijven hebben zoveel persoonlijke data in handen, dat ze mensen onbewust kunnen manipuleren. Denk aan het datamining bedrijf Cambridge Analytica. (Dat bedrijf beïnvloedde de Amerikaanse presidentsverkiezingen van 2016 met gegevens van Facebook, red.). De beïnvloeding van mensen kan misschien veel verder gaan. Het bedrijf Neuralink van Elon Musk ontwikkelt een techniek om gedachten uit te lezen. Er wordt ook gewerkt aan targeted dream incubation. Het idee daarachter is dat je dromen van mensen aanstuurt door ze tijdens hun slaap bepaalde signalen te geven.”

Welke insteek kiezen jullie als jullie over dergelijke onderwerpen schrijven?
“Innovatie is een moreel concept. Zo moet je ernaar kijken. Innovatie kan problemen veroorzaken, maar ook oplossingen bieden voor morele knelsituaties. Hoe? Dat kun je vaak nog niet voorzien. Maar door de juiste vragen te stellen, kom je mogelijk op lumineuze ideeën. Dat geldt voor het functioneren van het internet, maar misschien ook wel voor migratie, voedselvoorziening en klimaat. We leven met bijna 8 miljard mensen op aarde. We moeten wel met allerlei innovatieve technologische oplossingen komen op gebied van clean tech, renewables en ga zo maar door.

“Onze insteek is vaak positief. We stellen onszelf bijvoorbeeld de vraag wat het potentieel is van digitale innovatie voor de democratie. Hoe we informatie met elkaar uitwisselen; dat is het weefsel van de samenleving. Waarom doen we dat niet op platformen die we met zijn allen democratisch vormgeven? Er zijn toch ook openbare scholen en openbare bibliotheken? Zoiets kan misschien ook op internet. Wikipedia is al een mooi voorbeeld. Het is open, schaalbaar en toch redelijk betrouwbaar. Ook gemeentes experimenteren met online burgerparticipatie. Neem Barcelona, waar ze een systeem hebben ontwikkeld voor participatie bij gemeentelijke beraadslagingen. We moeten positieve voorbeelden in kaart brengen en de gemene delers van succesvolle projecten ontdekken.”

Een ander heikel punt zijn de gevolgen van robotisering en artificiële intelligentie voor de arbeidsmarkt. Welke problemen voorzien jullie?
“Door automatisering wordt de arbeidsmarkt uitgehold. Niet iedereen kan meekomen. Er komt een squeeze in the middle. Er zal altijd veel werk blijven aan de onderkant van de arbeidsmarkt, waar menselijk contact nodig is, zoals in de horeca en de verpleging. Hetzelfde geldt voor de high end, waar creativiteit en opleiding vereist zijn. Maar veel administratieve functies en arbeidsplaatsen in fabrieken verdwijnen. Als arbeid niet meer voor iedereen is weggelegd, hoe zorg je dan voor de verdeling van inkomens? Kan iets als een basisinkomen een oplossing zijn?”

‘Rampen kunnen in allerlei gedaantes komen’

En, is een basisinkomen een oplossing?
“Hooguit een deel van de oplossing. Werk is een briljante combinatie van tal van zaken die belangrijk zijn voor mensen. Je bent actief, werkt aan gezamenlijke doelen, je kunt je creativiteit en energie kwijt, krijgt erkenning en wordt beloond zodat je je eigen broek kunt ophouden. Arbeid en werk leveren voor individuen een enorm pakket aan positieve dingen op. Dat kun je niet versimpelen tot alleen inkomen. Als werk wegvalt, moet je bedenken hoe mensen invulling aan hun leven kunnen geven. Je moet dan overstappen op andere modellen. Mensen kunnen niet de hele dag op de bank Nintendo zitten spelen. Dat is geen interessant leven. Halverwege deze eeuw gaan we ons hiermee geconfronteerd zien. De les is altijd: je moet het dak repareren als de zon schijnt. Dus als je de tijd hebt om erover na te denken.”

Jullie willen daken repareren, maar hoeveel invloed hebben jullie?
“De European Group on Ethics bestaat dertig jaar. Ik denk dat haar invloed snel groeit. Technologie wordt krachtiger en impactvoller. Daardoor wordt de samenleving verwarrender. Als gevolg daarvan wordt ethiek belangrijker. Bedrijven, gemeenten en overheden tuigen ethische commissies op. Soms is dat ethics washing uit de koker van marketingafdelingen. Maar soms is het oprecht. Men denkt steeds vaker: we hebben expertise over onze core business, over gedrag, over communicatie… we moeten ook ethische expertise hebben. De wetgever zal er steeds meer naar vragen. Instanties en bedrijven zullen steeds vaker verantwoording moeten afleggen over de ethische aspecten van hun activiteiten. Ze moeten ethisch huiswerk verrichten. Wat dat precies betekent zal voor elke sector anders zijn.” 

Maar hoe schat u de invloed van uw eigen commissie in? U draait al een tijdje mee, want dit is uw herbenoeming. Doet de EU iets met jullie adviezen?
“Vorig jaar hebben we samen met het science advisory commitee – een ander adviesorgaan dat zich puur richt op wetenschap –  enkele stukken geschreven over veerkracht van maatschappelijke systemen. De aanleiding was de coronapandemie en de ontwrichtende werking ervan op de samenleving. We hebben erop gehamerd dat de EU moest nadenken over de veerkracht van complexe systemen in zijn algemeenheid. Ditmaal werd de samenleving geraakt door corona, maar rampen kunnen in allerlei gedaantes komen. Hoe zorg je ervoor dat instituties overeind blijven bij een komeetinslag, een pandemie waardoor iedereen buikloop krijgt, of bij cyberaanvallen. Daarvoor moet je op een hoger abstractieniveau gaan nadenken. Die boodschap is volgens mij aangekomen.”

Kun je met vijftien leden tot overeenstemming komen over de adviezen?
“In de praktijk gaat het best goed. Het is altijd mogelijk om minderheidsstandpunten in voetnoten op te nemen. Maar ik heb nooit grote verschillen van meningen gezien, ook al komen we uit verschillende lidstaten en houden we er soms net andere disciplinaire invalshoeken op na. We zijn allemaal hoogleraren in de ethiek. Wij komen er wel uit met elkaar.”