De ethicus als extra hand in de ontwerpploeg

U gaat aanschuiven bij Vara-coryfee Paul Witteman?

“Ik ben door een aantal rondes met voorgesprekken gekomen. In de laatste screentest moest ik een ethisch vraagstuk behandelen. Witteman voelde me ondertussen behoorlijk aan de tand. Blijkbaar is dat niet tegengevallen, want ik ben geselecteerd om aan ongeveer vijf afleveringen deel te nemen.

Komende maand houdt u ook uw intreerede aan de TU Delft. Waar gaat die over?

“Ik wil mensen graag aan het denken zetten over de ethische gevolgen van een technisch ontwerp, dat is ook de reden dat ik voor ‘Nieuwslicht’ ben gevraagd. Iedere nieuwe techniek heeft maatschappelijke gevolgen en morele implicaties, die de keuzevrijheid van een gebruiker beïnvloeden.”

Hoe kan techniek bepalen wat ik kies en waar ik ga of sta?

“Een goed voorbeeld van een technisch ontwerp dat de bewegingsvrijheid van mensen beïnvloedt zijn de laag overhangende snelwegen in New York, die begin vorige eeuw werden gebouwd. Nadere studie van de geschriften van de architect van deze bruggen onthulde dat hij racistische ideeën had.

Je zou zeggen dat een laaghangende brug over een snelweg niks met racisme te maken heeft, maar dat is niet zo. Die bruggen werden precies gebouwd tussen het stadsgedeelte met de parken voor blanke rijken en het arme stadsgedeelte, waar de zwarte bevolking woonde. De bruggen bleken zo laag gebouwd, dat er geen bussen onderdoor konden, het armeluivervoer. Zo kon hij met een ontwerp bewerkstelligen dat er minder zwarten uit het arme gedeelte naar de parken kwamen.”

In een technisch ontwerp zitten dus altijd bijbedoelingen van de ontwerper?

“Dat kan altijd, in positieve en in negatieve zin. Zoekmachine Google is een voorbeeld. Als je een zoekterm invult lijkt het wel of je een objectief overzicht krijgt in volgorde van belang van de informatie die je zoekt, maar het zoekalgoritme is zo te beïnvloeden dat je informatie van bijvoorbeeld bepaalde bedrijven als eerste te zien krijgt.”

U bent voorzitter van het Platform Ethiek en Techniek van de TU. Vindt u dat de TU genoeg doet op dit vlak?

“Een van de redenen dat ik hier kwam werken is dat de TU Delft het thema ethiek binnen techniek de laatste jaren goed heeft opgepakt.”

U bestudeert in uw werk de invloed van ict-technologie op het menselijk functioneren en haar verantwoordelijkheid. Een populaire klacht is dat de kennis van studenten achteruit gaat. Kan informatietechnologie hierin een rol spelen, denkt u?

“Je ziet wel dat er door internet een verschuiving is ontstaan in wat het begrip kennis inhoudt. De nadruk ligt nu op dat je kennis weet te vinden, in plaats van dat je echt begrip van het onderwerp hebt. Je krijgt steeds vaker kennis aangereikt uit de tweede hand, van verschillende bronnen waarvan de herkomst onduidelijk is. Voor filosofen als Descartes, Spinoza en Locke zou dat een gruwel zijn, die vonden dat je alleen door persoonlijke ondervinding tot kennis kon komen.”

Maakt informatietechnologie de werkelijkheid zo onwerkelijker? Een steeds groter deel van onze ervaringen komt via informatietechnologie uit tweede of derde hand.

“Je stelt steeds meer een beeld van de wereld samen op basis van afbeeldingen. Een leuke anekdote in dit verband is een klein meisje dat in Californië met haar moeder op het strand loopt en een kwal vindt. Ze voelt de glibberige kwal en zegt: ‘Isn’t it realistic?‘ Het woordje realistic verwijst naar een gewenning aan simulaties van de werkelijkheid.”

Techniek kan ook invloed hebben op de aard van menselijk contact. Kinderen pesten elkaar grover via internet en mensen beëindigen volgens HP/DeTijd via sms hun relatie. Ziet u ook gevaren?

“Met de universiteit van Canberra in Australië zijn we een nieuw onderzoek gestart, ‘Evil Online’. We kijken naar de morele psychologie van online relaties.

Via internet kun je de meest bizarre mensen en zaken vinden en het is allemaal met een klik beschikbaar in de vertrouwde context van je huiskamer, zonder dat er controle is. Er bestaat een gevaar voor afstomping, omdat je gewoon aan je bureaustoel onthoofdingsfilmpjes kunt bekijken en uitwisselen.

Een ander gevaar bestaat met videogames. Het is goed mogelijk dat ook videospelletjes mensen ongevoeliger maken voor wat ze anderen aandoen.

“Neem de jongens in Amerika die bij de high school shooting betrokken waren. Ze konden van grote afstand mensen in het hoofd raken. Bekend is dat ze veel 3D-schietspellen speelden. Sommige van die spellen zijn gebaseerd op militaire simulatieprogramma’s. Een van de doelen van die programma’s is de schroom te overwinnen om iemand van dichtbij te beschieten, want daar hebben mensen een natuurlijke weerstand tegen.”

Wat wilt u ingenieurs duidelijk maken als filosoof?

“Dat techniek een enorme invloed op de samenleving heeft en dat er dus een zware verantwoordelijkheid op hun schouders rust. Ik pleit ervoor dat filosofen en ethici al aan de ontwerptafel meedenken over hoe een systeem of product vorm krijgt. De rol van filosofen en ethici is tot nu toe nog vaak dat ze als criticaster aan de zijlijn staan en achteraf meepraten, als het product er al ligt. Bij ontwerpen wordt de laatste decennia al rekening gehouden met zaken als gezondheid en de impact op het milieu. Ik wil dat bij een ontwerp ook de invloed wordt meegewogen die het ontwerp heeft op de autonomie van de gebruiker.”

Hoe kunt u nu moraal en ethiek in een ontwerp verwerken?

“Een goed voorbeeld is een overheidsproject waarvoor ik meewerk aan de modernisering van de gemeentelijke basisadministratie. Het gaat hier over persoonsgegevens die je met een persoonsgebonden nummer kunt opvragen. Je moet je informatiesysteem zo inrichten dat van alle beheerders en gebruikers de verantwoordelijkheid helder wordt, zodat je bij een crisis weet wie aansprakelijk is.

Stel dat iemand die in een informatiesysteem geregistreerd staat een aanslag heeft gepleegd. Als daar in zijn persoonsgegevens aanwijzingen voor waren, rijst al gauw de vraag waarom bijvoorbeeld de burgemeester geen waarschuwing kreeg. En wie heeft het systeem zo ontworpen dat onderlinge waarschuwing niet mogelijk was? Mensen hebben dan snel de neiging om zich achter een systeem te verschuilen, zodat ze geen verantwoordelijkheid meer hebben.”

Waarom denkt u dat ict-ingenieurs graag met een filosoof een ict-systeem willen ontwerpen? Dat geeft toch alleen maar oponthoud in een tijd met ongeduldige opdrachtgevers?

“Ethiek bij het ontwerp betrekken hoeft geen rem op je werk te betekenen, maar kan gewoon een extra hand aan de ploeg zijn. Zo kun je problemen voorkomen in plaats van dat je later juridisch moet uitvechten wie er aansprakelijk is als er iets fout gaat.

Stel bijvoorbeeld dat je een informatiesysteem in een ziekenhuis introduceert. Dan kun je beter vooraf bedenken tot welke keuzes het gebruik van een informatiesysteem gebruikers dwingt. Wie heeft toegang tot welke patiënteninformatie en op welk moment zijn ze daar aansprakelijk voor?

Dat soort vragen kun je in je ontwerp opnemen, want veel ethische vragen over verantwoordelijkheid en aansprakelijkheid zijn technisch te vertalen. Doe je dat niet, dan kunnen mensen bij een crisis zich achter een ontwerpfout in het systeem verschuilen.”

Ook bij technologie in opkomst, zoals nanotechnologie en rfid (chips met identificatiegegevens) is het belangrijk om nu al over de maatschappelijke gevolgen na te denken en daarover een debat te starten.”

Maar als iets werkt, dan blijft de rol van de filosoof dat hij achteraf mag zeggen dat dit niet zo goed was. Kijk maar naar de atoombom. Waarom kunt u ingenieurs er nu wel van overtuigen dat u nuttig bent?

“Filosofie wordt steeds praktischer. Begin vorige eeuw bestond een groot deel van de academische filosofie uit het nadenken over de Grote Vragen, zoals ‘wat is rechtvaardigheid’, of ‘wat is deugd’. De laatste decennia zie je dat het oude ideaal, dat filosofie in het dagelijks leven bruikbaar moet zijn, in ere wordt hersteld. Die verschuiving begon al in de jaren zestig, toen filosofen zich in het politieke debat gingen mengen. De rol van filosofen verschuift zich nu naar het nadenken over de invloed van techniek op menselijk handelen, omdat iedereen ziet hoe techniek de wereld verandert en daarmee het menselijk handelen beïnvloedt.

Nu zie je al dat filosofen door bedrijven gevraagd worden om advies te geven. Ik verwacht daarom dat het over nog eens dertig jaar normaal is dat bij iedere grote introductie van een technologie ook een groep filosofen bij het ontwerp wordt betrokken.”
WIE IS JEROEN VAN DEN HOVEN?

Ict-filosoof prof.dr. Jeroen van den Hoven bezet een jaar parttime de Socrates-leerstoel bij de faculteit Techniek, Bestuur en Management. Hij maakt deel uit van het onlangs aan de TU gestarte Platform voor Ethiek en Techniek. Naast zijn TU-functie is hij professorial fellow aan het Centre for Applied Philosophy and Public Ethics aan de Australian National University in Canberra. Ook geeft hij filosofisch advies over ict-vraagstukken aan politici en het ministerie van economische zaken.

Van den Hoven volgde zijn filosofische opleiding aan de Rotterdamse Erasmus Universiteit, waar hij in 1995 promoveerde. In 1996 ontving hij van de University of Virginia een onderzoeksbeurs voor een jaar, evenals aan Dartmouth College in het Amerikaanse Hannover.

Van den Hoven richt zijn filosofische blik op de invloed van ict-techniek op menselijke verantwoordelijkheid. Vanaf 25 maart zal hij wekelijks in Vara-programma ‘Nieuwslicht’ te zien zijn, waar hij in het vaste panel plaatsneemt met bekende wetenschappers als de Leidse astronoom Vincent Icke.

(Foto’s: Hans Stakelbeek/FMAX)

U gaat aanschuiven bij Vara-coryfee Paul Witteman?

“Ik ben door een aantal rondes met voorgesprekken gekomen. In de laatste screentest moest ik een ethisch vraagstuk behandelen. Witteman voelde me ondertussen behoorlijk aan de tand. Blijkbaar is dat niet tegengevallen, want ik ben geselecteerd om aan ongeveer vijf afleveringen deel te nemen.

Komende maand houdt u ook uw intreerede aan de TU Delft. Waar gaat die over?

“Ik wil mensen graag aan het denken zetten over de ethische gevolgen van een technisch ontwerp, dat is ook de reden dat ik voor ‘Nieuwslicht’ ben gevraagd. Iedere nieuwe techniek heeft maatschappelijke gevolgen en morele implicaties, die de keuzevrijheid van een gebruiker beïnvloeden.”

Hoe kan techniek bepalen wat ik kies en waar ik ga of sta?

“Een goed voorbeeld van een technisch ontwerp dat de bewegingsvrijheid van mensen beïnvloedt zijn de laag overhangende snelwegen in New York, die begin vorige eeuw werden gebouwd. Nadere studie van de geschriften van de architect van deze bruggen onthulde dat hij racistische ideeën had.

Je zou zeggen dat een laaghangende brug over een snelweg niks met racisme te maken heeft, maar dat is niet zo. Die bruggen werden precies gebouwd tussen het stadsgedeelte met de parken voor blanke rijken en het arme stadsgedeelte, waar de zwarte bevolking woonde. De bruggen bleken zo laag gebouwd, dat er geen bussen onderdoor konden, het armeluivervoer. Zo kon hij met een ontwerp bewerkstelligen dat er minder zwarten uit het arme gedeelte naar de parken kwamen.”

In een technisch ontwerp zitten dus altijd bijbedoelingen van de ontwerper?

“Dat kan altijd, in positieve en in negatieve zin. Zoekmachine Google is een voorbeeld. Als je een zoekterm invult lijkt het wel of je een objectief overzicht krijgt in volgorde van belang van de informatie die je zoekt, maar het zoekalgoritme is zo te beïnvloeden dat je informatie van bijvoorbeeld bepaalde bedrijven als eerste te zien krijgt.”

U bent voorzitter van het Platform Ethiek en Techniek van de TU. Vindt u dat de TU genoeg doet op dit vlak?

“Een van de redenen dat ik hier kwam werken is dat de TU Delft het thema ethiek binnen techniek de laatste jaren goed heeft opgepakt.”

U bestudeert in uw werk de invloed van ict-technologie op het menselijk functioneren en haar verantwoordelijkheid. Een populaire klacht is dat de kennis van studenten achteruit gaat. Kan informatietechnologie hierin een rol spelen, denkt u?

“Je ziet wel dat er door internet een verschuiving is ontstaan in wat het begrip kennis inhoudt. De nadruk ligt nu op dat je kennis weet te vinden, in plaats van dat je echt begrip van het onderwerp hebt. Je krijgt steeds vaker kennis aangereikt uit de tweede hand, van verschillende bronnen waarvan de herkomst onduidelijk is. Voor filosofen als Descartes, Spinoza en Locke zou dat een gruwel zijn, die vonden dat je alleen door persoonlijke ondervinding tot kennis kon komen.”

Maakt informatietechnologie de werkelijkheid zo onwerkelijker? Een steeds groter deel van onze ervaringen komt via informatietechnologie uit tweede of derde hand.

“Je stelt steeds meer een beeld van de wereld samen op basis van afbeeldingen. Een leuke anekdote in dit verband is een klein meisje dat in Californië met haar moeder op het strand loopt en een kwal vindt. Ze voelt de glibberige kwal en zegt: ‘Isn’t it realistic?‘ Het woordje realistic verwijst naar een gewenning aan simulaties van de werkelijkheid.”

Techniek kan ook invloed hebben op de aard van menselijk contact. Kinderen pesten elkaar grover via internet en mensen beëindigen volgens HP/DeTijd via sms hun relatie. Ziet u ook gevaren?

“Met de universiteit van Canberra in Australië zijn we een nieuw onderzoek gestart, ‘Evil Online’. We kijken naar de morele psychologie van online relaties.

Via internet kun je de meest bizarre mensen en zaken vinden en het is allemaal met een klik beschikbaar in de vertrouwde context van je huiskamer, zonder dat er controle is. Er bestaat een gevaar voor afstomping, omdat je gewoon aan je bureaustoel onthoofdingsfilmpjes kunt bekijken en uitwisselen.

Een ander gevaar bestaat met videogames. Het is goed mogelijk dat ook videospelletjes mensen ongevoeliger maken voor wat ze anderen aandoen.

“Neem de jongens in Amerika die bij de high school shooting betrokken waren. Ze konden van grote afstand mensen in het hoofd raken. Bekend is dat ze veel 3D-schietspellen speelden. Sommige van die spellen zijn gebaseerd op militaire simulatieprogramma’s. Een van de doelen van die programma’s is de schroom te overwinnen om iemand van dichtbij te beschieten, want daar hebben mensen een natuurlijke weerstand tegen.”

Wat wilt u ingenieurs duidelijk maken als filosoof?

“Dat techniek een enorme invloed op de samenleving heeft en dat er dus een zware verantwoordelijkheid op hun schouders rust. Ik pleit ervoor dat filosofen en ethici al aan de ontwerptafel meedenken over hoe een systeem of product vorm krijgt. De rol van filosofen en ethici is tot nu toe nog vaak dat ze als criticaster aan de zijlijn staan en achteraf meepraten, als het product er al ligt. Bij ontwerpen wordt de laatste decennia al rekening gehouden met zaken als gezondheid en de impact op het milieu. Ik wil dat bij een ontwerp ook de invloed wordt meegewogen die het ontwerp heeft op de autonomie van de gebruiker.”

Hoe kunt u nu moraal en ethiek in een ontwerp verwerken?

“Een goed voorbeeld is een overheidsproject waarvoor ik meewerk aan de modernisering van de gemeentelijke basisadministratie. Het gaat hier over persoonsgegevens die je met een persoonsgebonden nummer kunt opvragen. Je moet je informatiesysteem zo inrichten dat van alle beheerders en gebruikers de verantwoordelijkheid helder wordt, zodat je bij een crisis weet wie aansprakelijk is.

Stel dat iemand die in een informatiesysteem geregistreerd staat een aanslag heeft gepleegd. Als daar in zijn persoonsgegevens aanwijzingen voor waren, rijst al gauw de vraag waarom bijvoorbeeld de burgemeester geen waarschuwing kreeg. En wie heeft het systeem zo ontworpen dat onderlinge waarschuwing niet mogelijk was? Mensen hebben dan snel de neiging om zich achter een systeem te verschuilen, zodat ze geen verantwoordelijkheid meer hebben.”

Waarom denkt u dat ict-ingenieurs graag met een filosoof een ict-systeem willen ontwerpen? Dat geeft toch alleen maar oponthoud in een tijd met ongeduldige opdrachtgevers?

“Ethiek bij het ontwerp betrekken hoeft geen rem op je werk te betekenen, maar kan gewoon een extra hand aan de ploeg zijn. Zo kun je problemen voorkomen in plaats van dat je later juridisch moet uitvechten wie er aansprakelijk is als er iets fout gaat.

Stel bijvoorbeeld dat je een informatiesysteem in een ziekenhuis introduceert. Dan kun je beter vooraf bedenken tot welke keuzes het gebruik van een informatiesysteem gebruikers dwingt. Wie heeft toegang tot welke patiënteninformatie en op welk moment zijn ze daar aansprakelijk voor?

Dat soort vragen kun je in je ontwerp opnemen, want veel ethische vragen over verantwoordelijkheid en aansprakelijkheid zijn technisch te vertalen. Doe je dat niet, dan kunnen mensen bij een crisis zich achter een ontwerpfout in het systeem verschuilen.”

Ook bij technologie in opkomst, zoals nanotechnologie en rfid (chips met identificatiegegevens) is het belangrijk om nu al over de maatschappelijke gevolgen na te denken en daarover een debat te starten.”

Maar als iets werkt, dan blijft de rol van de filosoof dat hij achteraf mag zeggen dat dit niet zo goed was. Kijk maar naar de atoombom. Waarom kunt u ingenieurs er nu wel van overtuigen dat u nuttig bent?

“Filosofie wordt steeds praktischer. Begin vorige eeuw bestond een groot deel van de academische filosofie uit het nadenken over de Grote Vragen, zoals ‘wat is rechtvaardigheid’, of ‘wat is deugd’. De laatste decennia zie je dat het oude ideaal, dat filosofie in het dagelijks leven bruikbaar moet zijn, in ere wordt hersteld. Die verschuiving begon al in de jaren zestig, toen filosofen zich in het politieke debat gingen mengen. De rol van filosofen verschuift zich nu naar het nadenken over de invloed van techniek op menselijk handelen, omdat iedereen ziet hoe techniek de wereld verandert en daarmee het menselijk handelen beïnvloedt.

Nu zie je al dat filosofen door bedrijven gevraagd worden om advies te geven. Ik verwacht daarom dat het over nog eens dertig jaar normaal is dat bij iedere grote introductie van een technologie ook een groep filosofen bij het ontwerp wordt betrokken.”
WIE IS JEROEN VAN DEN HOVEN?

Ict-filosoof prof.dr. Jeroen van den Hoven bezet een jaar parttime de Socrates-leerstoel bij de faculteit Techniek, Bestuur en Management. Hij maakt deel uit van het onlangs aan de TU gestarte Platform voor Ethiek en Techniek. Naast zijn TU-functie is hij professorial fellow aan het Centre for Applied Philosophy and Public Ethics aan de Australian National University in Canberra. Ook geeft hij filosofisch advies over ict-vraagstukken aan politici en het ministerie van economische zaken.

Van den Hoven volgde zijn filosofische opleiding aan de Rotterdamse Erasmus Universiteit, waar hij in 1995 promoveerde. In 1996 ontving hij van de University of Virginia een onderzoeksbeurs voor een jaar, evenals aan Dartmouth College in het Amerikaanse Hannover.

Van den Hoven richt zijn filosofische blik op de invloed van ict-techniek op menselijke verantwoordelijkheid. Vanaf 25 maart zal hij wekelijks in Vara-programma ‘Nieuwslicht’ te zien zijn, waar hij in het vaste panel plaatsneemt met bekende wetenschappers als de Leidse astronoom Vincent Icke.

(Foto’s: Hans Stakelbeek/FMAX)