Ook al weet je niet alles…

E-mail en mobiele telefoons zijn gemeengoed in de westerse samenleving. Hun invloed gaat echter veel verder dan simpelweg het mogelijk maken van efficiëntere communicatie. Het onderscheid tussen werk- en privé-tijd is vervaagd, de afzender verwacht een snel antwoord op een e-mail en afspraken zijn minder hard omdat een oponthoud ook wel telefonisch kan worden gemeld. Heeft iemand deze gevolgen overzien toen de e-mailprotocollen op de tekentafel lagen? En zo ja, kan diegene ervoor verantwoordelijk worden gehouden? Vanwege de enorme complexiteit van systemen waarin techniek en mensen met elkaar samenwerken, zijn deze vragen bijzonder lastig te beantwoorden.

De ‘doctrine van de morele toerekenbaarheid’ (reader TU Delft, Henk Zandvoort, 2005) kan echter helpen om de ontwerper inzicht te geven in de mogelijkheden die hij heeft om de morele gevolgen van zijn keuzes te beïnvloeden.

Daarvoor moeten drie vragen worden beantwoord. Is er een norm overschreden? Is er een causaal verband tussen een ontwerpkeuze en het morele gevolg? En konden de negatieve gevolgen redelijkerwijs zijn voorzien?

Of een norm al dan niet is overschreden, is soms lastig vast te stellen. Veel fundamenteler is echter de vraag wie de norm stelt. Er bestaat consensus over het feit dat niet de ontwerper zelf, maar eerder degenen die met de gevolgen worden geconfronteerd zich uit moeten spreken over de norm. Dit principe van informed consent is wellicht succesvol toe te passen bij simpele vraagstukken als een operatie, waarbij de arts de patiënt goed informeert alvorens te vragen of de ingreep moet worden uitgevoerd. Als de gevolgen het individu ontstijgen, liggen echter problemen op de loer. Wie zouden er in het voorbeeld van e-mail en telefoon om een mening moeten zijn gevraagd? De directe omgeving van de ontwerper, de eerste gebruikers of wellicht de hele mensheid als potentiële gebruikersgroep? Kunnen de antwoorden van verschillende groepen mensen wel worden vergeleken? De een heeft wellicht meer ervaring en een beter beoordelingsvermogen dan de ander. Maar op welke gronden mag een meritocratie verkozen worden boven democratie? Wanneer wordt de norm als aangenomen beschouwd? Bij een meerderheid, bij consensus? En wat wordt er eigenlijk precies gevraagd? Net als bij een referendum over politieke besluiten is een keuze immers vaak ingebed in een web van andere thema’s.

Het is duidelijk dat er geen ideale procedure bestaat om de juiste norm te stellen. Van de ontwerper kan dan ook niet worden gevraagd om die discussie vorm te geven. Hij is wel in de positie om de discussie aan te zwengelen en het publiek naar beste vermogen te informeren over de mogelijke gevolgen.

Om de tweede vraag te beantwoorden moeten we meer inzicht hebben in de mate waarin technologie de samenleving beïnvloedt, en de manier waarop dat plaatsvindt. Op dit punt bestaan veel verschillende zienswijzen. Twee daarvan springen eruit omdat zij goed aansluiten op het gezonde verstand. De eerste is dat technologie autonoom is, zijn eigen weg gaat, als er geen maatschappelijk debat over wordt gevoerd. De tweede stelt dat technologische ontwikkelingen het beste kunnen worden beïnvloed als de technologie nog in de kinderschoenen staat. Vergelijk dit met een mammoettanker, die bij lage snelheden nog bij te sturen is, maar na verloop van tijd de eenmaal ingezette weg op eigen kracht doorzet. Deze twee visies versterken elkaar. De ontwerper heeft een unieke positie om het maatschappelijke debat aan te zwengelen, juist omdat hij een van de weinigen is die dat kan doen voordat de technologie in gebruik wordt genomen en minder beheersbaar wordt.

De derde en laatste vraag is of de morele gevolgen redelijkerwijs voorzien konden worden door de ontwerper. Het is vrijwel onmogelijk om absolute duidelijkheid in de vorm van harde causale verbanden te verkrijgen voordat de technologie het maatschappelijke levenslicht ziet. Maar is dat een excuus om elke verantwoordelijkheid voor die gevolgen uit te sluiten? Een ontwerper heeft altijd de mogelijkheid om verschillende mogelijke gevolgen te onderzoeken, bijvoorbeeld in de vorm van scenario’s, en daarop te anticiperen. Het voorzorgsprincipe stelt dat, ook al zijn er geen harde bewijzen voor een direct verband tussen ontwerpkeuzes en consequenties, dit verband toch moet worden aangenomen om negatieve gevolgen zoveel mogelijk uit te sluiten. Dit principe wordt onder andere toegepast in het beleid rondom de beperking van de uitstoot van broeikasgassen. Hoewel de wetenschappelijke verbanden allesbehalve hard zijn, zijn de vermoedens voor vele burgers en beleidsmakers reden om te werken aan vermindering van de emissies van deze gassen.

Geen van de vragen blijkt gemakkelijk te beantwoorden, maar er doemen wel enkele unieke mogelijkheden op waarbij de ontwerper invloed kan uitoefenen op de morele gevolgen van zijn handelen. Hij is als een van de weinigen in de positie om tijdig het maatschappelijke debat aan te zwengelen, daarbij zoveel mogelijk informatie ter beschikking te stellen en hangende de discussie voorzichtigheid te betrachten. In de praktijk zal een ontwerper dit niet alleen af kunnen en breidt de discussie zich al gauw uit tot een complexer geheel van samenhangende technologieën en ontwerpen.

Daarom is een belangrijke faciliterende rol weggelegd voor universiteiten, onderzoeksinstituten en beroepsorganisaties. De ultieme antwoorden zullen nooit gevonden worden, dat is inherent aan de toekomst. Maar als een ontwerper maatschappelijke acceptatie, bewustzijn en alertheid op mogelijke negatieve gevolgen heeft weten te bewerkstelligen, kan hij met een schoon geweten gaan slapen. Je hoeft immers niet alles te weten om toch wijzer te worden.

Ton Monasso is student aan de faculteit Techniek, Bestuur en Management. Hij won in oktober met zijn essay ‘I don’t know what I’m doing’ de Mekelprijs 2006. De prijs is door het Platform Ethiek en Techniek ingesteld om studenten van de TU te stimuleren zich te verdiepen in morele kwesties in de ingenieurswetenschappen.

www.tonmonasso.nl/mekelessay.pdf.

Nederland werkt aan de vermindering van broeikasgassen, hoewel wetenschappelijke bewijzen voor het effect allesbehalve hard zijn. (Foto: Sam Rentmeester/FMAX)

E-mail en mobiele telefoons zijn gemeengoed in de westerse samenleving. Hun invloed gaat echter veel verder dan simpelweg het mogelijk maken van efficiëntere communicatie. Het onderscheid tussen werk- en privé-tijd is vervaagd, de afzender verwacht een snel antwoord op een e-mail en afspraken zijn minder hard omdat een oponthoud ook wel telefonisch kan worden gemeld. Heeft iemand deze gevolgen overzien toen de e-mailprotocollen op de tekentafel lagen? En zo ja, kan diegene ervoor verantwoordelijk worden gehouden? Vanwege de enorme complexiteit van systemen waarin techniek en mensen met elkaar samenwerken, zijn deze vragen bijzonder lastig te beantwoorden.

De ‘doctrine van de morele toerekenbaarheid’ (reader TU Delft, Henk Zandvoort, 2005) kan echter helpen om de ontwerper inzicht te geven in de mogelijkheden die hij heeft om de morele gevolgen van zijn keuzes te beïnvloeden.

Daarvoor moeten drie vragen worden beantwoord. Is er een norm overschreden? Is er een causaal verband tussen een ontwerpkeuze en het morele gevolg? En konden de negatieve gevolgen redelijkerwijs zijn voorzien?

Of een norm al dan niet is overschreden, is soms lastig vast te stellen. Veel fundamenteler is echter de vraag wie de norm stelt. Er bestaat consensus over het feit dat niet de ontwerper zelf, maar eerder degenen die met de gevolgen worden geconfronteerd zich uit moeten spreken over de norm. Dit principe van informed consent is wellicht succesvol toe te passen bij simpele vraagstukken als een operatie, waarbij de arts de patiënt goed informeert alvorens te vragen of de ingreep moet worden uitgevoerd. Als de gevolgen het individu ontstijgen, liggen echter problemen op de loer. Wie zouden er in het voorbeeld van e-mail en telefoon om een mening moeten zijn gevraagd? De directe omgeving van de ontwerper, de eerste gebruikers of wellicht de hele mensheid als potentiële gebruikersgroep? Kunnen de antwoorden van verschillende groepen mensen wel worden vergeleken? De een heeft wellicht meer ervaring en een beter beoordelingsvermogen dan de ander. Maar op welke gronden mag een meritocratie verkozen worden boven democratie? Wanneer wordt de norm als aangenomen beschouwd? Bij een meerderheid, bij consensus? En wat wordt er eigenlijk precies gevraagd? Net als bij een referendum over politieke besluiten is een keuze immers vaak ingebed in een web van andere thema’s.

Het is duidelijk dat er geen ideale procedure bestaat om de juiste norm te stellen. Van de ontwerper kan dan ook niet worden gevraagd om die discussie vorm te geven. Hij is wel in de positie om de discussie aan te zwengelen en het publiek naar beste vermogen te informeren over de mogelijke gevolgen.

Om de tweede vraag te beantwoorden moeten we meer inzicht hebben in de mate waarin technologie de samenleving beïnvloedt, en de manier waarop dat plaatsvindt. Op dit punt bestaan veel verschillende zienswijzen. Twee daarvan springen eruit omdat zij goed aansluiten op het gezonde verstand. De eerste is dat technologie autonoom is, zijn eigen weg gaat, als er geen maatschappelijk debat over wordt gevoerd. De tweede stelt dat technologische ontwikkelingen het beste kunnen worden beïnvloed als de technologie nog in de kinderschoenen staat. Vergelijk dit met een mammoettanker, die bij lage snelheden nog bij te sturen is, maar na verloop van tijd de eenmaal ingezette weg op eigen kracht doorzet. Deze twee visies versterken elkaar. De ontwerper heeft een unieke positie om het maatschappelijke debat aan te zwengelen, juist omdat hij een van de weinigen is die dat kan doen voordat de technologie in gebruik wordt genomen en minder beheersbaar wordt.

De derde en laatste vraag is of de morele gevolgen redelijkerwijs voorzien konden worden door de ontwerper. Het is vrijwel onmogelijk om absolute duidelijkheid in de vorm van harde causale verbanden te verkrijgen voordat de technologie het maatschappelijke levenslicht ziet. Maar is dat een excuus om elke verantwoordelijkheid voor die gevolgen uit te sluiten? Een ontwerper heeft altijd de mogelijkheid om verschillende mogelijke gevolgen te onderzoeken, bijvoorbeeld in de vorm van scenario’s, en daarop te anticiperen. Het voorzorgsprincipe stelt dat, ook al zijn er geen harde bewijzen voor een direct verband tussen ontwerpkeuzes en consequenties, dit verband toch moet worden aangenomen om negatieve gevolgen zoveel mogelijk uit te sluiten. Dit principe wordt onder andere toegepast in het beleid rondom de beperking van de uitstoot van broeikasgassen. Hoewel de wetenschappelijke verbanden allesbehalve hard zijn, zijn de vermoedens voor vele burgers en beleidsmakers reden om te werken aan vermindering van de emissies van deze gassen.

Geen van de vragen blijkt gemakkelijk te beantwoorden, maar er doemen wel enkele unieke mogelijkheden op waarbij de ontwerper invloed kan uitoefenen op de morele gevolgen van zijn handelen. Hij is als een van de weinigen in de positie om tijdig het maatschappelijke debat aan te zwengelen, daarbij zoveel mogelijk informatie ter beschikking te stellen en hangende de discussie voorzichtigheid te betrachten. In de praktijk zal een ontwerper dit niet alleen af kunnen en breidt de discussie zich al gauw uit tot een complexer geheel van samenhangende technologieën en ontwerpen.

Daarom is een belangrijke faciliterende rol weggelegd voor universiteiten, onderzoeksinstituten en beroepsorganisaties. De ultieme antwoorden zullen nooit gevonden worden, dat is inherent aan de toekomst. Maar als een ontwerper maatschappelijke acceptatie, bewustzijn en alertheid op mogelijke negatieve gevolgen heeft weten te bewerkstelligen, kan hij met een schoon geweten gaan slapen. Je hoeft immers niet alles te weten om toch wijzer te worden.

Ton Monasso is student aan de faculteit Techniek, Bestuur en Management. Hij won in oktober met zijn essay ‘I don’t know what I’m doing’ de Mekelprijs 2006. De prijs is door het Platform Ethiek en Techniek ingesteld om studenten van de TU te stimuleren zich te verdiepen in morele kwesties in de ingenieurswetenschappen.

www.tonmonasso.nl/mekelessay.pdf.

Nederland werkt aan de vermindering van broeikasgassen, hoewel wetenschappelijke bewijzen voor het effect allesbehalve hard zijn. (Foto: Sam Rentmeester/FMAX)