Automaten nemen steeds meer taken over van mensen. Niet zo gek dus dat apparaten steeds vaker ‘menselijke’ eigenschappen toebedacht krijgen. Maar wat zegt dat over de automaat? En over ons?
Al in de jaren zestig verklaarde een van de pioniers van de kunstmatige intelligentie, Joseph Weizenbaum, dat de vraag of computers konden denken niet een feitelijke vraag was, maar een ethische. Het gaat er niet om wat robots allemaal kunnen, maar of ze er verantwoordelijkheid voor dragen. Anders gezegd: enkele cruciale eigenschappen van de menselijke geest zitten niet in de die geest zelf, maar zijn een product van hoe we ertegenaan kijken.
Die discussie wil David McFarland dan ook niet voeren in ‘Guilty robots, happy dogs’. Het gaat weliswaar bijna helemaal over automaten, maar het eigenlijke onderwerp is het menselijke voorstellingsvermogen. Waarom schrijven we bepaalde eigenschappen van onszelf toe aan dieren en apparaten? McFarland, emeritus hoogleraar zoölogie te Oxford, is niet de eerste die deze vraag stelt, maar hij heeft wel een mooi overzicht van gemaakt van de antwoorden die in de loop der eeuwen de revue passeerden.
Dat doet hij niet door netjes bij de oude Grieken te beginnen en zo naar het heden toe te werken. Hij legt alles vooral inhoudelijk uit, met veel analogieën met het dierenrijk . zijn oorspronkelijke vakgebied. Hoewel we van dieren zeker weten dat ze niet zo slim zijn als wij, schrijven we aan sommige wel degelijk verantwoordelijkheid toe. Als de hond het vlees van tafel grist, krijgt hij straf, omdat hij wist dat het niet mocht.
Sommige automaten zijn zo simpel dat niemand de neiging heeft er intelligent gedrag aan toe te schrijven. Maar zet er een paar bij elkaar en het wordt al anders. McFarland maakte mee dat bezoekers aan een roboticalab zwaar onder de indruk waren van een groepje, dat een muur bouwde. Het leek of ze onderling overlegden, terwijl dat helemaal niet het geval was. De robots volgden ieder afzonderlijk een algoritme om een steen te pakken en hem op het muurtje te leggen.
Er zijn diverse criteria die je kunt toevoegen om de robot een paar stappen hoger op de ladder te krijgen. De eerste is energie-autonomie: een robot moet in staat zijn zichzelf in leven te houden; de tweede is wils-autonomie: de robot moet een doel in het leven hebben. Als dat doel is zichzelf in leven te houden, zoals heel erg veel dieren, ben je al een eind op weg. McFarland beschrijft een slakkenvangende robot, die de beestjes naar een biomassafabriekje brengt dat de elektriciteit oplevert waar ze op draaien. Dat begint al behoorlijk op een (sloom) roofdier te lijken, al hoeft de robot geen leervermogen te hebben.
Na een hoofdstuk over het ontwerp van intelligentere beesten en machines, buigt McFarland zich over het interpreteren van gedrag. Dat rationeel gedrag, bijvoorbeeld, hoog op het lijstje staat van dingen die een robot moet kunnen zodat mensen zich ermee identificeren, is duidelijk. Maar genoeg is het niet. Een schaakcomputer wordt als heel erg intelligent en rationeel gezien, maar niet als menselijk. Door eigenschappen van de menselijke geest te ontrafelen en te kijken hoe apparaten die kunnen nabootsen, brengt McFarland systematisch de eisen in kaart.
Pas helemaal aan het eind van het boek komt McFarland bij mentale autonomie, de robot als geheel zelfstandig wezen die bewust is van zichzelf en zijn acties. Afhankelijk van je visie op het menselijke zelfbewustzijn kun je een hele lijst opstellen van eisen waaraan een robot zou moeten voldoen om dit stadium te bereiken. Maar, redeneert McFarland, aangezien robots hardwarematig fundamenteel anders in elkaar zitten dan mensen, hoe kunnen we dan ooit objectief vaststellen dat ze mentaal hetzelfde zijn? Het blijft hetzelfde als uit de treurige blik van de hond afleiden dat hij spijt heeft van de vleesdiefstal. Best mogelijk, maar voor hetzelfde geldt, draait hij gewoon een algoritme af dat in eerdere gevallen effectief gebleken is.
Hoewel ‘Guilty robots, happy dogs’ toegankelijk geschreven is, blijft het een vrij pittig boek, gewoon omdat de materie zo abstract is. McFarland heeft op andere auteurs in het genre voor dat hij vrijelijk put uit een enorm reservoir van voorbeelden uit zowel robotica als fauna.
@01 infoblokje:David McFarland, ‘Guilty robots, happy dogs; the question of alien minds’. Oxford University Press, pp. 252, 21 euro.
Al in de jaren zestig verklaarde een van de pioniers van de kunstmatige intelligentie, Joseph Weizenbaum, dat de vraag of computers konden denken niet een feitelijke vraag was, maar een ethische. Het gaat er niet om wat robots allemaal kunnen, maar of ze er verantwoordelijkheid voor dragen. Anders gezegd: enkele cruciale eigenschappen van de menselijke geest zitten niet in de die geest zelf, maar zijn een product van hoe we ertegenaan kijken.
Die discussie wil David McFarland dan ook niet voeren in ‘Guilty robots, happy dogs’. Het gaat weliswaar bijna helemaal over automaten, maar het eigenlijke onderwerp is het menselijke voorstellingsvermogen. Waarom schrijven we bepaalde eigenschappen van onszelf toe aan dieren en apparaten? McFarland, emeritus hoogleraar zoölogie te Oxford, is niet de eerste die deze vraag stelt, maar hij heeft wel een mooi overzicht van gemaakt van de antwoorden die in de loop der eeuwen de revue passeerden.
Dat doet hij niet door netjes bij de oude Grieken te beginnen en zo naar het heden toe te werken. Hij legt alles vooral inhoudelijk uit, met veel analogieën met het dierenrijk . zijn oorspronkelijke vakgebied. Hoewel we van dieren zeker weten dat ze niet zo slim zijn als wij, schrijven we aan sommige wel degelijk verantwoordelijkheid toe. Als de hond het vlees van tafel grist, krijgt hij straf, omdat hij wist dat het niet mocht.
Sommige automaten zijn zo simpel dat niemand de neiging heeft er intelligent gedrag aan toe te schrijven. Maar zet er een paar bij elkaar en het wordt al anders. McFarland maakte mee dat bezoekers aan een roboticalab zwaar onder de indruk waren van een groepje, dat een muur bouwde. Het leek of ze onderling overlegden, terwijl dat helemaal niet het geval was. De robots volgden ieder afzonderlijk een algoritme om een steen te pakken en hem op het muurtje te leggen.
Er zijn diverse criteria die je kunt toevoegen om de robot een paar stappen hoger op de ladder te krijgen. De eerste is energie-autonomie: een robot moet in staat zijn zichzelf in leven te houden; de tweede is wils-autonomie: de robot moet een doel in het leven hebben. Als dat doel is zichzelf in leven te houden, zoals heel erg veel dieren, ben je al een eind op weg. McFarland beschrijft een slakkenvangende robot, die de beestjes naar een biomassafabriekje brengt dat de elektriciteit oplevert waar ze op draaien. Dat begint al behoorlijk op een (sloom) roofdier te lijken, al hoeft de robot geen leervermogen te hebben.
Na een hoofdstuk over het ontwerp van intelligentere beesten en machines, buigt McFarland zich over het interpreteren van gedrag. Dat rationeel gedrag, bijvoorbeeld, hoog op het lijstje staat van dingen die een robot moet kunnen zodat mensen zich ermee identificeren, is duidelijk. Maar genoeg is het niet. Een schaakcomputer wordt als heel erg intelligent en rationeel gezien, maar niet als menselijk. Door eigenschappen van de menselijke geest te ontrafelen en te kijken hoe apparaten die kunnen nabootsen, brengt McFarland systematisch de eisen in kaart.
Pas helemaal aan het eind van het boek komt McFarland bij mentale autonomie, de robot als geheel zelfstandig wezen die bewust is van zichzelf en zijn acties. Afhankelijk van je visie op het menselijke zelfbewustzijn kun je een hele lijst opstellen van eisen waaraan een robot zou moeten voldoen om dit stadium te bereiken. Maar, redeneert McFarland, aangezien robots hardwarematig fundamenteel anders in elkaar zitten dan mensen, hoe kunnen we dan ooit objectief vaststellen dat ze mentaal hetzelfde zijn? Het blijft hetzelfde als uit de treurige blik van de hond afleiden dat hij spijt heeft van de vleesdiefstal. Best mogelijk, maar voor hetzelfde geldt, draait hij gewoon een algoritme af dat in eerdere gevallen effectief gebleken is.
Hoewel ‘Guilty robots, happy dogs’ toegankelijk geschreven is, blijft het een vrij pittig boek, gewoon omdat de materie zo abstract is. McFarland heeft op andere auteurs in het genre voor dat hij vrijelijk put uit een enorm reservoir van voorbeelden uit zowel robotica als fauna.
@01 infoblokje:David McFarland, ‘Guilty robots, happy dogs; the question of alien minds’. Oxford University Press, pp. 252, 21 euro.
Comments are closed.