D@S lab maakt zich sterk voor onzichtbare mensen achter AI

Computers begrijpen ons steeds beter omdat er ergens, ver uit het zicht, mensen onophoudelijk bezig zijn om computersystemen van informatie te voorzien. Deze verborgen werkers maken labels aan voor webshops, ze beoordelen foto’s of teksten op relevantie, en ze weren ongewenste inhoud van platforms. Dit onzichtbare leger maakt lange uren onder primitieve omstandigheden, zoals antropoloog en Microsoft-onderzoeker Mary L. Gray onthulde in haar boek Ghost Work. In de Verenigde Staten alleen al ging het in 2016 om 20 miljoen volwassenen die gemiddeld in tien uur tijd per dag een kleine 40 euro verdienen, schrijft Gray. Anderen voorspellen in India een grote groei van de sector, vooral onder jonge mensen met een goede opleiding.

In een ironische draai ontwikkelt het D@S lab nu kunstmatige intelligentie om de gezondheid en het welzijn van die onzichtbare informatiewerkers te verbeteren.

Hybride intelligentie

Het ontwikkelen van gezonde interventies (‘health bytes’) voor anonieme informatiewerkers is een van de manieren waarop het D@S lab (Design @ Scale) experimenteert met de combinatie van kunstmatige en menselijke intelligentie. Met vormen van zulke hybride intelligentie zijn ontwerpprocessen op te schalen en te versnellen, stelt dr. Ujwal Gadiraju, een van de directeuren van het D@S lab. Als andere hybride projecten waar het lab aan werkt noemt hij het gebruik van chatbots bij interviews, en videodagboeken als hulpmiddel bij het ontwerpen.

‘Als je de schaduwzijde van AI onderzoekt, dan vind je daar mensen’. “Dat zijn de gouden woorden van Mary Gray, en ze heeft gelijk”, zegt Gadiraju. “Eindelijk groeit het besef dat deze informele arbeiders een eerlijk loon verdienen. Ik ben nu tien jaar bezig met dit onderwerp. En nu pas zie ik auteurs betogen dat een eerlijk loon de norm zou moeten zijn. Deze ‘crowd community’ bestaat uit echte mensen, alleen vergeten we dat makkelijk omdat ze verborgen blijven achter ons beeldscherm.”

Zo wordt modereren een fysiek soort swipen

Wat kan AI daaraan veranderen? Een project waar Gadiraju aan werkt is een AI-programma dat bewegingen kan lezen van een informatiewerker voor een webcam. Neem het voorbeeld van ene ‘Joan’ uit Gray’s boek. Joan beoordeelt voor een platform gemarkeerde plaatjes waar de automatische censuur niet uitkomt. Die plaatjes krijgt Joan dan op haar scherm. Is het een dickpick die verwijderd moet worden (klik links) of is het een onschuldige vinger en kan de foto blijven (klik rechts)? Joan kijkt en klikt, kijkt en klikt.

Traumatiserende inhoud

Met bewegingsherkenning via de webcam kan de instructie zijn: rek en buig naar links voor verwijderen en buig naar rechts om te behouden. Zo wordt het modereren een fysiek soort swipen. Op die manier kunnen informatiewerkers doorwerken terwijl ze ook aan een beetje beweging toekomen, is het idee.

In drie tests met ongeveer honderd deelnemers per keer waren crowd workers erg te spreken over de bewegingsherkenning. Gadiraju relativeert dat meteen: “De meeste informatiewerkers waren al blij met de aandacht voor hun situatie en met onze poging om daar iets aan te doen.”

Toch liggen er nog heel wat valkuilen voor deze techniek. Ten eerste betrouwbaarheid. Werkt de herkenning ook goed genoeg in krappe en donkere ruimtes? Maakt het programma geen vergissingen? De gebarenherkenning mag natuurlijk geen foute respons opleveren (verwijderen in plaats van behouden, of omgekeerd).

Ook is het de vraag of de gebarenherkenning invloed heeft op de werksnelheid, en hoe daarmee om te gaan. “Het kan dan wel gezond zijn, maar als iemand er een lagere productie door haalt, wie draait dan op voor het verschil in inkomsten?”, vraagt Gadiraju. Zo zijn er tal van hobbels te nemen voordat lichaamsbeweging functioneel in te zetten is.

De beoordeling van foto’s en filmpjes op sociale-media-platforms is een ander terrein waarop AI kan helpen, denkt Gadiraju. “Elk platform maakt voor moderatie gebruik van mensen om expliciete content, misbruik en geweld buiten te houden. Maar de hele dag blootgesteld worden aan traumatiserende inhoud, dat houdt geen mens vol. Het veroorzaakt mentale problemen zoals slapeloosheid, depressie en zelfs posttraumatisch stresssyndroom.’’

Het D@S lab onderzoekt hoe AI de content onscherp kan maken. De moderator zou nog wel een goed beeld krijgen van de content, zonder daarbij aan bloedige en gore details blootgesteld te worden. “Een bewerkt en onscherp beeld is vaak goed genoeg om bloed, wapens of andere ongewenste zaken te herkennen.”

Vooruitkijkend naar de tweede helft van het D@S lab-project zegt Gadiraju: “We hebben vier promovendi die elk aan twee faculteiten promoveren. Ik zou graag bereiken dat we op alle vier de onderzoeksgebieden echt impact kunnen maken.”

Bewegingsherkenning

Gadiraju zegt te beseffen dat een webcam met bewegingsherkenning het lot van de crowd workers niet veel zal verbeteren. Het project kan wel helpen om hen minder onzichtbaar te maken.

Later schrijft hij: ‘Ik werk op dit moment samen met een aantal vooraanstaande experts op het gebied van crowdsourcing van over de hele wereld om precies aan te geven wat er nodig is om ervoor te zorgen dat de toekomst van crowd work rooskleuriger is dan de gemengde tinten die we tijdens de beginjaren van dit werkparadigma hebben gezien. Een deel van het antwoord ligt in het waarborgen van de gezondheid van werknemers en het ontwikkelen van mechanismen die duurzame groei voor werknemers kunnen stimuleren, niet alleen vanuit het oogpunt van geldelijke beloningen, maar ook in termen van loopbaantrajecten.’

Auteur en onderzoekster Mary L. Gray houdt de softwarebedrijven verantwoordelijk: ‘Net zoals we bedrijven die ons voedsel, onze kleding en onze computers produceren verantwoordelijk stellen voor de arbeidsomstandigheden, zo zijn ook de producenten van digitale inhoud verantwoording verschuldigd aan hun consumenten en werknemers’ .(Uit Ghosts in the Machine)