Algoritmisch denken

Leer denken als een algoritme en ontdek hoe bias diversiteit en inclusie bedreigt.

Waarom?

We gaan er vaak ten onrechte vanuit dat technologie neutraal is. Dit is echter een misvatting, want technologie is door mensen gemaakt. En mensen hebben biases (vooroordelen) die zij meenemen in de technologie die zij ontwikkelen. Toch besteden we steeds meer belangrijke beslissingen uit aan technologie omdat we ervan uitgaan dat deze objectief is. Denk aan algoritmes die voor ons bepalen of we worden uitgenodigd voor een sollicitatiegesprek, in aanmerking komen voor een woning of een lening krijgen. 

Maar wat is dat eigenlijk, een algoritme? Het is een opeenvolgende reeks opdrachten met een bepaalde uitkomst. Een formule dus. Het wordt ook vaak vergeleken met een recept. Wanneer je alle ingrediënten volgens de stappen van een recept  bij elkaar voegt, krijg je een bepaalde uitkomst: het gerecht. Je zou kunnen zeggen dat data de ingrediënten van het algoritme zijn en de uitkomst het gerecht. Als je een algoritme ontwikkelt dat een belangrijke beslissing moet nemen over mensen, heb je dus (veel) persoonlijke data van hen nodig. 

In deze werkvorm krijgen studenten de opdracht zelf (versimpelde versies van) algoritmes te bedenken om vraagstukken op te lossen. Daarnaast behandelen we voorbeelden uit de praktijk, zoals de toeslagenaffaire, waarbij ingeprogrammeerde biases hebben gezorgd voor ernstige gevolgen voor betrokkenen.
Het doel van deze werkvorm is om de student bewust te maken van het feit dat technologie niet neutraal is en een gevaar kan vormen voor onze diverse en inclusieve samenleving, wanneer we de menselijke factor uit het oog verliezen. 

Wat?

Didactiek
Competentie: 
ethische sensitiviteit
Thema: diversiteit & inclusie
Leerdoel: bewustwording van de complexiteit van algoritmes en het gevaar van biases voor de samenleving

Wie, waar, hoe lang
Aantal studenten: tussen de 5 en 30 studenten 
Lokaal: standaard lokaal
Tijd: 50 – 75 minuten
(10 – 15 minuten per stap)

Meenemen
Stift

Meer weten over dit onderwerp
Video’s
Wat is een algoritme? 
(2015) van Clipphanger:
https://www.youtube.com/watch?v=tnFpYaZRyTQ


Algoritmes kunnen leiden tot discriminatie en privacyschendingen
(2020) van Amnesty International:
https://www.youtube.com/watch?v=dZIw0fejBAQ

Artikelen

Belastingdienst gebruikte algoritme dat lage inkomens selecteerde voor extra fraudecontroles
(2021) van de Volkskrant:
https://www.volkskrant.nl/nieuws-achtergrond/belastingdienst-gebruikte-algoritme-dat-lage-inkomens-selecteerde-voor-extra-fraudecontroles~bac84336/

Amazon scrapped ‘sexist AI’ tool (2018) van BBC:
https://www.bbc.com/news/technology-45809919

Korte cursus
Wat doet een algoritme?
(2020) van NPO Kennis:
https://npokennis.nl/serie/8/wat-doet-een-algoritme

Documentaire
Coded Bias
(2020) van Netflix:
https://www.netflix.com/nl/title/81328723

Hoe?

Stap 1 
Vertel de studenten over het waarom van deze opdracht.

Stap 2
Ga nogmaals in op de definitie van een algoritme en laat eventueel deze video van Clipphanger zien ter illustratie: 
https://www.youtube.com/watch?v=tnFpYaZRyTQ

Vraag de studenten voorbeelden te noemen van wanneer zij met algoritmes te maken hebben. Vertel dat bijna alle (socialmedia-)platformen werken met algoritmes en op die wijze bepalen wat jij te zien krijgt (en waardoor je in een filterbubble terechtkomt). 

In deze werkvorm gaan we het verder niet hebben over algoritmes die bepalen wat we te zien krijgen, maar over algoritmes die belangrijke beslissingen over ons nemen. Hier is veel data voor nodig. Vraag de studenten over wat voor soort data dit gaat. Dit hangt natuurlijk van de beslissing af, maar vaak hebben we het over persoonlijke data.

Bespreek nu het begrip historische data met de studenten. Hier wordt data uit het verleden mee bedoeld. Dit kan problematisch zijn wanneer het een persoon beoordeelt op gedrag uit het verleden of op iets waar deze niets aan kan doen (zoals in een bepaald postcodegebied wonen waar in het verleden veel criminaliteit is voorgekomen). Hierdoor blijven situaties zoals ze zijn en heb je als mens minder kans om je omstandigheden te ontstijgen. 

Stap 3
Laat de studenten tweetallen vormen. Vertel dat ze de opdracht krijgen simpele algoritmes te bedenken om jou belangrijke beslissingen over hen te laten nemen. Leg uit dat dit uiteraard een uiterst versimpelde versie van de werkelijkheid is, maar dat het erom gaat dat je leert wat de menselijke factor is bij het creëren van een algoritme. 

Leg de studenten verschillende vraagstukken voor, door deze op het bord te schrijven of op het scherm te laten zien. Geef de studenten steeds een paar minuten de tijd om na te denken over:

– Wat een eerlijke uitkomst is van het algoritme
– Met welke data het algoritme wordt gevoed

De vraagstukken die je voorlegt:
– Bedenk een algoritme dat mij vertelt wie van jullie de prijs moet krijgen voor beste student
– Bedenk een algoritme dat mij vertelt wie van jullie ik straks in de pauze een gratis koffie moet geven. 
– Bedenk een algoritme dat mij vertelt wie van jullie naar alle waarschijnlijkheid de beste resultaten zal behalen voor dit vak. 
– Bedenk een algoritme waarmee ik straks kan weten wie de meest waarschijnlijke fraudeur is van dit vak. 

Neem steeds een paar minuten de tijd om te bespreken waar de tweetallen mee komen. Laat de andere studenten reageren. Is het algoritme en de data waarmee dit gevoed wordt in hun ogen rechtvaardig? Doet het recht aan alle betrokkenen?

Als het goed is ontstaat er discussie. Hieronder een uitwerking van de opdrachten en de mogelijke discussiepunten (uiteraard kan dit in de praktijk anders uitpakken):

De een vindt dat de
beste student moet worden bepaald aan de hand van beste cijfers + minste herkansingen. De ander vindt dat de beste student degene is die de meeste uren in een opdracht stopt + altijd aanwezig is.

Bij de gratis koffie zal de een denken aan de student die tijdens het college het meest actief meedoet, terwijl de andere komt met de student met het laagste inkomen.  

Als het gaat om wie het beste resultaat zal behalen gaat het over waarschijnlijkheid en baseer je je wellicht op resultaten uit het verleden. Je maakt dan een kansberekening op basis van eerder gehaalde cijfers.
Maar je zou je ook kunnen concentreren op de inzet in het heden en de uren die iemand in het werk steekt. 

De laatste, over de meest waarschijnlijke fraudeur, is natuurlijk het meest tricky want deze gaat over een voorspelling voor de toekomst met eventuele grote gevolgen (schorsing etc.). Waar baseer je je dan op? Wanneer je vooral de studenten in de gaten houdt die ooit fraude hebben gepleegd, zeg je dus eigenlijk: eens een fraudeur, altijd een fraudeur.

Als het goed is wordt het duidelijk dat het onmogelijk is om een neutraal algoritme te bedenken. Ga met de studenten het gesprek aan over de menselijke factor. Vraag of zij vinden dat er altijd een menselijke controle zou moeten plaatsvinden als het gaat om ingrijpende beslissingen.

Stap 4
Vraag of de studenten voorbeelden kennen van algoritmes die belangrijke beslissingen voor mensen hebben gemaakt die tot ongewenste gevolgen hebben geleid. 

Bespreek het voorbeeld van het HR-algoritme van Amazon dat op basis van historische data alle vrouwelijke sollicitanten afwees. Het algoritme keek namelijk naar de mensen die al bij het bedrijf werkten en dit waren bijna allemaal mannen.

Algoritmes kunnen dus een discriminerende werking hebben. Dat hebben we ook in Nederland meegemaakt met de toeslagenaffaire. Daarnaast zijn er nog meer voorbeelden van discriminatie door algoritmes, dat zie je in deze video van Amnesty International:
https://www.youtube.com/watch?v=dZIw0fejBAQ

Laat de video over de toeslagenaffaire en andere discriminerende voorbeelden zien en geef de studenten de kijkopdracht mee om op te schrijven wat er in deze voorbeelden gebeurt en wat er discriminerend aan is. 

Stap 5
Praat na over deze werkvorm en vraag de studenten wat zij hebben geleerd. Stel vragen als: hadden de gevolgen van de toeslagenaffaire en de andere voorbeelden voorkomen kunnen worden, bijvoorbeeld door een menselijke controle? Kunnen dit soort beslissingen überhaupt genomen worden door algoritmes en waarom wel of niet?

Vraag de studenten wat zij mee denken te nemen van de kennis uit deze werkvorm in hun studie en toekomstige werk. Vraag of zij denken zelf invloed te hebben op hoe algoritmes ingezet worden en zo ja, op welke manier. 

Scroll to Top