Wie beslist beter: mens of algoritme?

Je zou verwachten dat we Google Maps blindelings vertrouwen, gezien het al jaren een vaste waarde is. Toch proberen we nog regelmatig een andere binnenweg, omdat we denken dat we dan toch sneller zijn. Het is een voorbeeld van wat onderzoekers een ‘afkeer voor algoritmes’ noemen. Hoewel algoritmes vaak beter scoren dan ons menselijk oordeel, zijn we toch geneigd om ons gevoel te volgen. En eens een algoritme fouten heeft gemaakt, daalt ons vertrouwen nog verder. Fouten maken is immers menselijk en dus aanvaarden we ook gemakkelijker fouten van mensen dan van algoritmes.

Mens versus algoritme

Algoritmes verslaan de mens op de meeste domeinen. Mensen die beslissen over vervroegde vrijlating van gevangenen doen dat slechter dan eenvoudige formules. Dokters zijn minder goed in het vaststellen van borstkanker dan software voor beeldanalyse. Aankopers zijn slechter in het voorspellen van de beste leveranciers dan een eenvoudig algoritme.

Volgens Berkeley Dietvorst, professor in Marketing aan de University of Chicago Booth School of Business, toont de literatuur aan dat algoritmes 10 tot 15% beter zijn in het voorspellen van menselijk gedrag dan individuen. Maar dat wil niet zeggen dat ze perfect zijn natuurlijk.

Aversie versus appreciatie

Onze afkeer voor algoritmes is vaak groter dan onze waardering. Daar zijn verschillende redenen voor:

• We hebben het gevoel dat algoritmes ons niet helpen om onze uitdagende doelstellingen te bereiken (ook al doen ze het vaak beter dan wij zelf zouden kunnen).
• Fouten maken beschouwen we als het alleenrecht van mensen.
• Hoe minder onderlegd mensen zijn in cijfers en wiskunde, hoe minder vertrouwen ze hebben in algoritmes.
• Experten geloven meer in hun eigen expertise dan in het advies van algoritmes
• Algoritmes zijn voor ons vaak een gesloten doos (black box). Indien we geen toegang hebben tot wat algoritmes precies doen en aan welke mogelijke vooroordelen ze onderhevig kunnen zijn, geven we het systeem uit handen aan een aantal programmeurs die niet verantwoordelijk zijn voor de eindbeslissing. Zo worden mensen met een bepaalde achtergrond vaak unfair behandeld bij het toekennen van leningen. Bij LinkedIn zorgde een algoritme ervoor dat advertenties voor hoger betaalde jobs meer aan mannen dan aan vrouwen werden getoond.
• De data waar algoritmes gebruik van maken, zijn niet altijd up-to-date. In haar boek Weapons of math destruction doet Cathy O’Neil het volgende gedachtenexperiment. Stel dat Fox News een machine learning algoritme zou gebruiken om nieuwe ankers te vinden voor de zender. Daarbij definiëren ze een succesvolle anker als iemand die vijf jaar bij Fox blijft en tweemaal promotie maakt. Historisch gezien weten we dat vrouwen systematisch geweerd werden bij deze zender. Als het algoritme nu gebruik maakt van deze data uit het verleden, dan hebben we een goede reden om te vermoeden dat vrouwen eruit gefilterd zullen worden.
• Heel soms – zoals in het geval van broken leg cases – zijn mensen beter dan algoritmes, omdat ze beschikken over nieuwe informatie die door de algoritmes nog niet werd opgenomen. Psycholoog Paul Meehl geeft het volgende voorbeeld. Als je juist ben te weten gekomen dat iemand zijn been gebroken heeft, kan je maar beter niet vertrouwen op de voorspellingen van het statistisch model inzake zijn/haar bioscoopbezoek. Het model maakt gebruik van demografische en andere variabelen om het bioscoopbezoek van iemand te voorspellen, maar beschikt niet over heel recente of onverwachte informatie.

Algoritmes stimuleren

Wat kunnen we als leider doen om ervoor te zorgen dat mensen de algoritmes wel gebruiken als ondersteuning bij hun beslissingen?

• Mensen vertrouwen algoritmes gemakkelijker als ze een beetje controle hebben over de output. Geef hen als leider dus nog een zekere mogelijkheid tot aanpassen. Als een algoritme bijvoorbeeld bepaalde kandidaten voor een job in de top 10% plaatst, dan zullen mensen dit gemakkelijker aanvaarden als ze dat resultaat kunnen wijzigen naar de top 15%.
• Je kan je medewerkers ook helpen om de juiste vraag te stellen. Heel vaak vragen mensen zich af: ‘Zal het algoritme me helpen om mijn doelstelling te bereiken?’ Vaak is dat niet het geval, zeker als het om uitdagende doelstellingen gaat. Een betere vraag is: ‘Is het algoritme beter dan ikzelf?’ In dat geval zouden we als mens vaker voor het algoritme kiezen.
• Zorg ervoor dat je medewerkers kunnen begrijpen wat er achter het algoritme zit en geef hen inzicht in de gebruikte variabelen. Bij het selecteren van mogelijke kandidaten voor een job kan een algoritme de afstand tot het werk als een belangrijk criterium laten doorwegen, maar het is een discriminerende variabele die vaak onterecht wordt gebruikt.
• Stel mensen aan die regelmatig een audit doen van je algoritmes op basis van criteria zoals rechtvaardigheid, legitimiteit, discriminatie, ….
• Zorg ervoor dat je mensen de juiste vaardigheden hebben om te begrijpen wanneer er nieuwe informatie in het spel is (broken leg case) en wanneer het algoritme dus niet over alle juiste informatie beschikt.