Meer fairness bekomen in AI? ‘Dat is de job van CEO’s’

Er bestaat niet één definitie van fairness, want die hangt af van verschillende factoren in een business- en maatschappelijke context. Het gaat over handelen zonder vooroordelen, zonder discriminatie en zonder vriendjespolitiek. Het gaat over gelijkheid, eerlijkheid, onpartijdigheid, maar ook over het respecteren van grenzen, zoals privacy. Die ideale wereld bestaat niet, maar artificiële intelligentie (AI) weerspiegelt en versterkt wél al deze niet faire mechanismes.

De internetreuzen hebben duidelijk niet vanaf het begin nagedacht over deze enorme impact. Ze laten AI los op de wereld en reparaties van eventuele mankementen volgen achteraf wel. Dé aanpak van IT’ers is nu eenmaal trial & error. Gezichtsherkenning die goed werkt voor alleen blanke mannen? Een rekruteringstool die duidelijk vrouwen benadeelt? Oeps, dan gaat de rem erop en wordt er sorry gezegd.

Maar nog altijd begrijpen de Alexa’s en Siri’s van deze wereld commando’s van mannen beter dan die van vrouwen. Wie vandaag women intikt als zoekterm op Google en de afbeeldingen bekijkt, ziet vooral één type vrouw verschijnen: de ideale schoondochter. Ze hebben dus nog wel wat werk die internetreuzen, maar ze hebben daar ook de mensen en de middelen voor. De meeste bedrijven in ons land hebben niet die luxe.

Daarom is het zo belangrijk om voor je met AI in je bedrijf begint al keuzes te maken rond fairness. Dergelijke keuzes kan je niet laten afhangen van engineers, stellen Davio Larnout, CEO, en Laurent Sorber, CTO van Radix. Het bedrijf is gespecialiseerd in AI en begeleidt hierin klanten zoals VDAB, GSK, Atlas Copco en Brussels Airport.

Waarom moet een CEO het voortouw nemen?
‘Als je AI enkel optimaliseert naar prestaties zoals winstgevendheid en nauwkeurigheid, dan zal AI de samenleving weerspiegelen, met alle bias en unfairheden van dien. Als je beyond accuracy kijkt, dan kan je AI leren om aanbevelingen of suggesties te doen die ook fair zijn’, vertelt Sorber.

‘Als je vandaag fairness wil bekomen, moeten er keuzes worden gemaakt. De impact van die keuze is zeer groot, zowel voor het bedrijfs- als voor het maatschappelijk potentieel. Daarom ligt de verantwoordelijkheid bij het C-level om die keuze te maken en niet bij een ingenieur die een AI-oplossing maakt’, vult Larnout aan.

‘Bij de keuze van fairness moet er een persoon zijn die een voorbeeld kan stellen. Er is ook moed voor nodig om die keuzes te maken. Het kan namelijk zijn dat die keuzes niet gealigneerd zijn met winstgevendheid op de korte termijn. De langetermijnvisie moet uit leiderschap voortkomen. Het is aan de leider om die visie uit te dragen en te verdedigen.’

Wat is de eerste stap die een CEO kan zetten?
Het probleem gewaarworden, geeft Sorber aan. ‘Ze moeten beseffen dat er met de outcome van AI altijd een zekere vorm van bias zal zijn’, zegt Larnout. Het is niet nodig dat CEO’s AI volledig begrijpen, maar ze moeten wel over het probleem communiceren en mensen aansporen tot actie, vervolgt hij.

Een tweede stap is bepalen hoe je  fairness wil gaan meten als bedrijf. Sorber: ‘Eenmaal die fairness metriek gekozen is, kan je gaan meten in hoeverre een AI-systeem daaraan voldoet.’

‘Het is belangrijk om dit op de agenda van het C-level te krijgen’, vindt Larnout. ‘Het gaat niet over discussies met technische mannen, het gaat over keuzes die eerst gemaakt moeten worden. Er zijn op vier grote domeinen keuzes te maken in fairness zonder dat die technisch hoeven te zijn. Die kunnen ook vrij simpel worden uitgelegd. Eenmaal die keuze is gemaakt, kan je die door het hele bedrijf trekken.’

Op welke domeinen moeten er keuzes worden gemaakt?
Sorber: ‘De eerste mogelijke optie voor fairness die een CEO kan kiezen is gelijke uitkomsten. Als bedrijf wil je evenveel mannen als vrouwen aanwerven. Of je wil dat elke minderheidsgroep gelijk vertegenwoordigd wordt in je organisatie. Deze keuze heeft ook als eigenschap dat het de markt gaat drijven naar die uitkomst.’

‘Het is vandaag de dag in bepaalde sectoren nog altijd heel moeilijk om een gelijk aantal mannen en vrouwen aan te nemen. Je vindt in constructie nog altijd heel weinig vrouwen en in verloskunde vind je nog altijd heel weinig mannen. Dan is het eigenlijk onmogelijk om een gelijk aantal aan te nemen. Het is dus niet zo’n praktische keuze, maar stel dat elk bedrijf die keuze zou aanhouden, dan zou dat wel de samenleving drijven om meer mannen in verloskunde en meer vrouwen in constructie te laten starten, omdat de vraag er heel groot voor zal zijn.’

‘De tweede keuze is demografische gelijkheid. Als bedrijf wil je mannen en vrouwen aanwerven op basis van de beschikbaarheid in de maatschappij. Hiermee volg je de status quo van vandaag. Dit is fair, deze verhouding is proportioneel voor de markt. Dit is ook meer haalbaar als keuze, maar dit drijft de maatschappij niet naar een toekomst met een groter aanbod van mannen en vrouwen.’

Je kan niet alleen binnen je bedrijf maar ook in de maatschappij een positief verschil maken’

‘De derde keuze is gelijke opportuniteiten. Wat fair is heeft alleen te maken competentie, niet met beschermde eigenschappen. Er wordt niet gekeken naar ras, religie, gender of even wat, bekwame mensen hebben evenveel kans om aangenomen te worden. Bij deze keuze is het meten iets moeilijker meten dan de vorige twee. Je voegt hier immers de dimensie toe van bekwaamheid. Je moet dus inzicht hebben, is dit een bekwame persoon of niet.’

Larnout vult aan: ‘Je kan dit meten met een standaard test op voorhand. Met een talent-API kan je objectief competenties meten en op die manier voldoen aan deze keuze voor fairness.’

‘De vierde keuze is gelijke kansen. Je behoud de eigenschap van gelijke opportuniteiten, maar je voegt eraan toe dat minder bekwame mensen evenveel kans hebben om aangenomen te worden. Je moet je dan afvragen als CEO of het belangrijk is dat er een zekere mate van fairness was bij het aannemen van minder goede mensen’, legt Sorber uit.

‘Je neemt altijd mensen in je organisatie aan die minder bekwaam zullen zijn, daar kan je niet onderuit. De vraag is, hoe divers wil je dat die zijn?’, voegt Larnout toe.

‘Als je echt leiderschap wil tonen, dan kan je AI en het kiezen voor fairness ook zien als een opportuniteit. Je kan niet alleen binnen je bedrijf maar ook in de maatschappij een positief verschil maken. Je kan vooroordelen blootleggen en verhelpen. Dat is met technologie perfect mogelijk, maar bij mensen is dat toch iets moeilijker’, besluit