Menu
Roel-1_Desktop_2000x655
Nieuws

In gesprek met Maartje over algoritmes

Welkom, dit is de eerste editie van de Significant Insights ‘in gesprek met’. In deze artikelen gaan onze consultants in gesprek met elkaar of met onze collega’s van Significant Public, Significant APE of Significant Synergy. Deze gesprekken gaan over diverse thema’s rondom data engineering, data analyse, data science en prototyping.

Vanuit Significant helpen wij onze opdrachtgevers met het persoonsgericht maken van processen waardoor maatwerkdienstverlening mogelijk is. Hiervoor gebruiken wij regelmatig algoritmes. Afgelopen week waren algoritmes weer eens volop in het nieuws, zie ook (link). In deze editie gaat Roel van Weert (principal consultant van Significant Insights) in gesprek met Maartje Gielen (senior consultant van Significant APE en CSO van de Significant Groep) over de mogelijkheden en gevaren van het toepassen van algoritmes.

Wat is een algoritme

Een algoritme is niet meer dan een aantal stappen om een doel te bereiken, kortom een rekenregel of combinatie van rekenregels. Zoals Sanne Blauw van de Correspondent het zegt: “een algoritme heeft dus niet per se te maken met grote bergen data en technologie. Een rekensom is een algoritme, maar het bereiden van een maaltijd is dat ook. Je volgt de stappen in een recept om het doel - eten op tafel - te bereiken” (link). Heel plat geslagen: 1 + 1 = 2 is ook een algoritme. Een ander voorbeeld van een algoritme is bijvoorbeeld een regression tree. Zie hieronder een fictief voorbeeld van een regression tree waarbij een dienstverlener iemand telefonisch probeert te bereiken.

Wanneer zijn algoritmes behulpzaam?

Maartje: “Wij maken regelmatig gebruik van algoritmes om de processen van onze opdrachtgevers persoonsgericht te maken. Met behulp van algoritmes zoeken wij naar groepen die het beste geholpen zijn met een op hen afgestemde aanpak of te wel maatwerkdienstverlening. Beleid maken voor de gemiddelde Nederlander is regelmatig ineffectief en kan ongewenste neveneffecten hebben. Denk bijvoorbeeld aan het innen van verkeersboetes. Als bekend is dat een persoon een heel laag inkomen of hoge schulden heeft, dan heeft het sturen van een boete en diverse aanmaningen niet per se het gewenste effect dat deze persoon de boete gaat betalen. Het kan daarnaast het ongewenste effect hebben dat deze persoon onbedoeld verder in de schulden terecht komt. Je kunt dan bijvoorbeeld beter met deze persoon in gesprek gaan over een betalingsregeling. Door gebruik te maken van algoritmes kunnen groepen die maatwerk nodig hebben beter en sneller geïdentificeerd worden. Dat is prettiger voor de uitvoerder of dienstverlener én voor de personen in kwestie, een win-winsituatie dus.”

Maar algoritmes komen regelmatig negatief in het nieuws, hoe zit dat?

Roel: “Het gevaar van algoritmes zit hem in het verkeerd toepassen ervan. Neem bijvoorbeeld de toeslagenaffaire, iedere ouder die een foutje (klein of groot) maakte werd bestempeld als fraudeur. Het eenduidig labelen van een persoon op een fout naar fraudeur of geen fraudeur is erg gevaarlijk. Je gaat dan ook personen zwaar straffen die een kleine administratieve fout hebben gemaakt.” Maartje beaamt dit en vult Roel aan. “Zodra je een algoritme gebruikt in deze toepassing, is het belangrijk om na te gaan of de gebruiker/personen per ongeluk fouten maken of dat er sprake is van opzet of fraude. Dit kun je doen door te kijken of de fout groot of klein is en of de persoon eerder dergelijke fouten heeft gemaakt. Zou het bijvoorbeeld ook kunnen dat dat de persoon de belastingformulieren niet goed begreep? Daarnaast is het belangrijk om te beseffen dat het een gevaar kan zijn als je alleen de personen met een hoge fraudekans controleert. Dit kan tunnelvisie veroorzaken, omdat de gegevens die het algoritme gebruikt op een gegeven moment geen fraude meer bevatten van personen buiten de risicogroep. Het is daarom belangrijk dat organisaties ook data verzamelen van personen die niet in de risicogroep vallen.” Roel: “Het is dus van belang om goed na te denken hoe je je algoritmes toepast. Het zou zonde zijn als dit ten koste gaat van de vele mogelijkheden om algoritmes op een positieve manier in te zetten. En die mogelijkheden zijn veel breder dan fraudebestrijding, waar in de media vaak de aandacht naar uit gaat. Algoritmes kunnen juist ook een rol spelen in het beschermen van burgers en ervoor zorgen dat zij de dienstverlening krijgen die zij verdienen.”

En zijn algoritmes niet een black box?

De Rekenkamer constateerde onlangs dat vragen van bezorgde burgers over de toepassing van algoritmes meer aandacht verdienen, zie ook (link). Als beleidsmaker of uitvoerder is het belangrijk dat je kan uitleggen waarom je keuzes maakt op basis van de algoritmes. Maartje: “Een black box is daarmee niet wenselijk. Het moet voor alle betrokkenen duidelijk zijn hoe en waarom je doelgroepen maakt. Het is belangrijk dat je duidelijk bent over welke variabelen je gebruikt en waarom. De variabelen die je opneemt zijn namelijk afhankelijk van je doel. Wanneer je een algoritme gebruikt voor fraudedetectie moet je geen variabelen opnemen over bijvoorbeeld afkomst. Maar als je wilt weten hoe je mensen het beste kunt bereiken, kan het juist wel weer handig zijn om te weten of iemand de Nederlandse taal beheerst. Ook is het belangrijk om altijd inhoudelijk te blijven toetsen. Is er een causale relatie? Is het inhoudelijk uitlegbaar? Je wilt voorkomen dat er variabelen in het model komen die toevallig samenhangen terwijl je dit niet kunt uitleggen.”

Kortom, zijn algoritmes behulpzaam?

Ja, dat zeker. Er zijn veel sectoren waar zowel de organisatie als de betrokkenen baat zouden hebben bij de verstandige en transparante toepassing van algoritmes. Denk bijvoorbeeld aan het stellen van indicaties in de zorg, de aanpak van schuldenproblematiek, arbeidstoeleiding en asielprocedures.

Heb je interesse om hier eens over door te praten? Neem dan zeker contact op met Roel van Weert!