NBA Accounttech webinar: algoritmes & Toetsingskader

Algoritmes zijn de laatste tijd steeds vaker in het nieuws. Waarbij de ethische kant veelal de belangrijkste invalshoek is voor het nieuwsbericht. Algoritmes zijn er in vele soorten en maten en ze worden al ongelooflijk vaak toegepast. Ook op bijvoorbeeld online services en websites die wij allen dagelijks gebruiken.

Ik heb zelf een haat-liefde verhouding met computers en software. Ik kan er ontzettend fijne dingen mee doen, maar ik vraag me ook dikwijls af hoe lang ik zelf nog de regie heb over de dingen die ik doe. Wij mensen hebben al heel lang een groot dilemma tussen ‘vertrouwen en controleren’, óók waar het gaat om gebruik van computers. Dat dilemma speelt ook al jaren in mijn beroep als accountant. En helemaal met zo’n relatief ‘nieuwe ontwikkeling’ als Artificial Intelligence.

EU: BESCHERM het individu

Tijdens het webinar van 7 juli 2021, georganiseerd door de NBA Accounttech Community, met als titel ‘Algoritmes & toetsingskaders’ werd dit ook duidelijk. “Algoritmes zijn er in verschillende soorten. En naar mate ze complexer worden, worden ze bruikbaarder en relevanter, maar het worden dan wel al snel ‘black boxes’ die moeilijk uitlegbaar zijn.” Zo trapte Mona de Boer, partner bij PwC af. Ze nam ons als deelnemers mee in de ontwikkelingen rondom toetsingskaders. Belangrijkste punt wat ik eruit meenam: De EU gaat voor bescherming van het individu (heel anders dan bijvoorbeeld in Azië) en de kans is groot dat er een GDPR AI komt vanuit Europa!

Toepassingen uit de praktijk?

Na de aftrap van Mona hadden de organisatoren ook wat ‘verhalen uit de praktijk’ geregeld. Allereerst van Kyon Soons, werkzaam bij a.s.r. Zij hebben een algoritme ontwikkeld vanuit de doelstelling om ‘datagedreven klanten te behouden’. En dus om vroegtijdig te kunnen signaleren of er klanten zijn die mogelijk een overstap overwegen. Kyon nam ons mee in het ethisch kader dat a.s.r. heeft ontwikkeld en hanteert: Data Deugd. Hun manier om een ‘black box’ te voorkomen. “Want als we straks bij Kassa zitten, willen we dit goed kunnen uitleggen uiteraard”.

Kyon ging niet in op welke indicatoren dan precies allemaal in dat algoritme zitten. Maar het leuke was dat het 2e praktijkverhaal daar wel op in ging. Matthias Tjerps van de Inspectie voor het Onderwijs deelde ook hun casus, waarbij zij een proef hebben gedaan met een ‘lerend algoritme’. Doelstelling hierachter wat het toezicht op scholen risicogericht in te steken en zo onnodige toezichtslast te voorkomen. Maar ook wel om de inzet efficiënt in te kunnen zetten, zo hoorden we. De Inspectie hanteert al jaren een risicomodel om scholen voor toezicht te kunnen selecteren. Maar dit algoritme is ontwikkeld om te helpen dit risicomodel verder te “verrijken”. Ik heb het opgevat als een soort second opinion. Matthias ging ook in op een belangrijk risico bij het werken met algoritmes, namelijk: discrimineert het algoritme omdat een bepaalde mate van bias aanwezig is? Zo zou je je kunnen voorstellen dat dit speelt bij scholen op basis van bijvoorbeeld het % migrantenleerlingen dat op een school zit. Maar dit bleek niet het geval. Wel kwam er een andersoortige discriminatie naar voren, waarbij scholen in Noord Nederland door het algoritme -zonder goede verklaring- sneller op hoog risico werden geclassificeerd. Op die manier zijn ‘features’ die werden meegenomen weer aangepast. En zo beschouwt ook Matthias: “Het zoeken naar eventuele bias in je algoritme is een ongoing proces”.

Behoefte aan vertrouwen dus: accountant als vertrouwensman aan zet?

In het webinar is ook vaak gerefereerd aan dat magische woord: Vertrouwen. “Vertrouwen kweken is één van de belangrijkste doelen ook achter de toetsingskaders” zo hoorde ik Mona al aan het begin van het webinar zeggen. En zij sloeg ook al de brug naar / legde de link met accountants. Want is dat niet waartoe zij op aarde zijn? Mona riep ons dus ook op om hier aandacht aan te gaan schenken. “Want de organisaties die jullie controleren werken al veelvuldig met algoritmes, die zitten soms ook gewoon in Excel.” En Mona haalde ook nog even aan dat soms accountants denken ‘om iets heen te kunnen controleren’. Ik herken dat heel goed. Jaren terug deed ik zelf ook niet anders. Maar inmiddels weet ook ik dat je niet ‘om iets heen kunt controleren’ als de magie ‘in die box plaatsvindt’!

Wat een hoop woorden Ferry, heb je geen tekening? Jawel, hieronder mijn Visual Recording van dit bijgewoonde webinar. En bovenstaand woordelijk verslag knip & plak ik in mijn PE Portfolio, want weer veel geleerd!

WIL JIJ OOK VISUELE NOTULEN VAN JOUW (ONLINE) BIJEENKOMST?

Deze visuele aantekeningen maak ik voor mezelf in de eerste plaats en uiteraard vind ik het leuk om ze daarna te delen. Maar als Tekenende Accountant maak ik ze ook in opdracht! Dus als jij ook binnenkort een (online) bijeenkomst gaat verzorgen en je wilt je ‘publiek’ na afloop iets nuttigs & leuks ‘meegeven’: neem dan contact met me op. Op deze pagina van mijn website lees je er meer over!