AI-systemen nemen in steeds meer sectoren beslissingen die voorheen aan professionals waren voorbehouden. In de financiële sector, in de rechtspraak, in de zorg. Overal speelt dezelfde vraag: op basis waarvan is een AI-beslissing genomen? Die vraag is niet nieuw, maar de urgentie groeit. Want een beslissing die niemand kan uitleggen, is moeilijk te verdedigen.
De Europese AI Act, die nu gefaseerd wordt ingevoerd, formaliseert deze uitlegbaarheid/explainability: afhankelijke van het risico-level worden transparantie en menselijk toezicht wettelijke vereisten. Vooral voor AI agents in verzuimbegeleiding heeft dit verstrekkende gevolgen.
Waarom uitlegbaarheid geen luxe is
Uitlegbaarheid raakt iedereen in de keten. De medewerker wil begrijpen waarom bepaalde keuzes worden gemaakt. Waarom wordt er een gesprek met de bedrijfsarts ingepland? Of waarom juist niet?De werkgever vraagt om onderbouwing wanneer een advies afwijkt van de verwachting. En de bedrijfsarts wil weten of het systeem redeneert zoals zij zou redeneren en waarom wél of juist waarom niet.
Uitlegbaarheid is geen technisch detail om aan de IT-afdeling over te laten. Het raakt de kern van wat het betekent om verantwoordelijkheid te dragen in een tijd waarin machines steeds meer meebeslissen.
Twee families van AI, twee manieren van uitleggen
Niet alle AI werkt hetzelfde. In de praktijk kom je twee hoofdtypen tegen.
De eerste: klassieke machine learning modellen. Deze systemen werken met vaste variabelen. Ze krijgen gestructureerde data als input. Variabelen als: leeftijd, type klacht, aantal werkzame uren per week, worden gebruikt om een score of categorie te voorspellen.
De tweede: grote taalmodellen (LLMs). Deze systemen verwerken ongestructureerde tekst. Ze kunnen gesprekken samenvatten, vragen beantwoorden, of advies formuleren op basis van context.
Beide kunnen waardevol zijn. Maar ze leggen hun beslissingen op fundamenteel verschillende manieren uit.
Classificatiemodellen en SHAP: rekenen met factoren
Een klassiek machine learning model werkt als een weegschaal. Het weegt factoren tegen elkaar af en komt tot een uitkomst. De vraag is: welke factoren wegen het zwaarst?
Hier komt SHAP in beeld. SHAP staat voor SHapley Additive exPlanations. De technische naam doet er minder toe dan wat het oplevert... SHAP maakt zichtbaar welke inputvariabelen de uitkomst omhoog of omlaag duwden.
Stel: een casemanager opent een dossier met een hoge risicoscore. Het SHAP-rapport toont dat twee factoren dominant waren: de duur van een eerdere verzuimperiode en het type klacht. De casemanager ziet nu niet alleen de score, maar ook de redenering erachter.
Dit geeft houvast. In het gesprek met de medewerker kan de professional zeggen: "Het systeem weegt mee dat je vorig jaar langdurig uitviel met vergelijkbare klachten. Dat wil niet zeggen dat het nu weer zo loopt, maar het is een signaal om serieus te nemen."
De kracht van SHAP: het is kwantificeerbaar, visueel weer te geven, en auditeerbaar. De beperking: het verklaart hoe het model rekent, niet of die rekenwijze klopt met de werkelijkheid.
Taalmodellen en chain-of-thought: redeneren in woorden
LLMs werken anders. Ze hebben geen vaste variabelen. Ze verwerken tekst en genereren tekst. Dat maakt ze flexibel, maar ook lastiger te doorgronden.
De oplossing die zich ontwikkelt: chain-of-thought reasoning. Hierbij wordt het model gevraagd om stap voor stap te redeneren, en die stappen expliciet te maken. In plaats van alleen een conclusie, toont het model de weg ernaartoe.
Een voorbeeld: een LLM-assistent leest een intake-formulier en stelt een samenvatting op. In plaats van alleen de samenvatting te geven, schrijft het model: "Ik zie dat de medewerker meldt dat de klachten begonnen na een reorganisatie. Ik zie ook dat er sprake is van slaapproblemen. Op basis hiervan adviseer ik een gesprek met de bedrijfsarts binnen vijf werkdagen."
De professional kan nu meelezen met de redenering. Klopt de interpretatie? Mist er context? De uitleg is geen wiskundige formule, maar een narratief dat getoetst kan worden.
De kracht: natuurlijke taal, contextgevoelig, en toegankelijk voor niet-technische professionals. De beperking: een redenering kan overtuigend klinken en toch onjuist zijn. LLMs kunnen hallucineren - de Carwash Paradox illustreert dit treffend. De uitleg vereist daarom altijd professionele toetsing.
Vraag leveranciers naar uitlegbaarheid
Bij de aanschaf of evaluatie van AI-tools helpt het om concreet te vragen naar uitlegbaarheid. Niet "is het uitlegbaar?" dat beantwoordt iedereen met ja. Maar:
- Hoe kan onze bedrijfsarts aan een medewerker uitleggen waarom deze score tot stand kwam?
- Welke factoren worden getoond, en in welke vorm?
- Kunnen we de uitleg aanpassen aan ons eigen taalgebruik en proces?
De antwoorden zeggen veel over de volwassenheid van een oplossing.
Stefan Samba - CTO, Triagen
