Responsible AI
Bij verantwoord gebruik van kunstmatige intelligentie (AI) gaat het niet alleen om technisch bruikbare uitkomsten. De uitkomsten moeten ook uitlegbaar, beheersbaar en passend zijn bij de context waarin beslissingen worden genomen.
Voor actuarissen sluiten veel vragen aan op bekende thema’s als model governance, validatie en professioneel oordeel. AI-systemen zijn vaak wel complexer, dynamischer en minder direct te doorgronden.
De praktische kernvraag is daarom: wat moet je regelen om AI verantwoord te gebruiken voor analyse, voorspelling of besluitvorming?
Internationale raamwerken gebruiken verschillende termen, maar behandelen grotendeels dezelfde onderwerpen: verantwoordelijkheid, transparantie en uitlegbaarheid, menselijk toezicht, robuustheid en monitoring, documentatie en traceerbaarheid, en fairness.
Transparantie en uitlegbaarheid
Transparantie betekent niet dat je alle technische details openbaar moet maken. Het gaat erom dat relevante informatie beschikbaar is voor degene die haar nodig heeft. Bij uitlegbaarheid is de doelgroep daarom bepalend. Een modelontwikkelaar, validator, bestuurder en verzekeringnemer hebben niet dezelfde uitleg nodig. Het National Institute of Standards and Technology (NIST) onderscheidt vier principes, waaronder betekenisvolle uitleg en inzicht in de grenzen van kennis. Daarmee is uitlegbaarheid breder dan een technische methode zoals SHAP (Shapley additive explanations). Een analyse van de bijdrage van modelkenmerken kan nuttig zijn, maar biedt niet automatisch de uitleg die iedere gebruiker nodig heeft.
Menselijk toezicht en verantwoordelijkheid
Menselijk toezicht en verantwoordelijkheid zijn belangrijke pijlers van AI-governance. Menselijk toezicht vraagt om betrokkenheid gedurende de volledige levenscyclus van een AI-systeem, bijvoorbeeld met een human-in-the-loop-benadering. Dit maakt het mogelijk om prestatie-indicatoren te volgen en modeluitkomsten te valideren voordat deze worden toegepast.
Verantwoordelijkheid vraagt om duidelijk eigenaarschap en heldere rollen bij de ontwikkeling, implementatie en het doorlopende gebruik van AI-systemen. Daarbij moet ook zijn geregeld hoe menselijke professionals kunnen ingrijpen, algoritmische fouten kunnen corrigeren en eventuele schade door geautomatiseerde besluitvorming kunnen herstellen.
Testen, robuustheid en monitoring
Testen, robuustheid en doorlopende monitoring zijn gedurende de volledige levenscyclus nodig om te beoordelen of AI-modellen in de praktijk betrouwbaar, nauwkeurig en eerlijk blijven. Grondig testen richt zich op nauwkeurigheid, fairness en uitlegbaarheid. Met ruis, stresstests en scenarioanalyses kun je ook onderzoeken hoe het model presteert in grens- en uitzonderingssituaties. Omdat dataomgevingen veranderen, is monitoring na ingebruikname nodig om prestatie-indicatoren te volgen en data- en conceptdrift te signaleren. Geautomatiseerde terugkoppeling en MLOps-protocollen kunnen vervolgens het opnieuw trainen van modellen ondersteunen. Voor actuarissen is dit een logische uitbreiding van bestaande werkzaamheden: niet alleen testen vóór ingebruikname, maar ook volgen wat er daarna gebeurt.
Documentatie en traceerbaarheid
Goede documentatie ondersteunt governance gedurende de volledige levenscyclus van een model. Zij legt vast welke data en aannames zijn gebruikt, welke keuzes zijn gemaakt, wat de bekende beperkingen zijn, wie heeft gevalideerd en wat is gewijzigd. Gestructureerde hulpmiddelen, zoals data cards en model cards, kunnen daarbij worden afgestemd op het risico, de betekenis en de complexiteit van het model. Ze beschrijven onder meer datastromen, de selectie van algoritmen, prestatiebeoordelingen en inherente beperkingen. Traceerbaarheid vraagt daarnaast om systematisch versiebeheer, wijzigingslogboeken, auditlogging en dossiervorming. Daarmee kunnen actuarissen resultaten reproduceren, opkomende bias volgen en aantonen dat aan relevante regelgeving wordt voldaan.
Fairness en bias
Voor actuarissen is de spanning rond fairness herkenbaar. Modellen zijn vaak bedoeld om onderscheid te maken, terwijl fairness draait om de vraag wanneer dat onderscheid ongewenst of onaanvaardbaar wordt. Dat is niet alleen een technische vraag. Fairness is ook niet hetzelfde als de afwezigheid van bias.
Bias in AI-systemen ontstaat wanneer invoer, uitvoer of een modelonderdeel de werkelijkheid niet nauwkeurig weergeeft. Algoritmische bias kan samenhangen met de manier waarop datawetenschappelijke teams trainingsdata verzamelen, selecteren en coderen.
De taxonomie van NIST onderscheidt drie categorieën: statistische bias, menselijke of cognitieve bias en systemische bias. In actuariële toepassingen kan bias onder meer ontstaan door de steekproef, gekozen modelkenmerken of proxyvariabelen. Ogenschijnlijk neutrale variabelen, zoals postcode, beroep of historische zorguitgaven, kunnen indirect samenhangen met beschermde kenmerken. Dit kan leiden tot indirecte discriminatie.
Wiskundige methoden alleen brengen menselijke en systemische oorzaken niet altijd in beeld. Actuarissen kunnen daarom sociaal-technische benaderingen, fairness-audits, representatieve datasets en doorlopende monitoring gebruiken om schadelijke bias gedurende de levenscyclus van een AI-systeem te herkennen en te beperken. De passende aanpak hangt af van het doel, de context en de mogelijke gevolgen van het model. Professioneel oordeel blijft nodig.
Bronnen
Actuarial Association of Europe. Is a fair value fair?
Casualty Actuarial Society. Bias and insurance research series.
De Nederlandsche Bank. (2026). Verzekeraars en AI: DNB deelt nieuwste inzichten.
European Insurance and Occupational Pensions Authority (EIOPA). (2025). Opinion on artificial intelligence governance and risk management.
European Commission. ALTAI: Assessment list for trustworthy artificial intelligence.
International Actuarial Association. (2025). Artificial intelligence governance framework.
International Actuarial Association. Documentation of artificial intelligence models or systems.
International Actuarial Association. Testing of artificial intelligence models or systems.
Kleinberg, J., Mullainathan, S., & Raghavan, M. (2016). Inherent trade-offs in the fair determination of risk scores.
National Institute of Standards and Technology. AI risk management framework.
National Institute of Standards and Technology. Four principles of explainable artificial intelligence.
National Institute of Standards and Technology. Towards a standard for identifying and managing bias in artificial intelligence.
Organisation for Economic Co-operation and Development (OECD). Human-centred values and fairness.
Organisation for Economic Co-operation and Development (OECD). Transparency and explainability.