De rol van AI in pensioenen: De AI-verordening
Chris Vinke, CEO & oprichter GRN Consultancy
Karima Chraa, Senior analist
In onze eerste blog kunt u lezen dat het bepalen van de de juiste risicoklasse belangrijk is om de vervolgacties voor de huidige in gebruik genomen AI-oplossingen te bepalen. De digitale overheid heeft al de eerste blog hierover gepubliceerd met uitleg over hoe deze Europese AI-verordening in werking wordt gesteld. Deze verordening is een wet die eisen stelt aan de ontwikkeling en het gebruik van artificiële intelligentie (AI) binnen de Europese Unie (EU). De wet treedt begin augustus 2024 in werking. Daarom is het belangrijk om te begrijpen wat uw organisatie te wachten staat en hoe het beste voor te bereiden op deze inwerkingtreding.
Het doel van de AI-Verordening
De AI-verordening gaat voor zowel publieke als private partijen gelden. De wet beschrijft de rechten en plichten van ontwikkelaars en gebruikers van AI-systemen in de EU. Deze regels zien toe op het ontwikkelen van betrouwbare AI en dat het gebruik in lijn is met Europese publieke waarden en fundamentele rechten. De EU wil hiermee het vertrouwen van burgers in AI versterken en zo ruimte maken voor innovatie en economische ontwikkeling. Om dit te garanderen gaat de AI-verordening uit van een risico-gebaseerde benadering. Per risicocategorie gelden er andere regels.
Veranderingen voor organisaties
Vanaf de inwerkingtreding van deze nieuwe wet, 1 augustus 2024, gaat de AI-verordening in fasen van kracht, waarbij de meeste verplichtingen binnen een halfjaar en uiterlijk drie jaar van kracht zijn. Ook geldt dat de verplichtingen over zes jaar met terugwerkende kracht zullen gelden voor overheidsorganisaties. Hierdoor vinden de veranderingen niet allemaal tegelijk plaats. Dit geeft organisaties de tijd om zich op de verplichtingen voor te bereiden.
Verboden AI-Praktijken
De eerste categorie AI-systemen waarvoor de nieuwe wet geldt, zijn de verboden AI-systemen. Dit zijn AI-systemen die in strijd zijn met Europese fundamentele normen en waarden. De risico’s van deze systemen zijn onaanvaardbaar en daarom zijn deze bepalingen zes maanden na inwerkingtreding van kracht. Voorbeelden van verboden praktijken zijn: AI-systemen die menselijk gedrag op een negatieve manier manipuleren en AI-systemen die worden gebruikt voor een oneerlijke beoordeling van natuurlijke personen (zogenaamde ‘social scoring’).
Overige informatie en meer tijdslijnen kijk dan snel op:
https://www.digitaleoverheid.nl/achtergrondartikelen/wat-betekent-de-ai-verordening-voor-jouw-organisatie/
Hoog Risico
Een andere categorie onder de AI-verordening is de categorie hoog-risico AI. Dit zijn systemen die grote kansen en meerwaarde kunnen bieden, maar ook belangrijke risico’s in zich dragen die moeten worden weggenomen. Bijvoorbeeld bij systemen die sollicitaties filteren en analyseren of systemen die overheidsinstanties ondersteunen bij het behandelen van aanvragen voor asiel of verblijfsvergunningen. Deze systemen moeten twee jaar na inwerkingtreding (1 augustus 2026) aan de eisen voldoen. Voor hoog-risico AI-systemen in producten die vallen onder bepaalde EU wetgevingen (bijvoorbeeld liften) geldt dat u tot 1 augustus 2027 de tijd hebt om te voldoen aan de gestelde eisen. U hebt nog langer de tijd voor AI-systemen die vóór inwerkingtreding al in gebruik zijn genomen. Voor deze systemen geldt dat zij zes jaar na inwerkingtreding (2030) aan de verplichtingen moeten voldoen.
Concreet betekent het voor uw organisatie dat er allereerst een inventarisatie moet plaatsvinden op de gebruikte AI-systemen binnen de categorie verboden praktijken. Wanneer dit het geval is, moeten deze uitgefaseerd worden, vóórdat de verbodsbepalingen van kracht zijn. Inventariseer hierna of de gebruikte AI-systemen met een hoog risico en welke eisen hiervoor gaan gelden.
Impact op de Pensioensector
Voor business analysten, productmanagers en product owners binnen de pensioensector is het essentieel om zich bewust te zijn van deze nieuwe wetgeving. De AI-verordening zal niet alleen de manier veranderen waarop AI-systemen worden ontwikkeld en ingezet, maar ook de noodzaak vergroten voor upskilling en digitale transformatie binnen organisaties. Er zal meer bewustwording nodig zijn binnen pensioenaanbieders over de mogelijkheden en risico’s van AI, evenals een sterke focus op compliance en ethisch gebruik van technologie. Hoe je dit het beste kan doen? Neem dan contact op met GRN voor trainingen omtrent AI en voor de quickscan, neem dan contact op met NWAge.
Nederlands 
English (UK)