Komende nieuwsbrieven schrijf ik over de AI-verordening, ofwel de AI Act. Vandaag begin ik met een introductie van deze verordening.
In april 2021 presenteerde de Europese Commissie het wetsvoorstel voor de AI-verordening. De noodzaak van deze regelgeving werd duidelijk door de snelle technologische ontwikkelingen en de risico’s die AI met zich meebrengt voor de veiligheid van producten en de grondrechten van EU-burgers. Toen het voorstel werd geïntroduceerd, kon niemand voorspellen hoe generatieve AI, zoals ChatGPT, in 2023 de wereld zou veranderen. Haast was dus geboden. Nou is haast in het juridische domein iets anders van aard dan in het IT-domein. Ruim drie jaar na indiening van het wetsvoorstel trad de AI-verordening in augustus 2024 in werking. Niet alle artikelen worden tegelijkertijd van toepassing, zoals we in latere nieuwsbrieven nog zullen bespreken.
Tijdens het wetgevingsproces ontstonden grote meningsverschillen tussen de Raad en het Europees Parlement, onder meer over biometrische identificatie op afstand (zoals gezichtsherkenning) voor rechtshandhaving. Ook de opkomst van general purpose AI (GPAI), oorspronkelijk 'foundational models' genoemd, vereiste aanpassingen in de verordening. De haast, meningsverschillen en technische nieuwe ontwikkelingen maakten het proces van totstandkoming van de verordening complex, wat hier en daar terug te zien is in het resultaat.
De AI-verordening is een omvangrijke wet, bestaande uit 180 overwegingen en 113 artikelen. De echte doorzetters kunnen hier de officiële wetstekst vinden.
Belangrijk om te weten: de AI-verordening heeft een risicogebaseerde opzet en maakt onderscheid tussen:
- AI-systemen met een onacceptabel risico,
- AI-systemen met een hoog risico,
- AI-systemen met transparantieverplichtingen.
Veel AI-systemen vallen buiten deze risicocategorieën. Voor aanbieders en gebruikers van dergelijke systemen gelden alleen de verplichtingen op het gebied van AI-geletterdheid.
Vaak krijg ik van organisaties de vraag: "Hoe implementeer ik de AI-verordening in mijn organisatie?" De eerste stap is om te bepalen of dit nodig is en, zo ja, wat er precies nodig is. In de komende nieuwsbrieven gaan we na hoe u dit stapsgewijs kunt bepalen door de volgende vragen te beantwoorden:
- Is er sprake van een AI-systeem in de zin van de AI-verordening?
- Valt het AI-systeem onder de reikwijdte van de AI-verordening?
- Valt het AI-systeem onder de verboden AI-systemen, hoogrisico AI-systemen of AI-systemen met transparantieverplichtingen?
- Is uw organisatie aanbieder of gebruiksverantwoordelijke van een AI-systeem?
- Is uw organisatie aanbieder van een model voor GPAI? (spoiler: waarschijnlijk niet...)
Heeft u onderwerpen die u graag behandeld ziet in de komende nieuwsbrieven over de AI-verordening? Laat het weten door een reply op deze e-mail te sturen!