In de komende blogposts gaan we, zoals aangekondigd, bepalen of een IT-systeem onder de reikwijdte van de AI-verordening valt. De eerste vraag die u zich hierbij moet stellen, is of het IT-systeem voldoet aan de definitie van een AI-systeem volgens de AI-verordening. Voordat we de definitie bespreken die momenteel als geldend recht is vastgelegd, kijken we eerst naar de definitie uit het oorspronkelijke wetsvoorstel van 2021. Deze luidde als volgt:
"software die is ontwikkeld aan de hand van een of meer van de technieken en benaderingen die zijn opgenomen in de lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de omgeving waarmee wordt geïnterageerd"
Bijlage I van het wetsvoorstel noemde drie typen systemen: benaderingen voor machine learning, op logica en op kennis gebaseerde benaderingen en statistische benaderingen. De bijlage gaf van alledrie deze type systemen een aantal voorbeelden. In de eerste categorie vielen supervised learning, unsupervised learning en reinforcement learning. De tweede categorie omvatte expertsystemen en kennisbanken. In de derde categorie werden Bayesiaanse schattingsmethoden, zoekmethoden en optimalisatiemethoden genoemd.
Voor een techneut is het natuurlijk prettig als concrete typen systemen worden genoemd, omdat het dan eenvoudig is om te bepalen of een systeem onder de definitie valt. Deze definitie kreeg echter veel kritiek. Enerzijds ontwikkelt technologie zich razendsnel, waardoor de definitie snel verouderd kan raken. Anderzijds is het voor een mogelijke inbreuk op de grondrechten van burgers niet relevant welke specifieke technologie wordt gebruikt.
De uiteindelijke definitie van een AI-systeem is daarom technologie-onafhankelijk geformuleerd, te weten:
"een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen"
Zoals u ziet, is deze definitie erg breed en bevat deze veel optionele elementen. Hierdoor is het niet altijd eenvoudig om de exacte grenzen te bepalen. Om hierin houvast te bieden, heeft de Europese Commissie richtsnoeren gepubliceerd, die hier te vinden zijn. Hoewel deze richtsnoeren juridisch niet bindend zijn, hebben ze in de praktijk wel grote invloed. De richtsnoeren bevatten ook concrete voorbeelden van IT-systemen die wel of niet onder de definitie van een AI-systeem vallen. Het is dus verstandig deze richtsnoeren te raadplegen bij twijfel.