Daniël de Weerd over de nieuwe AI-regels voor algemeen toepasbare kunstmatige intelligentie

Daniël de Weerd schreef een artikel in Computerrecht over de nieuwe Europese AI-verordening en hoe deze omgaat met “AI-modellen voor algemene doeleinden”, oftewel het type AI-modellen achter ChatGPT, Gemini en Claude. Deze verordening is recent in werking getreden, maar roept nog een hoop vragen op.

In het artikel bespreekt hij eerst hoe AI zich heeft ontwikkeld: van simpele op regels gebaseerde systemen naar de huidige generatie AI die flexibel tekst, beelden en video kan genereren. Een model wordt gezien als “general-purpose” wanneer het veel verschillende taken kan uitvoeren en in veel verschillende toepassingen kan worden gebruikt.

Voor de meest geavanceerde modellen gelden extra strenge regels. Deze modellen hebben volgens de wet “systeemrisico’s” – risico’s die de hele samenleving kunnen raken. Aanbieders van dit soort modellen moeten deze risico’s beoordelen en beperken. Hierbij valt op dat de concept-praktijkcode voor dergelijke modellen, waarover op dit moment nog wordt onderhandeld, zich voornamelijk richt op grootschalige risico’s m.b.t. cyberaanvallen, massavernietigingswapens en verlies van controle over geavanceerde modellen. De praktijkcode laat meer alledaagse risico’s, zoals bias of het verzinnen van feiten door AI, buiten beschouwing.

Tot slot bespreekt Daniël nog de vraag in hoeverre art. 5 AI-verordening (verboden AI-toepassingen) van toepassing is op systemen die door een GPAI-model worden aangedreven, zoals bijvoorbeeld AI-chatbots. Omdat dit soort systemen een groot aantal toepassingen hebben, kunnen ze ook – in theorie – voor verboden toepassingen worden gebruikt. Volgens richtlijnen van de Europese Commissie zijn aanbieders van dergelijke systemen verplicht om maatregelen nemen om dit te voorkomen. Hij meent echter dat deze verplichting onduidelijk is, niet aan het juiste soort aanbieders is gericht en aanbieders blootstelt aan disproportioneel hoge boetes.

De komende jaren moeten uitwijzen of de AI-verordening geschikt is om de snelle ontwikkelingen in kunstmatige intelligentie goed te reguleren. Verduidelijking wordt verwacht door definitieve richtlijnen, uitleg door nationale toezichthouders en – al zal het nog even duren – de eerste handhavingszaken.

Het hele artikel lees je hier.
(Openen in een nieuw venster)