Artificial Intelligence (AI) en algoritmes krijgen een steeds grotere rol in onze samenleving. Dat biedt volop kansen, maar brengt ook de nodige risico’s met zich mee. Risico’s waar toezicht op moet worden gehouden. Een overzicht van de met AI belaste toezichthouders in Nederland en hun takenpakket.

Autoriteit Persoonsgegevens checkt op privacy

De Autoriteit Persoonsgegevens (AP) houdt toezicht op de naleving van de AVG in Nederland. De AP houdt dus ook toezicht op AI-systemen en algoritmes waarbij persoonsgegevens worden verwerkt.

Binnen de AP is zelfs een nieuw organisatieonderdeel opgericht, namelijk de directie Coördinatie Algoritmes. Hiervoor ontvangt de AP sinds dit jaar 1 miljoen euro, oplopend naar structureel 3,6 miljoen euro in 2026.

Wat houdt het toezicht van de AP concreet in?

Het huidige toezicht op AI en algoritmes ligt bij verschillende colleges, markttoezichthouders en rijksinspecties. De Autoriteit Persoonsgegevens heeft hierop een aanvullende en sector overstijgende rol.

Voor 2023 heeft de AP een drietal concrete activiteiten geformuleerd.

1. Signalen en inzichten verzamelen

Over de risico’s en effecten van algoritmegebruik. De AP verzamelt deze, analyseert ze en deelt de opgedane kennis met anderen.

2. Bestaande samenwerkingen bij algoritmetoezicht versterken en faciliteren

Om risico’s eerder aan het licht te brengen, gezamenlijk aan te pakken en waar mogelijk te voorkomen.

3. Gezamenlijke en sectoroverstijgende normuitleg en ‘guidance’ bevorderen

Om voor bedrijven, overheden en andere organisaties duidelijker te maken wat er van hen wordt verwacht en voor burgers wat zij kunnen verwachten.

Interessant weetje!

Onlangs publiceerde de AP de Rapportage Algoritmerisico’s Nederland, waarin de belangrijkste ontwikkelingen, risico’s en uitdagingen op het gebied van AI in Nederland worden behandeld. Volgens het rapport zijn op dit moment de belangrijkste algoritmerisico’s:

  • innovaties zoals intelligente chatbots; en

  • gebrekkig inzicht in bestaande (hoog risico) algoritmes.

Rijksinspectie Digitale Infrastructuur controleert digitale infrastructuur

De Rijksinspectie Digitale Infrastructuur (RDI) voert de wet- en regelgeving uit in het digitale domein en houdt hier toezicht op. Denk daarbij aan de Wet beveiliging netwerk- en informatiesystemen (WBNI) en de Radio Apparatuur Richtlijn (RED).

In dit kader houdt de RDI toezicht op AI en algoritmes en met name de impact hiervan op IT- en communicatienetwerken. De RDI heeft eerder een onderzoek laten uitvoeren naar het (toekomstige) gebruik van AI in de telecomsector en de kansen en risico’s die daaraan verbonden zijn.

In het onderzoeksrapport staat ook een risicomodel uitgewerkt, waarmee de RDI (maar ook andere toezichthouders) eenvoudiger toezicht kan houden.

Ook de RDI zoekt samenwerking met andere toezichthouders om de risico’s van AI te beperken.

Werkgroep ‘Toezicht op AI/algoritmen’ deelt onderling kennis

Vrijwel alle toezichthouders krijgen op één of andere manier te maken met AI. Daarom is er in 2020 door een aantal rijksinspecties en markttoezichthouders een interdepartementale werkgroep opgericht, genaamd ‘Toezicht op AI/algoritmen’.

De werkgroep deelt kennis en ervaring met betrekking tot toezicht op AI met elkaar, zoals het uitwisselen van methodieken en te hanteren beoordelingskaders. Daarnaast informeren ze elkaar over op handen zijnde regelgeving en relevante rapportages en werken ze waar mogelijk samen.

Europese AI Act moet meer houvast bieden

Zoals u kunt lezen, is het toezicht op AI momenteel nog behoorlijk versplinterd. Toezichthouders als de AP en de RDI nemen het voortouw, maar vele partijen nemen een stukje toezicht op zich.

Daar gaat verandering in komen met de komst van de Europese AI Act. De Artificial Intelligence Act bevat regels waaraan AI-systemen moeten voldoen. Deze nieuwe Europese wetgeving zal leidend zijn voor de verdere ontwikkeling van het algoritmetoezicht in Europa en Nederland.

Zo verplicht de nieuwe wetgeving ieder Europees land om een toezichthouder aan te wijzen voor de naleving van de regels uit de AI Act. Daarnaast komt er een Europees comité voor kunstmatige intelligentie om de uitvoering van die regels te faciliteren en de ontwikkeling van normen voor AI te stimuleren.

Op de hoogte blijven van deze en andere ontwikkelingen in ICT & recht?

Meldt u zich dan aan voor onze maandelijkse nieuwsbrief en ontvang onze blogs automatisch in uw mailbox.