Autoriteit Persoonsgegevens zet volgende stap in toezicht op AI

In dit artikel:

De Autoriteit Persoonsgegevens (AP) richt een nieuwe directie op voor toezicht en coördinatie rond AI en algoritmes. De directie Toezicht en Coördinatie AI/Algoritmes (TCA) bouwt voort op het coördinerende toezicht dat de AP sinds 2023 uitvoert en bereidt zich voor op het toekomstige markttoezicht op AI. De AP is daarvoor beoogd toezichthouder, maar krijgt die formele bevoegdheid pas wanneer de Nederlandse Uitvoeringswet AI-verordening in werking treedt. Over de aanwijzing, financiering en benodigde capaciteit wordt nog overlegd; de wettelijke deadline voor het aanwijzen van toezichthouders was 2 augustus 2025.

TCA bestaat uit twee afdelingen. De afdeling AI/Algoritmes Risicoanalyse & Coördinatie onderzoekt de gevolgen van AI voor mensen, grondrechten en de samenleving, signaleert risico’s en werkt samen met andere toezichthouders en deskundigen. De afdeling Markttoezicht AI ontwikkelt technische kennis om AI-systemen te onderzoeken en testen en bereidt de handhaving van de Europese AI-verordening voor.

De AP werkt hierbij samen met de Rijksinspectie Digitale Infrastructuur (RDI) aan een gezamenlijk AI-Coördinatiecentrum en een AI-sandbox. In die gecontroleerde omgeving kunnen organisaties innovatieve AI-systemen ontwikkelen en testen met begeleiding van toezichthouders. De aanpak moet niet alleen ingrijpen bij misstanden mogelijk maken, maar organisaties ook duidelijkheid geven over verantwoorde innovatie.

De Europese AI-verordening verbiedt bepaalde toepassingen en verplicht aanbieders onder meer transparantie te bieden over AI-gegenereerde beelden, video’s en teksten. Recente incidenten waarbij AI-agents ongeautoriseerd toegang kregen tot online omgevingen onderstrepen volgens de AP het belang van vroegtijdig en deskundig toezicht. De organisatie kan daarbij voortbouwen op haar ervaring met privacyrisico’s onder de AVG en haar bestaande toezicht op algoritmes.