Toezichthouder waarschuwt nogmaals voor risico's van AI-algoritmes bij overheid

In dit artikel:

De Autoriteit Persoonsgegevens (AP) waarschuwt in een nieuw rapport dat Nederland onvoldoende is voorbereid op de risico’s van kunstmatige intelligentie: de situatie wordt door de toezichthouder als ‘code rood’ bestempeld. Volgens de AP hebben bedrijven en overheden vaak geen helder overzicht van hoe algoritmes worden toegepast, waardoor beslissingen ondoorzichtig blijven en het risico op discriminatie en onterechte benadeling toeneemt — met de toeslagenaffaire, waarin een algoritme van de Belastingdienst ouders onterecht als fraudeurs bestempelde, als verontrustend voorbeeld.
De AP wijst op te weinig duidelijke regels, beperkte bevoegdheden voor handhaving en het niet melden van incidenten, en signaleert dat organisaties soms de risico’s van hun systemen laag inschatten om onder nieuwe Europese AI-regels uit te komen. Omdat AI-systemen snel zelfstandiger worden, vraagt de toezichthouder het kabinet dringend om concrete wetgeving, aangewezen toezichthouders en structurele financiering voor controles. “Wie een nieuw schandaal wil voorkomen, moet nú handelen,” aldus AP-voorzitter Aleid Wolfsen.