Open State zet zich in voor transparante algoritmes en AI

Op 16 juni vond een gesprek plaats tussen een vijftal maatschappelijke organisaties, waaronder Open State en Sven Stevenson – de directeur van de Directie Coördinatie Algoritmes (DCA). Het gesprek stond in het teken van de rol van de Autoriteit Persoonsgegevens bij het toezicht op algoritmes en kunstmatige intelligentie (AI), de implementatie van de AI Act en de samenwerking met maatschappelijke organisaties. De Autoriteit Persoonsgegevens (AP) is de onafhankelijke toezichthouder in Nederland die de bescherming van persoonsgegevens bevordert en bewaakt. Daarnaast is de AP sinds 2023 de ook coördinerend toezichthouder voor algoritmes en AI in Nederland en voorzien markttoezichthouder op de AI-verordening.

AI algoritmes en kunstmatige intelligentie vormen een gevaar als deze niet transparant en controleerbaar zijn. Denk hierbij aan het risico op verspreiding van desinformatie, maar ook op privacy-overtredingen en discriminatie.

Het gesprek bood inzicht in de voorbereidingen van de AP op haar toekomstige rol onder de AI Act (Europese regelgeving rondom AI). de AP gaf aan focus te leggen op toezichtsinstrumenten, FRIA verplichtingen en de versterking van monitoring en signalering.

Open State heeft in het gesprek de nadruk gelegd op het nut en de noodzaak van transparantie van toezicht en open meldingen. Zo zijn bij systemische risico’s die algoritmes en AI meldingen van individuen waardevolle informatie voor iedereen, het is namelijk erg lastig om als individu te ontdekken of herkennen dat een fout in jouw geval systemisch kan zijn. Open toezicht helpt bij het bouwen van vertrouwen over het toezicht, als het brede publiek niet kan weten wat er gedaan wordt (en publieke controle kan uitoefenen) dan groeit het wantrouwen.