Vanaf maandag 29 juni heeft Nederland nieuwe regels voor risicoprofilering, opgesteld door overheidsorganisaties en het College voor de Rechten van de Mens. De NTA (Nederlandse Technische Afspraak) zegt als doel te hebben discriminatie door profileringsalgoritmen te voorkomen. Maar wij willen ervoor waarschuwen dat deze NTA te veel ruimte biedt voor discriminatie en dat risicodenken prevaleert boven mensenrechten.
De inzet van profileringsalgoritmen is geen technische keuze, maar een politieke afweging. De vraag is waarom de overheid en het College voor de Rechten van de Mens eraan blijven vasthouden, nu we weten dat ze inherent discriminerend zijn.
Als betrokken partijen dachten wij (Amnesty International, Controle Alt Delete en Bits of Freedom) mee over hoe de NTA eruit zou moeten zien. Daarbij zagen wij hoe groot de druk is om technologie koste wat kost in te zetten. Ook wanneer de juridische ruimte daarvoor beperkt is, wordt gezocht naar manieren om die inzet te rechtvaardigen.
We schreven een opiniestuk dat gepubliceerd is in de Volkskrant
Wie maatschappelijke verbetering wil, bereikt dit niet door steeds hetzelfde te blijven doen.