D66 wil dat er regelgeving komt voor het gebruik van vergaande algoritmes en gezichtsherkenning door de overheid. Zolang die regelgeving er niet is, wil de partij dat gebruik van de technologie verboden wordt. Het gaat Kamerlid Kees Verhoeven onder andere om het omstreden programma SyRI.
De overheid gebruikt steeds meer slimme technologie om fraudeurs en andere criminelen te kunnen opsporen. Volgens Kees Verhoeven van D66 gaat dat ook ten koste van mensen die niet crimineel zijn, maar die toevallig in de ‘verkeerde buurt’ wonen. Drie weken geleden diende hier nog een rechtszaak over, omdat mensen vanwege hun postcode ten onrechte werden verdacht van bijstandsfraude. Pas in januari doet de rechter uitspraak. Dit is niet de enige kwestie, aldus Verhoeven. Afgelopen zomer kwam nog naar buiten dat veel overheden op eigen houtje voorspellende algoritmes blijken te gebruiken om fraude en criminaliteit op te sporen, in te schatten wat de kans is dat een leerling voortijdig zijn school verlaat of om te voorspellen wat voor zorg iemand nodig heeft. D66, maar ook CDA pleiten voor een algoritme-waakhond om de rechten van onschuldige mensen te beschermen.
Gezichtsherkenning
Verhoeven
vreest ook voor een ongebreidelde groei van gezichtsherkenning. Hij zegt
weliswaar nog geen aanwijzingen te hebben dat bijvoorbeeld de politie
gezichtsherkenning aan beveiligingscamera’s koppelt, zodat verdachten op
straat automatisch worden gesignaleerd. Maar hij vindt dat nu alvast
nagedacht moet worden over de grenzen die we willen stellen. Hij
refereert daarbij naar China, waar de regering gezichtsherkenning zou
gebruiken om onderdrukte minderheden in de gaten te houden en mensen te
bestraffen die herhaaldelijk het rode verkeerslicht negeren. Vandaag
komt Verhoeven in de Tweede Kamer met een aantal voorstellen om het
gebruik van gezichtsherkenning en slimme algoritmen te reguleren met
wetgeving.
Strafrechtsketendatabank
De
politie maakt sinds 2016 gebruik van speciale software om aangehouden
verdachten te zoeken in de Strafrechtsketendatabank (SKDB) waarin de
foto’s zijn opgeslagen van 1,3 miljoen personen die verdacht worden van
een misdrijf waarop minimaal 4 jaar cel staat. Vorig jaar konden op deze
manier 82 verdachten worden geïdentificeerd. In 2017 ging het nog om 93
personen, zo laat nu.nl weten. Sinds de ingebruikname is de software
1938 keer gebruikt, waarvan 175 keer met succes. Er worden ook beelden
ingevoerd van verdachten die met bewakingscamera’s zijn gemaakt. Een
politieambtenaar controleert altijd nog of de verdachte werkelijk degene
is met wie een ‘match’ in de SKDB is aangetroffen. Voor zover bekend
worden nog geen willekeurige passanten met de database vergeleken,
ofschoon dat technisch wel zou kunnen.