Uitspraak
RECHTBANK DEN HAAG
1.NEDERLANDS JURISTEN COMITÉ VOOR DE MENSENRECHTEN
STICHTING PLATFORM BESCHERMING BURGERRECHTENte Amsterdam,
STICHTING PRIVACY FIRSTte Amsterdam,
STICHTING KOEPEL VAN DBC-VRIJE PRAKTIJKENte Amsterdam,
LANDELIJKE CLIËNTENRAADte Den Haag,
[eisende partij sub 6]te [plaats 1] ,
[eisende partij sub 7]te [plaats 2] ,
1.Het procesverloop
1.1-1.3
2.NJCM c.s. en FNV
2.1-2.5
3.De feiten
3.1-3.10
4.De SyRI-wetgeving
5.Het geschil
5.1-5.4
6.De beoordeling
7.De beslissing
1.Het procesverloop
- de dagvaarding van 27 maart 2018 met producties,
- de conclusie van antwoord met producties,
- het vonnis in het incident tot voeging van 26 september 2018 met de daarin genoemde stukken,
- de akte uitlating aan de zijde van FNV van 14 november 2018,
- de antwoordakte aan de zijde van de Staat van 14 november 2018,
- het vonnis van 2 januari 2019, waarbij een comparitie van partijen is bevolen,
- het buiten aanwezigheid van partijen opgemaakte proces-verbaal van comparitie van
2.NJCM c.s. en FNV
3.De feiten
4.De SyRI-wetgeving
Toezicht
5.Het geschil
6.De beoordeling
Inleidend
chilling effect’ optreedt. Zonder vertrouwen in voldoende privacybescherming zullen burgers minder snel gegevens willen verstrekken of zal daarvoor minder draagvlak bestaan.
the very essence of the Convention’. [13] Samen met de notie van persoonlijke autonomie spelen zij een belangrijke rol bij het bepalen van de reikwijdte van het recht op respect voor privéleven.
deep learning’ en datamining. Volgens NJCM c.s. is sprake van grootschalige, ongestructureerde en ongerichte geautomatiseerde koppeling van bestanden van grote groepen burgers, de geheime verwerking van persoonsgegevens en werkt SyRI proactief. NJCM c.s. stelt verder dat de inzet van SyRI valt onder wat in de (rechts)literatuur en praktijk ‘
big data’wordt genoemd.
Profileren als voorbeeldDe mogelijke gevaren bij het gebruik van grote verzamelingen data, kunnen goed geïllustreerd worden bij profilering om personen in kaart te brengen met een verhoogd risico. Dit kan er immers toe leiden dat algemene kenmerken worden toegerekend aan het individu.
Deep learning - zelflerende systemenBij het werken met deep learning-technieken loopt de Belastingdienst voorop: die bezit een enorme hoeveelheid data over personen in Nederland en heeft een spilfunctie in veel samenwerkingsverbanden, zoals die van het Systeem Risico Indicatie. Daarnaast gebruiken ook sommige gemeenten algoritmen om mogelijke gevallen van bijstandsfraude te selecteren. Het algoritme kijkt naar allerlei gegevens, zoals geboortedata, gezinssamenstelling, uitkeringsverleden en gegevens van de Belastingdienst, het kadaster en de Dienst wegverkeer. (…)
ad random’) gegevensverzameling met de inzet van SyRI. Het aantal categorieën gegevens dat kan worden gebruikt is ruim, maar nog steeds limitatief opgesomd. Daar staat tegenover dat het aantal gegevens dat in voorkomend geval kan worden gebruikt bij de toepassing van SyRI zeer groot is. In totaal komen zeventien categorieën gegevens van uiteenlopende aard in aanmerking. Iedere categorie kan op zichzelf beschouwd ook een grote hoeveelheid gegevens omvatten. Afhankelijk van het specifieke SyRI-project kan daarom sprake zijn van grote hoeveelheden gestructureerde gegevensverzamelingen die afkomstig zijn uit verschillende bronnen.
deep learning’en datamining. De definitie van risicomodel in het Besluit SUWI staat daaraan niet in de weg. De SyRI-wetgeving voorziet bovendien nadrukkelijk in de mogelijkheid van aanpassing van een risicomodel op basis van een evaluatie en daarnaast kunnen nieuwe risicomodellen met nieuwe indicatoren worden ontwikkeld (zie ook hiervoor 4.24). De rechtbank is dan ook (met de Afdeling advisering, zie hiervoor in 6.46 weergegeven) van oordeel dat de inzet van SyRI “past” bij ‘
deep learning’en zelflerende systemen. In zoverre volgt de rechtbank NJCM c.s. Een en ander laat onverlet dat de rechtbank gelet op de mededelingen van de bewindslieden aan de Tweede Kamer bij wijze van feitelijke veronderstelling aanneemt dat bij
de uitvoeringvan de SyRI-wetgeving op dit moment bij de inzet van SyRI geen gebruik wordt gemaakt van ‘
deep learning’ en datamining zoals NJCM c.s. betoogt.
‘big data’in de door de Afdeling advisering bedoelde zin. Er bestaat echter geen vastomlijnde definitie van die term. Of de verwerking van gegevens in SyRI als een vorm van
‘big data’moet worden gekwalificeerd, acht de rechtbank voor haar verdere beoordeling niet van belang.
de ontwikkelingvan risicoprofielen enerzijds en
het gebruikdaarvan anderzijds. De rechtbank gaat er veronderstellenderwijs vanuit dat bij de uitvoering van de SyRI-wetgeving op dit moment in SyRI geen risicoprofielen op basis van bestandskoppelingen worden ontwikkeld. Dit zoals de Staat heeft aangevoerd in reactie op de verwijzingen van NJCM c.s. naar het eerdergenoemde project Waterproof en het ‘black box’-project. Of daadwerkelijk geen risicoprofielen worden ontwikkeld met behulp van bestandskoppeling, kan de rechtbank niet vaststellen (vergelijk hiervoor in 6.49). Wel acht de rechtbank inherent aan het instrument SyRI, gegeven de doelen waarvoor gegevens in SyRI worden verwerkt en gezien de definities van de begrippen risicomodel en risico-indicator, dat bij de inzet van SyRI gebruik wordt gemaakt van risicoprofielen op basis van bestaande feitelijke gegevens.
deep learning’en datamining of dat risicoprofielen worden ontwikkeld. De SyRI-wetgeving biedt echter wel de ruimte voor de ontwikkeling en toepassing van een risicomodel waarbij sprake is van ‘
deep learning’, datamining en waarbij risicoprofielen worden ontwikkeld.
big data’, zoals NJCM c.s. stelt en de Staat betwist, acht de rechtbank voor haar beoordeling verder niet van belang. De term kent geen vastomlijnde definitie. In ieder geval komt een zeer grote hoeveelheid gegevens voor verwerking in SyRI in aanmerking.
S. en Marper tegen het Verenigd Koninkrijkging over de rechtmatigheid van de Britse Data Protection Act (1998), waarmee uitvoering werd gegeven aan richtlijn 95/45 en daarop gebaseerde richtlijnen voor het gebruik van de Police National Computer in verband met het opslaan van vingerafdrukken, celmateriaal en DNA-profielen. Hoewel de feitelijke context van ook deze zaak niet vergelijkbaar is met de onderhavige, bevat het arrest overwegingen van het EHRM van meer algemene aard over gegevensbescherming. Dat maakt dit arrest van belang voor de beoordeling van de (on)rechtmatigheid van de SyRI-wetgeving.
inter alia, duration, storage, usage, access of third parties, procedures for preserving the integrity and confidentiality of data and procedures for its destruction, thus providing sufficient guarantees against the risk of abuse and arbitrariness.” [25]
margin of appreciation’) laat om te bepalen of een maatregel noodzakelijk is in een democratische samenleving in het belang van een van de doeleinden van artikel 8 lid 2 EVRM zijn opgesomd. Wat betreft de reikwijdte van die beoordelingsmarge houdt de rechtbank het hier op ‘een zekere’ beoordelingsmarge. Deze beoordelingsmarge noopt (eveneens, zie hiervoor in 6.43) tot terughoudendheid van de rechtbank bij haar beoordeling of de SyRI-wetgeving in strijd is met artikel 8 lid 2 EVRM is, zoals de Staat terecht aanvoert.
pressing social need’, oftewel of de inmenging voldoet aan een dwingende maatschappelijke behoefte. NJCM c.s. stelt dat dit niet het geval is, waartoe zij van belang acht dat sprake is van een zeer ernstige inmenging in het privéleven van burgers. De Staat heeft daarnaast volgens NJCM c.s. niet aangetoond dat het noodzakelijk is om een zodanig zwaar instrument als SyRI in te zetten voor het in stand houden van het socialezekerheidsstelsel. Zij wijst erop dat de bredere maatschappelijke opvattingen over SyRI negatief, althans op zijn minst terughoudend zijn en dat de SyRI-projecten niets opleveren dus geen effectief middel zijn om fraude te bestrijden.
pressing social need’voor de SyRI-wetgeving en reeds daarom sprake is van onverbindende wetgeving. Uit de rechtspraak van het EHRM blijkt ook niet dat de daadwerkelijke effectiviteit van het instrument SyRI in het belang van het economisch welzijn van Nederland naar de maatstaven van artikel 8 lid 2 EVRM vooraf moet vast te staan om te voldoen aan de eis van een ‘
pressing social need’, anders dan NJCM c.s. suggereert. Van een ongeschikt of een a priori onevenredig instrument in het licht van de doelen die ermee worden gediend, is geen sprake.
fair balance’ tussen de doelen van de SyRI-wetgeving en de inbreuk op het privéleven die de wetgeving oplevert.
‘fair balance’die vereist is voor de conclusie dat sprake is van een gerechtvaardigde inmenging in de zin van artikel 8 lid 2 EVRM. Zij wijst op het volgende.
S. en Marper tegen het Verenigd
“The Court considers that any State claiming a pioneer role in the development of new technologies bears special responsibility for striking the right balance in this regard”. [29] De Nederlandse wetgever pretendeert in dezen geen pionier te zijn wat betreft de inzet van het instrument SyRI, terwijl in die zaak bovendien sprake was van de opslag van DNA-profielen voor onbeperkte duur. Zowel de indringendheid van de inmenging in het privéleven en als de waarborgen ter bescherming van privacy in de in die zaak getoetste Britse wetgeving verschillen van die in deze zaak. Niettemin is de rechtbank van oordeel dat ook op de Staat in dezen een bijzondere verantwoordelijkheid rust zoals het EHRM tot uitdrukking brengt.
deep learning/zelflerende systemen ontegenzeggelijk nut heeft, maar ook ongewenste resultaten kan hebben, waaronder onterechte uitsluiting of discriminatie. De minister van Rechtsbescherming onderkent in zijn brief van 8 oktober 2019 aan de Tweede Kamer over Informatie- en communicatietechnologie (ICT) [31] dat men vanwege het risico op discriminerende effecten in ieder geval bij data-analyses gebaseerd op profilering bijvoorbeeld ten onrechte een bepaalde eigenschap toegekend krijgen (
false positive) of andersom ten onrechte een eigenschap niet toegekend krijgen (
false negative).
false positivesen
false negatives, acht de rechtbank daarvoor onvoldoende. De wijze van totstandkoming van de definitieve risicoselectie is immers niet openbaar. Evenmin worden betrokkenen geïnformeerd over de wijze van totstandkoming van de definitieve risicoselectie en de daaraan verbonden conclusie of al dan niet een risicomelding wordt gedaan, terwijl de SyRI-wetgeving uitsluitend voorziet in algemeen toezicht achteraf van de AP.
Privacy Impact Assessment, PIA) heeft plaatsgevonden en dat van een gegevensbeschermingseffectbeoordeling per SyRI-project om die reden niet plaatsvindt en ook niet hoeft plaats te vinden.
- dagvaarding € 98,01
- griffierecht € 1.252,00
- salaris advocaat