20. Digitale rechten enĀ technologie

šŸŽ§ Luister naar dit hoofdstuk ingesproken door Kelly Mostert

BIJ1 strijdt voor online en offline privacy, net als voor de vrijheid om je door de publieke ruimte te bewegen zonder dat elke beweging geregistreerd en opgeslagen wordt. Wij zien het internet als publieke ruimte, die zou moeten worden ingericht om publiek belang te dienen in plaats van commercieel belang. Digitale communicatiemiddelen moeten voor iedereen toegankelijk en veilig zijn, waarbij onze gegevens goed worden beschermd. En bovenal moet de digitalisering van overheidsdiensten op een eerlijke manier gebeuren, waarbij discriminatie en etnisch profileren verbannen wordt. Zo werken we toe naar een Nederland waar digitale technologieƫn bijdragen tot gelijke kansen en sociale inclusiviteit.

Digitale technologie is overal: onze broekzak, ons huis en onze straat. Dat levert gemak en voordelen op, maar ook risicoā€™s. Ons online en offline gedrag wordt gevolgd door bedrijven en overheidsinstanties. Onze gegevens worden opgeslagen, verwerkt en ingezet om voorspellingen te maken over leningen, uitkeringen en criminaliteit. Wie we zijn en wat we doen wordt soms openbaar zichtbaar, omdat overheidsinstanties of bedrijven onze gegevens niet goed genoeg beschermen. Dat is onacceptabel. Daarnaast worden onze gegevens gebruikt voor commerciĆ«le doeleinden, zonder dat we daar toestemming voor geven ā€“ of we worden gedwongen toestemming te geven omdat we anders geen toegang kunnen krijgen tot internetdiensten. Bedrijven als Google en Facebook zijn hierdoor supermachten geworden die beschikken over enorme massaā€™s aan data. Zij zijn bovendien niet of nauwelijks terug te fluiten als zij privacy of mensenrechten schenden. Omdat deze technologieĆ«n zo nieuw zijn, bestaat er nauwelijks wetgeving of beleid voor binnen Europa. Het is hoog tijd dat de macht van technologie-giganten gebroken wordt.

Scholen, ziekenhuizen, de Belastingdienst, het UWV, de politie en andere overheidsinstanties maken allemaal gebruik van digitale technologieĆ«n om onze gegevens op te slaan, te verwerken en te analyseren door middel van algoritmes. Dat kan heel nuttig en belangrijk zijn, maar er zitten ook enorme maatschappelijke risicoā€™s aan het gebruik van algoritmes door overheidsdiensten. Te vaak wordt met algoritmes eerst op de kwetsbaarsten in de samenleving geĆ«xperimenteerd. Waarom wordt er wel grootschalig geĆÆnvesteerd in het opsporen van bijstandsfraude door algoritmes maar niet in het het detecteren van witteboordencriminaliteit bij banken en grote bedrijven? Dat is oneerlijk en werkt etnisch profileren en klassenprofilering in de hand. Ook de technici die nieuwe technologie en algoritmes ontwikkelen zijn zelf niet altijd vrij van vooroordelen en kunnen deze, al dan niet bewust, in hun algoritmes verwerken, waardoor een rekenmodel zelf racistisch of discriminerend kan zijn.

Als de politie voornamelijk (criminaliteits)gegevens over gemarginaliseerde wijken invoert in algoritmes en veel minder uit andere wijken, zullen die algoritmes een vertekend beeld van de werkelijkheid voorspellen, segregatie in de hand werken en gemarginaliseerde wijken nog meer stigmatiseren. Door de manier waarop algoritmes in elkaar zitten zal dit proces steeds worden herhaald. Zo worden discriminatie, vooroordelen en etnisch profileren dieper en dieper in computermodellen verwerkt. Computermodellen waar de overheid blind op vertrouwt in het beoordelen van uitkeringen en toeslagen, of het voorspellen van criminaliteit.

Discriminatie en etnisch profileren in de digitalisering van overheidsdiensten moeten daarom nu in de kiem gesmoord worden. Nederland heeft hier nu nog niet de middelen voor. De Autoriteit Persoonsgegevens die toeziet op de naleving van de Algemene Verordening Gegevensbescherming heeft niet het mandaat of de middelen om (mogelijke) discriminatie in algoritmes en gegevensverwerking te bestrijden en bestraffen.

Om meer digitale veiligheid en rechtvaardigheid te waarborgen neemt BIJ1 de volgende maatregelen.

  1. Toegang tot het internet is een basisrecht en moet daarom voor iedereen toegankelijk zijn. Er komt gratis internettoegang voor iedereen.
  2. Er wordt ingezet op het verder ontwikkelen van educatieprogrammaā€™s voor alle Nederlandse inwoners om hen meer bewust te maken van hun digitale rechten en privacyrechten.
  3. Toegankelijkheidseisen moeten worden meegenomen in digitaliseringsprocessen, waarbij ervaringen van mensen met een beperking worden meegenomen. Alternatieve kanalen zoals telefoon of loket moeten open blijven voor mensen die moeite hebben met digitale technologieƫn, zoals ouderen, laaggeletterden of mensen met een verstandelijke beperking.
  4. De overheid moet de ontwikkeling van open source en open standaarden in de publieke en private sector faciliteren.
  1. We streven naar wetgeving en beleid op Nederlands en Europees niveau om het internet officieel te definiƫren als nutsvoorziening in plaats van een door bedrijven gedomineerde marktplaats.
  2. Er komt een verbod op de ongevraagde verkoop van persoonlijke informatie.
  3. We zetten ons in op Nederlands en Europees niveau om de macht van technologie-giganten als Facebook en Google aan banden te leggen en de burger hiertegen te beschermen.
  4. Er wordt een verbod ingesteld op gezichtsherkenningssoftware en soortgelijke software die mensen herkent op basis van lichaamshouding of uiterlijke kenmerken.
  5. End-to-end encryptie blijft gewaarborgd. Dit is het digitale briefgeheim: beveiligde communicatie tussen twee personen zonder dat een derde partij hier toegang toe heeft. Dit is een onmisbare bescherming van het recht op privacy en veilige communicatie.
  6. Het uitbreiden van cameratoezicht in de openbare ruimte wordt stopgezet.
  1. Er komt actief overheidsbeleid tegen discriminatie en etnisch profileren in de digitalisering van overheidsdiensten ā€“ van het ontwerp van algoritmes tot aan het evalueren van digitaliseringsprocessen. Dit kan alleen als de mensen die deze trajecten begeleiden de verschillende bevolkingsgroepen in Nederland vertegenwoordigen.
  2. Er komt een onafhankelijke toezichthouder die toeziet op de strijd tegen discriminatie, etnisch profileren en het schenden van mensenrechten in dataverzameling over burgers door de overheid. Deze toezichthouder heeft het mandaat om deze data op te vragen, te beoordelen en wettelijk bindend advies te geven aan overheidsinstanties.
  3. We stellen scherp toezicht en een mensenrechtentoets in voor de export van surveillance-software door Nederlandse bedrijven. In geen geval mag Nederlandse surveillance-software bijdragen aan mensenrechtenschendingen in het buitenland.
  4. De Wet op de inlichtingen- en veiligheidsdiensten (Wiv) moet mensenrechten beter gaan waarborgen. De Nederlandse inlichtingen- en veiligheidsdiensten moeten stoppen met het uitwisselen van niet-geƫvalueerde bulkdata met alle buitenlandse inlichtingsdiensten.
  5. Een digitaliseringsbeleid waarbij de rechten en behoeften van de burger centraal staan, en niet de digitalisering op zich.
Uitklappen
aan het laden

ā† Terug naar de inhoudsopgave

ā†’ Woordenlijst

BIJ1-kleurenbalk