Inderdaad Timmermans, Facebook-algoritmen zijn gevaarlijk, maar de bijstands-algoritmen van de staat ook
Sociaal-democratisch Eurocommissaris Frans Timmermans weer eens in de bocht. “Algoritmes van websites als Google en Facebook zijn een gevaar voor onze democratie. Mensen worden hierdoor alleen maar geconfronteerd met opvattingen die hun eigen gelijk nog eens benadrukken”, aldus Timmermans, die donderdagavond in Maastricht in discussie ging met burgers. Dat noem ik nog eens een gotspe. De staat en de EU gebruiken die algoritmes zelf ook. Om maar eens een voorbeeld te noemen: mensen die in Amsterdam een bijstandsuitkering aanvragen, worden ingedeeld in categorieën op basis van op fraudestatistieken gebaseerde algoritmes: grote kans op fraude of kleine kans op fraude. Het postcodegebied waar je woont, speelt onder andere een rol. Mensen die in de categorie “kleine kans op fraude” vallen, hebben binnen een week een uitkering, want ze komen op een ‘groen spoor’. Mensen die in de andere categorie vallen, moeten een maand wachten op een uitkering, want ze vallen in een ‘rood spoor’. Eerst moet onderzocht worden of ze geen fraude plegen. Zo worden mensen op grond van statistieken ingedeeld in verdachten en niet-verdachten. Dus in Amsterdam-Zuid krijg je snel een uitkering, in het Overtoomse Veld niet (zie formulier hieronder). Cathy O’Neil heeft een boek over die algoritmes geschreven, “Weapons of Math Destruction“, en ze concludeert: algoritmes bevestigen vooroordelen en discriminatie. Dus meneer Timmermans, ik wil Google en Facebook niet vrij pleiten, maar kijk eens naar jezelf. Ook een gevaar voor de democratie?
Piet van der Lende over “Algoritmes Google en Facebook bedreigen democratie” (Telegraaf)
Naschrift van Piet van de Lende:
Nog even over datastructuren en algoritmen. Het wordt in vele bereiken toegepast. Ook bijvoorbeeld in Amsterdam bij de opsporing van woonfraude in het kader van het project Zoeklicht. Zoeklicht is een samenwerking van de gemeente Amsterdam, Makelaarsvereniging Amsterdam, Vastgoed Belang en de Amsterdamse woningcorporaties. Zij doen onderzoek, controleren verdachte adressen en pakken woonfraude aan. Daarbij wordt een selectie gemaakt van woonblokken die prioriteit hebben. De data die daarvoor gebruikt worden worden voortdurend aangepast op basis van de meldingen die de mensen doen. In een verder verleden heeft de Bijstandsbond actie gevoerd tegen Zoeklicht samen met het toenmalige Autonoom Centrum. De toepassing van bovenstaande technieken bij de sociale dienst, daarvoor is indertijd onderzoek verricht door wetenschappers van de Vrije Universiteit. Hun onderzoek was geheim. Dat zowel de toegepaste technieken, de gehanteerde variabelen als het onderliggende onderzoek geheim waren werd gemotiveerd met het argument, dat fraudeurs niet mogen weten wat de variabelen zijn, want dan kunnen ze bij zichzelf kijken of het bij hun van toepassing is en kunnen ze erop anticiperen.
ik lees dat als; “fraudeurs mogen niet hun leven kunnen beteren, maar moeten fraudeurs blijven zodat we iets te arresteren kunnen blijven hebben” die intentie klinkt erin door.
a propos; dit word in engeland de standaard, en kan je binnenkort ook hier wel verwachten http://www.independent.co.uk/life-style/gadgets-and-tech/news/investigatory-powers-bill-act-snoopers-charter-browsing-history-what-does-it-mean-a7436251.html
maar ga er alvast maar rustig vanuit dat dit stiekum allang gedaan word. leuk he, de sd die ook je surfgedrag nog even in hun algoritmen verwerkt.
Daar zal de SD toch wel een heel goede redenen voor moeten hebben om de gegevens van je surfgedrag te mogen inzien en ik vraag me af of het stand gaat houden bij een rechter. Maar het bovengenoemde voorbeeld laat wel zien hoe wantrouwend de overheid geworden is tegen over de burgers. Eigenlijk zegt de overheid, iedere burger is een fraudeur of crimineel en moet daarom onder curatele.