Sucedió en los Países Bajos, donde un tribunal holandés decidió suspender la aplicación de SyRI (acrónimo de System Risk Indication), un sistema de análisis para rastrear posibles fraudes al Estado utilizado por el Gobierno.
En octubre, el australiano Philip Alston, relator especial de la ONU sobre pobreza y derechos humanos, remitió un informe al tribunal criticando que SyRI “señala a los ciudadanos con menos renta y a grupos de población de origen inmigrante”.
Desde el 2014 el Ministerio de Asuntos Sociales y Empleo holandés estudia con esa aplicación datos sobre ingresos, pensiones, seguros, tipo de casa, impuestos, multas, integración, educación, deudas o subsidio de desempleo de los contribuyentes para calcular luego a base de algoritmos quién tiene más probabilidades de defraudar a la administración.
“No respeta la privacidad del ciudadano y vulnera el artículo 8 de la Convención Europea de Derechos Humanos”, determinaron los jueces sobre la aplicación en lo relativo al derecho a la vida privada.
Esta sentencia sobre SyRI, inédita en Europa contra el uso por un gobierno de algoritmos predictivos, sienta un precedente legal que puede tener repercusiones en el exterior y supone una gran victoria para los demandantes, una coalición de ocho grupos civiles locales, entre ellos organizaciones de abogados, activistas de derechos humanos y el sindicato mayoritario FNV.
SyRI se ha usado hasta la fecha en las ciudades de Róterdam, Eindhoven, Haarlem y Capelle aan den Ijssel.