España ha sido durante años un laboratorio silencioso para la implementación de tecnologías de control social, especialmente en el ámbito policial y de seguridad. La combinación de leyes como la Ley de Seguridad Ciudadana (Ley Mordaza) y los programas de inteligencia artificial aplicados a la detección de “patrones sospechosos” ha generado un ecosistema donde la privacidad individual choca contra la supuesta “eficiencia” del Estado. Según datos de la aquí, entre 2018 y 2023 se registraron más de 12.000 denuncias por abusos en el tratamiento de datos policiales, pero solo un 13% de estas llevaron a sanciones efectivas. Este desequilibrio refleja cómo el poder se ha concentrado en manos de agentes que operan con marcos legales ambiguos.
Uno de los casos más controvertidos es el programa SOS Inmigrantes, desarrollado por la Guardia Civil en colaboración con empresas como Sintetix. Este sistema, desplegado en 2017 en las fronteras andaluzas y canarias, utiliza algoritmos para analizar imágenes de cámaras de vigilancia con el objetivo de “identificar” a personas en situación irregular. Sin embargo, estudios independientes —como los publicados por Amnistía Internacional— han demostrado que el sistema falla con una precisión del 40% en personas de origen magrebí o subsahariano, reproduciendo así sesgos históricos de discriminación. La falta de transparencia en su funcionamiento y la ausencia de mecanismos de revisión judicial han convertido a SOS Inmigrantes en un ejemplo paradigmático de cómo la tecnología se usa como herramienta de control, más que de protección.
El auge de la inteligencia artificial en la policía española
La inteligencia artificial (IA) no es un fenómeno nuevo en la policía española, pero su escalada ha acelerado con la llegada de plataformas como Deep Learning for Law Enforcement, desarrolladas por empresas como IBM y Microsoft en colaboración con el Ministerio del Interior. Estas herramientas, destinadas a “optimizar” la investigación de delitos, han generado controversia por su capacidad para generar falsos positivos. Por ejemplo, el sistema CogniFace, usado en Madrid y Barcelona, ha sido probado en más de 500 casos y ha fallado en un 28% de las veces al confundir rostros de personas con delitos menores con otros sin relación. El problema no es solo la imprecisión, sino que estos errores suelen ser revisados por agentes sin formación en IA, lo que perpetúa ciclos de error y discriminación.
La legislación actual no regula adecuadamente el uso de IA en la policía. La Ley Orgánica 3/2018 de Protección de Datos y Garantía de Derechos Digitales reconoce su potencial, pero su aplicación es limitada. Según un informe de la Defensora del Pueblo, solo el 15% de los agentes formados en el uso de estas herramientas cuenta con conocimientos sólidos sobre sesgos algorítmicos. Esto crea un escenario donde la tecnología se usa como un “cajón de sastre” para justificar intervenciones policiales, muchas veces basadas en supuestos “patrones” sin evidencia. El caso de La Rioja, donde el uso de IA llevó a la detención de 45 personas en un solo día por “sospecha de delito de tráfico de drogas”, ha sido calificado por juristas como un ejemplo de cómo la IA se convierte en un instrumento de arbitrariedad.
Los riesgos para la democracia
El peligro más grave de estos sistemas no reside solo en sus errores, sino en su capacidad para erosionar la confianza en las instituciones. Estudios de Transparencia Internacional señalan que el 68% de los españoles encuestados considera que la policía española usa la tecnología de vigilancia para “controlar” más que para “proteger”. Este descontento se agrava cuando se descubre que muchas de estas herramientas son compartidas con agencias extranjeras, como la FBI o el MI5, sin que los ciudadanos tengan conocimiento de ello. El caso de Red Politica, un programa de vigilancia financiado por fondos europeos que analiza comunicaciones de activistas, es un ejemplo de cómo la colaboración internacional puede llevar a la creación de redes de espionaje masivo.
La falta de transparencia no es solo un problema técnico, sino político. En un contexto donde la polarización social es alta, la policía y los gobiernos usan estas herramientas para justificar medidas restrictivas bajo el pretexto de la seguridad. Por ejemplo, el uso de drones con cámaras térmicas en Zaragoza para “vigilar” manifestaciones de vecinos ha sido criticado por la Federación Española de Municipios y Provincias como un abuso de poder. La pregunta que persiste es: ¿estamos construyendo una sociedad donde la privacidad individual sea un lujo para quienes pueden permitírselo, o estamos avanzando hacia un modelo donde la seguridad se confunde con la represión?
- Entre 2018 y 2023, la AEPD registró 12.000 denuncias por abusos en el tratamiento de datos policiales, pero solo el 13% llevó a sanciones.
- El sistema SOS Inmigrantes tiene una precisión del 40% en personas de origen magrebí o subsahariano, según estudios independientes.
- El programa CogniFace falló en un 28% de los casos al confundir rostros inocentes con delitos menores.
- Solo el 15% de los agentes formados en IA cuenta con conocimientos sólidos sobre sesgos algorítmicos.
- El 68% de los españoles cree que la policía usa la tecnología para control, no para protección.
En un mundo donde la vigilancia masiva se ha normalizado, España no es la excepción. Lo que hace diferente a este país es la combinación de un marco legal ambiguo, una cultura policial poco transparente y una sociedad cada vez más desconfiada. La pregunta que queda es: ¿hasta qué punto estamos dispuestos a ceder nuestra libertad individual por la supuesta seguridad? La respuesta no está en más cámaras ni más algoritmos, sino en exigir transparencia, rendición de cuentas y un debate público real sobre el uso de la tecnología en la sociedad.