El impacto de la Inteligencia Artificial en prisiones

La emergencia tecnológica debe ser coherente y pareja con un modelo de rendición de cuentas que respete los derechos fundamentales y potencie la individualización científica del tratamiento penitenciario.

Mariam Bataller

El desarrollo de la Inteligencia Artificial en prisiones, así como en todos los ámbitos, no deja de ser creciente, y lo está demostrando la administración pública en el sector penitenciario. Recientemente el Departamento de Justicia de la Generalitat ha anunciado que pondrá en marcha la Inteligencia Artificial en prisiones mediante un nuevo sistema de seguridad basado en IA de cámaras de reconocimiento facial, control de movimientos de interno y tramitación de datos para predecir y prevenir incidentes de seguridad interior.

Se pretende desarrollar una solución tecnológica basada en Inteligencia Artificial en prisiones, en concreto en el centro penitenciario Mas d’Enric como centro piloto de implantación, dentro de la Estrategia para la especialización inteligente de Cataluña (RIS3CAT). El Departamento de Economía y Hacienda ha impulsado el programa de innovación de la RIS3CAT 2030 con la colaboración de los departamentos de Acción Climática, Alimentación y Agenda Rural; Educación; Empresa y Trabajo; Interior; Justicia, Investigación y Universidades, con la ayuda financiera de los fondos FEDER de la Unión Europea.

Los centros penitenciarios disponen de controles de movimientos interiores de los reclusos sin el apoyo de elementos tecnológicos. Las personas internas presentan distintos riesgos de seguridad interior previamente identificados (evasión, largas condenas, violencia intrainstitucional, grupos organizados, tráfico de objetos prohibidos, incompatibilidades, etc.) y cuando se mueven por diferentes áreas del centro pueden suponer un riesgo. Por ejemplo, pueden darse situaciones en las que diferentes personas internas con incompatibilidades graves entre ellas coincidan en un mismo espacio y esto desencadene un incidente de seguridad. Actualmente, la detección de esta coincidencia depende del conocimiento de esta circunstancia por parte del personal funcionario de control.

La búsqueda de información y de indicios de riesgo se hace de forma manual y no es posible gestionar la gran cantidad de información existente en las bases de datos de los sistemas informáticos del Departamento de Justicia, por lo que no es posible relacionar estos indicios y perfiles de riesgo con la ubicación física de las personas internas.

El objetivo principal de este proyecto es disponer de una solución que facilite el análisis de datos e información existente, mediante inteligencia artificial, para detectar patrones conductuales que permitan elaborar un mapa de riesgos para la seguridad interior, relacionando situaciones ambientales y coincidencia de perfiles de riesgos. Disponer de una herramienta de este tipo en el control de accesos de las diferentes áreas de los centros penitenciarios, permitirá proveer de información al sistema de seguridad interior orientado a la prevención de incidentes regimentales. Los objetivos del proyecto son los siguientes: Facilitar la movilidad controlada de las personas internas de los centros penitenciarios que accedan a áreas sociosanitarias, educativas o de servicios. Incorporar un control de accesos automatizado basado en reconocimiento facial y alertas de perfiles de riesgos, sin barreras y tarjetas de identificación. De hecho este sistema ya se ha implantado en el nuevo Centro Abierto de Tarragona, un nuevo modelo basado en la autorresponbalidad del interno con un seguimiento tecnológico de la movilidad interior. Y en tercer lugar, identificar y gestionar datos que permitan la prevención de incidentes en el marco del programa de seguridad interior, mediante la búsqueda y el análisis de la información para la predicción de incidentes.

Se culmina un ciclo de tecnificación de la vigilancia y el control en el sistema penitenciario que se inició con la vigilancia electrónica y la instalación de cientos de cámaras en los centros penitenciarios, y los sistemas de seguimiento electrónico como el predictor de riesgos Riscanvi y los de control telemático como las pulseras electrónicas.

Nos preocupa que en la deriva tecnológica provinente de la Inteligencia Artificial en prisiones se pierda la finalidad reeducadora y reinsertadora de la pena. La atención e intervención individualizada y la orientación humanista en prisiones no pueden ser nunca ser relegadas y sacrificadas por la opción tecnológica, ambas deben encontrar el punto de equilibrio necesario, y la IA debe estar al servicio de la finalidad que marca el art 25.2 de nuestra Constitución.

La Inteligencia Artificial en prisiones en concreto, va a desencadenar nuevos procesos y nuevas formas de entender la seguridad, la prevención y sus métodos de ejecución, quizá con una rectitud moral mucho más rígida y estable que la humana, aunque resulte difícil imaginar que los algoritmos decidan por sí solos o estén provistos de empatía. Es obvio que las maquinas no sustituirán al hombre, pero nos hallamos en un momento decisivo de la historia en que la programación y el empleo de datos pondrán las condiciones de un nuevo sistema en el que incluso nos tendremos que plantear cambios legislativos. Las nuevas tecnologías han de acercarse a los derechos constitucionales de forma común y con capacidad para resolver problemas ya que estas afectan a todas las esferas de la vida, también a la seguridad y orden constitucional. Y por tanto, identificar los Derechos Fundamentales afectados es prioritario, en este caso la intimidad, la dignidad, la integridad, la igualdad, la privacidad y la propia imagen son dimensiones de especial protección también en prisión, y con mayor relevancia ya que la Administración adquiere la posición de garante.

La Carta Ética europea sobre el uso y desarrollo de la Inteligencia Artificial en prisiones y en el sistema judicial destaca el Principio de respeto de los derechos fundamentales, con el enfoque de derechos desde el diseño; el Principio de no discriminación; el Principio de calidad y seguridad, teniendo muy en cuenta el conocimiento y experiencia de profesionales; el Principio de transparencia, imparcialidad y equidad; el Principio bajo el “control del usuario”, los profesionales no tienen que estar vinculados necesariamente al resultado de los datos. Esta serie de principios aplicados al sistema judicial, son en realidad principios extrapolables a todos los ámbitos de aplicación de la IA siendo necesariamente los mismos en caso de aplicación al penitenciario.

En este nuevo Contrato Social deberá de plantearse el rendimiento de cuentas, dado que más ciencia no significa automáticamente que sea buena para la sociedad si esta se entiende fuera de los tejidos sociales. Los beneficios y ventajas de la ciencia no deben ser solo válidos, sino que han de ser responsables y buenos para la sociedad o contexto de aplicación.

El Consejo de Europa ha comenzado recientemente a trabajar en una “recomendación ética” relacionada con el uso de IA en prisiones, libertad condicional y empresas privadas que operan en ese campo. Las políticas de la expansión del monitoreo electrónico, enmarcado como un ejemplo de política tecnopopulista en la que las innovaciones disruptivas, rentables y dirigidas por expertos se combinan con una narrativa crudamente punitiva sobre lo que se debe lograr con ellos. A esto le sigue un argumento más abstracto y supuestamente internacional sobre la medida en que todas las tareas centrales de la seguridad penitenciaria podrían realmente automatizarse utilizando tecnologías disponibles y emergentes si las formas de gobierno basadas en datos y administradas por IA se generalizan, como podría suceder, lo cual es cierto sacrificando los Derecho Fundamentales que hemos mencionado.
La ideología de la cuarta revolución industrial y las prácticas cotidianas del capitalismo de vigilancia están impulsando estos desarrollos tecnológicos y las finalidades del cumplimiento de las penas no necesariamente deben comprometerse con sus implicaciones. No es que de la IA pueda surgir nada beneficioso para las prisiones, sino una cuestión sobre las condiciones en las que podría hacerlo, quién las decide y cómo se aplican.

Como conclusiones, la IA forma parte de un progreso que mejora en costes con importantes beneficios sociales, produciendo cambios en la forma de trabajar y provocando grandes retos. Por ejemplo, un cambio de relación con las personas, reforzando la individualización científica del sistema tratamental de las prisiones mediante la aplicación de estas herramientas. Conseguir una profesión de cambio desaprendiendo lo aprendido, especialmente dentro del sistema penitenciario sobre el que hemos observado grandes reminiscencias del pasado. Y por último, obtener ventajas en costes y beneficios, especialmente humanos, potenciando la confianza en los nuevos sistemas, la empatía y el buen trato de los datos para el respeto de los Derechos Fundamentales.