Desde 2009 en Catalunya se utiliza un algoritmo que ayuda en la toma de decisión sobre la puesta en libertad de los presos. Sin embargo, con la normativa de datos y el nuevo Reglamento Europeo de Inteligencia Artificial en la mano, es posible que esta herramienta, RisCanvi, deba revisarse.
RisCanvi o el Protocolo de valoración del riesgo es una herramienta utilizada desde 2009 por los centros penitenciarios en Catalunya para ayudar en la toma de decisiones en la planificación de la intervención, la clasificación y la concesión de los permisos a los presos.
Este algoritmo nació de la voluntad del Departamento de Justicia, Derecho y Memoria de la Generalitat de Catalunya de dar respuesta a la preocupación social en relación con la reincidencia delictiva violenta, así como mejorar la tecnificación y calificación de los profesionales de la ejecución penal en Catalunya.
Qué es RisCanvi y cómo funciona
RisCanvi es un sistema predictivo que calcula la probabilidad de que algo ocurra de nuevo; no es un sistema de aprendizaje automático. Para llevar a cabo su predicción, esta herramienta se basa en una lista de factores considerados de riesgo: tipo de crimen, personalidad del preso, comportamiento tanto dentro como fuera de prisión, etc.
La herramienta no solo tiene en cuenta las necesidades que llevan a un delincuente a reincidir, sino que valora otros factores relacionados con su conducta actual, su personalidad y su contexto personal. Es decir, se valoran tanto datos históricos como variables subjetivas, basadas en estudios científicos.
Son los psicólogos, educadores sociales, criminólogos y otros especialistas los que, a través de entrevistas a los presos cada 6 meses, nutren el sistema informático RisCanvi mediante valores que asignan a cada variable analizada, según su discreción como profesionales.
Del sistema se extrae un resultado, que en ocasiones puede sugerir lo contrario a lo recomendado por los psicólogos o educadores sociales. Sin embargo, el juez y el fiscal, para la toma final de su decisión, únicamente reciben la puntuación final, lo que les impide valorar de forma individualizada a cada uno de los presos, y sus circunstancias.
Afectación en protección de datos personales: elaboración de un perfil y decisiones automatizadas
RisCanvi podría comportar la realización de un perfilado del preso, entendido por el artículo 4.4 del Reglamento (UE) 2016/679, del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (en adelante, “RGPD”) y el artículo 5.d de la Ley Orgánica 7/2021, de 26 de mayo, de protección de datos personales tratados para fines de prevención, detección, investigación y enjuiciamiento de infracciones penales y de ejecución de sanciones penales (en adelante “LO 7/2021”) como “toda forma de tratamiento automatizado de datos personales consistente en utilizar datos personales para evaluar determinados aspectos personales de una persona física, en particular para analizar o predecir aspectos relativos al rendimiento profesional, situación económica, salud, preferencias personales, intereses, fiabilidad, comportamiento, ubicación o movimientos de dicha persona física”.
Asimismo, el artículo 22 del RGPD establece que “todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar”. En este mismo sentido, el artículo 14 de la LO 7/2021 prohíbe directamente aquellas “decisiones basadas únicamente en un tratamiento automatizado, incluida la elaboración de perfiles, que produzcan efectos jurídicos negativos para el interesado o que le afecten significativamente”. Sin embargo, en este último caso, la Ley añade “salvo que se autorice expresamente por una norma con rango de ley o por el Derecho de la Unión Europea”, por lo que deberemos atenernos a la existencia de una norma que ampare este tratamiento.
Si bien RisCanvi no encajaría en una decisión 100% automatizada, habida cuenta de que toda resolución judicial debe estar debidamente argumentada, el resultado que arroja la herramienta, sobre la base de las circunstancias psico-sociales y acciones del preso, es un elemento clave y decisivo para que el juez dicte cualquier medida sobre la libertad del preso.
Asimismo, este algoritmo tiene una gran relevancia en los derechos y libertades de los presos, lo que podría comportar establecer dificultades en el proceso de rehabilitación social, la reinserción y la reeducación de los presos, objetivo principal de cualquier condena.
No debemos olvidar el Reglamento Europea de Inteligencia Artificial recientemente aprobado. Este establece que los modelos predictivos que se utilicen en el ámbito judicial y penitenciario, como lo es RisCanvi, son considerados de “riesgo alto” para la sociedad, y deben cumplir una serie de requisitos relacionados con la transparencia y calidad de los datos. Por lo tanto, para cumplir con la nueva regulación, los responsables de aplicar este tipo de tipología a Generalitat de Catalunya deberán actuar de forma diligente para dejar de lado la opacidad con la que ha trabajado hasta el momento con esta herramienta, y cumplir con los requerimientos establecidos tanto por la normativa de protección de datos aplicable, así como en su caso, la normativa en Inteligencia Artificial.
Agradecemos a la abogada Marta Lucas, del área de Tech & Data, por la realización de este artículo.