con la colaboración cientí­fica de
ISSN 2611-8858

Temas

Inteligencia artificial

Inteligencia artificial y derechos fundamentales

Publicado el Informe de la Agencia de la Unión Europea (FRA)

Inteligencia artificial, justicia penal, control humano significativo

Los sistemas de inteligencia artificial ya están presentes en nuestra vida cotidiana. Sin embargo, estos no son axiológicamente neutrales, y tienen una ejecución opaca del algoritmo. En el ámbito jurídico, surgen cuestiones relacionadas principalmente con la posibilidad de que una máquina sea autor o víctima de un delito, la previsión de un hecho, y la actividad judicial respecto a los derechos fundamentales. Tras esbozar las especificidades de estos problemas, el trabajo destaca la necesidad de que el uso de las máquinas esté sujeto a un “control humano significativo”, cuyos requisitos se desarrollarán.

Los algoritmos predictivos para la determinación de la pena. A propósito de la experiencia estadounidense del “evidence-based sentencing”

En el actual escenario tecnológico se registra una creciente tendencia a la digitación de la administración de justicia y a la sustitución del trabajo de las personas con programas informáticos. Lo que podría en un principio ser considerado como un factor de simplificación y modernización, plantea innumerables cuestiones problemáticas en el momento en el que se trata de reemplazar las actividades más sensibles, tales como la determinación de la pena que efectúa el juez en el caso concreto. El objetivo del presente trabajo es ofrecer una reconstrucción general del evidence-bsaed sentencing en el proceso penal estadounidense, con particular atención a la evaluación algorítmica de la peligrosidad del imputado. Analizando la cuestión a la luz del derecho italiano, la utilización de estos instrumentos pareciera colisionar con la garantía del debido proceso y otros principios cardinales del ordenamiento procesal. No obstante, el autor sostiene que sería positivo, dentro de ciertos límites, la introducción de técnicas de evaluación del riesgo en el contexto de la determinación de la pena.

Algoritmos predictivos: algunas premisas metodológicas

El recurso a la automatización en los procesos de toma de decisión plantea numerosas ventajas. Sin embargo, la complejidad del procedimiento presenta el riesgo de convertir sus resultados en altamente imprevisibles. Es necesario, por tanto, preguntarse si el advenimiento de las nuevas tecnologías impone un repensamiento de las categorías fundamentales del derecho y del proceso penal.

Algoritmos predictivos y discrecionalidad del juez: un nuevo desafío para la justicia penal

En los Estados Unidos los algoritmos predictivos del riesgo de reincidencia son utilizados en el proceso, tanto en la fase que precede a la sentencia como en la determinación de la pena. El presente trabajo tiene por finalidad analizar la estructura de los algoritmos predictivos del riesgo de reincidencia, destacando los problemas existentes a su respecto. Se pone especial énfasis en la inaccesibilidad de los instrumentos, los cuales usualmente operan como una caja negra, así como en el hecho de que el resultado de que tales algoritmos puedan condicionar la decisión del juez. No obstante, las nuevas tecnologías de inteligencia artificial, si son correctamente entendidos y aplicados, podrían encontrar cabida en nuestro sistema, en particular al momento de la determinación de la pena, la cual podría ser entendido como un proyecto y no como un mero momento retributivo.