ÁLVARO DE LA RICA
Penal
El pasado 1 de agosto de 2024 entró en vigor el Reglamento Europeo de Inteligencia Artificial. Como es sabido, esta norma tiene por objeto fomentar el desarrollo y la implantación responsables de la inteligencia artificial en la UE. Propuesto por la Comisión en abril de 2021 y aprobado por el Parlamento Europeo y el Consejo en diciembre de 2023, el Reglamento de Inteligencia Artificial aborda los posibles riesgos para la salud, la seguridad y los derechos fundamentales de los ciudadanos. Proporciona a los desarrolladores e implementadores requisitos y obligaciones claros en relación con usos específicos de la IA, reduciendo al mismo tiempo las cargas administrativas y financieras para las empresas.
A estas alturas ya somos todos plenamente conscientes de la relevancia y del grado de afectación del fenómeno de la IA en todos los sectores y a todos los niveles de la sociedad actual, por lo que la entrada en vigor del Reglamento supone un hito fundamental en la regulación de la nueva situación. Concretamente, en relación con los distintos ordenamientos jurídicos, y especialmente en lo que respecta a la jurisdicción penal, aún debemos establecer hasta dónde estamos dispuestos a que la inteligencia artificial intervenga y trastoque los principios y fundamentos básicos de nuestro ordenamiento. La profunda influencia que la jurisdicción penal tiene en los derechos fundamentales la convierte en uno de los sectores más sensibles a un cambio como el que supone la intervención de la IA, y la clave estará en determinar hasta qué punto esta nueva realidad afectará al control de estos derechos fundamentales.
No se trata ya del uso de la inteligencia artificial para fines de entretenimiento o de mejora de la productividad, sino que estamos hablando del uso de la inteligencia artificial en el ámbito de la investigación criminal, que se plantea ya incluso como una investigación predictiva, o de la utilización de algoritmos a la hora de dictar una resolución judicial. Por ejemplo, el artículo 5 del Reglamento prohíbe, ya de entrada, las siguientes prácticas de IA:
- i. Las consistentes en la evaluación o clasificación de personas físicas o colectivos de personas durante un período determinado de tiempo atendiendo a su comportamiento social o a características personales o de su personalidad conocidas, inferidas o predichas, de forma que la puntuación ciudadana resultante provoque una o varias situaciones de trato perjudicial o desfavorable.
- ii. El uso de sistemas de IA para realizar evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el riesgo de que una persona física cometa un delito basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad; esta prohibición no se aplicará a los sistemas de IA utilizados para apoyar la valoración humana de la implicación de una persona en una actividad delictiva que ya se base en hechos objetivos y verificables directamente relacionados con una actividad delictiva.
- iii. El uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión.
Con la entrada en vigor del Reglamento, el límite a la intervención de la IA en la jurisdicción penal parece estar en la necesidad de garantizar el respeto a los derechos fundamentales previstos en las leyes cuando, para una determinada investigación criminal o para el dictado de una concreta decisión policial o judicial, haya sido utilizado algún sistema basado en inteligencia artificial. Uno de tales derechos sería, en palabras del Parlamento Europeo (Resolución del Parlamento Europeo, de 6 de octubre de 2021, sobre la inteligencia artificial en el Derecho penal y su utilización por las autoridades policiales y judiciales en asuntos penales), el de “que los algoritmos sean explicables, transparentes, trazables y comprobables como parte necesaria de la supervisión” a fin de que se respeten los derechos fundamentales y la dignidad de la persona y se genere confianza suficiente en el sistema por los ciudadanos.
Se trata, por tanto, de evitar situaciones en las que, por ejemplo, se pudiera identificar y clasificar de manera indebida, por parte de los sistemas de inteligencia artificial utilizados por las autoridades, a personas por su raza, etnia, condición sexual o edad y que, con ello y sin la adecuada fiabilidad del algoritmo, se acrecienten los sesgos, las desigualdades y discriminaciones. Desde el punto de vista procesal, la posibilidad de que el algoritmo fuera incluso auditable, como garantía de esa trazabilidad y transparencia a la que se apela desde Europa, debería llevarnos a compeler a las autoridades para que cualquier uso de sistemas de IA sea siempre conforme con el respeto a estos principios, con la finalidad de garantizar el respeto a los derechos fundamentales cuya afectación es más clara en el proceso penal: el derecho de defensa, y el de igualdad de armas.
