Inteligencia artificial y procesos judiciales en el Espacio de Libertad, Seguridad y Justicia

Abstract

La aplicación de inteligencia artificial a las diversas fases de un proceso judicial plantea retos extremadamente novedosos en relación a la salvaguardia de los derechos de las partes. En el ámbito del Espacio de Libertad, Seguridad y Justicia, el principio de reconocimiento mutuo de las resoluciones judiciales se encontrará, tan pronto como se generalice el empleo de algoritmos en los juzgados, con desafíos para los que los actuales instrumentos de reconocimiento mutuo no prevén medidas específicas. La propuesta de un Reglamento sobre inteligencia artificial, presentada por la Comisión en abril de 2021, contiene parámetros de control y garantías dentro del llamado “ecosistema de confianza”. El presente Trabajo trata de anticipar qué cuestiones deberá abordar el Tribunal de Justicia de la Unión Europea tan pronto como se le planteen los primeros asuntos en los que el principio de reconocimiento mutuo pueda quedar en entredicho ante la aplicación de inteligencia artificial en el proceso que dio origen a la resolución a reconocer. Para ello, este Trabajo propone enlazar de manera sucesiva las medidas y garantías previstas en el “ecosistema de confianza” que creará el Reglamento sobre Inteligencia Artificial con el llamado principio de confianza mutua, cuya aplicación ya está generalizada en los ámbitos sometidos a comunitarización por los Tratados. El principio de reconocimiento mutuo podrá desplegar sus efectos en el caso de que no se quiebre la confianza mutua. Con objeto de valorar el iter propuesto, se propuso una breve aproximación técnica a la inteligencia artificial aplicada al ámbito judicial, se describieron algunas de las experiencias pioneras que ya se están llevando a cabo en ciertos países de Europa y se identificaron los derechos fundamentales que potencialmente quedarían más afectados ante la generalización de algoritmos en el ámbito judicial. A continuación se analizó el régimen al que quedará sometida la IA europea en el caso de que se apruebe el Reglamento. Ello permitió abordar las características específicas de los principios de confianza mutua y de reconocimiento mutuo en relación al empleo de inteligencia artificial. Se identificaron como grandes desafíos el correcto tratamiento de los datos personales, la discriminación por sesgos, la transparencia frente a las black boxes, la necesidad de que las resoluciones judiciales cuenten con motivación jurídica y la prohibición de decisiones adoptadas sin ningún control humano. Después de valorar los posibles riegos de la inteligencia artificial en el ámbito judicial, se concluye que para garantizar la efectividad del principio de reconocimiento mutuo en el ELSJ son necesarios parámetros de control sobre datos y algoritmos que quedan recogidos parcial pero no totalmente en la propuesta de Reglamento. El íter “ecosistema de confianza”– principio de confianza mutua – principio de reconocimiento mutuo” se configura como el único posible para definir el ámbito de convivencia entre inteligencia artificial y el principio de reconocimiento mutuo en el ELSJ, a condición de que por “ecosistema de confianza” se entiendan no sólo las medidas previstas en el Reglamento sobre inteligencia artificial sino las recogidas en el Reglamento General de Protección de Datos y otras normas que puedan aprobarse en el futuro.

Artificial intelligence is applicable to different phases of judicial proceedings. This poses unheard of challenges in safeguarding the rights of the parties involved. As the use of algorithms in court becomes standard procedure in the area of Freedom, Security and Justice, challenges will arise with regard to the principle of mutual recognition of judicial resolutions, for those that do not currently have specific measures in place. Yet AI may soon become widespread in European courts. The Commission’s proposal for a Regulation on Artificial Intelligence in April 2021 contains parameters and guarantees to implement the so-called “ecosystem of trust”. The first cases regarding how AI may affect the mutual recognition principle will be dealt with by the European Court of Justice in the near future. This Dissertation attempts to anticipate the relevant legal and technical issues to be taken into account by the ECJ at that time. To this end, this Dissertation proposes to successively link the guarantees within the “ecosystem of trust” foreseen by the Regulation with the so-called principle of mutual trust, which is now widely applied in communitarised areas. The principle of mutual recognition of judicial decisions will be of application if mutual trust is not breached. In order to assess the path (i.e. trust ecosystem mutual trust principle-mutual recognition principle), a simple technical approach to artificial intelligence applied to the judicial field was proposed, some of the pioneering experiences that are already being carried out in Europe were described, and the most potentially affected fundamental rights were identified. The next step was to analyse the new European AI law on the basis of the Commission’s proposal. This made it possible to address the special features which arise when the principles of mutual trust and mutual recognition come into contact with artificial intelligence. The correct treatment of personal data, discrimination due to biases, transparency versus black boxes, the need for judicial decisions to be legally motivated, and the prohibition of decisions taken without human control were identified as major challenges. Having assessed the risks of artificial intelligence in the judicial field, the conclusion is reached that, in order to guarantee the mutual recognition principle, control measures are needed, which are partially but not completely envisaged in the proposal of Regulation. The environment of coexistence between artificial intelligence and the principle of mutual recognition in the AFSJ can only be implemented by accepting the path “trust ecosystem-mutual trust-mutual recognition”. Provided that the “trust ecosystem” be understood in a broad sense, based not only on the measures foreseen in the Regulation on Artificial Intelligence but also on those included in the General Data Protection Regulation and other laws to be passed in the future.