Elisa Simó Soler es profesora ayudante y doctora en Derecho Procesal de la Universitat de València (UV). Su carrera académica comenzó en 2018 en esa universidad, donde se desempeñó como investigadora en formación gracias a una ayuda del programa de Formación del Profesorado Universitario.
Actualmente, se encuentra en Uruguay con el objetivo de recabar información y conocimientos que contribuyan a su investigación, centrada en el abordaje jurídico de la violencia de género y en la incorporación de la inteligencia artificial (IA) en la Administración pública.
En el marco de su investigación, la doctora Simó se interesó por la justicia restaurativa en el proceso penal. Su estancia en Uruguay responde al interés que le genera el tratamiento que el derecho penal uruguayo da al daño, sus tipos y su cuantificación. “Esa comparativa del marco español y uruguayo me parece muy interesante”, señaló.
Explicó que tiene una perspectiva más procesalista a la hora de abordar y resolver los conflictos, y que busca “optar por vías que buscan más la reparación, la responsabilización, el diálogo, la reconstrucción”, con el objetivo de “descongestionar” la labor de la justicia.
Aprovechando su visita, Simó también busca conocer el impacto de la IA en nuestro país y comprender “qué paradigma se está construyendo” en torno a esta tecnología. “Me consta que hay docentes como el profesor Gabriel Valentín que han trabajado cuestiones de inteligencia artificial en el proceso y por ahí ese intercambio de ideas me parece importante”, destacó.
Otro aspecto que le llamó la atención de Uruguay, y particularmente de la Facultad de Derecho de la Universidad de la República, es que la docencia no constituye una actividad exclusiva, sino que quienes se dedican a ella también ejercen su profesión, una situación poco habitual en España.
“En mi Universidad tenemos un perfil que es profesor. Somos personal docente e investigador (...) el contacto con la práctica del derecho es más lejano”, explicó. Para Simó, la posibilidad de interactuar con personas que ejercen el derecho cotidianamente constituye una gran oportunidad.
La IA y las tareas humanas
En relación con la mejora de la Administración española en un sentido amplio, Simó considera que la IA puede ser una herramienta para alcanzar ese objetivo, aunque también le genera reparos.
“Cuando se inició todo este debate sobre la incorporación de la inteligencia, hubo un recibimiento inicial positivo en el sentido de todo lo que sea agilizar tareas mecánicas, burocráticas y repetitivas (...) El problema viene, y ya se anticipó, cuando la inteligencia artificial es capaz de hacer tareas que consideramos genuinamente humanas”, explicó.
Para Simó, el límite de la IA aparece cuando “efectivamente puede vulnerar derechos fundamentales, como el derecho a la tutela judicial efectiva, el derecho a la defensa, a la asistencia jurídica gratuita. Ahí es donde yo creo que (...) hay una barrera infranqueable que son los derechos humanos y los derechos fundamentales”.
Sin embargo, considera que no necesariamente debe pensarse en la IA como un reemplazo del trabajo humano. “Ya es posible que los jueces y las juezas puedan tener un borrador de una resolución hecha con inteligencia artificial y es una evidencia que los despachos de abogados y abogadas ya utilizan herramientas de inteligencia artificial por un montón de funcionalidades que tienen, que también tenemos que pensar que en algún punto ayudan a mejorar el trabajo”.
Para Simó, es necesario “abordar un debate con cierta cautela, con cierta pausa, en el momento en el que ya no solo nos asistan en hacer un trabajo, sino que lo hagan mejor de lo que lo podemos hacer las personas humanas”, advirtió. “Hay un consenso que debería seguir siendo así, que al final, queremos que quien nos juzgue sea una persona humana”, aclaró.
Los avances en el uso de la IA en España pueden estar relacionados con la regulación que se ha desarrollado y continúa desarrollándose en esta materia. “Empezó con el Reglamento Europeo de Inteligencia Artificial, que se planteó como la primera normativa que venía a poner en el centro los derechos”, explicó.
Sin embargo, esta normativa no estuvo exenta de críticas, debido a que los avances de la IA se producen a pasos agigantados y no van acompasados con los del derecho, que “siempre va un poco por detrás, intentando poner parches”, comentó.
A partir de ese reglamento, también se puso de manifiesto el riesgo del sesgo de automatización, que se traduce en la confianza excesiva o incluso ciega que las personas pueden depositar en los resultados generados por la IA.
“Un piloto de avión que tuviese que hacer una maniobra de aterrizaje confiará y lo hará, y en el caso de la judicatura hay una probabilidad del 80% de que se confiará. En el ámbito de la Administración de Justicia, ¿en qué lugar queda la imparcialidad y la independencia si materialmente hemos delegado la decisión en ese borrador de resolución o porcentaje?”, se preguntó.
La propia Simó señaló que no habría inconvenientes “si a lo largo del proceso hay supervisión humana y somos conscientes de todo lo que se ha usado en el proceso”. En ese sentido, consideró que la imparcialidad no se vería afectada.
Desde su rol docente, Simó también es consciente del impacto de la IA en las aulas.
“La irrupción de la IA en la docencia está suponiendo una transformación. Primero, de la presencia del alumnado en el aula, luego en las metodologías de enseñanza. Hay una cuestión de plantearnos si las metodologías que veníamos utilizando hasta ahora siguen siendo las adecuadas en este contexto donde hay un acceso aparente a un sinfín de información, y también cómo competimos con un ente que está generando conocimiento cuando era una de las funciones genuinas de la universidad que era esa generación y transferencia de conocimiento”, detalló.
Género y sesgos
En materia de género, Simó ha trabajado en la relación entre esta temática y la IA desde dos perspectivas. La primera se centra en los problemas que genera la aparición de sesgos algorítmicos; la segunda, en el uso de la IA para identificar estereotipos de género en las sentencias judiciales.
Respecto a la aparición de sesgos, Simó mencionó “los problemas de reconocimiento facial de las mujeres negras” y el caso de la plataforma de contratación de Amazon, que “descartaba de manera mayoritaria a mujeres”. También señaló que los propios chatbots “mayoritariamente tienen voces de mujeres y lo que les estás diciendo es ‘Alexa, haz algo’, en un tono de dar órdenes”, explicó.
Por estos motivos, considera importante promover “debates para intentar detectar en qué momento del diseño de la IA podían aparecer esos sesgos e intentar corregirlos porque podría generar supuestos de discriminación algorítmica”.
Por otra parte, el uso de la IA para detectar estereotipos debería considerarse “un instrumento de impacto social positivo”. Esta problemática ya había sido identificada en casos de “determinados jueces y juezas usando estereotipos a la hora de valorar la declaración de víctimas de violencia sexual”.
En un trabajo de aplicación práctica realizado junto con un equipo de ingenieros computacionales de la Universidad Politécnica de Valencia, Simó y sus colaboradores pusieron a prueba “modelos discriminativos y de lenguaje para intentar identificar si eran capaces” de contribuir a esa detección.
Los resultados mostraron que “cuanto más te acercas al modelo de víctima y reproduces el estereotipo, aumenta tu credibilidad; cuanto más te alejas, disminuye tu credibilidad”.
Más allá de estos resultados, Simó reconoce que también es necesario realizar un análisis del lenguaje jurídico y que “las IAs no llegan a ese nivel de sutileza”. “La IA es un asistente, pero el trabajo humano es irremplazable en esta tarea en concreto”, concluyó.
La entrevistada agradece a Gabriel Valentín, director del Instituto de Derecho Procesal, el apoyo brindado para realizar esta estancia, así como a Magdalena Prato y Agustín Long por su cálida bienvenida. Asimismo, agradece a la Universitat de València, dado que la estancia de investigación se enmarca en el programa propio «Atracció de talent» del Vicerrectorado de Investigación de esa universidad.