Vicente Magro: «La IA ayuda a resolver pero no puede sustituir la actividad intelectual del Juez»

Como magistrado del Tribunal Supremo y experto en mediación penal, ¿qué retos éticos y jurídicos plantea la incorporación de sistemas de inteligencia artificial en los procesos judiciales, especialmente en materia penal?

La primera reflexión que hay que hacer es que la IA no puede sustituir al ser humano en la respuesta a los problemas de la sociedad. Puede mejorar la «capacidad de respuesta» del ser humano pero nunca sustituirle. La IA es ayuda del ser humano, pero no debería retirar a este de su «función decisoria». Quien debe decidir es el ser humano. Eso sí, con la ayuda inestimable de la IA.

Pues bien, hay que tener en cuenta la reciente sentencia que se ha dictado por un Tribunal argentino en la que se ha anulado una sentencia de un tribunal penal que había usado la IA para copiar y pegar lo que ésta le había ofrecido como motivación de la respuesta a cómo debía resolver un caso, lo que ha supuesto un precedente judicial mundial al anular esta sentencia por falta de la debida motivación que debía haber dado el juez humano y no el «juez robot». La IA ayuda a resolver, pero no puede resolver directamente. No se le puede pedir a la IA que sea ella la que dé la respuesta. El juez no puede hacer la motivación de lo que la IA le entregue. Debe motivar el juez, porque en caso de hacerlo la IA ello supone una vulneración de la tutela judicial efectiva.

La IA no ha sido diseñada para sustituir la actividad intelectual del Juez, sino para colaborar con su elaboración. La IA le otorga al juez los «parámetros» de ayuda para resolver, pero la IA no resuelve. La figura del «Juez-Robot» aplicable en algunos Estados debe suprimirse sin excusas.

En su extensa experiencia en la lucha contra la violencia de género, ¿cómo cree que la inteligencia artificial puede contribuir —o en su caso, poner en riesgo— la protección de las víctimas y la detección temprana de situaciones de maltrato?

Resulta evidente que la inteligencia artificial tiene un largo recorrido y aplicación en la lucha contra la violencia de género, porque puede incidir de forma muy positiva en la predictibilidad, como vamos a analizar, y en la adopción de medidas cautelares a la hora de proteger a las víctimas. La determinación y acierto de los algoritmos que constituyen la información de la Inteligencia Artificial para actuar sobre lo que ha ocurrido en hechos semejantes y lo que puede ocurrir es un factor trascendental en la eficacia que puede esperarse de esta herramienta tecnológica de utilización todavía muy reducida en la justicia.

La ayuda que le puede proporcionar al juez de violencia contra la mujer la IA en violencia de género es muy importante al momento de actuar en el dictado de las medidas cautelares, en cuanto a las medidas de protección, porque puede beneficiarse de la predictibilidad de la reincidencia que le puede dar la IA atendiendo el caso concreto y su comparativa con otros semejantes, sobre todo si existen antecedentes entre las partes. La experiencia profesional nos indica el carácter repetitivo y secuencial de estas agresiones de violencia de género, lo que facilita y favorece que la IA pueda aportar mecanismos suficientes de ayuda a los profesionales para actuar de forma cautelar, como decimos, ante los mismos patrones de conducta, por ejemplo, a la hora de acordar medidas cautelares de alejamiento, el uso de la vivienda familiar, prohibición de aproximación a víctimas y sus familiares, uso de armas y expulsión del hogar familiar, y otras medidas que están ancladas en la información que suministra la inteligencia artificial.

Ha escrito más de 95 libros y centenares de artículos doctrinales. ¿Qué papel cree que debe desempeñar la formación jurídica en IA para jueces, fiscales y abogados ante los nuevos escenarios probatorios que genera esta tecnología?

Es fundamental la formación de los profesionales del derecho en la IA para poder hacer mejor el trabajo en la Justicia. El problema es que hay muchos profesionales todavía que actúan «de espaldas» a la informática y lo ven como un mundo «oscuro» al que no quieren entrar por el eterno miedo a lo desconocido.

Ahora bien, es importante que a nivel de escribir tanto libros, novelas como resoluciones judiciales que se actúe con la ética personal profesional de no coger la IA como un sustituto del esfuerzo personal en escribir. La redacción debe ser realizada por el ser humano, no por la IA. La inteligencia artificial no puede reemplazar a la «inteligencia personal», y esto hay que trasladarlo a nuestros jóvenes a la hora de hacer, también, sus trabajos y estudios, porque es necesario que se mantenga que es el esfuerzo personal el que nos lleva al éxito, no la IA.

Como director de la revista Compliance Penal, ¿qué oportunidades ofrece la inteligencia artificial para reforzar los programas de cumplimiento normativo y prevenir el fraude o la responsabilidad penal de las empresas?

No puede darse por sabido lo que es la Inteligencia Artificial por parte de directivos y empleados de la empresa, sino que es preciso que en la formación para quienes trabajan en la misma se establezcan módulos de aprendizaje acerca de cómo manejar la IA y cómo acceder a las fuentes de información. Además, es necesario definir al responsable en el uso e implementación de la IA en la organización ante un mal uso de la misma que suponga responsabilidades civiles o penales, lo que exige sistemas de supervisión internos en el uso de la IA. Un programa de compliance amparado en IA da lugar a un mejor cumplimiento de los fines exigidos por la normativa de implementación del mismo en la empresa española ayuda más y mejor a combatir el fraude interno y externo en la empresa.

Algunos de sus últimos libros de ficción abordan temas como la ciencia ficción, la predicción del futuro o la inteligencia artificial. ¿Qué le llevó a explorar este vínculo entre el Derecho, la imaginación y la tecnología?

Mi sexta novela, publicada en Amazón, se titula «Sé lo que vas a hacer» y versa sobre el alcance del poder de la IA en versión de ciencia ficción respecto al poder de una persona de visionar el futuro y saber lo que va a ocurrir. Trata sobre un juez de guardia que soñaba con los crímenes que se iban a cometer, al punto de que llega a soñar que iban a matar a su mujer y hace lo posible para evitarlo. La novela trata de ofrecer el misterio sobre hasta dónde nos podrá llevar los avances de la IA. E igual que mi quinta novela, que se titula “Expediente ambar”, trata sobre cuatro chicos jóvenes que tienen el poder de volver al pasado introduciéndose en un espejo. Esta novela trata sobre el conocimiento anticipado de lo que va a ocurrir, poder éste que lo baso en el uso de la IA que no sabía el protagonista que le habían introducido en su cerebro una organización criminal. Las razones de todo ello… están en la novela. Pero el mensaje está claro: ¿Hasta dónde nos llevará la IA? Porque no somos conscientes de ello todavía.

*Congreso organizado por Prensa Ibérica, Fundación Ellis Alicante, Encuentros NOW y la Real Academia de Ingeniería de España.

Inscripciones al IV Forum Europeo de Inteligencia Artificial aquí.