Los días 2 y 4 de octubre EGEDA y Platino EDUCA volvieron a organizar los 'Encuentros Platino EDUCA' dentro de Iberseries & Platino Industria, el gran evento de la industria audiovisual cuya cuarta edición tuvo lugar en Matadero Madrid.
Como en años anteriores, el objetivo de estas dos sesiones gratuitas fue llevar el compromiso que Platino EDUCA tiene con el cine y la educación más allá de la escuela, acercando la plataforma a otros escenarios y públicos para mostrar hasta qué punto el audiovisual es una herramienta valiosa para la formación y la investigación.
En la primera sesión se proyectó la película Justicia artificial (Simón Casal, 2024) y, seguidamente, el asesor universitario de Platino EDUCA, Fernando R. Lafuente (Fundación Ortega-Marañón), moderó una mesa redonda sobre la aplicación de la inteligencia artificial al sistema judicial y otros dilemas éticos que plantea la película.
Participaron en el coloquio tres de los responsables de la cinta, las productoras Mariela Besuievsky (Tornasol Media) y Pandora da Cunha (Ukbar Filmes) y el actor ganador de un Goya Alberto Ammann, así como dos destacados especialistas en cuestiones legales y judiciales: Juan Fernández-Tamames (abogado-secretario del Comité de Cumplimiento penal de Telefónica) y Antonio del Moral (magistrado del Tribunal Supremo, fiscal y doctor en Derecho por la Universidad Complutense).
Cabe señalar que esta mesa redonda fue comentada por uno de los más importantes medios de la industria audiovisual estadounidense, The Hollywood Reporter, que además la situó entre las citas clave de Iberseries & Platino Industria 2024.
A continuación ofrecemos un resumen del debate con las intervenciones más significativas. También puedes ver la mesa redonda completa aquí y leer la crónica de la segunda sesión aquí.
MARIELA BESUIEVSKY (productora)
«El director de Justicia artificial, Simón Casal, empezó este proyecto cinco años antes de traérnoslo. Él tenía mucho interés en saber cómo el big data influye en los procesos democráticos. Ese fue el caldo de cultivo de la historia, que después fue mutando –sobre todo a partir de la aparición de ChatGPT y la toma de conciencia general sobre las posibilidades de la inteligencia artificial. Simón empezó a indagar e hizo un documental sobre el tema, titulado Artificial Justice, donde se indaga en cómo esta tecnología puede influir en la justicia».
«Es un mundo que él conoce mucho, ya que su esposa es juez. Esto también fue muy bueno para la preproducción de la película, porque la tutora de la esposa de Simón fue quien preparó y sirvió de referente a Verónica Echegui, que interpreta a la juez protagonista».
«Al margen de la cuestión de la inteligencia artificial aplicada a la justicia, una cosa interesante que la película pregunta es si va a haber "códigos VIP", es decir, algoritmos que prioricen el interés o el bienestar de una persona por encima de otras –sobre todo en situaciones de importancia o gravedad. Es inquietante pensar que una máquina pueda decidir quién debe vivir o morir».
PANDORA DA CUNHA (productora)
«Recuerdo que cuando desarrollábamos el proyecto, Simón insistía en la importancia de que todo pareciera real, que solo algunos detalles –como los coches autónomos– fueran ajenos a nuestro presente más reconocible. La idea era causar la impresión de que el cambio que narra la película podría suceder de un momento a otro».
«La historia me interesó especialmente porque en mi país, Portugal, la justicia es especialmente lenta. Por eso sería muy fácil decidir, sin apenas darnos cuenta, dejarla en manos de la inteligencia artificial. De ahí surge la pregunta: ¿qué es mejor, tener una justicia lenta pero humana, o tener una justicia rápida pero artificial?».
«Lo que señala Mariela sobre el "código VIP" ya sucede en la justicia sin necesidad de un algoritmo: de una forma mucho más encubierta, hay personas que consiguen gozar de un trato judicial más favorable que el resto. Estas cuestiones morales y éticas siempre han afectado al ser humano, no hace falta que las máquinas nos lo recuerden. Es algo que ya traía de cabeza a los griegos: ¿cómo conseguir que la justicia sea imparcial?».
ALBERTO AMMANN (actor)
«La pregunta es al servicio de qué, de quién, está un algoritmo de inteligencia artificial. Creo que la única diferencia entre la ficción que representa Justicia artificial y nuestra realidad es que en la película la inteligencia artificial que se aplica al sistema judicial, Thente, es conocida públicamente y forma parte de las noticias cotidianas».
«La buena ciencia ficción ha dado mucho no solo a los espectadores que no tienen nada que ver con la ciencia, sino también a los propios científicos. Recuerdo cómo a los 8 años vi la primera videollamada en 2001: Una odisea del espacio y pensé que eso no iba a pasar nunca; hoy el móvil que llevo en el bolsillo me permite hacerlo. Por eso, con respecto a lo que se muestra en Justicia artificial pienso: "esperemos de aquí a diez años"».
«Opino distinto que Juan, porque creo que la justicia es tan susceptible de caer en la corrupción como cualquier otro ámbito institucional. Y si eso sucede, a mí no me alcanza con votar cada cuatro años. Dicho eso, creo que la mayor parte de los que trabajan en el sistema judicial son gente que hace un esfuerzo enorme en unas condiciones que no son las adecuadas para tener una justicia humana rápida, es decir, la que nos gustaría tener».
JUAN FERNÁNDEZ-TAMAMES (abogado de Telefónica)
«Cuando se hacen este tipo de inversiones en inteligencia artificial generativa, se piensa en la eficiencia de los procesos. Y esto es algo en lo que la justicia no puede quedarse atrás. El dilema de la película –una justicia lenta pero humana o bien una rápida pero artificial– es real, pero hay que profundizar en él. La justicia es un servicio que los ciudadanos demandamos y que tiene que ser rápida para poder llamarse justicia. La falta de eficiencia, es decir, de medios y capacidades, es algo que hoy sufren los jueces y los juzgados».
«Pese a la visión inquietante, de thriller, que da la película, yo sí creo que este tipo de tecnologías nos ayudan y que también se podrían aplicar a la justicia. En cualquier caso, es un proceso que los estados democráticos deben guiar y supervisar mediante la intervención de los seres humanos. En algunos departamentos de policía del mundo ya se están utilizando tecnologías predictivas basadas en el histórico, en lo que ha sucedido en el pasado. Y en el sistema judicial hay herramientas predictivas un poco rudimentarias, como Jurimetría, que también permiten definir la estrategia procesal más idónea a partir de una base de datos. Lo que Justicia artificial plantea va mucho más allá: la posibilidad de que la sentencia esté determinada por el algoritmo».
«Hay que recordar que los programas de inteligencia artificial ya están creando código. Es decir, ya no es un humano el que está detrás programando. La cuestión es quién está controlando o supervisando ese proceso».
«Cuando a Napoleón le preguntaban quién era la persona más poderosa de Francia, él respondía: el juez de instrucción de París, porque es el que me puede meter en la cárcel. ¿Quiénes son las personas más poderosas del sistema judicial español? Los jueces, que toman sus decisiones conforme a la legalidad. Y, según mi experiencia –y al contrario de lo que opina Pandora–, creo que los jueces tratan a todo el mundo exactamente igual. Su trato podría ser más eficiente y más amigable, pero es el mismo para todos –sean ciudadanos o empresas».
ANTONIO DEL MORAL (magistrado del Tribunal Supremo)
«Lo justo no es lo exacto. El algoritmo nos da lo exacto, no lo justo. Solo si pudiésemos meter en el algoritmo un sentimiento como el amor, podría el algoritmo contener la justicia. Pero no es el caso. La justicia humana tiene ciertos componentes de empatía, de humanidad, de dar a cada uno lo suyo –y no a cada uno lo mismo. Funciona muy imperfectamente. Intentamos que nuestras decisiones se aproximen a la justicia, pero es una ingenuidad pensar que lo que decimos los jueces es lo justo».
«Al mismo tiempo, en cierto sentido, es esa misma ingenuidad la que debemos mantener para aproximarnos a lo justo y no convertirnos en unos indolentes. La tentación de acudir a la justicia algorítmica está ahí, pero creo que ceder ante ella nos haría perder en justicia, precisamente. La eficiencia está muy bien en temas económicos, por ejemplo, pero no en lo relativo al sentido de lo justo. Me pregunto si un juez al que un programa de este tipo le recomiende una sentencia –basándose, por ejemplo, en un supuesto porcentaje de probabilidad de reincidencia– va a tener libertad para decidir lo que estime oportuno y justo. Fuera de eso, es cierto que hay muchas áreas en las que la inteligencia artificial puede ayudar a la justicia: manejo de toda la información de una causa, determinados cálculos, tramitación de procedimientos. En todo esto, la automatización puede ser maravillosa. Pero no para tomar una decisión justa».
«Es evidente que la justicia humana es muy imperfecta, pues reproduce todas las imperfecciones de las que hace gala el ser humano. Son personas que, en general y por lo que yo sé, tienen vocación y tratan de comportarse con honestidad, lo cual no quita los casos de corrupción del sistema judicial. Pero esto no debería condicionar este debate. Al fin y al cabo, quien crea cualquier inteligencia artificial también puede introducir sus sesgos y prejuicios y, al hacerlo, volverlos más opacos. Yo distinguiría entre dos ámbitos: la justicia penal, en la que toda la sociedad está directamente interesada, y la civil/laboral, más privada. Creo que en la penal, cuando se comete un delito, el caso debe ser resuelto por seres humanos –sometidos, eso sí, a todos los mecanismos pertinentes para evitar politización, corrupción, etc. Por contra, en la justicia civil no tengo inconveniente en que se aplique un algoritmo para orientar o determinar un acuerdo entre dos particulares».