¿Por qué no debemos utilizar la IA para sustituir nuestro razonamiento jurídico?

Por Elen Irazabal

Cuando utilizamos herramientas de IA generativa, nos sentimos tentados a utilizarlas sin ningún tipo de control. Vaya, que haga todo por nosotros. Vemos que nos devuelve un texto bien escrito y podemos pensar que podemos utilizarlo tal cual en nuestras labores. Entonces, ¿por qué es esto una mala idea?

El Premio Nobel de Economía, Daniel Kahneman, ha influido significativamente tanto en la psicología y en la economía como en la inteligencia artificial con sus estudios sobre el sistema 1 y 2. Podríamos decir que, en la actualidad, la IA es un sistema 1 sofisticado. Esto significa que la inteligencia artificial, especialmente en su forma actual de aprendizaje profundo, opera predominantemente de manera rápida y automática, reconociendo patrones y haciendo predicciones basadas en grandes cantidades de datos. Al igual que el “Sistema 1” de Kahneman, la IA puede procesar información rápidamente y responder de manera inmediata, pero lo hace sin una comprensión profunda o un análisis deliberado de las circunstancias. Por otro lado, el “Sistema 2” se caracteriza por un pensamiento lento, deliberado y lógico, implicando un análisis detallado y profundo de las situaciones.

A pesar de su sofisticación, esta analogía resalta una limitación crucial: la IA carece de la capacidad de razonamiento profundo y contextualización que caracteriza al “Sistema 2”. En el campo legal, donde el análisis detallado, la deliberación y la comprensión de la causalidad son esenciales, esta deficiencia es particularmente significativa. Un abogado debe evaluar el contexto, interpretar la ley y aplicar principios legales a situaciones complejas, tareas que requieren un razonamiento que la IA, como sistema 1, no puede proporcionar adecuadamente.

El razonamiento legal implica más que solo procesar grandes cantidades de datos; requiere entender las relaciones causales y el contexto detrás de la información. Los sistemas de IA, aunque son hábiles para manejar vastos conjuntos de datos e identificar patrones, no poseen la capacidad de entender la causalidad o el contexto de la misma manera que los humanos. Por ejemplo, un abogado debe comprender las implicaciones de una ley, considerar precedentes y predecir los posibles resultados de un argumento legal. Estas tareas requieren un nivel de conciencia contextual y razonamiento causal que los sistemas de IA actuales no tienen. Confiar en la IA para realizar estas funciones podría llevar a malas interpretaciones y juicios legales defectuosos.

Eso sí, podemos utilizar la IA para ayudarnos a razonar mejor. En palabras de mi amigo y uno de los mayores expertos en IA de nuestro país, Javier Ideami, interactuar con IAs como ChatGPT puede ayudar a aumentar y a magnificar nuestro potencial de intuición humana. Es decir, de nuestro sistema 1. ChatGPT, por ejemplo, tiene un gran pozo de conocimiento que puede potenciar nuestro encajador de patrones.

Ideami me subrayaba este ejemplo: cuando queremos hacer musculación para mejorar nuestro físico y fuerza, utilizamos máquinas que nos ayudan a alcanzar el objetivo deseado. Con la IA es lo mismo, podemos utilizarla de manera que potencie nuestras capacidades.

Por ejemplo, un abogado puede utilizar una IA para obtener rápidamente un resumen de la jurisprudencia relevante para un caso específico, ahorrando tiempo en la búsqueda inicial de información. Aunque la IA no puede reemplazar el análisis crítico y la interpretación legal que requiere el “Sistema 2”, puede proporcionar una base de datos extensa y accesible que el abogado puede examinar y contextualizar. De esta manera, la IA actúa como una herramienta que amplifica nuestras capacidades, permitiéndonos enfocarnos en el análisis profundo y en la aplicación creativa de los conocimientos legales a situaciones complejas.

Además, cuando utilizamos herramientas de IA generativa, nos hacen trabajar de una manera a la que no estábamos acostumbrados. Debemos instruir a la IA adecuadamente para obtener el resultado que necesitamos, lo que nos obliga a pensar de una manera distinta. Así como las máquinas de musculación no pueden hacer ejercicio por nosotros, pero nos facilitan el proceso de entrenamiento, la IA no puede razonar por nosotros, pero puede hacer que el proceso de obtener y organizar información sea más eficiente y efectivo.