Ofrecen un enfoque "360º" de ChatGPT y GPT-4 sobre su potencial y riesgos en el sector jurídico: "Su avance requerirá actualización constante"
ChatGPT y GPT-4: utilidades en el sector jurídico, funcionamiento, limitaciones y riesgos es el título del trabajo de investigación con el que Francisco Julio Dosal Gómez y Judith Nieto Galende han obtenido un premio Accésit en la categoría de Educación y Nuevas Tecnologías en el Premio Estudios Financieros 2023. Preguntamos a sus autores por los entresijos del trabajo premiado.
Resumen de su carrera investigadora
En el año 2022, Francisco Julio Dosal Gómez y Judith Nieto Galende accedieron al programa de Máster en Práctica Jurídica, Especialidad en Derecho Internacional de los Negocios del Centro de Estudios Garrigues. Desde entonces, la actitud crítica de ambos, así como su creciente interés por la investigación y la divulgación, ha llevado a estos dos autores al desarrollo de diversas líneas de investigación en materias de especial relevancia para la práctica profesional de la abogacía; abordando, en su estudio, algunos de los principales desafíos para la profesión derivados de los rápidos avances en el campo de la inteligencia artificial.
De forma independiente, Francisco Julio Dosal Gómez ha publicado varios artículos en diversas revistas especializadas de ámbito nacional e internacional sobre cuestiones relacionadas con el derecho internacional de los negocios, el arbitraje internacional y el derecho de la construcción, con especial incidencia en los modelos que integran la Rainbow Suite FIDIC. Por su parte, Judith Nieto Galende ha mostrado un interés constante en la regulación de los mercados energéticos, y el Derecho de construcción particularmente en España y Estados Unidos .
¿En qué consiste la investigación y cuál ha sido la conclusión?
El cambio de paradigma experimentado por la rápida evolución de los sistemas de inteligencia artificial y, especialmente, de modelos fundacionales, obliga a los profesionales jurídicos a una adecuada comprensión de la realidad tecnológica actual, así como de las posibilidades de su implementación en el mundo de los negocios. Las previsiones para los próximos años apuntan a un crecimiento prácticamente exponencial en la implementación de soluciones basadas en inteligencia artificial, que alcanzará transversalmente a la práctica totalidad de sectores e industrias.
Ello supone, desde la perspectiva del ejercicio profesional de la abogacía y la consultoría, no solo un importante cambio en el lado de la demanda de servicios jurídicos –pues el cliente, cada vez más, empleará o se verá afectado por este tipo de sistemas– sino también, particularmente, del lado de la oferta, ante la incipiente pero creciente implementación de soluciones de inteligencia artificial en la práctica profesional de la abogacía. La amplia variedad de funcionalidades inherentes a sistemas como ChatGPT y GPT-4, sumadas a la facilidad en su uso y al desarrollo de aplicaciones especializadas (incluyendo sus reducidos costes de acceso) conllevan una potencial democratización en la implementación de este tipo de herramientas en el ejercicio de la profesión.
Nuestra investigación proporciona una aproximación omnicomprensiva y crítica de los aspectos clave del preentrenamiento, desarrollo y funcionamiento de ChatGPT y GPT-4 de acuerdo con los principales estudios técnicos en la materia, dedicando especial atención a sus funcionalidades actuales y potenciales más destacables, la importancia del legal prompting y las principales limitaciones de los modelos.
Si hablamos de estas últimas, hay que señalar que están ligadas en gran parte a la posibilidad de generar errores y alucinaciones de los modelos, la falta de alineamiento, la existencia de sesgos o la variabilidad. Todas ellas, sumadas a la excesiva credibilidad de dichos modelos y a las particularidades de la actividad jurídica, obligarán a los profesionales jurídicos a supervisar y contrastar los resultados obtenidos durante su empleo, así como a auditar y controlar adecuadamente los riesgos asociados a su uso.
En este sentido, el análisis de los principales riesgos inherentes a su utilización, así en materia de usos ilícitos, protección de datos, confidencialidad y seguridad de la información o propiedad intelectual e industrial, constituye otro de los aspectos fundamentales en los que se ha centrado nuestra investigación.
Como colofón, resulta evidente que gran parte de las normas y principios jurídicos tradicionales presentes en la actual normativa 'pretecnológica' o 'pre inteligencia artificial', continúan teniendo una importantísima virtualidad en la regulación de este tipo de sistemas. No obstante, nuestra investigación aborda algunas de las principales propuestas regulatorias a nivel internacional y comunitario (dada su relevancia), dedicando especial atención a la propuesta de Reglamento en materia de inteligencia artificial (actualmente en tramitación), así como a las propuestas de directiva en materia de responsabilidad civil y daños por productos defectuosos.
¿De qué modo los resultados de la investigación pueden repercutir en la sociedad?
Como ya se ha anticipado, nuestra investigación proporciona al lector una aproximación 360º de ChatGPT y GPT-4, abordando no solo determinados aspectos clave de su desarrollo, funcionamiento y de las condiciones de uso de los servicios de OpenAI (y que plantean aspectos de importancia capital en cuanto al análisis de ciertos riesgos asociados a su empleo); sino también sus funcionalidades actuales y potenciales en el sector legal, limitaciones y algunos de sus principales riesgos jurídicos, incluyendo algunas de las iniciativas regulatorias más importantes.
A diferencia de otros trabajos en la materia, centrados exclusivamente, bien en el análisis técnico de esta tecnología, en funciones exclusivamente potenciales o en particulares aspectos jurídicos inherentes a los mismos, nuestro estudio proporciona una visión global de este fenómeno, permitiendo superar algunas de las principales dudas al respecto.
La evolución de los sistemas de inteligencia artificial y su implementación en la prestación de servicios jurídicos por parte de despachos, consultoras y abogados in-house presenta un enorme potencial disruptivo en cuanto a la concepción de la prestación de servicios jurídicos, susceptible de ampliar la distancia entre quienes incorporen adecuadamente estos servicios y aquellos competidores que no lo hagan. En todo caso, esta nueva realidad demandará un profesional jurídico en constante actualización, que esté al corriente de esta nueva realidad tecnológica.
En este sentido, a medida que aumenten las funcionalidades de los modelos o continúen apareciendo capacidades emergentes, también aparecerán nuevos riesgos éticos, sociales y jurídicos que habrán de ser adecuadamente evaluados y gestionados. Tanto desde un plano interno (mediante actividades de auditoría y compliance), como desde una perspectiva regulatoria (a través de mecanismos de control, supervisión y mitigación de riesgos, incluyendo normas que garanticen el adecuado desarrollo e implementación de estos sistemas).
Todo ello obligará a contar con un adecuado asesoramiento jurídico sobre tales extremos, motivo que hace que tengamos previsto continuar desarrollando diferentes líneas de investigación. Particularmente, en cuanto al desarrollo de planes de análisis, control y mitigación de riesgos asociados al empleo de sistemas de inteligencia artificial, que esperamos puedan ser útiles tanto para clientes como para despachos interesados en la incorporación de este tipo de sistemas.
¿Cuál es la situación que atraviesa en materia de investigación y desarrollo el área de conocimiento de la que es experta?
La naturaleza altamente técnica de los sistemas de inteligencia artificial genera importantes barreras de entrada en orden a la divulgación sobre el entrenamiento, desarrollo, funcionamiento, funcionalidades y limitaciones de modelos como GPT-4, a las que se suman las particularidades inherentes a las condiciones de uso de tales servicios y la existencia de importantes interacciones entre sistemas jurídicos diferenciados. Ello supone que los profesionales jurídicos deberán no solo contar con una adecuada especialización en derecho digital y en el campo del derecho internacional de los negocios (a fin de comprender adecuadamente la interacción de los diferentes sistemas legales en un contexto global), sino también familiarizarse con ciertos conceptos básicos en diferentes subcampos de la informática y de las ciencias de la computación
De forma similar, el rápido desarrollo experimentado por este sector y el carácter extremadamente reciente de modelos como ChatGPT y, particularmente, GPT-4, determina que contemos con un número especialmente reducido de fuentes doctrinales en las que converja este análisis técnico particular y su vinculación a funcionalidades actuales y a riesgos transversales específicos.
En definitiva, consideramos que este área se encuentra todavía en una fase temprana de su desarrollo, con la existencia de aspectos sustanciales aún por explorar, especialmente ante la constante y rápida evolución de este conjunto heterogéneo de tecnologías. Por lo tanto, resulta imperativo que se continúe fomentando la investigación respecto a los desafíos emergentes derivados del empleo de esta tecnología y, particularmente, en cuanto en la prestación de servicios jurídicos.
¿Cómo valora el Premio Estudios Financieros y las ayudas que comprende a la investigación
El Premio Estudios Financieros ha demostrado ser un importante catalizador y un significativo estímulo para el desarrollo de iniciativas de investigación y divulgación. Más allá de la importancia de las ayudas económicas a la investigación y de su reconocimiento, lo verdaderamente esencial del Premio de Estudios Financieros se circunscribe, a nuestro juicio, a su papel como plataforma de divulgación, al reconocer la labor destacada de jóvenes investigadores y amplificar el impacto de los resultados de las obras galardonadas. Consideramos que este premio contribuye no solo a facilitar la transferencia de conocimiento, sino también a generar nuevas oportunidades para la colaboración con otros actores más allá del ámbito académico, fomentando, en definitiva, un entorno propicio para la innovación.
