Expertos en Derecho recomiendan prohibir el uso de inteligencia artificial generativa en facultades para preservar principios democráticos
La integración de IA en la educación jurídica plantea riesgos para la democracia, la calidad profesional y la protección del conocimiento.
El uso de inteligencia artificial generativa, como ChatGPT, en las facultades de Derecho plantea desafíos serios para la enseñanza y la práctica jurídica, poniendo en riesgo principios fundamentales de la democracia y el Estado de derecho. Cada vez más estudiantes, promotoras y académicos integran estas tecnologías en su trabajo, incluso con la autorización de la NWO para solicitudes de financiamiento, pero expertos advierten sobre las consecuencias a largo plazo.
La principal preocupación radica en que la IA puede sustituir tareas esenciales que implican comprensión, análisis, argumentación y redacción, capacidades fundamentales para el desarrollo del pensamiento crítico y el conocimiento profundo del sistema jurídico. La generación automática de textos puede producir contenido incorrecto o falsificado con una confianza que engaña, lo cual pone en peligro tanto la calidad de la justicia como la formación de profesionales capaces de interpretar y aplicar adecuadamente la ley.
Además, el control de estas plataformas por grandes tecnológicas vinculadas con regímenes autoritarios alimenta la desinformación y erosiona la confianza en las instituciones democráticas y en el Estado de derecho. El uso indiscriminado de IA en contextos académicos y judiciales puede facilitar la propagación de noticias falsas y manipulaciones, afectando la credibilidad del sistema judicial y las futuras instituciones responsables de su cumplimiento.
Por ello, expertos y académicos proponen establecer un veto al uso de ChatGPT y otros modelos similares en las facultades de Derecho, siguiendo el principio de precaución. La idea es evitar el plagio, la pérdida de habilidades tradicionales y la posible manipulación del conocimiento. Se recomienda implementar regulaciones similares a las del derecho ambiental, donde el principio de precaución obliga a demostrar la seguridad de un proyecto antes de su ejecución; en este caso, limitar el uso de IA en actividades académicas y profesionales.
Se advierte que el empleo de IA puede disminuir la capacidad del estudiantado para expresarse con precisión y desarrollar pensamiento crítico, habilidades clave para las personas responsables de la justicia. La utilización de modelos lingüísticos, que apuestan a acertar palabras en secuencia sin entender realmente el significado, no aporta más que una apariencia de profundidad, y su uso para la redacción y análisis suele resultar en pérdida de tiempo para docentes y alumnado, al tener que revisar textos incorrectos o fabricados con confianza.
Además, el uso de IA entra en conflicto con la protección del conocimiento propio y fomenta la apropiación indebida de derechos de autor, dado que los modelos se entrenan con enormes cantidades de datos que muchas veces contienen información sin autorización. La diferenciación entre trabajo propio y plagio se vuelve cada vez más difusa, amenazando la integridad académica y profesional.
Para prevenir estos riesgos, expertos sugieren que las facultades de Derecho adopten una postura precautoria similar a la del derecho ambiental, donde la carga de la prueba recae sobre el proyecto que desea usar la tecnología. Es decir, primero demostrar que el uso de la IA no genera daños ni riesgos para la educación y la justicia, y en caso contrario, prohibir o restringir su aplicación.
En conclusión, los académicos advierten que no es necesario apurarse en incorporar tecnologías que aún presentan más amenazas que beneficios evidentes a corto plazo. La prioridad debe ser mantener la formación de profesionales con habilidades críticas, analíticas y éticas, capaces de entender y aplicar la ley sin depender de herramientas que, en su estado actual, comprometen la calidad y la legitimidad del sistema jurídico y democrático.