Caso en Utah resalta los riesgos legales de confiar ciegamente en ChatGPT sin supervisión adecuada
El uso descontrolado de ChatGPT en ámbitos profesionales puede acarrear serias consecuencias legales y éticas, como muestra este caso en Utah.
El uso de ChatGPT ha crecido de forma exponencial en las aulas en los últimos años, siendo empleado tanto por estudiantes como por docentes para realizar tareas académicas. No obstante, este auge ha traído consigo problemáticas vinculadas a su uso fuera del ámbito educativo.
Un caso reciente destacado involucra a un graduado en Derecho que fue despedido de manera fulminante tras utilizar ChatGPT para redactar un escrito legal con errores y citas falsas. La corte de Utah detectó en el documento al menos una cita inventada, además de otros casos mal citados, lo que afectó negativamente la credibilidad del profesional y del propio sistema judicial.
El bufete responsable del escrito afirmó que el graduado actuaba como auxiliar legal sin licencia y que no informaron previamente del empleo de inteligencia artificial en la elaboración del documento. Posteriormente, la firma decidió implementar políticas internas para regular el uso de estas herramientas tras el incidente. La corte sancionó al graduado, quien además deberá pagar honorarios a la parte contraria y donar 1.000 € a la ONG And Justice For All, que promueve el uso responsable de la IA en el ámbito legal y exige supervisión en los documentos generados por estos modelos.
Este caso ha puesto de manifiesto los riesgos de confiar ciegamente en la inteligencia artificial sin la debida verificación. La corte advirtió sobre la peligrosidad de aceptar sin cuestionamiento la información producida por una IA, ya que puede generar «alucinaciones» o datos falsos si no se revisan cuidadosamente.
El incidente refuerza la recomendación para profesores e instituciones de no depender únicamente de herramientas como ChatGPT en tareas profesionales o académicas, fomentando siempre la supervisión humana y la rigurosidad en la comprobación de la información. La tendencia actual y los múltiples casos emergentes subrayan la necesidad de un uso responsable y consciente de esta tecnología para evitar errores con consecuencias legales o académicas negativas.