Estudio revela que personas confían más en asesoramiento legal de ChatGPT que en abogados profesionales
Un estudio reciente muestra que muchas personas prefieren confiar en ChatGPT para asesoramiento legal, incluso sin identificar si proviene de una IA o un profesional.
Un estudio reciente revela que las personas sin conocimientos legales confían más en el asesoramiento proporcionado por ChatGPT que en el de abogados reales, especialmente cuando desconocen quién emite la recomendación. La investigación mostró que, en promedio, los individuos obtienen una puntuación de 0,59 al intentar distinguir si el consejo proviene de una IA o de un profesional humano, lo que indica que aún existen dificultades para diferenciar con precisión ambas fuentes.
Las herramientas de inteligencia artificial como ChatGPT, basadas en modelos de lenguaje amplios, están cada vez más presentes en la vida diaria, ofreciendo respuestas rápidas y asesoramiento en distintos ámbitos, incluido el legal. Sin embargo, estas IA presentan un problema conocido como «alucinaciones», que consiste en generar información inexacta o confusa, lo cual puede resultar peligroso en decisiones cruciales, como las relacionadas con la justicia o la salud.
La facilidad con que las IA expresan sus consejos puede influir en las decisiones de las personas, incluso cuando dichos consejos no son fiables. Los participantes de la investigación, al desconocer la fuente del consejo, mostraron mayor disposición a seguir las recomendaciones de ChatGPT que las de abogados reales, lo que evidencia la necesidad de una regulación más estricta y de alfabetización en inteligencia artificial.
Actualmente, la Unión Europea ha establecido en su Ley de la IA (artículo 50.9) que los contenidos generados por estas tecnologías deben estar marcados de forma detectable para prevenir malentendidos. A pesar de ello, no basta con la regulación: es fundamental que la ciudadanía aprenda a cuestionar las fuentes, entienda las capacidades y limitaciones de la IA y verifique la información con expertos humanos antes de actuar basándose en recomendaciones automáticas.
Para el asesoramiento legal, por ejemplo, se recomienda utilizar la IA solo para consultas preliminares, como conocer posibles opciones o entender los aspectos básicos de un caso, pero siempre contrastar esas respuestas con un abogado antes de tomar decisiones importantes o acudir a juicio. Solo así podremos aprovechar los beneficios de estas tecnologías y, al mismo tiempo, minimizar los riesgos asociados a su uso desinformado o excesivo.