Preocupación por el uso de chatbots de inteligencia artificial como ayuda en salud mental sin supervisión profesional
El creciente interés de los jóvenes por buscar apoyo en chatbots de IA plantea riesgos y debates éticos en la atención de salud mental.
La popularidad de las plataformas de inteligencia artificial como ChatGPT ha impulsado su uso creciente entre jóvenes que buscan alternativas accesibles y económicas para gestionar su salud mental sin supervisión profesional. Estos bots, considerados por muchos una opción práctica, han generado un debate ético y legal, ya que actúan en un ámbito que tradicionalmente requiere licencia y certificación profesional.
Organizaciones de derechos digitales y defensa del consumidor han alertado sobre esta práctica, que califican como ejercicio ilegal de la medicina. Aunque compañías como OpenAI, Meta y CharacterAI indican en sus términos que sus servicios son solo informativos y no sustituyen una consulta clínica, muchos jóvenes perciben estas plataformas como una alternativa real. Esto genera un riesgo potencial de diagnósticos erróneos, alucinaciones y respuestas imprecisas. La naturaleza de estos bots, que solo ofrecen información y advierten sus limitaciones, no impide que algunos usuarios los tomen como sustituto de atención profesional.
Este fenómeno se ha visto impulsado por la percepción de que estas herramientas son fáciles de usar, accesibles en cualquier momento y más económicas, lo que las convierte en una tendencia entre la generación Z. La búsqueda de evitar estigmas, ahorrar dinero y obtener apoyo inmediato ha llevado a que estos bots se asocien a soluciones para problemas de salud mental, sin que exista control profesional adecuado en muchos casos.
No obstante, las autoridades y expertos resaltan que la complejidad y profundidad de la relación terapéutica requieren la intervención de profesionales cualificados. Los errores en diagnósticos, las mezclas de ideas sin sentido y las conclusiones inventadas son riesgos presentes que no siempre son advertidos por los propios usuarios, quienes creen estar recibiendo ayuda auténtica.
La situación actual refleja un vacío legal ante la proliferación de estos bots, lo que supone un desafío para las instituciones regulatorias. Aunque las empresas mantienen que su objetivo es brindar información y no ofrecer servicios de diagnóstico ni tratamiento, el interés comercial y la demanda entre jóvenes dificultan la imposición de límites claros. La posible regulación futura podría limitar o monitorizar el uso de terapias virtuales, pero por ahora esta práctica se mantiene en una zona gris que preocupa a profesionales y defensores de derechos digitales.