OpenAI lanza ChatGPT Health, pero persisten dudas sobre la seguridad y la confianza en los datos médicos

OpenAI presenta ChatGPT Health, pero surgen dudas sobre la protección de datos y la confianza en la información médica generada por IA.

OpenAI prometió nuevas formas de apoyar tu atención médica con IA al lanzar ChatGPT Health este mes. La función más reciente del chatbot se centra en la salud, con una clínica virtual dedicada capaz de procesar tus registros médicos electrónicos (EMR) y datos de aplicaciones de fitness y salud para ofrecer respuestas personalizadas sobre análisis clínicos, dieta, ejercicio y preparación para visitas médicas.

Con más de 230 millones de personas haciendo preguntas sobre salud y bienestar cada semana, ChatGPT Health era inevitable. Pero a pesar del énfasis de OpenAI en el valor de ChatGPT Health y su garantía de mayor seguridad y privacidad, no me suscribiré en el corto plazo.

El problema central es la confianza. Por mucho que me haya impresionado ChatGPT y la mayoría de sus funciones, sigo siendo escéptico respecto a que una herramienta capaz de generar respuestas erróneas de forma ocasional pueda usarse para algo más que preguntas básicas de salud.

Y aunque confiara en ChatGPT como asesor personal de salud, no quiero entregarle mis datos médicos reales. Ya he compartido algunos detalles de mi vida con ChatGPT mientras probaba sus capacidades y en ocasiones me he sentido incómodo al hacerlo. Me resulta mucho menos tranquilizador añadir mis EMR. Me resisto a la idea de proporcionar a una empresa con fines de lucro y un historial imperfecto en seguridad de datos acceso a mi información médica más sensible.

Entiendo que ChatGPT Health pueda atraer a las personas, incluso con todas sus limitaciones sobre lo que puede y no puede hacer por ti. Los sistemas sanitarios son complicados, a menudo saturados y pueden suponer un gasto elevado. ChatGPT Health ofrece explicaciones más claras de la jerga médica, destaca puntos importantes para tratar con el médico o enfermero antes de la cita y analiza al instante resultados clínicos confusos.

ChatGPT Health seduce al ofrecer conocimientos que hasta ahora solo estaban disponibles por canales profesionales. Es un argumento atractivo, especialmente si no tienes acceso regular a atención médica. Pero la combinación de información sanitaria personal valiosa y el historial de errores de la IA es una mezcla poco saludable.

Las respuestas erróneas o ficticias son ya graves sin necesidad de que la medicina requiera mayor precisión. No es que me oponga a hacer preguntas sobre salud o ejercicio a ChatGPT, pero eso dista mucho de lo que sugiere compartir ChatGPT Health.

Suscríbete para recibir noticias de última hora, análisis, opinión, las mejores ofertas tecnológicas y más.

«Explorar una pregunta aislada de salud es fundamentalmente distinto a dar acceso a una plataforma a todo tu historial médico y tus registros de vida», explicó Alexander Tsiaras, fundador y CEO de la plataforma de datos médicos StoryMD. «La confianza será el reto principal, no solo para las personas, sino para todo el sistema sanitario. Esa confianza depende de la transparencia: cómo se ingieren los datos, cómo se previenen las falsas respuestas, cómo se incorpora la evidencia clínica longitudinal con el tiempo y si la plataforma opera dentro de marcos regulatorios establecidos, incluido HIPAA».

OpenAI no es un proveedor sanitario. HIPAA (Health Insurance Portability and Accountability Act) y sus estrictas obligaciones legales y salvaguardas para tu información médica no son aplicables. Por tanto, aunque OpenAI prometa tratar con cuidado y seguridad cualquier dato de salud que conectes o cargues en ChatGPT Health, no está claro que tengan la misma motivación legal para hacerlo.

Cuando los datos quedan fuera del alcance de HIPAA, debes confiar en las políticas e intenciones de la empresa sin contar con los estándares exigibles de HIPAA. Algunos defienden que los compromisos de privacidad de OpenAI son suficientes (especialmente sus abogados).

La mayoría coincide en que la información médica íntima debe protegerse con la máxima rigurosidad legal. Pero los usuarios de ChatGPT Health estarán en una posición delicada, sobre todo porque las políticas y condiciones de servicio pueden cambiar con poca antelación y escasas opciones de recurso.

La segregación de las conversaciones de salud en ChatGPT Health y la posibilidad de eliminar datos son buenas medidas, pero una vez fuera del sistema sanitario tradicional, hay que considerar otro tipo de vulnerabilidades. Los titulares sobre la dificultad que tienen las grandes plataformas tecnológicas para garantizar una protección total ante filtraciones y ataques informáticos son demasiado frecuentes.

Los riesgos sobre tus datos aumentan incluso por parte de agencias legítimas. La información médica privada puede estar sujeta a citaciones judiciales, procesos legales o solicitudes forzosas. En ocasiones, las empresas deben entregar registros privados para atender órdenes judiciales o requerimientos gubernamentales. HIPAA ofrece defensas mucho más sólidas frente a estas presiones legales que las leyes de privacidad estándar del sector tecnológico bajo las que opera ChatGPT.

Garantizar una atención sanitaria asequible y accesible es un objetivo loable. Pero la privacidad, confianza y supervisión humana significativa no pueden ser víctimas de ese empeño. La ciudadanía ya está preocupada por cómo sus datos son recogidos y usados por plataformas de IA. Centralizar aún más información sensible en una única empresa comercial no reducirá esas inquietudes.

Hay una conversación más amplia que abordar sobre la incorporación de la IA en sistemas de los que dependen las personas. La IA puede ser una gran ayuda para la atención médica. Pero no puede basarse en la entrega de datos personales a una seguridad y protección inciertas.

«Estos son requisitos básicos», señaló Tsiaras. «Lo que la gente realmente necesita es un historial médico clínicamente fiable y longitudinal que permita una interacción significativa entre paciente y proveedor, no una capa más de ruido».

Sigue a TechRadar en Google News y añádenos como fuente preferida para recibir nuestras noticias, análisis y opinión en tus feeds. No olvides pulsar el botón de seguir.

También puedes seguir a TechRadar en TikTok para ver noticias, análisis y unboxings en vídeo, además de recibir actualizaciones regulares en WhatsApp.

➡️ Consulta nuestra guía completa sobre los mejores portátiles para empresas. 1. Mejor en general: Dell Precision 5690. 2. Mejor calidad-precio: Acer Aspire 5. 3. Mejor MacBook: Apple MacBook Pro 14 pulgadas (M4).