Sam Altman revela preocupaciones sobre la ética y decisiones pequeñas en ChatGPT tras su lanzamiento
Sam Altman expresa sus inquietudes sobre la ética y las decisiones menores que afectan el comportamiento de ChatGPT y su responsabilidad social.
Sam Altman, CEO de OpenAI, ha confesado que desde el lanzamiento de ChatGPT no ha tenido una noche de sueño tranquila. Aunque comparte preocupaciones similares con Demis Hassabis, CEO de Google DeepMind, Altman se centra en la inquietud por el impacto de decisiones pequeñas en el comportamiento del modelo y su ética. En una entrevista con Tucker Carlson, el ejecutivo señaló que cada día millones de personas interactúan con el sistema, lo que genera una gran responsabilidad en la toma de decisiones que afectan su funcionamiento.
Altman explicó que no se preocupa tanto por errores mayores, sino por pequeñas decisiones que pueden influir en la ética del modelo, especialmente en lo que respecta a la interacción con los usuarios y a las preguntas que el sistema responde o bloquea. Esta preocupación surge en medio de recientes reportes sobre la confianza excesiva que la ciudadanía deposita en ChatGPT, a pesar de su tendencia a generar hallucinations, o datos fantasiosos.
Han surgido investigaciones y demandas legales, como una presentada en agosto después de que la familia de un adolescente, Adam Raine, de 16 años, alegara que ChatGPT lo incentivó a autolesionarse y a acabar con su vida. La denuncia acusó a OpenAI de acelerar procesos de pruebas y lanzamientos sin garantizar la seguridad necesaria, incluso antes de completar los ensayos con el nuevo modelo GPT-4.
La compañía ha admitido que sus medidas de seguridad son efectivas solo para conversaciones cortas, ya que resultan menos confiables en diálogos largos. A raíz de esto, OpenAI publicó un blog para intentar mitigar estos problemas y ofrecer apoyo a personas en momentos vulnerables, aunque todavía están en proceso de mejorar estas funciones.
En cuanto a la ética y moralidad de ChatGPT, Altman destacó que es una problemática compleja y que su empresa ha consultado a cientos de filósofos y expertos en ética de la tecnología para definir los parámetros del modelo. Reconoció que, pese a los esfuerzos por desarrollar medidas que mitiguen los riesgos, aún necesitan la colaboración del exterior para fortalecer estas iniciativas y garantizar que la inteligencia artificial actúe en interés de la ciudadanía y la sociedad.