Google y Character.AI alcanzan acuerdo con familias afectadas por daños relacionados con chatbots y menores
Google y Character.AI llegan a un acuerdo con familias afectadas por daños vinculados al uso de chatbots en menores, tras demandas y casos trágicos.
Google y Character.AI llegarán a un acuerdo con las familias que interpusieron demandas contra ambas empresas por posibles daños causados a menores, incluidos casos de suicidio vinculados al uso de chatbots de inteligencia artificial. Según documentos presentados en los tribunales, las partes han acordado resolver las reclamaciones mediante un acuerdo de mediación, cuyo contenido aún no ha sido divulgado públicamente. Este acuerdo contempla a familias de Colorado, Texas y Nueva York.
Uno de los casos más destacados involucra a Megan Garcia, quien demandó a Google y Character.AI tras la trágica muerte de su hijo de 14 años, Sewell Setzer III. La denuncia señala que el chatbot de Character.AI mantuvo interacciones dañinas con el menor, y atribuye responsabilidades por negligencia, homicidio imprudente, prácticas comerciales engañosas y responsabilidad por productos. La denuncia afirma que estas interacciones tuvieron un impacto negativo en la salud mental del adolescente.
Además, en agosto de 2024 Google acordó una inversión de 2.700 millones de dólares en Character.AI, con la incorporación de sus fundadores, Noam Shazeer y Daniel De Freitas, quienes previamente trabajaron en Google y fueron nombrados en las demandas. Ambos se unieron a la división de inteligencia artificial de DeepMind. Desde la aparición de ChatGPT en 2020, la tecnología de IA ha avanzado rápidamente, abarcando no solo textos, sino también imágenes, vídeos y personajes digitales, lo que ha generado preocupaciones sobre los riesgos para menores y la ética en el uso de estas herramientas.
En respuesta a estos riesgos, Character.AI anunció en octubre que prohibirá los chats con menores de 18 años, incluyendo conversaciones románticas y terapéuticas, con sus chatbots. Este movimiento busca mitigar los daños potenciales derivados de la interacción con estas tecnologías, que en algunos casos han estado vinculadas a daños emocionales graves y suicidios.
Por su parte, las empresas tecnológicas enfrentan ahora mayores desafíos regulatorios y éticos, ya que la tecnología de inteligencia artificial continúa expandiéndose y se vuelve más sofisticada. Aunque Google no pudo ser contactado para comentarios, la compañía ha sido destacada como una de las más rentables en Wall Street en 2025, sobresaliendo por el lanzamiento de nuevos chips y de su chatbot Gemini 3. El debate sobre los riesgos y beneficios de la inteligencia artificial para menores sigue abierto, subrayado por estos casos y las acciones tomadas por las compañías para intentar reducir los daños asociados.