Ex empleados de OpenAI solicitan detener su transformación en empresa lucrativa por riesgos en seguridad y control público

Ex empleados y expertos advierten sobre los riesgos de que OpenAI cambie su estructura y prioridades, poniendo en riesgo su misión y seguridad.

Ex empleados de OpenAI han solicitado a las principales autoridades de California y Delaware que detengan el proceso de transformación de la organización, que actualmente busca cambiar de una entidad sin fines de lucro a una empresa con fines lucrativos. Esta petición surge ante la preocupación de que dicho cambio pueda reducir el control público y la responsabilidad en el desarrollo de la inteligencia artificial, incrementando los riesgos asociados a su uso y seguridad.

OpenAI, fundada originalmente como una organización sin fines de lucro por figuras como Elon Musk y Sam Altman, anunció su intención de convertirse en una corporación de beneficios públicos, manteniendo una rama sin fines de lucro. La estructura propuesta busca equilibrar el crecimiento económico con la misión pública que nutrió su creación, incluyendo la preservación de una filial sin fines de lucro. La compañía asegura que esta modificación estructural facilitará que el éxito financiero también beneficie a su objetivo social.

Sin embargo, ex empleados y expertos en ética y seguridad en inteligencia artificial expresan preocupaciones sobre las posibles consecuencias de esta transición. Temen que, al convertirse en una empresa con fines lucrativos, OpenAI podría relajar las medidas de seguridad y prudencia en el desarrollo de inteligencia artificial avanzada, con el posible aumento del riesgo de accidentes o de un uso malintencionado de la tecnología.

Las autoridades de Delaware y California están revisando la estructura y los planes de OpenAI, incluyendo consultas previas en ambas jurisdicciones. Hasta ahora, no han emitido una postura oficial ni han anunciado una investigación formal, aunque la situación está siendo monitorizada de cerca. La organización busca defender su estructura, argumentando que cualquier cambio busca garantizar que una vez lograda la inteligencia artificial general, los beneficios lleguen a toda la sociedad.

El caso ha generado un debate sobre la misión y la gobernanza de las empresas de inteligencia artificial, en un contexto donde los fondos y activos benéficos que posee OpenAI, valuados en alrededor de 300 mil millones de dólares, son considerados por algunos ex empleados como un potencial conflicto con los principios originales de seguridad y responsabilidad. La disputa incluye también un proceso legal iniciado por Elon Musk, quien acusa a OpenAI y a su CEO Sam Altman de traicionar los principios fundacionales.

Expertos y ex empleados, como Geoffrey Hinton y Stuart Russell, han manifestado públicamente su preocupación por el posible impacto de la transformación en las medidas de seguridad. Hinton, ganador del Nobel en física, manifestó su deseo de que OpenAI implemente su misión en lugar de priorizar las ganancias, mientras que otros advierten que sin la supervisión adecuada, la organización podría desarrollar tecnologías que representen un riesgo para la humanidad.