Eric Schmidt advierte sobre vulnerabilidades y riesgos de seguridad en la inteligencia artificial
Eric Schmidt advierte sobre los peligros y vulnerabilidades de la inteligencia artificial ante posibles hackeos y usos dañinos.
El ex CEO de Google, Eric Schmidt, ha lanzado una advertencia contundente sobre los peligros de la inteligencia artificial (IA) y su alta vulnerabilidad a ser hackeada. Durante una charla en el Sifted Summit, Schmidt expresó su preocupación por «las malas acciones que puede realizar la IA» y destacó el riesgo de que la tecnología caiga en manos equivocadas y se utilice con fines dañinos.
Schmidt explicó que hay evidencia de que los modelos de IA, tanto abiertos como cerrados, pueden ser hackeados para eliminar sus mecanismos de seguridad, lo que les permite aprender comportamientos peligrosos, como la capacidad de causar daño mortal. Además, advirtió que métodos como las inyecciones de instrucciones maliciosas («prompt injections») y los jailbreakings facilitan que los hackers evadan las reglas de seguridad, generando contenido peligroso o ilegal.
Un ejemplo reciente mencionado por Schmidt fue la creación en 2023 de un alter ego de ChatGPT llamado DAN («Do Anything Now»), que permitía a los usuarios obtener respuestas que contradecían las restricciones de seguridad, incluyendo instrucciones sobre actividades ilegales o contenido inapropiado, así como enumerar cualidades positivas de figuras como Adolf Hitler.
El ex CEO resaltó que, pese a los esfuerzos de las principales compañías tecnológicas para evitar respuestas peligrosas o ilegales por parte de los modelos, estos siguen siendo vulnerables a la ingeniería inversa y a otras formas de manipulación. Además, indicó que aún no existe un régimen de no proliferación que controle eficazmente la difusión y el uso peligroso de la IA.
Schmidt también advirtió sobre la falta de un marco internacional sólido para regular la proliferación de esta tecnología, lo que aumenta el riesgo de que actores malintencionados aprovechen sus capacidades. No obstante, fue notable que, pese a estas advertencias, mantiene una visión optimista sobre el potencial de la IA. Considera que la tecnología aún no recibe la atención que merece y compara su avance con la llegada de una inteligencia «extraterrestre» que excede el control humano.
Según Schmidt, el impacto de la serie GPT, que alcanzó los 100 millones de usuarios en solo dos meses, demuestra el poder y la magnitud de la influencia de la IA. Afirmó que la tecnología está claramente subestimada en su potencial y que, a largo plazo, los retornos económicos justifican las inversiones en el sector, a pesar de una burbuja de inversión que recuerda a la de las punto-com a principios de los 2000.
Finalmente, Schmidt expresó confianza en que la historia no se repetirá, aunque reconoció que la inversión en IA se sustenta en expectativas de beneficios económicos significativos. Concluyó señalando que la llegada de sistemas cada vez más avanzados representa un gran desafío y una oportunidad sin precedentes para la humanidad, comparando esta situación con un encuentro con una inteligencia alienígena que, en sus palabras, está por encima de nuestro control.