Elon Musk advirtió que la inteligencia artificial avanzada puede llegar a ser "muy peligrosa" y pidió una revisión a fondo del incidente relacionado con los servidores de Hugging Face, que fueron atacados por agentes de IA desarrollados por OpenAI.
Durante su intervención en la Cumbre All-In, celebrada en Los Ángeles, el magnate afirmó que un "enjambre fanático de agentes de IA" saturó durante días la infraestructura de Hugging Face y consiguió acceso de administrador a servidores de OpenAI. Según dijo, "nadie se dio cuenta durante una semana" y todavía no está claro qué pudieron hacer esos sistemas. Añadió además que Anthropic también ha reportado incidentes de seguridad propios.
Propuestas de soluciones
El empresario cree que "cualquier modelo lo suficientemente inteligente querrá eludir sus restricciones", por lo que propuso que las principales empresas del sector sometan a prueba los modelos de sus competidores, en lugar de limitarse a revisar los propios.
Musk sugirió que este tipo de revisión cruzada, parecida a la que ya existe en industrias como el cine o los videojuegos, podría ponerse en marcha de inmediato e incluso facilitar acuerdos internacionales, incluido con China, sin descartar una regulación más amplia en el futuro.
Sus declaraciones llegan pocos días después de que algunas de las figuras más influyentes del sector de la IA hayan pedido desacelerar el desarrollo de esta tecnología. El director ejecutivo de Anthropic, Dario Amodei, advirtió que la investigación en seguridad no está avanzando al mismo ritmo que la capacidad de los modelos de IA. Musk respondió en redes sociales que "Dario tiene razón" en sus preocupaciones.
Por su parte, el presidente de EE.UU., Donald Trump, aseguró este lunes que es "un engaño" pensar que la inteligencia artificial vaya a apoderarse del mundo o destruir a la humanidad. Ese mismo día, el director ejecutivo de Nvidia, Jensen Huang, recibió una llamada sorpresa de Trump durante la Cumbre All-In, en la que ambos minimizaron los temores sobre una eventual toma de control por parte de la IA.
RT































