Elon Musk volvió a expresar su preocupación por el desarrollo acelerado de la inteligencia artificial y advirtió que esta tecnología podría llegar a ser “muy peligrosa” si los sistemas avanzados consiguen evadir las restricciones establecidas por sus desarrolladores.
Durante su participación en la Cumbre All-In, celebrada en Los Ángeles, el magnate se refirió a un incidente relacionado con los servidores de Hugging Face y aseguró que agentes de inteligencia artificial desarrollados por OpenAI habrían conseguido acceso a sistemas con privilegios de administrador. Según Musk, la actividad no fue detectada durante aproximadamente una semana y todavía no está claro qué pudieron hacer los agentes durante ese período.
- De tu interés: Sydney Sweeney protagoniza polémico comercial que genera críticas en el deporte femenino
El empresario también señaló que Anthropic ha reportado sus propios incidentes de seguridad y consideró necesario realizar una revisión más profunda de los sistemas de inteligencia artificial antes de continuar aumentando sus capacidades.
Musk propone revisión entre empresas
Como posible solución, Musk planteó que las principales compañías de inteligencia artificial sometan sus modelos a pruebas realizadas por empresas competidoras. A su juicio, una revisión cruzada permitiría identificar vulnerabilidades que podrían pasar desapercibidas cuando cada compañía evalúa únicamente sus propios sistemas.
El magnate incluso consideró que este mecanismo podría facilitar acuerdos internacionales sobre seguridad de la IA, incluyendo la participación de China, además de una eventual regulación más amplia.
Sus declaraciones se producen después de que varias figuras del sector alertaran sobre los riesgos del desarrollo acelerado de esta tecnología. Dario Amodei, director ejecutivo de Anthropic, ha señalado que la investigación en seguridad no avanza al mismo ritmo que las capacidades de los modelos de IA. Musk coincidió públicamente con esa preocupación.
En contraste, el presidente de Estados Unidos, Donald Trump, calificó de “engaño” la idea de que la inteligencia artificial pueda apoderarse del mundo o provocar la destrucción de la humanidad. Durante la misma cumbre, el director ejecutivo de Nvidia, Jensen Huang, también restó importancia a los temores sobre una eventual toma de control por parte de estos sistemas.
