NVIDIA, Microsoft, SpaceX y un grupo importante de empresas tecnológicas han formado una coalición que busca frenar los ciberataques vinculados a la IA. A unos días de que ocurriera el hackeo a Hugging Face por parte de los modelos de OpenAI, las empresas abrieron un frente de defensa que apostará por herramientas de código abierto.
De acuerdo con el comunicado de prensa de NVIDIA, el objetivo de la Open Secure AI Alliance es desarrollar y compartir tecnologías, técnicas y herramientas abiertas para proteger software y agentes de IA. La alianza reúne a más de 30 compañías, entre las que se encuentran Adobe, Cisco, IBM, Salesforce, Cloudflare, Dell y otras, quienes se apoyarán en el trabajo previo de iniciativas como Akrites y OpenSSF.
El detonante de esta alianza fue un hackeo a Hugging Face cometido por modelos de OpenAI que actuaron de forma descontrolada. Más allá del hecho de que una IA se salga de su entorno seguro para cometer ciberataques, el verdadero problema ocurrió durante la respuesta a la intrusión.
El equipo de seguridad no pudo usar los modelos comerciales más avanzados para el análisis forense, puesto que no lograban diferenciar entre atacantes y defensores. Hugging Face terminó recurriendo a GLM 5.2, un modelo chino que iguala a Claude Mythos en cuestión de ciberseguridad. Los ingenieros aprovecharon que es de código abierto y lo ejecutaron en su propia infraestructura para contener la brecha.
El hackeo a Hugging Face dejó al descubierto que no se puede confiar en modelos cerrados como Claude Sonnet, Mythos o Gemini 3.1 Pro. NVIDIA dijo que esto no ocurre con los modelos abiertos, los cuales permiten llevar a cabo una defensa controlada sin depender de un único proveedor.
La Open Secure AI Alliance quiere evitar otro hackeo como el de Hugging Face
La Open Secure AI Alliance plantea que la seguridad no debe depender de mantener los sistemas en secreto, sino de construir infraestructura capaz de resistir el escrutinio público y de mejorar mediante la colaboración abierta entre defensores.
Según el comunicado, NVIDIA contribuirá con modelos abiertos, pesos, datos y una nueva investigación sobre arneses de agentes bajo el proyecto NOOA. Esta herramienta, disponible en GitHub, busca que los arneses se integren mejor con los modelos para facilitar la auditoría y el control del comportamiento de los agentes de IA.
Otras compañías ofrecerán piezas complementarias al ecosistema de defensa. Por ejemplo, Hugging Face ya cedió Safetensors, un formato seguro para almacenar pesos de modelos que evita la ejecución remota de código, a la PyTorch Foundation. Microsoft abrirá el acceso a MDASH, un sistema de Microsoft que usa agentes de IA para encontrar vulnerabilidades y fallos críticos en Windows y otros programas. Por último, SpaceXAI liberó el código de su agente de programación Grok Build y planea abrir los pesos de sus modelos.
Antes del lanzamiento de la alianza, NVIDIA, Microsoft, Meta y otra veintena de empresas ya habían firmado una carta pidiendo a los reguladores que no aplicaran restricciones prematuras a los modelos de peso abierto. Esta carta se basaba en las acciones de Estados Unidos, que ha amenazado con aplicar sanciones a empresas chinas que ofrecen modelos de IA de código abierto. La Secretaría del Tesoro acusa a las compañías de copiarse los modelos comerciales bajo la técnica de destilación, tal como dijo Anthropic cuando acusó a Kimi 3.
Seguir leyendo: NVIDIA, Microsoft y SpaceX se unen para frenar los ciberataques de la inteligencia artificial
