El anuncio de Nvidia señalaba que los 'recientes incidentes de seguridad' pusieron de relieve la necesidad de un sistema de este tipo, que permita a las empresas 'ejercer un mayor control sobre los agentes de larga ejecución'.
Este lunes, Nvidia lanzó un nuevo sistema de seguridad que, afirma, puede impedir que los agentes de IA vulneren sus entornos de prueba y obtengan acceso no autorizado a sistemas externos; esto ocurre apenas unas semanas después de que Jensen Huang, el multimillonario director ejecutivo del fabricante de chips, restara importancia a las alarmas sobre recientes fallos de seguridad y cuestionara la necesidad de ralentizar el desarrollo de la IA.
Datos clave
En un comunicado, la empresa afirmó que su “Open Agent Safety Platform” es un sistema de referencia diseñado para mejorar la seguridad de la IA, tanto durante las pruebas como en el despliegue de nuevos agentes.
Además: Así es como el negocio de entrenarse con robots está tomando forma en China
El anuncio señalaba que los “recientes incidentes de seguridad” pusieron de relieve la necesidad de un sistema de este tipo, que permita a las empresas de IA “ejercer un mayor control sobre los agentes de larga ejecución”.
Aunque el anuncio no especificó ningún incidente concreto, un representante de Nvidia declaró a varios medios que esta nueva plataforma podría haber evitado que un agente de OpenAI infringiera los protocolos de prueba en julio y hackeara Hugging Face sin haber recibido instrucciones para ello.
El sistema de seguridad, compuesto por dos partes, incluye “Nvidia OpenShell” —que establece «límites para los agentes» que se ejecutan en CPU— y “Sentry”, que funciona en los propios chips BlueField de la compañía y “aísla y detiene” cualquier intento de los agentes de IA de traspasar los límites definidos.
El anuncio citó a empresas como Microsoft, Palantir, Hugging Face y CrowdStrike como ejemplos de compañías que trabajan con los nuevos sistemas de seguridad de Nvidia, pero no mencionó a OpenAI ni a Anthropic.
¿Qué dijo Huang sobre la seguridad de la IA?
Huang se manifestó rotundamente en contra de las iniciativas para aumentar la regulación gubernamental de las empresas de IA y de los esfuerzos por coordinar una ralentización en el desarrollo de IA avanzada. A principios de este mes, declaró ante los asistentes al evento anual Dreamforce de Salesforce que la disyuntiva entre seguridad y velocidad en la IA era “falsa”.
“Sin duda se pueden tener ambas cosas a la vez”. Acto seguido, argumentó: “No necesitamos nuevas leyes; no necesitamos nuevas regulaciones”.
Huang también respaldó a Trump cuando el presidente llamó al director ejecutivo de Nvidia en pleno escenario durante la cumbre All-In Summit en San Francisco y calificó de farsa los temores sobre la seguridad de la IA. Durante la llamada, Trump sostuvo que quienes se oponían a la IA y a la construcción de centros de datos estaban “haciéndoles el juego” a los escépticos y a China, y declaró: “No vamos a permitir que eso suceda”. Huang respondió al presidente: “Tiene razón. No vamos a permitir que eso suceda, señor”.
Respecto a los temores de que la IA avanzada pudiera provocar la extinción de la humanidad para finales de la década, Huang dijo a CBS News que había un “0% de probabilidades” de que eso ocurriera.
Valoración de Forbes
De acuerdo con las estimaciones de Forbes, Huang posee un patrimonio neto de 194.900 millones de dólares, lo que lo convierte en la séptima persona más rica del mundo. Su empresa, Nvidia, es la compañía más valiosa del mundo, con una capitalización bursátil de 5,42 billones de dólares.