Jensen Huang parece restarle importancia al aumento de las preocupaciones expresadas por investigadores de IA en los últimos días.
El multimillonario Jensen Huang, CEO de Nvidia, pareció restarle importancia al aumento de las preocupaciones expresadas por investigadores de IA en los últimos días. Según informes, durante una conferencia de Goldman Sachs dijo al público que la ciberseguridad sería el “próximo gran caso de uso” de la IA y que las empresas de inteligencia artificial estaban tratando de generar demanda para un producto futuro.
Datos clave
“¿Qué mejor manera de crear demanda que crear un problema?”, dijo Huang al público durante una conferencia de Goldman Sachs en San Francisco, antes de preguntar: “¿Quién no quiere que su mercado esté histérico por su producto y haga fila alrededor de la esquina para conseguirlo?”.
El multimillonario afirmó que “la industria se está preparando para lanzar algunos productos”, lo que explica la “creación de demanda en torno a nuestra seguridad actual”.
Además: Anthropic afirma haber bloqueado una posible iniciativa relacionada con armas biológicas
Los comentarios de Huang se producen mientras un subcomité del Senado investiga el incidente en el que los agentes autónomos de OpenAI se salieron de control y piratearon Hugging Face, una plataforma externa que aloja modelos de IA. Esto ocurrió después de que un investigador de Anthropic advirtiera al personal de la empresa que “cree sinceramente que la IA podría acabar con todos los seres humanos”.
Tangente
El multimillonario Elon Musk, director de Tesla y SpaceX, comparó el miércoles estas advertencias con un “montaje” y posteriormente las calificó como una “operación psicológica (por falta de un término mejor)”.
Valoración según Forbes
Estimamos que el patrimonio neto de Huang asciende a 189.300 millones de dólares, lo que lo convierte en la octava persona más rica del mundo hasta el jueves.
Gran parte de su riqueza procede de su participación de aproximadamente el 3% en Nvidia, la empresa de diseño de chips que cofundó en 1993 y que posteriormente sacó a bolsa. Nvidia se ha beneficiado enormemente del auge de la IA hasta convertirse en la empresa más valiosa del mundo.
Recientemente, Nvidia compró Hugging Face por 12.900 millones de dólares, adquiriendo la plataforma de alojamiento de modelos de IA de código abierto que fue objeto del incidente de piratería ocurrido en julio.
Contexto clave
Los laboratorios de IA de frontera han estado emitiendo cada vez más advertencias sobre los problemas de seguridad y protección a medida que avanza esta tecnología.
“Actualmente creo que ningún laboratorio ha resuelto la alineación y la supervisión hasta un grado suficiente como para seguir ampliando responsablemente la tecnología a máxima velocidad durante mucho más tiempo”, escribió a principios de esta semana Jakub Pachocki, científico jefe de OpenAI, en una publicación de blog, antes de pedir a los laboratorios de IA que realizaran “ralentizaciones voluntarias”.
El miércoles, Chris Lehane, director de asuntos globales de OpenAI, pidió una regulación federal y normas de seguridad obligatorias para esta tecnología.
El jueves, Anthropic publicó un extenso informe sobre el uso indebido de su chatbot Claude. El documento incluía casos relacionados con ciberataques, vigilancia por parte de países adversarios e incluso el posible uso de la IA para desarrollar armas biológicas.