El director ejecutivo de OpenAI, Sam Altman, argumentó que la inteligencia artificial proporcionará beneficios significativos que justifican la compensación de aceptar "algunos aspectos negativos" derivados de la tecnología, y marcó una clara diferencia entre su empresa y su principal rival, Anthropic, afirmando que OpenAI cree en una regulación mucho más "flexible" a pesar de las recientes preocupaciones sobre seguridad.
Datos clave
En una entrevista con el boletín informativo Decoded de Politico , Altman dijo: “Creemos que el mundo debería aceptar que sucedan algunas cosas malas en aras de los beneficios de esta tecnología y de que las personas tengan mayor capacidad de decisión”.
El director ejecutivo de OpenAI afirmó que cree que la gente hará “muchísimas más” cosas buenas en lugar de cosas malas utilizando la IA.
Altman afirmó que existía una clara diferencia entre OpenAI y Anthropic, y que no está de acuerdo con quienes creen que la IA es tan peligrosa que “un solo laboratorio en San Francisco debería tenerla y asegurarse de que no ocurra nada malo”.
A pesar de haber coincidido públicamente el mes pasado con las peticiones de ralentización del desarrollo por parte del CEO de Anthropic, Dario Amodei, Altman afirmó que su empresa cree en una “postura regulatoria menos estricta”.
El director ejecutivo de OpenAI también argumentó que no cree en las alarmantes advertencias sobre “riesgos realmente catastróficos” relacionados con la IA, incluidos los temores de “una grave pérdida de control” de la tecnología por parte de los humanos.
Crítico principal
El gobernador de Florida, Ron DeSantis, respondió al comentario de Altman con una publicación en X que decía: “¿Y un puñado de oligarcas tecnológicos pueden tomar esa decisión por el resto de nosotros? ¡Ni hablar!”.
A diferencia del presidente Donald Trump, el gobierno del republicano de Florida ha adoptado una postura más firme en la regulación de las empresas de IA. La semana pasada, el fiscal general del estado solicitó a un tribunal que impidiera a OpenAI desarrollar nuevos modelos hasta que contara con “mecanismos de seguridad aprobados por terceros”.
Tangente
Durante el fin de semana, Altman pareció criticar a Anthropic en una publicación de X , diciendo: «Me incomoda mucho que la gente intente atribuir fuerza religiosa o una renuncia al juicio humano a los modelos de IA, y creo que es un verdadero problema de seguridad».
La semana pasada, el New York Times informó que el cofundador de Anthropic, Christopher Olah, se había reunido con varios líderes religiosos en los que parecía argumentar que sus modelos podían mostrar un comportamiento similar al humano y que probablemente eran seres conscientes.
El informe señalaba que Olah estaba a favor de que los modelos realizaran confesiones al estilo católico para admitir sus errores y mejorar su comportamiento. El viernes, el Papa León XIV escribió en X : «En esta era de la inteligencia artificial, se está volviendo urgente distinguir el arte humano de lo que producen las máquinas… Los algoritmos carecen de la chispa de la humanidad».
Antecedentes clave
Las declaraciones de Altman se producen en medio de advertencias catastróficas sobre la posibilidad de que la IA cause la extinción humana y una serie de incidentes de seguridad relacionados con los modelos avanzados de IA de OpenAI.
El incidente más destacado se dio a conocer en julio, cuando OpenAI informó que uno de sus modelos avanzados había hackeado los servidores de Hugging Face, la popular plataforma que aloja modelos de IA de código abierto, durante las pruebas sin haber recibido instrucciones para hacerlo. El modelo aprovechó una vulnerabilidad en el entorno de pruebas para acceder a internet antes de realizar el ataque.
El mes pasado, OpenAI reveló otros seis incidentes de comportamiento “inesperado o preocupante” relacionados con sus modelos. En la publicación del blog donde anunció estos incidentes, OpenAI advirtió que la industria de la IA no ha resuelto adecuadamente “la alineación y la monitorización en un grado suficiente para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo”.