Los comentarios de Gates se producen antes de una reunión prevista para el martes entre Trump, el presidente de la Cámara Mike Johnson, republicano de Luisiana, y ejecutivos de IA.
El multimillonario Bill Gates dijo a “Meet the Press” que es necesaria una regulación gubernamental para la inteligencia artificial y advirtió que la tecnología es “lo suficientemente potente” como para “causar mil millones de muertes” si se usa con mala intención, mientras Washington y la industria de la IA consideran cómo avanzar ante las alarmas advertencias sobre los posibles efectos de la IA.
Datos clave
NBC News publicó el viernes un fragmento de la entrevista de Gates con “Meet the Press”, en la que se le preguntó al multimillonario y filántropo sobre las advertencias de los trabajadores de la IA de que la tecnología podría acabar con la humanidad.
“La IA es sin duda lo suficientemente poderosa como para impulsar eventos que … causar mil millones de muertes”, dijo Gates, señalando que “nunca ha habido un arma tan poderosa como la combinación de personas con malas intenciones usando las últimas herramientas de IA.”
También se le preguntó a Gates sobre el reciente ensayo del CEO de Anthropic, Dario Amodei, que pedía una desaceleración de la IA, que argumentaba que los laboratorios fronterizos deberían frenar el ritmo de su progreso y “trabajar juntos voluntariamente para establecer estándares” en torno a la inteligencia artificial.
“Nadie piensa que la autorregulación sea suficiente”, dijo Gates sobre la posibilidad de que las empresas de IA lideren la lucha contra sus propias acciones, argumentando que “absolutamente” debe haber legislación que regule la IA y que “se necesitan las fuerzas del orden y los políticos para participar en la discusión sobre cómo son las salvaguardas y la vigilancia.”
El ensayo de Amodei también pedía la intervención del gobierno en la IA, aunque señaló: “Desgraciadamente, aprobar leyes puede llevar tiempo, y la IA avanza muy rápido.”
Aún está por ver qué hará el gobierno federal respecto a la regulación de la IA, ya que los líderes republicanos en el Congreso han minimizado el tema después de que el presidente Donald Trump se pronunciara firmemente en contra de las protecciones de la IA y calificara las peticiones de regulación como un “engaño”.
Qué hay que vigilar
La entrevista completa de Gates con “Meet the Press” se emitirá el domingo por la mañana.
Gancho informativo
Los comentarios de Gates se producen antes de una reunión prevista para el martes entre Trump, el presidente de la Cámara Mike Johnson, republicano de Luisiana, y ejecutivos de IA, aunque aún no está claro cuál será el enfoque de la reunión. Johnson ya había dicho anteriormente que quiere que Trump y los CEOs de la IA “vayan a una sala grande, cierren la puerta y solucionen esto”, y dijo a los periodistas la semana pasada que debería haber “una discusión deliberada sobre la responsabilidad de las empresas para mantener la seguridad y qué papel, si es que tiene alguno, debe desempeñar el gobierno en ello.” También está por verse qué líderes específicos de IA podrían asistir a la reunión, que se produce después de que grandes actores del sector como Elon Musk y el director de OpenAI, Sam Altman, estuvieran en la Casa Blanca para una cena de Estado el jueves.
¿Tomará medidas el Congreso de Estados Unidos sobre la IA?
Johnson y el líder de la mayoría en el Senado, John Thune, republicano de Dakota del Sur, hasta ahora no han mostrado mucha urgencia en lo que respecta a la aprobación de una legislación que regule la IA. Johnson minimizó los temores de que la tecnología pudiera acabar con la humanidad como un “engaño”, y aunque Thune lleva tiempo pidiendo la regulación de la IA y presentó legislación sobre el tema en 2023, el senador ha sugerido más recientemente que no presionará para que el asunto se considere una prioridad urgente. Thune dijo a los periodistas a mediados de septiembre que “probablemente estaba por decidir” si la cámara podría aprobar legislación sobre IA antes de que acabe el año, señalando: “Conseguir algo a corto plazo va a ser un reto dado el resto de las cuestiones con las que estamos lidiando.”
Sin embargo, el líder del Senado parece estar considerando el tema, diciendo a Axios el miércoles que la senadora Amy Klobuchar, demócrata de Minnesota, quien fue coautor del anterior proyecto de ley de IA de Thune, está trabajando para conseguir más apoyo demócrata antes de que el proyecto se represente en el Congreso. La legislación, basada en cómo se presentó en 2023, impondría medidas como exigir que los sistemas críticos de IA estén sujetos a certificación, requisitos de transparencia para el contenido producido con IA generativa, obligar a las empresas a realizar evaluaciones de riesgos de IA y ordenar más investigaciones gubernamentales para distinguir el contenido generado por IA y qué medidas de seguridad deberían implementarse en la industria. Está por ver si ese u otro proyecto de ley logrará pasar el Congreso y no ser vetado por Trump, aunque Thune dijo a Axios que cree que el presidente está más abierto a permitir salvaguardas de la IA de lo que ha dejado ver públicamente.
Lea también: Elon Musk afirma que el modelo de IA de SpaceX podría superar al de Anthropic y OpenAI en 6 meses
Antecedentes clave
El debate sobre la seguridad y la regulación de la IA se ha intensificado drásticamente en las últimas semanas, después de que el exinvestigador de Anthropic Jacob Coxon anunciara públicamente el 9 de septiembre que había dimitido de la empresa y alegara: “Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década.” Evan Hubinger, responsable científico de alineación de Anthropic, amplió la advertencia, escribiendo que Coxon tiene “razón” y que los responsables de IA “realmente creen firmemente que la IA podría matar a todos los humanos”.
Hubinger dijo que creía que había un “10%” de probabilidad de que la IA aniquilara a la humanidad “en la próxima década”, y advirtió que Anthropic “aún no tiene un plan para resolver la alineación de la superinteligencia y [está] claramente en camino de hacerlo.” La advertencia intensificó la reacción pública y las llamadas a la regulación, y Google, Anthropic y OpenAI se han unido tras la protesta y han comenzado a planificar un grupo de seguridad en IA. Altman y Amodei también subrayaron esta semana la necesidad de cooperación global y estándares internacionales sobre IA en las Naciones Unidas, argumentando que las decisiones sobre la tecnología “deben ser moldeadas a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven.”