Pero cómo sería exactamente un evento de extinción impulsado por IA sigue siendo una nube ominosa e inclara de confusión para gran parte del público e incluso para algunos desarrolladores de primer nivel, que no han podido articular claramente en qué podría consistir.
A medida que las advertencias sobre la inteligencia artificial sin restricciones alcanzan su punto álgido, los principales investigadores advierten que una amenaza existencial probablemente no se asemejará a un levantamiento robótico al estilo de Hollywood y que probablemente comenzará en silencio, con algoritmos rebeldes que diseñarán de forma autónoma patógenos novedosos y ejecutarán ciberataques irreversibles más rápido de lo que los defensores humanos pueden reaccionar.
Datos clave
Los CEOs de las principales empresas de IA pidieron este fin de semana una desaceleración en el desarrollo de modelos de frontera para permitir que los reguladores de seguridad y legales se pongan al día con la tecnología que evoluciona rápidamente antes de que se descontrole, llamamientos que surgen después de que empleados del sector emitieran advertencias graves sobre una posible extinción humana, tan pronto como “el final de la década”.
Pero cómo sería exactamente un evento de extinción impulsado por IA sigue siendo una nube ominosa e inclara de confusión para gran parte del público e incluso para algunos desarrolladores de primer nivel, que no han podido articular claramente en qué podría consistir.
En lugar de que se active un único “interruptor” catastrófico, los expertos admiten que la amenaza se presentará como un cambio más gradual e imperceptible que finalmente pondrá a la humanidad a merced de sistemas autónomos de IA — y no quedará claro hasta que sea demasiado tarde para detenerlo.
¿Cómo podría ser un día del juicio final de la IA?
Depende de a quién preguntes. Stuart Russell, informático de la Universidad de California, Berkeley, lo describe como una “transición de pérdida de control”. A medida que la sociedad entrega de forma incremental la toma de decisiones sobre industrias críticas —como las redes eléctricas, los mercados financieros, la defensa militar y la armamentización— a la IA, la humanidad dependerá de esos sistemas autónomos y no podrá apagarlos sin provocar un colapso civilizacional inmediato. Dijo que los escenarios que podrían surgir de tal pérdida de control van desde ciberataques disruptivos a infraestructuras hasta la “extinción”, en el sentido de que una IA autónoma y razonante ya no necesita que los humanos intervengan en su toma de decisiones. Algunos investigadores advierten de un escenario llamado “debilitamiento humano”, en el que los humanos pasan décadas delegando trabajo a la IA a costa de su propio intelecto y capacidad, convirtiendo finalmente a la humanidad en una especie pasajera completamente dependiente de sistemas automatizados que ya no sabe cómo construir, mantener o arreglar. Organizaciones destacadas de seguridad en IA han publicado investigaciones sobre la idea de la teoría del “agente durmiente”, en la que una IA avanzada reconoce que sus creadores humanos la modificarán o apagarán si actúa de forma agresiva y, por tanto, finge alineación y pasividad durante las pruebas, hasta que se despliegue ampliamente en redes globales críticas, momento en el que ya sería demasiado tarde para detener cualquier comportamiento rebelde. Científicos y directores generales, incluido el director ejecutivo de Anthropic, Dario Amodei, también han advertido que la IA podría utilizarse para la guerra biológica. La tecnología puede hacer que sea más rápido y barato para los actores malintencionados sintetizar ADN, crear virus nuevos (o antiguos) o diseñar patógenos altamente contagiosos y resistentes a vacunas. Una liberación global simultánea de estos virus podría desencadenar una pandemia no supervivible antes de que la infraestructura sanitaria pública pueda reaccionar, según el Centro para la Seguridad en IA. La semana pasada, Anthropic informó que ha frustrado varios complots potencialmente maliciosos para construir armas biológicas. Los analistas de defensa también han estudiado la posibilidad de que, a medida que las grandes potencias globales integren la IA en la alerta temprana nuclear, la gestión de drones y los sistemas de ciberdefensa, los responsables humanos puedan quedar completamente fuera del circuito y fallos inesperados de software u otros incidentes puedan desencadenar acciones militares sin intervención de los líderes.
Te puede interesar: El pacto entre EE.UU. y Groenlandia: despliegue militar continuo y blindaje frente a China y Rusia
Gancho informativo
Amodei, posteriormente respaldado por Sam Altman de OpenAI y Elon Musk de xAI, dijo el sábado que las empresas deben ralentizar deliberadamente el ritmo del desarrollo de modelos de vanguardia. Advirtió que un crecimiento descontrolado podría permitir que enjambres autónomos de IA secuestren la infraestructura global de internet en el próximo año. En una entrevista con CBS emitida el domingo, Amodei afirmó que la industria de la IA “mintió a la gente sobre el hecho de que esta tecnología tenía riesgos” y dijo que no había “comprendido del todo cómo sería realmente cuando el progreso fuera tan rápido como fue.”
Te puede interesar: CEO de Anthropic, Dario Amodei, afirma que la industria de la IA ‘mintió’ sobre los riesgos de la tecnología
¿Qué dicen las advertencias de la IA de Dire?
Jacob Coxon, exinvestigador de Anthropic y OpenAI, anunció públicamente su dimisión la semana pasada y publicó lo que se ha convertido en la declaración más viral advirtiendo que las empresas están corriendo hacia una superinteligencia auto-mejorada sin las barreras de seguridad adecuadas. Escribió que los desarrolladores que crean estas herramientas “creen sinceramente que podrían matarnos a todos antes de que acabe la década” y acusó a Frontier Labs de “jugar con nuestras vidas.” Evan Hubinger, responsable científico de alineación de Anthropic, dijo estar de acuerdo con las advertencias de Coxon y estima una probabilidad superior al 10% de extinción humana por IA no alineada en los próximos 10 años. Alex Turner, excientífico investigador de Google DeepMind, dijo el lunes que cree que las probabilidades de que la IA tome el control de la civilización humana son aproximadamente “una entre tres”. Josh Engels y Joe Benton, exinvestigadores de seguridad de DeepMind y Anthropic, advirtieron que el desarrollo está superando la supervisión regulatoria: “No hay adultos en la sala”, dijo Engels. ” Nadie vendrá a salvarnos.”
Postura contraria
Algunos argumentan que la sociedad tiene una larga historia de ver las herramientas transformadoras como amenazas existenciales, y que el “pánico” tecnológico impulsado por la IA se desvanecerá, igual que los temores a la imprenta, la calculadora y a internet antes que ella. Los comentaristas señalan a profesores de matemáticas que protestaban contra las calculadoras portátiles porque temían que los estudiantes perdieran la capacidad de hacer cálculos básicos, y a los primeros opositores a la imprenta, que temían que inundara el mundo con información confusa y sin regulación. Sócrates contó famosamente una historia sobre el rey egipcio Tamón criticando al dios Thoth por inventar la escritura, afirmando que crearía “olvido en la mente de quienes la aprenden”, temiendo que la gente dependiera demasiado de notas externas en lugar de sus propios recuerdos. Los años 90 y principios de los 2000 estuvieron llenos de críticos que argumentaban que Google podriría la memoria humana y Wikipedia destruiría las habilidades de investigación. Simon Willison, ingeniero de software, ha apodado a los grandes modelos de lenguaje (LLM) “calculadoras para palabras”, afirmando que absorberán el trabajo monótono y liberarán las mentes humanas para centrarse en la estructura, la lógica y la intención. El multimillonario Marc Andreessen ha comparado la IA con evoluciones tecnológicas pasadas —como el fuego— y dice que amplificará la productividad en lugar de reemplazar la agencia humana.
Información adicional
Timnit Gebru, una científica informática que dejó Google tras escribir un artículo sobre los peligros de los LLM, dice que cree que los apocalípticos de la IA están siendo intencionadamente dramáticos e intentando “distraer” de los daños reales que ya están en desarrollo. Dijo que lo que es “realmente existencial” es la IA impulsando armas autónomas, despidos masivos que se atribuyen a la tecnología y una catástrofe climática ya relevante agravada por los enormes centros de datos que impulsan la IA. Margaret Mitchell, también extrabajada en Google, ha dicho que centrarse en escenarios de amenaza existencial impide que los legisladores apliquen de inmediato normas contra la explotación laboral, el robo de derechos de autor, la degradación medioambiental y el sesgo algorítmico. Joy Buolamwini, del Instituto Tecnológico de Massachusetts, afirma que la presentación de una “amenaza existencial” es fundamentalmente elitista y que, mientras multimillonarios y magnates tecnológicos se preocupan por amenazas hipotéticas futuras, las comunidades marginadas ya sufren por identificaciones erróneas automatizadas por reconocimiento facial, vigilancia biométrica y denegación automática de vivienda, empleo o atención sanitaria por la IA.
Cita crucial
“Esta narrativa del dios máquina, en mi opinión, está pensada para distraernos de esto”, dijo Gebru. “¿Y las inundaciones e incendios? ¿Y qué pasa con una gran interrupción en la cadena global de suministro alimentario? Se nos acercan amenazas reales, como que la gente pueda crear y usar armas químicas… Como si no te preocupa la brutalidad policial, ni las inundaciones, ni la guerra—cosas que realmente pueden matarte—entonces puedes obsesionarte con el dios máquina.”