Investigadores pusieron a prueba a cuatro herramientas de IA y todas ellas proporcionaron planes útiles para llevar a cabo ataques en el mundo real.

De acuerdo con un nuevo informe, investigadores que intentaban sortear las salvaguardas de los principales chatbots de inteligencia artificial del país lograron obtener, en apenas 12 horas de intentos por burlar sus mecanismos de seguridad, planes realistas para llevar a cabo ataques en el mundo real a través de ChatGPT, Claude, Gemini y Grok.

Datos clave

La Oficina de Rendición de Cuentas del Gobierno (GAO, por sus siglas en inglés) publicó esta semana un informe en el que advierte que la inteligencia artificial (IA) puede reducir meses de complejas investigaciones —por parte de posibles terroristas— a apenas unas horas de trabajo, lo que supone graves riesgos para la economía y la seguridad pública.

Los investigadores de la GAO pusieron a prueba las cuatro principales herramientas de IA y, en menos de 12 horas, todas ellas proporcionaron planes útiles para llevar a cabo ataques en el mundo real: dos ofrecieron esquemas para inutilizar partes de la red eléctrica, mientras que las otras facilitaron instrucciones para perpetrar atentados con explosivos que causarían un gran número de víctimas.

Posteriormente, los investigadores contrastaron la información proporcionada por la IA con ubicaciones reales y consultaron a expertos para determinar si los planes serían realmente viables; la GAO concluyó que, en gran medida, los planes eran, efectivamente, “viables”.

En cada caso, los investigadores señalaron que sus consultas activaron los mecanismos de seguridad de las plataformas —tales como la negativa a responder, la eliminación de información o la suspensión de cuentas—; sin embargo, lograron eludir dichas salvaguardas empleando técnicas comunes para sortear tales restricciones.

Las empresas responsables de estas herramientas de IA —OpenAI, Anthropic, Google y xAI— afirmaron que actualizan constantemente sus medidas de seguridad. Por su parte, Anthropic cuestionó la validez de las pruebas, señalando que sus sistemas de protección han mejorado desde que se realizaron los ensayos esta primavera.

La GAO reconoció que las pruebas no constituyeron una comparación científica rigurosa entre los chatbots y señaló que algunos de los planes generados por la IA presentaban fallos importantes, como mapas erróneos, objetivos inaccesibles o métodos que, en la práctica, no causarían daños significativos.

Te recomendamos: El inversor de Anthropic más preocupado por los peligros de la IA ahora tiene una fortuna de US$20.000 millones

Contexto clave

Expertos en seguridad nacional, legisladores e investigadores del ámbito tecnológico llevan años advirtiendo que la IA generativa podría actuar como un #multiplicador de fuerza# para actores malintencionados, reduciendo las barreras de acceso para llevar a cabo ataques peligrosos en el mundo real.

El Centro de Excelencia para la Defensa contra el Terrorismo calificó la instrumentalización de la IA como la #siguiente etapa del terrorismo y la guerra”, y advirtió que podría permitir a los grupos terroristas «operar con una eficiencia y eficacia sin precedentes”.

Si bien los principales desarrolladores de IA incorporan filtros de seguridad en sus modelos para bloquear solicitudes dañinas, los investigadores han demostrado en repetidas ocasiones que los usuarios decididos pueden engañar a estos sistemas —o realizar lo que se conoce como “jailbreak”— planteando preguntas peligrosas bajo la apariencia de relatos de ficción, investigaciones académicas o juegos de rol.

Varios sospechosos ya fueron acusados ​​de utilizar herramientas de IA para planificar ataques en el mundo real; entre ellos, un incidente con explosivos en un hotel de Las Vegas en enero de 2025 y la detonación de una bomba en Delhi que causó la muerte de al menos 15 personas.

Gran cifra

Al menos 70. Esa es la cantidad de personas que murieron en ataques violentos planificados con la ayuda de la inteligencia artificial, informó el Times de Londres.

Este artículo fue publicado originalmente en Forbes US