Astra busca competir con Mythos de Anthropic con capacidades avanzadas de ciberseguridad, aunque su lanzamiento inicial tendrá acceso limitado para un grupo de probadores alfa.
OpenAI lanzará “próximamente” su modelo de inteligencia artificial más avanzado para ciberseguridad, según informó la compañía este martes. Con este desarrollo, la firma prepara un competidor directo para Mythos, el modelo de Anthropic que en abril encendió las alarmas en el sector financiero y entre gobiernos por sus avanzadas capacidades autónomas para detectar y responder a amenazas de ciberseguridad.
Datos clave
- OpenAI planea lanzar Astra “próximamente”, aunque advirtió que sus capacidades más avanzadas de ciberseguridad estarán más limitadas y solo serán accesibles para un grupo selecto de evaluadores.
- La compañía señaló que el modelo requiere “medidas de protección más estrictas durante su desarrollo y antes de su lanzamiento”, debido a que Astra ya es capaz de identificar vulnerabilidades de ciberseguridad desconocidas y desarrollar de forma autónoma métodos para explotarlas “en numerosos sistemas bien protegidos”.
- El anuncio de Astra llega meses después de que Anthropic presentara una versión preliminar de Mythos, cuyo acceso estuvo restringido a socios previamente evaluados, entre ellos Apple y Nvidia. El modelo generó preocupación entre expertos por su potencial para ser utilizado en ataques contra servicios financieros, sistemas operativos y navegadores.
- OpenAI retrasó parte del desarrollo de Astra para reforzar y poner a prueba sus mecanismos de protección frente a un posible uso malicioso. Entre estas medidas está el entrenamiento del modelo para rechazar de manera consistente solicitudes que puedan causar daño.
- Al igual que Mythos, Astra puede crear vulnerabilidades de día cero —fallos de seguridad desconocidos para los desarrolladores— contra sistemas del mundo real sin intervención humana, según el comunicado del martes.
Además: ¿Qué tanto ha avanzado el user experience en el Perú?
Qué observar
No está claro cuándo exactamente se lanzará Astra. OpenAI señala que, al momento de su lanzamiento, espera que las medidas de seguridad de Astra “generen más fricción de la que finalmente se pretende” para proteger contra posibles usos indebidos. Además, sus funciones avanzadas de ciberseguridad estarán disponibles inicialmente para un grupo reducido de probadores alfa.
Aunque Astra competirá con Mythos, el modelo aún está meses por detrás de sus lanzamientos. La versión preliminar del modelo de Anthropic se lanzó en abril y su primera versión pública se publicó en junio. Anthropic afirmó que Mythos incorporaría nuevas funciones para detectar el uso indebido y que la compañía estaba colaborando con el gobierno federal para ampliar gradualmente el acceso al modelo más avanzado de Mythos. Tanto Mythos como Astra pueden superar en eficiencia a los profesionales humanos de ciberseguridad, si bien OpenAI y Anthropic han reconocido que se necesitan personas para corregir errores y confirmar el contexto del mundo real que los modelos podrían tener dificultades para registrar.