Esta startup fundada por dos peruanos acaba de levantar US$10 millones y quiere hacer confiable a los sistemas de IA

Las alucinaciones siguen siendo uno de los mayores desafíos de los grandes modelos de lenguaje de inteligencia artificial (IA) como ChatGPT, Gemini o Claude. Ya sea que los modelos pueden confundir las fechas ante alguna consulta sencilla o, en otros casos, eliminar el valor negativo de un documento legal, la confianza con que estos emiten sus respuestas esconde errores y representa riesgos para las compañías. 

Esta problemática es la que está buscando erradicar la startup Midas, fundada por dos peruanos, la cual usa la verificación matemática para hacer confiables a los sistemas de inteligencia artificial. Justamente, la empresa anunció este jueves su lanzamiento oficial luego de cerrar una ronda de financiamiento de US$10 millones.

Mira también: Musk y Altman chocan por la seguridad de la inteligencia artificial

La historia inició en la Universidad de Duke donde se conocieron los cofundadores de la startup basada en Nueva York: Shalim Monteagudo Contreras (22), un cusqueño con experiencia explorando la integración de la IA en grandes empresas y que ha trabajado en Perplexity y Mercor; y Renzo Balcázar (23), un piurano que en el 2019 ganó una medalla de oro por representar al Perú en las Olimpiadas Internacionales de Matemáticas, entre otros premios más. 

“La inteligencia artificial está siendo usada en muchos lugares y cada vez su adopción crece más. Por ende, hay muchos sectores en los cuales la posibilidad de que haya un error puede desencadenar consecuencias catastróficas: sea en healthcare, finanzas, el sistema de un banco, o en un avión. El software de un avión no puede fallar en ningún momento. Así que hay tantos lugares donde la inteligencia artificial está siendo utilizada y donde en el futuro será utilizada, que no hay ninguna manera de prevenir que estos errores sucedan”, explica a Forbes Monteagudo, quien se desempeña como presidente y CTO en Midas, fundada en agosto del año pasado. Cabe mencionar que esta verificación formal que implementa Midas ya se utiliza en otros sectores —como defensa, software del Gobierno, y el sistema financiero—, pero ninguna en inteligencia artificial, señala Monteagudo. 

Así, la startup crea la infraestructura para verificar tanto la calidad de los datos de entrenamiento desde el inicio como los resultados mediante pruebas matemáticas, haciendo que los sistemas de IA sean confiables para despliegues de misión crítica en diversos sectores empresariales. Las matemáticas detrás de esta solución están a cargo de 11 medallistas de la Olimpiada Internacional de Matemática, considerados «básicamente los mejores del mundo» en su campo; y es complementada por ingenieros provenientes de empresas como Amazon Web Services, Google, Nvidia, entre otros. 

Estas credenciales han convencido a grandes inversionistas con experiencia directa en la creación de grandes empresas tecnológicas. La compañía cuenta, actualmente, con el respaldo de inversores que antes han inyectado fondos en empresas como OpenAI, Tesla y SpaceX, revela el emprendedor. 

Además: Revolut planea introducir productos de banca personas en Perú, dice su recién nombrado CEO local

De hecho, la compañía de gestión de inversiones de riesgo, Nova Global, sustentó su inversión en Midas considerando que “están abordando un problema complejo y fundamental con una profundidad técnica excepcional, una ambición incansable y la capacidad de atraer talento de primer nivel mucho antes que la mayoría de los equipos”, señala Carlo Agostinelli, cofundador de la firma. “La inversión de riesgo, en esencia, se trata de encontrar auténticos casos de éxito, fundadores con el potencial de convertirse en figuras históricas a nivel mundial, y eso es exactamente lo que Shalim y Renzo representan para nosotros”, agrega.

Una capa verificadora transversal

Con este capital levantado, la startup podrá traducir la investigación de verificación formal en infraestructura de producción. Justamente, Monteagudo relata que, en esta primera etapa, se están enfocando en sectores críticos. Esto incluye implementaciones en biotecnología, defensa, diseño de hardware, sistemas financieros e infraestructura subyacente de IA y nube, entornos donde la corrección debe ser demostrable.

Asimismo, el emprendedor cuenta a Forbes que hoy también se están enfocando en los datos e infraestructura de las empresas que están haciendo modelos de inteligencia artificial desde cero. “Queremos crecer agresivamente y no tratar de ir a las empresas pequeñas y que estas lo adopten, sino [apuntar] a las herramientas que estas empresas están usando, como Notion o Amazon Web Services o cualquier herramienta que es fundamental en una compañía. Queremos que estas empresas nos adopten como parte de su oferta”, comenta. Monteagudo indica que los ingresos de su startup serán reinvertidos de la manera más agresiva posible, por lo que aún no se ha fijado una meta respecto a cuándo la compañía será rentable.

Así, algunas de sus metas para este primer año de operación incluyen seguir siendo uno de los puntos de talento matemático y de IA más relevante en Silicon Valley; y colaborar directamente con los grandes modelos de lenguaje. “Ya estamos en conversaciones con la base fundamental, los axiomas, por así decirlo, de la inteligencia artificial que está siendo usada o producida. (…) Estamos en conversaciones para ver básicamente cómo nuestros servicios pueden ya estar dentro de ChatGPT o de todo Open AI como parte de su infraestructura. También [apuntamos a] otras empresas como posiblemente Google Cloud o Amazon Web Services, porque ahí es donde todas las empresas están básicamente usando inteligencia artificial”, relata. 

“Queremos ser el punto de seguridad, el ejército que defiende a las empresas de todo esto (alucinaciones y errores), pero atacando a las bases más fundamentales y a los mayores jugadores; y también teniendo el mejor talento posible”, finaliza.