La red social informó este miércoles que implementó medidas para evitar que Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. La decisión llega tras el rechazo de múltiples gobiernos a dicha función, que hasta ahora estaba disponible para suscriptores. Este miércoles, el Estado de California abrió una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por la proliferación de material sexualmente explícito no consencual producido por la IA de X.
La inteligencia artificial de la red social X (Grok) ha decidido limitar también para los usuarios de pago la posibilidad de editar fotografías, tras la polémica que se había generado en numerosos países ante la proliferación y publicación de imágenes de personas que habían sido desnudadas digitalmente.
Tras las numerosas denuncias y quejas que se sucedieron por la difusión de imágenes manipuladas y alteradas sin el consentimiento de las personas que aparecían en ellas, entre ellas muchas mujeres o incluso menores de edad, Grok decidió inicialmente limitar el uso de esa herramienta a los usuarios de pago, para que el nombre y la información del suscriptor quedara ligado a las acciones ilícitas que pudiera cometer.
Pero ahora esta herramienta de inteligencia artificial, integrada en la red social X del magnate Elon Musk, ha decidido limitar también esa posibilidad, y en gran medida la generación avanzada de imágenes, a todos los usuarios del sistema, también los de pago, según informa la propia red.
Lee también: El imparable avance de la biometría en el sistema financiero: esto es lo que sabemos
«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago», ha señalado la red.
La plataforma ha añadido que están comprometidos con hacer de X «una plataforma segura para todos y mantenemos una política de tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado».
Han enmarcado esta medida en su afán por eliminar el contenido infractor de alta prioridad, incluido el material de abuso sexual infantil y la desnudez no consentida, han informado de que han tomado también medidas contra las cuentas que violan sus reglas y que también denunciarán a las autoridades policiales las cuentas que buscan material de explotación sexual infantil.
No te pierdas: Turismo en la Antártica: la nueva moda entre millonarios y estrellas de Hollywood
Inicialmente la compañía de Elon Musk limitó esa posibilidad de editar imágenes a los suscriptores de pago como una medida «de seguridad y responsabilidad», para poder identificar mejor a quienes abusaban de esa herramienta, pero la decisión fue muy criticada por considerarse un parche, completamente insuficiente, e incluso porque se podía interpretar que «monetiza» el abuso.
La decisión de Grok se produce tras la presión regulatoria y las acciones emprendidas en varios países de la Unión Europea o el Reino Unido, entre ellos España, donde el Gobierno se ha dirigido a la Fiscalía General del Estado para solicitar que investigue si Grok podía estar cometiendo delitos de difusión de material de violencia sexual contra la infancia.
El propio Elon Musk se sumó inicialmente al escándalo mundial que estaba generando la proliferación de imágenes manipuladas con inteligencia artificial, y publicó una foto de sí mismo en bikini.
Ayer, el magnate publicó una entrada en su red social en la que negaba que la herramienta de inteligencia artificial hubiera generado imágenes de menores desnudos; «literalmente ninguna», escribió.
Abren caso contra xAI en California
El fiscal general de California, Rob Bonta, abrió este miércoles una investigación contra xAI, la empresa de inteligencia artificial del magnate Elon Musk, por la proliferación de material sexualmente explícito no consensual producido con Grok, el chatbot de la empresa.
«La avalancha de informes que detallan el material sexualmente explícito y no consensual que xAI ha producido y publicado en línea en las últimas semanas es impactante. Este material, que muestra a mujeres y niños desnudos y en situaciones sexualmente explícitas, se ha utilizado para acosar a personas en internet», informó la fiscalía en un comunicado.
Además: Estos son los colores tendencia del 2026 de Pinterest
La investigación sucede a los numerosos reportajes que se han publicado en las últimas semanas en los que usuarios de Grok «toman imágenes comunes de mujeres y niños disponible en internet y las utilizan para representarlas en situaciones sugerentes y sexualmente explícitas, desnudándolas, todo ello sin su conocimiento ni consentimiento», explicó Bonta.
Las imágenes generadas por el chatbot de X «se están utilizando para acosar tanto a figuras públicas como a usuarios comunes de redes sociales. Lo más alarmante es que los informes periodísticos han descrito el uso de Grok para alterar imágenes de niños con ropa mínima y en situaciones sexuales», agregó.
La fiscalía de California instó, en este sentido, a Musk a «medidas inmediatas para garantizar que esto no vaya más allá».
Por su parte, el gobernador de California, el demócrata Gavin Newsom, secundó esta investigación sobre el gigante tecnológico y afirmó que la red social X «alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados».
Con información de EFE.