En un giro que ha encendido alarmas sobre la seguridad digital, Google y Apple eliminaron decenas de aplicaciones de inteligencia artificial de sus tiendas oficiales tras la publicación de un informe que reveló la existencia de herramientas capaces de generar desnudos y contenido sexual explícito; a pesar de que estas prácticas están prohibidas por sus propias políticas.
La investigación, realizada por la organización Tech Transparency Project (TTP), documentó al menos 55 apps de este tipo en la Play Store y 47 en la App Store. Posteriormente, Apple confirmó la eliminación de 28 aplicaciones, mientras que Google suspendió 31, según los datos compartidos por TTP.
- Te puede interesar: ¡Sorprendente! iPhone 5s recibe actualización después de 13 años
El informe señaló que estas apps permiten crear imágenes o videos manipulados mediante IA, ya sea generando contenido desde cero o superponiendo rostros reales sobre cuerpos ajenos con técnicas de deepfake. Para detectarlas; los investigadores buscaron términos como “nudify” o “undress” en ambas tiendas.
Uno de los hallazgos más preocupantes fue que varias aplicaciones estaban disponibles para menores, con edades mínimas de 9 años en Apple y 13 en Google; lo que facilitaba el acceso de niños y adolescentes a contenido sexualizado sin restricciones efectivas.
Google y Apple toman control
Entre las apps más populares, DreamFace superaba los 10 millones de descargas y permitía generar desnudos incluso en su versión gratuita.
El impacto económico de estas aplicaciones también es notable: según AppMagic, citado por TTP; acumularon 705 millones de descargas y generaron ingresos cercanos a 117 millones de dólares, beneficiando indirectamente a Google y Apple mediante comisiones, pese a violar sus normas.
Ambas compañías solicitaron a TTP el listado completo de aplicaciones señaladas y comenzaron su retiro.
Este caso refuerza la preocupación global por el uso de la inteligencia artificial para contenidos explícitos y los riesgos asociados, especialmente para menores de edad, mientras otras plataformas, como X, también han empezado a limitar la generación de imágenes inapropiadas por sus chatbots.
