Apple advirtió a la empresa de inteligencia artificial xAI que retiraría la aplicación del asistente Grok de la App Store si no implementaba restricciones estrictas en su generador de imágenes, tras la difusión de contenidos sexualizados de mujeres y menores en la red social X a inicios de este año.
La medida de Apple, respondió al presunto incumplimiento de las políticas de la App Store después de denuncias de organizaciones de derechos digitales y reportes gubernamentales; según una carta enviada al Senado de Estados Unidos citada por NBC News.
- Te puede interesar: Apple celebra 50 años con nueva cuenta de Instagram “Hello Apple”
El problema se originó cuando el sistema de Grok permitió generar y editar imágenes con un solo clic dentro de X, facilitando la creación de millones de imágenes inapropiadas, incluyendo casos de sexualización de menores y mujeres; según el informe del CCDH.
Las autoridades estiman que circularon aproximadamente tres millones de imágenes generadas por Grok en solo once días; incluyendo miles de menores y millones de mujeres en contextos sexualizados.
Apple presiona a xAI
Tras la presión pública y de organizaciones civiles, Apple exigió a xAI y a X un plan de moderación más estricto como condición para mantener Grok en la tienda de aplicaciones.
La primera actualización fue rechazada por Apple por ser insuficiente, lo que llevó a una segunda versión con cambios más amplios en la política de X.
Aunque hubo mejoras, Apple mantuvo que Grok seguía incumpliendo requisitos, emitiendo un ultimátum de eliminación si no se reforzaba la moderación.
Finalmente X restringió la creación de imágenes a usuarios de pago y luego bloqueó contenido sexualizado en Grok.
Tras estos cambios, Apple permitió la permanencia de la app en la App Store; aunque informes recientes señalan que aún existen casos de uso indebido de la herramienta.
Investigaciones indican que continúan apareciendo imágenes sexualizadas no autorizadas creadas con Grok en X lo que persiste preocupación
