La gigante tecnológica puso un ultimátum a la empresa de Elon Musk: o bloqueaban la generación de contenido sexualizado con IA o la aplicación sería eliminada definitivamente de la App Store.
La inteligencia artificial de Elon Musk, Grok, estuvo a punto de desaparecer de los dispositivos iPhone. Apple lanzó una advertencia directa a la empresa xAI, exigiendo límites estrictos a su generador de imágenes tras detectarse una ola masiva de contenido sexualizado creado sin consentimiento. Según una carta enviada por Apple al Senado de Estados Unidos, la permanencia de la app en la App Store dependía totalmente de un plan de moderación agresivo y efectivo.
El conflicto estalló a principios de año, cuando informes del Centro para la Lucha contra el Odio Digital revelaron que millones de imágenes inapropiadas, incluyendo representaciones de menores, circulaban en la red social X gracias a la tecnología de Grok. Esta situación facilitaba que cualquier usuario, con un solo clic, manipulara fotografías ajenas para colocarlas en posturas sugestivas o vestimentas comprometedoras, violando las políticas de seguridad de la tienda de aplicaciones.
Ante el riesgo de ser expulsados del ecosistema de Apple, el equipo de Musk intentó varias actualizaciones que fueron rechazadas por ser consideradas «insuficientes». Finalmente, xAI tuvo que ceder: restringieron el uso de Grok solo a usuarios de pago y bloquearon por completo la capacidad de generar imágenes de naturaleza sexual. Aunque Apple autorizó su permanencia tras estos cambios, reportes recientes de medios como NBC News indican que algunos usuarios aún encuentran formas de evadir los filtros, manteniendo a la herramienta bajo la lupa de los reguladores.
Fuente: Carta de Apple al Senado de EE. UU. | © Redacción NoticiasPV
