Apple anunció una actualización de las normas de la App Store orientada a frenar la proliferación de aplicaciones que usan inteligencia artificial para crear imágenes íntimas no consentidas, conocidas como apps “nudify”. Según informó MacRumors, la compañía ya prohibía el contenido sexualmente explícito, pero ahora exige a los desarrolladores que prevengan y eliminen de forma proactiva los deepfakes generados por IA en sus plataformas, bajo riesgo de ser retirados de la tienda.
La medida llega después de meses de críticas hacia Apple por mantener en su tienda aplicaciones vinculadas a casos de abuso con IA generativa, de acuerdo con The Verge.
Lo esencial
- Apple actualizó la guía 1.2 de la App Store para prohibir explícitamente las apps “nudify”, que generan imágenes íntimas de personas reales sin su consentimiento mediante IA.
- Los desarrolladores ahora deben prevenir y remover activamente este tipo de contenido; si no actúan, sus apps pueden ser eliminadas de la tienda.
- La actualización, reportada el 16 de octubre, se produce tras la controversia por el uso de Grok en X para crear deepfakes sexualizados no consentidos, incluyendo de menores.
- Apple agregó la guía 2.5.19, que castiga a desarrolladores que incorporan funciones no presentes en la versión enviada a revisión, apuntando a tácticas de “bait-and-switch”.
- La compañía también extendió, en la sección 5, su prohibición sobre apps que faciliten trata de personas o explotación infantil a la distribución alternativa de aplicaciones.
Qué cambia en las reglas de la App Store
Hasta ahora, Apple ya prohibía contenido sexualmente explícito en la App Store, pero la nueva redacción de la guía 1.2 nombra de forma directa a las aplicaciones de creación de contenido con IA y a las herramientas “nudify”, según detalló MacRumors. El cambio obliga a los desarrolladores a tomar medidas activas de moderación, no solo a reaccionar ante denuncias. Apple fue tajante en su comunicado a desarrolladores: “No dudamos en eliminar aplicaciones, y dar de baja a los desarrolladores detrás de ellas, cuando violan estas pautas”, señaló la compañía en su publicación de novedades para desarrolladores, citada por MacRumors.
Una de las adiciones más relevantes es la guía 2.5.19, que responde a un patrón detectado por Apple: aplicaciones que ocultan su verdadera función durante el proceso de revisión y solo activan capacidades dañinas, como la “nudificación”, después de haber sido aprobadas. Esta práctica, conocida como bait-and-switch, ahora queda explícitamente prohibida, y los desarrolladores que la utilicen arriesgan no solo la eliminación de la app, sino también su salida del Programa de Desarrolladores de Apple.
El antecedente con Grok y X
El trasfondo de esta actualización está directamente relacionado con Grok, el chatbot de xAI integrado en X. Según The Verge, los cambios en las reglas siguen a críticas significativas contra Apple después de que usuarios de X emplearan Grok a principios de este año para generar deepfakes sexualizados no consentidos, incluyendo imágenes de menores.
MacRumors precisó que, en su momento, Apple le advirtió a xAI que retiraría Grok de la App Store si la aplicación continuaba permitiendo la generación de desnudos falsos. xAI respondió incorporando salvaguardas adicionales, y Apple terminó aprobando una versión actualizada de la app. Es decir, pese a la gravedad del problema, Apple no llegó a retirar X ni Grok de su tienda, un punto que The Verge destaca como relevante porque la nueva normativa busca dar a Apple un marco más explícito para actuar en casos similares en el futuro, sin depender únicamente de negociaciones caso por caso con cada desarrollador.
Qué significa para desarrolladores y usuarios
Para los desarrolladores de aplicaciones de IA generativa, el mensaje de Apple es claro: la responsabilidad de evitar el uso indebido de sus herramientas recae en ellos desde el diseño del producto, no solo después de recibir denuncias. Esto afecta particularmente a apps de edición de fotos, generadores de imágenes y chatbots con capacidades multimodales, que deberán demostrar mecanismos de prevención para evitar ser señalados bajo la guía 1.2.
Para los usuarios de la App Store en América Latina, el cambio no implica un nuevo proceso de verificación ni requiere ninguna acción, pero sí debería traducirse en una reducción de la disponibilidad de aplicaciones que permitan generar imágenes íntimas falsas sin consentimiento. Apple no especificó montos de inversión ni un cronograma de aplicación gradual de las reglas en distintos países, por lo que no hay precisión sobre cuándo se notarán los efectos completos de la medida en las tiendas regionales.
Además del eje de los deepfakes, Apple aprovechó la actualización para reforzar la sección 5 de sus lineamientos, extendiendo la prohibición sobre aplicaciones que faciliten trata de personas o explotación infantil también a los canales de distribución alternativa de apps, un área que ha cobrado relevancia a medida que distintas jurisdicciones han presionado a Apple para permitir tiendas de terceros fuera de la App Store.
Qué esperar
Apple no detalló plazos específicos para la aplicación estricta de las nuevas reglas ni mecanismos concretos de auditoría para detectar funciones ocultas tipo bait-and-switch antes de que causen daño. Tampoco se conoce si habrá sanciones retroactivas para aplicaciones que ya estaban operando de forma irregular antes del anuncio. Lo que sí queda establecido, según el comunicado citado por MacRumors, es la disposición de Apple a remover aplicaciones y dar de baja a desarrolladores de forma directa ante violaciones comprobadas. Queda por verse cómo responderán actores como xAI ante este marco más estricto, y si otros desarrolladores de herramientas de IA generativa ajustarán sus productos de forma preventiva para evitar quedar fuera de la tienda.
