La oficina del fiscal de la ciudad de San Francisco envió cartas de cese y desistimiento a Apple y Google exigiendo que retiren de sus tiendas de aplicaciones un conjunto de programas conocidos como “nudify”, que utilizan inteligencia artificial para generar imágenes de desnudos falsos sin el consentimiento de las personas retratadas. Según informó Engadget, las cartas identifican 13 aplicaciones distintas disponibles tanto en la App Store como en Google Play.
El caso pone nuevamente en el centro del debate la responsabilidad de las grandes plataformas de distribución de software sobre el contenido que alojan, en particular cuando ese contenido puede facilitar abuso, acoso o explotación sexual mediante herramientas de IA generativa.
Lo esencial
- El fiscal de la ciudad de San Francisco envió cartas de cese y desistimiento a Apple y Google.
- Las cartas señalan 13 aplicaciones “nudify” disponibles en la App Store y en Google Play.
- Estas apps usan IA para crear imágenes de desnudos falsos a partir de fotos reales, sin consentimiento de las personas involucradas.
- De acuerdo con Ars Technica, estimaciones oficiales indican que Apple y Google habrían obtenido millones de dólares en comisiones por la distribución de estas aplicaciones.
- Hasta el momento, ninguna de las dos empresas ha confirmado públicamente si retirará las aplicaciones señaladas ni en qué plazo lo haría.
¿Qué son las aplicaciones “nudify”?
Las llamadas apps “nudify” son programas que, mediante modelos de inteligencia artificial, procesan una fotografía de una persona vestida y generan una versión editada en la que aparece desnuda. El resultado es una imagen falsa, pero que puede resultar visualmente convincente, y que en la gran mayoría de los casos se produce sin ningún tipo de autorización de la persona representada.
Este tipo de herramientas ha sido señalado repetidamente por organizaciones de derechos digitales y autoridades como una forma de abuso digital: se han usado para acosar, extorsionar o humillar públicamente a personas, y sus víctimas suelen ser mujeres y, en un número creciente de casos documentados por distintas fiscalías en Estados Unidos, menores de edad. La existencia de estas apps en tiendas oficiales como la App Store y Google Play les otorga, además, una apariencia de legitimidad que facilita su descarga masiva.
La orden de San Francisco
La acción legal, reportada por Engadget, consiste en cartas formales de cese y desistimiento enviadas por la fiscalía de la ciudad a Apple y Google. El documento exige que ambas compañías tomen medidas frente a las 13 aplicaciones identificadas, que se distribuyen en sus respectivas plataformas. No se trata todavía de una demanda judicial en curso, sino de un primer paso formal que busca presionar a las empresas para que actúen antes de que el caso escale a instancias legales adicionales.
Ars Technica detalla que el reclamo se centra en el rol de Apple y Google como distribuidores: al permitir que estas apps operen en sus tiendas, las compañías no solo facilitan el acceso a esta tecnología, sino que también se benefician económicamente de su distribución.
El dinero detrás de estas aplicaciones
Uno de los puntos más señalados por la fiscalía, de acuerdo con Ars Technica, es el beneficio económico que Apple y Google habrían obtenido gracias a estas apps. Según estimaciones oficiales citadas en ese reporte, ambas empresas podrían haber recaudado millones de dólares en comisiones derivadas de la distribución y las compras dentro de estas aplicaciones, lo que refuerza el argumento de que las plataformas no son actores pasivos frente a este tipo de contenido, sino que participan directamente de su modelo de negocio.
Qué representa esto para Apple y Google
Ambas empresas cuentan con políticas de contenido que, en teoría, prohíben aplicaciones diseñadas para generar material sexual no consentido. Sin embargo, casos como este exponen las dificultades de aplicar esas reglas de manera consistente frente al ritmo de aparición de nuevas apps basadas en IA generativa, muchas de las cuales pueden presentarse bajo descripciones ambiguas o cambiar de nombre para evitar la detección tras ser retiradas.
La presión de una fiscalía municipal como la de San Francisco, sede de varias de las principales empresas tecnológicas del mundo, añade un componente simbólico adicional: se trata de una autoridad local actuando directamente sobre compañías que operan a escala global.
Cómo reportar una app de este tipo
Si un usuario identifica una aplicación de este tipo en su teléfono, tanto Apple como Google ofrecen mecanismos oficiales para reportarla. En la App Store, es posible usar la opción “Informar un problema” desde la página de la app o desde el historial de compras. En Google Play, cada ficha de aplicación incluye una opción para marcarla como inapropiada o reportar contenido dañino. En ambos casos, es recomendable describir con claridad que se trata de una herramienta que genera imágenes sexuales no consentidas, ya que esta categoría suele activar revisiones prioritarias por parte de los equipos de confianza y seguridad de cada plataforma.
Qué esperar
Por el momento, ni Apple ni Google han emitido una respuesta pública detallada sobre las cartas de cese y desistimiento ni sobre un cronograma para retirar las 13 aplicaciones señaladas. Queda por verse si la presión de la fiscalía de San Francisco se traduce en una acción concreta de ambas compañías o si el caso avanza hacia un litigio formal. Tampoco está claro, según la información disponible hasta ahora, si esta acción se extenderá a otras aplicaciones similares no incluidas en la lista original ni qué medidas adicionales podrían adoptar otras autoridades estatales o federales frente a este tipo de tecnología.
