A pesar de las políticas claras que prohíben contenido sexual y pornográfico, Apple y Google siguen ofreciendo y promoviendo aplicaciones ‘nudify’ en sus tiendas. Según un nuevo informe del Tech Transparency Project (TTP), estas aplicaciones, que permiten convertir la imagen de personas reales en contenido sexualizado, siguen disponibles en la App Store de iOS y en Google Play, casi tres meses después de que se revelara su presencia.
La búsqueda de términos como «nudify» o «desvestir» en estas plataformas da acceso a aplicaciones que pueden desnudar a personas reales o colocarlas en vídeos pornográficos. El informe sostiene que «las plataformas son participantes clave en la difusión de herramientas de inteligencia artificial que pueden transformar a personas reales en imágenes sexualizadas». De hecho, incluso se han encontrado anuncios de aplicaciones similares en los resultados de búsqueda de las tiendas, lo que ha suscitado preocupaciones sobre la responsabilidad de estas empresas.
Aplicaciones identificadas y datos relevantes
El TTP ha identificado 18 aplicaciones ‘nudify’ en la App Store de Apple y 20 en Google Play. Algunas de estas aplicaciones presentan imágenes explícitas en su marketing, mientras que otras, aunque menos evidentes, pueden ser utilizadas para crear imágenes manipuladas. Según el informe, estas aplicaciones han generado alrededor de 122 millones de dólares en ingresos y han sido descargadas 483 millones de veces.
“No solo estas compañías fallan en revisar adecuadamente estas aplicaciones, sino que además siguen aprobándolas y beneficiándose de ellas”, declaró la directora del TTP, Katie Paul, en una entrevista con Bloomberg. “De hecho, están dirigiendo a los usuarios hacia las propias aplicaciones”.
Políticas de Apple y Google
Tanto Apple como Google tienen políticas que prohíben material sexual o pornográfico, y Google ha establecido una política específica contra las aplicaciones ‘nudify’. Apple ha confirmado que ha eliminado 15 aplicaciones identificadas por el TTP, mientras que Google informó que ha suspendido varias de ellas. Entre las aplicaciones destacadas en el informe se encuentra Video Face Swap AI: DeepFace, que permite sustituir la cara de una persona real en el cuerpo de mujeres parcialmente desnudas y está calificada como “E” para todos los públicos.
Regulación y acciones gubernamentales
La proliferación de aplicaciones ‘nudify’ y de deepfakes ha llevado a algunos gobiernos a considerar la creación de leyes para prohibir este tipo de tecnología. Recientemente, el Comisionado de la Infancia del Reino Unido abogó por una prohibición de las aplicaciones de inteligencia artificial que generan imágenes desnudas o sexuales de menores. Por su parte, Estados Unidos y otros países están proponiendo o implementando leyes que prohíben los deepfakes explícitos, mientras que el Fiscal General de California ha emitido una orden de cese y desistimiento a X, la plataforma de Elon Musk, debido a las imágenes explícitas difundidas por Grok.
Actualización el 16 de abril a las 3:42 AM ET: Google ha comentado a Engadget lo siguiente:
-
Google Play no permite aplicaciones que contengan contenido sexual.
-
Cuando se nos reportan violaciones de nuestras políticas, investigamos y tomamos las medidas adecuadas.
-
Muchas de las aplicaciones mencionadas en este informe han sido suspendidas de Google Play por violar nuestras políticas.
-
Nuestro proceso de investigación y aplicación de medidas está en curso.