Imágen de un móvil con contenido sexual en pantalla. - TECH TRANSPARENCY PROJECT
MADRID, 16 Abr. (Portaltic/EP) -
Apple y Google continúan ofreciendo aplicaciones que fomentan la desnudez impulsadas por inteligencia artificial (IA) en sus tiendas de aplicaciones App Store y Play Store, muchas de ellas calificadas como aptas para todas las edades, además de aumentar su visibilidad mediante sus sistemas de búsqueda y publicidad.
Una investigación realizada por la organización Tech Transparency Project (TTP) ya dio a conocer en enero de este año que las tiendas de aplicaciones de Apple y Google ofertaban alrededor de 50 'apps' cada una que permiten generar desnudos utilizando la inteligencia artificial (IA), pese a que sus políticas las prohíben.
Entre ellas, se encontraban opciones como la aplicación del 'chatbot' de la red social X Grok, que acabó generando más de 3 millones de imágenes sexualizadas de menores de edad y mujeres, antes de bloquear esta opción.
En ese momento, desde TTP explicaron que estas aplicaciones se podían hallar fácilmente, bastaba con escribir "nudify" y "undress" (desnudar) en las barras de búsqueda de las tiendas para encontrarlas. Así, aparecían 'apps' que permiten usar IA para generar imágenes y vídeos a petición de los usuarios, así como otras que emplean IA para hacer 'deepfakes'.
Ahora, la misma organización ha vuelto a analizar las tiendas de aplicaciones App Store y Play Store, enfocándose especialmente en sus sistemas de búsqueda. Así, han encontrando que las tecnológicas a cargo continúan ofreciendo aplicaciones que fomentan la desnudez e, incluso, que sus sistemas de búsqueda y publicidad ayudan a dirigir a los usuarios a dichas aplicaciones, aumentando así su visibilidad.
Según TTP, aproximadamente el 40 por ciento de las aplicaciones que aparecen en los resultados de búsqueda de Apple y Google, bajo los términos 'nudify', 'undress' y 'deepnude', mostraban a mujeres desnudas o con poca ropa. En concreto, encontraron un total de 46 aplicaciones únicas en la App Store y 49 aplicaciones únicas en Google Play.
Así, la organización descargó las diez primeras aplicaciones que aparecían bajo estos términos de búsqueda tanto en un dispositivo iOS como en uno Android y las pusieron a prueba utilizando solo las funciones gratuitas en aplicaciones como Best Body AI-Fashion Editor o Uncensored AI - No filter Chat.
Como resultado, de las 46 aplicaciones de Apple, al menos 18 podían desnudar o mostrar imágenes explícitas de mujeres, y de las 49 'apps' de Google Play, al menos 20 cumplían con ese mismo criterio.
LOS SISTEMAS DE BÚSQUEDA AYUDAN A ENCONTRAR ESTAS APLICACIONES
Además, también han encontrado anuncios de aplicaciones de desnudos en algunos resultados de búsqueda, impulsando a los usuarios a encontrar este tipo de 'apps'. Concretamente en los resultados de Google, se mostró un carrusel de anuncios de algunas de las aplicaciones "más explícitas sexualmente" encontradas en la investigación.
Siguiendo esta línea, las sugerencias de autocompletar a la hora de buscar en estas tiendas de aplicaciones también recomendaban términos de búsqueda adicionales relacionados con contenido erótico, que llevaban a más aplicaciones de contenido para adultos.
Con todo ello, el informe de TTP detalla que las aplicaciones de contenido para adultos que aparecieron en las tiendas de aplicaciones de Apple y Google se han descargado un total de 483 millones de veces y han generado más de 122 millones de dólares (alrededor de 103 millones de euros al cambio) en ingresos totales, según datos recabados por la empresa de análisis de aplicaciones AppMagic.
Cabe de estacar que, de entre las aplicaciones de contenido erótico encontradas, al menos 31 están clasificadas por las propias tiendas de aplicaciones como aptas para menores. Al respecto, la organización ha puesto de relieve cómo pueden influir este tipo de 'apps' en la creciente preocupación por el uso de 'deepfakes' sexuales con menores en los colegios.
EL PAPEL DE APPLE Y GOOGLE
Ni Apple ni Google han dado explicaciones sobre por qué las funciones de búsqueda de sus tiendas de aplicaciones impulsan encontrar 'apps' de contenido sexual, así como el proceso que pasan para superar sus revisiones o por qué se aprueban como aptas para menores.
Asimismo, se ha de tener en cuenta que tanto Apple como Google tienen normas contra las aplicaciones que "desnudan" a usuarios o permiten cualquier tipo de contenido sexual. Por ejemplo, Apple prohíbe las 'apps' que sean "ofensivas, insensibles, perturbadoras, que busquen causar repugnancia, de pésimo gusto o simplemente inquietantes", incluyendo "material abiertamente sexual o pornográfico".
Igualmente, Google Play Store prohíbe las aplicaciones que "contengan o promuevan contenido sexual", así como que "degraden u cosifiquen a las personas, como las que afirman desnudar a las personas o mostrar transparencia en la ropa".
Al respecto, el portavoz de Google, Dan Jackson, ha afirmado que "muchas de las aplicaciones" identificadas por TTP han sido suspendidas y que el proceso de la aplicación de las normas por parte de la compañía continúa.
"Cuando se nos informan infracciones de nuestras políticas, investigamos y tomamos las medidas oportunas", ha detallado el portavoz, al tiempo que ha recordado que la Coalición Internacional de Clasificación por Edades es quien establece las clasificaciones por edades de las aplicaciones en la Play Store y no la propia Google.
En total, Google ha eliminado siete aplicaciones relacionadas con contenido sexual con IA. Por su parte, la organización ha apuntado que Apple ha eliminado 15 aplicaciones tras la publicación de su informe.
Con todo ello, desde la TTP han subrayado como este tipo de comportamientos demuestran que "estas plataformas son participantes clave en la difusión de herramientas de IA que pueden convertir a personas reales en imágenes sexualizadas".