Empresas como Apple y Google ofrecen aplicaciones con Inteligencia Artificial capaces de producir imágenes de contenido pornográfico estando clasificadas como “aptas para todas las edades”. Sumado a esto, la organización Tech Transparency Project (TTP) dio a conocer que aplicaciones ofrecidas en App Store y Play Store contenían por lo menos 50 apps que podrían generar imágenes de desnudos mediante Inteligencia Artificial, a pesar de su supuesta prohibición en sus políticas.
Según la investigación reveló que para encontrar y descargar estas aplicaciones con la capacidad de producir deepfakes ( contenido generado artificialmente que con apariencia de un humano real o ficticio) hipersexualizados o de desnudez mediante IA solo era necesario escribir palabras como “nudify” o “undress” que significan desnudar en inglés. La investigación también ha revelado que las aplicaciones fomentan estas dinámicas incluso mediante sus sistemas de búsqueda y publicidad aumentando la visibilidad.
El contenido sexual de estas aplicaciones queda completamente definido desde antes de su descarga mostrando imágenes hipersexualizadas de cuerpos femeninos desnudos. Tras la descarga y la utilización de las primeras apps en su versión gratuita, de 46 de 18 aplicaciones disponibles en App Stores, y de 20 de 49 disponibles en Google Play podrían generar imágenes explícitas o desnudos de mujeres.
Además, las tiendas para aplicaciones impulsan mediante su sistema de búsqueda y publicidad apps con contenido de adulto, autocompletando y sugiriendo otras aplicaciones de contenido sexual. Aplicaciones como estas han sido descargadas 483 millones de veces, generando 122 millones de dólares de ingresos.
Al menos 31 de estas aplicaciones están clasificadas como aptas para infancias, exponiendo a los menores al consumo de contenido para adultos desde edades tempranas en las que el cerebro no está preparado para procesar la complejidad de la actividad sexual. Por otro lado, el fácil acceso a contenido sexual en etapas de la adolescencia tiene un impacto negativo en la salud sexual de las personas pubertas y adolescentes, creando expectativas irreales de la sexualidad, los cuerpos, o el placer.
Estas aplicaciones no solo exponen al consumo de contenido sexual desde temprana edad, sino que además ponen en riesgo a las poblaciones menores de edad a la creación de deepfakes sexualizados dentro del entorno escolar.
TTP ha concluido que “estas plataformas [Apple y Google] son participantes claves en la difusión de herramientas de inteligencia artificial que pueden convertir a personas reales en imágenes sexualizadas”
Fuentes: Europa Press, La jornada
