A principios de este año una investigación reveló que las tiendas de aplicaciones de Apple y de Google ofrecían alrededor de 50 apps cada una que permiten generar desnudos usando la inteligencia artificial (IA). Un suceso que la gran ‘G’ ya investiga.
Google ha confirmado que se encuentra analizando el problema de las aplicaciones que fomentan la desnudez y ha asegurado que ya ha suspendido muchas de ellas de la Play Store.
La compañía suele tomar medidas enérgicas contra las aplicaciones dañinas que permiten crear imágenes falsas de desnudos generadas por IA, pero el informe reveló que su tienda seguía contando con una variedad de ellas.
Google al fin ha ofrecido una respuesta al informe, que menciona las políticas de la empresa y de Apple que restringen de forma clara las aplicaciones que promueven la explotación o el abuso.
Sin embargo, al buscar términos como “desnudarse” o “desvestirse” en la App Store y Google Play aparecen decenas de aplicaciones con fines cuestionables.
Fotomontaje inspirado en la Google Play Store
Según diversos informes, ambas plataformas incluso las promocionan mediante sugerencias de autocompletado.
Lo más preocupante es que algunas cuentan con clasificación “E” (para todos los públicos), lo que permite su descarga incluso por menores.
Por su parte, Google ha señalado a Android Authority que ya está investigando el caso y tomando medidas.
Un portavoz de la compañía ha explicado al medio que “Google Play no permite aplicaciones con contenido sexual. Cuando se nos notifican infracciones de nuestras políticas, investigamos y tomamos las medidas pertinentes”.
Incluso ha añadido que “muchas de las aplicaciones mencionadas en este informe han sido suspendidas de Google Play por infringir nuestras políticas. Nuestro proceso de investigación y aplicación de las normas continúa en curso”.
Apple, por su parte, también ha comenzado a tomar medidas tras la publicación del informe. La compañía con sede en Cupertino ha confirmado a Bloomberg que había eliminado 15 aplicaciones detectadas en su tienda, en respuesta a las conclusiones del análisis.
El informe, además, identificó un total de 20 aplicaciones de contenido erótico en Google Play y otras 18 en la App Store, lo que pone de relieve la presencia de este tipo de contenido en ambas plataformas.
Este episodio evidencia que, si bien las políticas de las grandes tecnológicas son estrictas sobre el papel, sus sistemas de moderación aún van un paso por detrás del rápido avance de la inteligencia artificial generativa.
