San Francisco ordena a Apple y Google eliminar aplicaciones de desnudificación de sus tiendas

El fiscal general de San Francisco, David Chiu, ha ordenado a Apple y Google que eliminen 13 aplicaciones de desnudificación de sus tiendas de aplicaciones. Estas aplicaciones utilizan inteligencia artificial para transformar fotos ordinarias de personas reales en imágenes explícitas.

Las aplicaciones de desnudificación pueden ser utilizadas para remover ropa, cambiar características de una persona, colocarla en posiciones sexualizadas y reemplazar sus rostros con los de otras personas en cuerpos desnudos. Chiu ha advertido que estas aplicaciones violan las leyes de California que prohíben servicios que crean pornografía profunda.

“No se han hecho públicos los nombres de las aplicaciones para evitar atraer a los usuarios hacia ellas”

El fiscal general ha pedido a Google que elimine cinco aplicaciones y a Apple que elimine ocho. No se han hecho públicos los nombres de las aplicaciones para evitar atraer a los usuarios hacia ellas. Sin embargo, se ha informado que una de las aplicaciones tenía más de un millón de descargas y anunciaba características para sexualizar imágenes de mujeres o crear videos "gratis y sin censura".

La oficina de Chiu estima que Apple y Google han ganado probablemente millones de dólares en tarifas al ignorar estas aplicaciones dañinas en lugar de tomar medidas más fuertes o desarrollar una mejor detección para evitar beneficiarse de una molestia pública. Google ha suspendido las cinco aplicaciones que Chiu identificó por violar las políticas contra contenido dañino, mientras que Apple no ha respondido a los pedidos de comentario.

La capacidad de las tiendas de aplicaciones para detectar y eliminar este tipo de contenido es crucial, ya que los investigadores han advertido que algunas aplicaciones dañinas han mejorado para evitar la eliminación al promocionar solo características de intercambio de rostros mientras ocultan sus capacidades de desnudificación. Esto ha llevado a un aumento en la presión sobre las tiendas de aplicaciones para que tomen medidas enérgicas contra las aplicaciones de desnudificación y otros contenidos dañinos.