A Apple e o Google começaram a remover de suas lojas os chamados aplicativos de nudify, programas que usam inteligência artificial para criar imagens falsas de nudez a partir de fotos comuns, depois de a Procuradoria da cidade de São Francisco notificar as duas empresas em 17 de julho.
O procurador David Chiu enviou cartas de cease-and-desist à Apple e ao Google, apontando 13 aplicativos que trocam rostos e removem roupas digitalmente: oito na App Store e cinco no Google Play. As empresas ganharam 28 dias para tirá-los do ar e cortar relações com os desenvolvedores.
A Apple respondeu que retirou três desses aplicativos, está encerrando as contas dos desenvolvedores e cobra ajustes de outros quatro, sob risco de remoção. O Google afirmou ter suspendido centenas de programas do tipo, confirmou a retirada dos cinco citados e restringiu as buscas pelo termo nudify na loja.
Segundo Chiu, Apple e Google lucram com aplicativos que exploram mulheres e meninas ao gerar deepfakes íntimos sem consentimento. A queixa é de que as lojas ajudam a espalhar esse material ao hospedá-lo e processar os pagamentos.
O que diz a lei?
A ofensiva se apoia na legislação da Califórnia, que criminaliza quem facilita conscientemente a produção de pornografia deepfake sem consentimento. Uma lei estadual de 2025 também permite que vítimas processem, na esfera civil, terceiros que ajudam a espalhar esse tipo de imagem, o que coloca as próprias lojas de aplicativos na mira.
Relatórios do Tech Transparency Project, publicados em janeiro e abril, já haviam alertado as duas empresas. Segundo o grupo, vários desses aplicativos passavam pela moderação, apareciam em destaque nas lojas e chegavam a ser classificados como livres para todas as idades, acessíveis a crianças com uma busca simples.
Por que isso importa para a família imigrante?
O estrago vai além da tecnologia. Ferramentas de nudez falsa alimentam a sextorsão, a extorsão a partir de imagens íntimas, que atinge sobretudo adolescentes. Uma foto inocente de rede social vira, em segundos, uma imagem manipulada usada para humilhar ou chantagear. Para famílias brasileiras com filhos na escola americana, o risco é concreto e não depende de a vítima ter enviado qualquer foto real.
A conversa em casa ajuda mais do que qualquer aplicativo. Vale explicar aos adolescentes que imagens falsas circulam, que a culpa nunca é de quem aparece na foto e que o caminho é contar a um adulto de confiança, não pagar chantagista nenhum. Revisar quem vê as fotos nas redes e fechar perfis públicos reduz o material disponível para manipulação.
Se alguém da família for alvo,
O primeiro passo é guardar provas, capturas de tela, links e nomes de usuário, e denunciar na própria plataforma onde a imagem apareceu. Para menores de 18 anos, o serviço gratuito Take It Down, do centro americano NCMEC, ajuda a remover imagens íntimas da internet; para adultos, a ferramenta StopNCII cumpre papel parecido. Casos de extorsão devem ser levados à polícia local e podem ser reportados ao FBI.
A pressão regulatória cresce em várias frentes. No Congresso, parlamentares já cobraram as mesmas empresas por cartas semelhantes, e a retirada dos aplicativos em São Francisco tende a servir de modelo para outras cidades e estados. Para quem usa o celular todos os dias, o recado é direto: criar uma imagem falsa hoje ficou fácil, e a defesa começa por saber que ela existe.
Comentários
Faça login para comentar
EntrarSeja o primeiro a comentar!