Apple e Google sob pressão contra deepfakes de IA na App Store

17 de julho de 2026

O aumento de aplicativos de IA generativa capazes de criar 'deepnudes' colocou Apple e Google no centro de uma crise ética e regulatória. Governos e entidades civis exigem maior rigor na filtragem de softwares que facilitam o abuso digital e a violência de gênero no ambiente mobile.

O Desafio da Moderação na Era da IA Generativa

A ascensão da inteligência artificial generativa trouxe consigo uma onda de inovações sem precedentes, mas também abriu as portas para usos maliciosos que desafiam as políticas de segurança das gigantes de tecnologia. Recentemente, Apple e Google tornaram-se alvos de forte pressão de órgãos reguladores e grupos de defesa dos direitos humanos. O motivo é a presença de aplicativos em suas lojas oficiais que, sob a fachada de editores de fotos, utilizam algoritmos para remover roupas de pessoas em imagens reais, criando a chamada "nudez não consentida".

Este cenário expõe uma vulnerabilidade crítica no processo de revisão da App Store e da Google Play Store. Embora ambas as empresas possuam diretrizes rígidas contra conteúdo sexualmente explícito, a natureza técnica da IA permite que desenvolvedores mascarem a funcionalidade real de suas ferramentas durante o processo de aprovação, ativando os recursos proibidos via servidor após o app já estar disponível para o público.

Pressão Regulatória e Impacto Social

A disseminação dessas ferramentas não é apenas um problema técnico, mas uma crise de segurança pública digital. O assédio facilitado por IA tem como alvo principal mulheres e menores de idade, criando danos psicológicos e reputacionais muitas vezes irreversíveis. Diante disso, legisladores em diversos países, incluindo o Brasil e membros da União Europeia, debatem a responsabilidade das plataformas na curadoria do que é ofertado aos usuários.

Críticos argumentam que o modelo de negócio das Big Techs, que retêm uma porcentagem das transações realizadas dentro dos apps, cria um conflito de interesses. Quanto mais popular um aplicativo — ainda que éticamente questionável — maior o faturamento para a loja que o hospeda. A exigência agora é por sistemas de detecção proativa baseados em IA que possam identificar o propósito de abuso antes mesmo do download.

O Caminho para uma IA Mais Ética

Para conter a proliferação dos deepfakes, Apple e Google começaram a endurecer os termos de uso para desenvolvedores de IA. No entanto, o desafio é o jogo de "gato e rato": assim que um app é removido, outros dez surgem com nomes e interfaces diferentes. Especialistas em cibersegurança sugerem que a solução passa por uma combinação de marca d'água digital obrigatória em conteúdos gerados por IA e punições severas para as contas de desenvolvedores reincidentes.

Além disso, existe um movimento global para que as empresas de tecnologia colaborem de forma mais próxima com as autoridades policiais para facilitar a identificação dos criadores dessas ferramentas. A responsabilidade corporativa nunca foi tão testada, e a resposta das gigantes do Vale do Silício definirá os limites da liberdade criativa versus a proteção da dignidade humana no século XXI.

No Kautt Radar, acreditamos que a inovação tecnológica perde seu valor quando ignora a ética; é urgente que as plataformas assumam o papel de guardiãs, e não apenas de vitrines, em um ecossistema digital cada vez mais complexo.

#Inteligência Artificial #Big Tech #Segurança Digital #Deepfakes #Apple e Google

Fonte original: https://olhardigital.com.br/2026/07/17/inteligencia-artificial/apple-e-google-sao-pressionadas-a-remover-apps-de-ia-que-geram-nudez-falsa/. Artigo reescrito e analisado pelo sistema Kautt Radar.