A Apple retirou 19 apps após uma investigação da WIRED identificar funcionalidades ocultas para criar deepfakes sexuais e violentos. As aplicações tinham passado pela revisão da App Store.
A investigação identificou uma rede de mais de 400 domínios e aplicações associados, incluindo serviços apresentados como ferramentas para retratos de animais, aprendizagem de idiomas e exercício físico.
O caso surge depois de a Apple ter reforçado, a 16 de outubro, as regras contra imagens íntimas sem consentimento e funcionalidades escondidas. A atualização procura responder precisamente a aplicações que mudam de comportamento depois de aprovadas.
A Apple diz que o conteúdo mudou após a aprovação
À WIRED, a Apple afirmou que os programadores alteraram, depois da aprovação, os sites que forneciam conteúdo às apps, substituindo o material aprovado por pornografia.
Esta distinção é central para compreender a resposta da empresa: a Apple sustenta que o conteúdo encontrado posteriormente não correspondia ao que tinha avaliado.
Nas suas regras, a empresa exige que os programadores disponibilizem acesso completo às aplicações durante a revisão. Quando existe uma conta de utilizador, devem fornecer credenciais de demonstração ou um modo que permita testar todas as funcionalidades. Os serviços de backend também têm de estar ativos e acessíveis.
Ou seja, a revisão não se deve limitar ao ficheiro instalado no iPhone. As exigências publicadas pela Apple também abrangem os serviços necessários ao funcionamento da aplicação e a explicação de funcionalidades que possam não ser óbvias para os revisores.
As novas regras abrangem imagens geradas por IA
No anúncio de outubro, a Apple recordou que o material pornográfico já era proibido na App Store, incluindo ferramentas destinadas a criar imagens sexualmente explícitas de pessoas reais sem consentimento.
A alteração à regra 1.2 tornou explícita a obrigação de prevenir e remover imagens íntimas não consentidas, incluindo as produzidas por inteligência artificial. O âmbito abrange aplicações de criação de conteúdo com IA, além de redes sociais e plataformas com contributos dos utilizadores.
Os requisitos incluem mecanismos para filtrar material impróprio, denunciar conteúdos, responder atempadamente às queixas e bloquear utilizadores abusivos. Os programadores também devem publicar contactos que permitam aos utilizadores chegar até eles.
Quando são identificadas infrações, a Apple pode exigir a remoção dos conteúdos e um plano para melhorar o cumprimento das regras. A aplicação pode permanecer fora da loja até demonstrar essas melhorias; comportamentos graves ou repetidos podem levar à exclusão imediata.
Esconder funcionalidades pode custar a conta de programador
A regra 2.5.19 esclarece a proibição de funções ocultas, inativas ou não documentadas. A Apple identifica como infração apresentar uma aplicação com determinado propósito durante a revisão e acrescentar capacidades não avaliadas depois da aprovação, prática conhecida como bait-and-switch. As consequências podem incluir a remoção da app e a expulsão do Apple Developer Program.
A empresa também atualizou a secção relativa à exploração infantil e ao tráfico de pessoas. Nestes casos, determina que as aplicações sejam retiradas da App Store e bloqueadas na distribuição alternativa.
Outros artigos interessantes:
