Numa ação recente, a Apple removeu três apps da App Store que se apresentavam como “geradores de arte”, mas, na verdade, promoviam a criação de imagens nuas de mulheres vestidas.
O problema reside na capacidade da inteligência artificial (IA) utilizada por essas apps de gerar imagens que podem ser facilmente utilizadas para fins maliciosos, como assédio, chantagem e invasão de privacidade.
Falta de proatividade preocupa especialistas
O que torna a situação ainda mais preocupante é que a Apple só tomou medidas após a publicação de um artigo no site 404 Media denunciando as apps e as suas práticas.
Especialistas alertam para a necessidade de um sistema mais proativo de moderação na App Store, capaz de identificar e remover apps que violam as políticas da plataforma antes que causem danos.
Evento crucial aproxima-se
A remoção das apps acontece num momento crucial para a Apple, que se prepara para o WWDC 2024, evento anual onde a empresa apresenta as suas novidades tanto em software como hardware.
A gigante de Cupertino tem-se esforçado para construir uma reputação de desenvolvedora responsável de IA, inclusive ao investir em práticas éticas de licenciamento de dados para treino dos seus sistemas.
Em contraste com a Apple, empresas como Google e OpenAI enfrentam processos judiciais por supostamente utilizarem conteúdo protegido por direitos autorais para treinar os seus sistemas de IA.
A demora da Apple em remover as apps em questão pode manchar a imagem que a empresa tem construído cuidadosamente.
Consequências e reflexões
O caso levanta importantes questões sobre a responsabilidade das empresas de tecnologia no desenvolvimento e uso da IA, bem como a necessidade de mecanismos mais eficazes para combater o abuso dessa tecnologia.
É crucial que as plataformas digitais implementem medidas proativas para identificar e remover conteúdos nocivos, protegendo os seus utilizadores e a sociedade como um todo.
A remoção das apps da App Store é um passo positivo, mas ainda há muito a ser feito para garantir que a IA seja utilizada de forma ética e responsável. As empresas de tecnologia, governos e sociedade civil precisam de trabalhar em conjunto para estabelecer diretrizes claras e mecanismos eficazes para prevenir o uso indevido da IA.
Outros artigos interessantes:
