A China identificou seis riscos da IA para a segurança nacional, que abrangem desde a manipulação da opinião pública e os ciberataques até à fuga de informação sensível e à utilização da tecnologia em operações militares.
A avaliação foi apresentada por Chen Yixin, ministro da Segurança do Estado da China, num artigo publicado a 13 de setembro na revista China Cyberspace. O Financial Times enquadra a intervenção como um reforço do papel dos serviços de informações chineses no debate sobre os riscos associados à inteligência artificial.
A novidade não está no facto de o Ministério da Segurança do Estado abordar pela primeira vez ameaças relacionadas com IA. O organismo já tinha publicado alertas sobre segurança de dados e utilização de modelos estrangeiros. O elemento novo é a sistematização destes riscos por Chen Yixin num quadro diretamente associado à segurança nacional chinesa.
Manipulação política entre os riscos da IA
Chen Yixin identifica como um dos riscos a utilização de inteligência artificial generativa para influenciar o ambiente político e social.
Segundo a avaliação do ministro, atores considerados hostis pela China podem recorrer a vídeos e áudio manipulados, conteúdos produzidos por IA e redes automatizadas de contas para difundir informação falsa, alimentar divisões sociais e influenciar a opinião pública.
Estas afirmações representam a avaliação dos serviços de informações chineses. O documento não apresenta provas públicas de operações específicas que tenham utilizado estas técnicas contra a China.
Ciberataques e fuga de dados preocupam Pequim
A cibersegurança constitui outra das áreas destacadas. Chen Yixin sustenta que os modelos de inteligência artificial reduzem os conhecimentos técnicos e os recursos necessários para descobrir vulnerabilidades, desenvolver software malicioso e automatizar partes de um ataque informático.
Na avaliação chinesa, esta evolução aumenta os riscos para sistemas e infraestruturas críticas, à medida que a IA assume um papel maior tanto nas capacidades defensivas como ofensivas.
A fuga de informação constitui outra preocupação. O ministro alerta para a introdução de dados sensíveis em ferramentas estrangeiras de inteligência artificial e para a possibilidade de essa informação sair do controlo das organizações chinesas.
Este risco já tinha levado o Ministério da Segurança do Estado a intervir publicamente. Em junho, o South China Morning Post noticiou um alerta dirigido aos chamados serviços intermediários de IA, que permitem a programadores chineses aceder a modelos estrangeiros.
O Ministério apontou então riscos de fuga de dados, violações de privacidade e transferências transfronteiriças não autorizadas. Segundo o organismo, algumas destas plataformas armazenavam informação dos utilizadores sem mecanismos de segurança adequados.
China associa IA à disputa tecnológica e militar
Chen Yixin inclui ainda entre os riscos a concentração de capacidades tecnológicas, os efeitos da IA sobre a organização social e a utilização crescente destes sistemas no domínio militar.
O ministro critica países que recorrem a restrições tecnológicas, controlos de exportação e limitações no acesso a capacidade computacional para preservar vantagens estratégicas. A descrição surge num contexto de sucessivas limitações norte-americanas ao acesso da China a semicondutores e outras tecnologias avançadas.
A tensão aumentou em setembro, depois de autoridades norte-americanas acusarem seis empresas chinesas de recorrer à destilação de modelos de IA desenvolvidos nos Estados Unidos. Pequim rejeitou as acusações e argumentou que a destilação é uma técnica comum na indústria.
A componente militar não é apenas uma preocupação teórica. Uma investigação da Reuters analisou mais de 80 artigos científicos e patentes ligados a instituições militares chinesas e encontrou utilização de modelos norte-americanos no desenvolvimento de sistemas relacionados com vigilância, guerra cibernética, drones e apoio à decisão.
Este contexto não confirma as ameaças descritas por Chen Yixin, mas mostra que a inteligência artificial já faz parte da competição tecnológica e militar entre as duas potências.
Pequim quer reforçar supervisão sem travar a IA
Apesar dos riscos apontados, Chen Yixin não defende uma suspensão do desenvolvimento de modelos de inteligência artificial.
A posição apresentada combina maior supervisão com investimento tecnológico. Entre as medidas defendidas estão mecanismos de monitorização e alerta, orientações para organismos públicos e empresas, investigação em tecnologias consideradas estratégicas e desenvolvimento de infraestruturas nacionais de dados e capacidade computacional.
A abordagem reflete uma tensão central na política tecnológica chinesa: acelerar o desenvolvimento da inteligência artificial sem perder controlo sobre os dados, os conteúdos e as aplicações consideradas relevantes para a segurança nacional.
O alerta surge também num momento em que Estados Unidos e China preparam conversações especificamente dedicadas à segurança da IA. Segundo a Reuters, os contactos previstos para meados de setembro deverão abordar riscos associados a ciberataques conduzidos por inteligência artificial e possíveis mecanismos de partilha de informação entre os dois países.
A agenda e os participantes ainda não estavam fechados quando a Reuters revelou as conversações. O diálogo deverá ser o primeiro encontro bilateral oficial dedicado exclusivamente à segurança da inteligência artificial desde o regresso de Donald Trump à presidência dos Estados Unidos.
Até ao momento, Pequim não anunciou novas restrições à utilização de modelos estrangeiros na sequência da intervenção de Chen Yixin.
Outros artigos interessantes:
