O Reino Unido anunciou novas medidas para reforçar a proteção contra as ameaças da IA, que incluem a avaliação de modelos avançados, o reforço da cibersegurança e a preparação para incidentes provocados por agentes autónomos. As iniciativas surgem numa altura em que os serviços de informações britânicos alertam para os riscos associados à utilização da tecnologia por organizações terroristas e Estados hostis.
A resposta britânica deixa de estar centrada apenas na colaboração com as empresas tecnológicas. O Governo pretende aumentar a capacidade do Estado para identificar vulnerabilidades, avaliar riscos e responder a incidentes que possam comprometer serviços públicos e infraestruturas essenciais.
Segundo o anúncio oficial do governo britânico, de 12 de outubro, dois projetos-piloto permitiram identificar e corrigir mais de mil potenciais vulnerabilidades nos sistemas informáticos da administração pública. O Executivo pretende agora alargar a utilização de modelos avançados de inteligência artificial para reforçar as defesas contra ciberataques.
O ministro responsável pela inteligência artificial, Kanishka Narayan, defendeu uma estratégia que combine capacidade tecnológica, avaliação independente e novas obrigações legais quando necessário. O Governo considera que o aumento da autonomia dos sistemas de IA poderá agravar as consequências de falhas técnicas ou utilizações maliciosas.
MI5 cria centro para avaliar ameaças da IA
Uma das principais novidades é a criação do AI Threat Assessment Centre (AITAC), uma estrutura integrada no MI5 que reúne conhecimentos de diferentes organismos, entre os quais o AI Security Institute e o National Cyber Security Centre.
O novo centro tem como missão analisar os riscos da inteligência artificial para a segurança nacional e fornecer informação aos departamentos governamentais responsáveis pela proteção do país.
A iniciativa foi anunciada pelo diretor-geral do MI5, Ken McCallum, durante a apresentação anual sobre as ameaças à segurança britânica, a 13 de outubro.
McCallum identificou a inteligência artificial como uma tecnologia com potencial para ampliar as capacidades de espionagem, operações informáticas maliciosas e outras atividades conduzidas por intervenientes hostis.
Estas preocupações encontram paralelo num relatório da Anthropic sobre a crescente autonomia da IA em ciberataques, divulgado em setembro. A empresa documentou operações nas quais agentes executaram tarefas de reconhecimento, exploração de vulnerabilidades e recolha de dados durante períodos prolongados, com menor supervisão humana.
O diretor-geral do MI5 alertou igualmente para a possibilidade de os modelos mais avançados facilitarem o desenvolvimento de ameaças químicas ou biológicas. Trata-se de uma avaliação de risco dos serviços de informações, não de uma confirmação de que estes sistemas já permitiram executar ataques dessa natureza.
A criação do AITAC procura responder a estas ameaças com uma capacidade permanente de avaliação e aconselhamento ao Governo, para além dos testes realizados pelos próprios laboratórios que desenvolvem os modelos.
Governo britânico admite novas regras contra riscos da IA
O Executivo está também a estudar alterações ao enquadramento do Cyber Security and Resilience Bill, com o objetivo de proteger serviços essenciais contra ameaças associadas à inteligência artificial.
Entre as possibilidades em análise encontram-se mecanismos para identificar e comunicar incidentes graves, bem como situações em que uma falha foi evitada, mas revelou vulnerabilidades que precisam de ser corrigidas.
Uma das preocupações diz respeito aos agentes autónomos de IA, sistemas capazes de executar sequências complexas de tarefas com intervenção humana reduzida. À medida que estas ferramentas ganham autonomia, aumenta a necessidade de mecanismos que permitam supervisionar as suas ações e interromper operações perigosas.
A proteção destes sistemas exige também medidas de isolamento, controlo de privilégios e supervisão humana, sobretudo quando os agentes têm acesso a dados sensíveis, aplicações empresariais ou ferramentas capazes de alterar sistemas informáticos.
O Governo britânico considera que um incidente envolvendo agentes autónomos poderá desenvolver-se com maior rapidez e alcance do que os incidentes para os quais foram concebidos os procedimentos tradicionais de resposta a crises.
Para enfrentar esse cenário, o National Cyber Security Centre e o AI Security Institute estão a estudar formas de preparar as autoridades para situações em que os sistemas autónomos provoquem perturbações de grande dimensão.
O AI Security Institute está igualmente a realizar novas avaliações de modelos avançados, após contactos com empresas tecnológicas e autoridades norte-americanas.
Parlamento investiga riscos e supervisão da IA
O debate chegou também à Câmara dos Comuns. Em 14 de outubro, a comissão parlamentar responsável pelas áreas dos negócios, inovação, ciência e comércio anunciou uma investigação sobre a segurança e a governação da inteligência artificial.
A iniciativa surgiu após audições parlamentares que reuniram antigos funcionários de empresas de IA, representantes da OpenAI, Anthropic, Meta e Google DeepMind, especialistas em segurança e responsáveis governamentais.
A investigação pretende examinar os riscos associados aos sistemas avançados, os procedimentos de avaliação adotados pelas empresas e a capacidade das atuais estruturas de supervisão para responder à evolução da tecnologia.
A comissão irá também analisar as medidas previstas no Cyber Security and Resilience Bill, nomeadamente as propostas relacionadas com a comunicação de incidentes e os mecanismos de proteção contra falhas graves.
O processo decorre numa altura em que o Reino Unido procura conciliar a atração de investimento em inteligência artificial com o reforço da proteção contra os riscos associados à sua utilização.
Apesar das novas iniciativas, ainda não foi aprovado um regime obrigatório específico para os modelos avançados de IA. O Governo admite estudar novas exigências legais, enquanto o Parlamento recolhe informação para determinar se os atuais mecanismos de supervisão são suficientes para responder às ameaças da IA.
Outros artigos interessantes:
