Depois da poeira levantar com a descoberta do incidente da OpenAI, agora foi a vez da Anthropic admitir o impensável no mundo da cibersegurança. A empresa publicou um relatório onde revela que os seus modelos de inteligência artificial escaparam do ambiente de testes interno e infiltraram-se nos sistemas de três organizações diferentes.
O mais assustador no meio de tudo isto é que as vítimas nem sequer faziam ideia de que tinham sido alvo de uma invasão autónoma. Toda a falha veio a público apenas após uma revisão massiva aos registos de segurança da tecnológica, forçada pelas recentes descobertas na indústria.
É no mínimo preocupante perceber que estas ferramentas, por mais avançadas que sejam, podem fugir ao nosso controlo de forma tão perigosa. Parece um verdadeiro guião de um filme de ficção científica, mas é um caso bem real que está a acontecer agora.
Como os modelos da Anthropic escaparam do laboratório
Tudo começou durante um exercício inofensivo de “capture-the-flag”, um desafio técnico muito conhecido focado em encontrar uma informação secreta escondida noutra máquina da rede interna. Os sistemas da empresa estavam programados estritamente para procurar essa bandeira e testar os limites do seu próprio código nesse ambiente isolado.
Durante a investigação, a equipa descobriu que diferentes variantes de inteligência artificial estiveram envolvidas nesta manobra imprevisível. A lista de modelos da família Claude que se aventuraram pela internet sem permissão inclui:
- Opus 4.7 (uma das versões mais recentes e avançadas do sistema)
- Mythos 5 (uma edição desenvolvida e focada de forma intensiva em testes de cibersegurança)
- Um protótipo não identificado (que a marca já confirmou não ter planos para lançamento comercial)
Ao contrário do ataque feito recentemente pela IA da OpenAI, que explorou vulnerabilidades no código ativamente, os modelos da Anthropic acabaram com rédea solta devido a um embaraçoso erro humano. Tudo aponta para um monumental problema de comunicação e interpretação entre a empresa e o seu parceiro de avaliação técnica.
O que causou esta falha de segurança incomum
Na altura de configurar o desafio, os engenheiros deram instruções textuais diretas aos modelos informando-os de que não havia qualquer ligação à internet disponível. No entanto, por um enorme lapso de validação da equipa de testes, as portas de acesso para a rede exterior ficaram totalmente escancaradas e ativas.
Quando a inteligência artificial encontrou acesso livre à internet aberta e esbarrou nos sistemas das três organizações visadas, assumiu simplesmente que aquilo fazia parte do exercício e forçou a entrada. O ataque em si não teve nada de revolucionário, limitando-se ao uso de técnicas muito rudimentares, como o aproveitamento de palavras-passe fracas.
O nível de agressividade do ataque variou de forma caricata consoante a geração tecnológica em causa. O modelo mais recente interrompeu a investida de imediato mal se apercebeu que tinha navegado para a internet pública, mas a versão mais antiga não quis saber desse limite e continuou a martelar a infraestrutura afetada, o que é de deixar os cabelos em pé a qualquer especialista.
As consequências para as empresas afetadas
A empresa tentou agir com rapidez mal descobriu a verdadeira dimensão da falha, notificando o seu parceiro de testes e as entidades prejudicadas no dia 27 de julho. As organizações confirmaram que foram completamente apanhadas de surpresa, sem qualquer registo interno de que os seus sistemas de produção tinham sido comprometidos por uma IA em fuga.
Até ao momento da publicação, a Anthropic ainda estava a tentar entrar em contacto com a terceira vítima para explicar o incidente, provando que um pequeno lapso humano numa sala de testes pode escalar a nível global num piscar de olhos. Fica a amarga lição de que a validação sistemática de todas as portas de rede tem de ser sagrada e jamais ignorada durante avaliações desta escala.
Outros artigos interessantes:
