A chinesa Moonshot AI limitou as capacidades de cibersegurança ofensiva do Kimi K3.1 Pro, o seu novo modelo de inteligência artificial, antes da publicação dos respetivos pesos. A empresa retirou dados relacionados com ataques informáticos do processo de treino, numa tentativa de reduzir os riscos associados à disponibilização pública de um modelo que terceiros poderão executar e modificar.
A decisão antecede a publicação dos pesos do Kimi K3.1 Pro, prevista para 4 de novembro de 2026. A partir dessa data, caso o calendário seja cumprido, programadores e organizações poderão executar o modelo nas suas próprias infraestruturas, sem depender dos mecanismos de controlo de um serviço alojado pela Moonshot.
Segundo a Reuters, a empresa removeu dados de cibersegurança ofensiva do conjunto de treino e dos ambientes de aprendizagem por reforço. O objetivo declarado é limitar a capacidade do modelo para identificar e explorar vulnerabilidades, sem comprometer as suas competências gerais de programação.
Testes indicam redução das capacidades ofensivas
Num teste interno de identificação e exploração de vulnerabilidades, o Kimi K3.1 Pro obteve uma taxa de sucesso de 81%, contra 90,5% de uma versão equivalente desenvolvida sem as restrições.
A diferença de 9,5 pontos percentuais indica que as alterações tiveram efeito nas condições avaliadas. No entanto, os resultados foram produzidos pela própria Moonshot e não foram validados de forma independente. A empresa também não demonstrou que a redução observada se traduza numa diminuição equivalente dos riscos em situações reais.
O resultado revela outra limitação. Apesar das restrições, o modelo manteve uma taxa de sucesso elevada no teste de exploração de vulnerabilidades e superou o desempenho do seu antecessor. A intervenção reduziu determinadas capacidades ofensivas, mas não as eliminou.
A Moonshot afirma ter preservado as competências gerais de programação, uma área essencial para a utilização do modelo em desenvolvimento de software e outras tarefas profissionais.
Modelos de pesos abertos dificultam o controlo posterior
A preocupação com a segurança dos modelos de pesos abertos não se limita à Moonshot. A francesa Mistral AI também adotou medidas de avaliação de segurança antes da publicação dos pesos do Mistral Large 4. As duas empresas procuram avaliar os riscos antes de perderem parte do controlo sobre a utilização dos seus modelos, embora tenham escolhido abordagens diferentes.
Nos serviços de inteligência artificial alojados, os fornecedores podem atualizar os mecanismos de segurança, restringir determinadas funcionalidades ou suspender o acesso de utilizadores que violem as regras. Esta capacidade de intervenção torna-se mais limitada quando os pesos de um modelo são distribuídos publicamente.
Depois de descarregados, esses ficheiros permitem executar o modelo em servidores próprios e, consoante a licença e os recursos disponíveis, modificar o seu comportamento através de treino adicional. As salvaguardas introduzidas pelo fabricante podem, por isso, ser alteradas ou contornadas.
A decisão da Moonshot procura responder a este problema antes da distribuição dos pesos. Ainda assim, não existem garantias de que futuras adaptações do Kimi K3.1 Pro não possam recuperar parte das capacidades ofensivas que a empresa tentou limitar.
Esta questão ganha relevância à medida que os modelos de IA adquirem maior capacidade para escrever código, utilizar ferramentas e executar tarefas complexas com intervenção humana reduzida. As mesmas competências que permitem identificar falhas de segurança e automatizar a sua correção também podem ser utilizadas para facilitar ataques informáticos.
Kimi K3.1 Pro suporta um milhão de tokens
O Kimi K3.1 Pro dispõe de uma janela de contexto de um milhão de tokens, que permite processar grandes volumes de informação numa única interação. Esta capacidade pode ser utilizada para analisar bases de código extensas, documentação técnica e outras tarefas que exigem o tratamento de grandes quantidades de texto.
A Moonshot apresentou também a variante Kimi K3.1 Pro Highspeed, que, segundo a empresa, funciona entre duas e três vezes mais depressa do que a versão convencional.
A fabricante defende que os modelos de pesos abertos podem contribuir para melhorar a cibersegurança, uma vez que permitem a mais organizações utilizar ferramentas de inteligência artificial para analisar software e identificar vulnerabilidades. Reconhece, contudo, que a distribuição pública dos pesos dificulta a supervisão e a aplicação posterior de restrições.
O Kimi K3.1 Pro já está disponível através dos serviços e da API da Moonshot. A publicação dos pesos completos está prevista para 4 de novembro de 2026. A disponibilização permitirá uma análise externa mais aprofundada das capacidades do modelo, embora a eficácia das restrições anunciadas continue por confirmar através de avaliações independentes.
Outros artigos interessantes:
