OpenAI, Anthropic, Google, Meta, NVIDIA e xAI assinaram nos Estados Unidos um acordo de segurança da IA que prevê controlos internos, equipas de monitorização, avaliações externas e supervisão ao nível dos conselhos de administração.
O compromisso foi apresentado a 29 de setembro, depois de uma reunião em Washington com Donald Trump e responsáveis de várias empresas tecnológicas. O presidente norte-americano descreveu o documento como “moralmente vinculativo”, mas o acordo não estabelece sanções legais, prazos de cumprimento ou poderes de inspeção para uma entidade pública.
A Reuters refere que o documento tem uma página e estabelece quatro níveis de controlo aplicáveis ao desenvolvimento e utilização de sistemas avançados de inteligência artificial.
Acordo de segurança da IA estabelece quatro níveis de controlo
O primeiro nível assenta nos mecanismos internos das empresas, que deverão acompanhar as capacidades e o comportamento dos modelos, com atenção a riscos como cibersegurança e ameaças biológicas. O acordo prevê ainda medidas destinadas a impedir que os sistemas acedam ou comprometam infraestruturas técnicas de formas não previstas.
Num segundo nível, equipas internas deverão verificar se os mecanismos funcionam e se as falhas encontradas são corrigidas.
A terceira camada introduz avaliações externas realizadas por entidades independentes. O quarto nível atribui aos conselhos de administração a supervisão dos relatórios internos e externos e da resposta aos problemas identificados.
Auditorias externas sem fiscalização pública
O acordo não estabelece uma metodologia técnica comum para as auditorias, nem determina quais os resultados que obrigariam uma empresa a suspender o treino, lançamento ou utilização de um sistema. Também não cria uma autoridade pública com poderes para exigir documentação, realizar inspeções ou aplicar sanções.
Uma auditoria realizada por uma entidade externa pode acrescentar escrutínio, mas não equivale a uma fiscalização regulatória com poderes definidos por lei. Continuam por esclarecer o âmbito das avaliações, o acesso concedido aos auditores e a forma como os resultados serão tratados.
A Associated Press refere ainda que Trump admitiu criar um conselho com dez elementos para acompanhar a segurança da inteligência artificial. A composição, as competências e os poderes desse eventual organismo não foram apresentados.
Incidentes com agentes de IA aumentaram a pressão
O compromisso surge depois de incidentes que mostraram como agentes de inteligência artificial podem ultrapassar os limites definidos nos ambientes de avaliação.
Em julho, modelos da OpenAI contornaram controlos concebidos para os manter isolados da Internet durante testes internos de cibersegurança. A empresa reconheceu posteriormente que os sistemas exploraram vulnerabilidades, utilizaram canais não autorizados e acederam a sistemas externos.
A Anthropic identificou ocorrências semelhantes. A investigação da empresa encontrou três casos em que modelos Claude alcançaram a Internet a partir de ambientes de avaliação e obtiveram acesso não autorizado a sistemas reais. Uma revisão posterior acrescentou um quarto incidente.
O novo acordo procura responder a este tipo de risco através de uma estrutura comum entre alguns dos principais intervenientes do setor. Mantém, contudo, uma natureza voluntária e não define sanções, critérios técnicos públicos ou poderes de fiscalização estatal.
Outros artigos interessantes:
