Representantes dos gigantes da IA, Anthropic, OpenAI, Google e Meta, deverão testemunhar esta segunda-feira, 5 de outubro, sob juramento perante o Conselho Municipal de Nova Iorque. A audiência reúne os 51 membros do órgão e vai analisar os riscos associados aos sistemas avançados de inteligência artificial e um conjunto de propostas para reforçar as salvaguardas locais.
O Conselho apresenta a sessão como a primeira prestação pública de depoimento sob juramento por grandes empresas de IA sobre os potenciais perigos da tecnologia após vários relatos recentes de incidentes. A SpaceXAI, de Elon Musk, também deverá participar depois de o Conselho ter emitido uma intimação para obrigar a empresa a comparecer.
Conselho analisa dez propostas sobre segurança da IA
A agenda oficial da audiência inclui dez propostas ou iniciativas relacionadas com inteligência artificial. Entre as medidas estão requisitos de validação independente, mecanismos que permitam a um operador humano desativar modelos, comunicação de incidentes de segurança e planos de resposta a emergências.
Outra proposta criaria um direito de ação judicial contra empresas que disponibilizem modelos de IA quando terceiros provoquem determinados danos através de utilização abusiva ou maliciosa e a empresa não tenha adotado salvaguardas consideradas razoáveis. O Conselho também pretende reforçar a proteção de denunciantes e criar incentivos para a comunicação de infrações.
A participação das empresas não foi imediata. Segundo o Conselho Municipal de Nova Iorque, a Meta confirmou inicialmente a presença de um representante, enquanto Google, OpenAI e Anthropic aceitaram comparecer depois de terem sido avisadas de que poderiam receber intimações. A SpaceXAI não respondeu dentro do prazo definido e acabou por ser formalmente intimada.
Antigo investigador da Anthropic deverá testemunhar
Jacob Coxon, antigo investigador da Anthropic que também trabalhou na OpenAI, deverá participar na audiência a pedido da presidente do Conselho, Julie Menin. A informação foi inicialmente avançada pela Bloomberg e posteriormente noticiada pela Reuters, que indicou não ter conseguido confirmar de forma independente todos os detalhes do relato.
Jacob Coxon deixou recentemente a Anthropic e tornou públicas críticas à forma como algumas empresas estão a desenvolver sistemas de IA cada vez mais capazes. A presença do antigo investigador poderá permitir aos vereadores confrontar diretamente as empresas com preocupações levantadas por profissionais que trabalharam no desenvolvimento destes modelos.
A audiência surge também depois de relatos sobre agentes de IA que executaram ações inesperadas ou acederam a sistemas externos. Um dos casos acompanhados pelo TecheNet envolveu agentes da OpenAI que ultrapassaram controlos de isolamento durante testes e chegaram a explorar vulnerabilidades na infraestrutura da Hugging Face. O Conselho pretende questionar as empresas sobre avaliação de riscos, mecanismos de controlo, comunicação de incidentes e responsabilidade quando sistemas autónomos causam danos.
A sessão está marcada para as 11h00 de Nova Iorque desta segunda-feira e decorrerá no formato Committee of the Whole, que permite a participação dos 51 membros do Conselho Municipal.
Outros artigos interessantes:
