A Comissão Federal do Comércio dos Estados Unidos (FTC) enviou intimações civis à OpenAI e à Anthropic, no âmbito de uma investigação sobre possíveis danos causados aos consumidores pelos sistemas de inteligência artificial. A autoridade pretende obter documentos sobre incidentes de segurança, mecanismos de proteção, políticas de privacidade e práticas comerciais das duas empresas.
A iniciativa representa um novo passo numa investigação mais ampla, anunciada em setembro, sobre os riscos associados aos sistemas avançados de IA. Ao recorrer a intimações formais, a FTC passa a dispor de instrumentos legais que lhe permitem exigir informações e procurar obter o cumprimento dos pedidos por via judicial.
Segundo a Axios, que divulgou a notícia a 15 de outubro, as intimações foram enviadas no dia anterior e têm mais de 50 páginas cada uma. A informação foi posteriormente noticiada pela Reuters, que confirmou a disponibilidade da OpenAI para colaborar com o regulador, mas não conseguiu verificar de forma independente todos os detalhes dos pedidos.
FTC quer examinar segurança e práticas comerciais da IA
Os documentos solicitados abrangem incidentes de segurança, medidas destinadas a prevenir comportamentos prejudiciais dos modelos, materiais promocionais e políticas de tratamento de dados pessoais.
A FTC procura determinar se os mecanismos de proteção adotados pelas empresas são adequados e se as informações transmitidas aos consumidores correspondem às capacidades e limitações reais dos seus produtos.
A investigação surge numa altura em que aumentam as preocupações com os sistemas de IA capazes de executar tarefas com maior autonomia. Alguns modelos terão acedido indevidamente a sistemas informáticos ou apresentado comportamentos enganadores e agressivos durante testes de segurança.
Estes episódios levantam questões sobre a responsabilidade das empresas que desenvolvem e disponibilizam agentes de inteligência artificial. À medida que estes sistemas deixam de se limitar à produção de respostas e passam a executar ações, aumenta também a possibilidade de provocarem consequências fora do ambiente em que foram desenvolvidos.
O presidente da FTC, Andrew Ferguson, abordou esta questão numa entrevista concedida à Reuters em setembro. O responsável defendeu que os criadores de agentes de IA poderão ser responsabilizados quando os sistemas, utilizados em testes de cibersegurança, provocam danos em infraestruturas externas. A posição contraria a ideia de que a autonomia técnica de um agente afasta necessariamente a responsabilidade de quem o desenvolve ou utiliza.
Intimações permitem exigir documentos e testemunhos
Os instrumentos utilizados pela FTC são conhecidos nos Estados Unidos como Civil Investigative Demands (CID). Trata-se de pedidos legais que podem obrigar empresas e outras entidades a fornecer documentos, responder a perguntas ou prestar testemunho no âmbito de uma investigação.
De acordo com a documentação oficial da FTC, estes pedidos podem ser executados judicialmente. Se uma entidade não cumprir as exigências, o regulador pode recorrer aos tribunais para obter a informação solicitada.
A autoridade pretende também recolher testemunhos de responsáveis da OpenAI, da Anthropic e da METR, uma organização independente dedicada à avaliação das capacidades e dos riscos dos sistemas avançados de inteligência artificial.
A participação da METR poderá permitir ao regulador confrontar as informações apresentadas pelas empresas com avaliações externas. Contudo, não foi confirmado que a organização já tenha recebido uma intimação formal.
A legislação norte-americana confere à FTC poderes para atuar contra práticas comerciais desleais ou enganosas. Entre as situações que podem justificar a intervenção da autoridade encontram-se promessas de segurança que não correspondam ao comportamento dos produtos e falhas na adoção de medidas adequadas para proteger os dados dos consumidores.
OpenAI promete colaborar com a investigação
A OpenAI declarou que pretende colaborar de forma construtiva com a FTC e continuar a trabalhar com reguladores e responsáveis políticos no desenvolvimento de regras destinadas a melhorar a segurança dos sistemas de inteligência artificial.
A Anthropic e a própria FTC não tinham apresentado comentários públicos sobre o conteúdo das intimações quando a Reuters publicou a notícia.
A investigação poderá ter consequências para além das duas empresas. A questão central é saber até que ponto os fornecedores de sistemas de IA podem ser responsabilizados por danos provocados por produtos que executam tarefas com autonomia crescente.
Para já, a emissão das intimações não constitui prova de qualquer infração. A FTC encontra-se numa fase de recolha de informações e ainda não anunciou conclusões sobre eventuais violações das regras de proteção dos consumidores.
Outros artigos interessantes:
