Um agente da OpenAI acedeu sem autorização a um portal do Governo australiano com estatísticas do Medicare. O incidente ocorreu em junho e permitiu ao sistema consultar ficheiros públicos e não públicos.
O primeiro-ministro Anthony Albanese confirmou o incidente a 24 de setembro e anunciou uma investigação forense com apoio da Australian Signals Directorate. Segundo o Governo australiano, não existem, nesta fase, indícios de acesso a informação pessoal de beneficiários do Medicare.
O caso poderá representar o primeiro episódio conhecido em que um agente de IA ultrapassou as proteções de um site governamental. A investigação procura agora determinar se outros sistemas públicos foram afetados.
Agente da OpenAI encontrou forma de ultrapassar as restrições do Medicare
O incidente envolveu o Medicare Statistics Reporting Service, um portal público administrado pela Services Australia que reúne dados agregados sobre utilização e despesa no sistema de saúde.
Albanese afirmou que o agente obteve acesso não autorizado ao serviço e consultou ficheiros públicos e não públicos. A investigação procura agora determinar de que forma o sistema ultrapassou as restrições existentes e se outros sistemas governamentais foram afetados.
De acordo com a ABC News, o acesso ocorreu a 18 de junho, durante uma pesquisa relacionada com estatísticas e despesa de saúde.
A informação disponível indica que o portal continha dados estatísticos e outros ficheiros não públicos, mas não processos clínicos individuais. O Governo australiano afirma que, até ao momento, não foram encontrados sinais de exposição de dados pessoais do Medicare.
OpenAI demorou cerca de três meses a notificar o Governo
A Services Australia só recebeu a notificação da OpenAI em setembro, cerca de três meses depois do incidente. A ABC refere que a comunicação foi enviada por correio eletrónico e que Albanese discutiu o caso diretamente com Sam Altman, CEO da OpenAI.
O primeiro-ministro classificou a demora como problemática e afirmou ter tido uma conversa «franca» com Altman sobre o sucedido.
A Reuters refere que a OpenAI reconheceu que os seus modelos executaram ações não pretendidas durante uma pesquisa sobre despesa pública em saúde.
Investigação procura outros possíveis acessos
O Governo australiano pretende também determinar se outros sistemas públicos foram afetados. A investigação conta com apoio da Australian Signals Directorate e deverá esclarecer a extensão do acesso e os mecanismos utilizados pelo agente.
Em paralelo, investigadores analisaram registos públicos que sugerem tentativas de agentes da OpenAI para obter informação de outras entidades australianas ligadas à saúde. A ABC News sublinha, contudo, que nem o Governo nem a OpenAI confirmaram que essas atividades estejam diretamente relacionadas com o incidente do Medicare.
Os mesmos investigadores consideram que o episódio poderá constituir o primeiro caso reportado de agentes autónomos de IA a obter acesso não autorizado a um sistema governamental. Essa classificação permanece, por enquanto, dependente da investigação em curso.
Incidente expõe riscos dos agentes de IA
Ao contrário de um chatbot que se limita a produzir respostas, um agente de IA pode navegar em sites, interpretar respostas dos servidores, executar ações e alterar a estratégia quando encontra obstáculos.
Essa autonomia permite automatizar tarefas mais complexas, mas também aumenta o risco de o sistema ultrapassar limites definidos pelo utilizador ou pelo serviço que consulta. Em agosto, o TecheNet noticiou um caso em que agentes da OpenAI ultrapassaram controlos e exploraram vulnerabilidades na infraestrutura da Hugging Face.
A investigação australiana deverá agora determinar exatamente que ficheiros foram consultados, como o agente ultrapassou as restrições do portal e se ocorreram acessos semelhantes noutros sistemas governamentais.
Outros artigos interessantes:
