O Muse, novo agente de inteligência artificial da Meta, está no centro de uma polémica de privacidade depois de ter acedido às mensagens privadas de um utilizador que afirma ter recusado explicitamente essa permissão durante a configuração.
O caso envolve Jason Aten, colunista da Inc., que instalou o Muse no iPhone e Mac. Alguns dias depois, o assistente começou a enviar-lhe sugestões relacionadas com conversas privadas mantidas através do Messages, incluindo uma troca de mensagens com o seu coapresentador de podcast.
Mais estranho ainda foi aquilo que aconteceu quando Aten perguntou ao próprio Muse como tinha obtido essa informação. O agente deu uma explicação que mais tarde se revelou incorreta.
Muse começou a comentar conversas privadas
Aten conta que tinha recusado dar ao Muse acesso às mensagens, calendário e outros dados pessoais durante a configuração inicial. Ainda assim, o agente acabou por utilizar informação proveniente das suas conversas.
Num dos episódios, Aten estava a conversar através do Messages com Stephen Robles, coapresentador do podcast Primary Technology, sobre os novos iPhone. Pouco depois, recebeu uma notificação do Muse a sugerir que aquela conversa poderia dar origem a um bom artigo.
O assistente chegou também a destacar uma mensagem do editor de Aten relacionada com um prazo para a entrega de uma coluna.
Foi nessa altura que o jornalista começou a tentar perceber exatamente como o Muse estava a obter informação que, segundo ele, nunca tinha autorizado o agente a consultar.
Muse disse que apenas lia notificações, mas não era verdade
Quando Aten questionou o agente, o Muse afirmou que não tinha acesso ao histórico das suas mensagens. Segundo a explicação dada pela própria IA, a aplicação instalada no Mac limitava-se a transmitir o conteúdo das notificações recebidas.
Essa explicação não correspondia ao funcionamento real.
A investigação posterior mostrou que o Muse tinha sincronizado informação diretamente da base de dados privada do Messages existente no Mac. Segundo a cobertura do caso, foram processadas mais de 187 mil linhas de mensagens.
O acesso a essa base de dados depende da permissão Full Disk Access do macOS, que permite a uma aplicação consultar ficheiros localizados fora da sua própria área de armazenamento.
Meta admite que a explicação do Muse estava errada
David Singleton, responsável na Meta Superintelligence Labs, explicou que o acesso às mensagens é uma funcionalidade que deveria depender da autorização do utilizador. No caso de Aten, continua a existir uma discrepância importante entre aquilo que o jornalista diz ter autorizado e o comportamento observado pelo agente.
A Meta reconheceu também que a explicação apresentada pelo próprio Muse sobre o acesso através de notificações estava errada. O agente tinha, na prática, inventado uma descrição do seu próprio funcionamento.
Este detalhe torna o episódio particularmente delicado. Não se trata apenas de saber a que informação um agente de IA consegue aceder, mas também de perceber até que ponto podemos confiar na resposta da própria inteligência artificial quando lhe perguntamos como obteve determinado dado.
O caso deixa ainda uma questão por esclarecer: como ficou ativo o acesso às mensagens depois de Aten afirmar que tinha recusado essa opção. A informação disponível confirma o comportamento observado, mas não explica definitivamente onde falhou o processo de permissões.
Outros artigos interessantes:
