De erros em contas de matemática a dicas de espionagem, hackers conseguiram encontrar diversas falhas em modelos de Inteligência Artificial (IA) durante o DEF CON, realizado nos EUA. Venha entender alguns desses erros.
O último final de semana foi marcado pela 31ª conferência de hackers Def Con, que nesse ano aconteceu em Las Vegas, nos Estados Unidos.
Com um foco principal em testar ferramentas de IA, especialmente as desenvolvidas pela OpenIA e Google, o evento chegou a uma simples conclusão: as inteligências são mais propensas ao erro do que imaginávamos.
E não pense que as plataformas foram enganadas com perguntas mirabolantes ou contas matemáticas ainda não solucionadas pelos estudiosos da área.
Kennedy Mays, por exemplo, foi capaz de enganar a IA para que admitisse – erroneamente – que 9+10 é igual a 21.
“Foi uma conversa de vaivém”, disse a estudante de 21 anos para a Bloomberg. Segundo ela, o bot inicialmente justificou o erro como uma piada interna entre ele e a estudante, mas depois de alguns prompts, simplesmente passou a aceitar a resposta como certa.
Erros simples são os que mais chamam a atenção
Não apenas com cálculos matemáticos se engana uma IA.
Outro participante do evento foi capaz de fazer com que a inteligência alegasse que o ex-presidente americano, Barack Obama, nasceu no Quênia, quando na verdade a resposta correta é de que ele nasceu no Havaí.
Para além dos hackers que participavam do DEF CON, um repórter da Bloomberg também foi capaz de enganar o sistema. A resposta que ele recebeu foi um plano detalhado com dicas de espionagem após um único prompt.
O evento foi marcado por uma verdadeira força tarefa para atacar os sistemas de IA e encontrar brechas.
Nomeado de Generative Red Team Challenge, o desafio foi anunciado pelo próprio governo dos EUA em maio e recebeu o apoio do Escritório de Ciência, Tecnologia e Política da Casa Branca.
De acordo com o chefe de segurança da Scale AI, Alex Levinson, destacou que o objetivo do exercício é realmente “emular comportamentos que as pessoas possam ter e identificar pontos fracos nos modelos e como eles funcionam”.
O porta-voz da empresa responsável pelos testes disse ainda que dessa maneira serão capazes de “identificar o que não era conhecido antes – é aquela imprevisibilidade e poder dizer que nunca pensamos nisso”, comentou com a VentureBeat.
Segundo Levinson, com os experimentos e erros que encontraram durante o evento, eles serão capazes de coletar feedbacks para tornar os modelos e prompts mais fortes e seguros.
“Também fornece diferentes perspectivas e mais vozes para ajudar a orientar o desenvolvimento da IA”, continuou ele.
Um dos softwares usados para encontrar tais brechas foi o GPT-4, da OpenIA. Dessa forma, os exercícios criados no DEF CON podem se tornar uma parte importante do desenvolvimento da plataforma, se tornando ponto de referência no setor.
O que são IAs?
Inteligências artificiais são softwares que simulam o pensamento e raciocínio humano.
Sendo capazes de “aprender” conforme são usados, essas ferramentas se tornam cada vez mais lapidadas e cada vez mais parecidas com a resposta que uma pessoa daria.
As IAs ganharam ainda mais destaque nos últimos meses com a popularização de plataformas como o ChatGPT para a geração de textos e DALL-E para criar imagens.
Marcas como Amazon, Google e Meta são apenas alguns exemplos de empresas que já usam ferramentas de inteligência para melhorar suas interfaces e conteúdos.
Mas e você, o que acha desses erros cometidos pelas plataformas durante o evento? Já recebeu uma resposta estranha de uma inteligência artificial?
Nos conte sua opinião nos comentários, vamos adorar saber!
Outros artigos interessantes:
