A Opera lançou ontem, dia 6 de junho, a devicetest.ai, uma ferramenta de benchmark de IA inovadora que permite aos utilizadores avaliarem a capacidade dos seus dispositivos para executar inteligência artificial (IA) localmente.
Trata-se da primeira ferramenta deste género disponível ao público em geral, acessível diretamente através do navegador.
IA local: novas possibilidades e desafios
A devicetest.ai está disponível na versão mais recente do Opera Developer, o primeiro navegador a suportar modelos de linguagem local embutidos (LLMs). A plataforma representa um passo significativo na integração da IA no quotidiano dos utilizadores.
Executar IA localmente abre um leque de novas possibilidades de utilização e oferece maior privacidade, eliminando a necessidade de comunicação com servidores externos. No entanto, este novo paradigma também coloca desafios de desempenho para os dispositivos.
Como funciona a ferramenta de benchmark de IA
Para utilizar a devicetest.ai, os utilizadores devem aceder ao link específico através do Opera Developer, ler as informações relevantes e clicar em “Run Test”.
De seguida, escolhem um perfil de teste, que determina qual modelo de IA local será descarregado e utilizado, e iniciam o teste. Os perfis de teste variam consoante os recursos exigidos pelo modelo de IA e o teste pode demorar entre 3 a 20 minutos, dependendo das especificações do sistema e do perfil escolhido.
Após a conclusão, os resultados são apresentados e podem ser partilhados ou descarregados como um ficheiro CSV para análise posterior.
Métricas de avaliação e resultados
Os resultados são codificados por cores para facilitar a interpretação: verde indica que o dispositivo está pronto para IA, amarelo significa que o dispositivo é funcional para IA e vermelho indica que o dispositivo não está pronto para IA.
As principais métricas avaliadas pela ferramenta são:
- Tokens Por Segundo (TPS): mede quantas palavras o modelo de linguagem consegue processar por segundo. É fundamental para avaliar a eficiência e velocidade de processamento de grandes volumes de texto.
- Latência do Primeiro Token (FTL): mede o tempo necessário para o modelo gerar a primeira palavra após receber um comando. É crucial em aplicações que requerem interação em tempo real.
- Tempo de Carregamento do Modelo (MLT): mede o tempo necessário para carregar o modelo de linguagem na memória RAM do dispositivo. Impacta a prontidão do sistema para executar tarefas de IA.
A ferramenta de benchmark de IA realiza os testes várias vezes para garantir a consistência dos resultados, avaliando como o dispositivo lida com diferentes tarefas que um modelo de IA local executaria normalmente. A média das repetições é utilizada para fornecer um resultado fiável. O recurso também exibe as especificações do sistema e permite que os utilizadores vejam quais componentes do hardware estão a ser mais exigidos durante as avaliações.
Privacidade e partilha de dados
A Opera garante que os dados utilizados no teste servem apenas para gerar os resultados e permitir comparações com outros utilizadores. Não são recolhidas informações pessoais, e nenhum dado é associado a utilizadores específicos, endereços IP ou outros identificadores.
Com a benchmark de IA devicetest.ai, a Opera oferece uma ferramenta única e acessível a todos os interessados em verificar a prontidão dos seus dispositivos para a era da IA, democratizando o acesso a esta tecnologia em constante evolução.
Outros artigos interessantes:
