No evento AWS re:Invent 2024, em Las Vegas, a Amazon Web Services (AWS) apresentou uma série de inovações no Amazon Bedrock, o seu serviço de inteligência artificial (IA) generativa totalmente gerido.
As atualizações incluem a integração de novos modelos, a criação de um marketplace com mais de 100 opções especializadas, ferramentas para gestão de prompts e novas capacidades para trabalhar com dados estruturados e não estruturados.
Estas melhorias têm como objetivo fornecer aos clientes maior flexibilidade, eficiência e controlo sobre as suas soluções de IA.
Novos modelos e integração no Amazon Bedrock Marketplace
O Amazon Bedrock continua a expandir a sua oferta de modelos líderes do setor, adicionando as soluções da Luma AI e poolside, bem como o modelo mais recente da Stability AI.
Com estas adições, a AWS torna-se o primeiro fornecedor de cloud a disponibilizar estas tecnologias, reforçando a sua posição como líder no mercado de IA generativa.
A introdução do Amazon Bedrock Marketplace facilita o acesso a uma seleção diversificada de modelos emergentes e especializados. Este marketplace disponibiliza mais de 100 modelos direcionados a casos de uso específicos, como análise financeira, tradução avançada ou geração de proteínas. Exemplos incluem o modelo Palmyra-Fin, otimizado para o setor financeiro, e o modelo ESM3, da EvolutionaryScale, direcionado para a biologia molecular.
Os clientes podem selecionar e implementar facilmente os modelos escolhidos na infraestrutura AWS, integrando-os através de APIs unificadas. A segurança e privacidade dos dados são garantidas por funcionalidades nativas, como o Guardrails, que ajudam a manter os fluxos de trabalho protegidos.
Gestão avançada de prompts para otimização de custos e eficiência
Com o objetivo de simplificar e otimizar a gestão de prompts, o Amazon Bedrock introduziu duas novas funcionalidades: o armazenamento em cache de prompts e o Roteamento Inteligente de Prompts.
- Armazenamento em cache de prompts: Esta funcionalidade reduz a necessidade de processamento repetido, diminuindo os custos operacionais em até 90% e a latência em até 85%, sem comprometer a precisão das respostas.
- Roteamento Inteligente de Prompts: Permite encaminhar automaticamente pedidos para os modelos mais adequados, com base em critérios definidos pelo cliente, como custo, latência e precisão. Este sistema oferece uma redução de custos adicional de até 30%.
Estas ferramentas permitem que empresas escalem as suas aplicações de IA generativa de forma mais económica, mantendo uma elevada qualidade de serviço.
Conhecimento expandido através de dados estruturados e GraphRAG
O Amazon Bedrock fortaleceu as suas Knowledge Bases, permitindo agora a integração de dados estruturados e gráficos de conhecimento. Estas funcionalidades utilizam a tecnologia RAG (geração aumentada por recuperação) para personalizar as respostas dos modelos de IA com base em dados contextuais.
- Recuperação de dados estruturados: A nova funcionalidade traduz prompts em consultas SQL para explorar bases de dados como o Amazon Redshift ou data lakes no Amazon S3. As Knowledge Bases ajustam-se automaticamente ao esquema dos dados, permitindo consultas em linguagem natural.
- GraphRAG: Esta funcionalidade cria gráficos de conhecimento usando o Amazon Neptune, vinculando relações entre diferentes conjuntos de dados. Estas conexões melhoram a precisão e relevância das respostas, especialmente em aplicações complexas que exigem uma análise interrelacional dos dados.
Automação de dados para lidar com informações não estruturadas
A maioria dos dados empresariais encontra-se em formatos não estruturados, como documentos PDF, vídeos, imagens ou ficheiros de áudio. A nova funcionalidade de Automação de Dados do Amazon Bedrock transforma estes conteúdos em dados estruturados prontos para análise e integração em soluções de IA.
Esta tecnologia permite extrair informações específicas de conteúdos multimédia, uniformizar dados e criar outputs em formatos personalizáveis. Por exemplo, um banco pode utilizar esta funcionalidade para processar documentos de empréstimo, extrair dados relevantes e integrá-los em sistemas de análise, reduzindo significativamente o esforço manual.
A Automação de Dados também integra-se com as Knowledge Bases, permitindo enriquecer os resultados de RAG com informações extraídas de conteúdos não estruturados, como imagens ou áudio.
Impacto e adoção no mercado
Com um aumento de 4,7 vezes na base de clientes no último ano, o Amazon Bedrock tem sido adotado por empresas de diferentes setores, como Adobe, BMW e Zendesk. Estas organizações utilizam o serviço para criar aplicações personalizadas de IA generativa, aproveitando as capacidades de integração com dados próprios e as ferramentas de IA responsável.
João Graça, Diretor Técnico da Unbabel, destacou a importância do novo Amazon Bedrock Marketplace para facilitar a adoção de modelos especializados, como o Widn.AI, para tradução em múltiplos idiomas. Segundo Graça, a capacidade de operar modelos diretamente na infraestrutura AWS melhora a segurança, o controlo e a confiança das operações empresariais.
Disponibilidade das novas funcionalidades
As ferramentas de gestão de inferências, recuperação de dados estruturados e GraphRAG nas Knowledge Bases, bem como a Automação de Dados, estão atualmente disponíveis em pré-visualização.
Os novos modelos da Luma AI, poolside e Stability AI serão disponibilizados em breve, reforçando o compromisso da AWS em fornecer soluções de IA acessíveis e avançadas.
Outros artigos interessantes:
