O Google reforçou a segurança em músicas geradas por IA ao incorporar marcas d’água inaudíveis, denominadas SynthID. Essa iniciativa visa garantir o conforto das criações e uma camada adicional de transparência e rastreabilidade.
O Google mantém seu foco em elevar a segurança nas músicas produzidas por sua inteligência artificial (IA) ao incorporar marcas d’ água inaudíveis.
Essa iniciativa visa fornecer uma maneira confiável de identificar se a tecnologia de IA do Google foi empregada na criação de uma faixa, o que contribui para a transparência do conteúdo gerado.
A proteção inovadora: SynthID
A marca d’água, denominada SynthID, será aplicada ao áudio gerado pelo modelo de IA Lyria, desenvolvido pela DeepMind, colaboradora do Google.
A principal inovação do SynthID é sua característica inaudível, projetada para não afetar a experiência auditiva do ouvinte.
Mesmo em situações como melhorias de áudio, desaceleração ou adição de ruídos, a marca d’água permanece detectável.
Em meio aos avanços na IA generativa, a implementação de marcas d’água surge como uma resposta a preocupações relacionadas a danos e prevenção de falsificações.
A ordem executiva do presidente norte americano, Joe Biden, destaca a necessidade de padrões governamentais para a marcação de conteúdo gerada por IA, e as marcas d’água como o SynthID representam uma medida crucial nesse contexto.
Como funciona o SynthID do Google?
O processo de aplicação do SynthID envolve uma conversão da onda de áudio em uma visualização bidimensional que representa a evolução do espectro de frequências ao longo do tempo.
A abordagem única apresentada pela DeepMind destaca-se como uma inovação e fornece uma camada adicional de segurança às lesões geradas por IA.
Lançado inicialmente em beta para imagens criadas no Vertex AI do Google Cloud, o SynthID agora se estende ao áudio gerado por IA.
A aplicação bem-sucedida da marca d’água em imagens motivou sua expansão para garantir a integridade não apenas visual, mas também auditiva das criações baseadas em inteligência artificial.
Desafios e limitações
Embora o SynthID represente um avanço significativo na proteção contra alterações indesejadas, a DeepMind alerta que não é imune a “manipulações extremas”.
A pesquisa e o desenvolvimento contínuos são essenciais para aprimorar as capacidades de segurança e garantir a eficácia em diversos cenários.
A incorporação de marcas d’água inaudíveis em áudio gerada por IA marca um passo importante na busca pela segurança na era da inteligência artificial.
O SynthID oferece uma solução inovadora e contribui para a transparência e rastreabilidade de criações musicais provenientes de modelos de IA, o que promove um ambiente mais confiável e ético na utilização dessas tecnologias.
A evolução constante dessas ferramentas reflete o compromisso do Google em enfrentar os desafios emergentes no cenário da IA generativa.
Outros artigos interessantes:
