Essa iniciativa representa um avanço significativo para a indústria de IA, pois oferece uma maneira prática e robusta de identificar conteúdos gerados artificialmente. Isso pode ser especialmente útil na luta contra deepfakes e outros tipos de conteúdo prejudicial que podem surgir na internet. No entanto, é importante destacar que ainda existem limitações que podem dificultar a adoção generalizada da marcação de IA como um padrão na indústria.
O Google utiliza uma versão do SynthID para marcar não apenas imagens, mas também áudios e vídeos gerados por seus sistemas de IA multimodal, empregando técnicas diferentes para cada tipo de mídia. Em um artigo recente publicado na revista Nature, os pesquisadores do Google detalham como o processo do SynthID insere uma marca d’água invisível também nos textos gerados pelo modelo Gemini.
Com essa inovação, o Google não apenas fortalece a transparência na criação de conteúdos digitais, mas também abre um leque de possibilidades para que outras empresas e desenvolvedores possam implementar soluções semelhantes. A marcação de conteúdos gerados por IA pode se tornar uma ferramenta essencial para garantir a autenticidade e a integridade das informações que consumimos diariamente.
À medida que a tecnologia avança, é fundamental que continuemos a discutir e explorar maneiras de utilizar essas inovações de forma responsável e ética, garantindo que a inteligência artificial sirva como uma aliada e não como uma fonte de desinformação.
Redação Confraria Tech.
Referências:
Google offers its AI watermarking tech as free open source toolkit
