Google libera ferramenta gratuita para descobrir se fotos e vídeos foram criados por inteligência artificial

Com o avanço da inteligência artificial, distinguir uma fotografia verdadeira de uma imagem criada por computador está se tornando cada vez mais difícil.

Vídeos de políticos fazendo declarações que nunca aconteceram, imagens falsas de celebridades e áudios que imitam vozes humanas são alguns exemplos de conteúdos que circulam diariamente nas redes sociais.

Agora, o Google anunciou uma novidade que promete facilitar essa identificação.

Nesta quarta-feira (7), a empresa liberou mundialmente o SynthID Detector, uma ferramenta que permite verificar se determinadas imagens, vídeos e áudios foram produzidos ou modificados por inteligência artificial.

O serviço está disponível gratuitamente ao público, inicialmente em inglês.

Como funciona a ferramenta do Google?

O SynthID Detector utiliza uma tecnologia de marcação digital desenvolvida pelo Google DeepMind.

Quando uma inteligência artificial compatível produz uma imagem, um vídeo ou um áudio, ela pode inserir uma espécie de marca-d'água invisível no conteúdo.

Diferentemente das marcas tradicionais, esse identificador não aparece na tela e não altera perceptivelmente a qualidade do material.

A tecnologia incorpora sinais diretamente aos elementos do arquivo.

Quando o usuário envia esse conteúdo ao SynthID Detector, a ferramenta procura essas marcas para identificar sua possível origem artificial.

O sistema também pode indicar quais regiões de uma imagem ou trechos de um áudio apresentam sinais de marcação.

Como descobrir se uma imagem foi criada por IA?

O processo é relativamente simples.

Primeiro, o usuário deve acessar o site oficial do SynthID Detector.

Depois, basta entrar na plataforma e enviar a imagem, o vídeo ou o arquivo de áudio que deseja verificar.

A ferramenta analisa o material em busca das marcas digitais compatíveis com a tecnologia SynthID.

Ao concluir a verificação, apresenta o resultado da análise.

Entre os formatos aceitos estão JPG, PNG, MP4 e MP3.

O serviço pode ser acessado por computadores e dispositivos compatíveis com a plataforma.

Ferramenta também identifica conteúdos de outras empresas

Uma das principais novidades é que o sistema não está limitado aos produtos do Google.

Segundo o anúncio oficial, o SynthID Detector também poderá identificar marcas utilizadas por ferramentas de empresas parceiras.

Entre elas estão OpenAI, NVIDIA e Kakao.

A Apple também deverá integrar a tecnologia futuramente.

Isso amplia a quantidade de conteúdos que poderão ser verificados utilizando uma única plataforma.

O Google informou que já aplicou marcas digitais a mais de 180 bilhões de imagens e vídeos desde o lançamento da tecnologia SynthID, em 2023.

Tecnologia pode ajudar no combate às fake news

A novidade chega em um momento de crescente preocupação com a utilização de inteligência artificial para produzir conteúdos enganosos.

Uma das práticas mais conhecidas é o chamado deepfake.

Essa técnica permite criar vídeos ou áudios nos quais uma pessoa aparentemente realiza ações ou pronuncia frases que nunca aconteceram.

Com ferramentas cada vez mais sofisticadas, algumas dessas manipulações podem ser difíceis de identificar apenas observando o conteúdo.

A nova tecnologia do Google oferece uma possibilidade adicional de verificação.

Jornalistas, pesquisadores e usuários comuns poderão analisar materiais suspeitos antes de compartilhá-los.

Entretanto, a ferramenta não substitui uma checagem jornalística completa.

Atenção: o detector não identifica todas as imagens falsas

Apesar do avanço, existe uma limitação importante.

O SynthID Detector não consegue identificar automaticamente qualquer conteúdo criado por inteligência artificial.

A ferramenta procura marcas digitais específicas.

Portanto, imagens e vídeos produzidos por sistemas que não utilizam a tecnologia SynthID podem não ser identificados.

Além disso, determinadas modificações podem dificultar a detecção.

Isso significa que a ausência de uma marca-d'água não comprova que uma imagem seja verdadeira.

Da mesma forma, encontrar uma marca de inteligência artificial não significa necessariamente que o conteúdo esteja sendo utilizado para enganar alguém.

Uma imagem pode ter sido criada artificialmente para fins artísticos, publicitários ou educativos.

Google amplia ferramentas de verificação

O SynthID Detector faz parte de uma iniciativa mais ampla do Google para aumentar a transparência sobre conteúdos digitais.

A empresa também oferece recursos de identificação de inteligência artificial em produtos como Gemini, Google Chrome e seu mecanismo de busca.

Segundo o Google, essas ferramentas já processam mais de um milhão de solicitações de verificação diariamente.

A expectativa é ampliar a adoção das marcas digitais entre empresas que desenvolvem sistemas de inteligência artificial.

O fim das imagens falsas?

Embora represente um avanço importante, o lançamento não significa que as imagens falsas deixarão de circular na internet.

O desenvolvimento de tecnologias de identificação precisa acompanhar a evolução dos sistemas capazes de criar conteúdos cada vez mais realistas.

Por enquanto, a principal recomendação continua sendo verificar a origem de imagens e vídeos antes de compartilhá-los.

Com a nova ferramenta, o Google oferece mais uma maneira de descobrir quando um conteúdo pode ter sido produzido por inteligência artificial.

Mas a pergunta permanece: será que, no futuro, conseguiremos distinguir com segurança o que é real e o que foi criado por uma máquina?