Uma ferramenta do YouTube para identificação de deepfakes começou a ser disponibilizada para um grupo maior de usuários.
O novo recurso permitirá que autoridades, jornalistas e candidatos políticos descubram se suas imagens foram utilizadas em vídeos falsos produzidos com inteligência artificial (IA).
A iniciativa amplia um sistema que já era utilizado por criadores de conteúdo e influenciadores desde o ano passado.
Além disso, a novidade surge em um momento de crescente preocupação com o avanço da inteligência artificial generativa.
O uso dessa tecnologia para criar conteúdos falsos vem aumentando rapidamente. Por isso, plataformas digitais passaram a investir em mecanismos capazes de identificar possíveis abusos.
Segundo o Google, a lista de participantes não será divulgada publicamente. A medida busca preservar a privacidade e a segurança das pessoas incluídas no programa piloto. Dessa forma, apenas os usuários convidados poderão acessar inicialmente a funcionalidade.
Como funciona a ferramenta do YouTube para detectar deepfakes
A ferramenta do YouTube utiliza um sistema chamado “likeness detection”, desenvolvido para localizar vídeos que reproduzam a imagem de uma pessoa por meio de inteligência artificial.
O funcionamento lembra o conhecido Content ID, utilizado há anos para identificar conteúdos protegidos por direitos autorais.
Além disso, os participantes precisarão confirmar suas identidades antes de acessar o recurso.
Segundo o YouTube, essas informações não serão utilizadas para treinar modelos de inteligência artificial.
Em seguida, o sistema realiza uma busca personalizada dentro da plataforma. No entanto, cada usuário poderá verificar apenas conteúdos relacionados à própria imagem. Ou seja, não será possível pesquisar deepfakes envolvendo outras pessoas.
Atualmente, a ferramenta identifica apenas conteúdos visuais. Portanto, arquivos manipulados exclusivamente por áudio ainda não fazem parte da análise realizada pelo sistema.
Leia também:
+ Como ter desconto na conta de luz? Clique aqui e veja como ganhar 15%!
+ Clique aqui e veja como ganhar cashback em suas compras!
+ Clique aqui e veja como comer nos melhores restaurantes com desconto!
+ Independência Financeira: Especialista dá dicas para um planejamento financeiro!
Novas regras aumentam a importância da ferramenta do YouTube
Enquanto a tecnologia evolui, governos também atualizam suas legislações. No Brasil, o Tribunal Superior Eleitoral aprovou novas regras para disciplinar o uso da inteligência artificial durante as eleições de 2026.
Agora, deepfakes utilizados para prejudicar ou beneficiar candidatos estão proibidos. Da mesma forma, materiais sintéticos não poderão ser divulgados nas 72 horas anteriores ao pleito quando violarem as determinações eleitorais.
Além disso, as plataformas digitais poderão responder judicialmente caso deixem de remover conteúdos que infrinjam essas normas.
Nesse cenário, a ferramenta do YouTube ganha ainda mais relevância. Afinal, ela oferece uma maneira de identificar possíveis manipulações antes que causem grandes impactos na reputação das pessoas envolvidas.
Por que detectar deepfakes ainda é um grande desafio
Apesar dos avanços tecnológicos, identificar conteúdos gerados por inteligência artificial continua sendo uma tarefa complexa.
Primeiramente, os modelos de IA evoluem constantemente. A cada nova atualização, imagens falsas se tornam mais realistas e difíceis de distinguir das gravações verdadeiras.
Além disso, os detectores precisam receber treinamento contínuo com novos bancos de dados. Caso contrário, seu desempenho pode cair diante de tecnologias inéditas.
Especialistas costumam comparar essa situação a uma disputa permanente entre criadores de deepfakes e empresas responsáveis pelos sistemas de detecção. Sempre que uma tecnologia melhora, outra busca superar seus mecanismos de segurança.
Por esse motivo, não existe atualmente um detector universal capaz de identificar todos os deepfakes com total precisão.
A identificação do deepfake não garante remoção automática
Embora o novo recurso seja importante, encontrar um vídeo falso não significa que ele será excluído imediatamente.
Segundo o YouTube, cada caso será analisado individualmente antes da tomada de qualquer decisão.
A plataforma considera diversos fatores para determinar se determinado conteúdo viola suas políticas.
Entre eles estão o grau de realismo da imagem, a existência de avisos informando que o conteúdo foi produzido por inteligência artificial e o contexto da publicação.
Além disso, o YouTube verifica se o vídeo representa uma paródia, uma sátira ou uma manifestação protegida pela liberdade de expressão.
Por outro lado, conteúdos que mostrem pessoas aparentemente cometendo crimes, promovendo produtos ou apoiando candidatos sem autorização poderão receber tratamento mais rigoroso durante a análise.
Essa avaliação busca equilibrar a proteção da imagem das pessoas com o direito à livre manifestação de ideias.
Ferramenta do YouTube representa avanço no combate aos deepfakes
A expansão da ferramenta do YouTube representa um passo importante na proteção contra conteúdos manipulados por inteligência artificial.
Embora o recurso ainda esteja disponível para um grupo restrito, a plataforma já afirmou que pretende ampliar gradualmente o acesso para mais usuários.
Além disso, a iniciativa acompanha um movimento global de fortalecimento das políticas de transparência sobre conteúdos sintéticos.
Empresas de tecnologia investem cada vez mais em mecanismos capazes de identificar manipulações digitais antes que elas provoquem desinformação.
Ao mesmo tempo, especialistas defendem que a tecnologia sozinha não resolverá o problema.
Educação digital, legislação atualizada e responsabilidade das plataformas continuam sendo pilares essenciais para combater os efeitos negativos dos deepfakes.
Por fim, a ferramenta do YouTube reforça o compromisso da plataforma em oferecer mais segurança aos usuários.
Embora a identificação não resulte automaticamente na remoção do conteúdo, o recurso cria uma camada adicional de proteção contra o uso indevido da imagem de pessoas públicas e, futuramente, poderá beneficiar um número ainda maior de usuários em todo o mundo.
Perguntas frequentes
É um recurso que permite identificar vídeos criados com inteligência artificial que utilizam a imagem de uma pessoa sem autorização. Inicialmente, a ferramenta está disponível para figuras públicas participantes do programa.
Neste momento, o recurso atende criadores de conteúdo selecionados, além de autoridades, jornalistas e candidatos políticos convidados pelo YouTube. A plataforma pretende ampliar o acesso gradualmente.
Não. O YouTube analisa cada caso individualmente antes de decidir pela remoção. A plataforma considera fatores como contexto, realismo, interesse público e se o conteúdo é uma paródia ou sátira.
Não. Atualmente, a tecnologia analisa apenas imagens utilizadas em vídeos. Conteúdos manipulados exclusivamente por áudio ainda não fazem parte da detecção.
Ela ajuda a combater a desinformação, protege a imagem de pessoas públicas e fortalece a segurança na plataforma diante do crescimento dos conteúdos produzidos por inteligência artificial.