YouTube expande ferramenta de detecção de deepfakes por IA para todos os

Em um comunicado publicado no fórum oficial de criadores, o YouTube anunciou a ampliação de sua ferramenta de detecção de deepfakes criados por inteligência artificial para todos os usuários maiores de 18 anos.

Com a mudança, qualquer pessoa adulta poderá usar o sistema para identificar vídeos que utilizem sua imagem de forma falsa ou manipulada dentro da plataforma.

Leia no AINotícia: Panorama da Tecnologia: Gmail, Mapas, iPhones e Galaxy em Destaque

Em resumo:

• YouTube libera detector de deepfakes para todos os usuários adultos;
• Sistema usa selfie para identificar rostos falsificados por inteligência artificial;
• Plataforma avisa usuários sobre vídeos suspeitos encontrados no YouTube;
• Pessoas poderão pedir remoção de conteúdos manipulados com suas imagens;
• Ferramenta busca reduzir golpes, fraudes e desinformação com deepfakes.

Como funciona o detector de deepfakes do YouTube

A ferramenta funciona a partir de uma digitalização facial feita pelo próprio usuário, semelhante a uma selfie. Com esses dados, o sistema monitora o YouTube em busca de rostos parecidos que possam indicar o uso indevido da imagem da pessoa em conteúdos gerados por IA. Leia também: Para que servem os números e letras no pneu?

Quando encontra uma possível correspondência, a plataforma envia um aviso ao usuário. A partir disso, ele pode pedir a remoção do vídeo. Segundo o YouTube, o número de solicitações registradas até agora ainda é considerado pequeno.

O recurso começou a ser testado inicialmente com criadores de conteúdo. Depois, foi liberado para jornalistas, políticos, autoridades públicas e profissionais da indústria do entretenimento. Agora, a empresa decidiu abrir o acesso para o público em geral.

A expansão representa um passo importante no combate aos deepfakes, tecnologia que permite criar vídeos muito realistas com rostos falsificados digitalmente. O avanço dessas ferramentas tem aumentado preocupações sobre golpes, desinformação e uso indevido da imagem de pessoas comuns.

Leia mais: Mais de tecnologia

• TikTok, Snap e YouTube evitam julgamento sobre saúde mental de jovens
• YouTube: governo aumenta classificação indicativa e usa “Novela das frutas” como exemplo
• ‘Pergunte ao YouTube’: Google testa busca que parece Modo IA

Remoção é feita após análise criteriosa dos vídeos

O YouTube informou que os pedidos de remoção passam por análise baseada em sua política de privacidade. Entre os critérios avaliados estão o nível de realismo do vídeo, a identificação clara de que o conteúdo foi criado por IA e a possibilidade de reconhecer a pessoa mostrada nas imagens.

A plataforma destacou ainda que existem exceções para materiais de sátira, humor ou paródia. Além disso, a ferramenta atua apenas na identificação facial e não inclui outros elementos, como imitações de voz. Leia também: O novo sorteio especial da Mega-Sena que vai pagar milhões e tem uma regra que

Os usuários também poderão deixar o programa quando quiserem e solicitar a exclusão de seus dados faciais armazenados pela empresa.

No anúncio, o porta-voz Jack Malon afirmou que não há exigência mínima para que alguém participe da ferramenta. “Com essa expansão, estamos deixando claro que, independentemente de os criadores estarem publicando conteúdo no YouTube há uma década ou estarem apenas começando, eles terão acesso ao mesmo nível de proteção”.

O crescimento das deepfakes vem preocupando cada vez mais especialistas, tendo em vista que a tecnologia já foi usada em casos de assédio, fraudes e criação de conteúdos falsos envolvendo adolescentes, celebridades e figuras públicas.

Flavia Correia

Flávia Correia é jornalista do Olhar Digital, cobrindo Ciência e Espaço.

Ver todos os artigos →