YouTube em desenvolvimento de ferramenta para combater Deepfakes e proteger os criadores de imitadores de IA

Esta notícia está em ênfase nos fóruns digitais — YouTube em desenvolvimento de ferramenta para combater Deepfakes e proteger os criadores de imitadores de IA — O YouTube está desenvolvendo novas ferramentas que visam dar aos criadores na plataforma mais controle sobre o conteúdo que copia sua voz ou semelhança usando IA generativa.

Entenda porque, YouTube em desenvolvimento de ferramenta para combater Deepfakes e proteger os criadores de imitadores de IA

"Uma ferramenta separada também está em desenvolvimento para identificar deepfakes faciais de criadores, atores, músicos e atletas na plataforma."

Youtube - Fonte

Segundo a plataforma está desenvolvendo ferramentas separadas para identificar conteúdo que simula vozes de artistas e deepfakes faciais de criadores.

A primeira ferramenta, descrita como uma “tecnologia de identificação de canto sintético”, permitirá que artistas e criadores detectem e gerenciem automaticamente o conteúdo do YouTube que simula suas vozes cantadas usando IA generativa.

O YouTube diz que a ferramenta está dentro de seu sistema de identificação de direitos autorais Content ID existente e que está planejando testá-la em um programa piloto no ano que vem.

O anúncio segue a promessa do YouTube em novembro passado de dar às gravadoras uma maneira de derrubar clones de músicos com IA.

A rápida melhoria e acessibilidade de ferramentas musicais de IA generativas geraram medos entre os artistas em relação ao seu uso em plágio, imitação e violação de direitos autorais.

Em uma carta aberta no início deste ano, mais de 200 artistas, incluindo Billie Eilish, Pearl Jam e Katy Perry, descreveram a imitação não autorizada gerada por IA como um ataque à criatividade humana e exigiram maior responsabilidade em torno de seu desenvolvimento para proteger os meios de subsistência dos artistas.

Uma ferramenta separada também está em desenvolvimento para identificar deepfakes faciais de criadores, atores, músicos e atletas na plataforma.

O sistema ainda está em desenvolvimento ativo, e o YouTube não indicou quando ele deve ser lançado.

O YouTube também está se comprometendo a reprimir qualquer um que faça scraping na plataforma para construir ferramentas de IA.

Deixamos claro que acessar o conteúdo do criador de maneiras não autorizadas viola nossos Termos de Serviço, disse a plataforma, o que não impediu empresas como OpenAI , Apple, Anthropic, Nvidia, Salesforce e Runway AI de treinar seus sistemas de IA em milhares de vídeos do YouTube scraped.

As proteções contra essa atividade incluem bloquear scrapers de acessar o YouTube e investimentos em sistemas de detecção de scraping.

À medida que a IA evolui, acreditamos que ela deve aprimorar a criatividade humana, não substituí-la, disse o YouTube em seu anúncio.

Estamos comprometidos em trabalhar com nossos parceiros para garantir que os avanços futuros amplifiquem suas vozes, e continuaremos a desenvolver barreiras de proteção para abordar preocupações e atingir nossos objetivos comuns.

O YouTube também diz que está desenvolvendo maneiras de dar aos criadores mais opções sobre como empresas terceirizadas de IA podem usar seu conteúdo na plataforma e compartilhará mais detalhes ainda este ano.

É por isso que ainda é tão difícil identificar imagens de IA

Imagens geradas por IA estão em todo lugar agora, e as ferramentas usadas para fazê-las estão ficando melhores, mais rápidas e mais acessíveis.

Algumas iniciativas como a C2PA criaram sistemas para nos ajudar a diferenciar o que é real do que é falso, e evitar sermos enganados, mas o progresso não está indo bem.

Para continuar se atualizando e se conectando com outros profissionais, sugerimos que você participe do se inscreva em nossa newsletter — Aqui, com a Agência Smart — você encontrará discussões ricas, tutoriais, dicas, oportunidades de colaboração e eventos que podem ajudar a expandir seus conhecimentos e rede de contatos.

Não perca a oportunidade de se inscrever no nosso canal, onde você terá acesso a conteúdos exclusivos e atualizações constantes sobre as últimas tendências e melhores práticas para escalar o resultado de seu negócio.