YouTube enfrenta aumento de conteúdo com IA após encerramento do Sora; lança detecção automática de vídeos gerados por IA

De acordo com a Forbes, o YouTube está lidando com um aumento de conteúdo gerado por IA após o desligamento do Sora, da OpenAI, o que levanta preocupações com deepfakes e com a qualidade da plataforma. A plataforma de compartilhamento de vídeos abriga aproximadamente 290 milhões de vídeos, e o conteúdo gerado por IA está acelerando o crescimento. O CEO do YouTube, Neal Mohan, reconheceu o desafio, afirmando que a plataforma precisa equilibrar o uso criativo da IA com a prevenção de spam de baixa qualidade que possa dominar os usuários.

Como resposta, o YouTube anunciou em maio um sistema de autoidentificação que rotula vídeos como “significativamente alterados ou totalmente criados por IA”, mesmo sem divulgação por parte do criador. A plataforma também lançou em abril uma funcionalidade de avatar com IA que permite que os usuários criem personas digitais. Enquanto isso, cerca de 1 milhão de criadores autorizaram o YouTube a usar o conteúdo deles para treinar modelos de IA — aproximadamente 1,5% dos 69 milhões de criadores ativos estimados na plataforma. Algumas empresas externas de IA ofereceram até US$ 100.000 por 1.000 horas de filmagens dos criadores para licenciamento.