Nossa entrevista da semana é com Manuel Moussallam, Diretor de Pesquisa da Deezer Global há mais de dez anos. Recentemente, a plataforma de streaming parisiense divulgou um estudo que revelou que quase ninguém é capaz de diferenciar músicas geradas por inteligência artificial (IA) de faixas feita por humanos.
Nos últimos meses, a plataforma de streaming passou a tomar medidas mais concretas para promover maior transparência em relação a conteúdo gerado por IA. A companhia ressalta que não é contra os conteúdos criados pela tecnologia, mas prega que os usuários precisam saber a origem do que estão consumindo.Por esse motivo, a empresa passou a utilizar uma ferramenta própria de detecção de inteligência artificial, cujo objetivo é informar os ouvintes sobre a procedência das faixas.
Na entrevista, Moussallam falou sobre a pesquisa divulgada nas últimas semanas, o papel dos seres humanos na curadoria de conteúdo disponível no catálogo da Deezer e os impactos da IA nos artistas musicais.
Outro Prompt_: Em um estudo recente conduzido pela Deezer e pela Ipsos, 97% dos participantes não conseguiram distinguir uma música totalmente gerada por IA de uma música real. 52% dos entrevistados disseram se sentir desconfortáveis por não conseguirem perceber a diferença. Qual é o papel das plataformas de streaming de música em um mundo com uma quantidade crescente de conteúdo gerado por IA?
Manuel Moussallam: Na Deezer, não somos contra a IA ou a música gerada por IA, mas queremos promover duas coisas: transparência para nossos usuários e justiça para os artistas. Acreditamos que nossos usuários merecem saber se estão ouvindo música gerada por IA ou não, e em nosso estudo ficou claro que a maioria das pessoas deseja esse tipo de transparência (80% disseram que a música gerada por IA deveria ser identificada nas plataformas de streaming).
Também implementamos um sistema no qual todas as músicas 100% geradas por IA são automaticamente removidas das recomendações algorítmicas e não são incluídas em playlists editoriais. Este é um primeiro passo para garantir que essas faixas não diluam o montante total dos direitos autorais de forma significativa, para que os artistas reais sejam remunerados de forma mais justa.
Outro Prompt_: Em junho, a Deezer lançou sua própria ferramenta para detectar e rotular faixas 100% criadas por inteligência artificial. Como esse mecanismo de detecção de conteúdo gerado por IA funciona na prática? Essa ferramenta também é eficaz para identificar conteúdo que é apenas parcialmente gerado por IA?
Manuel: Nossa ferramenta de detecção de IA foi desenvolvida pela equipe de pesquisa da Deezer e pode detectar músicas geradas por IA a partir dos modelos generativos mais utilizados – como Suno e Udio, com a possibilidade de adicionar recursos de detecção para praticamente qualquer outra ferramenta similar, desde que haja acesso a exemplos de dados relevantes.
Quando a música é gerada por ferramentas de IA, as faixas normalmente incluem um padrão regular de artefatos sintéticos no sinal de áudio, que geralmente é indistinguível para o ouvido humano. Nossa detecção por IA usa um modelo matemático para prever a presença desses artefatos e verifica se eles estão realmente presentes no sinal.
“Parcialmente gerado por IA” é uma questão de definição. Se alguém estiver cantando por cima de uma faixa gerada pelo Suno, é muito provável que nossa ferramenta identifique isso. Mas se alguém usou ferramentas de IA para criar uma parte específica da música, isso não será detectado.
Outro Prompt_: Qual é o papel da Inteligência Artificial nos bastidores da Deezer? A IA é usada apenas para recomendações personalizadas ou a plataforma também integra a tecnologia em outras áreas, como detecção de fraudes, otimização de catálogo ou licenciamento de conteúdo?
Manuel: A Inteligência Artificial e o Machine Learning são usados para diversos fins na Deezer. Isso inclui nossos algoritmos de recomendação, nosso sistema de detecção de fraudes e nossa tecnologia de detecção de IA.
Outro Prompt_: À medida que os algoritmos de IA se tornam mais eficientes na curadoria e criação de playlists, qual é o papel dos curadores e editores humanos na Deezer? A IA simplesmente auxiliará ou acabará substituindo a “intuição humana” na descoberta de músicas e na formação de tendências?
Manuel: Mesmo que a inteligência artificial esteja cada vez melhor em entender os comportamentos de streaming e fazer recomendações relevantes, sempre haverá espaço para o toque humano quando se trata de curadoria musical. Nossa equipe editorial desempenha um papel importante na interpretação de movimentos culturais e na divulgação de novas músicas que nossos usuários talvez não descobrissem de outra forma.
Outro Prompt_: Com o avanço da IA, muitos artistas expressam preocupação com a possibilidade de perda de receita nos próximos anos. Grande parte desse receio está relacionada ao uso não autorizado de conteúdo protegido por direitos autorais para treinar ferramentas generativas. Como plataformas de streaming como a Deezer podem contribuir para a proteção do trabalho de artistas musicais?
Manuel: Na Deezer, estamos comprometidos com a proteção dos direitos de artistas e compositores e, até o momento, somos a única plataforma de streaming de música que assinou a declaração global sobre treinamento de IA. Também somos a única plataforma que detecta, etiqueta e remove conteúdo 100% gerado por IA do algoritmo de recomendação. Ao fazer isso, eliminamos grande parte do incentivo à fraude com base em músicas geradas por IA, que parece ser o principal objetivo do upload desse tipo de música para plataformas de streaming.
Embora a música totalmente gerada por IA represente atualmente apenas uma pequena fração dos streams na Deezer — aproximadamente 0,5% — é evidente que o principal objetivo do upload dessas faixas para plataformas de streaming é fraudulento. A Deezer descobriu que até 70% dos streams gerados por faixas totalmente produzidas por IA são, na verdade, fraudulentos.
A ferramenta de detecção de fraudes da Deezer se baseia em algoritmos que identificam comportamentos incomuns de streaming que não condizem com a forma como um usuário normal da Deezer consome música. Isso pode incluir milhares de streams para uma única música, streaming 24 horas por dia, 7 dias por semana, ou picos de audiência em determinados horários todos os dias. Ao detectar fraudes e manipulações de streaming de qualquer tipo, a Deezer exclui os streams dos pagamentos de royalties.
The post Deezer: faixas 100% IA têm reproduções infladas por ouvintes falsos appeared first on Giz Brasil.
