Meta para começar a rotular conteúdo gerado por IA para combater deepfakes

Nova Iorque:

A Meta, proprietária do Facebook, anunciou grandes mudanças em suas políticas sobre mídia criada e alterada digitalmente na sexta-feira, antes das eleições nos EUA que testarão sua capacidade de policiar conteúdo enganoso gerado por novas tecnologias de inteligência artificial.

A gigante das mídias sociais começará a aplicar rótulos “Made with AI” em maio a vídeos, imagens e áudios gerados por IA postados em suas plataformas, expandindo uma política que anteriormente abordava apenas uma pequena fatia de vídeos adulterados, disse Monika, vice-presidente de política de conteúdo. Bickert disse em uma postagem no blog.

Bickert disse que a Meta também aplicaria rótulos separados e mais proeminentes a mídias alteradas digitalmente que representam um “risco particularmente alto de enganar materialmente o público sobre uma questão de importância”, independentemente de o conteúdo ter sido criado usando IA ou outras ferramentas.

A nova abordagem mudará o tratamento dado pela empresa ao conteúdo manipulado. Ele passará de um foco na remoção de um conjunto limitado de postagens para outro que mantém o conteúdo atualizado e, ao mesmo tempo, fornece aos espectadores informações sobre como ele foi feito.

A Meta anunciou anteriormente um esquema para detectar imagens feitas usando ferramentas generativas de IA de outras empresas usando marcadores invisíveis embutidos nos arquivos, mas não deu uma data de início na época.

Um porta-voz da empresa disse à Reuters que a nova abordagem de rotulagem se aplicaria ao conteúdo postado nos serviços Facebook, Instagram e Threads da Meta. Seus demais serviços, incluindo WhatsApp e headsets de realidade virtual Quest, são cobertos por regras diferentes.

A Meta começará a aplicar os rótulos mais proeminentes de “alto risco” imediatamente, disse o porta-voz.

As mudanças ocorrem meses antes das eleições presidenciais dos EUA, em novembro, que os investigadores tecnológicos alertam que podem ser transformadas por novas tecnologias generativas de IA. As campanhas políticas já começaram a implementar ferramentas de IA em locais como a Indonésia, ultrapassando os limites das diretrizes emitidas por fornecedores como a Meta e a líder de mercado de IA generativa OpenAI.

Em fevereiro, o conselho de supervisão da Meta chamou de “incoerentes” as regras existentes da empresa sobre mídia manipulada, depois de analisar um vídeo do presidente dos EUA, Joe Biden, postado no Facebook no ano passado, que alterava imagens reais para sugerir erroneamente que ele havia se comportado de maneira inadequada.

As filmagens foram autorizadas a permanecer no ar, já que a política existente de “mídia manipulada” da Meta proíbe vídeos alterados enganosamente apenas se forem produzidos por inteligência artificial ou se fizerem com que as pessoas pareçam dizer palavras que nunca disseram.

O conselho disse que a política também deveria se aplicar a conteúdo não-AI, que “não é necessariamente menos enganoso” do que o conteúdo gerado por IA, bem como a conteúdo apenas de áudio e vídeos que retratam pessoas fazendo coisas que nunca fizeram.

(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)