OpenAI, Amazon e Google assinam pacto para combater o abuso de IA nas eleições de 2024

OpenAI, Amazon.com Inc., Google e 17 outros grandes intervenientes na tecnologia de inteligência artificial formaram um consórcio para tentar impedir que a IA seja usada para enganar os eleitores nas próximas eleições globais.

As empresas anunciaram o acordo na Conferência de Segurança de Munique na sexta-feira, assumindo uma série de compromissos para tentar detectar desinformação eleitoral possibilitada pela IA, responder a ela e aumentar a consciência pública sobre o potencial de engano.

A proliferação da IA ​​tornou amplamente acessível a produção de imagens, áudio e vídeos falsos e realistas, aumentando o receio de que a tecnologia seja utilizada para enganar os eleitores num ano em que as eleições determinarão a liderança de 40% da população mundial. No mês passado, uma mensagem de áudio gerada por IA que parecia que o presidente Joe Biden tentou dissuadir os democratas de votar nas eleições primárias de New Hampshire.

As empresas se comprometeram a usar tecnologia para mitigar os riscos do conteúdo eleitoral gerado por IA no acordo, denominado “Acordo Técnico para Combater o Uso Enganoso de IA nas Eleições de 2024”. Eles também se comprometeram a compartilhar informações entre si sobre como lidar com os malfeitores.

“A IA não criou o engano eleitoral, mas devemos garantir que isso não ajude o engano a florescer”, disse o presidente da Microsoft Corp., Brad Smith, no comunicado à imprensa anunciando o acordo.

Adobe Inc., TikTok da ByteDance Ltd. e International Business Machines Corp., bem como startups como Anthropic e Inflection AI, estavam entre os signatários. O acordo também incluiu as empresas de mídia social Meta Platforms Inc., X e Snap Inc.

“A geração e distribuição intencional e não divulgada de conteúdo eleitoral enganoso de IA pode enganar o público de maneiras que colocam em risco a integridade dos processos eleitorais”, afirma o acordo.

À luz do aumento de falsificações realistas de vozes e imagens de candidatos, o novo acordo tentará restringir o conteúdo digital que falsifica palavras ou ações de candidatos políticos e de outros intervenientes nas eleições.

No entanto, muitas empresas de tecnologia dizem estar preocupadas com o potencial de uso político indevido de conteúdo gerado por IA. Um sistema desenvolvido pela Meta inicialmente só será capaz de detectar imagens falsas, não áudio ou vídeo, e poderá perder aquelas que não tenham marcas d’água.

“Nossa mente não está tranquila”, disse o CEO da OpenAI, Sam Altman, no mês passado, em um evento da Bloomberg no Fórum Econômico Mundial. “Teremos que observar isso incrivelmente de perto este ano.”