O ministro de TI, Rajeev Chandrasekhar, diz que o chatbot Gemini AI do Google violou as regras de TI da Índia

O chatbot Gemini AI do Google foi examinado ontem, com a empresa interrompendo temporariamente a geração de imagens em meio a preocupações com imprecisões nas representações históricas. Após esta questão, a gigante da tecnologia pediu desculpas por essas imprecisões. No entanto, enfrenta agora um novo desafio na Índia, já que o Ministro de TI do país, Rajeev Chandrasekhar, sinalizou violações das regras de TI e das disposições do código penal por parte da Gemini.

O preconceito político da Gemini AI

A controvérsia se desenrolou quando um usuário verificado compartilhou uma captura de tela revelando respostas tendenciosas do chatbot Gemini AI em relação ao primeiro-ministro Narendra Modi. Chandrasekhar, tomando nota da questão, criticou a resposta da IA ​​como uma violação direta das regras de TI e das disposições do código penal. Em uma postagem nas redes sociais, ele enfatizou a necessidade de intervenção do Governo da Índia (GOI), chamando a Gemini AI não apenas de “acordada”, mas de “absolutamente maliciosa”.

Chandrasekhar marcou a postagem para o Google e o Ministério de Eletrônica e TI, indicando possíveis ações adicionais contra a ferramenta de IA do Google. A resposta severa do ministro demonstrou preocupações sobre o potencial uso indevido das tecnologias de IA, especialmente quando se trata de figuras políticas.

Este incidente segue a recente decisão do Google de pausar globalmente os recursos de geração de imagens da Gemini AI devido a controvérsias em torno de imprecisões em imagens históricas geradas por IA. Os críticos levantaram questões sobre se a empresa estava corrigindo excessivamente os riscos de preconceito em seu modelo de IA.

O Google reconheceu os problemas, afirmando que a equipe estava ciente das imprecisões e comprometida com melhorias imediatas. Gemini AI, desenvolvido com o modelo Imagen 2, foi projetado para compreensão de linguagem, áudio, código e vídeo. Lançado oficialmente em dezembro, permite aos usuários gerar imagens de alta qualidade com prompts de texto, integrando processamento de linguagem natural e reconhecimento de imagem. Apesar dessas capacidades, ele enfrentou críticas por errar o alvo ao representar com precisão diversas cenas.

À medida que as implicações legais se aproximam na Índia, a Google encontra-se a navegar no delicado equilíbrio entre o potencial da sua tecnologia avançada de IA e a responsabilidade de abordar preocupações sobre parcialidade e precisão.