Governo ordena que empresas de tecnologia busquem aprovação antes de lançar ferramentas de IA “não confiáveis”

O Ministério de Eletrônica e Tecnologia da Informação da União (MeitY) emitiu um segundo comunicado às plataformas ou intermediários, pedindo-lhes que buscassem permissão explícita do Centro antes de lançar modelos de Inteligência Artificial (IA), em teste, no país.

O comunicado foi emitido na noite de sexta-feira, mais de dois meses depois de o ministério ter emitido um comunicado em dezembro do ano passado às plataformas de mídia social, orientando-as a seguir as regras de TI existentes para lidar com a questão dos deepfakes.

“O uso de modelos de Inteligência Artificial /LLM/Generative AI, software(s) ou algoritmo(s) subtestados/não confiáveis ​​e sua disponibilidade para os usuários na Internet indiana deve ser feito com permissão explícita do Governo de Índia e ser implantado somente após rotular adequadamente a possível e inerente falibilidade ou falta de confiabilidade do resultado gerado. Além disso, o mecanismo de 'pop-up de consentimento' pode ser usado para informar explicitamente os usuários sobre a possível e inerente falibilidade ou falta de confiabilidade do resultado gerado, “o leitura consultiva.

O comunicado acrescentou que recentemente chegou ao conhecimento do ministério que intermediários ou plataformas não estão cumprindo as obrigações de devida diligência descritas nas Regras de Tecnologia da Informação (Diretrizes para Intermediários e Código de Ética da Mídia Digital), 2021 (Regras de TI).

“Todos os intermediários ou plataformas devem garantir que o uso de modelo(s) de Inteligência Artificial /LLM/IA generativa, software(s) ou algoritmo(s) em ou através de seus recursos de computador não permita que seus usuários hospedem, exibam, carregar, modificar, publicar, transmitir, armazenar, atualizar ou compartilhar qualquer conteúdo ilegal conforme descrito na Regra 3(1)(b) das Regras de TI ou violar qualquer outra disposição da Lei de TI”, afirmou.

“Todos os intermediários ou plataformas devem garantir que seus recursos informáticos não permitam qualquer preconceito ou discriminação ou ameacem a integridade do processo eleitoral, inclusive por meio do uso de modelo(s) de Inteligência Artificial/LLM/IA generativa, software(s) ou algoritmo(s)”, dizia o comunicado.

“O uso de modelos de Inteligência Artificial /LLM/Generative AI, software(s) ou algoritmo(s) subtestados/não confiáveis ​​e sua disponibilidade para os usuários na Internet indiana deve ser feito com permissão explícita do Governo de Índia e ser implantado somente após rotular adequadamente a possível e inerente falibilidade ou falta de confiabilidade do resultado gerado. Além disso, o mecanismo de 'pop-up de consentimento' pode ser usado para informar explicitamente os usuários sobre a possível e inerente falibilidade ou falta de confiabilidade do resultado gerado, ” estipulado mais adiante.

“Todos os usuários devem ser claramente informados, inclusive por meio dos termos de serviços e acordos de usuário do intermediário ou plataformas, sobre as consequências de lidar com informações ilegais em sua plataforma, incluindo a desativação do acesso ou remoção de informações não conformes, suspensão ou rescisão dos direitos de acesso ou uso do usuário à sua conta de usuário, conforme o caso, e punição nos termos da lei aplicável”, acrescentou.

“Quando qualquer intermediário, por meio de seu software ou qualquer outro recurso de computador, permitir ou facilitar a criação sintética, geração ou modificação de texto, informação sonora, visual ou audiovisual, de tal maneira que tal informação possa ser usada potencialmente como desinformação ou deepfake, é aconselhável que tais informações criadas, geradas ou modificadas através de seu software ou qualquer outro recurso de computador sejam rotuladas ou incorporadas com um metadado ou identificador exclusivo permanente, por qualquer nome chamado, de forma que tal rótulo, metadados ou identificador possa ser usado identificar que tais informações foram criadas, geradas ou modificadas usando recursos de computador do intermediário, ou identificar o usuário do software ou de outro recurso de computador, o intermediário por meio de cujo software ou outro recurso de computador essas informações foram criadas, geradas ou modificado e o criador ou primeiro originador de tal desinformação ou deepfake”, acrescentou o comunicado.

“Reitera-se que o não cumprimento das disposições da Lei de TI e/ou das Regras de TI resultaria em potenciais consequências penais para os intermediários ou plataformas ou seus usuários quando identificados, incluindo, mas não se limitando a, processos sob a Lei de TI e vários outros estatutos do código penal”, acrescentou o comunicado.

“Todos os intermediários são, por meio deste, solicitados a garantir o cumprimento do acima exposto com efeito imediato e a enviar um Relatório de Ações Tomadas e Status ao Ministério no prazo de 15 dias após este comunicado”, acrescentou o ministério da União.

Além disso, leia outras notícias importantes de hoje:

A Nothing liderada por Carl Pei está pronta para lançar seu smartphone de gama média, o Nothing Phone 2a, na Índia em 5 de março! Alguns detalhes interessantes neste artigo. Confira aqui

Moto provoca seu design e recursos de IA e diz que o lançamento do Motorola X50 Ultra acontecerá em breve. É apontado como rival do Samsung Galaxy S24. Alguns detalhes interessantes neste artigo. Confira aqui.

EUA vs China! Os EUA estão a reavaliar as políticas de proteção de dados face às preocupações com a tecnologia chinesa, com foco nos riscos da IA. As ações recentes do Presidente Biden visam limitar o fluxo de dados sensíveis no exterior para evitar espionagem e chantagem. Li tudo sobre isso aqui.

Mais uma coisa! Agora estamos nos canais do WhatsApp! Siga-nos lá para nunca perder nenhuma atualização do mundo da tecnologia. ‎Para acompanhar o canal HT Tech no WhatsApp, clique aqui para aderir agora!