Senado: regulamentação da IA passa em comissão e agora vai ao plenário

A comissão temporária criada para analisar a regulamentação da inteligência artificial (IA) no país aprovou nesta quinta-feira (5) o relatório apresentado ao colegiado. O projeto, que contém uma série de regras para o desenvolvimento e o uso de sistemas de IA, seguiu para votação no plenário do Senado. A votação deve ocorrer na próxima terça-feira (10).

O relatório, aprovado em votação simbólica, foi a sétima versão do texto, que por fim excluiu da lista de sistemas considerados de alto risco os algoritmos das redes sociais.

O texto tem como base o PL 2.338/2023, apresentado pelo senador Rodrigo Pacheco (PSD-MG), e engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21/2020, já aprovado pela Câmara dos Deputados, e em dezenas de emendas de diversos senadores.

O projeto divide os sistemas de IA em níveis de risco: risco excessivo e de alto risco. O objetivo é oferecer uma regulamentação diferenciada dependendo do impacto do sistema na vida humana e nos direitos fundamentais.

Além disso, uma das principais alterações da versão atual do texto em relação às versões iniciais é o caráter facultativo da avaliação preliminar dos sistemas de IA.

O objetivo dessa avaliação preliminar é determinar o grau de risco do sistema, que dependerá de suas finalidades e do seu impacto. Ela deve ser realizada pelos próprios agentes — isto é, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso —, antes da disponibilização do sistema no mercado.

De acordo com a redação aprovada, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes, como prioridade em avaliações de conformidade.

O líder do Governo no Congresso, senador Randolfe Rodrigues (PT-AP), destacou que o Brasil pode se tornar uma referência mundial com a aprovação da proposta de regulamentação da IA.

“Essa proposta pode possibilitar a nós, no Brasil, ter uma legislação sobre IA pioneira no mundo. E pode apontar como modelo para o mundo uma legislação para controlar esse demônio que tem saído da contemporaneidade e trazer um pouco mais para o mundo celestial. As inovações tecnológicas da humanidade devem ser para o seu aprimoramento, não caminhos para criação, estabelecimento e prevalecimento da manipulação e da mentira”, apontou.

Preocupação com a infância

O senador Rogério Carvalho (PT-SE) antecipou que apresentará, em plenário, proposta de modificação do texto (destaque) com o objetivo de promover uma melhor “distribuição, priorização, amplificação e alteração de conteúdo em grande escala por provedores de aplicação de internet”.

Há um apelo, segundo Rogério, sobre a questão da infância e como os provedores podem contribuir com os avanços da legislação e, consequentemente, uma maior proteção a crianças e adolescentes.

“Notoriamente, existem atrativos para crianças e adolescentes que impactam seus direitos e liberdades fundamentais, e, com essa redação, acho que a gente atende a questão levantada por vários segmentos da sociedade”, disse.

As plataformas digitais têm um papel muito importante e necessário na proteção das nossas crianças e adolescentes, sobretudo neste momento que vivemos com o avanço da tecnologia e acesso. Por isso, defendemos a inclusão de um destaque que responsabilize as empresas pela… pic.twitter.com/yxiQJz3Hmr

— Rogério Carvalho 🇧🇷 ⭐️ (@SenadorRogerio) December 5, 2024

Além disso, o senador Rogério Carvalho defendeu a necessidade de responsabilização das plataformas digitais, já que o setor privado não pode se eximir de sua função social na proteção de direitos fundamentais, bem como o enfrentamento de violações de direitos, que incluem a exposição precoce de crianças a conteúdos impróprios, cyberbullying e até crimes como a exploração sexual.

“Esse projeto não é apenas sobre tecnologia, mas sobre como o Estado pode e deve intervir para garantir que as empresas não coloquem o lucro acima da proteção de nossas crianças e adolescentes. Não podemos mais aceitar que algoritmos decidam o futuro de uma geração sem que haja um olhar humano e legislativo que priorize os direitos fundamentais. Precisamos de um marco legal que não apenas regule, mas que também eduque a sociedade para o uso responsável das tecnologias”, argumentou.

Direitos autorais

O relatório que será analisado pelo plenário também estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais.

Além disso, o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada e a utilização deve limitar-se ao necessário para alcançar a finalidade proposta, e os titulares dos direitos não tenham seus interesses econômicos prejudicados injustificadamente.

Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.

“Nós temos que preservar o texto em relação ao direito autoral. Quando se trata de criação, direito intelectual, propriedade intelectual, o insumo é a informação. E produzir a informação, a criação artística, depende do indivíduo que o criou. Então não podemos simplesmente dar o direito de quem quer que seja utilizar a informação por meio de máquinas treinadas para reproduzir, por exemplo, a capacidade de criação musical sem que isso garanta o respeito aos princípios da propriedade intelectual e do direito autoral”, afirmou o senador Humberto Costa (PT-PE).

Aprovamos hoje na Comissão Temporária sobre Inteligência Artificial (CTIA) do Senado o relatório sobre a regulamentação do uso da IA no país. O texto define princípios éticos, a criação de uma Política Nacional de IA. Vamos dotar o Brasil de uma lei muito importante sobre o tema. pic.twitter.com/kN8dCKTXVq

— Humberto Costa (@senadorhumberto) December 5, 2024