A comissão temporária criada para analisar a regulamentação da inteligência artificial (IA) no país aprovou nesta quinta-feira (5) o relatório apresentado ao colegiado. O projeto, que contém uma série de regras para o desenvolvimento e o uso de sistemas de IA, seguiu para votação no plenário do Senado. A votação deve ocorrer na próxima terça-feira (10).
O relatório, aprovado em votação simbólica, foi a sétima versão do texto, que por fim excluiu da lista de sistemas considerados de alto risco os algoritmos das redes sociais.
O texto tem como base o PL 2.338/2023, apresentado pelo senador Rodrigo Pacheco (PSD-MG), e engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21/2020, já aprovado pela Câmara dos Deputados, e em dezenas de emendas de diversos senadores.
O projeto divide os sistemas de IA em níveis de risco: risco excessivo e de alto risco. O objetivo é oferecer uma regulamentação diferenciada dependendo do impacto do sistema na vida humana e nos direitos fundamentais.
Além disso, uma das principais alterações da versão atual do texto em relação às versões iniciais é o caráter facultativo da avaliação preliminar dos sistemas de IA.
O objetivo dessa avaliação preliminar é determinar o grau de risco do sistema, que dependerá de suas finalidades e do seu impacto. Ela deve ser realizada pelos próprios agentes — isto é, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso —, antes da disponibilização do sistema no mercado.
De acordo com a redação aprovada, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes, como prioridade em avaliações de conformidade.
O líder do Governo no Congresso, senador Randolfe Rodrigues (PT-AP), destacou que o Brasil pode se tornar uma referência mundial com a aprovação da proposta de regulamentação da IA.
“Essa proposta pode possibilitar a nós, no Brasil, ter uma legislação sobre IA pioneira no mundo. E pode apontar como modelo para o mundo uma legislação para controlar esse demônio que tem saído da contemporaneidade e trazer um pouco mais para o mundo celestial. As inovações tecnológicas da humanidade devem ser para o seu aprimoramento, não caminhos para criação, estabelecimento e prevalecimento da manipulação e da mentira”, apontou.
Preocupação com a infância
O senador Rogério Carvalho (PT-SE) antecipou que apresentará, em plenário, proposta de modificação do texto (destaque) com o objetivo de promover uma melhor “distribuição, priorização, amplificação e alteração de conteúdo em grande escala por provedores de aplicação de internet”.
Há um apelo, segundo Rogério, sobre a questão da infância e como os provedores podem contribuir com os avanços da legislação e, consequentemente, uma maior proteção a crianças e adolescentes.
“Notoriamente, existem atrativos para crianças e adolescentes que impactam seus direitos e liberdades fundamentais, e, com essa redação, acho que a gente atende a questão levantada por vários segmentos da sociedade”, disse.
Além disso, o senador Rogério Carvalho defendeu a necessidade de responsabilização das plataformas digitais, já que o setor privado não pode se eximir de sua função social na proteção de direitos fundamentais, bem como o enfrentamento de violações de direitos, que incluem a exposição precoce de crianças a conteúdos impróprios, cyberbullying e até crimes como a exploração sexual.
“Esse projeto não é apenas sobre tecnologia, mas sobre como o Estado pode e deve intervir para garantir que as empresas não coloquem o lucro acima da proteção de nossas crianças e adolescentes. Não podemos mais aceitar que algoritmos decidam o futuro de uma geração sem que haja um olhar humano e legislativo que priorize os direitos fundamentais. Precisamos de um marco legal que não apenas regule, mas que também eduque a sociedade para o uso responsável das tecnologias”, argumentou.
Direitos autorais
O relatório que será analisado pelo plenário também estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais.
Além disso, o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada e a utilização deve limitar-se ao necessário para alcançar a finalidade proposta, e os titulares dos direitos não tenham seus interesses econômicos prejudicados injustificadamente.
Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
“Nós temos que preservar o texto em relação ao direito autoral. Quando se trata de criação, direito intelectual, propriedade intelectual, o insumo é a informação. E produzir a informação, a criação artística, depende do indivíduo que o criou. Então não podemos simplesmente dar o direito de quem quer que seja utilizar a informação por meio de máquinas treinadas para reproduzir, por exemplo, a capacidade de criação musical sem que isso garanta o respeito aos princípios da propriedade intelectual e do direito autoral”, afirmou o senador Humberto Costa (PT-PE).
O relator da proposta na comissão, senador Eduardo Gomes (PL-TO), acatou sugestão do senador Fabiano Contarato (PT-ES) para incluir, entre as diretrizes protetivas do trabalho e dos trabalhadores, o fomento ao desenvolvimento de programas de treinamento e capacitação contínua, promovendo a valorização e o aprimoramento profissional.