Proposta contém uma série de regras para o desenvolvimento e o uso de sistemas de IA no país. Texto vai à Câmara;
O plenário do Senado aprovou nesta terça-feira (10) a proposta de regulamentação da inteligência artificial (IA) no país, contida no Projeto de Lei (PL 2338/2023). O projeto, que contém uma série de regras para o desenvolvimento e o uso de sistemas de IA, segue para análise da Câmara dos Deputados.
O texto é um substitutivo apresentado pelo senador Eduardo Gomes (PL-TO), relator do projeto, e aprovado na última quinta-feira (5/12) pela comissão mista criada para tratar do tema.
O texto inicial foi apresentado pelo senador Rodrigo Pacheco (PSD-MG), e engloba dispositivos sugeridos em mais sete propostas, inclusive o PL 21/2020, já aprovado pela Câmara dos Deputados, e em dezenas de emendas de diversos senadores.
O senador Rogério Carvalho (PT-SE) elogiou o consenso construído em torno da proposta e afirmou que, pela complexidade do tema, o Senado entrega um projeto de regulamentação com bases consistentes.
“É uma área que envolve quase todos os setores da humanidade nos tempos atuais. Imagine a complexidade de colocar num projeto de lei, ou no texto de uma lei, algo tão complexo e tão diverso”, disse.
“Nós temos um começo de regulamentação em cima de bases consistentes, com pilares como a integralidade, garantia de direitos autorais. Estamos falando de pilares que estruturam uma construção complexa que é regulamentar, acompanhar e garantir que a humanidade vai usar dessa tecnologia e que isso vai fazer bem para a sociedade”, emendou o senador.
Leia mais – Soberania: IBGE prepara os alicerces da transição digital do Brasil
O senador Humberto Costa (PT-PE) classificou a aprovação da proposta como um avanço significativo, já que o texto está baseado em questões fundamentais, como o respeito aos direitos individuais, o combate a qualquer tipo de discriminação e a busca por um tratamento igual em relação as pessoas.
“Esse projeto é o melhor que poderíamos apresentar neste momento”, resumiu.
Já a senadora Teresa Leitão (PT-PE) afirmou que a “regulação dessa tecnologia é fundamental, dada a vasta capacidade de impacto que pode ter sobre os mais diversos setores da sociedade”
O projeto divide os sistemas de IA em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. E a proposta veda o desenvolvimento de aplicações de IA que tenham “risco excessivo”. Essas classificações foram um dos temas mais polêmicos durante na comissão.
De acordo com a redação aprovada, a avaliação preliminar dos sistemas de IA só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes, como prioridade em avaliações de conformidade.
Direitos autorais
O texto ainda estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de mineração de textos para o desenvolvimento do sistema de IA por instituições de pesquisa, jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais.
Além disso, o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada e a utilização deve limitar-se ao necessário para alcançar a finalidade proposta, e os titulares dos direitos não tenham seus interesses econômicos prejudicados injustificadamente.
Os cidadãos terão assegurados os direitos à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante. E no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
Risco excessivo
O projeto proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo. Entre eles, estão os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
Também ficarão proibidos o uso de técnicas subliminares e a exploração de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança.
Da mesma forma, serão proibidos sistemas com o propósito de possibilitar a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes.
O projeto ainda veda a avaliação de traços de personalidade e de características de comportamento para prever o cometimento de crimes e impede a classificação de indivíduos com base em seu comportamento social ou personalidade para determinar, de forma ilegítima e desproporcional, o acesso a bens, serviços e políticas públicas.
O uso de câmeras para identificar pessoas em tempo real em espaços públicos só será permitido para busca de vítimas de crimes ou pessoas desaparecidas, para recapturar fugitivos, cumprir mandados de prisão ou de medidas restritivas, investigar e reprimir crimes em flagrante nos casos de delitos cuja pena de prisão seja superior a dois anos e instruir inquérito ou processo criminal com autorização do juiz, quando a prova não puder ser feita por outros meios.
Avaliação de impacto
Quando um sistema de IA for classificado como sendo de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos.
A avaliação de impacto algorítmico verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema.
As conclusões das avaliações deverão ser públicas e disponibilizadas em banco de dados mantido pela autoridade competente. Regulamento determinará a periodicidade da revisão dessa avaliação. Caso, após a introdução do sistema no mercado, os agentes descubram novos riscos aos direitos dos indivíduos, devem comunicá-lo às autoridades competentes e às pessoas afetadas.
