O Plenário do Senado Federal aprovou nesta terça-feira, 10, proposta de lei que prevê a regulamentação da inteligência artificial (IA) no Brasil. O texto seguirá para a Câmara dos Deputados, onde o ritmo da tramitação ainda não está definido.
A proposta aprovada é um substitutivo do relator, Eduardo Gomes (PL-TO), que tem como principal base um anteprojeto formulado por comissão de juristas ao longo de 2022, protocolado no ano passado com assinatura do presidente do Senado, Rodrigo Pacheco (PSD-MG), o PL 2338/2023.
A lei em construção abarca o desenvolvimento, teste, uso e aplicação de sistemas de IA em geral, com o objetivo de assegurar direitos fundamentais. Pela proposta, a regulamentação será executada e monitorada por um Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), ponto que foi objeto dos últimos ajustes antes da votação.
Na versão anterior, a lei estabeleceria diretamente a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), na nova redação, o Congresso vai “autorizar” o governo a criar tal estrutura.
Para Gomes, o ajuste é suficiente para afastar a possibilidade de veto ou judicialização de trechos do texto. Isto porque já havia observação por parte do integrantes do governo federal e também de grupos com resistência ao projeto de que o Legislativo não poderia, por exemplo, designar a Autoridade Nacional de Proteção de Dados (ANPD) para a função de coordenar o SIA, sem que a proposta de lei fosse uma iniciativa do Poder Executivo, por incorrer em inconstitucionalidade pela invasão de competência do Planalto.
“Acerca das alegações sobre eventual vício de iniciativa quanto ao SIA, a fim de sanar a questão, ofereço a emenda para especificar o caráter autorizativo à criação do SIA, fica portanto no texto o Poder Executivo ‘autorizado’ a criá-la”, explicou Gomes.
O parecer apresentado pelo senador em plenário rejeitou as últimas emendas apresentadas ao projeto, entre elas, a que buscava reincluir os sistemas diretamente ligados ao funcionamento algorítmico de plataformas digitais na classificação de “alto risco”, que demanda maiores obrigações por parte das empresas. O requerimento para que esse ponto do texto fosse analisado individualmente, em uma emenda de destaque, foi retirado por acordo. Apesar disso, há expectativa de debater mais o tema na Câmara.
Entenda a proposta
O projeto de lei impõe princípios básicos que devem ser observados pelo mercado como um todo no uso, desenvolvimento, aplicação e teste de sistema de IA – com algumas exceções (veja mais abaixo) – e também uma classificação de riscos, onde: “alto risco” implica em maior acompanhamento dos órgãos reguladores e, consequentemente, mais obrigações por parte de quem não é mero consumidor; e “risco excessivo” são aqueles proibidos.
Sistemas considerados de “alto risco”, devem tomar medidas para garantir os seguintes direitos à pessoa ou grupo afetado por ele:
- direito à explicação sobre a decisão, recomendação ou previsão feitas pelo sistema;
- direito de contestar e de solicitar a revisão de decisões, recomendações ou previsões de sistema de IA; e
- direito à revisão humana das decisões, levando-se em conta o contexto, risco e o estado da arte do desenvolvimento tecnológico.
Entre as medidas previstas está promover transparência no funcionamento do sistema, apresentando documentações, possuir meios que admitam auditorias e tomar medidas para mitigar e prevenir vieses discriminatórios.
Exceções à lei
A lei não se aplica a sistemas de IA que sejam usados exclusivamente para uso particular e não econômico ou para defesa nacional.
Há ressalvas também para sistemas que se limitem ao provimento de infraestrutura de armazenamento e transporte de dados, o que se aplicaria aos data centers. Contudo, associações representativas apontam que restrições aplicadas a treinamentos acabam por incorporar o setor.
SIA
Para acompanhar o cumprimento da lei, o projeto prevê a criação do SIA, definido como um “ecossistema” a ser coordenado peor uma “autoridade competente”, sendo a ANPD indicada, com a finalidade de “promover e garantir a cooperação e a harmonização com as demais autoridades setoriais e entes reguladores, sem vínculo de subordinação hierárquica entre eles, e outros sistemas nacionais para a plena implementação e fiscalização do cumprimento da lei em todo o território nacional com segurança jurídica”.
Ou seja, os órgãos reguladores continuarão responsáveis pelos seus respectivos setores, e a ANPD zelará pela atuação harmoniosa entre eles, seguindo as diretrizes previstas na lei.
Conforme a proposta, a ANPD, em conjunto com os órgãos setoriais, poderão realizar investigações em casos de suspeita de violação aos princípios, direitos e deveres.
O SIA contará também com um Comitê de Especialistas e Cientistas de Inteligência Artificial (CECIA) com o objetivo de orientar e supervisionar de forma técnica e científica o desenvolvimento e aplicação da IA de forma responsável, e um Conselho Permanente de Cooperação Regulatória de Inteligência Artificial (CRIA), que funcionará como um fórum de colaboração com a ANPD.
Uma das principais competências do SIA é a possibilidade de incluir ou excluir sistemas da classificação de riscos de IA nos próximos anos, em procedimento que garanta o direito ao contraditório, e mediante avaliação de impacto algorítmico.
Independentemente da classificação de riscos, a lei impõe fundamentos que devem ser observados no desenvolvimento, implementação e uso de sistemas de IA no país, entre eles, a proteção ao meio ambiente, privacidade, proteção de dados pessoais e integridade da informação.
