As regras vão para apreciação dos deputados federais

O Plenário do Senado aprovou o marco das regras para uso da inteligência artificial no país. O texto segue agora para votação na Câmara dos Deputados.

O projeto estabelece os princípios fundamentais para o desenvolvimento e uso de IA. Ele define que a tecnologia deve ser transparente, segura, confiável, ética, livre de vieses discriminatórios, respeitando os direitos humanos e valores democráticos. O projeto exige também que sejam contemplados o desenvolvimento tecnológico, a inovação, a livre iniciativa e a livre concorrência.

Além de enumerar os sistemas de IA considerados de alto risco, o projeto proíbe o desenvolvimento de alguns tipos de tecnologias de IA que causem danos à saúde, à segurança ou a outros direitos fundamentais.

O texto, por exemplo, veda que o Poder Público crie sistemas que classifiquem ou ranqueie pessoas com base no comportamento social para acesso a bens e serviços ou a políticas públicas “de forma ilegítima ou desproporcional” ou de sistemas de IA que facilite o abuso ou exploração sexual de crianças e adolescentes.

Alto risco

O projeto define ainda como sistemas de IA de alto risco aqueles que podem causar danos às pessoas ou à sociedade. Ou seja, os de controle de trânsito, de redes de abastecimento de água e eletricidade.

Também consideraram sistemas de IA de alto risco aqueles aplicados na educação e formação profissionais para determinar acesso à instituição de ensino ou de monitoramento de estudantes. Ou seja, além dos sistemas usados para recrutamento de trabalhadores ou para promoções no trabalho. Sistemas de IA de “repartição de tarefas e controle e avaliação do desempenho e do comportamento das pessoas nas áreas de emprego. Assim como gestão de trabalhadores e acesso ao emprego por conta própria” também são considerados de alto risco.

Outros exemplos sistemas de IA para avaliação de prioridades em serviços públicos essenciais, como bombeiros e assistência médica. Assim também, citaram no texto os sistemas de inteligência artificial usados pela Justiça para investigação de crimes. Ou que tenham risco para as liberdades individuais ou ao Estado Democrático de Direito.

Os sistemas de IA na área da saúde, como para auxiliar no diagnóstico e procedimentos médicos e para o desenvolvimento de veículos autônomos em espaços públicos, são exemplos de sistemas de alto risco de inteligência artificial listados pelo projeto.

Big techs

Durante a tramitação no Senado, retiraram o dispositivo que considerava como sendo de alto risco os sistemas de IA usados pelas plataformas digitais. Isto é, as chamadas big techs, para produção, análise, recomendação e distribuição de conteúdos.

De acordo com o relator, senador Eduardo Gomes (PL-TO), a retirada desse trecho foi um acordo entre as bancadas para fazer o projeto de lei 2.338 de 2023, de autoria do presidente do Senado, Rodrigo Pacheco (PSD-MG), avançar na votação.

Fonte: agênciabrasil