Regulação da Inteligência Artificial: O Futuro em Construção 

A inteligência artificial (IA) deixou de ser uma promessa distante para se tornar uma realidade presente no cotidiano. De assistentes virtuais a sistemas de recomendação, passando por diagnósticos médicos e decisões automatizadas em serviços públicos e privados, a IA está transformando a forma como vivemos, trabalhamos e nos relacionamos.  

Essa revolução tecnológica, no entanto, traz consigo uma série de desafios éticos, sociais e jurídicos que exigem atenção imediata. Assim como a internet provocou uma profunda reconfiguração das estruturas sociais e legais, a IA impõe a necessidade de um novo arcabouço regulatório capaz de acompanhar sua velocidade e complexidade. 

Por que regular a IA? 

A regulação da IA é essencial para garantir que seu desenvolvimento e uso ocorram de forma ética, segura e transparente. Entre os principais motivos para regulamentar, destacam-se: 

• Proteção de direitos fundamentais: Sistemas de IA podem afetar diretamente a vida das pessoas, influenciando decisões sobre crédito, saúde, segurança e trabalho. A regulação ajuda a evitar abusos e discriminações. 

• Transparência e responsabilização: É fundamental que algoritmos sejam compreensíveis e auditáveis, permitindo que usuários e autoridades saibam como decisões automatizadas são tomadas. 

• Fomento à inovação responsável: Um ambiente regulatório claro oferece segurança jurídica para empresas inovadoras, incentivando investimentos em soluções confiáveis e sustentáveis. 

• Prevenção de riscos sistêmicos: A regulação permite identificar e mitigar riscos como viés algorítmico, falhas de segurança, uso indevido de dados e consequências não intencionais. 

• Alinhamento com padrões internacionais: Estabelecer regras locais compatíveis com legislações como o EU AI Act posiciona o Brasil como protagonista na governança global da IA. 

Partes envolvidas na cadeia de valor da IA 

Para a regulação da IA é necessário compreender sua cadeia de valor, que envolve diferentes atores com responsabilidades complementares. Os principais envolvidos nessa cadeia incluem: 

• Fornecedores de dados: São responsáveis por disponibilizar os dados que alimentam os sistemas de IA. A qualidade, diversidade e legalidade desses dados impactam diretamente o desempenho e a imparcialidade dos algoritmos. 

• Desenvolvedores de algoritmos: Projetam os modelos de IA e definem como os dados serão processados. Devem adotar práticas de desenvolvimento ético, como testes de viés, validação contínua e documentação técnica acessível. 

• Fabricantes de hardware e software: Criam as infraestruturas que suportam a execução dos sistemas de IA. Questões como eficiência, interoperabilidade e segurança cibernética são especialmente relevantes nesse ponto. 

• Integradores de sistemas: Adaptam e implementam soluções de IA em contextos específicos, como empresas, governos ou plataformas digitais. São responsáveis por garantir que a IA funcione conforme os requisitos legais e operacionais do ambiente em que será usada. 

• Usuários finais: Interagem diretamente com os sistemas de IA. Devem ser informados sobre os limites, objetivos e funcionamento da tecnologia, especialmente em aplicações sensíveis. 

• Reguladores e formuladores de políticas públicas: Estabelecem normas, fiscalizam o cumprimento e promovem a governança da IA. Precisam atuar de forma coordenada com a sociedade civil, o setor privado e a academia para garantir uma regulação eficaz e adaptável. 

Cada elo dessa cadeia pode ser afetado por diferentes exigências legais e éticas. A grande questão é como regular de forma eficaz e proporcional. 

Regulação na Europa: EU AI Act 

A União Europeia tem se destacado como líder global na regulação da inteligência artificial, com a criação do EU AI Act, aprovado em 2024. Trata-se da primeira legislação abrangente do mundo voltada exclusivamente para sistemas de IA, com foco em segurança, direitos fundamentais e inovação responsável. 

O EU AI Act utiliza uma abordagem baseada em risco, que classifica os sistemas de IA conforme o grau de impacto. As categorias de risco são: 

• Risco inaceitável: Sistemas que representam ameaça clara aos direitos fundamentais, como manipulação subliminar ou pontuação social, são proibidos.  

• Alto risco: Inclui aplicações em áreas sensíveis como saúde, transporte, educação e segurança pública. Esses sistemas devem cumprir requisitos rigorosos de transparência, governança de dados, documentação técnica e supervisão humana. 

• Risco limitado: Sistemas que interagem com humanos, como chatbots, devem informar claramente que são operados por IA, garantindo transparência mínima. 

• Risco mínimo: Aplicações com baixo impacto, como filtros de spam ou recomendações de conteúdo, não estão sujeitas a exigências específicas. 

Esse modelo europeu tem servido de referência para outros países, incluindo o Brasil, e reforça a importância de uma regulação que promova confiança, competitividade e proteção de direitos em escala global. 

Regulação no Brasil 

O Brasil tem avançado de forma significativa no debate sobre a regulação da inteligência artificial. O principal marco nesse processo é o Projeto de Lei nº 2.338/2023, atualmente em tramitação na Câmara dos Deputados. Inspirado em modelos internacionais como o EU AI Act, o projeto propõe uma abordagem baseada em risco, com o objetivo de equilibrar inovação tecnológica e proteção de direitos fundamentais. 

A classificação de risco prevista no PL segue uma lógica escalonada, que determina o nível de exigência regulatória conforme o potencial de impacto do sistema de IA: 

• Risco excessivo: Sistemas considerados incompatíveis com os direitos fundamentais e a dignidade humana são proibidos. Exemplos incluem tecnologias de manipulação subliminar, identificação biométrica em tempo real em espaços públicos sem autorização legal, e sistemas de pontuação social. 

• Risco alto: Aplicações que afetam áreas sensíveis, como saúde, educação, segurança pública, crédito e relações de trabalho, são permitidas, mas sujeitas a obrigações rigorosas. Entre elas: transparência sobre o funcionamento do sistema, documentação técnica detalhada, registros de operação, supervisão humana e mecanismos de contestação. 

• Risco moderado ou baixo: Sistemas com menor impacto sobre direitos individuais estão sujeitos a exigências mais leves, como a obrigação de informar que se trata de uma IA, ou, em alguns casos, não estão sujeitos a regras específicas. 

Além disso, o PL 2.338/2023 complementa a LGPD, reforçando a proteção de dados pessoais em sistemas automatizados; estabelece princípios de governança algorítmica, como explicabilidade, auditabilidade e supervisão; e prevê a atuação de autoridades reguladoras, com competências para fiscalizar, orientar e aplicar sanções. 

O projeto é hoje o marco federal mais avançado sobre IA no país. Está em fase de avaliação aprofundada na Câmara, com apoio técnico da sociedade civil, mas também sob debates sobre impactos regulatórios e possíveis ajustes. Seu desfecho será crucial para posicionar o Brasil entre os países com legislação moderna e abrangente sobre IA, ao lado da União Europeia, China e Reino Unido 

O que esperar? 

A regulação da inteligência artificial está deixando de ser uma discussão teórica para se tornar uma realidade concreta em diversas jurisdições. O avanço do EU AI Act e a tramitação do PL nº 2.338/2023 no Brasil mostram que o mundo caminha para um novo padrão de governança tecnológica, baseado em risco, transparência e responsabilidade.