A IA como a mais disruptiva das tecnologias, apesar de propiciar inúmeros benefícios à sociedade, possui um potencial de afronta a todos os direitos humanos e fundamentais, sendo essencial a construção e fiscalização do cumprimento de um framework específico, voltado à análise de riscos a tais direitos em aplicações de inteligência artificial (IA), envolvendo para tanto o conceito de fundamental rights by design, indispensável para se alcançar o conceito de “justiça de design”. Há, ainda, necessidade de uma lei com efetividade (enforcement) para tornar obrigatória tal prática, trazendo a devida procedimentalização e os demais requisitos indispensáveis em sua elaboração.

Visa-se com isso somar esforços no sentido de buscar uma proteção sistêmica, proativa, abrangente e segura, por meio de algo como a interseccionalidade, através de legislação, compliance e boas práticas pautadas em princípios éticos. A lei neste caso não pode ser apenas principiológica, mas com incentivos ao compliance, aliando-se às práticas de autorregulação (compliance e design técnico), em especial, trazendo a obrigatoriedade de documentos como o LIA (Legitimate Interests Assessment) e o DPIA (Data Protection Impact Assessment) – ou seja, antes do início da aplicação de IA com tratamento de dados, a ser colocada no mercado, prevenindo danos a possíveis direitos fundamentais.

Isto porque apenas princípios éticos, embora importantes, não são suficientes, por lhes faltar enforcement, além de serem produzidos de forma não homogênea, podendo dar ensejo ao que se tem denominado de “lavagem ética”, quando se prestam a uma mera camuflagem. Em sentido semelhante, embora imprescindível, o compliance apenas não é suficiente, e poderá se basear também, sem um critério legalmente estabelecido, em medidas unilaterais e seletivas, em termos de interesses e assimetrias de poder. Com isso, haveria o risco de que o controle apenas via tecnologia pudesse ensejar a perda de regulamentação normativa ou causar fins normativamente indesejáveis.

A principal fundamentação da presente perspectiva é contribuir para a concretização da proteção, promoção e efetivação dos direitos fundamentais por meio da tecnologia, não apenas no âmbito individual, mas coletivo e social (multidimensionalidade dos direitos fundamentais), trazendo a preocupação com o impacto ambiental por parte da IA, e demais danos que possa causar, sem contudo obstar a inovação e competitividade internacional, pois é uma perspectiva de longo prazo e com foco na sustentabilidade.

*Publicado originalmente em Jornal da USP.