Efeitos da IA nos direitos fundamentais dos titulares de dados

Na quinta-feira, 19 de outubro, a Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA) do Senado Federal realizou uma audiência pública para discutir questões relacionadas à inteligência artificial (IA) no país. O evento abordou diversos tópicos importantes, incluindo aspectos jurídicos, aplicações da tecnologia e suas implicações para os direitos fundamentais, bem como os princípios da Lei Geral de Proteção de Dados Pessoais (LGPD). Também foram discutidas questões sobre como a IA impacta o cotidiano dos cidadãos.

A audiência teve início com o senador Eduardo Gomes, autor do requerimento nº 04/2023 da CTIA, que propôs a realização de audiências públicas para debater temas relacionados à IA no Brasil.

Fernando Malerbi, do Departamento de Saúde Ocular da Sociedade Brasileira de Diabetes, abriu as discussões, destacando como a IA está sendo usada para ampliar o acesso dos pacientes a serviços de tratamento de diabetes. Ele enfatizou que sistemas de IA desempenham um papel crucial no controle das doses de insulina e na detecção de complicações crônicas da diabetes, ressaltando os benefícios dessas aplicações na saúde.

Logo após, o Gerente de projetos da ANPD, Lucas Borges, deu início a sua fala trazendo o dilema central da regulamentação da IA - o equilíbrio entre inovação e os direitos fundamentais dos indivíduos. Para ele, “toda discussão sobre a regulação de IA passa por um equilíbrio entre direitos e inovação, que deve proteger direitos fundamentais e minimizar riscos”. Esclareceu também, que “os usos de IA são imprevisíveis e talvez infinitos. Por isso é tão importante que, ao mesmo tempo em que se fala de proteger direitos, também não se deve esquecer de tentar equilibrar a regulação do ponto de vista da promoção e da inovação”.

Lucas Borges ainda enfatizou o papel principal da ANPD na regulamentação do tema, já que há uma forte conexão entre IA e dados pessoais. “O treinamento de algoritmos pressupõe a utilização de uma quantidade massiva de dados, os quais em sua maioria são dados pessoais, principalmente naqueles casos mais controversos, que geram maior impacto, classificados como de alto risco.  É o caso de situações como trabalho e emprego, controle de imigração de fronteiras, na área de saúde, em situações de discriminação, por exemplo.”

O Gerente de projetos ainda explicou que a LGPD se aplica a sistemas de Inteligência Artificial, mas ainda há uma série de pontos que precisam ser esclarecidos, como a aplicação dos princípios da Lei Geral de Proteção de Dados Pessoais da necessidade e da finalidade, e quais hipóteses legais poderão ser aplicadas a casos concretos e sobre a revisão de decisões automatizadas. Destacou ainda sobre o Estudo preliminar do uso da Inteligência Artificial no Brasil, realizado pela ANPD a respeito do PL 2338/2023. Também falou sobre o projeto de Sandbox Regulatório, que foi divulgado recentemente pela Autoridade, e concluiu destacando que: “Uma regulação adequada dos sistemas de IA pressupõe três pontos essenciais: uma abordagem equilibrada entre direitos e inovação; harmonia e coerência com a LGPD, em especial, a fim de evitar fragmentação regulatória; e  o reconhecimento do papel central da ANPD, com seu necessário fortalecimento institucional”.

O senador Astronauta Marcos Pontes (PL-SC) falou sobre a importância de considerar o trabalho em conjunto da comissão com a ANPD, que trará soluções e benefícios na regulamentação da IA. “Muito importante ter em mente que a IA tem uma capacidade muito grande de conclusões, mas não pode tomar decisões que possam afetar a vida dos seres humanos e deve ser usada para ser um auxílio às decisões humanas”, pontificou.

Diogo Cortiz, da PUC-SP, ainda destacou a importância de uma atenção redobrada para elaborar uma estratégia sobre o ecossistema de desenvolvimentos de tecnologias de Inteligência Artificial no Brasil.

A Diretora-Executiva do Instituto da Hora, Nina da Hora, defendeu uma participação maior de acadêmicos nos debates sobre IA. “Temos que trazer mais perspectivas acadêmicas nas discussões sobre a regulação de IA para uma contribuição mais qualitativa, alinhando conhecimentos técnicos e científicos às necessidades dos cidadãos”, enfatizou.

Marcelo Finger, professor do Departamento de Ciência da Computação do Instituto de Matemática e Estatística da Universidade de São Paulo (USP), trouxe um caso da Itália, onde houve a proibição do uso do ChatGPT que não funcionou. “Não funciona frear o desenvolvimento da tecnologia”, afirmou. Ele ainda deu foco a uma experiência recente sobre o tratamento de Inteligência Artificial nos estúdios de Hollywood, e da greve dos roteiristas, fazendo um contraponto sobre direitos autorais, trazendo a tona a questão de haver uma necessidade de regulamentar a otimização dos direitos autorais de textos e roteiros com o uso de softwares de IA.

O Presidente da Coordenação de Inteligência Artificial da Associação Brasileira de Governança Pública de Dados Pessoais (govDADOS), Gustavo Zaniboni, lembrou aos espectadores da audiência “que tudo que poderá ser automatizado será”. Falou ainda sobre a popularização dos sistemas de Inteligência Artificial, de como a sociedade terá que lidar com essas novas tecnologias e sobre a importância de precisão técnica para abordar o tema. 

A audiência pública demonstrou a complexidade e a importância da regulação da IA no Brasil, buscando equilibrar a proteção dos direitos fundamentais e a promoção da inovação, enquanto se enfrentam desafios práticos em várias áreas, desde a saúde até os direitos autorais. 

Fonte: ANPD