Direito à privacidade existe quando está atrelada aos meios de inteligência artificial?

A Inteligência Artificial (IA) está avançando rápido e gerando impactos em diversos setores. Esta nova tecnologia tem sido amplamente adotada e tem sido uma grande promessa para impulsionar a eficiência e a produtividade de maneira geral. No entanto, a crescente adoção da IA também tem levantado preocupações sobre o impacto que isso pode ter nos Direitos Fundamentais, como o direito à privacidade. No Brasil, embora não haja previsão específica quanto ao uso de IA na LGPD, é preciso respeitar os preceitos legais no que se refere ao uso dos dados coletados por meio IA, respeitado sobretudo à dignidade humana e os Direitos Fundamentais.

O direito à privacidade é um Direito Fundamental o qual garante que as pessoas possam controlar suas informações pessoais e decidir como essas informações são coletadas, usadas, compartilhadas e divulgadas.

Desde o início do uso da IA – Inteligência Artificial – no Brasil, sobretudo pelos algoritmos, os impactos do uso da IA no direito à privacidade começaram a ser percebidos, iniciando pela coleta de dados pessoais. No entanto, a coleta de dados é uma das formas mais óbvias em que a IA pode afetar o direito à privacidade.

Tendo em vista que os modelos de IA dependem de grandes quantidades de dados para funcionar efetivamente, à medida que a IA se torna mais generalizada, a quantidade de dados que é coletada aumentará significativamente.

Quanto mais dados forem coletados, mais chances de violação das regras previstas na LGPD, sobretudo no que tange aos dados sensíveis. Além disso, a IA é capaz de analisar grandes quantidades de dados em um curto período de tempo.

Isso a torna uma ferramenta poderosa para análise de dados em massa, e a análise de dados em massa pode ser usada para descobrir informações pessoais sobre indivíduos, incluindo suas preferências, opiniões políticas e comportamentos.

Entendendo a análise de dados em massa com IA

Um fator preocupante é que a análise de dados em massa pode ser usada para fins positivos, como previsão de tendências de consumo (profiling), desde que autorizadas, ou mesmo detecção de fraudes, mas também pode ser usada para fins degradantes, como vigilância em massa.

A vigilância em massa é uma violação do Direito à Privacidade, pois permite que o Estado ou outras entidades coletem informações sobre indivíduos sem o seu conhecimento ou consentimento. Outro ponto importante é que a IA também pode afetar o direito à privacidade através do acesso a informações.

Isso porque à medida que a IA se torna mais avançada, ela pode ser capaz de acessar informações que anteriormente eram consideradas privadas, como mensagens privadas, e-mails e conversas telefônicas. As informações das diversas fontes podem então ser combinadas pela própria IA e serem usadas para criar um perfil detalhado de uma pessoa.

Isso pode levar a uma invasão significativa da privacidade, pois as informações que foram fornecidas em um contexto específico agora estão sendo usadas para fins diferentes e que podem causar danos ao titular dos dados.

Segurança cibernética

Uma outra questão de extrema relevância envolvendo a IA é a segurança cibernética, esta tecnologia pode ser usada criar sistemas de segurança cibernética mais eficazes, mas também pode ser usada para hackear sistemas e invadir computadores.

Desta forma, se um hacker usar a IA para hackear um sistema de computador, ele pode obter acesso a informações privadas e confidenciais, como informações bancárias e de saúde. Caso isso ocorra, o direito à privacidade das pessoas será violado, pois suas informações privadas são acessadas e usadas sem o seu conhecimento ou consentimento.

Por todos esses motivos, um dos maiores desafios da IA no que diz respeito ao direito à privacidade é garantir a transparência e responsabilidade na coleta e uso de dados pelas empresas que a utilizam para fins comerciais.

Isso porque à medida que mais dados são coletados e analisados, é garantido pela LGPD que as pessoas saibam como seus dados estão sendo usados e quem tem acesso a eles. Além disso, é preciso garantir que as empresas e organizações que usam a IA sejam responsabilizadas por suas práticas de privacidade.

Daí a necessidade da implementação de políticas claras de privacidade e segurança cibernética, bem como a criação de mecanismos para responsabilizar as empresas e organizações que violam o direito à privacidade.

Projeto de Lei que institui o marco legal da IA no Brasil

O Projeto de Lei – PL 21/2020, visa estabelecer o marco legal para o desenvolvimento e uso da Inteligência Artificial (IA) por parte do poder público, empresas, entidades diversas e pessoas físicas. O texto em questão foi aprovado pela Câmara dos Deputados, e encaminhado para votação no Senado Federal, e tem como objetivo definir os princípios, direitos, deveres e instrumentos de governança para a IA.

Dentre os diversos pontos abordados pela proposta, destaca-se a garantia de que o uso da IA será fundamentado no respeito aos direitos humanos, aos valores democráticos, à igualdade, à não discriminação, à pluralidade, à livre iniciativa e à privacidade de dados. Ademais, segundo o projeto, o princípio da transparência sobre o uso e funcionamento da IA também será assegurado.

O deputado Eduardo Bismarck (PDT-CE), autor do projeto, afirmou que a legislação tem como objetivo incentivar o uso da IA no país, ao mesmo tempo em que protege os cidadãos de seus possíveis malefícios. E que, para tanto, é necessária a criação de uma legislação que estabeleça a obrigatoriedade dos princípios já consagrados no âmbito internacional, bem como disciplinar direitos e deveres.

O texto prevê a figura do agente de IA, que pode ser tanto o desenvolvedor e implantador de um sistema de IA (agente de desenvolvimento), quanto o que opera (agente de operação).

Desta forma, os agentes de IA terão uma série de deveres, como responder legalmente pelas decisões tomadas por um sistema de inteligência artificial e garantir que os dados utilizados respeitem a Lei Geral de Proteção de Dados (LGPD).

Outros pontos de atenção

O projeto ainda estabelece os direitos dos agentes de IA e de todas as pessoas afetadas pelos sistemas de inteligência artificial (chamadas no projeto de “partes interessadas”). Entre eles, destaca-se o acesso à forma de uso, pelos sistemas, de dados pessoais sensíveis, como dados genéticos.

Outra inovação do projeto é a criação do relatório de impacto de IA, um documento elaborado pelos agentes de IA com a descrição da tecnologia, incluindo medidas de gerenciamento e contenção de riscos. A publicação do relatório poderá ser solicitada pelo poder público, que também poderá recomendar a adoção de padrões e melhorias na tecnologia.

Além disso, o texto que será avaliado pelos deputados prevê o estímulo à adoção de IA nos serviços públicos, preferencialmente em formato aberto e livre, o apoio a pesquisas na área, a capacitação de trabalhadores para se adaptarem à nova realidade tecnológica e a criação de mecanismos de governança.

Inteligência artificial e o direito à privacidade

O Projeto de Lei 21/2020 visa estabelecer as bases legais para o desenvolvimento e uso responsável da IA no país, assegurando que ela respeite os direitos fundamentais e a privacidade dos cidadãos.

Outra informação relevante sobre o tema é que desde 2019, no Brasil, com a criação da Estratégia Brasileira de Inteligência Artificial – Ebia, pelo Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC), foi estabelecida uma estratégia nacional para o desenvolvimento da IA levando em consideração aspectos como ética, segurança, privacidade, transparência, inclusão social e econômica, além do fomento à pesquisa e à inovação.

Vale frisar que a Ebia, tem como principal objetivo orientar as políticas públicas relacionadas à IA no Brasil.

Impacto no direito à privacidade

Concluindo, é fácil perceber como o uso da IA tem o potencial de ter um impacto significativo no direito à privacidade.

As iniciativas incluídas no Projeto de Lei 21/2020, fundamentadas nos princípios de incentivo à inovação e promoção de boas práticas de governança para reduzir riscos, através de regulamentação e autorregulamentação, contribuirão para alcançar os objetivos e ideais estabelecidos na Ebia, visando o estabelecimento de um ambiente seguro e confiável para o desenvolvimento de tecnologias de inteligência artificial no Brasil, impulsionando a pesquisa e a produção desses sistemas.

O PL 21/2020 será analisado pelo Senado, podendo ser alterado, de forma que a sociedade precisa estar atenta ao teor destas possíveis alterações, sobretudo quanto às medidas de responsabilização em caso de descumprimento pelas empresas que utilizam IA.

Gostou de saber mais sobre a relação entre a IA e o Direito à Privacidade? Deixe seu comentário!

Fonte: Portal da Câmara dos Deputados