Privacidade e Inteligência Artificial

Os riscos da IA ​​para a privacidade

Com o rápido aumento da sofisticação e do uso da inteligência artificial (IA) nos últimos anos, as preocupações com o uso de informações pessoais no desenvolvimento dessas ferramentas, bem como com a capacidade delas de violar a privacidade, tornaram-se mais evidentes. Em particular, o lançamento do ChatGPT público, juntamente com modelos semelhantes, gerou alarmes em diversas frentes.

• Primeiro, porque esses sistemas dependem de vastas quantidades de informação Para treinar seus algoritmos e melhorar continuamente o desempenho, especialmente com base em informações coletadas da internet, os críticos destacaram que mesmo informações publicamente disponíveis, como postagens em mídias sociais, nunca foram postadas com a intenção de serem manipuladas. consentimento, dos sujeitos dos dados para sua utilização por modelos de linguagem abrangentes.

• Em segundo lugar, o coleta e armazenamento O processamento de quantidades tão grandes de informações, incluindo dados pessoais, levanta preocupações sobre a segurança do armazenamento e as implicações caso esses dados sejam acessados ​​por terceiros não autorizados por meio de ataques cibernéticos ou outras violações de segurança. A tecnologia de reconhecimento facial, que também costuma depender de algoritmos sofisticados para processar grandes quantidades de dados, está sendo cada vez mais utilizada em todo o continente por governos, ostensivamente para fins de segurança e aplicação da lei, mas também tem o potencial de ser usada para outros fins. rastreamento e vigilância intrusivos em tempo real Isso põe em risco diversos direitos humanos, incluindo os direitos à privacidade, à liberdade de movimento e à liberdade de associação.

• Terceiro, ferramentas de IA como essas são capazes de Gerar imagens e conteúdo rapidamente sobre uma pessoa com base em seus dados de treinamento que podem ter pouca correlação com a verdade, levantando preocupações sobre desinformação e informações falsas e a representação de informações pessoais no ecossistema online. A capacidade da IA ​​de analisar e interpretar rapidamente grandes quantidades de dados pode levar à inferência de informações pessoais sobre uma pessoa que ela nunca forneceu, indo além do escopo dos requisitos de consentimento estabelecidos nas leis de proteção de dados.

Desenvolvimento de padrões internacionais

Em decorrência desses riscos, a IA tem atraído cada vez mais a atenção de órgãos internacionais e regionais de direitos humanos que buscam fornecer orientações e padrões para proteger os direitos afetados e garantir o desenvolvimento responsável dessas novas tecnologias. Por exemplo:

• Em 2021, o Relator Especial da ONU sobre o Direito à Privacidade publicou um relatório sobre IA e privacidade, incluindo a privacidade infantil, que oferece orientações sobre padrões de proteção de dados para IA em nível nacional, além de instar Estados e empresas a desenvolverem soluções de IA de forma ética e responsável, dentro de uma estrutura de direitos humanos.1)

• Ainda em 2021, o Alto Comissariado das Nações Unidas para os Direitos Humanos publicou um relatório sobre o direito à privacidade na era digital, que analisou como o uso generalizado da IA ​​afeta o direito à privacidade e outros direitos fundamentais, observando que emitiu um conjunto de recomendações para que Estados e empresas criem e implementem salvaguardas de direitos.2O relatório observa que os sistemas de IA "[incentivam] a coleta, o armazenamento e o processamento generalizados de dados", contrariando o princípio da minimização de dados, e destaca preocupações nos setores de aplicação da lei, serviços públicos, emprego e sistemas de gerenciamento de informações online.

• Com base nisso, em 2023, a nova Relatora Especial apresentou seu relatório à Assembleia Geral das Nações Unidas (AGNU), que destacou a necessidade de transparência e explicabilidade no uso da IA ​​para que os titulares dos dados possam exercer seus direitos sobre o uso de suas informações pessoais nesses sistemas.3)

Notavelmente, a Comissão Africana dos Direitos Humanos e dos Povos (CADHP) também tomou medidas para analisar os riscos da IA, aprovando a Resolução CADHP/Res. 473 (EXT.OS/XXXI) 2021: sobre a necessidade de realizar um estudo sobre direitos humanos e dos povos e inteligência artificial (IA), robótica e outras tecnologias novas e emergentes na África em 2021.4Nela, a CADHP—

• reconhece os inúmeros riscos para os direitos humanos, que não se limitam à privacidade;
• Exorta os Estados a implementarem mecanismos que garantam o desenvolvimento e a utilização dessas tecnologias em África, respeitando os direitos humanos, nomeadamente através da criação de um quadro de governação jurídica e ética abrangente para a IA; e
• Compromete-se a realizar um estudo para desenvolver diretrizes sobre IA.

O estudo começou oficialmente em junho de 2023.5)

Voltar ao Centro de Recursos