Organizações públicas — responsáveis por justiça, saúde, educação, benefícios — estão cada vez mais utilizando softwares para tomar decisões sobre prioridades e formas de atendimento aos cidadãos, avaliando de maneira automatizada o histórico e informações pessoais.

Imagine você, chegando no hospital com seu filho. Ele sobreu uma pancada no braço jogando bola e está com muita dor. Vocês precisam esperar na fila por uma hora e lá ficam. Mas, de repente, chega uma ambulância com um senhor que acaba de ter um infarto. Qual seria a prioridade de atendimento?

Para financiamento imobiliário ou acesso à um plano de saúde, estamos cada vez mais sendo avaliados por pontuações que são criadas pelos gastos em nossos cartões de crédito ou pelos remédios que compramos na farmácia.

Na China, por exemplo, em 2020 terá um sistema para avaliar os cidadãos. Dependendo do seu comportamento, eles terão acesso ou não a privilégios oferecidos pelo estado.

O futuro digital dos governos está relacionado aos seus dados e algoritmos, que são códigos que irão tomar decisões públicas e que podem ter um impacto em valores individuais e sociais, como a democracia, identidade, autonomia e equidade.

Algoritmos não são apenas construções técnicas, mas também sociais. Por isso, é importante debatermos de maneira profunda para compreender seus reais propósitos.

Os algoritmos de tomada de decisão, implantados para influenciar políticas públicas, apresentam alguns desafios, como a violação à privacidade, assimetria de informação e discriminação.

A violação à privacidade, provavelmente, seja um dos mais complexos desafios a ser enfrentado nos próximos anos. As plataformas de tecnologia estão cada vez mais nos conhecendo e explorando nossos pontos vulneráveis. Segundo o professor Andrea Sangiovanni, autor do livro “Humanidade sem dignidade”, as formas mais sistêmicas de crueldade social são projetadas para desmantelar nossa capacidade de autoapresentação, ou seja, algoritmos estão influenciando nossa realidade sobre nós e o mundo, evitando que possamos dizer por conta própria o que queremos.

Assimetria da informação é um desafio principalmente educacional e a transparência sobre como as algoritmos estão tomando decisões. É muito importante saber como eles foram programados e, principalmente, o quanto eles são saudáveis para o coletivo e para que exista um controle social efetivo.

Por fim, a discriminação, como por exemplo foi evidenciado pelo software desenvolvido para identificar possíveis reincidentes criminais e utilizado em sentenças nos tribunais dos Estados Unidos. Ficou comprovado por levantamento divulgado pela agência ProPublica, após analisar dados de 7 mil detentos, que o programa costuma conferir a pessoas brancas uma probabilidade mais baixa de reincidência na comparação com pessoas negras.

Esses desafios impactam não apenas governos e sociedade, mas também empresas. No próximo 15 de maio, entrará em vigor na União Europeia as regras sobre privacidade, chamado de Regulamento Geral de Proteção de Dados Pessoais (GDPR), na tradução para o português. A nova diretriz exige a prática de pseudonimização para todas as empresas que armazenam dados pessoais. Significa na prática substituir informações de identificação, como nome, datas de nascimento e endereço por outros dados que não sejam identificáveis ou vulneráveis a processos de re-identificação.

Arvind Narayanan, que mantém o blog “33 Bits of Entropy” em que publica artigos próprios e analisa o trabalho de outros pesquisadores, avalia a hipótese “de que há somente 6,6 bilhões de pessoas no mundo, então só são necessários 33 bits de informação sobre uma pessoa para determinar quem ela é”. Narayanan deixa claro que para identificar uma pessoa não é necessário ter os dados que acreditamos que sejam necessários para saber quem ela é, como nome ou documento de identidade. Há muitas outras técnicas para saber exatamente quem é uma determinada pessoa com um punhado de dados, como, por exemplo, o seu comportamento.

A principal discussão em torno dos algoritmos cívicos nos próximos anos será o desafio de mantermos uma liberdade de expressão, fortalecer a eficiência de governos e inserir empresas como atores importantes nesse ecossistema.

O uso de dados governamentais para estudos e debates públicos são fundamentais para promover uma sociedade equitativa e caminharmos para uma responsabilidade cívica maior, com o objetivo de fortalecer um governo democrático contra corrupção e desigualdades sociais. Ao mesmo tempo, devemos garantir nossa privacidade e o direito à explicação do que ocorre dentro de aplicações, para que possamos compreender a realidade em que vivemos.

Artigo publicado 10/04/2018 na coluna Multidões, na Época Negócios.

‍