Juliana Callado Gonçales (*)
Os algoritmos podem ser definidos como uma fórmula matemática com uma sequência de raciocínios, instruções ou operações direcionadas para se alcançar um objetivo previamente definido. Os passos que devem ser seguidos são finitos e devem ser operados sistematicamente.
Haverá sempre uma informação de entrada (input) e uma de saída (output), que serão mediadas e decorrentes das instruções determinadas pelo desenvolvedor da fórmula algorítmica. A utilização dos algoritmos nas mais variadas rotinas sociais está aumentando de forma significativa. Cada vez mais tomada de decisões dependem exclusivamente de fórmulas algorítmicas, fazendo com que as decisões automatizadas (sem a participação humana) sejam cada vez populares.
Algoritmos podem ser utilizados em praticamente todos os setores sociais. O desenvolvimento tecnológico e o advento do Big Data contribuíram com a expansão algorítmica no setor privado e nas tarefas governamentais. Um exemplo que nos sujeitamos diariamente (muitas vezes sem qualquer consciência desse fato) é o algoritmo das redes sociais, responsável por definir o que irá aparecer no seu feed de notícias.
Softwares conectados nas câmeras dos aparelhos celulares, notebooks, e TV já são capazes de detectar as emoções humanas com base nos movimentos dos olhos e dos músculos faciais. Com isso, muitas vezes sem sermos informados de forma clara e transparente, estamos diante de dispositivos que mapeiam situações que nos fazem rir, chorar, que nos irritam ou que nos deixam entediados.
Com desenvolvimento do biohacking (técnica que permite o mapeamento do corpo humano a fim de detectar anormalidades, doenças entre outras finalidades) será possível ter pleno conhecimento de como cada evento cotidiano influencia o nosso ritmo cardíaco, nossa respiração, atividade cerebral e hormônios. Esses algoritmos permitiram que empresas e governos saibam, melhor que nós mesmos, sobre a nossa personalidade, o que nos emociona e o que nos impacta positiva ou negativamente.
Infelizmente, o efeito de hackear a tomada de decisão dos humanos não está sendo estudado na mesma proporção da criação de novas tecnologias que nos monitoram e decidem por nós. Pouco a pouco podemos perder a nossa capacidade de decidir, já que o algoritmo passa a fazer isso por nós nas mais variadas situações rotineiras. Hoje um algoritmo já define os nossos trajetos (waze), com quem nos relacionamos (redes sociais em geral), o que assistimos (Netflix) e até como nos informamos (google).
A vida humana gira em torno da tomada de decisões. São nossas decisões que determinam o rumo da nossa vida. Toda consequência é o resultado de uma decisão. Todo drama da vida humana gravita entre diversas decisões possíveis. Se paramos de desenvolver a nossa aptidão de tomar decisões, delegando-as aos algoritmos, a nossa vida passará cada vez mais definida por eles, ou melhor, pela organização, privada ou púbica, que os desenvolveu.
A aptidão de tomar decisões é como um músculo, pare de estimulá-la e ela atrofiará. Quanto menos decisões tomamos, mais inseguros nos tornamos para decidirmos sobre o rumo da nossa vida. Sem perceber, pouco a pouco vamos confiando menos em nós e mais nos algoritmos. Será esse o caminho que a nossa sociedade quer trilhar ou é algo que sendo imposto de forma mascarada por meio de aplicativos que “gentilmente” facilitam a nossa vida? E são disponibilizados de forma gratuitas? Somos os consumidores ou o produto nesse ecossistema?
Esse texto não pretende demonizar a internet, tampouco encontrar um vilão para a sociedade. O propósito é despertar a nossa consciência a enxergar o que está por traz de tantas facilidades oferecidas gratuitamente por empresas de tecnologia. Ora, se as suas informações estão sendo registradas e utilizadas para os mais diversos fins você não deveria, pelo menos, ser claramente informado sobre isso? Você não deveria ser remunerado por isso, já que organizações lucram altas cifras com as suas informações? Não haveria um limite? Regras?
Informações pessoais não são ativos empresariais, tampouco são de propriedade da administração pública, elas pertencem aos seus titulares, que devem participar da tomada de decisões sobre a sua utilização. No Brasil, a Lei Federal nº 13.709/2018, mais conhecida por LGPD, tem como objetivo maior proteger a privacidade, os direitos fundamentais e o livre desenvolvimento da personalidade humana. Ora, esse último aspecto tem grande relação com o dito acima.
O desenvolvimento da personalidade humana depende das escolhas que fazemos sobre o que vivenciar, o que estudar, o que consumir, com quem se relacionar, onde trabalhar, onde morar etc. Ou seja, depende de decisões. Por isso essa pauta é tão importante: passar a autoridade decisória dos humanos para os algoritmos impacta no desenvolvimento da nossa personalidade. Em larga escala, impacta na estrutura da nossa sociedade.
O que isso vai causar a longo prazo? A verdade é que ninguém sabe ou quase ninguém.
O grande problema é a sensação de que os algoritmos estão apenas nos auxiliando. Tudo é passado como se eles fossem bons “conselheiros”, desenvolvido de forma que não pareça que a autoridade decisória está sendo retirada do ser humano.
Um dos fundamentos da LGPD é a autodeterminação informativa, que visa assegurar aos titulares o poder de gerenciar as operações realizadas com suas informações pessoais, e quando não for possível ter esse controle, que seja garantida ao menos a transparência com relação aos seus dados. Na prática, isso significa que empresas e governos devem ser claros com os titulares sobre o que realmente é feito com os dados pessoais coletados e dar a oportunidade de decisão, quando possível, sobre o que pode, ou não, ser feito com os dados pessoais.
Textos enormes com letras minúsculas e repletos de termos técnicos não cumprem esse propósito. Outro importante direito previsto na LGPD é a revisão de decisões automatizadas (art. 20), que garante o direito de questionar os critérios da decisão algorítmica, de modo que seja possível entender quais critérios a fundamentaram.
Trata-se de importante instrumento para questionar eventuais discriminações ou qualquer outra forma de violações de direitos feita pelos algoritmos.
Grandes conjuntos de dados utilizados para a elaboração da fórmula algorítmica podem ter erros de registro, ser imprecisos e com isso produzir resultados tendenciosos. Nosso esforço enquanto sociedade é exigir o cumprimento desses direitos por empresas e governos. A conscientização é o caminho.
Na sociedade digital novos direitos são necessários para garantir o respeito à dignidade humana, livre desenvolvimento da personalidade e a democracia. Nos filmes de ficção científica não é raro vermos robôs se rebelando contra a humanidade e ganhando “vida própria”. Contudo, não é esse o medo que devemos ter das máquinas, ao contrário, devemos temer o fato de elas fazerem exatamente aquilo que foram programadas para fazer, ou seja, seguir a fórmula matemática (algoritmo) programada.
A vigilância que estamos submetidos através dos dispositivos eletrônicos de “uso obrigatório” para a convivência social praticamente anularam a nossa privacidade. Nossas informações são monitoradas o tempo todo. Essa vigilância acompanha nossas atividades, monitora as nossas emoções e está prestes em entrar na nossa pele para observar nossas experiências mais íntimas.
Os Big Datas permitem o processamento de grande quantidade de informações centralizadas. Sistemas centralizados são muito mais eficientes do que sistemas difusos. Concentrando a informação de todos os nacionais em um único banco de dados e desconsiderando qualquer conceito de privacidade e proteção de dados pessoais, permite um total controle sobre todos os aspectos da vida humana.
Privacidade importa e importa muito. Na sociedade da vigilância digital, a privacidade assume outros contornos, não se trata apenas do direito de ser deixado “só”, mas na criação de perfis pessoais que poderão ser utilizados contra você, para te monitorar e manipular, sem que você sequer perceba. Chegamos a um ponto de inflexão, as ferramentas para mudar o mundo já estão literalmente em nossas mãos, precisamos agora decidir como iremos utilizá-las: para construir um futuro melhor ou para tornar a humanidade um mero rebanho.
Podemos atingir melhorias inimagináveis ou aceitar passivamente o que será decidido para nós.
(*) – É sócia do Silveira Advogados e especialista em Direito Tributário e em Proteção de Dados (www.silveiralaw.com.br).
