Em 2015, a gigante norte-americana Amazon começou a utilizar um algoritmo para agilizar a contratação de quadros superiores. O algoritmo foi treinado com uma missão simples: emular a composição do quadro superior já existente na empresa. Como a grande maioria de executivos de topo na Amazon eram homens, o algoritmo treinou-se a si próprio para excluir todas as mulheres das candidaturas, filtrando não só por nomes femininos, mas até por desportos que são mais associados às mulheres..Este é um dos exemplos que Diogo Queiroz de Andrade - jornalista e diretor de inovação do Global Media Group, que detém o Dinheiro Vivo - usa para ilustrar os efeitos perniciosos e muitas vezes imprevistos que os algoritmos podem ter, no seu novo livro sobre o tema.."Algoritmos - Uma Revolução em Curso", editado pela Fundação Francisco Manuel dos Santos, funciona como uma introdução a um tema que se tornou omnipresente, mas que nunca foi sistematicamente explicado pelas organizações que criam e usam os algoritmos - sequências de instruções e regras para executar tarefas - na computação moderna.."É um livro que tenta apresentar o impacto que os algoritmos tiveram na sociedade desde tempos imemoriais e têm hoje de forma muito marcada, muito presente no nosso dia-a-dia sem termos noção", disse o autor ao Dinheiro Vivo. "Acredito que o que é importante neste momento é que mais pessoas percebam do que se está a falar. "Embora tenha começado o projeto antes do lançamento do ChatGPT, o fascínio em torno do bot de conversação que a OpenAI disponibilizou no final de 2022 tornou o tema ainda mais relevante.."Ainda bem que surgiu, porque permitiu que mais pessoas percebessem o que está a acontecer", referiu Andrade. "A indústria da tecnologia não é inocente e tudo isto é feito de forma a que só contactemos com o aspeto aparentemente agradável do ChatGPT, sem percebermos tudo o que está por trás." E o que está por trás são algoritmos treinados de forma não transparente e com dados cuja proveniência levanta questões.."Temos de ter noção que os dados não são inocentes e quem os escolhe são humanos", avisa o autor. "Fazem-no ou com uma predeterminação ou sem consciência do que estão a fazer e, acima de tudo, temos de ter noção da consequência que vem desses algoritmos. Essas decisões não são necessariamente boas.".A tecnologia, em si própria, é neutra, mas não a utilização que se faz dela. "Temos a ideia feita de que o que vem da computação é bom e certo, e isso não é assim", afirmou. "Um algoritmo é uma equação, é uma receita. Se fazemos uma tarte de maçã com maçãs podres, a tarte vai ficar horrível." Escrito de forma acessível, numa "linguagem leiga" que permite a leitores não especializados em questões técnicas entenderem do que se trata, o livro incentiva os cidadãos a terem um olhar crítico sobre a tecnologia e a fazerem valer os seus direitos.."É importante que as pessoas tenham noção disto por causa do impacto social e político", sublinhou. "Contactamos diariamente com algoritmos e algoritmos já tomam decisões por nós enquanto indivíduos e enquanto sociedade de forma muito marcada.".Um exemplo? Em Portugal, o pedido de um crédito à habitação ao banco pode ser aceite ou rejeitado por um algoritmo sem que isso seja claro. "Não só contraria o espírito da lei, que diz que quando um algoritmo intervém isso tem de ser claro para o utilizador, mas as decisões são tomadas pelo algoritmo, não por pessoas", apontou o autor.."Temos direitos, enquanto cidadãos, face aos algoritmos", continuou. "E enquanto sociedade temos que tomar decisões sobre o que é que queremos que estes algoritmos façam.".Embora evite dar opiniões pessoais no livro, optando por uma exploração de factos e visões divergentes sobre esta área, Diogo Queiroz de Andrade tem uma posição firme quanto à necessidade de mantermos o ser humano no centro do processo. "Há aqui um grau de humanidade que creio que devemos manter em relação a certas decisões", frisou..As consequências da utilização de algoritmos sofisticados têm merecido discussão constante nos Estados Unidos, onde a implementação vem sendo mais agressiva, mas o autor lembra que isto também está na ordem do dia na Europa. Por exemplo, há algoritmos usados para o policiamento preditivo, reconhecimento facial em aeroportos e espaços ligados à segurança ou determinação de políticas de segurança social em França, Polónia e outros países..Muitas situações são cruciais para a vida das pessoas, como um pedido de crédito, um processo de acesso à justiça ou acesso a um apoio social. Há também situações de emergência médica em que são algoritmos que determinam as rotas das ambulâncias e os locais onde devem estar localizadas.."Quem vai preso, onde há mais policiamento - tudo isto são questões sociais com um impacto brutal", disse o autor, referindo que já morreram pessoas por causa da utilização de algoritmos..Mostrando-se favorável à regulação desta área, Queiroz de Andrade considera o AI Act da União Europeia um passo "no bom caminho." A ideia é regular para proteger os cidadãos, podendo ser criadas entidades nacionais que validem e verifiquem os algoritmos que têm impacto na vida das pessoas. Uma espécie de ASAE do setor.."Temos um acumular de experiências que demonstram que indústrias controladas por meia dúzia de empresas que atuam num mercado desregulado não corre bem para os cidadãos", salientou. "Vimos isso com as tabaqueiras, com as petrolíferas e hoje estamos a lidar com as consequências de um ambiente digital desregulado no que toca às redes sociais, entre outras coisas.".A transparência será essencial: temos de saber que são algoritmos, quem é que os faz e o que está lá dentro. "Estamos a falar de uma questão de literacia.".A primeira apresentação pública do livro será a 17 de novembro, na semana da Web Summit, com a participação dos deputados Hugo Carvalho (PSD) e Maria Manuel Leitão Marques (PS-Parlamento Europeu). "Há uma necessidade de trazer este debate para o espaço público", salientou o autor. "É essencial que se fale mais disto."