Há alguns meses, um engenheiro de inteligência artificial (IA) da Google foi despedido depois de garantir publicamente que a interface de construção de chatbots "LaMDA" tinha desenvolvido consciência. A confirmar-se (a Google negou estas afirmações), teria sido o primeiro exemplo de inteligência artificial 'forte' ou 'geral', capaz de imitar o pensamento humano em todas as suas complexidades, ao contrário da inteligência artificial 'fraca' que temos hoje.
Há um detalhe do caso que pode passar despercebido: o despedimento não se deveu à defesa da capacidade de "sentir" do sistema de inteligência artificial, mas sim ao facto de ter revelado informações sobre este sistema. O que pode ser visto como o pecado deste engenheiro não foi confundir a capacidade geradora de linguagem do sistema (capacidade esperada de um chatbot) com inteligência e autoconsciência, mas sim ameaçar o segredo comercial que está na base da vantagem competitiva da indústria.
No campo da IA, como em muitos outros, a responsabilidade cívica e a otimização requerem transparência, e a transparência requer abertura. Para aproveitar todo o potencial e progredir no sentido de uma IA ética, toda a sociedade deve estar envolvida. A conceção de sistemas de IA deve estar aberta a ecossistemas de inovação, compostos por empresas e start-ups tecnológicas, instituições académicas, cívicas e públicas, que podem unir forças com empresas Over the Top (OTT), que estão a impulsionar os grandes avanços neste campo.
A criação de ecossistemas abertos de desenvolvimento e governação de IA, capazes de aproveitar todo o talento e conhecimento disponíveis, é crucial por três razões. Em primeiro lugar, porque a IA é imparável e está a tornar-se a tecnologia chave que molda o presente e o futuro. Em segundo lugar, porque o propósito dos sistemas de IA é uma decisão política que devemos tomar como sociedade e ser resultado de uma reflexão conjunta sobre o modelo de coexistência que queremos construir e como queremos que a IA nos ajude a construí-lo. E, em terceiro lugar, porque a IA socialmente orientada (AI4SG) tem um potencial inquestionável para o desenvolvimento da economia e da sociedade.
O papel dos ecossistemas abertos de inovação não se deve limitar à partilha de conhecimento para a conceção de sistemas. Precisamos de envolver a sociedade civil e os atores industriais, académicos e públicos na monitorização e governação destes sistemas. Por exemplo, a sociedade civil é uma fonte muito importante de feedback e de recolha do ponto de vista dos utilizadores interessados; os agentes industriais e os promotores são aqueles que dão forma à IA; as empresas oferecem uma visão prática da IA tal como é aplicada às suas atividades de produção; os organismos públicos são responsáveis pela regulação da IA; e o meio académico é encarregue de orientar a investigação e definir diretivas.
Este envolvimento também é útil para determinar se é necessário impor restrições ao desenvolvimento ou utilização destes sistemas, nos casos em que não são orientados ou não contribuem para o bem comum. Isto já foi feito por algumas empresas tecnológicas que bloquearam a comercialização de sistemas de análise facial ou de reconhecimento de imagem em fotografias.
Neste sentido, a futura legislação europeia sobre o assunto, a AI Act, cuja proposta inicial começou a ser discutida durante a presidência Portuguesa do Conselho da União Europeia em 2021 e que se encontra agora numa fase avançada de discussão em Bruxelas, é um primeiro passo promissor. As primeiras versões da lei - que em qualquer caso se limitarão a regular os sistemas de IA considerados perigosos para as nossas liberdades - ainda têm aspetos que podem ser melhorados, mas não há dúvida de que ter uma regulamentação sobre o assunto é um passo importante para um maior controlo democrático.
O desenvolvimento da IA é um desafio coletivo e uma oportunidade que nos afeta enquanto sociedade e que determinará aspetos chave do nosso futuro. Temos a obrigação cívica de participar na conceção e governação de sistemas, criando ecossistemas de inovação aberta que possam colaborar com os OTTs que impulsionam a indústria e asseguram a sua utilização para o bem comum. A conceção e o controlo da IA ética é da responsabilidade de todos.
Vicente Huertas CEO da Minsait em Portugal