"O Amália não foi desenhado para ser um ‘chatbot’ direto. É uma peça no puzzle"

A exposição pública de Paulo Dimas em defesa do Amália LLM não é um mero acaso de assessoria. Como CEO do Center for Responsible AI — o consórcio que gere um investimento público de cerca de 49 milhões de euros via PRR —, Dimas assumiu o papel de principal escudo e porta-voz do projeto perante o ceticismo público. Com um percurso umbilicalmente ligado à engenharia linguística na Unbabel, ele traz a legitimidade técnica e uma capacidade invulgar de traduzir jargão complexo em argumentos de soberania cultural. Dar a cara pelo Amália é, para ele, defender a viabilidade e o principal ativo visível de um investimento histórico.

No entanto, no momento do lançamento, Dimas deixou um aviso claro: o Amália não era um ChatGPT e não tinha sido desenhado para ser usado como um chatbot direto. Mas a curiosidade tecnológica da comunidade foi mais forte e não tardou até que alguém testasse os limites do modelo bruto "em aberto". Um dos casos mais sonoros, nas redes sociais, aconteceu quando o deputado Carlos Guimarães Pinto (da IL) usou o Amália colocado num chatbot público e lhe pediu um texto sobre o percurso de Cristiano Ronaldo no Mundial. A esse pedido o modelo respondeu com algumas alucinações e, pior, usou a expressão "Copa do Mundo" – o que é grave para uma tecnologia criada para apenas utilizar, defender e preservar o português de Portugal.

Nesta entrevista, Paulo Dimas explica os bastidores técnicos deste "deslize", detalha a mecânica da quantização de dados e defende que o pré-treino nacional é a única forma de evitar que sejamos "colonizados" linguisticamente na era dos algoritmos.

O Amália LLM foi apresentado com a promessa de defender a soberania da língua portuguesa. No entanto, num teste divulgado pelo deputado Carlos Guimarães Pinto no X, o modelo respondeu usando a expressão "Copa do Mundo". Como explica esta falha?

Os modelos de linguagem não são determinísticos, ou seja, nem sempre dão a mesma resposta. Mas há aqui um fator técnico muito importante a explicar. Quando libertámos o Amália para a comunidade, as pessoas integram-no em plataformas de chatbot, que são parametrizadas fora do contexto original do modelo. O Amália não foi desenhado para ser um chatbot direto; foi feito para ser uma peça de um puzzle maior.

Mas o deslize linguístico aconteceu. Isso deveu-se a uma má parametrização de quem o testou ou a uma falha na base do modelo?

Eu próprio quis fazer esse pedido no nosso ambiente para tirar as teimas em relação a esse caso. Usei uma GPU A100 com 40GB de RAM, num Colab Pro da Google — ou seja, num ambiente controlado onde o modelo não está de forma nenhuma diminuído na sua capacidade base —, e já não cometeu esse erro.

Para correr um modelo de 9 mil milhões de parâmetros como o Amália sem perda de precisão, é necessária uma memória de CPU de, no mínimo, 18GB. Se o servidor de terceiros, onde o modelo foi alojado para esse chatbot público, não tiver essa capacidade, o integrador é obrigado a reduzir a precisão dos parâmetros. É ao que tecnicamente chamamos "quantização". Se reduzirmos a precisão do modelo para, por exemplo, 4 bits para que ele caiba num computador comum, ele perde capacidade lógica e linguística. Se o modelo for diminuído, o risco de alucinação ou de desvio para a variante brasileira aumenta drasticamente.

Existe também a possibilidade de a própria base de dados do Amália ter sido contaminada? Afinal, a presença do português do Brasil na internet é esmagadoramente superior à do português europeu…

Não há nenhuma forma de garantir a 100% o conteúdo de todas as respostas neste tipo de tecnologia. Tendencialmente, os modelos refletem o volume dos dados com que são treinados, e a internet é dominada pela variante brasileira. No entanto, a evidência que temos resulta de testes comparativos sistemáticos com outros modelos. Nesses testes, que são públicos, os resultados do Amália na variante de português europeu foram os melhores dentro da sua categoria de dimensão. Isso prova a eficácia do nosso filtro de dados, embora a aleatoriedade e a alucinação façam parte da própria natureza da IA.

Muitos leitores perguntam-se: hoje abrimos o Gemini da Google ou o GPT-5 da OpenAI e eles geram textos em português europeu com enorme sofisticação e precisão. Como justifica aos contribuintes que se gastem milhões de euros públicos para desenvolver um modelo nacional tecnicamente inferior aos concorrentes estrangeiros?

Essa é uma pergunta muito comum e legítima, mas a resposta assenta na nossa soberania e na geopolítica a longo prazo. Recentemente, vimos como decisões políticas nos EUA podem, de um momento para o outro, privar países ou governos inteiros do acesso a determinadas tecnologias de IA. Se dependermos exclusivamente de API americanas, não temos qualquer controlo sobre o nosso destino digital.

Além disso, nenhuma empresa tecnológica norte-americana tem interesse económico real em preservar a variante pura do português europeu. Para eles, o mercado brasileiro é infinitamente mais atraente. Se não fizermos este trabalho em Portugal, ninguém no mundo o fará por nós. Seremos linguisticamente colonizados.

Mas para garantir essa soberania não bastaria descarregar um modelo de código aberto global — como o LLaMA da Meta ou o da francesa Mistral —, alojá-lo em servidores nacionais e aplicar-lhe filtros de português europeu? Era mesmo necessário gastar fundos públicos a "inventar a roda" de raiz?

Essa é uma excelente questão técnica, mas a resposta é não. Se usarmos um modelo externo, estaremos sempre condicionados por uma base de "pré-treino" que nós não controlamos, a qual já vem massivamente formatada com o português do Brasil.

O ciclo de vida de um LLM tem três fases: o pré-treino, o pós-treino e o alinhamento (instruction tuning). A fase onde se gasta mais energia, dados e computação é a primeira, a do pré-treino. Se não controlarmos o pré-treino, não controlamos verdadeiramente o modelo; limitamo-nos a aplicar filtros cosméticos na superfície. Ao começarmos o pré-treino a partir do zero com uma base de dados que nós selecionamos e gerimos, passamos a ser donos do nosso destino tecnológico.

Para desenhar esse pré-treino a partir do zero é necessária uma capacidade de investigação e engenharia gigante. Quem são os rostos e os centros que constituem a "frente académica" que está na prática a desenvolver o Amália?

Temos de desmistificar a ideia de que a ciência em Portugal não tem escala ou trabalha isolada. O Amália é um esforço nacional distribuído de grande significado, que mobiliza cerca de 80 alunos e investigadores de seis centros nacionais de excelência académica.

O grupo principal, que lidera o desenvolvimento do modelo fundacional bruto, está na Universidade Nova (Nova FCT). A equipa de processamento e modelação de fala reside no Instituto Superior Técnico (INESC-ID), liderada pelo Alberto Abad, pelo Hugo Meinedo e pela Isabel Trancoso. O desenvolvimento científico estende-se também à Universidade do Minho, sob coordenação do investigador Paulo Novais, e à Universidade do Porto (FEUP), com coordenação do Alírio Jorge. Temos ainda a participação e coordenação informal da Universidade de Coimbra através do "grupo do Oliveira" (Luís Oliveira e Henrique Oliveira). Esta articulação prova que fomos capazes de criar uma rede nacional de competências que raramente se vê no nosso país.

Outra limitação apontada ao Amália é que o seu conhecimento parece "congelado" em 2024. Ele não pesquisa na internet em tempo real. Não é contraproducente lançar um modelo que não sabe o que aconteceu ontem no seu próprio país?

Isso acontece com absolutamente todos os LLM fundacionais. Todos têm uma cutoff date (data limite de conhecimento) estática. Se usarmos o Amália num ambiente isolado, sem ligação à web, ele vai baralhar-se e alucinar com factos recentes.

Para resolver isso, qualquer empresa ou entidade tem de acoplar o modelo a um sistema RAG (Retrieval-Augmented Generation). Quando faz uma pergunta ao Amália com RAG, o sistema pesquisa primeiro na internet, encontra a resposta factual (por exemplo, quem é o atual primeiro-ministro) e envia essa informação expandida na prompt para o modelo. Assim, o Amália não precisa de "saber" o facto de cor; ele apenas lê o contexto fornecido e redige a resposta final num português europeu perfeito.

Se o Amália de base é instável, requer tanta afinação e tem esta barreira de conhecimento, como é que uma pequena ou média empresa (PME) portuguesa o pode usar de forma prática hoje?

A forma mais inteligente de usar o Amália nas empresas é através de uma arquitetura híbrida. As PME podem e devem usar modelos globais maiores e mais avançados para as tarefas pesadas de raciocínio, planeamento ou estruturação de dados. Mas, no passo final, pegam nesse resultado e passam-no pelo Amália com uma instrução simples: "Redige-me este texto final em português europeu de lei". O Amália funciona aqui como o revisor e editor final do puzzle, garantindo que a comunicação da empresa com os seus clientes é puramente portuguesa, sem desvios linguísticos. É uma peça especializada de um sistema maior.

Onde é que gostava de ver o Amália daqui a de cinco anos?

Gostava de o ver cada vez mais competente e integrado em múltiplos casos de uso no nosso quotidiano, mas mantendo sempre o seu foco: ser o especialista absoluto na língua e na cultura que falamos em Portugal. O Amália será o agente em quem nós, portugueses, poderemos confiar para garantir a nossa identidade na era digital, assegurando que não nos aparece um "ónibus" escrito no ecrã quando apenas queremos saber como levar os nossos filhos à escola.