Bastam milissegundos para clonar a nossa voz "No limite da inteligência Artificial"

Esta semana, no podcast “No Limite da Inteligência Artificial”, do Dinheiro Vivo, discutimos a crescente utilização de deepfakes de áudio, uma tecnologia que permite a clonagem de vozes com um nível de precisão impressionante. A evolução desta tecnologia, que agora requer apenas milissegundos de amostras de voz para criar uma clonagem convincente, permite identificar características como género, origem geográfica e até estados emocionais, explica Helena Moniz, professora da Faculdade de Letras da Universidade de Lisboa, e responsável pelo comité de Ética do Centro para a IA responsável. Reconhecendo os riscos, a coordenadora também do projeto Bridge AI, que se propõe a colocar Portugal na linha da frente da regulamentação para a Inteligência Artificial, sublinhou a importância de equipas multidisciplinares, incluindo cientistas, filósofos e especialistas em ética, para orientar o desenvolvimento responsável e criar algoritmos que detetem vozes falsas. Acontece porém que estas soluções são limitadas, pois os criminosos continuam a explorar brechas tecnológicas.

Como é habitual, a conversa é moderada pelo jornalista Bruno Contreiras Mateus. Paulo Dimas, vice-presidente de Inovação de Produto da Unbabel e CEO do Centro para a IA Responsável em Portugal, destacou a dualidade desta tecnologia: por um lado, exige precaução, mas, por outro, oferece avanços significativos, especialmente na área da saúde. Um exemplo comovente foi o de pacientes com esclerose lateral amiotrófica que, através da clonagem das suas vozes, puderam recuperar a comunicação e a identidade, fortalecendo laços emocionais com familiares e amigos. No entanto, Paulo Dimas ressalva que esta tecnologia ainda é limitada devido ao receio de usos indevidos.

A conversa avança depois para o tema da regulação, com destaque para o AI Act europeu, que procura equilibrar a inovação com a proteção contra abusos. Por exemplo, a legislação proíbe o uso de reconhecimento emocional em contextos laborais, mas permite-o em situações que beneficiem diretamente o utilizador, como no apoio a crianças autistas. O desafio, segundo Helena Moniz, está em traduzir a linguagem complexa do regulamento em orientações claras e acessíveis para empresas, administrações públicas e cidadãos.

Neste episódio, fala-se ainda da ligação entre ética e inovação centrada no humano. Helena Moniz defende que o desenvolvimento de produtos deve envolver utilizadores desde o início, garantindo representatividade em termos de género, etnia e cultura. Atualmente, muitas tecnologias continuam a refletir enviesamentos, atendendo maioritariamente a um público caucasiano e ocidentalizado, alerta a especialista.

Por fim, aborda-se a urgência de educar o público sobre as implicações da inteligência artificial. Desde os benefícios na saúde e na agricultura até aos riscos de fraudes e exclusão cultural, é crucial encontrar um equilíbrio entre inovação tecnológica e responsabilidade ética. A criação de um código de boas práticas para a IA, baseado nos riscos identificados e em orientações claras, é apontada como um passo essencial para garantir que a tecnologia serve, acima de tudo, a humanidade.

Pode ouvir esta conversa através das plataformas de streaming Spotify e Apple Podcasts.