A Inteligência Artificial (IA) tem transformado a sociedade de maneira profunda, impulsionando inovações que facilitam o quotidiano de empresas e indivíduos, no entanto, já é bem conhecido que a IA também facilita o trabalho dos cibercriminosos. Principalmente em períodos como a Black Friday, em que milhões de pessoas recorrem à internet para compras online, os riscos de fraudes, burlas e ciberataques atingem níveis alarmantes..É nesse contexto, que a regulamentação da IA surge como uma necessidade inadiável para proteger consumidores e empresas. A sofisticação crescente das ferramentas de IA (como é exemplo a IA Generativa) tem facilitado a execução de fraudes, já que, os cibercriminosos conseguem criar sites falsos que imitam na perfeição os de grandes marcas, aumentando as hipóteses de ludibriar os consumidores mais distraídos. Além disso, modelos de processamento de linguagem natural são utilizados para criar mensagens de phishing sofisticadas, sem os erros gramaticais que antes ajudavam a identificar os “golpes”..Outra ameaça crescente é o recurso a deepfakes, que podem apresentar figuras públicas a promover ofertas inexistentes, e assim burlar os consumidores. Um exemplo recente foi o do caso do médico português João Ramos, o qual foi uma das primeiras vítimas de um deepfake a nível nacional. O vídeo divulgado nas redes sociais continha uma falsificação de uma reportagem, com deepfake também do próprio jornalista/apresentador da peça, neste caso, José Rodrigues dos Santos da RTP, seguido de um vídeo do próprio médico João Ramos a incentivar a compra/venda de um medicamento milagroso contra a diabetes. Apesar de o deepfake ser rudimentar (incluindo a voz do médico em português do Brasil), muitas pessoas acreditaram e pagaram efetivamente pelo medicamento inexistente..Em períodos de campanhas publicitárias altamente massificadas como a Black Friday, em que a pressa e a ansiedade para aproveitar descontos de última hora e oportunidades únicas são elevadas, tais técnicas mostram-se ainda mais eficazes. Perante este cenário real, a regulamentação da IA não pode ser vista como um entrave à inovação, mas antes, como uma ferramenta essencial para garantir segurança no ambiente digital. Medidas como a obrigatoriedade de transparência no uso de IA pelas empresas, a identificação de conteúdos criados por essas tecnologias e o controlo sobre o desenvolvimento e distribuição de modelos avançados, serão passos fundamentais para mitigar os riscos..Adicionalmente, governos e empresas precisam de cooperar mais e trabalhar juntos para monitorizar atividades mal-intencionadas e implementar soluções preventivas. No entanto, a regulamentação por si só não será suficiente se for isolada; é necessária à sua aplicação, a criação de penalidades rigorosas para o incumprimento, e é crucial que os consumidores sejam educados sobre as ameaças digitais..Muitos golpes e armadilhas aos consumidores só serão bem-sucedidas porque as vítimas não sabem como identificar sites falsos, mensagens de phishing ou conteúdos fraudulentos. Esta é uma batalha tecnológica – e humana – que só pode ser vencida com o uso responsável e ético da IA. A ausência de regulamentação no uso de inteligência artificial cria lacunas que são exploradas e que colocam em risco a confiança dos consumidores no comércio eletrónico e na própria tecnologia. Muitas vezes, as próprias restrições das plataformas de Inteligência Artificial Generativa conseguem ser contáveis para fins criminosos, como por exemplo, escrever malware..Em datas marcantes, até ao nível mediático, como a Black Friday e Cyber Monday, os prejuízos causados por fraudes digitais podem ser devastadores, tanto para os particulares como para as empresas. É urgente que governos, organizações e a sociedade civil em geral atuem para criar um ambiente digital mais seguro e fiável. A regulamentação em IA precisa-se, e o momento para agir é agora. Afinal, uma tecnologia tão poderosa como a inteligência artificial deve ser utilizada para melhorar e simplificar vidas, e não para explorar vulnerabilidades.