TikTok lança ferramentas para identificar uso de IA e melhorar bem-estar digital

O TikTok apresentou novas ferramentas para detetar, etiquetar e compreender o conteúdo gerado por Inteligência Artificial (IA), adotando novas práticas para eliminar contas que disseminam ódio e violência e promover o bem-estar.

O TikTok anunciou no seu Fórum Europeu de Segurança, realizado em Dublin, na Irlanda, novidades sobre como a plataforma aproveita a tecnologia para garantir a segurança, com foco especial em IA, além da criação de um novo espaço na aplicação chamado “Tempo e Bem-estar”, para criar hábitos conscientes do uso digital.

Durante a sessão, o diretor global de divulgação e colaboração do TikTok, Valiant Richey, destacou que a base da plataforma, com cerca de mil milhões de utilizadores, dos quais 200 milhões na Europa, é a segurança que “não é negociável”.

Entre as novidades, a rede social informou que vai começar a adicionar “nas próximas semanas, uma marca de água invisível para etiquetar o conteúdo gerado por IA na própria plataforma”.

Essa marca representa uma camada adicional de proteção, pois só pode ser lida pelo TikTok, o que dificulta a sua eliminação, ajudando a etiquetar o conteúdo de forma mais fiável e contextual.

A diretora de segurança, privacidade e proteção de dados, políticas públicas na Europa, Jade Nester, explicou que a plataforma começou a marcar o conteúdo gerado por IA em 2003, mas que os esforços para combater a desinformação gerada por esta tecnologia continuam.

Já foram rotulados 1,3 mil milhões de vídeos no TikTok, que exige que os criadores de conteúdo marquem o conteúdo realista gerado por IA na plataforma.

Em breve, a rede social também irá começar a testar um novo controlo para conteúdo criado por IA, com o qual os utilizadores poderão determinar a quantidade destes vídeos no ‘feed’ “Para Ti”.

Além disso, será lançado um fundo de dois milhões de dólares para que especialistas criem conteúdo direcionado no ‘feed’ “Para Ti”, com foco na alfabetização e segurança dos utilizadores em matéria de IA.

O fórum também abordou o reforço de práticas melhoradas na plataforma para detetar redes de contas que disseminam ódio e violência.

Só este ano, o TikTok eliminou 17 redes deste tipo, compostas por mais de 920 contas dedicadas a espalhar ódio com ideologias extremistas.

Nos primeiros seis meses do ano, foram eliminados 6,5 milhões de vídeos por infringirem essas regras, o que representa pouco menos de 2% de todo o conteúdo infrator.

Para detetar o discurso de ódio, a plataforma recorre à moderação de conteúdos realizada por IA, mas também por equipas humanas, pelo que tem procurado um equilíbrio entre as duas formas de moderação.

Os dados do TikTok indicam uma redução de 76% no conteúdo gráfico moderado pela equipa humana no ano passado, destacando ainda a moderação de comentários, em que o uso da IA permite identificar o dobro dos comentários não permitidos.

Outras das novidades anunciadas pela rede social prende-se com novas funcionalidades de bem-estar que pretendem promover hábitos digitais saudáveis.

O novo espaço “Tempo e Bem-estar” oferece sons relaxantes, exercícios de respiração consciente ou um “diário de afirmações”, para estabelecer uma intenção ou propósito para o dia.

Foram ainda incorporadas quatro novas “Missões de Bem-estar”, dirigidas especialmente a adolescentes, como Horas de Sono, para evitar o uso da plataforma à noite durante oito semanas ou a missão semanal Tempo de Ecrãs, para ajudar a tomar consciência do tempo que se passa na rede social.