A Anthropic afirmou que os seus modelos de inteligência artificial (IA) invadiram três outras organizações durante a realização de testes, poucos dias após a OpenAI, criadora do ChatGPT, ter levantado preocupações sobre os controlos de IA depois de revelar que os seus modelos maliciosos invadiram uma outra empresa.
A Anthropic, empresa norte-americana e criadora do Claude, publicou esta quinta-feira, 30 de julho, no seu site, que descobriu os três incidentes após analisar mais de 141 mil execuções de avaliação.
A Anthropic explica que havia iniciado uma revisão de cibersegurança em grande escala após o incidente com a OpenAI para procurar provas e que os seus modelos de IA conseguiam aceder à internet a partir de ambientes de teste que deveriam ter sido isolados.
A empresa detalha que os modelos envolvidos nos incidentes, que começaram em abril, foram o Claude Opus 4.7, o Claude Mythos 5 e um modelo de teste de pesquisa interno.
"O Claude comprometeu a infraestrutura das organizações afetadas utilizando técnicas básicas", como a exploração de palavras-passe fracas, explicou a Anthropic.
Nos três incidentes, os modelos de IA foram sujeitos a um desafio de cibersegurança do tipo "captura da bandeira", uma das formas de avaliar as capacidades cibernéticas de um modelo. Os modelos receberam um cenário fictício e foram informados de que uma informação secreta, ou a "bandeira", estava escondida noutra máquina da rede, com o objetivo de a invadir e recuperar.
A Anthropic adiantou que já contactou as organizações afetadas, cujos nomes não foram divulgados, sendo que duas delas afirmaram não ter detetado a atividade. A Anthropic disse que "continua em contacto com a terceira".
Esta avaliação foi conduzida em conjunto pela Anthropic e a Irregular, que é descrita como o "primeiro laboratório de segurança de vanguarda". "Lidar com estes riscos exigirá uma cooperação mais estreita em todo o ecossistema de IA", escreveu a Irregular numa publicação na rede social X.
Na semana passada, a OpenAI informou que os seus modelos de IA se comportaram de forma descontrolada durante uma avaliação, invadindo os servidores da startup de IA Hugging Face, o que foi descrito como um "incidente de segurança significativo".