Atualmente, vivemos num mundo em que a Inteligência Artificial (IA) está em rápida evolução, assim como o mais recente ChatGPT. Por isso, é preciso ter em conta a visão abrangente das preocupações relevantes em matéria de privacidade, segurança e governação.
Sobre o ChatGPT e a segurança empresarial é importante que os CISO (Chief Information Security Officer) saibam que existem preocupações crescentes sobre as implicações de privacidade em relação à utilização deste. Embora os dados do ChatGPT sejam recolhidos a partir de fontes consideradas publicamente disponíveis, é a integração das informações do utilizador final que coloca em risco os dados comerciais e pessoais sensíveis.
Mesmo quando os dados utilizados para alimentar o modelo de aprendizagem de línguas do ChatGPT estão disponíveis publicamente, a sua utilização pode comprometer o que se designa por integridade contextual. Este é um princípio fundamental nas discussões jurídicas sobre privacidade. A integridade contextual exige que a informação dos indivíduos não seja revelada fora do contexto em que foi originalmente produzida.
Além disso, os dados em que ChatGPT foi treinado podem ser proprietários ou protegidos por direitos autorais...
Por último, é importante reconhecer que o crescimento sem precedentes do ChatGPT pode tornar a plataforma excecionalmente vulnerável, uma vez que os seus criadores se apressam a acompanhar a procura. Caso em questão: Um bug introduzido a partir de uma biblioteca de software de código aberto que o ChatGPT utiliza na sua plataforma resultou na apresentação aos utilizadores do ChatGPT de dados de chat que pertenciam a outras pessoas. Além disso, foram expostas as informações de pagamento de alguns subscritores do "ChatGPT Plus", incluindo nomes, e-mails, endereços de faturação, datas de validade do cartão e os últimos quatro dígitos do cartão utilizado para subscrever o serviço.
O que é que as empresas estão a fazer bem e mal em relação à IA?
A Inteligência Artificial é uma tecnologia que está a transformar todos os sectores da vida. É uma ferramenta de grande alcance que permite às pessoas e às empresas repensar a forma como integramos a informação, analisamos os dados e utilizamos os conhecimentos resultantes para melhorar a tomada de decisões.
A IA está a ser integrada e implementada numa variedade de setores, incluindo finanças, segurança nacional, cuidados de saúde, justiça penal, transportes e cidades inteligentes. Há inúmeros exemplos em que a IA já está a ter um impacto no mundo e a aumentar as capacidades humanas de forma significativa, o que levanta questões importantes para a sociedade, a economia e a governação.
No entanto, uma apreensão geral também tem acompanhado a IA ao longo da sua história e o sentimento de apreensão não é diferente com o ChatGPT. Os críticos foram rápidos a dar o alarme sobre esta tecnologia, mas agora até os mais próximos dela estão a proceder com cautela.
Por exemplo, se interagir com o ChatGPT através de uma plataforma ou serviço de terceiros, como um chatbot alojado num sítio Web ou um dispositivo de assistente de voz, essa plataforma pode recolher informações pessoais (endereço IP ou informações do dispositivo). Em suma, as considerações de segurança não estão estritamente limitadas à própria plataforma ChatGPT; existem também considerações de terceiros.
O que é que os CISO devem comunicar aos funcionários, executivos e conselhos de administração?
Educar os grupos acima mencionados - e os CISOs não são os únicos responsáveis por esta comunicação. Assim como a transformação digital, a adoção da cloud e outros avanços tecnológicos enriqueceram as empresas, a liderança executiva deve determinar os objetivos comerciais para a utilização do ChatGPT, fornecer governação e apoiar as recomendações de segurança necessárias para evitar consequências não intencionais da sua utilização.
O ChatGPT está bloqueado em vários países, incluindo a China, o Irão, a Coreia do Norte e a Rússia. De um ponto de vista geopolítico, isto não é muito surpreendente. O que é surpreendente é o facto de a Itália ter proibido o ChatGPT por questões de privacidade.
É atualmente uma discussão política, social e económica em todo o mundo - um pouco como a pandemia da COVID-19 - mas por razões muito diferentes. A recolha de dados utilizada para treinar o ChatGPT pode ser considerada problemática. Ninguém foi questionado sobre se a OpenAI poderia ou não utilizar os nossos dados.
Isto é uma clara violação da privacidade, especialmente quando os dados são sensíveis e podem ser usados para nos identificar, aos nossos familiares ou à nossa localização. Falei muitas vezes sobre a dicotomia nos cuidados de saúde, "manter a privacidade, partilhar com todos", uma vez que os médicos partilham dados importantes para tomar decisões importantes relacionadas com os resultados de saúde dos seus pacientes. Apesar dos potenciais benefícios do ChatGPT, continua a estar em causa a ligação humana.
Rui Duro, Country Manager da Check Point Software Technologies em Portugal