Itália trava ChatGPT: o que significa isto?

A notícia data do final de Março e tem tido eco em muitos governos europeus: o regulador de dados italiano (Garante per la Protezione dei dati personali) ordenou a limitação temporária do tratamento dos dados dos utilizadores italianos pelo OpenAI, e, consequentemente, da sua popular ferramenta ChatGPT.

Ou seja, e para bom entendedor, a utilização do agora célebre ChatGPT (um dos tentáculos da empresa OpenAI), está suspensa até ao resultado da investigação aberta para assegurar o cumprimento do Regulamento Geral Europeu de Protecção de Dados (GDPR).

Itália a favor dos dados pessoais da sua população

Mas o que quer isto dizer? Que o ChatGPT está proibido? Por enquanto, está suspenso. Depois logo se vê. É natural que os governos e demais entidades públicas e privadas tenham receio da dinâmica e alteração profunda que a Inteligência Artificial já está a provocar no dia a dia de muitos de nós. As mudanças sociais, económicas e políticas estão em marcha, sim, porque a AI vai mudar muita, mas mesmo muita coisa.

Aproveitando o comunicado de imprensa da Check Point Software Technologies Ltd., a decisão transalpina decorre da recente violação de dados da ferramenta de inteligência artificial detectada a 20 de Março, na qual as conversas dos utilizadores foram alegadamente expostas juntamente com informação privada, como a facturação dos assinantes e detalhes parciais dos cartões de crédito.

ChatGPT em cheque?

Se é grave? É muito grave! Mas, reparem, esta cruzada está baseada numa possibilidade que agora vai ser estudada até à raiz pela comissão criada.

De acordo com a declaração oficial do regulador italiano, o ChatGPT atualmente “não fornece qualquer informação aos utilizadores, nem às pessoas cujos dados foram recolhidos pela OpenAI”, observando “a ausência de uma base jurídica adequada em relação à recolha de dados pessoais e ao seu tratamento” e o não cumprimento dos artigos 5, 6, 8, 13 e 25 do GDPR.

Embora neste momento apenas Itália tenha lançado esta proibição e investigação, dada a alegada base de não conformidade com o regulamento europeu de processamento de dados, é possível que outros países ou o próprio organismo central da UE estudem o passo a dar.

Os perigos e possibilidades da Inteligência Artificial

Paal Aaserudseter, engenheiro de segurança da Check Point Software, partilhou a visão da empresa para a Inteligência Artificial, cibersegurança e como as empresas podem permanecer seguras nesta nova era de inovação digital.

“O potencial para a má utilização dos dados é de longe uma das minhas maiores preocupações relativamente ao ChatGPT”, explica Aaserudseter. “O problema aqui é que a maioria dos utilizadores não estão conscientes do risco envolvido no carregamento deste tipo de informação sensível. Esperemos que o efeito positivo da proibição do ChatGPT em Itália seja que a lei de IA da UE entre em vigor muito mais rapidamente.”

A IA tem potencial para mudar o mundo

A IA já demonstrou o seu potencial para revolucionar sectores como os cuidados de saúde, finanças, transportes e muitos outros. Pode automatizar tarefas mais maçadoras, melhorar a eficiência e fornecer informação que anteriormente era impossível de obter, ajudando a resolver problemas complexos e a tomar melhores decisões.

Mas é igualmente importante manter expectativas realistas e não ver estes instrumentos como uma solução para todos os problemas, pelo menos por enquanto. Atualmente, a maioria da IA que utilizamos está agrupada em Inteligência Artificial Estreita ou “fraca”, longe da Super Inteligência Artificial, cuja inteligência ultrapassaria as capacidades humanas.

Para mitigar os riscos associados à IA avançada, é importante que investigadores e decisores políticos trabalhem em conjunto para assegurar que estas ferramentas sejam desenvolvidas de uma forma segura e benéfica. Isto inclui o desenvolvimento de mecanismos de segurança robustos, o estabelecimento de directrizes éticas e a promoção da transparência e responsabilidade no desenvolvimento de IA. Nesta ordem, todos os organismos relacionados, tais como governos, empresas e os próprios criadores, devem considerar os seguintes pilares fundamentais:

• Estabelecer directrizes éticas: Devem existir directrizes éticas claras para o desenvolvimento e utilização de IA que estejam alinhadas com os valores e princípios da sociedade, tais como transparência, responsabilidade, privacidade e justiça.

• Incentivar a transparência: As empresas e os criadores devem ser transparentes acerca dos seus sistemas de IA, incluindo a forma como são concebidos, formados e testados.

• Assegurar a privacidade: As empresas devem dar prioridade à protecção da privacidade dos utilizadores, especialmente quando se trata de dados sensíveis, implementando protocolos sólidos de protecção de dados e fornecendo explicações claras sobre a forma como os dados dos utilizadores são recolhidos, armazenados e utilizados.

• Priorizar a segurança: Esta deve ser uma prioridade máxima no desenvolvimento da IA e devem ser criados mecanismos para evitar danos causados por sistemas de IA. Isto inclui o desenvolvimento de protocolos de teste robustos e a implementação de mecanismos à prova de falhas e à prova de vulnerabilidades.

• Fomentar a inovação: Os governos devem fornecer fundos e recursos para apoiar a investigação e desenvolvimento de IA, assegurando ao mesmo tempo que a inovação seja equilibrada com uma governação responsável.

• Incentivar a participação e acessibilidade do público: Deve haver oportunidades de participação e envolvimento do público no desenvolvimento e regulamentação da IA, para garantir que as suas necessidades e preocupações são consideradas. As empresas devem conceber os seus sistemas de IA para serem acessíveis a todos os utilizadores, independentemente das suas capacidades físicas ou conhecimentos técnicos, fornecendo instruções claras e interfaces de utilizador fáceis de compreender e de utilizar.

A IA pode ser uma ferramenta tanto para os atacantes como para os defensores. À medida que as tecnologias se tornam mais avançadas, podem ser utilizadas para criar ataques mais sofisticados e mais difíceis de detectar. Como a Check Point Research demonstrou no passado, o ChatGPT já está actualmente a ser utilizado para automatizar processos e mesmo criar campanhas de phishing direccionadas ou mesmo lançar ataques automatizados.

No entanto, em contraste com estes factos, a Inteligência Artificial e a aprendizagem de máquinas são hoje dois dos principais pilares que ajudam a melhorar constantemente as capacidades de cibersegurança, com alguns especialistas a salientar mesmo que a próxima geração de defesa se baseará, em grande parte, nestas funcionalidades robóticas.

O grau de complexidade e dispersão dos sistemas com os quais as empresas trabalham actualmente significa que os meios tradicionais e manuais de monitorização, supervisão e controlo de riscos começam a ser insuficientes. É por isso que podemos encontrar algumas ferramentas de defesa que fazem uso deste tipo de capacidades.

Recentemente, foi revelado o Check Point Infinity Spark, uma nova solução de prevenção de ameaças que proporciona segurança baseada em Inteligência Artificial e conectividade integrada líder da indústria.

Esta ferramenta fornece segurança de nível empresarial para toda a rede, correio electrónico, escritório, terminais e dispositivos móveis. Com a melhor taxa de prevenção da indústria, perto da perfeição com 99,7% de eficácia, é capaz de proteger as empresas contra ameaças avançadas, tais como phishing, ransomware, roubo de credenciais e ataques DNS.