O ChatGPT está nas bocas (e nos computadores) do mundo após ser “libertado” para o público pela OpenAI.
Confesso que me tenho divertido muito e até inventei um novo “boneco” intitulado “Conversas Artificialmente Inteligentes” que me tem permitido aprender parte deste novo mundo inteligentemente artificial.
ChatGPT poderá ser uma ferramenta perigosa
Como em tudo e em todas as coisas, há sempre o lado bom e o mau. Podemos utilizar esta ferramenta como o Luke Skywalker ou espremê-la como o Darth Vader.
Por tudo isto, é normal que as marcas de antivírus estejam atentas ao que se está a passar com toda esta discussão e descoberta de ferramentas AI.
A Kaspersky está a explorar como o aparecimento do ChatGPT nas mãos do público em geral poderia alterar as regras estabelecidas do mundo da cibersegurança.
A mudança surge alguns meses após o OpenAI ter lançado o ChatGPT3 – um dos modelos de IA mais poderosos até à data. O ChatGPT-3 pode explicar conceitos científicos complexos melhor do que muitos professores, escrever música e tem a capacidade de gerar praticamente qualquer tipo de texto com base no pedido do utilizador.
ChatGPT-3 é principalmente um modelo de linguagem AI que cria textos convincentes que são difíceis de distinguir dos textos escritos por humanos.
Assim, os cibercriminosos já estão a tentar aplicar esta tecnologia aos ataques de spear-phishing. Anteriormente, o principal obstáculo que impedia de realizar campanhas de spear-phishing em massa era o facto de ser um ataque bastante dispendioso, pois era necessário escrever cada correio eletrónico visado.
O ChatGPT está preparado para alterar drasticamente o equilíbrio de poder, porque pode permitir aos attackers gerar e-mails de phishing persuasivos e personalizados a uma escala industrial. Pode até estilizar a correspondência, criando mensagens eletrónicas falsas convincentes aparentemente de um empregado para outro. Infelizmente, isto significa que o número de ataques de phishing bem-sucedidos pode aumentar.
ChatGPT é ferramenta que facilita gerar código
Muitos utilizadores já descobriram que o ChatGPT é capaz de gerar códigos, mas infelizmente isto inclui códigos de malware. A criação de um simples infostealer será possível sem ter qualquer habilidade de programação.
No entanto, os utilizadores de linha recta não têm nada a temer. Se o código escrito por um bot for realmente utilizado, as soluções de segurança irão detetá-lo e neutralizá-lo tão rapidamente como o faz com todo o malware passado criado por humanos.
Embora alguns analistas se preocupem que o ChatGPT possa mesmo criar malware único para cada vítima em particular, estas amostras ainda exibiriam um comportamento malicioso que muito provavelmente será notado por uma solução de segurança.
Além disso, o malware escrito em bot é suscetível de conter erros subtis e falhas lógicas, o que significa que a automatização total da codificação malware está ainda por alcançar.
Mas o ChatGPT também é uma ferramenta contra códigos maliciosos
Embora a ferramenta possa ser útil para os atacantes, os defensores também podem beneficiar dela. Por exemplo, o ChatGPT já é capaz de explicar rapidamente o que um determinado pedaço de código faz. Ele entra nas suas próprias condições SOC, onde os analistas constantemente sobrecarregados têm de dedicar um mínimo de tempo a cada incidente, pelo que qualquer ferramenta para acelerar o processo é bem-vinda.
No futuro, os utilizadores verão provavelmente numerosos produtos especializados: um modelo de engenharia inversa para compreender melhor o código, um modelo de resolução de CTF, um modelo de pesquisa de vulnerabilidade, e muito mais.
Vladislav Tushkanov, um perito em segurança da Kaspersky, comenta:
“Embora o ChatGPT não faça nada completamente malicioso, pode ajudar os atacantes numa variedade de cenários, por exemplo, escrevendo mensagens de correio eletrónico de phishing direcionadas de forma convincente.
Contudo, neste momento, o ChatGPT não é definitivamente capaz de se tornar numa espécie de IA de hacking autónomo. O código malicioso que a rede neural gera não estará necessariamente a funcionar e ainda exigiria um especialista qualificado para o melhorar e implementar.
Embora o ChatGPT não tenha um impacto imediato na indústria e não altere o jogo da cibersegurança, as próximas gerações de IA provavelmente o farão. Nos próximos anos, poderemos ver como os modelos de linguagem de grande dimensão, tanto treinados em linguagem natural como em código de programação, são adaptados para casos de utilização especializada em cibersegurança.
Estas alterações podem afectar uma vasta gama de actividades de cibersegurança, desde a caça à ameaça até à resposta a incidentes. Por conseguinte, as empresas de cibersegurança quererão explorar as possibilidades que as novas ferramentas darão, enquanto estão conscientes de como esta tecnologia poderá ajudar os cibercriminosos”.
E vocês, já experimentaram o ChatGPT? Podem fazê-lo aqui.
