No início de 2023, a Check Point Research, equipa de investigação da Check Point Software Technologies Ltd., expôs os primeiros indícios de que os cibercriminosos demonstravam interesse em utilizar o ChatGPT para criar malware, ferramentas de encriptação e outros vectores de ataque que tiram partido da IA generativa.
Além disso, os cibercriminosos russos começaram imediatamente a discutir como contornar quaisquer restrições para começar a usar o ChatGPT para fins ilícitos.
Ao longo do último ano, a IA generativa e o ChatGPT continuaram a ganhar destaque na luta contínua entre atacantes e defensores. Embora muitas indústrias continuem a explorar a promessa da IA para aumentar as suas capacidades, os cibercriminosos também viram o poderoso potencial da IA na exploração de vulnerabilidades e na criação de novos vectores de ataque.
Um ano após o lançamento do ChatGPT, observamos que a utilização da IA generativa se tornou o novo normal para muitos serviços de cibercrime, especialmente na área da falsificação de identidade e da engenharia social. Alguns deles aperceberam-se do potencial da IA generativa como diferenciador para aumentar a eficácia dos seus serviços e até se gabam disso.
Dito isto, apresentamos exemplos de 4 serviços clandestinos russos alimentados por IA que utilizam IA generativa integrada como parte das suas ferramentas e plataformas ilícitas:
– Plataforma Black-Hat para imitação de redes sociais em grande escala
– Serviço Deepfakes
– Ferramenta de spam malicioso
– Serviços de verificação KYC
Caso 1: Plataforma Black-Hat alimentada por IA para imitação nas redes sociais
As contas falsas nas redes sociais representam uma ameaça significativa à cibersegurança devido ao seu potencial para atividades maliciosas, personificação de marcas, disseminação de desinformação e muito mais.
Em dezembro de 2023, um ator de ameaças experiente, com estatuto oficial de vendedor num fórum subterrâneo russo “respeitável”, pôs à venda uma plataforma pronta a utilizar que utiliza a IA como módulo central para gerar conteúdos para plataformas de redes sociais como o Instagram, o Facebook, o Twitter e o Telegram. Esta plataforma pode ser utilizada para automatizar quase totalmente a manutenção de contas falsas nas redes sociais.
| Error! Filename not specified. |
Figura 1 – Plataforma Black Hat alimentada por IA (o texto original em todas as imagens de ecrã está em russo)
Noutro estudo de caso apresentado abaixo como exemplo, o agente da ameaça mostra conteúdos produzidos para modelos femininas. Noutro caso de utilização, o ator produziu uma série de perfis falsos que imitam os de comerciantes financeiros de sucesso.
Figura 2 – Exemplo de conteúdo gerado automaticamente pela IA para as redes sociais.
O ator de ameaças explicou que só se apercebeu do poder destas ferramentas quando estava a trabalhar na sua plataforma e que agora oferece dois modelos de negócio:
- Gestão de contas falsas nas redes sociais como um serviço – O agente da ameaça e a sua equipa criam todas as contas necessárias no Instagram, Facebook, Telegram e Twitter. Em seguida, criam automaticamente o conteúdo e promovem as contas para lhes dar visibilidade e uma sensação de autenticidade, juntando-se a grupos relevantes, “gostando” de contas de tópicos semelhantes, etc.
Como prova de conceito, o ator mostra um exemplo de 20 contas de modelos femininas que foram criadas e geridas com recurso à IA.
A plataforma pode criar simultaneamente conteúdos para mais de 200 contas e gerar publicações diárias, reels, etc. As contas geridas por IA atraem seguidores e o tráfego de todas as contas pode ser utilizado para quaisquer fins maliciosos.
Este serviço de gestão custa $50 por uma única conta do Instagram por mês e um pacote de contas falsas de redes sociais ligadas em 4 redes custa $70. A encomenda mínima exigida é de 10 contas.
Uma plataforma autónoma – A plataforma é vendida “tal como está” e o comprador trata ele próprio da gestão de todas as contas baseadas em IA. Uma das principais características da propriedade da plataforma é a capacidade de carregar conteúdos e enriquecê-los utilizando a IA. O preço da plataforma é de $5.000.
Figura 3 – Integração da IA na plataforma.
Caso 2: Serviço de falsificação profunda alimentado por IA
No dia 31 de dezembro, véspera de Ano Novo, foi introduzido um outro serviço de imitação num importante fórum clandestino russo.
Este serviço está centrado na prestação de serviços de deepfake baseados em IA em três domínios:
– Lip Sync: 100$ por cada 30 segundos de conteúdo.
– Deepfakes que incluem sincronização labial e substituição de rosto: 150$ por cada 30 segundos de conteúdo.
– Voice Acting: 30$ por cada minuto de conteúdo.
Figura 4 – Serviço Deepfakes
A utilização dos serviços descritos nos casos 1 e 2, separadamente ou combinados, pode criar um possível impacto em duas áreas significativas:
– Criação de perfis falsos nas redes sociais para promover determinadas agendas políticas ou produtos.
– Falsificação da identidade de celebridades ou de executivos de empresas, o que pode levar a graves danos na reputação da marca ou ao início de ciberataques.
Caso 3: Ferramentas e serviços de spam malicioso alimentados por IA
O spam malicioso é um dos mais antigos serviços ilícitos encontrados em fóruns clandestinos de cibercriminalidade. O spam é o vetor inicial mais comum para vários objetivos de cenários de ataque, como phishing e recolha de credenciais, distribuição de malware, burlas/fraude, etc.
Um serviço de spam foi lançado em novembro de 2023 por um ator de ameaças respeitável que afirma ter mais de 15 anos de experiência criminal. Depois de receber feedback positivo sobre o seu serviço, começou a tornar os seus serviços de spam alimentados por IA, especificamente pelo ChatGPT.
A utilização do ChatGPT ajudou a diversificar o texto do spam e criou uma maior taxa de sucesso para que o e-mail de spam chegasse à caixa de entrada da vítima.
Figura 5 – Integração da IA nos serviços de spam.
Como disse um cliente deste serviço, o serviço de spam orientado para a IA ajudou-o a contornar os controlos anti-spam e anti-phishing dos serviços populares de webmail e conseguiu uma taxa de entrega com êxito de 70% ao endereço de correio eletrónico visado.
Figura 6 – Feedback sobre o sucesso da entrega.
E quanto é que um hacker comum precisa de investir para conseguir entregar 70.000 e-mails maliciosos? O pacote de 100.000 e-mails de spam custa US$ 1.250 (que pode ser pago em Bitcoin, Monero ou USDT).
Figura 7 – Lista de preços dos serviços de spam alimentados por IA.
No que diz respeito à procura de ferramentas de spam, atualmente os cibercriminosos que procuram novas ferramentas de spam solicitam que as ferramentas incluam a função de aleatoriedade do ChatGPT como parte das suas especificações técnicas. Isto cria automaticamente um texto único para cada e-mail de spam, o que ajuda a contornar facilmente os filtros anti-spam.
Figura 8 – Requisitos para uma ferramenta de spam alimentada por IA.
Caso 4: Serviços de verificação KYC
Os procedimentos Know Your Customer (KYC) tornaram-se uma prática normal para as empresas que prestam serviços financeiros devido à necessidade de maior segurança, redução de riscos e conformidade regulamentar.
O KYC também desempenha um papel crucial na recuperação do acesso a uma conta, caso o proprietário legítimo não possa utilizar os métodos tradicionais, como a reposição da palavra-passe. Normalmente, a empresa exige que os clientes se submetam a um processo KYC para confirmar a sua identidade e garantir que são titulares legítimos da conta. Normalmente, este processo envolve a apresentação de documentos de identificação válidos, como um documento de identificação emitido pelo governo, passaporte ou carta de condução, juntamente com passos de verificação adicionais, como uma fotografia com um documento.
Existe todo um mercado clandestino com serviços ilícitos, como a criação de imagens de documentos falsos para verificação. Anteriormente, este tipo de trabalho de cibercrime era feito principalmente através da manipulação manual de imagens relevantes.
Figura 9 – Serviços de tratamento de imagens de cibercrime.
Agora, porém, um dos fornecedores de serviços KYC Darkweb disse que, com o advento da inteligência artificial, tinha recentemente integrado tecnologia de IA que acelerou significativamente o processo de criação de documentos de verificação falsos sem sacrificar a qualidade.
Figura 10 – Integração da IA em serviços de edição de fotografias para KYC.
O rápido desenvolvimento das tecnologias de inteligência artificial apresenta novas oportunidades e desafios no domínio da cibersegurança. Embora a IA permita aplicações benéficas, como a deteção de malware e a segurança dos sistemas, também permite que os cibercriminosos aumentem as suas operações.
Os cibercriminosos podem agora aproveitar o poder da IA para criar esquemas de engenharia social mais sofisticados, encontrar vulnerabilidades de rede mais rapidamente, produzir meios sintéticos para intimidação ou roubo de identidade e automatizar tentativas de phishing e desenvolvimento de malware.
