A Microsoft voltou a acender o sinal de alerta em torno da inteligência artificial generativa, sublinhando que a mesma tecnologia que está a acelerar processos, automatizar tarefas e escalar operações empresariais está também a ser usada como arma por cibercriminosos. O mais recente Digital Threats Report 2025 mostra que o equilíbrio entre inovação e risco está a tornar-se cada vez mais frágil.
Microsoft analisa como a IA generativa está a mudar o risco digital
Segundo a Microsoft, grupos associados à Rússia, China, Irão e Coreia do Norte duplicaram o uso de IA para lançar ataques mais sofisticados, desde phishing quase perfeito a deepfakes de executivos e malware capaz de se adaptar em tempo real para escapar à deteção tradicional.
A IA já é estratégica, e isso aumenta a superfície de ataque
Os números ajudam a perceber a dimensão do problema. Cerca de 66% das empresas já estão a desenvolver ou a planear aplicações personalizadas de IA generativa. Ao mesmo tempo, 88% admitem preocupação com ataques indiretos de prompt injection, enquanto 80% dos líderes empresariais identificam a fuga de dados sensíveis através de sistemas de IA como uma das principais ameaças.
À medida que a IA se infiltra nos fluxos de trabalho, a infraestrutura torna-se mais complexa. A maioria destas aplicações vive na cloud, depende de grandes volumes de dados e de modelos que nem sempre se comportam de forma previsível. Isto cria um terreno fértil para ataques que exploram falhas nos modelos, nas aplicações ou na própria governação dos dados.
As cinco ameaças da IA generativa identificadas pela Microsoft
Perante este cenário, a Microsoft identifica cinco tipos de ataques que estão a redefinir a forma como as empresas pensam a cibersegurança em ambientes de IA generativa.
Envenenamento de dados de treino
Os ataques de envenenamento consistem em manipular ou corromper os dados usados para treinar modelos de IA. Ao introduzir informação falsa, alterar ou remover partes do dataset, os atacantes conseguem influenciar o comportamento do modelo, comprometendo a sua precisão, fiabilidade e até a ética das respostas.
Ataques de evasão e jailbreaks
Os ataques de evasão procuram contornar os mecanismos de segurança da IA através de pequenas alterações nos dados de entrada. Estas manipulações podem ser quase impercetíveis para o modelo, mas suficientes para provocar erros, contornar filtros ou desbloquear comportamentos proibidos. Os chamados jailbreaks de modelos são um exemplo claro deste tipo de ataque.
Extração funcional de modelos
Na extração funcional, os atacantes interrogam repetidamente um modelo até conseguirem recriar um equivalente funcional. Estes modelos “clonados” permitem analisar vulnerabilidades, preparar ataques mais eficazes e reduzir o esforço necessário para comprometer o sistema original.
Ataques de inversão
Os ataques de inversão vão um passo mais longe, tentando inferir a arquitetura do modelo ou reconstruir dados de treino. Este método pode expor informação sensível sobre os dados usados, abrindo caminho a novas formas de exploração e violação de privacidade.
Prompt injection como ameaça emergente
Os ataques de prompt injection tornaram-se um dos riscos mais discutidos. Através de prompts cuidadosamente construídos, os atacantes conseguem ignorar instruções originais do sistema e levar o modelo a executar ações não intencionadas ou prejudiciais, com impacto direto em dados, processos e decisões automatizadas.
Defesa proativa é essencial em ambientes de cloud e IA
Para a Microsoft, a resposta passa por uma abordagem de defesa proativa e integrada, capaz de correlacionar sinais entre aplicações, infraestrutura e utilizadores. É neste contexto que ganham relevância plataformas como a Cloud-Native Application Protection Platform (CNAPP), que reúne ferramentas de gestão de postura de segurança, controlo de acessos e proteção de workloads.
O Microsoft Defender for Cloud é apontado como exemplo desta estratégia, oferecendo proteção end-to-end em ambientes cloud e de IA. A solução identifica configurações incorretas, monitoriza vulnerabilidades e deteta ameaças específicas de IA, como jailbreaks e fugas de dados, recorrendo a mais de 100 biliões de sinais diários da Microsoft Threat Intelligence.
Segurança e governação têm de evoluir com a IA
À medida que a IA generativa se torna parte estrutural das organizações, os líderes de segurança são obrigados a repensar estratégias. A Microsoft defende uma abordagem que unifique segurança e governação ao longo de todo o ciclo de vida das aplicações de cloud e IA, do código ao tempo de execução.
Com visibilidade abrangente, priorização proativa de riscos e deteção em tempo real, a empresa procura responder a um cenário onde a inovação avança mais depressa do que as regras, e onde os ataques já não são apenas humanos, mas também algorítmicos.
Em suma
A mensagem da Microsoft é clara: a IA generativa não é apenas uma oportunidade, é também um novo campo de batalha digital. Envenenamento de dados, evasão, extração de modelos, inversão e prompt injection são ameaças reais, já em curso, que obrigam as empresas a abandonar abordagens tradicionais de segurança. Num mundo onde a IA aprende rápido, a defesa tem de aprender ainda mais depressa.
