A IA está “na moda” e o seu potencial é inquestionável, no entanto, no campo da cibersegurança, os executivos devem considerar alguns pontos quando adoptam a IA no seu programa de segurança.
É essencial recordar o que faz a IA funcionar para que as empresas a possam utilizar correctamente.
A eficácia da ferramenta depende da forma como é utilizada.
No domínio da cibersegurança, e entre outros exemplos, os algoritmos de IA podem criar mapeamentos de probabilidade de um determinado conjunto de dados, e depois determinar o que seria gerado probabilisticamente da mesma forma, ou seja, têm a capacidade de determinar a probabilidade de um ficheiro, padrão de tráfego ou comportamento ser malicioso, mesmo que esse evento específico nunca tenha sido visto antes.
Inteligência Artificial na Cibersegurança
No entanto, existem desafios fundamentais, para alcançar este resultado, que têm de ser resolvidos para que a IA possa ser utilizada, também ela, em segurança.
A Palo Alto Networks, representada em Portugal pela Exclusive Networks lista os 6 principais desafios que devem ser endereçados sob pena de toldarem a percepção da IA na cibersegurança
Segundo Elizabeth Alves, Sales Director Exclusive Networks Portugal, os executivos têm de estar atentos a vários pormenores. “É altamente aconselhável avaliar a integração da IA de um fornecedor de cibersegurança nas suas linhas de produtos através de uma análise aprofundada.
Se um fornecedor não conseguir explicar como o algoritmo está a funcionar, como está a ser treinado e com que tipos de dados, então o potencial de problemas pode acrescentar mais riscos do que aqueles que o fornecedor afirma resolver.”
Desafio #1
Dados e algoritmos: A fundação do poder da IA e a potencial armadilha
A IA é tão boa quanto o algoritmo que está a ser utilizado e os dados com que é treinada. Se o algoritmo não estiver a mapear o conjunto de dados para os parâmetros que são indicadores da actividade maliciosa, então nenhum dado no mundo será relevante, e os eventos maliciosos passarão despercebidos. Por outro lado, se o algoritmo correcto não receber dados suficientes e com a qualidade adequada, então os mapeamentos nunca serão capazes de criar um nível suficientemente elevado de distribuição de probabilidade e ocorrerão eventos falsos (tanto positivos como negativos), uma vez que o algoritmo chegará à conclusão errada.
Desafio #2
Ofuscação: Confiar na caixa negra?
Alguns fornecedores fazem com que os seus modelos de IA funcionem como “caixas negras”, ofuscando o algoritmo e os processos de tomada de decisão. Esta falta de visibilidade pode ser problemática, dificultando ou mesmo impossibilitando a compreensão do motivo pelo qual a IA assinala determinados eventos como suspeitos e levanta preocupações sobre a responsabilidade e potenciais enviesamentos.
Desafio #3
Integração e especialização: Para além da fantasia do Plug-and-Play
As soluções de IA não são soluções mágicas do tipo “plug-and-play”. Requerem integração com a infraestrutura de segurança existente e conhecimentos especializados para interpretação e aproveitamento máximo dos seus resultados de forma eficaz. As equipas de segurança têm de ser formadas para compreenderem bem como funciona a IA, para perceberem as suas limitações e a melhor forma de a integrarem nas políticas de segurança.
Desafio #4
Quebrar o mito de que a IA melhora automaticamente qualquer ferramenta de cibersegurança
Embora muitos fornecedores da área da cibersegurança promovam esta ideia como verdadeira, a realidade é que muitos algoritmos de IA não se adequam às necessidades. O algoritmo errado conduzirá a maus resultados.
Desafio #5
Quebrar o mito de que existem soluções “One-Size-Fits-All”
Diferentes soluções de IA respondem a diferentes necessidades. Compreender os seus requisitos específicos e escolher a ferramenta certa é crucial para uma implementação bem-sucedida.
Desafio #6
Quebrar o mito de que, com a IA, a segurança é inviolável
A IA, como qualquer tecnologia, é susceptível a ataques. A monitorização contínua e a adaptação dos sistemas de IA são cruciais para manter a sua eficácia.
“Este modelo de correspondência de padrões enquadra-se tecnicamente na definição básica de IA e foi a base dos motores IDS/IPS originais, mas não é suficientemente robusto ou “inteligente” para resolver os desafios que a segurança está a tentar resolver.
É crucial ter o modelo correcto e, talvez mais importante, a experiência para construir e melhorar esse modelo. Construir um modelo que possa mapear probabilisticamente “toda a Internet” não é tarefa fácil, e o mesmo se aplica à modelação de actividade maliciosa versus benigna. Além disso, como discutido no primeiro desafio acima, os dados para alimentar este modelo têm de ser maciços (tal como os LLMs que utilizam “toda a Internet”) e, ao mesmo tempo, devidamente categorizados e filtrados”, destacou Elizabeth Alves.
