A tecnologia de inteligência artificial está acelerando a inovação na gestão empresarial ao mesmo tempo em que expande drasticamente a superfície de ataque que os hackers podem explorar. Consequentemente, especialistas em segurança concluem que é impossível defender-se contra os ciberataques modernos complexos utilizando métodos tradicionais de detecção e resposta de ameaças realizados diretamente por humanos. Assim, o setor está acelerando a construção de sistemas de defesa baseados em agentes capazes de julgar e agir autonomamente, utilizando a inteligência artificial, o que representa não apenas uma adoção tecnológica, mas uma mudança fundamental no paradigma da segurança.
Recentemente, no evento Next realizado pelo Google Cloud, essa tendência tornou-se evidente. Morgan Adamski, da PwC, enfatizou que, do ponto de vista da defesa, é possível vencer mesmo quando o atacante tem vantagem, desde que a estratégia de defesa seja bem-sucedida. Ele defendeu a integração da inteligência artificial em todas as etapas da segurança desde o início para maximizar a eficiência e a identificação rápida dos atacantes. Charles Kamakal, Diretor Executivo de Tecnologia da Mandiant, também presente no evento, diagnosticou que o desafio central da segurança corporativa transformou-se em quão rapidamente e seguramente a inteligência artificial pode ser integrada aos sistemas de defesa. A Mandiant, sendo uma empresa de segurança sob o guarda-chuva do Google Cloud, compartilha essa direção estratégica.
Uma nova ameaça que emergiu como particularmente preocupante para o setor é a "Shadow AI". Este termo refere-se ao fenômeno em que funcionários criam ou distribuem agentes de inteligência artificial de forma independente, fora das aprovações oficiais ou dos sistemas de controle da empresa. Embora as empresas incentivem experimentações no campo para promover a produtividade e a inovação, a disseminação da inteligência artificial sem governança adequada pode resultar em vulnerabilidades de segurança inesperadas. Morgan Adamski enfatizou que as políticas não devem ser barreiras que impedem a inovação, mas sim dispositivos reimaginados para ajudar a mover-se mais rápido e com mais segurança. Ele explicou que as políticas não devem servir para desacelerar, mas sim para ser projetadas de forma a manter as barreiras de segurança necessárias enquanto incentivam a inovação.
O problema reside no fato de que o intervalo de tempo entre o ataque e a resposta está encurtando drasticamente. De acordo com o relatório mais recente da Mandiant, os atacantes estão comprimindo o tempo disponível para as organizações de defesa de horas para apenas 22 segundos. Isso significa que, em termos práticos, não é mais possível aguentar uma situação onde uma vulnerabilidade é descoberta e a resposta depende de humanos para compreender a situação e passar por sistemas de reporte. Charles Kamakal alertou que, embora o uso de inteligência artificial permita responder em uma escala muito além do que os humanos podem fazer, os riscos inerentes à própria inteligência artificial também vêm acompanhados. Em última análise, o cenário de competição torna-se mais claro; à medida que os atacantes utilizam a inteligência artificial para encontrar e explorar vulnerabilidades rapidamente, os defensores também devem utilizá-la para identificar anomalias e antecipar a aplicação de patches.