Les technologies d'intelligence artificielle accélèrent l'innovation dans la gestion d'entreprise tout en élargissant considérablement la surface d'attaque que les pirates peuvent cibler. Par conséquent, les experts en sécurité ont estimé qu'il serait difficile de contrer les cyberattaques modernes complexes en utilisant des méthodes où les humains détectent et réagissent aux menaces de manière autonome, comme c'était le cas dans le passé. Par conséquent, le secteur industriel accélère actuellement le déploiement de systèmes de défense sous forme d'agents capables de prendre des décisions et d'agir de manière autonome en utilisant l'intelligence artificielle, ce qui signifie un changement fondamental du paradigme de la sécurité, bien au-delà d'une simple adoption technologique.
Cette tendance s'est clairement manifestée lors du récent événement Next organisé par Google Cloud. Morgan Adams, de PwC, a insisté sur le fait que, même si l'attaquant est en position dominante, la stratégie de défense peut réussir du point de vue de celui qui défend. Il a souligné qu'il est nécessaire d'intégrer l'intelligence artificielle dès le début de toutes les étapes de la sécurité pour maximiser l'efficacité et d'identifier les attaquants le plus rapidement possible. Charles Kamakal, directeur technologique de Mandiant, présent également à l'événement, a diagnostiqué que la question centrale de la sécurité d'entreprise a évolué vers la question de savoir dans quelle mesure l'intelligence artificielle peut être intégrée rapidement et sûrement dans les systèmes de défense. Mandiant, entreprise de sécurité sous le groupe Google Cloud, partage cette orientation stratégique.
Une nouvelle menace qui émerge comme particulièrement à surveiller dans l'industrie est la « Shadow AI ». Cela désigne la situation où des employés créent ou déploient de manière indépendante des agents d'intelligence artificielle en dehors de l'approbation officielle ou du système de contrôle de l'entreprise. Bien que les entreprises encouragent les expérimentations sur le terrain pour améliorer la productivité et l'innovation, la propagation de l'intelligence artificielle sans gouvernance appropriée peut entraîner des vulnérabilités de sécurité imprévues. Morgan Adams a souligné que les politiques ne doivent pas être perçues comme des obstacles empêchant l'innovation, mais plutôt comme des dispositifs conçus pour aider à agir plus rapidement et plus sûrement. Il a expliqué que les politiques ne doivent pas ralentir la vitesse, mais être conçues pour maintenir les barrières de sécurité nécessaires tout en encourageant l'innovation.
Le problème réside dans le fait que l'intervalle de temps entre l'attaque et la réponse diminue considérablement. Selon le dernier rapport de Mandiant, les attaquants compressent le temps de réponse des organisations de défense de plusieurs heures à seulement 22 secondes. Cela signifie qu'il est pratiquement impossible de tenir bon en utilisant des méthodes où les humains comprennent la situation et agissent après avoir passé par un système de signalement une fois une vulnérabilité détectée. Charles Kamakal a averti que, bien que l'utilisation de l'intelligence artificielle permette de réagir à une échelle bien supérieure à celle des humains, le risque inhérent de l'intelligence artificielle elle-même accompagne toujours cette capacité. En fin de compte, la dynamique de la concurrence devient plus claire : à mesure que les attaquants cherchent à exploiter rapidement des vulnérabilités grâce à l'intelligence artificielle, les défenseurs doivent également utiliser l'intelligence artificielle pour identifier les anomalies et accélérer les correctifs.