La tecnología de inteligencia artificial está acelerando la innovación empresarial, pero al mismo tiempo está expandiendo drásticamente la superficie de ataque a la que pueden apuntar los ciberdelincuentes. En consecuencia, los expertos en seguridad han llegado a la conclusión de que, como en el pasado, los métodos que dependen de que las personas detecten y respondan a las amenazas por sí mismas ya no son suficientes para detener los ciberataques complejos de la actualidad. Por ello, el sector está impulsando con fuerza la creación de sistemas de defensa basados en agentes autónomos que tomen decisiones y actúen por sí mismos mediante el uso de la inteligencia artificial; esto va más allá de una simple adopción tecnológica y representa un cambio fundamental en el paradigma de la seguridad.
En el evento Next, celebrado recientemente por Google Cloud, esta tendencia quedó claramente reflejada. Morgan Adamski, de PwC, subrayó desde la perspectiva de la defensa que, aunque el atacante tenga la ventaja, la estrategia de defensa puede lograr el éxito. Insistió en integrar la inteligencia artificial desde el inicio en todas las etapas de la seguridad para maximizar la eficiencia y en identificar a los atacantes lo antes posible. Charles Kamakal, Director de Tecnología de Mandiant, también presente en el evento, diagnosticó que el desafío central de la seguridad empresarial se ha transformado en la capacidad de integrar la inteligencia artificial en los sistemas de defensa de manera rápida y segura. Mandiant, como empresa de seguridad bajo el paraguas de Google Cloud, comparte esta misma dirección estratégica.
Una nueva amenaza que está emergiendo y que el sector debe vigilar especialmente es el "Shadow AI". Este término se refiere a la situación en la que los empleados crean o despliegan agentes de inteligencia artificial de forma independiente, fuera de los sistemas oficiales de aprobación y control de la empresa. Aunque las empresas fomentan los experimentos en el terreno para mejorar la productividad y la innovación, la proliferación de la inteligencia artificial sin una gobernanza adecuada puede dar lugar a vulnerabilidades de seguridad imprevistas. Morgan Adamski enfatizó que las políticas no deben ser barreras que frenen la innovación, sino dispositivos que deben rediseñarse para ayudar a moverse más rápido y de manera más segura. Explicó que las políticas no deben diseñarse para ralentizar el ritmo, sino para fomentar la innovación mientras se mantienen las barreras de seguridad necesarias.
El problema radica en que el intervalo de tiempo entre el ataque y la respuesta se está acortando drásticamente. Según el último informe de Mandiant, los atacantes están comprimiendo el tiempo disponible para que las organizaciones de defensa respondan, pasando de varias horas a tan solo 22 segundos. Esto significa que, en la práctica, ya no es posible resistirse si se depende de que las personas comprendan la situación, la informen y actúen a través de los canales de reporte después de que se descubra una vulnerabilidad. Charles Kamakal advirtió que si bien el uso de la inteligencia artificial permite responder a una escala mucho mayor de la que es posible para las personas, también está siempre acompañada de los propios riesgos de la inteligencia artificial. En última instancia, la dinámica de competencia se está haciendo más clara: mientras los atacantes utilizan la inteligencia artificial para localizar y explotar rápidamente las vulnerabilidades, los defensores también deben utilizarla para identificar anomalías y acelerar las actualizaciones de seguridad.