تسرع تقنيات الذكاء الاصطناعي من الابتكار في إدارة الشركات، وفي الوقت نفسه توسع سطح الهجمات التي يمكن للمخترقين استهدافها بشكل حاد. وبناءً على ذلك، توصل خبراء الأمن إلى استنتاج مفاده أنه لم يعد من الممكن منع الهجمات السيبرانية المعقدة في العصر الحديث بالطريقة التقليدية التي يعتمد فيها البشر على اكتشاف التهديدات والاستجابة لها شخصيًا. لذا، فإن القطاع الصناعي يسعى الآن باجتهاد إلى بناء أنظمة دفاعية تعتمد على "العوامل" (Agents) التي تتخذ قراراتها وتعمل ذاتيًا باستخدام الذكاء الاصطناعي، وهو ما يرمز إلى تحول جذري في نموذج الأمن يتجاوز مجرد تبني تقنية جديدة.
في مؤتمرات "Next" التي نظمها جوجل كلاود مؤخرًا، تبيّن بوضوح هذا الاتجاه. وشدد مارجان آدمسكي من "بايرس ووترهاوس كوبرز"، وهو يمثل الجانب الدفاعي، على أن الاستراتيجية الدفاعية يمكن أن تنجح حتى لو كان المهاجم في موقع قوة. فقد حث على دمج الذكاء الاصطناعي في جميع مراحل الأمن من البداية لزيادة الكفاءة إلى أقصى حد، وعلى تحديد هوية المهاجمين بأسرع وقت ممكن. كما تشخيص شاربس كاماكالي، وهو الرئيس التنفيذي التقني في "مانديانت"، المشارك في نفس الحدث، بأن تحدي الأمن في الشركات قد تحول إلى مسألة دمج الذكاء الاصطناعي بسرعة وأمان في أنظمة الدفاع. وتشارك "مانديانت"، كشركة أمنية تابعة لجوجل كلاود، في هذا الاتجاه الاستراتيجي.
والمخاطر الجديدة التي ظهرت كتهديد يجب على القطاع الصناعي الحذر منها هي "الذكاء الاصطناعي الظل" (Shadow AI)، وهو مصطلح يشير إلى إنشاء أو نشر الموظفين لوكلاء الذكاء الاصطناعي بشكل مستقل خارج نطاق الموافقة الرسمية أو أنظمة التحكم في الشركة. بينما تشجع الشركات التجارب الميدانية لتحسين الإنتاجية والابتكار، فإن انتشار الذكاء الاصطناعي دون حوكمة مناسبة قد يؤدي إلى ثغرات أمنية غير متوقعة. وشدد آدمسكي على أن السياسات يجب ألا تكون عائقًا أمام الابتكار، بل يجب إعادة تصميمها لتكون أدوات تسهل التحرك بسرعة أكبر وأمان، مشيرًا إلى أن الهدف من السياسات ليس إبطاء السرعة بل تشجيع الابتكار مع الحفاظ على الحواجز الأمنية الضرورية.
المشكلة تكمن في تضاؤل الفاصل الزمني بين الهجوم والدفاع بشكل حاد. وفقًا لتقرير حديث لـ "مانديانت"، يقوم المهاجمون بضغط وقت الاستجابة المتاح للمنظمات الدفاعية من ساعات إلى مجرد 22 ثانية. وهذا يعني أن الاعتماد على البشر لفهم الموقف وإبلاغه عبر قنوات التقارير التقليدية أصبح صعبًا للغاية للاستمرار. حذر شاربس كاماكالي من أن استخدام الذكاء الاصطناعي يمكن أن يتيح الاستجابة بمقاييس تفوق بكثير نطاق قدرات البشر، ولكن في الوقت نفسه، فإن مخاطر الذكاء الاصطناعي نفسه تلاحقه دائمًا. وفي النهاية، أصبح المشهد التنافسي أكثر وضوحًا؛ حيث يسعى المهاجمون إلى استغلال الثغرات بسرعة باستخدام الذكاء الاصطناعي، مما يفرض على المدافعين استخدام الذكاء الاصطناعي أيضًا لتحديد الشذوذ وتسريع عمليات التصحيح.