人工智慧技術在加速企業經營創新的同時，也大幅擴大了黑客可能覬覦的攻擊面。因此，安全專家判斷，若要抵禦現代複雜的網路攻擊，已無法再依賴過去由人類直接偵測威脅並進行回應的方式。業界正全力推動利用人工智慧建構具備自主判斷與行動能力的防禦體系，這不僅僅是技術導入，更意味著保安範式的根本性轉變。
在最近的 Google Cloud 舉辦的 Next 活動中，這一趨勢已清晰顯現。普華永道的摩根·亞當斯基強調，即使攻擊者處於優勢，防禦方仍可透過策略取得成功。他主張應從一開始便將人工智慧整合至保安的所有階段，以極大化效率，並必須盡快識別攻擊者。同樣出席活動的 ManDiant 首席技術長 Charles Kamakal 也診斷指出，企業保安的核心課題已演變為「能多快、多安全地將人工智慧融入防禦體系」。ManDiant 作為 Google Cloud 旗下的保安企業，正共享這一戰略方向。
業界特別需警惕的新興威脅是「陰影 AI」。這指的是員工在未經公司正式授權或脫離控制體系的情況下，自主生成或部署人工智慧代理的行為。企業雖鼓勵現場實驗以提升生產力與創新，但若缺乏適當的治理，人工智慧的擴散可能引發意料之外的保安漏洞。摩根·亞當斯基強調，政策不應成為阻礙創新的障礙，而應被重新設計為協助更快、更穩妥行動的機制。他解釋道，政策的目標並非減慢速度，而是在鼓勵創新的同時，維持必要的保安屏障。
關鍵問題在於攻擊與回應的時間間隔正急劇縮短。根據 ManDiant 的最新報告，攻擊者已將防禦組織的可應對時間從數小時壓縮至僅 22 秒。這意味著，一旦發現漏洞，若仍依賴人類理解狀況、通過報告體系再進行回應，實際上已難以支撐。Charles Kamakal 警告，雖然運用人工智慧可遠超人類能力的規模進行應對，但人工智慧自身的風險也始終相伴。最終，競爭格局變得更加明確：攻擊者愈是利用人工智慧快速發現並濫用漏洞，防禦者也必須運用人工智慧來識別異常跡象並加速修補。