凯捷：2025年AI与生成式AI对网络安全的双重影响研究报告

今天分享的是：凯捷：2024年AI与生成式AI对网络安全的双重影响研究报告

报告共计：84页

《2024年AI与生成式AI对网络安全的双重影响研究报告》由凯捷研究院发布，探讨AI和生成式AI（Gen AI）在网络安全领域带来的机遇与挑战，为企业提供应对策略建议。

1. 网络安全现状：网络安全事件呈上升趋势，92%的组织在2023年遭遇过数据泄露，过去三年近一半组织因此遭受超5000万美元的直接和间接损失。各行业攻击数量和种类增加，云服务、物联网设备等攻击面扩大。

2. AI和Gen AI带来的风险

- 攻击更复杂且对手增多：威胁行为者利用AI和Gen AI进行钓鱼、恶意软件开发等攻击，Gen AI降低攻击门槛，增加攻击复杂性，还带来提示注入、AI蠕虫等新风险。

- 攻击面扩大：Gen AI应用增加使外部攻击面更复杂，内部员工可能因不当使用或安装未经授权的AI应用（影子AI）而扩大内部攻击面，增加法律风险。

- 定制Gen AI解决方案的生命周期管理问题：Gen AI解决方案从数据收集到模型定制、开发和维护的整个生命周期都需保障安全，否则易导致数据泄露等问题，使用Gen AI生成代码还可能引入漏洞。

3. AI和Gen AI在网络安全中的应用及优势

- AI的应用及优势：多数组织依赖AI加强数据、应用和云安全，AI可快速分析数据、检测威胁、自动响应，提高检测和响应速度，减少人工疲劳。

- Gen AI的应用及优势：从长远看，Gen AI将加强网络安全，可进行高级威胁模拟、检测漏洞，提高威胁检测速度和准确性，辅助安全分析和决策。

4. 应对策略建议

- 制定安全策略：将AI和Gen AI融入现有安全系统，评估效率和风险，定期审查策略以适应技术发展。

- 建立事件响应协议：组建响应团队，利用Gen AI提供支持，确保决策过程有人为参与，做好证据管理和事后分析。

- 加强基础设施建设：升级硬件，采用加密和密钥管理技术，也可利用云资源提高安全性和可持续性。

- 完善框架政策：建立数据管理和AI治理框架，明确政策和指南，加强模型管理，确保数据和模型安全。

- 员工培训与意识培养：开展AI网络安全培训，提高员工意识，培养风险意识文化，减少人为风险。

以下为报告节选内容

展开全文