2025年人工智能与网络安全的未来展望
关键要点
在2025年，代理人工智能（AI）系统的重大进展将会推动新的基于AI的网络防御解决方案，帮助组织在最少人力干预的情况下实现特定目标、做出决策并采取应对措施。与此同时，这些系统的普及也将引入新的风险。如NicoleCarignan所强调，多代理AI系统虽提供无与伦比的高效性，但也可能暴露数据泄露、提示注入和数据隐私风险等漏洞。
网络安全将如何受到影响
- 代理AI的主要挑战
- 阴影AI的风险增加
- 开发与安全的转型
- 决策机器的崛起
- CISO角色的演变
在未来，CISO将要面对“阴影AI”的挑战，即员工未经授权使用生成式AI工具，造成治理难题和数据安全风险。IBM的安全产品管理副总裁AkibaSaeedi强调，解决这些风险需要强有力的AI治理政策、员工培训和自动化检测措施。
AI在网络安全和职场中的应用
AI将在商业运营中变得不可或缺
Patrick Joyce
，Proofpoint全球首席信息安全官表示，几年前云计算、移动和零信任只是流行词，但现在已成为组织业务运营的重要组成部分。AI技术，尤其是生成式AI，正在被越来越多的买家进行严格审查，许多人将其视为第三方风险。CISO们需关注员工如何使用AI，以理解可能面临的敏感信息风险。
AI将降低软件开发成本
Jason Meller
，1Password产品副总裁指出，AI将降低开发和维护客户软件的成本，使更多CIO重新思考他们的供应商首选策略，并投资人才开发量身定制的安全解决方案。
代理AI的兴起增加网络韧性，同时也带来新的风险
Arvind Nithrakashyap
，Rubrik联合创始人兼CTO表示，随着代理AI市场的兴起，采用基于云的架构的CISO将受益于生产力的提升和客户体验的改善。代理AI会帮助企业更好地保护数据和云应用，但如果实施不当，可能会对敏感数据造成风险。
阴影AI将变得更为普遍且具有更多风险
AkibaSaeedi认为，2025年企业将会真正意识到“阴影AI”的规模，即未经授权的AI模型使用。成功应对这一问题的公司将结合清晰的治理政策、全面的员工培训及严谨的检测与响应。
AI在API安全中的崛起
威尔·格莱泽，CequenceSecurity威胁研究总监称，随着代理AI的日益普及，传统的检测恶意自动化活动的方法将变得无效。安全系统将更加注重预测行为与意图。
开发者工作方式的变革
Tariq Shaukat ，SonarCEO表示，2027年，70%的专业开发者将使用AI驱动的编码工具，随着AI工具变得至关重要，开发者需要对代码的责任感增强。确保AI生成的代码安全至关重要，通过“信任但验证”的方式，开发团队能够确保AI生成代码达到既定的质量与安全标准。
网络安全领导、自动化与企业
网络安全职能将向多学科方向发展
Alastair Williams ，SkyboxSecurity全球系统工程副总裁预测，2025年，网络安全专职角色会逐渐消失，组织将更重视能解决更广泛挑战的多领域专业人士。
CISO角色转变为业务韧性的架构师
Randy Barr ，Cequence Security的CISO指出，CISO将承担起管理业务韧性的角色，确保网络安全投资带来实际的业绩影响。
CIO将推进可持续的数字转型
Bobby Cain
，施耐德电气北美CIO认为，数字化解决方案是构建韧性和支持企业可持续转型的核心。通过实施数字工具，企业将能够实现可持续目标并改善收益。
AI生成技术将重塑董事会的决策
Andy Byrne ，Clari CEO指出，生成式AI将改变商业战略，未来的董事会将利用AI模型提供实时的市场复杂决策支持。
