AI与ML安全的未来：概述与实施

关键要点

• AI和ML技术正在迅速变革各个行业，但伴随而来的是新的安全风险。
• 公司需采用MLSecOps框架，将安全性融入AI/ML生命周期。
• MLOps与DevOps的不同之处在于面临的挑战，ML模型具有不断训练和更新的特性。
• MLSecOps确保安全在AI/ML各个阶段得到重视，从数据采集到模型监测。
• 实施MLSecOps需要文化和操作上的转变，促进安全和ML团队之间的合作。

在如今的数字世界中，人工智能（AI）和机器学习（ML）技术正变得越来越重要。这些技术不仅在各个领域进行决策自动化，还优化了曾被认为不可能的工作流程。从金融服务中的欺诈检测到医疗保健中的诊断成像及疾病检测，我们才刚刚触及全部潜力。然而，这些技术在关键业务功能中的快速融合也带来了新的安全风险。

诸如机器学习模型篡改、数据泄漏、对抗性提示注入和AI供应链攻击等威胁的增加，引入了传统软件安全方法无法完全应对的新风险。因此，从事AI技术开发和部署的组织，必须通过整合新的工具和活动，增强他们现有的安全实践，以应对AI特有的脆弱性。由此出现了机器学习安全运营（MLSecOps）框架，旨在将安全性构建在AI/ML生命周期中。

** SC Media
Perspectives的专栏由值得信赖的网络安全专家共同撰写。.
**

MLOps与DevOps

在扩展AI/ML模型时，仅具备数据科学技能是不够的，这催生了MLOps——一种用于部署和维护模型的实践。与DevOps相似，MLOps强调自动化和持续集成。

不过，这两者在应对的挑战上有所不同。与传统软件不同，机器学习模型会随着新数据的输入而不断进行再训练和更新。这引入了新的脆弱性，因为恶意行为者可能会操纵训练数据，导致模型被破坏，或者通过逆向工程盗取知识产权。因此，MLSecOps的重要性不言而喻。

DevSecOps是DevOps的更进化形式，将安全性融入软件开发的每一个阶段。它强调“设计上安全”的原则，确保安全成为软件开发周期的基础元素，而不是事后的考虑。这一方法已经成为生产环境中应用安全性的行业标准。

我们需要类似的方法来应对ML管道的安全问题，而这正是MLSecOps所关注的。在MLOps专注于模型的操作性方面时，MLSecOps确保安全性贯穿AI/ML生命周期的各个阶段，从数据收集、模型训练到部署和监测。正如DevSecOps促使行业将安全性嵌入传统软件管道，MLSecOps的设计旨在使安全成为MLOps过程的每一步的核心部分。

MLSecOps在AI安全中的作用

AI/ML的攻击面带来了几种独特的安全威胁。例如，模型序列化攻击涉及在模型序列化过程中（即将模型保存为特定格式以便分发）注入恶意代码——这有效地将模型转变为现代的特洛伊木马，可以在部署后危害系统。

数据泄漏是另一种潜在风险，当AI系统中的敏感信息暴露时，就会发生这种情况。对抗性攻击，例如提示注入，发生在生成AI的输入被设计用来迷惑模型产生不正确或有害的输出。此外，AI供应链攻击也通过破坏ML资产或数据源，危害AI系统的完整性。

MLSecOps通过安全管道、扫描模型和监测异常行为来降低风险。同时，它通过全面的第三方评估来保护AI供应链。

此外，MLSecOps还促进了安全团队、ML从业者和运营团队之间的协作，以全面解决这些风险。通过将安全工作与数据科学家、ML工程师和AI开发者的工作流程对齐，MLSecOps确保ML模型保持高性能，同时确保AI系统能够安全、抗拒新兴和不断演变的威胁。

实施MLSecOps

MLSecOps不仅仅是采用新