主流开源机器学习平台安全性告急：22个漏洞暴露现有系统的脆弱性

土耳鸡烤鸡

科技媒体“Tec雷达”近期发表一篇刊文称，有权威网络安全调查机构最近对机器学习（ML）框架安全状况的分析显示，相较于DevOps或Web服务器等更为成熟的领域，ML软件更容易受到安全漏洞的威胁。这一发现凸显了在各行各业加速采用机器学习的背景下，保护ML系统安全的紧迫性。漏洞不仅可能导致未经授权的访问和数据泄露，还可能引发系统的整体操作受损。

JFrog的报告指出，诸如MLflow等关键ML项目的漏洞数量有所增加。在过去几个月里，JFrog在15个开源ML项目中发现了22个漏洞。其中，两大主要威胁类别尤为突出：一是针对服务器端组件的安全隐患，二是ML框架内部的特权升级风险。

JFrog的研究揭示了这些漏洞对ML工作流程中常用的关键组件造成的影响。这意味着攻击者可以利用这些漏洞，通过ML从业者通常信赖的灵活工具，非法访问敏感文件或在ML环境中提升自身权限。例如，Weave作为Weights & Biases（W&B）的一个流行工具包，用于追踪和可视化ML模型指标。然而，WANDB Weave目录遍历漏洞（CVE-2024-7340）却让低权限用户能够访问文件系统中的任意文件，从而严重威胁到整个系统的安全性。这一系列问题不仅揭示了当前ML框架的安全挑战，也呼吁业界加强相关领域的研究和防护措施。

上述漏洞源于处理文件路径时输入验证不足，使得攻击者能够绕过安全措施，查看包含敏感信息的文件，如管理员API密钥或特权数据。这种漏洞不仅可能导致权限提升，还可能让攻击者未经授权访问关键资源，进而威胁到整个机器学习管道的安全性。MLOps管道管理工具ZenML同样受到影响，该漏洞使其访问控制系统面临风险。攻击者即使拥有最低权限，也能在ZenML Cloud的托管部署中提升权限，访问机密信息或模型文件，进一步危及系统的整体安全性。

在这份分析报告中还显示，ZenML 中的访问控制问题使整个系统面临重大风险。如果攻击者获得了提升的权限，他们不仅能够操纵 ML 管道和篡改模型数据，还可能访问敏感的操作数据，这将直接影响依赖这些管道的生产环境。此外，在 Deep Lake 数据库中发现了一个名为 Deep Lake 命令注入（CVE-2024-6507）的严重漏洞。作为专为 AI 应用优化的数据存储解决方案，Deep Lake 在处理外部数据集导入时存在缺陷，使得攻击者可以执行任意命令。这种因命令清理不当而导致的漏洞，可能让攻击者实现远程代码执行，进而威胁到数据库及其连接应用程序的安全。

除了前面的那些，专注于自然语言 SQL 查询生成与可视化的先进工具 Vanna AI ，近期也被发现其中存在一个名为 Vanna.AI 提示注入（CVE-2024-5565）的重要漏洞。该漏洞允许攻击者通过恶意代码注入到 SQL 提示中，使得工具在处理时受到操纵。这不仅可能导致远程代码执行，还可能被恶意行为者利用来篡改可视化结果、执行 SQL 注入操作或窃取敏感数据，极大地威胁了 Vanna AI 的安全性和可靠性。

同时，Mage.AI 作为一款用于管理数据管道的高级 MLOps 工具，也被发现存在多个严重漏洞，如未经授权的 shell 访问、任意文件泄漏以及薄弱的路径遍历检查。这些问题使攻击者能够操控数据管道、暴露敏感配置信息，甚至执行恶意命令。这些漏洞的综合影响增加了特权提升的风险，并可能导致数据完整性的严重泄露，从而威胁到整个 ML 管道的安全和稳定。通过获取 ML 数据库或注册表的管理员权限，攻击者可以轻而易举地向模型中植入恶意代码，在模型加载时触发后门机制，进而危及整个系统的安全性。这种风险不仅影响单个模型，还可能波及下游流程，因为多个团队和 CI/CD 管道均依赖于这些模型。攻击者甚至可以通过窃取敏感数据或实施模型中毒攻击，进一步损害模型性能或操控其输出。JFrog 的调查结果显示，MLOps 安全领域存在明显的运营漏洞。许多组织尚未将 AI/ML 安全措施有效融入整体网络安全策略，导致潜在的安全盲点。随着机器学习和人工智能技术的迅猛发展，保障这些创新背后的框架、数据集和模型安全变得愈加关键。