黑客几乎入侵了Hugging Face的AI供应链
黑客近乎入侵Hugging Face的AI供应链
根据《VentureBeat》的最新报道，最近成功避免了一次潜在灾难性的供应链网络攻击，目标是人工智能领军企业HuggingFace。然而，该事件凸显了快速发展的生成 人工智能 领域存在的持续性漏洞。
在对GitHub和HuggingFace代码库进行安全审计期间，Lasso Security的研究人员发现了超过1,600个被攻击的API令牌，这些令牌可能使威胁行为者能够发动攻击。攻击者如果获得完全控制权限，就能够操纵数百万下游应用程序使用的热门AI模型。
Lasso研究团队表示：“情况的严重性无法言尽。掌控着拥有数百万次下载的组织，我们现在拥有了将现有模型转变为恶意实体的能力。”
Hugging Face是优秀的预训练模型和数据集提供商。
作为自然语言处理、计算机视觉和其他人工智能任务的预训练模型和数据集的领先提供商，HuggingFace成为了一个高价值目标。该公司的开源Transformers库托管了超过500,000个模型，被超过50,000个组织所依赖。攻击者清楚地意识到，污染HuggingFace的数据和模型可能会对实施人工智能的各个行业产生巨大影响。
Lasso的审计主要针对API令牌，这些令牌用作访问专有模型和敏感数据的密钥。通过扫描公共代码库，研究人员发现了数百个暴露的令牌，其中很多令牌授予对私有资产的写入访问权限或完全管理员权限。掌控这些令牌，攻击者可以窃取或破坏AI模型和支持数据。
该研究结果突显了OWASP新发布的AI安全前十名中所指出的三个不断出现的风险领域：供应链攻击、数据污染和模型盗窃。随着人工智能渗透到商业和政府职能中，确保从数据到模型再到应用程序的完整供应链安全至关重要。
Lasso建议像HuggingFace这样的企业实施自动扫描暴露的API令牌，强制执行访问控制，并鼓励开发人员避免在公共代码库中使用硬编码令牌。个别令牌还应被视为身份，并通过多因素身份验证和零信任原则进行保护。
需要持续监控以验证安全措施。
对于所有采用生成型人工智能的用户来说，这一事件强调了不断验证潜在攻击面上的安全姿态的必要性。攻击者有动机来破坏人工智能供应链，仅凭警觉性是无法阻止他们的努力的。保持强大的身份验证并实施最小特权控制，甚至到API令牌级别，是必不可少的。
特色图片来源：Saksham Choudhary的照片；Pexels
