Gartner：企业在部署生成式人工智能时面临新的安全威胁

文章预览

在近期举办的 2024 中国科技行业高管交流大会上， Gartner 发布了关于生成式人工智能（ GenAI ）安全的最新研究。 随着 GenAI 技术的迅速发展和应用，全球超过 58% 的技术提供商已经在他们的产品中内嵌了 GenAI 技术。 这种技术虽然为企业带来了创新的机会，但同时也引入了新的安全挑战。 Gartner高级研究总监曾劭清表示：“GenAI技术在提高业务效率和开拓新服务方面具有巨大潜力，但它也使企业的安全攻击面扩大，尤其是在提示工程和数据安全方面。GenAI技术为攻击者提供了新的途径，例如利用AI生成的内容进行社会工程攻击或通过污染训练数据来破坏AI系统的完整性。此外，攻击者可以利用GenAI提高攻击工具的自动化和智能化水平，这对传统的安全防御措施构成了挑战。同时，GenAI系统的复杂性本身也可能引入新的漏洞和弱点，要求企业采用更先进的 ………………………………