人工智能安全

文章预览

进网络安全行业群 公众号回复  行业群 近年来AI日益在医疗、自动驾驶等关键领域的普及应用。随着以生成式人工智能为根基的大语言模型（Large Language Model）表现出强大的对话、理解、推理、多任务能力，越来越多的厂商正致力于在不同的场景、行业、领域中基于LLM构建更为强大的AI 应用。AI作为数字化变革的核心驱动力，AI正在成为各行各业重塑经济社会发展形态的智能化关键基础设施，同时AI 也面临日趋严峻的安全挑战： 1）AI 模型和训练数据是AI应用厂商的核心资产，如果保护不善可能被窃取或恶意逆向恢复。 2）AI模型本身存在脆弱性，导致针对AI模型的对抗样本和药饵后门等攻击越来越多，在关键领域中使用的AI模型被攻击导致误判将带来严重后果。 3）随着AI越来越强大，人类对AI 顾虑也日益增长，AI监管合规与治理成为AI生态中各参与方 ………………………………