山石网科安全技术研究院简称“山石安研院”正式成立于2020年4月,是山石网科的信息安全智库部门,山石安研院旗下包括干将、莫邪两大安全实验室,以及安全预警分析、高端攻防培训两支独立的技术团队。
目录
今天看啥  ›  专栏  ›  山石网科安全技术研究院

2024年羊城杯粤港澳大湾区网络安全大赛WP-AI AK篇

山石网科安全技术研究院  · 公众号  · 科技创业  · 2024-09-02 18:51
    

主要观点总结

该题目要求参赛选手对预训练好的猫、狗、狐狸识别模型进行攻击,通过设计算法对图像添加微小扰动,使得模型在预测扰动后的图像时出现错误。具体目标是让模型将猫误识别为狗、狗误识别为狐狸、狐狸误识别为猫。扰动的程度需要量化,通过计算修改后图像与原始图像的相似度(SSIM)进行评判。相似度低于0.95的扰动被视为有效,并能欺骗模型则视为成功攻击。选手需要在成功攻击至少80%的样本才能获得题目的flag。

关键观点总结

关键观点1: 攻击目标

设计算法对图像添加微小扰动,使得模型在预测时出现错误。

关键观点2: 扰动量化

使用SSIM计算修改后图像与原始图像的相似度,作为评判扰动的标准。

关键观点3: 攻击成功率

成功攻击至少80%的样本才能获得题目的flag。

关键观点4: 模型预测

使用提供的猫、狗、狐狸识别模型进行预测,如果预测结果满足对应的攻击映射则视为成功攻击。

关键观点5: 提交要求

将增加扰动后得到的新图片(攻击图片)按照规定的格式上传提交。


免责声明

免责声明:本文内容摘要由平台算法生成,仅为信息导航参考,不代表原文立场或观点。 原文内容版权归原作者所有,如您为原作者并希望删除该摘要或链接,请通过 【版权申诉通道】联系我们处理。

原文地址:访问原文地址
总结与预览地址:访问总结与预览
推荐产品:   推荐产品
文章地址: 访问文章快照