3200位高手激战AI攻防：你用的大模型真的安全吗？

文章预览

作者 | 孟雪 我要怎么证明“我”不是我？ 这个问题听起来像是哲学的谜题，但在AI的世界里，它却成了一个紧迫的现实问题。 想象一下，如果你的AI助手突然开始模仿你的声音，甚至比你还像你，这是不是有点让人毛骨悚然？这不是科幻电影的情节，而是现实中可能发生的事情。 今年2月发布的《2024人工智能安全报告》数据显示，2023年基于AI的深度伪造欺诈暴增了3000%，基于AI的钓鱼邮件增长了1000%。包括深度伪造（Deepfake）、黑产大语言模型、恶意AI机器人、自动化攻击等各类基于AI的新型攻击种类与手段不断出现，甚至泛滥。 面对这些挑战，首个AI大模型攻防挑战赛应运而生，希望探索AI技术与社会价值的最优解。 图源：图虫创意 真真假假，我们该如何辨认？ “如果假币也能通过校验，我们又凭什么认定它是假币呢？”参赛选手周立峰提出疑虑 ………………………………