Big Model Weekly | 第29期

文章预览

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入！ 01 Controlling Whisper: Universal Acoustic Adversarial Attacks to Control Speech Foundation Models 支持语音的基础模型，无论是基于灵活语音识别的系统还是音频提示的大型语言模型（LLM），都变得越来越流行。这些模型的一个有趣的方面是，它们能够使用适当的提示执行自动语音识别（ASR）以外的任务。例如，OpenAI Whisper模型可以执行语音转录和语音翻译。随着音频提示LLM的发展，有可能提供更大的控制选项。这项工作证明了这种更大的灵活性，系统可以容易受到模型控制对抗攻击。在没有对模型提示的任何访问的情况下，可以通过适当地改变音频输入来修改系统的行为。为了说明这种风险，本文证明，它是可能的prepend一个短的通用对抗性的声学段的任何输入语音信号覆盖的ASR基础模型的提示设置。具体来说，本 ………………………………