速递｜Anthropic发布了让Claude运作的“系统提示”

文章预览

图片来源：Anthropic 生成性人工智能模型并不是真正的人类。它们没有智能或个性——它们只是统计系统，预测句子中最可能出现的下一个词。但就像在工作场所的实习生一样，它们确实按照指示执行任务而不抱怨——包括最初的“系统提示”，这些提示为模型提供了基本特性以及它们应该做和不应该做的事情。 每个生成性人工智能供应商，从 OpenAI 到 Anthropic，都使用系统提示来防止（或至少尝试防止）模型表现不当，并引导模型回复的一般语气和情感。 例如，一个提示可能会告诉模型它应该礼貌但绝不道歉，或者要诚实地承认它无法知道一切。 但供应商通常对系统提示保持保密——可能出于竞争原因，也可能是因为了解系统提示可能会暗示绕过它的方法。例如，暴露GPT-4o的系统提示的唯一方法是通过提示注入攻击。即便如此，系统的输出也不能 ………………………………