注册    登录
专栏名称: 黄建同学
数码博主 超话主持人（ChatGPT超话） 头条文章作者 我的学习笔记，关注AI+新能源
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  黄建同学

Anthropic 最近发布了一项名为“Best-of-N Ja-20241216192310

黄建同学  · 微博  · AI  · 2024-12-16 19:23
    

文章预览

2024-12-16 19:23 本条微博链接 Anthropic 最近发布了一项名为“Best-of-N Jailbreaking”的研究合作，展示了一种简单且通用的方法，能够绕过前沿 AI 模型的安全机制。这种方法不仅适用于文本，还可应用于视觉和音频模型。 这里有很多例子，太**了，大家自己去看：jplhughes.github.io/bon-jailbreaking/#examples 以下是研究的主要发现和方法总结：#ai##chatgpt# ★ 方法原理 Best-of-N 通过对提示（prompts）进行小幅度修改来实现，比如随机调整大 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
爱可可-爱生活  ·  【Savanna：为卷积多混合模型（StripedHyena 2-20250221141645
10 小时前
爱可可-爱生活  ·  让AI像侦探一样搜索答案？RAG-Gym开创了全新思路 查看图片-20250221073425
16 小时前
爱可可-爱生活  ·  本文提出了高效树搜索算法 ETS，通过线性规划成本模型和语义覆盖-20250221054707
18 小时前
爱可可-爱生活  ·  [LG]《Towards Variational Flow Ma-20250220045725
昨天
人工智能那点事  ·  热搜第一！70名AI公务员上岗！部分工作效率提升100倍！网友：铁饭碗还稳吗？
2 天前
赣榆部落  ·  有调整，涉及赣榆有49家！
8 月前
医药魔方Pro  ·  “一次性”GLP-1基因疗法！可阻止司美格鲁肽停药反弹
8 月前
sundanjian  ·  高中物理学史知识点及题型归纳总结
6 月前
中国基金报  ·  券商资管“老鼠仓”
1 月前
桂林晚报  ·  家属确认死因：系意外溺水
2 周前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号