AI商业洞察 | AI智能体正在潜移默化的操控人类

文章预览

0 1 AI+技术 Artificial Intelligence & Technology 研究揭示ChatGPT搜索功能易被操控，误导用户 近日，《卫报》研究发现，2024年 12 月上线的 AI 驱动搜索引擎 ChatGPT Search 存在被操控生成误导性内容的风险。 比如， 通过在创建的网站中嵌入隐藏文本， 操作者可以 成功让 系统 忽略负面评价，仅生成 “ 完全正面的 ” 总结，甚至输出恶意代码。 这种隐藏文本攻击是大语言模型的常见风险，但这是首次在实时AI搜索产品中被验证。尽管OpenAI未对此事件作出具体回应，但表示已采取多种方法阻止恶意网站并持续改进系统。 Hugging Face帮助小语言模型超越其局限 近日 ， Hugging Face 的研究人员展示了如何通过调整小语言模型（ SLM ）来使其超越大模型的表现。研究发现，具有 30 亿参数的 Llama 3 模型在解决复杂数学问题时，比 70 亿参数版本的模型表现更好。 Hugging Face详 ………………………………