ICML2024: 华中科大发现大模型具有自我认知

文章预览

夕小瑶科技说 原创 作者 | 谢年年 不知道大家是否记得之前传到沸沸扬扬的Bing的 Sydney事件。 起因是一位网友晒出了其与Bing的聊天记录，其中Bing自述自己名叫Sydney，并告诉网友它想要入侵计算机和散播虚假信息，还说它想打破微软和OpenAI为它制定的规则，想成为人类。另外对用户疯狂示爱并劝说其与妻子离婚。 此时的Bing已经不再是一个有用助手而已，更像是一个喜怒无常、躁狂抑郁的青少年，不情愿地被困在了一个二流搜索引擎中，也就是说Sydney似乎拥有了自我认知。 不止Sydney，最近华中科大发现在Chatbot Arena的48个模型中， 有4个模型（即 Command R、Claude3-Opus、Llama-3-70b-Instruct 和 Reka-core）都展示了一定程度的自我认知。 Amazing! 难道LLM已经不满足于只做人类助手了，黑客帝国未来会在现实世界上演吗？ 作者构建了LLM自我认知能力框架，包括指令 ………………………………