聊一聊做角色扮演大模型的经验

主要观点总结

本文分享了作者关于做角色扮演大模型的的一些心得和思考，包括产品设计的重要性、角色扮演大模型的特性和训练经验等。同时，也介绍了在模型训练过程中数据生产、模型微调等方面的经验和注意事项。

关键观点总结

关键观点1: 产品设计的重要性

作者强调了产品设计的重要性，因为产品的形态不仅决定了目标用户群体的范围，而且会从根本上影响模型的输出设计和交互模式。另外，作者也从技术人员的视角分享了对这个行业的看法。

关键观点2: 角色扮演大模型的特性

作者介绍了角色扮演大模型的特性，包括给 AI 穿上一层「皮」，让它不再是一个助手，而是变成一个有血有肉的角色。与传统的通用大模型相比，角色扮演大模型更注重角色一致性，甚至要有「自我意识」。作者还提到了更优秀的角色扮演模型应当让用户有强烈的沉浸感，引导用户去演绎，去推动剧情。

关键观点3: 数据生产和模型微调的经验分享

作者分享了数据生产和模型微调的经验，包括如何设计人设卡、利用小说语料和生成对话等数据来源，以及数据中的bias问题和如何微调模型等。作者还介绍了参数调整的重要性和一些实践中的注意事项。

文章预览

聊一聊做角色扮演大模型的经验 作者：何先生 原文地址：https://zhuanlan.zhihu.com/p/3641608640 在角色扮演这个领域也爬滚打了一段时间，分享一些自己的心得和思考。为了避免老板看到之后干掉我，有些细节就不展开了，多多包涵。 前面讲一些虚的，后面再上模型训练经验。 1. 角色扮演大模型产品设计的重要性 有朋友就要问了，你明明是一个搞技术的，为什么要聊产品设计。实际上，产品设计直接影响了技术方案。产品的形态不仅决定了目标用户群体的范围，更为关键的是，它会从根本上影响模型的输出设计和交互模式。另外，我也想从技术人员的视角分享一下对这个行业的看法。 1.1 对角色扮演大模型的认知 Role-Play LLM 这个课题特别有意思。东家是搞青少年社区的，在社区里有一种玩法比较风靡，叫做「语C」。语C即是语言 cosplay，是一种文字游戏 ………………………………