文章预览
北大—百川联合实验室 北大—百川人工智能联合实验室成立于2024年2月，是由北京大学和百川智能科技有限公司联合创建，旨在解决企业在大模型预训练、微调精调、对齐领域的技术需求。联合实验室由北京大学博雅特聘教授王亦洲和百川智能联合创始人茹立云担任主任。 研究方向及可提供资源 1. 大语言模型的安全与价值对齐算法、理论研究：研究基于人类反馈的强化学习技术、不同参数规模的大语言模型微调技术，提高大语言模型的的帮助性、安全性、指令跟随性，设计更加高效的算法，提升模型可解释性；研究面向大语言模型的价值与安全对齐技术，确保大语言模型与人类价值相一致，包括如何让大语言模型涌现不同的性格特质、符合施瓦茨价值观量表等。 2. 自动化提示词交互机制与系统设计：在应用场景中，模型不仅仅是响应用户提问，
………………………………
