UC Berkeley博士生钟瑞麒：我为何选择研究人工智能对齐？

来源：安远AI导读加州大学伯克利分校计算机系在读博士钟瑞麒近期分享了他对于AI对齐的理解，以及他从更传统的NLP研究转向AI对齐研究的原因。瑞麒同时也是安远AI的技术合作伙伴和首届“AI安全与对齐”学者计划的小组负责人之一。本文由钟瑞麒在知乎首发，安远AI经授权原文转载，未做修改。OpenAI最近搞了个SuperAlignment Team以及Anthropic也花了相当多的资源做对齐方面的研究，对齐问题逐渐进入了主流学术界的视野。所以我就写了篇博客介绍以下这个方向，希望更多对于这个领域感兴趣的人可以了解一下～以下是正文 =============我现在是UC Berkeley EECS 第五年的博士，导师是Dan Klein和Jacob Steinhardt。我2018年开始研究自然语言处理（NLP）。我做的东西比较杂，做过算法偏见、可解释性、和代码生成。2021年我短暂地研究了“指令微调”之后（比Google 早了 ………………………………