一、欢迎了解北大对齐小组！

PKU-Alignment Group @Pair-Lab (under construction)

北大 Pair-Lab 下属的 北大对齐小组 PKU-Alignment Group 是一个开创性的研究兴趣小组，致力于推进人工智能安全和对齐的前沿。我们的使命是探索支撑人工智能对齐的基本算法和机制，推动理论创新和实际部署。

我们的使命是确保人工智能系统始终与人类目标保持一致。该团队积极分享人工智能研究的最新进展，同时促进安全和对齐实践的发展和实际采用。我们的主要研究方向包括：

• **对齐中的机制和可解释性 ：**研究大模型是否能够有效对齐，其对错位的恢复能力以及对齐机制的可解释性;
• **语言模型的强化学习和后训练 ：**设计更高效、更可靠的后对齐算法;
• **安全对齐和超对齐 ：**解决前沿风险对齐挑战，例如欺骗性对齐、可扩展监督、CBRN 危害和可解释性;以及价值一致性问题，包括区域价值一致性和双向价值锁定。

二、申请表

申请表链接：https://hwcdc27ergv.feishu.cn/share/base/form/shrcnujPFnMnEL4tFrtPLXV9qad

https://hwcdc27ergv.feishu.cn/share/base/form/shrcnujPFnMnEL4tFrtPLXV9qad

• 我们正在寻找本科生、博士后和研究助理。如果你有兴趣加入我们的团队，请填写申请表
• 无论你是否通过申请，我们都会主动联系并通知你结果
• 北大对齐小组 @Pair-Lab 课题组提供了一些可供上手的项目，并配备充足的计算资源以及实习工资；如果对下述项目感兴趣，请填写申请表，并同时将自我介绍与简历发送至 pku.alignment@gmail.com 并抄送给杨耀东老师的个人邮件 yaodong.yang@pku.edu.cn，方便我们及时回复消息。

三、课题列表

项目一：大模型的欺骗性对齐技术

项目概要：

• 推荐阅读篇目：