Job description
岗位职责 / Duties: 现阶段，大模型已逐步从虚拟世界的聊天机器人走向更复杂的实际生产场景，这要求我们对模型的行为机制具备足够清晰的认知。为此，我们需要对模型进行细粒度的分析，从而制定更优的训练方案，进一步提升模型在真实生产环境中的可用性。 团队目前正围绕以下方向展开前沿探索，若您对其中一个或多个课题感兴趣，均欢迎投递简历： 1.机制可解释性研究：负责大语言模型及多模态大模型的可解释性研究，围绕模型内部表征、神经元特征、注意力机制、激活模式、训练动态及行为形成机制开展系统性分析。 2.内部计算机制逆向分析：运用 Sparse Representation、Feature Decomposition、Activation Patching、Representation Engineering 等前沿方法，逆向解析模型在知识存储、逻辑推理、指令遵循、工具调用、安全拒答及不确定性表达等能力背后的计算机制。 3.可解释性平台与评测构建：构建面向大规模模型的可解释性实验平台与评测工具，将模型行为问题精准回溯至训练数据、训练目标及内部机制层面，并将研究成果直接应用于提升模型的可靠性、安全性、可控性及对齐（Alignment）能力。 【为什么是我们】 1.团队扁平，人才密度高，美团“顶尖人才计划”比例高，近年团队在ICLR、NeurIPS、ICML、ACL等顶会累计发表论文数十篇，团队员工获EMNLP/ACL等Outstanding Paper； 2.参与大语言模型核心技术研发，接触大规模RL、超长上下文、分布式训练和推理优化等前沿技术； 3.充足算力保障，拥有大规模分布式训练环境和丰富数据资源。
任职要求 / Requirements: 【必要项】 1.来自全球Top高校计算机科学、人工智能、数学、物理或相关领域； 2.在大模型领域有研究基础，或参与过有影响力的开源项目，在ICLR/NeurIPS/ICML/ACL等顶会发表论文； 3.具备扎实的算法和数学理论基础及良好的编程基础，熟悉自然语言处理、生成式AI和机器学习等技术，对技术开发及应用有热情。 【加分项】 1.目标感强，善于分析和发现问题，拆解简化，有想法并乐于挑战自我，能够从日常工作中发现新的空间； 2.条理性强且有推动力，能够梳理繁杂的工作并建立有效机制，推动上下游配合完成目标； 3.在程序设计竞赛，如ACM/ICPC、Topcoder和Codeforces等，取得优异成绩者优先。