【校招】网页预训练数据研究工程师-大模型中心

1.负责网页预训练数据的质量研究、数据方案实现和版本化交付； 2.基于现有网页处理 pipeline，研究不同数据筛选、分类、评分、修复和采样策略对模型能力的影响； 3.建设和优化网页质量评价体系，包括内容质量/知识密度评分，广告/导航/SEO/模板化/低信息内容识别，领域/主题/语言/难度分类，LLM scorer 和轻量分类器的组合使用等； 4.分析被过滤网页数据中的 false rejection，研究通过正文修复、重新切分、去模板、重写、重新评分或降低采样权重等方式恢复训练价值； 5.负责网页数据中的通用知识、STEM、推理及多语言数据覆盖分析，并提出相应的数据采样和配比方案； 6.设计并执行数据消融及 proxy training 实验，评估不同网页数据方案对 General、Knowledge、Reasoning 和 Multilingual benchmark 的影响。

1.计算机科学、人工智能、自然语言处理、数据科学等相关专业硕士及以上学历； 2.熟悉网页文本中的正文抽取、模板内容、重复内容、垃圾内容和语言识别等问题； 3.能够独立设计数据质量指标、训练实验和对照实验，并根据模型结果迭代数据策略； 4.熟练使用 Python，具备良好的数据分析和工程实现能力； 5.熟悉至少一种分布式数据处理或大规模推理框架； 加分项：具有 LLM 预训练数据建设经验；做过网页质量排序、内容理解或搜索索引；有多语言或低资源语言数据经验；熟悉数据去污染、数据溯源和训练数据合规问题。