初级算法研究员
----
我们正在寻找大模型算法研究员,参与大模型核心算法、新型生成范式与模型训练实验相关工作。
该岗位不局限于扩散语言模型方向,也欢迎具备大语言模型、生成式建模、NLP、深度学习、模型训练、论文复现、数据处理或推理优化等相关经验的候选人加入。
我们希望候选人具备较强的学习能力、动手能力和项目交付意识,能够熟练使用 AI 工具,并在 RTX 4090 单卡或多卡环境下完成模型实验、训练调优和结果分析。
工作内容
- 参与大模型核心算法研究与实验探索,方向包括但不限于 dLLM、离散扩散、Masked Diffusion、Flow Matching、非自回归生成、自回归 LLM 等生成建模与语言建模方向。
- 跟踪、阅读并复现大模型、生成式建模、NLP 等方向的前沿论文与开源项目,在团队已有方向下完成实验验证、结果整理与技术沉淀。
- 参与预训练、继续预训练、后训练、偏好对齐、数据合成、模型评测、推理优化等相关算法实验,围绕模型效果、训练稳定性和实验效率进行迭代。
- 参与面向研究的数据处理与评测工作,包括数据清洗、数据分析、数据配比、合成数据构造,以及语言建模、推理、代码、长上下文、多轮对话等能力评估。
- 熟练使用 RTX 4090 单卡或多卡环境进行模型训练与推理实验,能够完成基础训练配置、显存管理、实验调参、日志分析和常见问题排查。
- 独立完成核心大作业、研究项目或算法实验,能够按照目标拆解任务、执行实验、分析结果,并形成清晰的实验记录和技术总结。
职位要求
- 具备大模型、生成式建模、NLP、深度学习、序列建模、强化学习或推理优化等方向的基础知识,能够理解常见模型结构和训练流程。
- 熟悉大模型训练或后训练的基础流程,在预训练、继续预训练、SFT、DPO、RLHF / RLAIF、Reward Model、蒸馏、数据合成、模型评测等方向中,至少有部分学习、复现或项目经验。
- 熟练使用 AI 工具辅助完成论文理解、代码实现、实验设计、问题排查和结果分析。
- 具备 RTX 4090 单卡或多卡实操经验,能够在本地或服务器环境中完成模型训练、微调、推理测试和基础调参。
- 熟悉常用深度学习与大模型工具,如 Python、PyTorch、Transformers、Hugging Face、DeepSpeed、vLLM、Linux、Git 等,至少能熟练使用其中部分工具完成实验。
- 具备较好的问题拆解与实验执行能力,能够从任务目标、实验方案、代码实现到结果分析完成较高质量闭环。
- 具备强学习能力、好奇心和自驱力,愿意持续跟进前沿论文、开源项目和大模型技术变化。
- 能够高质量、独立完成分配的项目或算法实验。
加分项:
- 在大模型核心算法或新型生成范式方向有项目经验,例如 dLLM、离散扩散、Masked Diffusion、Flow Matching、非自回归生成、预训练、后训练、RLHF / DPO、模型蒸馏、数据合成、长上下文、复杂推理、模型评测或推理优化等。
- 有 RTX 4090 单卡或多卡训练经验,熟悉训练稳定性、显存优化、batch 配置、日志分析、吞吐观察或推理测试。
- 有论文复现、开源项目参与、课程大作业、科研项目、算法比赛、技术博客或 GitHub 项目经验。
- 有从 0 到 1 完成模型实验、数据处理、评测脚本、训练流程或推理 Demo 的经验,能够推动想法从理解到实验验证。
- 对 dLLM、生成式建模、大模型训练、后训练、数据合成、模型评测或推理优化有强兴趣,并能快速学习和实践。
- 有顶会论文、顶会 workshop、arXiv 论文、高质量论文复现或科研项目经历者优先,但不作为硬性要求。
- 数学/计算机/统计/物理相关专业尤佳