如风小鸽

# 蚂蚁集团-社招 大模型工程师-推理优化方向 **官网链接：** [https://talent.antgroup.com/off-campus-position?positionId=25040104105921](https://talent.antgroup.com/off-campus-position?positionId=25040104105921) **工作地点：** 上海 **所属部门：** 蚂蚁国际 **职位描述** - 负责大语言模型推理引擎的优化与定制，提升模型服务性能和资源利用率 - 设计和实现高性能推理服务架构，支持多种部署场景和服务形态 - 基于 vLLM、SGLang 等框架进行二次开发，实现定制化的推理优化方案 - 开发和维护模型量化、并行计算等性能优化模块 - 负责推理服务集群的管理与监控，确保服务质量和稳定性 - 参与模型训练流程优化，协助提升模型迭代效率 **职位要求** - 计算机科学、人工智能或相关专业本科及以上学历 - 扎实的 Python/C++...