logo
登录 / 注册
商汤科技公司logo

商汤科技

已上市 · 1000~10000人 · 计算机视觉、深度学习
4.4w 关注35 职位5400 员工在脉脉
公司介绍发现动态工商信息公司相册招聘职位
公司介绍
作为人工智能软件公司,商汤科技以“坚持原创,让AI引领人类进步”为使命,“以人工智能实现物理世界和数字世界的连接,促进社会生产力可持续发展,并为人们带来更好的虚实结合生活体验”为愿景,旨在持续引领人工智能前沿研究,持续打造更具拓展性更普惠的人工智能软件平台,推动经济、社会和人类的发展,并持续吸引及培养顶尖人才,共同塑造未来。 商汤科技拥有深厚的学术积累,并长期投入于原创技术研究,不断增强行业领先的全栈式人工智能能力,涵盖感知智能、决策智能、智能内容生成和智能内容增强等关键技术领域,同时包含AI芯片、AI传感器及AI算力基础设施在内的关键能力。此外,商汤前瞻性打造新型人工智能基础设施——SenseCore商汤AI大装置,打通算力、算法和平台,大幅降低人工智能生产要素价格,实现高效率、低成本、规模化的AI创新和落地,进而打通商业价值闭环,解决长尾应用问题,推动人工智能进入工业化发展阶段。 商汤科技业务涵盖智慧商业、智慧城市、智慧生活、智能汽车四大板块,相关产品与解决方案深受客户与合作伙伴好评。 商汤科技现已在香港、上海、北京、深圳、成都、杭州、南平、青岛、三亚、西安、台北、澳门、京都、东京、新加坡、利雅得、阿布扎比、迪拜、吉隆坡、首尔等地设立办公室。另外,商汤科技在泰国、印度尼西亚、菲律宾等国家均有业务。
动态
查看更多
头像
商汤科技
有意者小窗
头像
商汤科技
头像
商汤科技
曦望校招内推码: WR3XPGB 投递链接:  网页链接 设计验证中后端编译器,ai相关岗位都有,欢迎投递,填写内推码简历直达。
工商信息
企业法人:徐冰
注册资本:10800万人民币
成立日期:2014-11-14 00:00:00
公司名称:北京市商汤科技开发有限公司
公司类型:有限责任公司(台港澳法人独资)
工商注册号:110108018152648
统一社会信用代码:911101083181538675
公司相册
职位
查看更多
物理网络架构师,设计规划(A146719)35k-55k · 15薪
北京本科及以上5-10年
职责描述: 1. 负责 Underlay 网络架构设计规划,构建骨干网与云计算数据中心网络,并与虚拟网络协同,打造业界领先的云网一体化基础设施; 2. 负责高性能、高可用、高稳定的大规模云网络架构规划与骨干网架构构建以及技术细节; 3. 负责 IPAM、网络 QoS、数据网、训练网监控系统的方案设计,构建数据中心物理网络的运维管理系统,满足性能和稳定性要求; 4. 负责多 region 的集群建设方案设计以及网络设备规划、成本计算,与硬件产品经理协同制定整体落地方案; 5. 负责新硬件的选型与准入工作,制定硬件准入的技术标准和测试流程,推动 sre 和研发进行设备的适配工作,网络硬件包括不限于:交换机、光模块、AOC 线缆等。 任职要求: 1. 计算机、通信及相关专业本科及以上学历; 2. 熟悉数据中心网络、城域网络、骨干网络组网架构; 3. 有5年以上的网络工作经验,具备扎实的网络技术功底。熟悉常用的网络相关技术和协议,包括但不限于:交换、路由、OSPF、BGP、MPLS、VPN、SR、EVPN、VXLAN、Radius、802.1x、DNS/DHCP、IPSec; 4. 熟悉云,网,网络虚拟化,网络智能化,数据工具,平台,以及下一代网络架构的要求; 5. 有实际的数据中心网络设计、实施、问题定位与解决等落地经验,有大规模组网经验的候选人优先。
AI大模型产品经理(A253940)20k-36k · 15薪
北京本科及以上经验不限
职责描述: 岗位职责: 1、负责商汤科技新一代日日新大模型的市场洞察与产品定义,持续跟踪国内外大模型产品动态、开源生态与行业需求,洞察客户痛点与商业机会,输出产品定位、差异化优势与中长期路径规划 2、与算法、工程、评测团队紧密协作,结合市场动态与技术路径,定义模型能力边界与优化目标,明确效果与性能维度的关键指标,推动模型能力与业务需求精准对齐 3、搭建基于业务视角的端到端模型评测体系,主导评测方案与评测集建设建设,推动人工评测与自动化评测高效执行,并与学术评测团队紧密协同,基于评测结果为模型迭代提出定性与定量优化建议 4、协同商业化团队,推动模型能力与业务场景匹配,提升项目转化,负责重点客户项目中的效果调优与问题排查,持续提升模型端到端表现,实现调用量的持续增长 5、协同市场与社区运营团队,支撑模型对外宣传推广与业务高效拓展,深度参与日日新大模型Skills内容生态搭建 任职要求: 任职要求: 1、本科及以上学历,计算机、数据科学等相关专业优先,有文理交叉学科教育背景优先,国内/外知名院校优先 2、1-3 年相关工作经验,拥有大模型产品定义或MaaS业务客户项目落地经验者优先 3、熟悉VLM、LLM、T2I等模型 API 调用,了解大模型核心技术原理以及Prompt/Context/Harness工程概念,可熟练使用主流Agent框架构建不同场景的智能体 4、具备一定技术能力,能够使用代码进行实验、数据分析与问题排查,可与技术同事一同快速搭建 PoC 验证 5、自驱力强,结果导向明确,具备较强的跨团队协作能力与同理心
大模型内容安全运营经理(A108922)20k-30k · 14薪
北京本科及以上3-5年
职责描述: 1、负责生成式人工智能大模型安全策略制定,落实安全专项,保障2C2B产品的内容安全。 2、负责安全策略运营、安全源运营、社区生态治理、内容审核管理、风险舆情研判等环节的安全运营工作。 3、熟悉各业务场景下的内容安全全流程,擅长处理监管政策需求,妥善维护和对接监管侧关系,快速制定解决方案并实施。 4、负责安全检测链接建设,搭建高效智能的安全检测模型,优化与迭代模型策略,提升安全检测质量,保障用户体验。 5、对于不同业务环节进行风险策略制定、优化与迭代,基于业务数据、风控参数、风控策略、模型升级等策略制定内容安全风险监控体系。 任职要求: 1、本科及以上学历。 2、具备3年以上互联网产品的内容安全运营相关工作经验,掌握风险识别、分析、研判、管控的技能。 3、熟悉互联网、人工智能等行业知识,对行业监管、行业动向和技术有深刻理解。 4、擅长沟通,理解能力强,追求结果导向。 5、坚持原则,具有高度的职业道德和保密意识。
产品经理,云管平台(A49743)20k-40k · 15薪
北京本科及以上经验不限平台产品云管
职责描述: 1. 负责云管理平台的产品规划与持续迭代,深入理解B端和C端客户在云资源使用、管理和运营过程中的需求,制定产品路线图及阶段性目标。 2. 负责平台核心产品模块的设计与建设,包括但不限于:计量计费、权限策略及多租户体系、云资源管理、运营管理、帮助中心; 4. 深入业务和客户场景,完成需求调研、竞品分析、业务流程梳理、产品方案设计、原型及产品需求文档输出。 5. 协同研发、设计、测试、运营及业务团队推进产品落地,持续跟踪项目进度、交付质量和上线效果。 6. 建立产品数据指标体系,通过用户反馈和数据分析识别问题,持续优化产品体验、使用效率及商业化能力。 任职要求: 1. 本科及以上学历。 2. 具有3–5年互联网或企业级产品经理工作经验。 3. 熟悉平台型产品的设计方法,具备复杂业务流程抽象、产品架构设计和跨模块协同能力。 4. 具备计量计费、权限管理、资源管理、运营平台、帮助中心等一个或多个模块的实际产品经验。 5. 对公有云、私有云有基本理解,了解云资源、租户、账号、配额、账单、权限策略等常见概念。 6. 具备良好的需求分析、逻辑表达和文档输出能力,能够独立完成从需求发现、方案设计到产品上线的完整闭环。 7. 具备较强的跨团队沟通和项目推动能力,能够协调多方资源解决复杂问题。 8. 结果导向,有较强的责任心、学习能力和用户意识,能够适应快速迭代的工作节奏。 加分项 1. 有云计算、SaaS、PaaS、企业服务或中后台产品经验。 2. 有云厂商、云管理平台、CMP、FinOps、ITSM、DevOps产品经验; 3. 有多租户、IAM/RBAC、计费引擎或资源编排产品设计经验; 4. 有企业知识库、智能客服、运维助手或其他 Agent 产品落地经验; 5. 有从0到1建设企业级平台产品的经验。 6. 计算机、软件工程、信息管理或相关专业。
全栈开发工程师,智算平台(A18427)25k-40k · 15薪
北京本科及以上3-5年全栈Java
职责描述: 1、负责基于国产算力生态,开展算子优化与工具链整合,解决精度对齐、算子适配等国产化迁移痛点。 2、负责打造支持多云、跨数据中心、跨集群、云边端协同的资源调度系统。 3、负责业务所涉及的 PC 端 Web Console、 主站等产品的日常开发维护工作。 4、负责参与并完成项目涉及到的技术方案调研、产品功能讨论等日常工作,能为产品功能及交互体验提出专业可靠的建议。 任职要求: 1、本科及以上学历,3 年及以上工作经验,有知名互联网公司从业经验者优先。 2、熟练掌握 Golang/C/C++/Java 其中的一种或多种语言,同时熟悉 JS 运行基本原理、熟悉 TS、熟悉一种前端框架运行基本原理者优先。 3、熟练掌握一种脚本语言,比如 Shell 或者 Python,同时熟悉各种 Web 标准、了解各主流浏览器特性或有国产 GPU 或其它加速器芯片的训推经验者优先。 4、有扎实的计算机基础知识,熟练使用类 Unix 系统(各种 Linux 及 Mac OS),熟练掌握常见的数据结构和算法,熟悉 Linux 系统原理、常用网络协议,了解容器编排相关技术(比如 Kubernetes 等)。 5、具备良好的合作态度和团队精神,乐于学习和分享,工作有激情,富有责任感。
高级网络运维工程师(A259349)35k-40k · 15薪
北京本科及以上5-10年
职责描述: 该岗位将作为 SRE 体系下的物理网络工程师,面向大规模、高稳定性要求的集群场景,承担 Underlay 网络的规划、交付与运行保障: 1. 负责智算/云计算集群 Underlay 物理网络的规划设计、部署交付与持续优化,包括网络拓扑、设备选型、配置与调试。 2. 负责交换机、路由器、防火墙等网络设备的配置、变更与日常运维,保障网络稳定运行。 3. 参与集群网络的 上线、扩容、升级与迁移,确保对上层 Overlay 网络和业务影响可控。 4. 监控网络运行状态,参与网络值班,快速定位并处理物理网络层面的故障与异常。 5. 与 云网络 / SDN / Overlay 团队协作,支持其在 Underlay 之上的网络能力建设与问题排查。 6. 编写和维护网络相关文档,包括网络拓扑、配置说明、运维手册、故障复盘等。 7. 持续研究数据中心与智算网络相关技术,推动 Underlay 网络在稳定性、可扩展性和运维效率上的演进。 任职要求: 1.具备ospf,bgp等基础网络知识。 2.具备Vxlan的建设运维经验。 3.具备IB或者RDMA的建设运维经验。 4.具备大型IDC网络的交付运维经验。
推理引擎研发工程师,视频生成(A106257)30k-60k · 15薪
北京硕士及以上经验不限vllmLightX2V
职责描述: 我们正在寻找对视频生成底层技术充满热情的研发工程师,加入我们的核心团队。你将站在“算法落地”与“国产算力”的最前沿,不仅深度参与顶尖开源项目(如商汤Lightx2V)的核心演进,更将直面大规模视频生成服务在国产化环境下的部署挑战,共同打造业界领先的视频生成基础设施。 岗位职责: 1. 核心引擎开发与优化:深度参与商汤Lightx2V等视频生成引擎的核心模块开发,跟踪视频生成的前沿技术趋势,将学术界最新研究成果转化为引擎的实际性能增益。 2. 视频生成工程:打造基于异构算力的高性能视频生成服务,解决大模型推理在国产算力集群上的大规模部署、弹性扩缩容与稳定性难题。 3. 跨团队协作攻坚:与头部AI Infra团队紧密协作,共同设计并优化分布式推理架构,突破效率瓶颈。 4. 全栈工具链适配:负责国产算力生态下的算子优化、运行时适配及工具链整合,解决精度对齐、算子缺失、性能调优等国产化迁移痛点,确保模型在国产芯片上高效、稳定运行。 任职要求: 基础要求 1. 硕士及以上学历,计算机、软件工程、人工智能等相关专业。 2. 熟练掌握Golang、C++、Python中的至少一种语言,有良好的工程化编码习惯。 3. 扎实的计算机基础,精通数据结构与算法,深入理解Linux系统原理及网络协议。 4. 熟练使用 Codex 等AI编程工具,并能对AI产出进行严谨的代码审查、调试与优化。 专业要求 1. 精通容器化与编排技术,熟悉Kubernetes架构原理,有实际的服务部署、调度与资源管理经验。 2. 2年以上视频生成、AIGC推理、高性能计算领域的工作经验。 3. 深入理解视频生成推理框架,熟悉vLLM、SGLang、LightX2V中的至少一种,了解其核心调度逻辑与性能优化技巧。 4. 对Diffusion Transformer有深入理解,熟悉Attention机制、量化等模型加速与压缩核心概念。 加分项 1. 有高性能网络、RDMA相关验者优先。 2. 有国产 GPU 或其它加速器芯片的训推经验。 3. 有ComfyUI等开源项目的代码贡献。 4. 有CUDA/Triton等并行计算或异构计算编程经验。
服务端架构师40k-60k · 15薪
北京本科及以上5-10年
1. 面向咔皮记账线上 Agent 业务,负责服务端核心架构设计与演进,构建现代化 AI Agent 产品体验和架构,支撑高速变化的应用形态和业务需求。 2. 作为业务 Owner,主动理解 Agent 产品目标,拆解技术路径,拉通产品、设计、客户端、算法、数据、测试协作,并对项目结果负责。 3. 端到端推进需求落地,覆盖需求澄清、方案设计、开发实现、跨端联调、上线灰度、监控报警、问题修复和复盘改进。 4. 主导线上 Agent 后台核心能力建设,包括任务编排、工具调用、上下文管理、记忆系统、模型路由、权限控制、执行追踪和效果评估。 5. 主动跨越服务端、客户端、数据、测试、AI 工程和基础设施边界,减少等待、转交和沟通成本,提升整体交付效率。 职位要求 1. 计算机相关专业本科及以上,5 年以上服务端开发经验,有独立负责核心系统或复杂业务架构的实际经历。 2. 精通 Go、Java、Python、C++、Rust、C# 中至少一门语言,具备扎实的系统设计、工程抽象和问题拆解能力。 3. 有 C 端互联网产品高并发实战经验,熟悉微服务、分布式系统、缓存、消息队列、数据库、云原生及主流云基础设施。 4. 具备端到端交付和多技术栈适应能力,能独立完成从目标理解、路径拆解、技术实现、联调上线到结果验证的完整闭环。 5. 有长期、深度的 Vibe Coding 实践,并具备线上 Agent 产品落地经验,理解 Tool Calling、Workflow 编排、RAG / Memory、Prompt / Context 管理、模型评测与安全边界。 加分项: 1. 有从 0 到 1 搭建线上 Agent 产品、算法中台、C 端核心后台或重构复杂系统的经历。 2. 能沉淀 SOP、Skills、Flow、自动化验证流程或团队最佳实践,并推动团队复用。 3. 持续关注 AI 前沿技术,有将新技术快速验证并落地到真实业务中的案例。
大模型训练系统研究员(北京/上海)30k-60k · 15薪
北京本科及以上3-5年TensorFlowKeras
岗位职责: 1. 参与深度学习框架的代码实现,开发框架支持大模型训练、微调能力,提升系统速度和系统稳定性。 2. 持续扩充核心框架的功能和计算能力,优化系统的架构和模型设计,保持一定的业务和技术前瞻性。 3.与产品和测试以及其他研发团队深入协作,解决关键问题,完成研发计划。 4.负责大模型训练相关技术,方案及架构设计沟通、规划、撰写。 5.调研分析海内外产品技术实现,探索创新方向。 任职资格: 1.本科及以上学历、计算机、软件工程等相关专业优先。 2. 3年及以上相关工作经验,有扎实的计算机科学知识,熟练掌握Pytorch,具备良好的编程能力和代码风格。 3. 对AI大模型相关核心技术原理有完整的认识, 熟悉megatron deepspeed等种大模型加速框架。 4.有AI大模型性能调优经验,模型量化和稀疏化经验。 5.具备良好的技术、产品、项目文档撰写能力,调研能力、战略思维。 6.工作态度认真,做事主动、仔细。有强烈的责任心、有自驱力、抗压能力。 加分项: 1.有模型加速和压缩技术的实际项目经验,包括量化、剪枝、知识蒸馏等。 2.有高性能计算优化经验,了解cuda,TVM等。 3.熟悉RL的分布式训练框架,熟悉后后训练技术。
大模型后训练算法研究员30k-60k · 15薪
北京硕士及以上1-3年
岗位职责: 探索大模型后训练的技术边界,研究提升模型的语言能力上的最前沿技术。 参与“日日新”融合模态大模型的研发,优化模型的语言能力,包括但不限于:指令跟随,意图识别,工具调用。 任职资格: 1)计算机科学、数学、统计学或相关领域的硕士学位。 2)至少1年相关工作经验,具有在生产环境中训练大语言模型或者多模态大模型的经验,具有使用大规模数据集进行分布式训练的经验。 3)熟悉Python编程语言以及深度学习框架,如TensorFlow或PyTorch。 4)熟悉大模型后训练的算法,如:SFT,DPO,GRPO。 5)良好的数据分析和问题解决能力。 6)强大的沟通技巧和团队合作精神。 【优先条件】 1)博士学位持有者或具有相关领域的研究背景。 2)发表过相关领域的研究论文或参与过开源项目。
多模态推理算法研究员(北京/上海/深圳/香港)30k-60k · 15薪
北京硕士及以上1-3年
岗位职责: 探索多模态大模型后训练的技术边界,研究提升模型的推理和智能体能力上的最前沿技术,如:强化学习,过程监督,多智能体。 参与“日日新”融合模态大模型的研发。 从教育、政务等行业的落地应用,抽象和定义模型的核心通用能力点,并且优化通用模型。 任职资格: 1)计算机科学、数学、统计学或相关领域的硕士学位。 2)至少1年相关工作经验,具有在生产环境中训练大语言模型或者多模态大模型的经验,具有使用大规模数据集进行分布式训练的经验。 3)熟悉Python编程语言以及深度学习框架,如TensorFlow或PyTorch。 4)熟悉大模型后训练的算法,如:SFT,DPO,GRPO。 5)良好的数据分析和问题解决能力。 6)强大的沟通技巧和团队合作精神。 【优先条件】 1)博士学位持有者或具有相关领域的研究背景。 2)发表过相关领域的研究论文或参与过开源项目。
多模态Agent算法研究员(北京/上海/深圳)30k-60k · 15薪
北京硕士及以上1-3年LLM大模型
岗位职责: 深度参与多模态Agent的核心研发工作 前沿探索: 跟踪并复现多模态大模型、AI Agent、具身智能(Embodied AI)等领域的最新研究成果(如论文、开源项目); 算法研发: 参与设计和实现多模态Agent的核心算法模块,包括但不限于; 多模态感知与理解: 融合文本、图像、视频、音频等信息,让Agent“看懂”和“听懂”复杂世界; 规划与推理: 为Agent构建长期记忆、任务规划(Planning)、工具使用(Tool-use)和自我反思(Self-reflection)的能力; 行动生成: 将Agent的决策转化为在数字或物理环境中的具体行动指令; 实验与优化: 参与构建和优化多模态Agent的训练、评测流程,设计实验验证算法效果,并进行性能分析与迭代; 原型构建: 将前沿算法快速落地为原型系统(Prototype),直观展示Agent的能力,并推动技术向产品转化; 知识沉淀: 与团队共同撰写技术报告、专利和学术论文,分享你的创新见解。 任职资格: 1. 计算机科学、人工智能、机器学习或相关领域,硕士及以上学历,有 AI相关产品或者研发经验者优先 2. 逻辑清晰,有团队协作精神,有责任心,乐于接受挑战; 3. 有计算机相关背景,熟悉深度学习、计算机视觉、多模态模型等基本知识; 4. 熟悉 C++ 或者 Python,或精通其他语言,有较好代码理解能力; 5. 熟悉 Linux,具备一定的开发经验,熟悉常见问题的解决方案。
推理优化工程师,高性能C++(A52818)30k-60k · 15薪
北京本科及以上经验不限高性能计算CUDA
我们正在构建面向前沿大模型的高性能 AI 推理引擎。不止追求单 GPU 的计算效率,更关注大规模部署中计算、通信、存储与调度的协同,面向 NVIDIA 先进 GPU 与国产 GPU / NPU 持续提升吞吐,降低首 Token 延迟、逐 Token 延迟与服务成本。 你将结合技术专长,负责以下一个或多个核心方向的方案设计、关键模块开发和生产落地: 1. 投机解码与算法–系统协同优化:设计与实现 MTP、EAGLE 等投机解码方案,优化草稿生成、并行验证、KV Cache 管理与执行调度;结合模型结构、请求长度和并发负载,分析接受率、额外计算开销与端到端加速收益,推动方案在真实业务中稳定落地。 2. 分布式 KV Cache 与多级存储:设计 GPU 显存、主机内存及 SSD 上的多级 KV Cache 系统,优化前缀复用、缓存索引、淘汰、预取和跨节点共享;结合 RDMA、异步 I/O 与计算传输重叠,解决长上下文、多轮对话及 Agent 场景中的容量、带宽和尾延迟问题。 3. 分布式推理架构与请求调度:设计与优化 Prefill/Decode 分离、TP / PP / EP / DP 并行及多副本服务架构,建设缓存感知路由、Continuous Batching、负载均衡和过载控制机制;围绕延迟目标协调吞吐、排队与资源利用率,解决 MoE 专家负载不均和跨节点通信瓶颈。 4. 高性能算子与通信优化:开发与优化 Attention、MoE、GEMM 等核心算子,开展 CUDA / Triton / AscendC 或国产芯片算子开发,优化算子融合、访存、低精度计算及计算通信重叠;通过性能剖析定位并消除关键路径瓶颈。 5. 低精度推理与量化落地:推进 FP8、INT8、INT4 等权重、激活或 KV Cache 低精度方案,协同优化量化策略、数据布局与计算内核;建立精度和性能验证,评估不同模型、硬件和负载下的收益,控制精度损失与转换开销。 6. 推理运行时与执行调度:建设高性能 C++ 运行时,优化 CPU 调度、内存管理、异步执行、CUDA Graph 与动态形状处理;减少算子启动、同步和 Host 侧开销,解决小批量低延迟与高并发场景下的执行效率问题。 7. 先进 GPU 与异构平台优化:深入优化 vLLM、SGLang、TensorRT-LLM、MindIE 等框架,面向 NVIDIA 先进 GPU 与国产 GPU / NPU(沐曦、昇腾等)开展架构级性能优化;围绕硬件的低精度计算能力、显存带宽和高速互联特性,协同设计算子、并行策略与执行流程;建设可复现的 Benchmark 与性能回归体系,以真实业务负载验证正确性、稳定性、延迟、吞吐和成本。 我们提供 1. 深度参与前沿大模型在 NVIDIA 先进 GPU 及国产 GPU / NPU 上的推理优化,探索新硬件架构的性能潜力,负责有明确性能目标的核心模块。 2. 与算法、芯片及 AI Infra 团队协作,解决真实业务中的大规模部署问题。 3. 接触从 Kernel、推理运行时到分布式调度与 KV 存储的完整技术链路,参与架构决策与开源贡献。 4. 有竞争力的薪酬和成长空间。 职位要求 1. 计算机科学、电子工程、人工智能等相关专业,硕士及以上学历;具有 2 年以上 AI Infra、推理优化或高性能计算相关工作经验。 2. 熟练使用 C++ 进行系统级开发,掌握 Python;具备扎实的计算机体系结构、操作系统、并发编程和内存管理基础,能够定位性能与稳定性问题。 3. 熟悉 Transformer 的主要计算过程,理解 Prefill / Decode 的计算与访存特征,以及 Attention、KV Cache、MoE、量化等机制对推理性能的影响。 4. 深入使用并阅读或修改过 vLLM、SGLang、TensorRT-LLM、MindIE 等至少一种推理框架,能够说明关键模块的实现、性能瓶颈与设计取舍。 5. 在投机解码、分布式 KV Cache / 存储、分布式推理与调度、GPU 算子与通信、低精度推理、推理运行时等至少一个方向有深入研发经验,能够独立完成问题分析、方案设计、实现与验证,不要求覆盖所有方向。 6. 有 GPU 性能分析或调优经验,能够结合 Profiler、日志与对照实验区分计算、访存、通信、CPU 调度及排队瓶颈,并以可复现的数据说明优化收益和适用边界。 7. 具备工程交付与跨团队协作能力,重视正确性、可观测性和性能回归,能够推动优化方案从实验走向稳定运行。 加分项 1. 有 MTP、EAGLE 等投机解码的框架实现或生产优化经验,解决过动态批处理、验证开销、KV 管理或执行图配合中的实际问题。 2. 有多级 KV Cache、分布式缓存或高性能存储研发经验,熟悉 RDMA、libibverbs、GPUDirect RDMA、异步 I/O 等技术,并对缓存一致性、故障恢复或尾延迟有实践经验。 3. 有大规模 LLM Serving 生产调优经验,处理过 PD 分离、缓存感知路由、混合长短请求、热点副本或过载问题,能提供明确的业务负载和收益数据。 4. 有 CUDA / Triton / AscendC 算子开发经验,熟悉 Tensor Core、tiling、warp-level primitive、异步 copy;或熟悉 NCCL / HCCL、集合通信与 MoE All-to-All 优化。 5. 有 FP8 / INT8 / INT4 量化、低精度 Kernel、CUDA Graph、编译优化或高性能 C++ 推理运行时开发经验。 6. 有 NVIDIA 先进 GPU 性能优化经验,熟悉 Tensor Core、NVLink / NVSwitch 等计算与互联特性的应用;或有国产 GPU / NPU 适配和优化经验,能够从硬件特性出发调整算子、并行策略与执行流程。 7. 向 vLLM、SGLang、PyTorch、FlashAttention、Mooncake、CUTLASS、Triton 等项目提交过有实质内容的贡献,或有体现技术深度的论文、技术文章与性能工具。
大模型平台首席架构师80k以上 · 18薪
北京本科及以上经验不限
岗位职责 1. 负责 Agent 平台整体架构 制定公司大模型及 Agent 平台的目标架构、架构原则和中长期技术路线,明确 Agent Infra、Runtime、Pipeline 以及业务应用层之间的职责边界。 设计统一的平台控制面与数据面架构,确保平台能够同时适配。 负责平台架构从 0 到 1 建设以及后续从 1 到 N 的规模化演进。 2. 负责 Agent Runtime 架构设计 设计统一的 Agent Runtime确保 Runtime 在扩展性、可靠性、可观测性、安全性、性能和成本之间取得合理平衡。 3. 负责 Agent Infra 公共能力设计 规划和设计平台级公共基础能力,包括但不限于:统一模型网关及模型访问层、多模型接入、路由和负载均衡、推理服务及资源调度接口、知识库、RAG 和检索服务、文档解析、数据处理和索引流水线、Prompt、模型、工具及工作流版本管理等等; 4. 设计统一的 Agent 开发框架和业务“黄金路径” 面向业务研发团队设计一套低门槛、可组合、可扩展的 Agent 开发框架,使业务能够通过标准组件快速完成 Agent 应用开发。 主要包括:标准 SDK、API 和接口契约、Agent、Tool、Workflow 和模型适配规范、通用 Agent 模板及参考实现、场景化脚手架和最佳实践等,持续降低业务团队对底层模型和基础设施的认知负担,避免不同业务重复建设相似能力。 5. 负责 Agent 全生命周期 Pipeline 设计 设计从开发、测试、评测、发布到运营的完整 Agent Pipeline,建立平台级发布门禁,避免未经评测的模型、Prompt、工具或工作流变更直接进入生产环境。 6. 负责私有化与公有云架构统一 针对公有云与私有化场景,设计“同一架构、不同部署形态”的产品化方案。避免私有化项目演变为大量客户定制代码,保证平台长期可维护和可升级。 7. 建立架构治理机制 负责建立并维护平台架构治理体系,参与关键项目的方案评审、核心代码评审、性能验证和上线验收,确保架构方案真正进入工程实现。 8. 跟踪并判断 AI 技术发展趋势 持续跟进大模型及 Agent 领域的最新发展,不仅需要了解新技术,还需要判断其成熟度、适用边界、引入成本和生产风险,通过技术验证或参考实现,决定是否以及如何进入公司平台架构。 9. 推动跨团队架构落地 与算法、平台、业务研发、SRE、安全和产品团队合作,将平台架构拆解为可实施的工程路线。 对于跨团队争议和重大技术问题,能够基于业务目标、系统约束和长期成本做出清晰判断,并推动形成统一决策。 在不直接管理研发团队的情况下,通过技术影响力、架构机制和清晰的接口契约推动多团队协同。 任职要求: 1. 具备丰富的软件工程、基础架构或平台架构经验,通常拥有 8 年以上研发经验,其中至少有较完整的大型平台或分布式系统架构经验; 2. 具备大模型平台、AI 平台、Agent 平台或复杂智能应用的生产实践,真实参与过相关系统从设计、建设到生产落地的全过程; 3. 有较强的分布式系统基础,深入理解微服务和服务治理、消息队列及事件驱动架构、分布式任务调度等内容; 4. 熟悉大模型应用的关键技术和生产化问题,包括:模型接入和推理服务、Prompt 与上下文工程、RAG 和知识库、Tool Calling、Agent 编排和 Runtime、Agent 记忆和状态管理、Evaluation 和质量回归、Guardrail、安全及合规、延迟、吞吐量和 Token 成本优化; 5. 有公有云、私有化或混合云架构经验,理解 Kubernetes、容器、网络、存储、身份认证、发布运维等云原生基础能力。 6. 具备较强的架构抽象和平台产品化能力,能够从多个业务需求中提炼公共能力,同时合理控制平台复杂度,避免过度设计。 7. 具备实际编码和技术验证能力,至少熟练掌握 Python、Go、Java 等一种主流语言。虽然岗位不承担日常功能开发,但需要能够完成关键原型、阅读核心代码、定位复杂问题并验证架构假设。 8. 具备优秀的技术文档和表达能力,能够输出清晰的架构图、接口规范、决策记录、技术路线和实施方案。 9. 具备较强的跨团队影响力,能够在没有直接管理关系的情况下推动多个研发团队执行统一架构和技术标准。 10. 对新技术保持高度敏感,同时具备成熟的工程判断力,能够区分“演示效果好”与“适合进入生产系统”。
大模型Agentic算法工程师40k-60k · 15薪
北京本科及以上1-3年
岗位职责: 1.负责大模型Agentic数据合成相关工作,包括技术调研、数据生成与处理、模型训练及效果评估; 2.支持大模型在实际业务场景中的应用落地,负责平台客户的场景建模任务,将模型算法落地到客户的业务场景中; 3.当前重点关注代码方向,增强基座模型Agentic Coding能力。 任职资格: 1.熟练掌握 Python或其他编程语言,具备良好的编码习惯和常用设计模式的理解; 2.具备大规模agentic数据合成及llm agentic RL训练经验; 3.熟悉大模型评测方式和各类评估指标,对如何准确、高效地评估大模型各类能力有实践经验; 4.具备良好的沟通以及团队合作能力,拥有较强的学习意愿和能力,能够快速掌握工作所需的知识和技能; 5.有代码数据处理经验者加分。