优刻得

工作职责 职位描述 我们致力于构建UCloud公有云的计算基础设施，打造支持大规模 AI 训练与推理的 GPU 集群底座。团队聚焦下一代计算平台的稳定性与性能优化，深入软硬件协同、虚拟化、网络通信、高性能调度等核心方向，构建极致性能与稳定性的基础架构。 本岗位将聚焦于GPU相关的故障定位、性能调优与系统优化，包括但不限于以下方向： 1. 面向大模型推理与训练场景，深入分析 GPU 性能瓶颈，探索 GPU 层级（如CUDA、NCCL、硬件接口）异常信号的检测、归因与优化手段； 2. 构建 GPU 故障监测体系，提升 GPU 使用过程中对于应用层错误（OOM、Kernel Error 等）和底层资源异常的可观测性与定位能力； 3. 优化 NCCL 通信链路性能，研究其在性能建模、故障预测与资源调度中的应用； 4. 探索GPU 池化、虚拟化与资源共享机制，提升集群资源利用率与可靠性； 5. 参与构建 GPU 性能调优工具链及故障回溯系统，服务云上内外部客户高稳定性与高吞吐需求。 任职资格 职位要求 1. 本科及以上学历，计算机、电子工程等相关专业； 2. 熟悉 GPU 基本架构与工作原理（NVIDIA/AMD/Intel），了解 CUDA 编程模型； 3. 有NCCL 使用经验，熟悉主流训练框架（如 PyTorch、TensorFlow）及并行训练方法； 4. 具备良好的性能分析能力，熟练使用 profiling 工具（如 Nsight、nvprof、perf 等）； 5. 熟练掌握 C/C++ 或 Python，具备良好的系统排查与调优能力； 6. 有 RDMA、NVLink、PCIe 等高速互联协议经验者优先； 7. 有 DPU、GPU 虚拟化或池化相关背景者优先。

工作职责 大模型推理优化工程师 职位描述 负责LLM/VLM大模型的部署与推理性能优化，系统性降低硬件延迟瓶颈，保障高并发下线上服务稳定性（TTFT与TPOT满足SLA要求）。 探索前沿推理加速技术，推动在新型GPU/NPU等硬件上的落地。 任职资格 职位要求 1. 精通Python，熟悉C++，具备高性能代码开发与算法实现能力。 2. 至少具备以下2个领域中的实践经验： a. Transformers与Diffusers库，深入理解Attention变体（GQA、MLA、Linear Attn、Sparse Attn）及其优化技术（FlashAttention、PagedAttention）； b. GPU编程（CUDA/cutlass/Triton/TileLang开发）且掌握性能分析工具（Nsight、PyTorch Profiler等）； c. 模型压缩（量化、稀疏化、知识蒸馏）； d. GPU集群通信架构（卡间通信NVLink/PCIe，机间通信RDMA/RoCE），理解NCCL、HCCL等通信库的工作机制； 3. 符合以下条件者优先： a. 有超大规模模型（1T参数以上）的分布式部署经验； b. 有推理系统经验，如为vLLM、SGLang、TensorRT-LLM贡献过核心PR； c. 有投机采样（Speculative Decoding）的落地与优化经验（如EAGLE、DFlash等）； d. 有相关开源项目、专利或论文发表； e. 有国产芯片（如昇腾、海光等）的在线服务加速经验。 4. 良好的团队协作能力与工程落地能力，对技术有持续热情。