AI Research Engineer - LLM Inference Optimization

자격 요건 · 8개

• 3년 이상의 모델 추론 최적화 연구/개발 경험
• 최신 LLM 아키텍처 및 추론 최적화 기술에 대한 깊은 이해
• vLLM, SGLang, TensorRT-LLM, Text Generation Inference 등 LLM 추론 엔진의 사용 경험 및 내부 동작에 대한 이해
• Model compression (quantization, expert pruning 등)에 대한 깊은 이해 및 실무 경험
• KV cache optimization (quantization, eviction, offloading 등)에 대한 깊은 이해 및 실무 경험
• GPU 프로그래밍 (CUDA/Triton/TensorRT 등)에 대한 깊은 이해 및 실무 경험
• ML/GPU 컴파일러 스택 (XLA, torch.compile/Inductor, MLIR 등)에 대한 깊은 이해 및 실무 경험
• Python, C/C++ 등 하나 이상의 프로그래밍 언어에 대한 높은 수준의 이해, 최신 논문을 읽고 핵심 아이디어를 코드로 구현할 수 있는 능력, 한국어 및 영어 능통자

우대 사항 · 8개

• ML/NLP 분야 국제 학회 논문 게재 경험 (1저자 혹은 교신저자) - Strongly wanted
• vLLM, SGLang, TensorRT-LLM, Transformers 등 오픈소스 LLM 프레임워크 기여 경험
• MoE, long-context, multimodal 모델의 서빙 최적화 경험
• 대규모 분산 추론(Tensor/Pipeline/Expert Parallelism) 설계·튜닝 경험
• 커스텀 CUDA/Triton 커널 작성 및 최적화 경험
• CUTLASS, NCCL, FlashAttention 등 저수준 라이브러리 기여·활용 경험
• NVIDIA 외 하드웨어(AMD GPU, TPU, NPU 등)에서 추론 최적화 경험
• 대규모 GPU 클러스터 환경에서 분산 학습/추론 경험