AI Inference/Serving Engineer(경력)

자격 요건 · 8개

• 컴퓨터공학, 전자·전기공학 또는 관련 분야 전공자
• 학사 학위와 4년 이상의 관련 실무 경험을 보유하신 분 또는 관련 분야 석사/박사 학위와 2년 이상의 관련 실무 경험을 보유하신 분
• 새로운 기술과 다양한 의견을 열린 태도로 받아들이고 적극적으로 학습하시는 분
• LLM Inference의 동작 원리와 주요 개념에 대한 깊은 이해가 있으신 분 (Attention, KV Cache, Prefill / Decode, Continuous Batching 등)
• 최신 LLM Serving 및 최적화 기술에 대한 이해가 있으신 분 (Quantization, Speculative Decoding, Tensor / Pipeline Parallelism, Prefill-Decode Disaggregation 등)
• 다음과 같은 AI Inference Framework/System에 대한 지식 또는 사용 경험이 있으신 분 (vLLM, SGLang, TensorRT-LLM 등)
• CUDA, Triton 또는 기타 Accelerator Programming 경험이 있으신 분
• Kubernetes 환경에서 Inference 서비스를 배포하고 운영해본 경험이 있으신 분

우대 사항 · 5개

• 다양한 Hardware 및 Inference Backend 환경에서 성능을 분석하고 Benchmark를 수행한 경험이 있으신 분
• 워크로드 특성에 맞춰 Serving 파라미터를 튜닝해본 경험이 있으신 분 (Long Context, 고동시성, Chunked Prefill, Prefix Caching 등)
• GPU등 Accelerator Profiling 및 Inference Performance Optimization 경험이 있으신 분(H2D/D2H, 동기화 구간등)
• Inference 워크로드를 관측하거나, 성능 회귀를 CI에서 검출해본 경험이 있으신 분
• 영어로 작성된 논문 및 기술 문서를 읽고, 새로운 기술을 빠르게 실제 시스템에 적용해본 경험이 있으신 분