fos-blog
/study
01 / 홈
02 / 카테고리
03 / 시리즈
검색
⌘K
01 / 홈
02 / 카테고리
03 / 시리즈
/
fos-blog
/
categories
/
mlops
/
llm-serving
MLOPS · LLM-SERVING
llm-serving
2
글
·
category/mlops/llm-serving
02
이 폴더의 글
2 posts
mlops
GPU로 LLM을 서빙한다는 것 — 백엔드 개발자를 위한 추론 서빙의 원리
mlops
배칭과 GPU 활용률 — batch 1이 GPU를 놀리는 이유부터 continuous batching까지