By dryoo in tech — 08 6월 2012 GPU-Z.0.5.9-[Guru3D.com].exe cfile28.uf.165D5D504FD1404719132C.exe < p style=”text-align: center; clear: none; float: none; “>
tech LLM의 Prefill과 Decode — 체감 속도를 좌우하는 두 단계 LLM 추론은 크게 Prefill과 Decode 두 단계로 나뉜다. 사용자 프롬프트 ↓ Tokenizer ↓ ┌──────────────┐ │ PREFILL