By dryoo in alexa — 08 4월 2013 내 블로그의 가치는 얼마일까? http://mysitecost.com에 접속해서 주소를 넣고 기다리면 됩니다. $275! 누가 사줄 사람은 없지만…;
tech LLM의 Prefill과 Decode — 체감 속도를 좌우하는 두 단계 LLM 추론은 크게 Prefill과 Decode 두 단계로 나뉜다. 사용자 프롬프트 ↓ Tokenizer ↓ ┌──────────────┐ │ PREFILL