ai Claude Mythos와 NVIDIA CUDA 생태계의 장벽 붕괴 가능성 Anthropic이 공개한 사례에서는 Mythos를 활용해 Claude를 AMD GPU에서 구동하는 작업을 기존 6~12개월에서 약 3일로 단축했다고 설명했다.
tech LLM의 Prefill과 Decode — 체감 속도를 좌우하는 두 단계 LLM 추론은 크게 Prefill과 Decode 두 단계로 나뉜다. 사용자 프롬프트 ↓ Tokenizer ↓ ┌──────────────┐ │ PREFILL