#DSpark

1개의 글

DSpark 톺아보기: LLM 추론을 60~85% 빠르게 만든 DeepSeek의 새 추측 디코딩

DSpark 톺아보기: LLM 추론을 60~85% 빠르게 만든 DeepSeek의 새 추측 디코딩

DeepSeek이 공개한 DSpark는 LLM 추론 속도를 끌어올리는 추측 디코딩(speculative decoding) 프레임워크입니다. 핵심은 두 가지를 결합한 데 있습니다.

#Speculative Decoding#LLM 추론 가속