스크랩744B 초거대 모델을 25GB RAM에서? 순수 C 엔진 colibrì로 GLM-5.2 돌리기GPU도 없고 RAM도 25GB뿐인 평범한 컴퓨터에서 744B 파라미터짜리 GLM-5.2 MoE 모델을 실행한다면 믿으시겠어요? 오픈소스 프로젝트 colibrì가 바로 그 일을 해냈습니다. Python도, BLAS도, GPU도 필요 없는 순수 C 엔진(핵심 파일 약 12026.07.10#GLM-5.2#colibrì
스크랩스크랩스크랩