태그 / TAG
#Ollama
2026-07 1편
-
codex CLI에 로컬 Qwen 물리기 — ollama·vLLM 배선기
codex를 ollama·vLLM 로컬 모델에 연결. ollama는 config.toml 하나, vLLM은 developer 롤 오류를 패치나 프록시로 해결
2026-05 1편
-
Apple Silicon LLM 추론 백엔드 5종 벤치마크
Qwen3.5-9B를 백엔드 5종으로 측정했습니다. 단일 요청은 MLX가 25 tok/s로 가장 빨랐고, 동시 요청을 batching한 것은 omlx뿐이었습니다
맞는 글이 없습니다.