태그 / TAG
#Inference
2026-10 1편
-
모든 조직은 에이전트 실행환경을 가져야 한다
연재 2편. 분리망 조직도 결국 업무용 PC에 범용 에이전트 런타임을 두게 되는 이유와, 이를 조직의 모델과 도구에 연결하는 방법
2026-05 2편
-
Apple Silicon LLM 추론 백엔드 5종 벤치마크
Qwen3.5-9B를 백엔드 5종으로 측정했습니다. 단일 요청은 MLX가 25 tok/s로 가장 빨랐고, 동시 요청을 batching한 것은 omlx뿐이었습니다
-
NVIDIA NIM API — GLM·Kimi·Nemotron·Gemma 4 무료 추론
build.nvidia.com의 오픈소스 모델 100개 이상을 무료로 쓰는 OpenAI 호환 API. 최대 40 RPM, Claude Code·Cursor 연결법
맞는 글이 없습니다.