latent.fs / posts / ai / infra — 5 items

분류 / CATEGORY

AI / Infra

2026-10 1편

  1. Claude 구독 크레딧으로 API를 쓰는 법

    Max·Team 구독의 월 API 크레딧이 어떤 과금 경로에 적용되는지, 조직 연결과 키 관리, Python SDK·ant CLI·Batch API 호출, 차감과 지출 상한의 동작을 정리한다

    AI·Infra #40

2026-07 1편

  1. colab CLI로 무료 GPU 원격 조종

    google-colab-cli로 랩탑에서 무료 Colab GPU를 원격 조종하는 법. T4에 PaddleOCR-VL을 띄워 인보이스를 OCR하는 예제 포함

    AI·Infra #33

2026-05 3편

  1. Apple Silicon LLM 추론 백엔드 5종 벤치마크

    Qwen3.5-9B를 백엔드 5종으로 측정했습니다. 단일 요청은 MLX가 25 tok/s로 가장 빨랐고, 동시 요청을 batching한 것은 omlx뿐이었습니다

    AI·Infra #13

  2. NVIDIA NIM API — GLM·Kimi·Nemotron·Gemma 4 무료 추론

    build.nvidia.com의 오픈소스 모델 100개 이상을 무료로 쓰는 OpenAI 호환 API. 최대 40 RPM, Claude Code·Cursor 연결법

    AI·Infra #3

  3. GitHub Models Inference API — 무료 모델 추론 실험

    GitHub 개인 액세스 토큰과 OpenAI SDK로 GitHub Models의 GPT-4.1, DeepSeek R1 등을 무료로 호출하는 방법과 사용 한도

    AI·Infra #5

태그 / TAGS 191

모든 태그 191개 →