📡 MLOps 지금 흐름
MLOps 분야는 대규모 언어 모델(LLM)의 고성능 추론 및 서빙에 초점을 맞추고 있으며, 이를 위한 최적화 엔진과 기술 공유가 활발합니다. 또한, 워크플로우 오케스트레이션은 쿠버네티스 기반의 전문 플랫폼이나 데이터 자산 관리에 특화된 도구로 진화하고 있습니다. 전반적으로 모델 배포 및 운영 단계에서 효율성과 시스템 통합을 강화하는 방향으로 발전하고 있습니다.
mlopsgpuinferencequantizationdata-sciencecuda
vllm-project/vllm
100
대규모 언어 모델 추론 및 서빙을 위한 고성능 엔진입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 90703
★ 90,7032026-09-01이슈 7,317
apache/airflow
98
워크플로우를 코드로 작성하고 스케줄링하며 모니터링하는 플랫폼입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 46687
★ 46,6872026-09-01이슈 2,060
deepspeedai/DeepSpeed
98
분산 훈련과 추론을 쉽고 효율적으로 만드는 딥러닝 최적화 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 43049
★ 43,0492026-09-01이슈 1,353
hpcaitech/ColossalAI
98
대규모 AI 모델을 더 저렴하고 빠르게 구동할 수 있도록 돕는 기술입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 41448
★ 41,4482026-08-31이슈 504
fastai/fastai
97
빠르게 딥러닝 모델을 구축하고 학습할 수 있도록 돕는 라이브러리입니다.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 28129
★ 28,1292026-08-29이슈 268
PaddlePaddle/Paddle
97
산업 현장 기반의 고성능 딥러닝 및 머신러닝 프레임워크입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 24068
★ 24,0682026-09-01이슈 1,494
EthicalML/awesome-production-machine-learning
97
배포, 모니터링, 버전 관리 및 확장을 위한 오픈소스 머신러닝 라이브러리 목록입니다.
MLOpsMIT
최근 30일 내 활발 · 라이선스 MIT · stars 20884
★ 20,8842026-09-01이슈 34
argoproj/argo-workflows
96
쿠버네티스 환경에서 워크플로우를 실행하는 엔진입니다.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 16949
★ 16,9492026-09-01이슈 1,257
dagster-io/dagster
96
데이터 자산 개발부터 운영 및 관리를 위한 오케스트레이션 플랫폼입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 16083
★ 16,0832026-09-01이슈 2,583
apache/tvm
96
머신러닝 모델을 위한 오픈 컴파일러 프레임워크를 제공한다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 13710
★ 13,7102026-09-01이슈 239
NVIDIA/TensorRT
96
NVIDIA GPU에서 고성능 딥러닝 추론을 위한 SDK입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 13310
★ 13,3102026-08-25이슈 631
halfrost/Halfrost-Field
96
소스 코드 분석, 시스템 설계 및 엔지니어링 실무 노트 저장소입니다.
MLOpsGoCC-BY-SA-4.0
최근 30일 내 활발 · 라이선스 CC-BY-SA-4.0 · stars 13223
★ 13,2232026-08-31이슈 0
fivetran/great_expectations
95
데이터의 예상되는 상태를 지속적으로 확인하고 데이터 품질을 관리합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 11763
★ 11,7632026-09-01이슈 43
LMCache/LMCache
95
LLM 추론 속도를 높이는 고속 키 값 캐시 레이어를 제공합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 11609
★ 11,6092026-09-01이슈 611
triton-inference-server/server
95
최적화된 클라우드 및 엣지 환경에서의 추론 서버를 제공합니다.
MLOpsPythonBSD-3-Clause
최근 30일 내 활발 · 라이선스 BSD-3-Clause · stars 10957
★ 10,9572026-09-01이슈 891
skypilot-org/skypilot
95
다양한 AI 인프라에서 AI 워크로드를 실행하고 관리하며 확장합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 10546
★ 10,5462026-09-01이슈 393
catboost/catboost
95
다양한 머신러닝 작업에 사용 가능한 빠르고 확장성 높은 부스팅 트리 라이브러리입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 9086
★ 9,0862026-09-01이슈 712
0xPlaygrounds/rig
95
러스트로 모듈화되고 확장 가능한 대규모 언어 모델 애플리케이션을 구축합니다.
MLOpsRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 8492
★ 8,4922026-09-01이슈 110
evidentlyai/evidently
94
Evidently is an open-source ML and LLM observability framework. Evaluate, test, and monitor any AI-powered system or data pipeline. From tabular data to Gen AI. 100+ metrics.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 7875
★ 7,8752026-08-31이슈 300
h2oai/h2o-3
94
분산 환경에서 딥러닝부터 다양한 머신러닝 모델을 지원하는 플랫폼입니다.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 7498
★ 7,4982026-09-01이슈 2,883
mnfst/manifest
94
다양한 공급자 간 에이전트와 하네스를 연결하고 관리하는 게이트웨이입니다.
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 7494
★ 7,4942026-09-01이슈 108
feast-dev/feast
94
AI 및 머신러닝을 위한 오픈소스 피처 스토어를 제공합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 7242
★ 7,2422026-08-30이슈 422
katanemo/plano
94
에이전트 앱을 위한 AI 네이티브 프록시 및 데이터 플레인을 제공합니다.
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 7033
★ 7,0332026-08-19이슈 139
🚀🆕FareedKhan-dev/kimi-k3-in-c
94
A 2.78-trillion-parameter Kimi K3 running inference on a single CPU in 8.24 GB of RAM. Portable C99: no BLAS, no framework, no GPU.
MLOpsCApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 6976
★ 6,9762026-08-26이슈 7
clearml/clearml
94
AI 워크로드를 간소화하는 통합 MLOps 및 LLMOps 솔루션을 제공합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 6850
★ 6,8502026-08-30이슈 528
tbphp/gpt-load
94
Self-hosted AI gateway for multi-channel, multi-credential setups — API keys and subscription accounts, scheduling, failover, request logs and usage. 自托管 AI 网关：多渠道多凭据统一接入，含密钥与订阅账号、调度容错、日志与用量。
MLOpsGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 6290
★ 6,2902026-09-01이슈 2
aimhubio/aim
94
사용하기 쉬운 오픈소스 실험 추적 도구입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 6247
★ 6,2472026-09-01이슈 470
kserve/kserve
94
쿠버네티스 기반의 확장 가능한 다중 프레임워크 AI 추론 플랫폼을 제공한다.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5848
★ 5,8482026-09-01이슈 200
NVIDIA/DALI
94
GPU 가속을 이용해 딥러닝 학습 및 추론에 필요한 데이터 처리 기능을 제공합니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5739
★ 5,7392026-09-01이슈 216
gpustack/gpustack
94
고성능 AI 모델 서빙과 온디맨드 GPU 인스턴스를 관리하는 클러스터 매니저입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5582
★ 5,5822026-09-01이슈 688
NVIDIA/cuml
94
NVIDIA cuML: GPU-Accelerated Machine Learning
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 5270
★ 5,2702026-09-01이슈 851
microsoft/SynapseML
94
분산 환경에서 간단하게 머신러닝을 구현할 수 있도록 돕는 라이브러리입니다.
MLOpsScalaMIT
최근 30일 내 활발 · 라이선스 MIT · stars 5242
★ 5,2422026-08-31이슈 141
sktime/pytorch-forecasting
93
PyTorch를 이용한 시계열 예측 모델을 구현하는 라이브러리입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4979
★ 4,9792026-08-31이슈 800
latitude-dev/latitude-llm
93
오픈소스 AI 모니터링 플랫폼을 제공하여 에이전트 및 LLM의 상태를 관찰합니다.
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 4611
★ 4,6112026-09-01이슈 74
kubeflow/pipelines
93
쿠버네티스 환경에서 머신러닝 파이프라인을 구축하고 관리하는 도구입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 4199
★ 4,1992026-09-01이슈 467
Netflix/maestro
93
넷플릭스의 워크플로우 오케스트레이션을 담당하는 도구입니다.
MLOpsJavaApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3831
★ 3,8312026-08-26이슈 57
vllm-project/llm-compressor
93
vLLM용으로 다양한 압축 알고리즘을 적용하는 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3748
★ 3,7482026-09-01이슈 137
NVIDIA/TransformerEngine
93
엔비디아 GPU에서 트랜스포머 모델을 가속화하는 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3514
★ 3,5142026-09-01이슈 341
Jittor/jittor
93
JIT 컴파일과 메타 연산자를 기반으로 하는 고성능 딥러닝 프레임워크입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3231
★ 3,2312026-09-01이슈 272
heavyai/heavydb
92
HeavyDB (formerly MapD/OmniSciDB)
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 3059
★ 3,0592026-09-01이슈 264
thu-pacman/chitu
92
대규모 언어 모델 추론을 위한 효율적이고 유연한 프레임워크를 제공한다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2997
★ 2,9972026-09-01이슈 57
leptonai/leptonai
92
AI 서비스 구축을 간소화하는 파이썬 프레임워크입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2823
★ 2,8232026-09-01이슈 20
vllm-project/vllm-ascend
92
Ascend 환경에서 vLLM을 구동하기 위한 커뮤니티 유지 하드웨어 플러그인이다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2741
★ 2,7412026-09-01이슈 2,871
intel/neural-compressor
92
다양한 저비트 양자화 및 희소성 기법으로 대규모 언어 모델을 압축합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2706
★ 2,7062026-09-01이슈 25
meta-pytorch/torchrec
92
PyTorch 기반의 추천 시스템 개발을 위한 라이브러리입니다.
MLOpsPythonBSD-3-Clause
최근 30일 내 활발 · 라이선스 BSD-3-Clause · stars 2600
★ 2,6002026-09-01이슈 272
bestruirui/octopus
92
One Hub All LLMs For You | 为个人打造的 LLM API 聚合网关
MLOpsTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 2573
★ 2,5732026-09-01이슈 15
apache/burr
92
결정 기능을 가진 애플리케이션을 구축하고 자체 인프라에서 모니터링 및 실행합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2537
★ 2,5372026-09-01이슈 106
huggingface/huggingface.js
92
자바스크립트로 허깅페이스의 기능을 사용할 수 있게 해주는 라이브러리입니다.
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 2509
★ 2,5092026-09-01이슈 289
akuity/awesome-argo
92
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2478
★ 2,4782026-08-07이슈 0
lupinemachines/lupine
92
원격 머신의 GPU를 CPU 전용 시스템에 연결하는 GPU 오버 IP 브릿지입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2422
★ 2,4222026-09-01이슈 19
openlake-project/openlake
92
효율적인 LLM 추론 및 GPU 학습을 위한 고성능 스토리지 엔진입니다.
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 2384
★ 2,3842026-09-01이슈 133
4paradigm/OpenMLDB
91
학습과 추론에 일관된 특징을 제공하는 오픈소스 머신러닝 데이터베이스입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1711
★ 1,7112026-09-01이슈 410
kubeflow/katib
91
쿠버네티스 환경에서 자동화된 머신러닝 작업을 수행하는 도구입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1699
★ 1,6992026-09-01이슈 113
mlrun/mlrun
91
ML 애플리케이션의 개발부터 운영까지 전 과정을 관리하는 오픈소스 MLOps 플랫폼입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1694
★ 1,6942026-09-01이슈 124
psalias2006/gpu-hot
91
🔥 Real-time NVIDIA GPU dashboard
MLOpsJavaScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1625
★ 1,6252026-08-25이슈 5
intel/auto-round
91
다양한 환경에서 높은 정확도를 유지하는 저비트 LLM 추론 양자화 알고리즘을 제공한다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1597
★ 1,5972026-09-01이슈 115
tensorflow/model-optimization
91
케라스와 텐서플로우 모델을 배포에 최적화하는 도구 모음입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1578
★ 1,5782026-08-24이슈 245
xLLM-AI/xllm
91
다양한 AI 가속기에 최적화된 고성능 LLM, VLM, DiT, REC 추론 엔진입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1551
★ 1,5512026-09-01이슈 211
fmind/mlops-python-package
91
MLOps 이니셔티브와 데이터 파이프라인을 시작하고 표준화하는 종합적인 파이썬 패키지입니다.
MLOpsJupyter NotebookMIT
최근 30일 내 활발 · 라이선스 MIT · stars 1416
★ 1,4162026-08-31이슈 5
kitops-ml/kitops
91
AI/ML 모델, 데이터셋, 코드 등을 컨테이너 이미지로 패키징하고 버전 관리하는 도구입니다.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1409
★ 1,4092026-09-01이슈 45
alibaba/rtp-llm
91
다양한 애플리케이션을 위한 알리바바의 고성능 LLM 추론 엔진입니다.
MLOpsCudaApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1323
★ 1,3232026-09-01이슈 217
NVIDIA/kvpress
90
LLM의 키-값 캐시 압축을 쉽게 구현할 수 있도록 돕는 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1198
★ 1,1982026-09-01이슈 5
huggingface/optimum-quanto
90
PyTorch 양자화를 위한 최적화 백엔드를 제공합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1054
★ 1,0542026-08-25이슈 1
Xilinx/finn
90
FPGA에서 양자화된 신경망 추론을 위한 데이터 흐름 컴파일러입니다.
MLOpsPythonBSD-3-Clause
최근 30일 내 활발 · 라이선스 BSD-3-Clause · stars 1046
★ 1,0462026-09-01이슈 114
🆕syv-ai/qwen38-27b-rtx3090
90
Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 1024
★ 1,0242026-09-01이슈 9
openvinotoolkit/model_server
90
OpenVINO로 최적화된 모델을 위한 확장 가능한 추론 서버입니다.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 923
★ 9232026-09-01이슈 136
NVIDIA/cudnn-frontend
90
cuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 921
★ 9212026-09-01이슈 156
🆕patchy631/time-to-first-token
90
A 10-week, 30-minutes-a-day roadmap for LLM inference serving and optimization. vLLM, SGLang, quantization, speculative decoding, benchmarking.
MLOpsHTMLApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 865
★ 8652026-08-14이슈 3
SomeOddCodeGuy/WilmerAI
90
여러 LLM API를 연결하여 프롬프트를 조작하는 챗봇 및 애플리케이션 개발 도구입니다.
MLOpsPythonGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 830
★ 8302026-08-09이슈 3
GoogleCloudPlatform/vertex-ai-samples
89
구글 클라우드 버텍스 AI를 활용한 머신러닝 및 생성형 AI 워크플로우 예제 모음입니다.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 782
★ 7822026-09-01이슈 74
MLOps-Courses/mlops-coding-course
89
Learn how to create, develop, and maintain a state-of-the-art MLOps code base
MLOpsCC-BY-4.0
최근 30일 내 활발 · 라이선스 CC-BY-4.0 · stars 735
★ 7352026-08-24이슈 1
statmike/vertex-ai-mlops
89
구글 클라우드 플랫폼의 머신러닝 운영 전 과정을 지원하는 워크플로우를 제공한다.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 713
★ 7132026-08-08이슈 15
databricks/mlops-stacks
89
데이터브릭스에서 프로덕션 표준을 따르는 머신러닝 프로젝트 시작 스택을 제공합니다.
MLOpsGo TemplateApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 712
★ 7122026-09-01이슈 15
pegainfer-project/pegainfer
89
Pure Rust + CUDA LLM inference engine — no PyTorch, OpenAI-compatible, serves Qwen3 to Kimi-K2
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 669
★ 6692026-09-01이슈 102
polyaxon/traceml
89
Engine for AI/ML/Data tracking, visualization, explainability, drift detection, and dashboards for Polyaxon.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 534
★ 5342026-08-29이슈 7
skops-dev/skops
89
사이킷런 기반 모델을 공유하고 실제 서비스에 배포하도록 돕는 파이썬 라이브러리입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 525
★ 5252026-08-31이슈 23
SearchSavior/OpenArc
89
인텔 장치에서 LLM, VLM 등 다양한 모델을 구동하는 추론 엔진입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 512
★ 5122026-09-01이슈 16
ome-projects/ome
89
쿠버네티스 기반의 LLM 서빙, GPU 스케줄링 및 모델 생명주기를 관리하는 엔진입니다.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 503
★ 5032026-09-01이슈 136
awslabs/awsome-distributed-ai
88
AWS 환경에서 대규모 모델 학습을 위한 모범 사례와 유틸리티를 제공합니다.
MLOpsShellMIT-0
최근 30일 내 활발 · 라이선스 MIT-0 · stars 473
★ 4732026-09-01이슈 38
polyaxon/haupt
88
Lineage metadata API, artifacts streams, sandbox, API, and spaces for Polyaxon
MLOpsPythonAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 452
★ 4522026-08-30이슈 0
SonySemiconductorSolutions/mct-model-optimization
88
제한된 하드웨어 환경을 위한 신경망 모델 최적화 및 압축 도구입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 450
★ 4502026-08-20이슈 6
fmind/cookiecutter-mlops-package
88
Start building and deploying Python packages and Docker images for MLOps tasks.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 442
★ 4422026-08-24이슈 1
FujitsuResearch/OneCompression
88
LLM 모델을 압축하는 파이썬 패키지입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 426
★ 4262026-09-01이슈 6
mozilla-ai/otari
88
다양한 LLM 제공업체를 통합 관리하는 자체 호스팅 가능한 게이트웨이입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 420
★ 4202026-09-01이슈 101
operatorai/modelstore
88
🏬 modelstore is a Python library that allows you to version, export, and save a machine learning model to your filesystem or a cloud storage provider.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 404
★ 4042026-08-05이슈 11
rodrigo-arenas/Sklearn-genetic-opt
88
진화 알고리즘으로 스카이킷런의 하이퍼파라미터 최적화와 특성 선택을 수행합니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 390
★ 3902026-08-05이슈 14
EfficientMoE/MoE-Infinity
88
효율적이고 빠른 전문가 혼합 모델 서빙을 위한 PyTorch 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 352
★ 3522026-08-31이슈 21
m3dev/gokart
88
머신러닝 파이프라인의 재현성 및 의존성 관리를 돕는 프레임워크입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 342
★ 3422026-09-01이슈 33
flyteorg/flytekit
88
플라이트 태스크와 워크플로우 개발을 위한 확장 가능한 파이썬 SDK입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 319
★ 3192026-08-27이슈 167
clearml/clearml-agent
87
ClearML Agent - MLOps/LLMOps made easy. MLOps/LLMOps scheduler & orchestration solution
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 311
★ 3112026-09-01이슈 125
FasterAI-Labs/fasterai
87
FasterAI: Prune and Distill your models with FastAI and PyTorch
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 266
★ 2662026-09-01이슈 4
PerforatedAI/PerforatedAI
87
PyTorch 프로젝트에 수상돌기(Dendrites) 구조를 추가하는 라이브러리입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 236
★ 2362026-09-01이슈 34
basetenlabs/truss-examples
87
Truss로 배포 가능한 모델들의 예시를 제공하는 저장소입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 229
★ 2292026-09-01이슈 79
zhaoyue-zephyrus/npq-vit
87
[ICLR 2025] Binary Spherical Quantization + [CVPR 2026] Leech Spherical Quantization
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 222
★ 2222026-08-05이슈 13
chigwell/llm7.io
87
다양한 제공업체의 최신 AI 모델에 연결하는 단일 API 게이트웨이를 제공합니다.
MLOpsTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 207
★ 2072026-08-27이슈 0
timtoole02/Camelid
87
Rust 기반의 로컬 추론 백엔드로 증거 게이팅 모델 호환성을 제공합니다.
MLOpsRustMIT
최근 30일 내 활발 · 라이선스 MIT · stars 206
★ 2062026-09-01이슈 10
fastmachinelearning/qonnx
86
QONNX: Arbitrary-Precision Quantized Neural Networks in ONNX
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 191
★ 1912026-09-01이슈 47
nyroway/nyro
86
다양한 AI 모델 제공자와의 연결을 위한 자체 호스팅 게이트웨이입니다.
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 189
★ 1892026-08-31이슈 30
awslabs/kubeflow-manifests
86
KubeFlow on AWS
MLOpsYAMLApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 187
★ 1872026-08-10이슈 94
sadanandpai/ai-learning-kit
86
다양한 인공지능 학습 자료들을 모아 놓은 컬렉션입니다.
MLOpsMIT
최근 30일 내 활발 · 라이선스 MIT · stars 182
★ 1822026-08-02이슈 0
alibaba/ServeGen
86
A framework for generating realistic LLM serving workloads
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 171
★ 1712026-08-27이슈 3
pyxelr/recommendations-for-engineers
86
개발자 지망생을 위한 다양한 분야의 추천 자료들을 모아 놓은 저장소입니다.
MLOpsMIT
최근 30일 내 활발 · 라이선스 MIT · stars 163
★ 1632026-09-01이슈 0
Labelbox/labelbox-python
86
차세대 AI를 위한 데이터 주석 및 관리 기능을 제공하는 도구입니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 156
★ 1562026-08-25이슈 5
Nayjest/lm-proxy
86
OpenAI-compatible HTTP LLM proxy / gateway for multi-provider inference (Google, Anthropic, OpenAI, PyTorch). Lightweight, extensible Python/FastAPI—use as library or standalone service.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 151
★ 1512026-08-26이슈 9
Project-MONAI/monai-deploy-app-sdk
86
MONAI Deploy App SDK offers a framework and associated tools to design, develop and verify AI-driven applications in the healthcare imaging domain.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 137
★ 1372026-08-20이슈 56
Scottcjn/legend-of-elya-n64
86
Legend of Elya — N64 game with a real 6.36M-parameter ternary transformer on the VR4300 MIPS III CPU. Zelda-style dungeon, AI NPCs, byte-level inference at 1.23 tok/s scalar / 2.19 tok/s on the RSP overlay (measured under ares, never on silicon). Built with libdragon.
MLOpsCMIT
최근 30일 내 활발 · 라이선스 MIT · stars 131
★ 1312026-08-30이슈 3
mydisha/keirouter
86
다양한 AI 모델에 접속할 수 있는 빠르고 자체 호스팅 가능한 게이트웨이입니다.
MLOpsGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 129
★ 1292026-08-28이슈 2
flyteorg/flyte-sdk
86
순수 파이썬으로 에이전트와 머신러닝 파이프라인을 분산 오케스트레이션합니다.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 127
★ 1272026-09-01이슈 86
yuhp/opencode-models-discovery
85
다양한 모델 제공처를 지원하는 범용 오픈코드 플러그인입니다.
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 124
★ 1242026-09-01이슈 0
pmady/keda-gpu-scaler
85
GPU 워크로드를 위한 KEDA 외부 gRPC 스케일러를 제공합니다.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 121
★ 1212026-09-01이슈 16
AmineDjeghri/generative-ai-project-template
85
uv, nicegui, fastapi 등을 활용한 생성형 AI 프로젝트의 기본 템플릿을 제공한다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 118
★ 1182026-08-30이슈 2
GetBusbar/busbar
85
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 118
★ 1182026-09-01이슈 2
kserve/website
85
KServe 사용자를 위한 공식 문서 및 가이드를 제공합니다.
MLOpsMDXApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 113
★ 1132026-08-31이슈 59
rh-aiservices-bu/ai-on-openshift
85
AI-on-OpenShift website source code
MLOpsShellGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 108
★ 1082026-08-24이슈 8
omegaml/omegaml
85
MLOps simplified. One-stop AI delivery platform, all the features you need.
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 107
★ 1072026-09-01이슈 92
🆕yolorouter/yolorouter
85
A self-hosted, OpenAI-compatible LLM gateway with multi-provider failover, key rotation, and a built-in admin console.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 106
★ 1062026-09-01이슈 0
🆕togettoyou/zke
85
ZKE（Z Kubernetes Engine）：AI 原生的 Kubernetes 云操作环境，桌面式多集群控制台加受控 AIOps Agent，基于 Server + Agent 与 QUIC/mTLS，适用于私有云、混合云及边缘环境
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 101
★ 1012026-09-01이슈 0
gchq/Bailo
85
머신러닝 수명주기 관리를 지원하여 확장성과 협업을 돕는 도구입니다.
MLOpsTypeScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 96
★ 962026-09-01이슈 31
Indras-Mirror/llama.cpp-turboq-mtp
85
Qwen4-Exp (Qwen3.8-Flash-Next) SWA + MTP + PLE-on-iswa — bounded deep-context decode w/ long-range recall, TBQ4 4.25 bpv KV, DSpark + RotorQuant. Main (master) = Qwen4-Exp build; the Qwen35 SWA hybrid lives on the qwen35 branch. RTX 4090.
MLOpsC++MIT
최근 30일 내 활발 · 라이선스 MIT · stars 94
★ 942026-09-01이슈 2
🆕mattn/tensai
85
A tiny neural-network framework in pure Go with AVX2 SIMD kernels (GOEXPERIMENT=simd)
MLOpsGoMIT
최근 30일 내 활발 · 라이선스 MIT · stars 93
★ 932026-09-01이슈 1
damiansire/genai-fullstack-blueprint
85
Full-stack reference architecture for multimodal GenAI apps: Angular client plus Node.js/Express AI Gateway, as a TypeScript monorepo.
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 93
★ 932026-08-03이슈 0
Inebrio/Routerly
85
다양한 AI 제공자 요청을 지능적으로 분배하는 자체 호스팅 LLM 게이트웨이입니다.
MLOpsTypeScriptAGPL-3.0
최근 30일 내 활발 · 라이선스 AGPL-3.0 · stars 90
★ 902026-08-16이슈 12
rindow/rindow-neuralnetworks
85
Neural networks library for machine learning on PHP
MLOpsPHPBSD-3-Clause
최근 30일 내 활발 · 라이선스 BSD-3-Clause · stars 87
★ 872026-09-01이슈 7
virtualramblas/Domain-Specific-Small-Language-Models
85
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsJupyter NotebookApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 85
★ 852026-08-27이슈 1
iesahin/xvc
84
러스트로 작성된 견고하고 빠른 MLOps 데이터 및 파이프라인 관리 도구입니다.
MLOpsRustGPL-3.0
최근 30일 내 활발 · 라이선스 GPL-3.0 · stars 77
★ 772026-08-26이슈 2
🆕Tylogi/TyloQuant
84
Get more intelligence from every bit. Better quantization formats and smarter calibration let larger, stronger models run smoothly on the hardware you already own.
MLOpsC++Apache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 71
★ 712026-09-01이슈 1
🆕helasaoudi/llm-inspector
84
The htop for LLM inference see exactly where every GB of VRAM goes and get measured quantization savings.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 70
★ 702026-09-01이슈 1
Oaklight/llm-rosetta
84
다양한 LLM API 형식을 통일된 인터페이스로 변환하는 파이썬 번역 계층입니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 70
★ 702026-09-01이슈 30
qnbhd/mljet
84
Minimalistic ML-models auto deployment tool
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 69
★ 692026-08-31이슈 41
🆕davidahmann/fde-guide
84
FDE and AI engineering guide for production systems: value, architecture, evals, security, deployment, and operations.
MLOpsJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 68
★ 682026-09-01이슈 0
polyaxon/hypertune
84
A library for performing hyperparameter optimization
MLOpsPythonApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 63
★ 632026-08-30이슈 0
🆕Hanyuyuan6/remote-gpu-trainer
84
GPU 환경에서 딥러닝 실험을 실행하고 결과를 검증하여 재현 가능한 자료를 제공합니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 62
★ 622026-08-10이슈 0
last9/gpu-telemetry
84
노드별 하드웨어 지표를 쿠버네티스 파드나 작업에 연결하여 GPU 가시성을 제공합니다.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 61
★ 612026-08-02이슈 5
🆕arizqi/cpubrrr
84
Frontier-class LLM inference on a laptop CPU — gpt-oss:20b at ~110 tok/s on Apple M4 Max, 7.5x llama.cpp, no GPU. From-scratch NEON/SME kernels in Rust.
MLOpsRustApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 55
★ 552026-08-11이슈 3
avikalpg/byok-relay
84
사용자 키를 이용해 프론트엔드 앱에서 CORS 없이 LLM을 사용하게 돕는 리레이입니다.
MLOpsJavaScriptApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 54
★ 542026-08-31이슈 23
🆕infercrane/infercrane
84
Open-source infrastructure for the full inference lifecycle: deploy, observe, scale, optimize, and safely release self-hosted models behind one endpoint.
MLOpsGoApache-2.0
최근 30일 내 활발 · 라이선스 Apache-2.0 · stars 51
★ 512026-09-01이슈 8
sxueck/llm-gateway
84
Lightweight distributed LLM gateway w/ web UI for model mgmt & routing. Supports vibe programming, prompt opt., & optimized OpenAI API/Anthropic calls
MLOpsTypeScriptMIT
최근 30일 내 활발 · 라이선스 MIT · stars 51
★ 512026-09-01이슈 4
sylvesterkaczmarek/phisat2-trustworthy-onboard-ai
84
Trustworthy onboard satellite AI in PyTorch→ONNX→INT8 with calibration, telemetry, and a PhiSat-2 EO tile-filter demo.
MLOpsPythonMIT
최근 30일 내 활발 · 라이선스 MIT · stars 50
★ 502026-08-25이슈 0
pytorch/pytorch
80
파이썬으로 텐서와 동적 신경망을 구현하고 GPU 가속을 지원합니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 102709
★ 102,7092026-09-01이슈 17,528
BerriAI/litellm
79
다양한 LLM API를 호출하고 관리하는 파이썬 SDK 및 게이트웨이입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 57772
★ 57,7722026-09-01이슈 4,913
Tencent/ncnn
77
모바일 환경에 최적화된 고성능 신경망 추론 프레임워크입니다.
MLOpsC++NOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 23776
★ 23,7762026-09-01이슈 1,233
DataTalksClub/mlops-zoomcamp
76
Free MLOps course from DataTalks.Club. Register here 👇🏼 to get notified about the next cohort
MLOpsJupyter Notebook
최근 30일 내 활발 · 라이선스 불명확 · stars 15201
★ 15,2012026-08-25이슈 3
isl-org/Open3D
76
3차원 데이터 처리를 위한 현대적인 라이브러리입니다.
MLOpsC++NOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 13930
★ 13,9302026-09-01이슈 1,308
kedro-org/kedro
75
재현 가능하고 유지보수 가능한 데이터 과학 파이프라인 구축을 돕는 도구입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 10989
★ 10,9892026-09-01이슈 141
NVIDIA/cutlass
75
고성능 선형 대수 연산을 위한 CUDA 템플릿과 파이썬 DSL을 제공한다.
MLOpsC++NOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 10360
★ 10,3602026-08-28이슈 704
kelvins/awesome-mlops
74
:sunglasses: A curated list of awesome MLOps tools
MLOpsPython
최근 30일 내 활발 · 라이선스 불명확 · stars 5265
★ 5,2652026-08-17이슈 81
NVIDIA/nccl
74
다중 GPU 간 통신을 최적화한 기본 연산 기능을 제공합니다.
MLOpsC++NOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 5040
★ 5,0402026-09-01이슈 416
pytorch/executorch
73
모바일 및 엣지 기기에서 작동하는 PyTorch 기반의 온디바이스 AI를 구현합니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 4977
★ 4,9772026-09-01이슈 1,299
qualcomm/aimet
72
학습된 신경망 모델에 고급 양자화 및 압축 기술을 제공하는 라이브러리입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 2700
★ 2,7002026-09-01이슈 28
data-infra/cube-studio
72
클라우드 기반의 통합 머신러닝 및 대규모 AI 모델 개발/운영 플랫폼입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 2467
★ 2,4672026-08-17이슈 27
Xilinx/brevitas
71
PyTorch에서 신경망 양자화를 수행하는 라이브러리입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 1567
★ 1,5672026-09-01이슈 230
Meesho/BharatMLStack
69
인도 시장 규모의 실시간 및 배치 머신러닝 워크로드를 위한 오픈소스 인프라 스택이다.
MLOpsGoNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 707
★ 7072026-08-12이슈 35
NadirRouter/NadirClaw
69
프롬프트 복잡도에 따라 저렴하거나 로컬 모델로 자동 라우팅하여 AI 비용을 최적화하는 도구입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 646
★ 6462026-08-31이슈 1
warpfront/hipfire
69
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsRustNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 579
★ 5792026-09-01이슈 97
techiescamp/mlops-for-devops
69
개발자들을 위한 실습 중심의 머신러닝 운영 가이드입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 531
★ 5312026-08-08이슈 0
brontoguana/krasis
69
저사양 하드웨어에서 대규모 언어 모델을 효율적으로 구동하는 런타임입니다.
MLOpsC++NOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 516
★ 5162026-09-01이슈 18
starbaser/ccproxy
68
클로드 코드용 모드를 빌드하여 요청과 응답을 가로채고 수정하는 프록시입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 344
★ 3442026-08-10이슈 9
jjang-ai/jangq
67
애플 실리콘용 GGUF 모델을 위한 적응형 혼합 정밀도 양자화 및 런타임 제공.
MLOpsPython
최근 30일 내 활발 · 라이선스 불명확 · stars 224
★ 2242026-08-31이슈 16
🆕giannisanni/pulsar
67
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsRustNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 212
★ 2122026-09-01이슈 6
jakobhoeg/browser-ai
66
다양한 브라우저 내 AI 모델 제공업체에 대한 타입스크립트 SDK를 제공한다.
MLOpsTypeScriptNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 193
★ 1932026-08-19이슈 14
PAIArtCom/Clipal
66
클로드 코드, 코덱스 CLI, 제미나이 CLI를 위한 최소한의 LLM API 리버스 프록시입니다.
MLOpsGo
최근 30일 내 활발 · 라이선스 불명확 · stars 146
★ 1462026-08-22이슈 0
voidmind-io/voidllm
66
개인 정보 보호를 우선하는 LLM 프록시 및 AI 게이트웨이 기능을 제공합니다.
MLOpsGoNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 130
★ 1302026-08-25이슈 29
🆕dnv2003/v100-skinny
66
Hand-written NVFP4 W4A16 CUDA kernels for Volta
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 129
★ 1292026-08-19이슈 7
🆕khankamraan2006-crypto/fabric-router-core
65
스마트 팩토리 LLM 라우팅 및 OAuth 게이트웨이 플러그인을 제공합니다.
MLOpsHTML
최근 30일 내 활발 · 라이선스 불명확 · stars 116
★ 1162026-09-01이슈 0
OnlyTerp/prompt-cache-skills
65
Drop-in prompt-caching fixes for the LLM agent harness you use. Point your AI coding agent at this repo and it ships the patches.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 114
★ 1142026-08-29이슈 2
🆕sina2266/Gozar
65
Self-hosted, Docker-first OpenAI-compatible LLM gateway with provider routing, fallbacks, API keys, and usage controls.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 108
★ 1082026-08-05이슈 0
RamiKrispin/ai-dev-2024-ml-workshop
65
AI 개발 워크숍 자료로 파이썬 기반의 머신러닝 배포 및 모니터링 방법을 다룹니다.
MLOpsHTML
최근 30일 내 활발 · 라이선스 불명확 · stars 93
★ 932026-09-01이슈 2
manjunathshiva/turboquant-mlx
65
애플 실리콘에서 대규모 언어 모델의 가중치와 KV 캐시를 압축합니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 83
★ 832026-08-18이슈 1
Lumi-supercomputer/LUMI-AI-Guide
65
질의응답에 초점을 맞춘 신경망 모델을 탐구하는 코드 저장소입니다.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 80
★ 802026-08-31이슈 5
Geekgineer/needle-rs
64
414 KB WASM runtime for Needle a 14M-parameter tool-calling transformer. Runs in browser, Cloudflare Workers, and Node.js. No backend required.
MLOpsRustNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 77
★ 772026-08-20이슈 1
howardpen9/awesome-ai-api-proxy
64
One key. Every model. Anywhere. — A curated map of AI API relay stations & LLM gateways.
MLOpsPythonNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 74
★ 742026-08-30이슈 6
genieincodebottle/aiml-companion
64
AI와 머신러닝을 시각적으로 학습할 수 있는 대화형 플랫폼입니다.
MLOpsJupyter Notebook
최근 30일 내 활발 · 라이선스 불명확 · stars 69
★ 692026-08-29이슈 1
pleasedodisturb/awesome-llm-token-optimization
64
A curated list of strategies, tools, papers, and resources for reducing LLM token costs and improving efficiency in production.
MLOpsNOASSERTION
최근 30일 내 활발 · 라이선스 불명확 · stars 66
★ 662026-08-30이슈 6
RamiKrispin/useR2024-pipeline-workshop
64
R을 활용하여 머신러닝 파이프라인 배포 및 모니터링 방법을 다룬 자료입니다.
MLOpsHTML
최근 30일 내 활발 · 라이선스 불명확 · stars 57
★ 572026-09-01이슈 6
MaxBelitsky/cache-steering
64
KV Cache Steering for Controlling Frozen LLMs
MLOpsPython
최근 30일 내 활발 · 라이선스 불명확 · stars 50
★ 502026-08-18이슈 0