开源模型

模型库、本地运行与权重 · 共 35 个

开源模型库与本地运行入口（Hub、客户端、权重页）。许可证（Apache/MIT/自定义）决定能否商用；显存与量化方案以各项目 README 为准。

点卡片进入站内详情页，官网入口在详情页「访问官网」。也可对照优惠线报与教程。

全部细类本地运行 29 模型社区 6

Ollama GitHub海外 · 开源Ollama 仓库 LM Studio Docs海外 · 免费LM Studio 文档 HF Datasets海外 · 有免费版数据集 OpenLLM海外 · 开源BentoML OpenLLM BentoML海外 · 开源模型服务化 Ray Serve海外 · 开源Ray Serve Triton Inference Server海外 · 开源NVIDIA Triton Text Generation Inference海外 · 开源HF TGI Aphrodite Engine海外 · 开源推理引擎 ExLlamaV2海外 · 开源量化推理 AutoAWQ海外 · 开源AWQ 量化 AutoGPTQ海外 · 开源GPTQ 量化 PEFT海外 · 开源参数高效微调 TRL海外 · 开源RLHF/对齐训练 Axolotl海外 · 开源微调框架 OpenVINO海外 · 开源Intel 推理工具包 ONNX Runtime海外 · 开源跨平台推理 ExecuTorch海外 · 开源端侧 PyTorch MLC LLM海外 · 开源通用端侧 LLM WebLLM海外 · 开源浏览器内 LLM Transformers.js海外 · 开源浏览器 Transformers Candle海外 · 开源Rust ML 框架 Burn海外 · 开源Rust 深度学习 GGML海外 · 开源张量库 llamafile海外 · 开源单文件本地 LLM Jan Docs海外 · 开源Jan 文档 SillyTavern Docs海外 · 开源ST 文档 Hugging Face Hub海外 · 有免费版模型社区 vLLM海外 · 开源高吞吐推理 llama.cpp海外 · 开源本地推理 ComfyUI海外 · 开源节点式生图