本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。
一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型,省去逐个试跑和查显存的麻烦。
用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。
纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。
用一份 YAML 配置就能微调大模型,靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来,省去手写训练脚本和显存焦虑。
无需分词器的多语言语音合成模型,支持创意音色设计和逼真声音克隆,可直接从文本生成自然语音。
MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。
统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。
用小型专用模型搭建企业级 RAG 流水线的统一框架,覆盖文档解析、检索和智能体编排,适合在本地或私有环境部署。
面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。
把 ONNX、PyTorch、Keras、CoreML 等格式的神经网络模型直接拖进浏览器就能看结构图,排查模型转换和层连接问题很方便。
阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。
开源智能体操作系统,用 TypeScript 搭建可自主运行的多平台 AI 代理,支持插件扩展、RAG 检索和 Discord 等聊天渠道接入。
一个自主 AI Agent 框架,能在 Linux 环境中自行规划任务、调用工具并持续执行,适合搭建可自主行动的智能助手。
单次前向传播即可对任意文本做类型化选择、打分和是非判断的非自回归决策引擎,支持100多种语言,并按请求自动路由到合适的检查点。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
面向本地部署的高速大模型推理引擎,通过稀疏激活与量化等技术,让消费级显卡也能流畅跑起 Llama 类模型。
一套系统的大语言模型入门课程,用学习路线图和可直接运行的 Colab 笔记本,带你从零掌握 LLM 的原理与实战。
Voxtype 1.2.0 runs GGUF models in every release binary: Cohere, Parakeet, Parakeet Ultra, Qwen3-ASR, GigaAM, Moonshine, SenseVoice and Nemotron. It also adds model upgrad
… release candidate. Every release binary now runs GGUF models, and Parakeet and Cohere users on ONNX models get offered the GGUF upgrade. GGUF in every build Every releas
…zip the model jev runs, as model/ jevos-v3-q4 k m.gguf , jevos-v3-q8 0.gguf the same model as GGUF, for llama.cpp and the tools built on it jevos-dino.mp4 the recording o
…zip the model jev runs, as model/ jevos-v2-q4 k m.gguf , jevos-v2-q8 0.gguf the same model as GGUF, for llama.cpp and the tools built on it jevos-dino.mp4 the recording o
…Fun-ASR-Nano) locally with the FunASR llama.cpp / GGUF runtime — built-in FSMN-VAD, whisper.cpp-style on-device ASR, strong on Chinese & Cantonese. New: q8 GGUF models ar
…础上进一步通过指令精调(500万条指令)获得 下载方式 模型名称 类型 参数量 完整版 LoRA版 GGUF版 :------------------------ :------: :----------------------------------------------------------: :-----------------