本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型，省去环境配置和依赖折腾，适合快速做推理和原型验证。

Ollama 的现代化跨平台客户端，支持 Android、Windows、Linux，让本地大模型对话和管理更顺手。

在 .NET 里调用 Ollama 本地大模型最省事的 C# 客户端库，封装了 API 和流式输出，让 C# 项目快速接入 Llama 等模型。

用本地 Ollama 模型驱动的求职自动化浏览器 Agent，自动完成职位语义筛选、ATS 优化简历生成和招聘经理内推，全程无需手动操作。

用 C/C++ 实现的大模型推理引擎，能在普通 CPU 和消费级显卡上跑 LLaMA 等模型，支持量化以降低显存占用。

自托管的大模型对话界面，兼容 Ollama、OpenAI API 等后端，内置 RAG 与 MCP 支持，让团队快速搭建私有 AI 聊天入口。

面向 Linux 服务器的开源运维管理面板，用 Web 界面管理 Docker、LNMP 站点和 Ollama 等 AI 服务，省去手敲命令的麻烦。

把多家大模型、AI Agent 和 MCP 工具整合到一个桌面工作台里，方便日常对话、调用工具和提升生产力。

翻译 PDF 科学论文时完整保留公式、图表和排版，输出双语对照版本，支持 Google、DeepL、Ollama、OpenAI 等多种翻译后端，并提供 CLI、GUI、Docker 和 Zotero 插件。

把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台，适合搭建企业知识库与智能问答。

把任意 LLM（Claude、Gemini、Grok、DeepSeek、Ollama 等）统一代理给 Codex CLI、App、SDK 和 Claude Code 使用，省去为每个模型单独适配的麻烦。

基于 Langchain 和 ChatGLM、Qwen、Llama 等本地大模型搭建的知识库问答应用，支持 RAG 检索增强与 Agent 能力，可离线部署私有文档问答系统。

自动审查 Pull Request 的 AI 代码审查工具，接入 OpenAI、Anthropic、Ollama 等模型，在 PR 提交时生成评审意见、改进建议和摘要。

本地运行的 AI 会议记录工具，用 Whisper/Parakeet 在设备上完成转写和说话人分离，不需要会议机器人，会议内容不出本机。

生产级多平台智能机器人开发平台，把 Agent、知识库和插件系统统一编排，一套代码接入 Discord、Slack、微信、飞书、钉钉等主流 IM，并对接 GPT、DeepSeek、Dify、Coze 等模型与工作流。

开源企业级智能体平台，可快速搭建基于知识库的问答助手和 Agent，支持接入 DeepSeek、Llama 等大模型与 MCP 工具。

一个 Rust 写的全能 LLM 命令行工具，集成 Shell 助手、对话 REPL、RAG 和 AI Agent，统一接入 OpenAI、Claude、Gemini、Ollama 等多家模型。

在终端里直接调用 GPT、Llama、Ollama 等大模型，用自然语言生成并执行 shell 命令，省去查手册和拼参数的时间。

基于 Chromium 的开源智能体浏览器，让 AI 直接操作网页完成自动化任务，可作为 ChatGPT Atlas、Perplexity Comet 的替代方案。

给 ChatGPT 及 Llama、Claude、Gemini 等大模型套上清爽的网页界面，支持智能体、文件问答、联网搜索和模型微调，开箱即用。

在 Docker 里跑 Android 模拟器，支持 noVNC 网页操作、录屏和 MCP 服务，方便在 CI 或云端做自动化测试与 AI 代理控制。

一款 iOS/macOS 原生应用，通过 Ollama 连接本地自托管的大语言模型（Llama2、Mistral、Vicuna 等）进行对话，让私有模型在苹果设备上开箱即用。

本地优先的深度研究问答系统，接 llama.cpp、Ollama 等本地或云端模型，聚合 arXiv、PubMed 及私有文档等十余个检索源，全程加密。

…etc. 100% private, Apache 2.0. Supports oLLaMa, Mixtral, llama.cpp, and more. Demo: https://gpt.h2o.ai/ https://gpt-docs.h2o.a…

面向 CI/CD 可靠性的开源智能体，接入 Datadog、Grafana、GitLab CI 等可观测性数据，自动定位流水线故障并给出修复建议。

给 Paperless-ngx 文档库接上大模型，自动分析文档内容并打标签，支持 OpenAI、Ollama、DeepSeek-r1、Azure 等兼容接口。

面向 JVM 的 Java LLM 应用开发库，统一封装主流大模型与向量库接口，让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。

在个人设备上本地跑 RAG 的向量索引库，用图结构剪枝把索引体积压掉 97%，兼顾检索速度和准确率，数据不出本机。

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK，覆盖 Android、iOS、Flutter，省去自己搭推理链路的麻烦。

…); seamlessly integrate with llama.cpp, Ollama, HuggingFace, LangChain, LlamaIndex, vLLM, DeepSpeed, Axolotl, etc.

用一份 YAML 配置就能微调大模型，靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来，省去手写训练脚本和显存焦虑。

纯 Rust 实现的 WebGPU 推理引擎，原生支持 GGUF 模型，兼容 OpenAI API，无需 Python 和 llama.cpp，单个二进制文件即可在任意 GPU 上跑本地大模型。

用 LLM 自动生成 Git 提交信息，支持 Claude、GPT 和本地 Ollama 等多种模型，一秒出结果，省去手写 commit message 的麻烦。

用任意大模型（OpenAI、Claude、Gemini、DeepSeek、Ollama 等）搭建深度研究流程，提供 SSE API 和 MCP server，方便接入 Agent 或自建研究助手。

自托管的 TypeScript 智能体运行时，提供持久化审批和可验证的运行记录，让团队自己掌控、审批并审计 AI 智能体的每次执行。

用 LangGraph 搭建的模块化 Agentic RAG 教学项目，几分钟就能上手理解检索增强生成智能体的完整流程。

基于大模型的自动化代码安全审计平台，多智能体协作挖掘漏洞，并在沙箱中自动验证 PoC，支持 Ollama 私有部署和一键生成报告。

用 LLM 驱动的网页抓取工具，支持 OpenAI、Gemini 和 Ollama，能按自然语言指令从网页中提取结构化数据，省去手写解析规则。

Python SDK，用于监控 AI 智能体运行、追踪 LLM 调用成本并做基准评测，兼容 CrewAI、LangChain、AutoGen 等主流智能体框架。

面向 Apple Silicon 的本地 LLM 推理服务器，兼容 OpenAI 与 Anthropic 接口，主打编码智能体的可靠工具调用，同权重下比 mlx-lm 快至多 4 倍。