推理与服务
共 679 个仓库 · 一年内有推送
用大模型智能体做量化交易，支持多智能体协作、策略回测和 MCP 接入，让个人也能搭起自己的自动交易助手。
把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下，方便做密钥管理和二次分发，单文件部署开箱即用。
把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台，适合搭建企业知识库与智能问答。
用聊天方式让 AI 直接绘制和编辑 draw.io 图表，提供网页版、桌面版和 MCP 服务器，可接入 Claude Code、Cursor 等编码工具。
面向重度用户的大语言模型聊天前端，支持接入多种模型接口，提供角色卡、提示词管理和对话历史等进阶功能，适合深度定制 AI 角色扮演与对话体验。
把 Claude Code、Codex、Gemini CLI 等 20 多种命令行 AI 代理统一到一个可长期在线的协作界面里，支持自定义助手并组队干活。
在 macOS 菜单栏里统一管理各家大模型的接入，让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上，省去逐个配置的麻烦。
让任意大模型通过 MCP 协议直接操控 Blender 建模的社区插件，用自然语言就能驱动 3D 创作流程。
开箱即用的开源 AI 对话平台，支持接入任意 LLM，内置 RAG 与企业级搜索，适合团队自建带知识库的聊天助手。
面向中文用户的 Linux 环境大模型实战教程，手把手教你在本地微调（全参数/LoRA）和部署国内外开源 LLM 与多模态模型。
用大语言模型驱动的 Python 爬虫，只需描述想抓什么，就能自动完成网页抓取和结构化数据提取，省去手写解析规则。
本地运行的 AI 会议记录工具，用 Whisper/Parakeet 在设备上完成转写和说话人分离，不需要会议机器人，会议内容不出本机。
把对话、文档和代码沉淀成聊天记忆、技能、LLM-Wiki、代码图谱四类可复用记忆资产，让多个 AI Agent 跨框架共享和治理长期记忆。
用 Jupyter Notebook 逐个演示 RAG 系统的进阶技巧，从嵌入、检索到重排都有可运行教程，适合动手搭建和优化检索增强生成流程。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架，内置工作流、对话机器人和评测能力，省去自己拼装 LLM 调用链的麻烦。
把整个代码仓库打包成单个 AI 友好文件，方便直接喂给 ChatGPT、Claude 等大模型做代码理解与分析。
跨平台本地优先的数据库客户端和 SQL 工作台，支持 40+ 数据库，可接入自有 AI 模型生成、解释和优化查询，桌面、Web、Docker、CLI 多端可用。
基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎，通过量化与高效推理大幅提速并降低显存占用，适合本地部署转录。
汇集大模型技术原理与实战经验的开源知识库，覆盖训练、推理、部署和工程化落地全流程，适合系统学习大模型应用开发。
快速且省显存的精确注意力实现，支持训练和推理，能显著加速 Transformer 长序列计算。
基于 Whisper 的语音识别工具，能给出词级时间戳并支持说话人分离，适合做字幕对齐和会议转写。
自托管的零信任访问平台，集反向代理、SSO 和 NAT 穿透于一体，让用户安全连接内网应用、基础设施和 AI 服务。
汇总可私有化部署的中文大语言模型资源清单，覆盖小规模底座模型、垂直领域微调、数据集与教程，方便低成本选型落地。
基于 OpenAI Whisper 的离线音频转写与翻译工具，在本机就能把语音转成文字并翻译，不用联网也不上传数据。