把 FastAPI 接口一键暴露成 MCP 工具,自带认证授权,让 Claude、Cursor 等 LLM 客户端直接调用你的后端服务。
自托管的 LLM 网关,统一兼容 OpenAI、Claude、Gemini 等接口,提供模型路由、访问控制、用量统计与成本核算,方便团队集中管理和分发大模型调用。
把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
一套面向大模型训练的分布式并行框架,把数据、模型、流水线并行和异构训练整合成统一接口,让训练和推理更省显存、更快。
让任意大模型通过 MCP 协议直接操控 Blender 建模的社区插件,用自然语言就能驱动 3D 创作流程。
面向 JVM 的 Java LLM 应用开发库,统一封装主流大模型与向量库接口,让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
LMDeploy 是面向大模型的高效推理与服务工具包,支持模型压缩、部署和在线服务,内置 TurboMind 推理引擎和 CUDA 算子,可加速 Llama、InternLM 等模型的推理。
用大模型自动分析 A 股等多市场股票,整合多源行情、实时新闻和决策看板,还能零成本定时跑并推送结果。
给 ChatGPT 及 Llama、Claude、Gemini 等大模型套上清爽的网页界面,支持智能体、文件问答、联网搜索和模型微调,开箱即用。
在骁龙设备的 NPU、GPU 和 CPU 上本地跑大模型和多模态模型,几行代码就能接入,省去自己适配硬件的麻烦。
ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
在 macOS 菜单栏里统一管理各家大模型的接入,让 Codex 跑在 DeepSeek 上、Claude Code 跑在 Kimi 上,省去逐个配置的麻烦。
在任意网址前加上 https://r.jina.ai/ 前缀,就能把网页转成适合大模型读取的干净文本,省去自己写爬虫和清洗正文的麻烦。
面向大模型应用开发的 RAG 全栈实战教程,覆盖文本向量化、检索、重排与多模态等环节,手把手带你搭建检索增强生成系统。
开源企业级智能体平台,可快速搭建基于知识库的问答助手和 Agent,支持接入 DeepSeek、Llama 等大模型与 MCP 工具。
把自主编码智能体做成 SDK、IDE 插件和命令行助手三种形态,让开发者能在编辑器或终端里直接调用 AI 完成写代码、改代码等任务。
把 GitHub issue 直接丢给大模型,自动定位代码并生成修复补丁,还能用于安全攻防和竞赛编程。
基于 Langchain 和 ChatGLM、Qwen、Llama 等本地大模型搭建的知识库问答应用,支持 RAG 检索增强与 Agent 能力,可离线部署私有文档问答系统。
用 LoRA、Adapter 等少量参数微调大模型和扩散模型,大幅降低显存与训练成本,是 Hugging Face 生态里做参数高效微调的标准库。
面向重度用户的大语言模型聊天前端,支持接入多种模型接口,提供角色卡、提示词管理和对话历史等进阶功能,适合深度定制 AI 角色扮演与对话体验。
Mooncake 是支撑 Kimi 大模型服务的推理平台,通过 KVCache 分离式架构和 RDMA 高速传输,把预填充与解码拆开部署,提升长上下文场景下的吞吐和资源利用率。
在本地 GPU 和 NPU 上直接跑优化后的大模型,帮用户发现并启动本地 AI 应用,省去自己折腾推理环境的麻烦。
给 LLM 推理加速的 KV Cache 层,可对接 vLLM 等框架,复用和缓存键值对来降低显存占用、提升吞吐,支持 CUDA 和 ROCm。
一个高性能 AI 网关,用统一 API 把请求路由到 1600+ 大模型,并内置 50+ 安全护栏,省去多模型接入和内容风控的重复开发。
RF-DETR 是 Roboflow 推出的实时目标检测与实例分割模型架构,在 COCO 上达到 SOTA,适合直接微调落地。
8MB 的 RWKV 模型管理与启动工具,全自动部署推理,并提供兼容 OpenAI API 的接口,方便直接接入现有客户端。
用 Python 快速搭建 MCP 服务器和客户端的框架,让大模型和 Agent 能方便地接入外部工具与数据源。
用 ML、LLM 和视觉大模型从文档、表单、发票等非结构化数据里抽取结构化字段,并支持指令调用和智能体工作流。
Model Context Protocol 官方 Python SDK,用来快速搭建 MCP 服务端和客户端,让大模型应用以统一协议接入外部工具与数据源。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架,内置工作流、对话机器人和评测能力,省去自己拼装 LLM 调用链的麻烦。
给 Paperless-ngx 文档库接上大模型,自动分析文档内容并打标签,支持 OpenAI、Ollama、DeepSeek-r1、Azure 等兼容接口。
Model Context Protocol 官方 TypeScript SDK,用来快速搭建 MCP 服务端和客户端,让大模型应用以统一协议接入外部工具与数据源。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
面向大模型后训练的强化学习框架,用混合编程模型把 RLHF 训练流程编排得灵活又高效,方便扩展和跑大规模实验。
基于 FunASR 的本地视频转写与字幕生成工具,带 Gradio 界面,还能用大模型辅助自动剪辑,适合做中文视频内容创作。
开源文生视频和图生视频模型,CogVideoX 支持从文本或图片生成视频,适合搭建视频生成推理服务。
OpenCompass 是一个大模型评测平台,支持 OpenAI、Qwen、DeepSeek 等主流模型,覆盖知识、推理、代码、长上下文等 100+ 数据集,帮你系统化地跑分对比。
面向企业私有化部署的 AI 平台,可搭建智能体、助手和文档检索问答,支持多模型接入、深度研究与 API 连接。
用 Python 写的开源深度研究工具,能对私有数据做推理式检索,替代闭源深度研究方案,支持接入 Milvus 和多种大模型。