用 Python API 定义大模型，并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理，还提供 Python/C++ 运行时来编排高性能服务。
面向零基础开发者的大模型应用开发教程，手把手带你用 LangChain 搭建 RAG 应用，从调用 API 到构建知识库问答系统。
从零开始手把手教你构建大模型的开源教程，覆盖预训练、微调、RAG 与 Agent 等关键环节，适合想系统入门 LLM 原理与实践的开发者。
自托管的 LLM 网关，统一兼容 OpenAI、Claude、Gemini 等接口，提供模型路由、访问控制、用量统计与成本核算，方便团队集中管理和分发大模型调用。
把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下，方便做密钥管理和二次分发，单文件部署开箱即用。
面向大语言模型的高吞吐、低显存推理与服务引擎，通过 PagedAttention 等优化显著提升并发吞吐并降低显存占用，适合部署在线推理服务。
把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务，省去自己搭推理后端的麻烦。
用 PyTorch 从零实现的轻量级 vLLM，代码精简易读，适合学习大模型推理引擎的调度、KV Cache 和 PagedAttention 等核心机制。
把 FastAPI 接口一键暴露成 MCP 工具，自带认证授权，让 Claude、Cursor 等 LLM 客户端直接调用你的后端服务。
用大模型把任意网页抓取并转成结构化数据，底层靠 Playwright/Puppeteer 驱动浏览器，适合做网页信息抽取和自动化采集。
通用大模型部署引擎，借助机器学习编译技术把 LLM 高效跑在各种硬件上，从手机到服务器都能用。
从 LLM 基础讲到用 LLMOps 最佳实践把 RAG 应用部署到 AWS 的实战手册，覆盖微调、评估与 ML 系统设计。
一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型，省去逐个试跑和查显存的麻烦。
基于 OpenTelemetry 的 LLM 应用可观测性工具，能追踪调用链、采集指标并监控模型表现，帮你在生产环境定位 GenAI 应用的性能与质量问题。
用大模型对 Tesseract 的 OCR 结果做纠错、智能分块和 Markdown 排版，把扫描 PDF 转成干净可读的文本，支持本地或 API 模型。
轻量级 Python 大模型推理与服务框架，主打高吞吐、易扩展，适合快速部署 GPT、LLaMA 等模型对外提供 API 服务。
低代码构建多智能体大模型应用的框架，把模型微调、知识库、数据流程等环节封装成简单接口，让开发者少写胶水代码就能搭出复杂 Agent 系统。
一个面向 LLM 的推理优化代理，通过 API 网关接入，自动套用思维链等推理策略来提升模型回答质量并降低调用成本。
一套基于 Jupyter Notebook 的大模型实战教程和示例脚本，覆盖 LangChain、OpenAI、LlamaIndex、ChromaDB、Pinecone 等主流工具，帮你快速上手 LLM 应用开发。
在 Unity 游戏引擎里直接跑本地大模型，让 NPC 和角色能自然对话，不用接云端 API。
把 PDF、Word、PPTX 等文档和图片通过 OCR 加 Ollama 模型解析成结构化 JSON 或 Markdown，还能自动匿名化、清除 PII 敏感信息。
在 Apple Silicon 上跑大模型的高性能推理服务，兼容 OpenAI 和 Anthropic 接口，支持 MLX 原生加速、连续批处理、多模态和 MCP 工具调用。
本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型，省去环境配置和依赖折腾，适合快速做推理和原型验证。
面向 Apple Silicon 的本地 LLM 推理服务器，兼容 OpenAI 与 Anthropic 接口，主打编码智能体的可靠工具调用，同权重下比 mlx-lm 快至多 4 倍。
统一 API 接入多家大模型服务商，集中路由、管理并分析 LLM 请求，省去逐个对接和维护密钥的麻烦。
自托管的大模型对话界面，兼容 Ollama、OpenAI API 等后端，内置 RAG 与 MCP 支持，让团队快速搭建私有 AI 聊天入口。
把主流大模型 API 和开源模型统一到一个 WebUI 里，覆盖知识库、数据库、角色扮演、文生图、LoRA 微调、数据集制作等全流程工具。
云原生高性能 AI 与 API 网关，把各家大模型 API 统一成一套请求和返回格式，顺带做申请审批、调用统计、负载均衡和多模型灾备，一键部署开箱即用。
一套 TensorRT C++ API 实战教程，演示如何用 C++ 加载 ONNX 模型并构建高性能推理引擎，适合想在工程里落地 GPU 推理的开发者。
在 ComfyUI 里搭建 LLM Agent 的框架，接入 MCP、GraphRAG、语音合成与 OCR 节点，兼容 OpenAI 接口的各类模型和本地 GGUF 模型。
面向企业和开发者的 OpenAI、Claude、Gemini 统一 API 代理，无需 OpenAI Key、账号或外币卡即可直接调用 GPT-5、Sora 等模型。
基于节点图的扩散模型图形界面与后端，支持本地快速推理和 API 调用，方便搭建和调试图像生成工作流。
开源的 Python 库，让大模型直接操控浏览器完成点击、填表、抓取等网页任务，省去手写 Playwright 脚本的麻烦。
让大模型自主拆解目标、调用工具并连续执行任务的智能体平台，提供可视化搭建与运行环境，帮你把重复性工作交给 AI 自动完成。
把本地 OpenAI 兼容服务（llama.cpp、vLLM、Ollama 等）接入 Home Assistant，让智能家居助手用上自托管大模型做对话。
一套面向大模型训练的分布式并行框架，把数据、模型、流水线并行和异构训练整合成统一接口，让训练和推理更省显存、更快。
给 dsh 装个插件就能免登录、免 API Key 直接用 DeepSeek V4.1 Flash、Kimi K3 等前沿大模型，完全免费且不限量。
在 Kubernetes 上自托管大模型推理的 Operator，统一调度 NVIDIA、AMD、Apple Silicon 等异构 GPU，支持多卡分片、模型缓存和 OpenAI 兼容接口。
输入一个主题或关键词，就能自动完成文案生成、素材匹配、配音字幕和视频合成，一键产出高清短视频，省去手工剪辑的麻烦。
一个聚合多家大模型与云厂商的 AI 能力网关，除聊天补全外还统一提供文本向量化、语音识别合成、文生图等接口，并内置计费、限流和资源管理。