面向 LLM 推理的可编程语义路由层，按请求语义把流量分发到不同模型和算力，并内置护栏与 K8s 集成。
面向中文用户的 Linux 环境大模型实战教程，手把手教你在本地微调（全参数/LoRA）和部署国内外开源 LLM 与多模态模型。
把大语言模型接入 spaCy 的结构化 NLP 流水线，用提示词完成命名实体识别等任务，无需训练即可复用现有流程。
用 Swift 写的轻量本地大模型推理库，能在 macOS、iOS、watchOS、tvOS、visionOS 上直接跑 GGUF 模型，代码简单易读，方便苹果生态应用集成。
开源平台，用于构建和部署基于 GPT/LLM 的对话式 Agent，集成提示词编排、工具调用与多渠道发布，省去从零搭建对话机器人的重复工作。
在 Debian 上从零搭建完全本地私有的 LLM 服务器，集成聊天、联网搜索、RAG、模型管理、MCP、图像生成和语音合成。
用大模型对本地文档做检索问答，集成 HyDE、SPLADE、重排序和 Chroma 向量库，适合快速搭建 RAG 应用。
Node.js 的 RAG 框架，帮你把大模型和向量嵌入接进应用，省去自己拼检索增强流程的麻烦。
把 LLM 应用从原型推进到生产环境的框架，集成了 LangChain、MLflow、OpenAI 和 Vertex AI，方便管理提示词与模型部署。
SeaTunnel 是高性能分布式数据集成工具，支持批处理、CDC 变更捕获和多模态数据接入，用于海量数据在异构系统间高效同步。
面向 AI 应用的文档处理与 RAG 框架，把私有数据接入大模型，支持构建检索增强、智能体和多智能体应用。
在终端里跑 AI 结对编程，让大模型直接读写本地代码库、自动改文件并提交 git，省去在编辑器和聊天窗口间来回粘贴。
面向 JVM 的 Java LLM 应用开发库，统一封装主流大模型与向量库接口，让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
用 Python 搭建 LLM 应用和智能体的开发框架，把模型调用、工具、检索和记忆串成可组合的链路，省去自己拼装底层胶水代码。
用 Python 以代码优先的方式构建、评测和部署复杂 AI Agent 的开源工具包，让开发者对 Agent 行为有更强的灵活性和控制力。
用 Rust 构建模块化、可扩展 LLM 应用的框架，把模型调用、Agent 编排和工具集成做成可组合组件，适合追求性能与类型安全的团队。
一个能自主写代码、改 bug、跑命令的 AI 开发代理，把大模型接入真实开发环境，让编码任务从对话直接落到执行。
给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。
在终端里直接调用 GPT、Llama、Ollama 等大模型，用自然语言生成并执行 shell 命令，省去查手册和拼参数的时间。
可视化搭建 Agentic 工作流和 RAG 流水线，支持多种大模型与工具，可云端或私有化部署，帮团队从原型直接走到生产。
用 Python 构建自主 AI Agent 的框架，集成 MCP、RAG 和 computer-use 能力，支持 OpenAI、Claude 等模型，帮你快速搭建能自主完成任务的智能体。
用 LLM 自动生成 Git 提交信息，支持 Claude、GPT 和本地 Ollama 等多种模型，一秒出结果，省去手写 commit message 的麻烦。
基于 OpenTelemetry 的开源可观测性平台，把日志、指标和链路追踪集中到一处，提供 APM、分布式追踪和基础设施监控，帮团队快速定位线上问题。
开源可扩展的 AI 智能体，不止于代码补全，能接入任意 LLM 完成安装、执行、编辑和测试等任务。
Model Context Protocol 官方 TypeScript SDK，用来快速搭建 MCP 服务端和客户端，让大模型应用以统一协议接入外部工具与数据源。
开源 LLM 应用可观测与评估平台，能追踪调用链路、跑评测实验，帮团队定位问题并持续优化提示词和模型效果。
Meshery 是一个云原生管理平台，用可视化方式统一管理 Kubernetes 和多集群基础设施，支持 GitOps、服务网格与 IaC 配置。
集成 AI 与 LLM 的红队对抗模拟平台，把 Cobalt Strike、Metasploit 等后渗透工具统一编排，方便安全团队做攻击演练。
把数据库和 AI 模型直接打通的全栈框架，让你在 MongoDB 等数据源上直接做推理、训练和部署自定义 AI 应用与智能体。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器，集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件，方便本地跑大模型、RAG 和 Agent 工作流。
给编码 Agent 用的代理和技能，让模型用「原始人式」极简表达回答，砍掉约 65% 的 token 消耗。
开源多智能体编排框架，前身是 AutoGen，支持构建、协作和调度多个 LLM 智能体，并集成 MCP、A2A 等协议。
把整个代码仓库打包成单个 AI 友好文件，方便直接喂给 ChatGPT、Claude 等大模型做代码理解与分析。
用 Python 快速搭建 MCP 服务器和客户端的框架，让大模型和 Agent 能方便地接入外部工具与数据源。
面向 LLM 应用的自动化评测工具，用合成测试集和多种指标量化 RAG 与生成效果，帮你在上线前发现质量问题。
面向 LLM 应用、RAG 和 Agent 工作流的可观测与评测平台，提供全链路追踪、自动评估和生产级监控看板，帮团队定位问题并持续优化效果。
开源 AI 工程平台，覆盖智能体、大模型和传统机器学习，帮团队调试、评估、监控和优化生产级 AI 应用，同时控制成本并管理模型与数据访问权限。
提供 1000+ 工具包、工具检索、上下文管理、鉴权和沙箱工作台，帮开发者快速搭建能把意图变成行动的 AI Agent。
把 GitHub issue 直接丢给大模型，自动定位代码并生成修复补丁，还能用于安全攻防和竞赛编程。