统一调用 100+ 家 LLM API 的 AI 网关,用 OpenAI 格式或原生格式接入,自带成本追踪、限流护栏、负载均衡和日志。
面向智能体应用的 AI 原生代理服务器和数据平面,提供 LLM 智能路由、可观测性、编排与护栏,让开发者专注核心逻辑。
已归档的历史仓库,原用于向量检索与向量数据库的教程和工具集;团队现已转向自托管推理引擎 SIE,覆盖嵌入、重排、OCR 与文档处理。
自托管的开源 AI 模型仓库,兼容 Hugging Face,并针对 vLLM/SGLang 推理做加速优化,方便在自有集群里统一管理和分发模型。