用 Rust 写的开源 Agent 操作系统,为 AI Agent 提供统一的运行与编排环境,支持 MCP 协议和 LLM 接入。
Mooncake 是支撑 Kimi 大模型服务的推理平台,通过 KVCache 分离式架构和 RDMA 高速传输,把预填充与解码拆开部署,提升长上下文场景下的吞吐和资源利用率。
支持 Python3、JavaScript、Shell、TypeScript 的定时任务管理平台,用网页界面统一管理 crontab 脚本,解决多语言定时任务分散难维护的问题。
把大语言模型和 Hugging Face 上的各类模型连起来,让 LLM 自动挑选、调用合适的模型完成多模态任务,相当于给模型加了个调度中枢。
用 Rust 写的 AI Agent 开放运行时,统一托管多智能体、MCP 网关和权限管控,省去自己搭调度与安全层的麻烦。
把 Claude、Codex、Grok 等多个编码 Agent 统一到一个应用里编排调度,并复用你已付费的订阅额度,省去多平台来回切换。
基于 Stream 边缘网络快速搭建语音与视觉智能体,可接入任意模型或视频源,实现超低延迟的实时多模态交互。
给 LLM 推理加速的 KV Cache 层,可对接 vLLM 等框架,复用和缓存键值对来降低显存占用、提升吞吐,支持 CUDA 和 ROCm。
用 Go 写的高性能浏览器自动化桥接与多实例编排器,支持反检测注入和实时面板,适合大规模网页抓取与浏览器 Agent 调度。
本地优先的桌面 AI 团队应用,由指挥官把目标拆成待办,调度 16 个内置专家智能体及 Claude Code、Codex 等外部代理,支持项目、定时自动化和连接器。
把 Playwright 浏览器自动化能力封装成 MCP 服务器,让 AI Agent 通过结构化接口操控网页、抓取页面内容,无需依赖截图识别。
开源的多智能体工作管理应用,用于编排、调度和治理自主 AI Agent,支持 Claude 及技能扩展,让团队像管理同事一样管理 Agent。
100 行代码的极简 LLM 框架,用图编排 Agent 工作流,让 Agent 自己搭建 Agent,适合想快速上手又不想被重型框架绑住的场景。
跨平台视频下载工具,能嗅探并抓取 m3u8/HLS 流媒体,支持 B 站、YouTube 等站点,提供桌面端和 Docker 两种部署方式。
用 8 个专家 Agent 组成一个统一的虚拟高管团队,对外呈现一致的高管人格,基于 FastAPI 和 Next.js 搭建,适合做多智能体协作与 RAG 决策辅助。
轻量级 Python 框架,用于编排多智能体工作流,帮助开发者快速搭建基于 LLM 的协作式 Agent 系统。
在 PostgreSQL 数据库内直接跑机器学习和向量检索,用 SQL 就能做嵌入、分类、聚类和 LLM 推理,省去单独搭推理服务的麻烦。
冰霜之地的技术博客合集,深入拆解 Go、HTTP/2、密码学、算法与机器学习等源码,适合想系统啃底层实现和系统设计的工程师。
用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。
面向文本嵌入模型的高性能推理服务,用 Rust 编写,可快速把文本转成向量,适合搭建检索和 RAG 的向量化后端。
NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。
面向本地部署的高速大模型推理引擎,通过稀疏激活与量化等技术,让消费级显卡也能流畅跑起 Llama 类模型。
基于下一尺度预测的自回归视觉生成模型,用GPT式架构做图像生成并击败扩散模型,代码简洁易用,附带缩放定律研究。
在 Apple Silicon 上通过 MLX 框架运行大语言模型,支持加载、推理和微调,让 Mac 本地跑 LLM 更省心。
在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理,靠 Metal GPGPU 把 MoE 模型塞进本地设备。
开箱即用的浏览器沙箱 API,让 AI Agent 和应用直接调用无头浏览器完成网页自动化,省去自建基础设施的麻烦。