把 RethinkDNS 解析器一键部署到 Cloudflare Workers、Deno Deploy、Fastly 和 Fly.io 等边缘平台,实现带广告拦截和 DoH/DoT 加密的无服务器 DNS 服务。
用 LangChain.js、TypeScript 和 Azure 快速搭建无服务器 RAG 聊天机器人,省去自己拼装检索与生成链路的麻烦。
面向大模型的无服务器推理服务系统,通过多级检查点加载和 GPU 显存复用,实现低延迟、按需启动的 LLM 部署。
在 Kubernetes 或 Docker 上部署无服务器函数,把容器打包成函数,按需自动扩缩容,省去管理底层基础设施的麻烦。
用 TypeScript 编写和部署持久化 AI Agent 与后台工作流,自带调度、重试和编排能力,无需自己搭建任务队列和基础设施。
基于 Node.js 的完整负载测试平台,支持 HTTP、GraphQL、WebSocket 和 Playwright 浏览器压测,可在 AWS Lambda 或 Fargate 上无服务器分布式运行。
面向不可预测增长的 Agent 负载设计的分布式数据库,原生支持事务、分析与向量检索,避免数据孤岛和资源争抢。
基于 Rust 重写的云原生数据仓库,统一支持分析、搜索、AI 与 Python 沙箱,直接架在 S3 上,省去多套系统拼装。
用 Python、Go、TypeScript 等常用编程语言编写基础设施即代码,统一管理 AWS、Azure、GCP 和 Kubernetes 资源,省去学习专用 DSL 的成本。
面向 AI Agent 的多模态数据运行时,提供无服务器 Postgres 与数据湖,支持大规模检索和模型训练。
轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。
可移植的分布式应用运行时,用边车模式把事件驱动、工作流编排、状态管理和发布订阅等能力做成标准 API,让微服务在云和边缘环境都能一致运行。
云原生 API 网关,基于 LuaJIT 提供高性能路由、负载均衡和 Kubernetes Ingress,并支持 AI 网关场景,适合统一管理微服务与 AI 流量。
开源的 Python 库,让大模型直接操控浏览器完成点击、填表、抓取等网页任务,省去手写 Playwright 脚本的麻烦。
给 AI Agent 用的无服务器单文件记忆层,用嵌入式向量检索替代复杂 RAG 管线,让智能体拥有即时检索和长期记忆能力。
面向图像、视频、音频和 3D 数据的开源标注平台,支持 AI 辅助标注、质量校验、团队协作和开发者 API,适合构建计算机视觉数据集。
基于 Kubernetes 的事件驱动自动伸缩组件,能根据队列、消息等事件源动态扩缩容任意容器,让无服务器和事件驱动负载按需伸缩。
基于 Kubernetes 构建的云原生控制平面,用声明式 API 统一编排多云基础设施,把云资源当作 K8s 对象来管理。
把上千个 API 封装成可编排的触发器和动作,用低代码方式快速搭建自动化工作流与事件驱动集成,开发者可免费使用。
基于 libvips 的高性能 Node.js 图像处理库,能快速完成 JPEG、PNG、WebP、AVIF、TIFF 的缩放裁剪与格式转换,适合服务端批量处理图片。
一个可自托管的开源云端桌面环境,把文件存储、应用和界面搬到浏览器里,相当于自己搭一个私有网盘加在线操作系统。
用 TypeScript 编写的回合制游戏状态管理与多人联机引擎,帮你省去自己实现回合流转、状态同步和网络对战的麻烦,专注写游戏规则本身。
系统讲解 Kubernetes 架构与云原生生态的中文手册,覆盖容器编排、服务网格到 AI 原生基础设施的构建实践。
用深度学习快速准确地识别文件真实类型,不依赖扩展名,支持 MIME 检测,Rust 实现,可嵌入各类应用做内容安全与文件分类。
基于 Cloudflare Workers、R2 和 D1 搭建的无服务器图床与文件托管方案,可当个人网盘用,省去自建服务器和运维成本。
一份覆盖 DevSecOps 全流程的资源大全,汇总云安全、CI/CD、容器与自动化等领域的工具、实践和参考资料,适合搭建安全开发流程时按图索骥。
基于 Graph RAG 的对话式知识库工具,用 TiDB Serverless 向量存储做检索,能基于知识图谱回答提问。
在 Cloudflare Workers 上运行、兼容 Bitwarden 客户端的自托管密码管理服务端,用 D1 和 R2 存储数据,无需自己维护服务器。
面向 GPU 工作负载的无服务器平台,可快速部署推理服务、沙箱和后台任务,按需自动扩缩容,省去自建集群的运维成本。
混合 AI 搜索引擎,能同时检索个人知识库和互联网,并自动生成带 UI 的页面,适合搭建 RAG 检索与内容生成场景。
VS Code 里的 AWS 开发插件,集成 Amazon Q 智能补全、CodeCatalyst、本地 Lambda 调试和 SAM/CloudFormation 语法支持,方便直接在编辑器里管理云资源。
为 LLM 推理提供虚拟化弹性 KV Cache,让多个推理任务动态共享 GPU 显存,减少显存碎片和浪费,提升 GPU 利用率。
一个语音聊天应用,把语音识别、大模型对话和语音合成串成完整链路,跑在 Modal 无服务器平台上,适合快速搭建可对话的语音助手原型。
基于 GitOps 的持续交付平台,统一管理应用、平台与运维的部署流程,支持 Kubernetes、ECS、Cloud Run 等多种环境。
把电子表格变成 AI 流水线:在单元格里串联提示词和模型,实时对比 LLM 输出,多人协作迭代 AI 应用。
A serverless framework to accelerate the development of applications that discover next-gene…
基于 Cloudflare Workers 的一站式云端资源分发平台,把二级域名、域名邮箱、R2 直链网盘、个人名片和 AI API 中转站打包在一起,纯静态前端加 Serverless 后端即可自建。
基于 vLLM 的 Runpod 无服务器 worker 模板,用于快速部署大语言模型推理端点,省去自己搭建服务的工作。
多供应商 AI 图像生成器,支持 Gitee AI、HuggingFace、ModelScope 等后端,提供 OpenAI 兼容 API 与 token 轮换,可一键部署到 Cloudflare Pages。
Highlights for ServerlessLLM v0.8.0 New Contributors We're excited to welcome new contributors to the ServerlessLLM community: - @jpfbastos : Integrated model management
Highlights for ServerlessLLM v0.7.0 Major Features LoRA Adapter Inference Support (Alpha) - Added support for serving multiple LoRA adapters alongside base models - Imple
Highlights for ServerlessLLM v0.6.3 New Features - PEFT LoRA Fine-tuning Support (Alpha) : - Added experimental support for PEFT LoRA fine-tuning in the transformers back
…nstall issues by @future-xy in https://github.com/ServerlessLLM/ServerlessLLM/pull/212 Full Changelog : https://github.com/ServerlessLLM/ServerlessLLM/compare/v0.6.1...v0
Highlights for ServerlessLLM v0.6.1 New Contributors We’re excited to welcome a new contributor to the ServerlessLLM community: - @XuehengWang : Contributed improvements
…improvements. Full Changelog : https://github.com/serverless-dns/serverless-dns/compare/v0.1.25...v0.1.30