面向大模型的无服务器推理服务系统,通过多级检查点加载和 GPU 显存复用,实现低延迟、按需启动的 LLM 部署。
基于 GPU 渲染的跨平台终端模拟器,速度快、功能丰富,适合长期在终端里工作的人,支持 OpenGL 加速和分屏等特性。
用一套 Dart 代码同时构建 Android、iOS、桌面和 Web 应用,自带渲染引擎保证多端界面一致,适合想快速交付精美跨平台 App 的团队。
开源本地 AI 推理引擎,无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型,提供兼容 OpenAI 的 API。
把 Playwright 浏览器自动化能力封装成 MCP 服务器,让 AI Agent 通过结构化接口操控网页、抓取页面内容,无需依赖截图识别。
终端里的资源监控工具,实时显示 CPU、内存、磁盘、网络和进程占用,界面美观、操作顺手,适合在服务器或本地随时查看系统状态。
开源个人 AI 助手与 Agent Harness,能规划任务、调用工具和技能,靠记忆与知识自我进化,支持多智能体、多模型、多渠道,一行命令即可安装。
把训练好的深度学习模型优化并部署到 Intel CPU、GPU 等硬件上做推理,支持视觉、LLM 和生成式模型,省去自己折腾底层加速的麻烦。
纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
面向零基础开发者的大模型应用开发教程,手把手带你用 LangChain 搭建 RAG 应用,从调用 API 到构建知识库问答系统。
一个免代码的 RAG 服务器,能随文档更新自动同步答案,支持 8 种向量数据库,基于 Pathway 构建。
把多家大模型、AI Agent 和 MCP 工具整合到一个桌面工作台里,方便日常对话、调用工具和提升生产力。
轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。
一个 Rust 单二进制实现的 AI 搜索引擎兼 MCP 服务器,把代码、文档、日志、JSONL/CSV 和 PDF 统一索引,为智能体和机器人提供 BM25 全文、向量、混合检索、免 grep 代码搜索、Agent 记忆与 RAG 能力。
在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。
跨平台的系统监控工具,可看作 top/htop 的增强替代品,在终端或网页中实时查看 CPU、内存、磁盘、网络等资源占用。
把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下,方便做密钥管理和二次分发,单文件部署开箱即用。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
给 AI 代理用的极速浏览器自动化工具,能把已登录的浏览器状态直接共享给 Codex、Claude Code 等代理,不打扰你正常使用,零配置零成本。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器,集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件,方便本地跑大模型、RAG 和 Agent 工作流。
从多张照片重建三维场景的 C++ 工具,集成了运动恢复结构(SfM)和多视图立体(MVS),可输出相机位姿与稠密点云。
面向 AI Agent 和 MCP 服务器的下一代代理网关,用 Rust 编写,把 Agent 与模型、工具之间的流量统一接入、路由和管控。
把闲置安卓手机变成 GPU 加速的 Linux 桌面(XFCE4/KDE/LXQt/MATE)或 Home Assistant 智能家居服务器,全程基于 Termux,免 root、无需电脑和云服务。
面向 GPU 工作负载的无服务器平台,可快速部署推理服务、沙箱和后台任务,按需自动扩缩容,省去自建集群的运维成本。
开源 AI 工作站整机方案,覆盖 2 卡桌面到 8 卡服务器,提供 CAD 图纸、BOM 清单、BIOS 配置和装机指南,方便自建本地大模型推理机器。
让 vLLM 在 Apple Silicon 的 Mac 上跑起来,通过 Metal 和 MLX 后端把大模型推理搬到本地苹果芯片,省去 GPU 服务器。
一站式科研工作台插件,把 LaTeX 边写边编译、arXiv 文献管理、实验追踪、指标图表和 GPU 服务器 SSH 任务编排整合在一起,覆盖科研全周期。
把多台 Mac、Linux、Windows 机器统一到一个应用里,集中管理 AI 代理会话、桌面、文件、日志和 GitHub,并自带 MCP 服务器。
浏览器里直接跑的极简 AI 搜索平台,聚合多个搜索源并调用本地大模型做问答,无需后端服务器。