本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型,省去环境配置和依赖折腾,适合快速做推理和原型验证。
把 DeepSeek、Llama 等开源大模型一键部署成兼容 OpenAI 的 API 服务,省去自己搭推理后端的麻烦。
一站式可视化 AI Agent 开发平台,用拖拽式工具完成智能体的创建、调试和部署,大幅降低搭建聊天机器人与多模态应用的门槛。
一站式 MLOps/LLMOps 平台,把实验跟踪、数据管理、流水线编排和模型服务整合在一起,帮团队把 AI 训练与部署流程自动化。
面向全模态模型的高效推理框架,支持图像、视频、音频生成与多模态模型服务,基于 PyTorch 提供统一的推理与部署能力。
微软出品的 21 节生成式 AI 入门课程,用 Jupyter Notebook 带你从零理解大模型、提示工程和 ChatGPT 应用开发。
把 Playwright 浏览器自动化能力封装成 MCP 服务器,让 AI Agent 通过结构化接口操控网页、抓取页面内容,无需依赖截图识别。
在浏览器里直接跑 Hugging Face 的 Transformer 模型,不用后端服务器,前端就能做文本、视觉等机器学习推理。
面向 AI Agent 的自进化上下文数据库,把 Agent 记忆、知识 RAG 和技能统一管理,解决多来源上下文分散、难以持续演进的问题。
分布式 AI 计算引擎,提供核心分布式运行时和一组 AI 库,用来加速机器学习负载、大模型推理与超参搜索。
面向 Linux 服务器的开源运维管理面板,用 Web 界面管理 Docker、LNMP 站点和 Ollama 等 AI 服务,省去手敲命令的麻烦。
用 AI 智能体复刻爆款视频的完整工作流:换脸、改文案、替换 B-roll,一条命令批量产出上百个变体。
一套主打易用性的 Hyprland 桌面配置,基于 QML 和 Quickshell 实现 Material Design 风格界面,开箱即用,省去自己折腾 Wayland 桌面的时间。
基于 Langchain 和 ChatGLM、Qwen、Llama 等本地大模型搭建的知识库问答应用,支持 RAG 检索增强与 Agent 能力,可离线部署私有文档问答系统。
用 Python 直接调用微软 Edge 的在线语音合成服务,无需安装 Edge 浏览器或密钥,即可把文本转成自然语音。
开源企业级 Agent 平台,把智能体、工作流、RAG 知识库和模型管理整合在一起,方便企业搭建、部署和运维 AI 应用。
把机器学习模型打包成标准 Docker 容器,自动生成 HTTP 推理服务接口,省去自己写 Dockerfile 和部署脚本的麻烦。
用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。
基于 Kubernetes 的云原生机器学习平台,把训练、流水线编排、模型服务和 Notebook 开发统一到容器化集群里,解决 MLOps 各环节割裂、难以规模化调度的问题。
完全离线运行的 Python 多智能体框架,面向高监管团队和想在本地跑 AI 的人,不用联网也能搭建智能体。
Mooncake 是支撑 Kimi 大模型服务的推理平台,通过 KVCache 分离式架构和 RDMA 高速传输,把预填充与解码拆开部署,提升长上下文场景下的吞吐和资源利用率。
用 LLM 智能体自动完成数据挖掘、模型训练等研发流程,让 AI 驱动数据驱动的 AI 开发。
集成 AI 与 LLM 的红队对抗模拟平台,把 Cobalt Strike、Metasploit 等后渗透工具统一编排,方便安全团队做攻击演练。
统一管理 GPU 集群,调度 vLLM、SGLang 等推理引擎做高性能模型服务,还能按需开出可 SSH 登录的 GPU 实例。
在 Kubernetes 上编排 ML 流水线、智能体和实时推理的类型安全分布式引擎,用纯 Python 的 async/await 写工作流,也支持 Rust、Go 和 TS。
自托管的 TypeScript 智能体运行时,提供持久化审批和可验证的运行记录,让团队自己掌控、审批并审计 AI 智能体的每次执行。
跨平台桌面 AI 助手兼 MCP 客户端,兼容主流大模型服务商,可通过 MCP 服务器接入本地知识库和外部工具。
在 Kubernetes 上统一部署生成式与预测式 AI 模型的推理平台,支持多框架、可扩展的分布式推理服务。
开源自托管的个人云操作系统,基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent,兼顾数据隐私与模型服务。
基于身份和上下文的零信任访问代理,用统一身份认证替代传统 VPN,按用户身份和设备状态动态控制内网应用访问。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器,集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件,方便本地跑大模型、RAG 和 Agent 工作流。
面向数据库的可视化管理平台,支持 ER 图、数据目录与血缘追踪,并通过 MCP 协议让 AI Agent 直接查询和操作多种数据源。
统一可扩展的分布式机器学习库,支持大规模训练、模型服务和联邦学习,还能跨云调度任意 AI 任务到 GPU 云或本地集群。
分布式模型服务框架,能把多台机器组成自建 AI 推理集群,用来跑 Llama、DeepSeek 等大模型。
Kubernetes 上的 LeaderWorkerSet API,用来编排多机多卡的分布式推理工作负载,把大模型服务拆成 leader 和 worker 组统一调度。
在 Kubernetes 上打包、部署、监控和管理大规模生产机器学习模型的 MLOps 框架,解决模型上线后服务化与运维难题。
面向 Llama 及其变体的大模型推理加速引擎,用 CUDA 和 C++ 做底层优化,主打高吞吐低延迟的模型服务部署。
让 vLLM 推理引擎跑在华为昇腾 NPU 上的社区维护硬件插件,帮你在国产算力上部署大模型服务。
高性能机器学习模型服务框架,支持动态批处理和 CPU/GPU 流水线,把单机算力充分利用起来,适合部署 CV、LLM 等模型。
基于 FastAPI 的机器学习模型服务骨架,帮你快速搭出可上生产环境的推理 API,省去从零写服务框架的功夫。
…ntributors). <!-- lang:zh -- 功能 - 将 GPUStack(一个自托管模型服务器)添加到了 Add 工作表中。 安装 从 [usemagpie.ai](https://usemagpie.ai) 下载,或运行 curl -fsSL https://usemagpie.ai/install.sh sh 。已安装
…页中重复的「资源管理器」和「文件…」入口;打开资源管理器即可直接搜索文件( 15040)。 - 修复模型服务设置中容量数值、继承提示及计费方式被裁切的问题;价格输入框与币种选择框统一高度,按实际可用宽度和字号调整列数,铺满表单区域。订阅计费选项使用简短名称,并保留完整说明( 15054)。 - 修复任务完成后旧思考卡片仍显示「思考中」并持
…长时间! 费用和用时估算 - 「构建画像」页的确认步骤会估算这次构建的费用、用时和请求次数。试算会向模型服务发送约 10 次真实请求来测量,这些回答构建时直接沿用。 - DeepSeek 等已知服务商按官方价格计算,其他服务按各家服务商的常见价格估算。有错峰价格的服务,按现在开始构建会经过的时段计算。 - 使用 Codex 时显示 tok
… - 通用 CSV 格式的聊天记录可以在这个页面以文件夹或 zip 上传,加密模式下加密存储。 - 模型服务也在这个页面选择:Codex 填模型和思考强度,API 选服务商、填 Key,再从服务列出的模型里选一个。 - 多个聊天文件按 batch size 并行处理,构建更快。 - build-profile --csv-folder <
…中输入框提示「运行中也可以继续输入…」,模型按钮前显示厂商图标(efdbf9788)。 - 还没连接模型服务时,输入框上方的提示带警告图标,并说明「发不出去」(97c3ebbbf)。 - 上下文用到 80% 以上时,状态栏里的上下文读数和圆环变成橙色提醒,不弹窗(20903c347)。 - 上下文压缩只有一个自动触发点:输入到模型窗口的一
…- 聊天:动态发言规则移除总开关、全局通配和默认兜底。 - 模型与 Git:允许配置、测试本机和内网模型服务,以及直接克隆、更新内网 Git 仓库。 - 上下文压缩优化了成功率。 - 将错别字功能迁移到内置插件 - 模型:支持自动测试思考开关。供应商 API Key 可留空并使用无鉴权模式。 - 插件运行时:移除旧 Action 组件支持