一行代码就能把 GPT 换成任意开源大模型,统一推理 API 支持云端、本地和笔记本部署,覆盖语言、语音和多模态模型。
本地优先的深度研究问答系统,接 llama.cpp、Ollama 等本地或云端模型,聚合 arXiv、PubMed 及私有文档等十余个检索源,全程加密。
微软推出的本地 AI 推理运行时,基于 ONNX Runtime 在设备端跑聊天补全和语音转文字模型,支持 GPU 加速,不用联网也能用。
本地一键跑起 Kimi、DeepSeek、Qwen、Gemma 等大模型,省去环境配置和依赖折腾,适合快速做推理和原型验证。
用 C/C++ 实现的大模型推理引擎,能在普通 CPU 和消费级显卡上跑 LLaMA 等模型,支持量化以降低显存占用。
OBS 直播插件,用本地 Whisper 模型实时做语音识别和字幕,不用把音频传到云端,直播时也能直接出字幕。
在自己电脑上离线运行的语音对话大模型,集语音识别、大模型推理和语音合成于一体,无需联网即可与 AI 对话。
本地离线运行的便携式 OCR 软件,用 DeepSeek-OCR-2 模型直接在你自己机器上识别图片和 PDF,适合不想把文档传到云端的场景。
开源 AI 语音工作室,支持声音克隆、语音听写和语音生成,基于 Qwen3-TTS 与 Whisper,可在 CUDA 或 MLX 上本地运行。
本地跑和训练大模型、扩散模型的图形界面,支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型,省去命令行配置的麻烦。
在安卓手机上原生运行 DeepSeek Harness AI 智能体,无需 Root 或 Termux,自带扩展中心,让手机直接当本地 Agent 运行环境。
一条命令就能从数百个模型和供应商里筛出适合你硬件配置的本地大模型,省去逐个试跑和查显存的麻烦。
在任意 M 系列 MacBook 上仅用约 2GB 内存跑 Gemma 4 26B-A4B 大模型推理,靠 Metal GPGPU 把 MoE 模型塞进本地设备。
本地运行的网络录像机,接入 IP 摄像头后实时做目标检测,识别到人、车等对象再触发录像和 MQTT 通知,画面不出家门。
自托管的多模型 AI 图像与视频生成工作台,聚合 Flux、Midjourney、Kling、Sora 等 600+ 模型,无内容过滤,可替代闭源视频平台。
把 Mac 上运行的 Apple Foundation Models、MLX 模型等本地 AI 能力聚合成一个兼容 OpenAI 的 API 端点,支持服务模式和单次命令推理,还能通过管道调用。
Android 上能力最强的 AI Agent 与聊天软件,支持本地 llama/MNN 模型和终端操作,让手机直接跑智能体任务。
在 Apple Silicon 上通过 MLX 框架运行大语言模型,支持加载、推理和微调,让 Mac 本地跑 LLM 更省心。
实时全球情报仪表盘,用 AI 聚合新闻、监控地缘政治与基础设施动态,把分散信息整合进统一的态势感知界面。
基于节点图的扩散模型图形界面与后端,支持本地快速推理和 API 调用,方便搭建和调试图像生成工作流。
OpenAI API 的官方示例与实战指南合集,用 Jupyter Notebook 演示对话、嵌入、微调等常见用法,帮你快速上手并解决实际调用中的问题。
本地运行的 ElevenLabs 开源替代品,支持声音克隆、语音设计、视频配音、听写、转写和有声书制作,覆盖 646 种语言。
面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。
开源自托管的 Notebook LM 替代品,能上传资料让 AI 帮你整理笔记、生成摘要和问答,比原版更灵活、功能更多。
面向 Linux 服务器的开源运维管理面板,用 Web 界面管理 Docker、LNMP 站点和 Ollama 等 AI 服务,省去手敲命令的麻烦。
用 Rust 写的高性能编码 Agent 运行框架,专为多 Agent 并行开发的重度工作流设计,在终端里跑 TUI 界面。
阿里云通义团队开源的多模态大模型系列,能同时理解图像和文本,用于视觉问答、图文推理等视觉语言任务。
开箱即用的开源 AI 对话平台,支持接入任意 LLM,内置 RAG 与企业级搜索,适合团队自建带知识库的聊天助手。
开源智能体操作系统,用 TypeScript 搭建可自主运行的多平台 AI 代理,支持插件扩展、RAG 检索和 Discord 等聊天渠道接入。
面向 Stable Diffusion 的专业图像生成引擎,提供行业领先的 WebUI,支持文生图、图生图、局部重绘和扩图,适合创作者与商业产品集成。
跨平台桌面端语音转写工具,基于 Whisper 在本地把音视频转成文字,不用上传云端,隐私和离线场景都能用。
MiniCPM-V 是面壁智能开源的多模态视觉语言模型,能在手机、PC 等本地设备上完成看图、听音和对话交互,无需依赖云端。
本地运行的 AI 会议记录工具,用 Whisper/Parakeet 在设备上完成转写和说话人分离,不需要会议机器人,会议内容不出本机。
基于 Python 的开源离线翻译库,用本地语言模型完成多语种互译,无需联网即可在自有设备上跑机器翻译。
面向 Windows 的 GUI 智能体框架,用自然语言驱动 LLM 自动操作桌面应用完成跨应用任务,把繁琐的点击流程交给 AI 执行。
为小智 ESP32 语音助手提供后端服务,快速搭建设备控制服务器,集成 Dify 与 MCP 能力。
轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。
一个自主红队测试平台,用多智能体编排自动执行攻击性安全测试,帮安全团队持续检验防御能力。
本地大模型推理服务的模型热切换代理,按需自动加载和卸载不同模型,让单个服务端同时对外提供多个 LLM,省去手动重启。
…别名便于检索;引入 part 层级,全书骨架更清晰。 - AI Native 章节重构 :HAMi 本地推理文档与脚本面向 macOS 重构,KAITO、KubeFleet 等 AI 推理基础设施内容增强。 - 书单页更新 :收录多本云原生书籍的翻译进度与导读信息。 内容质量提升 - 补全缺失的 front matter 描述字段,修复多
…使用已有结果完成回答,并显示工具失败及调用限制信息。 减小桌面应用体积 macOS 安装包去除重复的本地推理库;Electron 内置界面语言资源仅保留简体中文、繁体中文和英文,不限制文章与笔记的语言。 导出保留原布局的译文 PDF 使用已保存译文生成 PDF 副本,保留页数与页面布局,支持中文、行内公式及图表标题。无法安全排入的区域保留
…使用已有结果完成回答,并显示工具失败及调用限制信息。 减小桌面应用体积 macOS 安装包去除重复的本地推理库;Electron 内置界面语言资源仅保留简体中文、繁体中文和英文,不限制文章与笔记的语言。