开源本地 AI 推理引擎，无需 GPU 即可在任意硬件上跑 LLM、视觉、语音和图像生成模型，提供兼容 OpenAI 的 API。

统一管理 VLLM、Sglang、llama.cpp、exllamav3 等本地大模型推理引擎的控制面板，省去逐个配置和切换的麻烦。

本地部署的 AI 量化投资研究平台，集成回测、机器学习选股与自动交易，帮个人开发者搭建从策略研究到实盘的完整量化流程。

用 Python 写的透明 RAG 参考实现，把 FAISS 向量检索和 BM25 关键词检索做混合召回再重排，配 Gradio 界面和 FastAPI 接口，方便本地搭文档问答。

在本地网络内用开源大模型完成文件摄取与检索增强生成，数据不出内网、不依赖第三方服务。

本地部署的 PDF 全能工具箱，支持合并拆分、格式转换、OCR 和编辑，Docker 一键启动，数据不出内网。

面向本地部署的高速大模型推理引擎，通过稀疏激活与量化等技术，让消费级显卡也能流畅跑起 Llama 类模型。

开源手机智能体模型与框架，让 AI 直接操作手机界面完成点按、输入等任务，把「AI 手机」能力开放给所有人。

用 C/C++ 实现的大模型推理引擎，能在普通 CPU 和消费级显卡上跑 LLaMA 等模型，支持量化以降低显存占用。

本地部署的 NotebookLM 替代品，AI 智能体能自动检索、改写和编辑你的文档，数据不出内网，适合对隐私敏感的研究场景。

用纯 RNN 架构的 RWKV 语言模型驱动的开源聊天机器人，效果对标 ChatGPT，可在本地部署运行。

开源 AI 短剧与漫剧创作平台，把剧本、分镜、角色场景资产、图像和视频生成串在无限画布上，用 AI Agent 和可视化工作流完成从创意到成片，支持本地部署和自选模型。

基于 FunASR 的本地视频转写与字幕生成工具，带 Gradio 界面，还能用大模型辅助自动剪辑，适合做中文视频内容创作。

面向重度用户的大语言模型聊天前端，支持接入多种模型接口，提供角色卡、提示词管理和对话历史等进阶功能，适合深度定制 AI 角色扮演与对话体验。

本地运行的 ElevenLabs 开源替代品，支持声音克隆、语音设计、视频配音、听写、转写和有声书制作，覆盖 646 种语言。

单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案，通过逐层加载权重把显存需求压到极低，适合本地低配设备部署大模型。

用自然语言直接操控网页界面的 JavaScript 页面内 GUI 智能体，把浏览器自动化从写选择器变成说人话，适合做网页操作助手和自动化流程。

开箱即用的个人 AI 助手，可本地或云端部署，接入多种聊天应用，并通过 MCP 与工具扩展能力。

本地优先的 AI 智能体工作台，把文档、对话和工具整合成可私有部署的知识库与代理，数据留在自己机器上，不用租用云端智能服务。

基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎，通过量化与高效推理大幅提速并降低显存占用，适合本地部署转录。

在任意网址前加上 https://r.jina.ai/ 前缀，就能把网页转成适合大模型读取的干净文本，省去自己写爬虫和清洗正文的麻烦。

支持中英日韩法西六种语言的高质量语音合成库，适合需要多语种 TTS 能力的应用直接集成。

用 Python 直接调用微软 Edge 的在线语音合成服务，无需安装 Edge 浏览器或密钥，即可把文本转成自然语音。

本地运行的简历匹配与生成工具，用 100+ 大模型解析简历、计算与职位描述的文本相似度，并生成 PDF 和求职信。

在 LLaMA/Alpaca 基础上扩充中文词表并做中文增量预训练，提供可本地 CPU/GPU 部署的中文大模型及 LoRA 微调、量化方案。

给 ChatTTS 套了个本地网页界面，输入文字就能合成语音，还能对外提供 API 接口，省去自己写前端和接口的功夫。

开源自托管的智能体交易操作系统，把 AI 研究、Python 策略回测、因子挖掘、多资产模拟与实盘执行、风控和监控整合进一套可审计的技术栈。

本地跑实时语音转文字，带流式识别、说话人分离和翻译，还兼容 OpenAI/Deepgram 接口，适合自建低延迟转写服务。

给 Paperless-ngx 文档库接上大模型，自动分析文档内容并打标签，支持 OpenAI、Ollama、DeepSeek-r1、Azure 等兼容接口。

给 AI Agent 提供持久化记忆的基础设施层，把对话和执行过程转成结构化状态，兼容任意 LLM，可直接接入现有数据设施，支持云上和本地部署。

完全离线运行的 Python 多智能体框架，面向高监管团队和想在本地跑 AI 的人，不用联网也能搭建智能体。

一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK，覆盖 Android、iOS、Flutter，省去自己搭推理链路的麻烦。

在笔记本或沙箱里跑一支 Claude Code、Codex 这类编码智能体组成的虚拟办公室，复用你已有的订阅，替代各类托管式智能体服务。

面向智能体应用的 AI 原生代理服务器和数据平面，提供 LLM 智能路由、可观测性、编排与护栏，让开发者专注核心逻辑。

纯 Rust 实现的 WebGPU 推理引擎，原生支持 GGUF 模型，兼容 OpenAI API，无需 Python 和 llama.cpp，单个二进制文件即可在任意 GPU 上跑本地大模型。

本地部署的 Anthropic 兼容 AI 网关，按「先便宜后贵」路由模型，带质量门控、安全模型切换和内置成本看板，帮你在多模型调用中省钱又不掉质量。

一个完全本地部署的生产级 Super SDK，用统一接口调用 200 多个大模型，省去为每家厂商单独适配的麻烦。

100M 参数的多语言语音合成模型，能在 CPU 上实时推理，支持音色克隆和 48kHz 立体声输出，适合本地部署轻量 TTS。

上传一张商品图，AI 自动提炼卖点、写种草脚本并配上画面配音字幕，批量生成抖音、快手、小红书、TikTok Shop 带货短视频，可本地部署、无水印。

本地运行的语音转文字工具，带网页界面，用 Whisper 模型把任意音频转成文本，还能翻译和编辑字幕，全程数据不出本机。