轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。
NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。
一条 Docker 命令就能拉起 IPsec VPN 服务端,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,自动生成配置,各平台客户端都能连。
Cloudflare Tunnel 官方客户端,把本地服务安全地暴露到公网,无需开放端口或配置公网 IP,适合零信任内网穿透。
用 Rust 写的轻量级自主 AI 个人助理基础设施,跨操作系统和平台部署,组件可自由替换。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
用 Rust 写的去中心化 Mesh VPN,支持 WireGuard,能自动穿透 NAT 把多台设备组成虚拟局域网,适合替代 Tailscale/ZeroTier 自建组网。
面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。
把分布在全球的设备组成一个虚拟二层以太网,无需公网 IP 或复杂配置就能点对点直连,适合搭建 SD-WAN 和远程组网。
几分钟内用脚本搭好自己的 IPsec VPN 服务器,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,覆盖主流 Linux 发行版和树莓派,附带客户端配置与管理脚本。
轻量级进程内向量数据库,主打极速检索,适合在本地为 RAG、语义搜索和 LLM 记忆等场景提供向量与全文检索能力。
面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。
自托管的网页工具合集,涵盖图片处理、PDF 操作、格式转换等日常实用功能,无广告无追踪,打开浏览器就能用。
基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。
基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。
基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。
PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
基于 Cloudflare Workers、R2 和 D1 搭建的无服务器图床与文件托管方案,可当个人网盘用,省去自建服务器和运维成本。
给 AI Agent 用的无服务器单文件记忆层,用嵌入式向量检索替代复杂 RAG 管线,让智能体拥有即时检索和长期记忆能力。
用 Go 语言调用 OpenCV 做计算机视觉的封装库,支持 DNN 推理、CUDA 加速、OpenVINO 和扩展模块,省去写 C++ 胶水代码的麻烦。
开源自托管的个人云操作系统,基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent,兼顾数据隐私与模型服务。
纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。
在树莓派等边缘设备上跑深度学习推理的网关,把模型部署到 IoT 终端并通过 MQTT 上报结果,省去云端往返。
用 Rust 写的轻量级推理引擎,能直接跑 TensorFlow 和 ONNX 模型,无需额外依赖,适合在边缘设备或嵌入式场景部署神经网络。
把 PyTorch、TorchScript 和 FX 模型编译成 TensorRT 引擎,在 NVIDIA GPU 上做推理加速,省去手写 TensorRT 网络的麻烦。
把 ONNX 模型编译成纯 C 代码,方便在单片机和边缘设备上直接跑推理,不用带完整运行时。
在 OpenWrt 上把多条宽带、4G/LTE 等网络用 MPTCP 聚合成一条链路,提升带宽和可靠性,适合多线接入或需要稳定出口的场景。
在 NVIDIA Jetson 系列开发板上实时查看 CPU、GPU、内存和功耗状态,还能直接调整风扇与功耗模式,省去手动翻 sysfs 的麻烦。
一条命令在 Ubuntu、Debian、CentOS 等主流 Linux 上装好 WireGuard VPN 服务端,带交互式配置和客户端管理,省去手动改配置的麻烦。
面向 Keras 和 TensorFlow 的模型压缩工具包,通过量化和剪枝把训练好的模型压小、跑得更快,方便部署到移动端和边缘设备。
把任意电脑或边缘设备变成计算机视觉推理服务器,一条命令部署目标检测、分类、实例分割等模型,省去自己搭服务的麻烦。
轻量高效的 WebAssembly 解释器,专为嵌入式系统和插件运行时设计,提供确定性执行和燃料计量,适合资源受限环境。
为 Jetson Nano 准备的 Ubuntu 20.04 系统镜像,预装 CUDA、OpenCV、PyTorch、TensorFlow、TensorRT 等深度学习环境,省去在边缘设备上手动配置的麻烦。
超轻量无锚框目标检测算法,权重仅 250K 参数,比 yolo-fastest 快 10%,后处理更简单,适合边缘设备部署。
MIT 协议的开源计算机视觉库,支持目标检测、实例分割和姿态估计,兼容 ONNX 与 PyTorch,方便在边缘设备上训练和部署模型。
面向边缘设备的实时无锚框目标检测器,精度不错,支持 ONNX、MNN 及 RK3588、昇腾等国产 NPU 部署。
基于 Python 的视频分析与计算机视觉框架,内置 NVIDIA DeepStream 和 CUDA 支持,可在边缘设备上快速搭建目标检测、实例分割等推理流水线。
在瑞芯微 NPU 上跑大模型的推理服务,类似 Ollama 的替代方案,通过优化 rkllm 让 Orange Pi 等设备高效离线运行 AI 模型。
…对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 🚀 流畅对话体验:低延迟、不卡顿,几乎像真人对话一样自然,百聆使用了多个开源模型,确保高效、可靠的语音对话体验。 🖥 轻量级部署:无需高端硬件,甚至不需要 GPU,通过优化,可本地部署,仍能提供类GPT-4的性能
…对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 - 语音输入:通过 FunASR 进行准确的语音识别。 - 语音活动检测:使用 silero-vad 过滤无效音频,提升识别效率。 - 智能对话生成:依靠 deepseek 提供的强大语言理解能力生成自然的文本回复,