轻量高性能的 WebAssembly 运行时,面向云原生、边缘和去中心化场景,支撑无服务器函数、微服务、智能合约和 IoT 设备。
NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。
一条 Docker 命令就能拉起 IPsec VPN 服务端,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,自动生成配置,各平台客户端都能连。
Cloudflare Tunnel 官方客户端,把本地服务安全地暴露到公网,无需开放端口或配置公网 IP,适合零信任内网穿透。
用 Rust 写的轻量级自主 AI 个人助理基础设施,跨操作系统和平台部署,组件可自由替换。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
用 Rust 写的去中心化 Mesh VPN,支持 WireGuard,能自动穿透 NAT 把多台设备组成虚拟局域网,适合替代 Tailscale/ZeroTier 自建组网。
面向云端和数据中心的高性能推理服务端,支持多种深度学习框架模型部署,并可在边缘设备上运行。
把分布在全球的设备组成一个虚拟二层以太网,无需公网 IP 或复杂配置就能点对点直连,适合搭建 SD-WAN 和远程组网。
几分钟内用脚本搭好自己的 IPsec VPN 服务器,支持 IPsec/L2TP、Cisco IPsec 和 IKEv2,覆盖主流 Linux 发行版和树莓派,附带客户端配置与管理脚本。
轻量级进程内向量数据库,主打极速检索,适合在本地为 RAG、语义搜索和 LLM 记忆等场景提供向量与全文检索能力。
面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。
自托管的网页工具合集,涵盖图片处理、PDF 操作、格式转换等日常实用功能,无广告无追踪,打开浏览器就能用。
基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。
基于 PyTorch 的 YOLOv3 系列实现,覆盖训练、验证、推理全流程,并支持导出 ONNX、CoreML、TensorRT 等多种格式,方便做实时目标检测和边缘部署。
基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包,支持多语言识别,方便在不同硬件上快速部署文字检测与识别。
PyTorch 官方的端侧推理框架,把训练好的模型导出并部署到手机、嵌入式和边缘设备上运行,覆盖 CPU、GPU 等多种后端。
一套能在手机和边缘设备上本地跑大模型、扩散模型和多模态推理的生产级 SDK,覆盖 Android、iOS、Flutter,省去自己搭推理链路的麻烦。
基于 Cloudflare Workers、R2 和 D1 搭建的无服务器图床与文件托管方案,可当个人网盘用,省去自建服务器和运维成本。
给 AI Agent 用的无服务器单文件记忆层,用嵌入式向量检索替代复杂 RAG 管线,让智能体拥有即时检索和长期记忆能力。
用 Go 语言调用 OpenCV 做计算机视觉的封装库,支持 DNN 推理、CUDA 加速、OpenVINO 和扩展模块,省去写 C++ 胶水代码的麻烦。
开源自托管的个人云操作系统,基于 Kubernetes 在本地或边缘设备上常驻运行 AI Agent,兼顾数据隐私与模型服务。
纯 Rust 实现的 WebGPU 推理引擎,原生支持 GGUF 模型,兼容 OpenAI API,无需 Python 和 llama.cpp,单个二进制文件即可在任意 GPU 上跑本地大模型。
…对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 🚀 流畅对话体验:低延迟、不卡顿,几乎像真人对话一样自然,百聆使用了多个开源模型,确保高效、可靠的语音对话体验。 🖥 轻量级部署:无需高端硬件,甚至不需要 GPU,通过优化,可本地部署,仍能提供类GPT-4的性能
…对话体验,端到端时延800ms。百聆旨在无需GPU的情况下,实现类GPT-4o的对话效果,适用于各种边缘设备和低资源环境。 - 语音输入:通过 FunASR 进行准确的语音识别。 - 语音活动检测:使用 silero-vad 过滤无效音频,提升识别效率。 - 智能对话生成:依靠 deepseek 提供的强大语言理解能力生成自然的文本回复,