在 NVIDIA OpenShell 沙箱里安全运行 Hermes、LangChain Deep Agents、OpenClaw 等智能体,并统一托管推理调用,解决智能体执行环境隔离与模型接入管理问题。
面向语音 AI 的可扩展生成式框架,覆盖语音识别、语音合成、说话人分离与语音翻译,方便研究和开发人员训练部署语音模型。
NVIDIA 的大规模 Transformer 训练框架,支持张量并行、流水线并行等模型并行策略,用来在成百上千张 GPU 上高效预训练大语言模型。
NVIDIA 官方的高性能深度学习推理 SDK,能把训练好的模型在 NVIDIA GPU 上做极致加速和部署,适合追求低延迟高吞吐的生产推理场景。
用 Python API 定义大模型,并借助 TensorRT 在 NVIDIA GPU 上做极致优化推理,还提供 Python/C++ 运行时来编排高性能服务。
安装前扫描 Claude Code、Codex 和 MCP 技能的安全工具,能发现漏洞、恶意模式、提示注入、数据外泄和供应链风险。
自建的游戏串流主机端,配合 Moonlight 客户端把 PC 游戏低延迟推流到电视、手机等设备,替代 NVIDIA GameStream。
终端里的资源监控工具,实时显示 CPU、内存、磁盘、网络和进程占用,界面美观、操作顺手,适合在服务器或本地随时查看系统状态。
面向 NVIDIA Jetson 嵌入式设备的深度学习推理部署指南,用 TensorRT 加速图像识别等视觉任务,配套教程和预训练模型开箱即用。
跨平台语音转文字听写应用,支持本地 Nvidia Parakeet/Whisper 模型和自带密钥的云端模型,主打隐私优先。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器,集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件,方便本地跑大模型、RAG 和 Agent 工作流。
统一调用 100+ 家 LLM API 的 AI 网关,用 OpenAI 格式或原生格式接入,自带成本追踪、限流护栏、负载均衡和日志。
用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型,并附 C++ 推理代码,方便直接部署到 NVIDIA GPU。
为容器提供用户态内核,在 Go 中实现 Linux 系统调用接口,让 Docker 和 Kubernetes 容器获得更强的安全隔离,同时保持 OCI 兼容。
用 Rust 写的跨平台终端系统监控工具,像 top 一样实时查看 CPU、内存、磁盘和网络占用,但界面更现代、交互更顺手。
持续性能分析平台,能定位到具体代码行,帮你排查 CPU、内存等性能瓶颈,适合生产环境做可观测性监控。
自托管的大模型对话界面,兼容 Ollama、OpenAI API 等后端,内置 RAG 与 MCP 支持,让团队快速搭建私有 AI 聊天入口。
集成 Waifu2x、Real-ESRGAN、Real-CUGAN 等多种超分模型与 RIFE 等补帧算法的图形界面工具,可批量放大视频、图片和 GIF 并提升帧率。
面向创作者和开发者的 Gradio 语音工作台,集成多引擎 TTS、零样本声音克隆、Whisper 转写、人声分离与多语言翻译,一站式完成配音和字幕制作。
面向稠密向量的高效相似度检索与聚类库,支持十亿级向量近邻搜索,是构建向量数据库和 RAG 检索层的底层引擎。
基于 Whisper 的语音识别工具,能给出词级时间戳并支持说话人分离,适合做字幕对齐和会议转写。
通用大模型部署引擎,借助机器学习编译技术把 LLM 高效跑在各种硬件上,从手机到服务器都能用。
基于 CTranslate2 重实现的 Whisper 语音转文字推理引擎,通过量化与高效推理大幅提速并降低显存占用,适合本地部署转录。
飞桨核心框架,提供深度学习与机器学习的高性能单机及分布式训练能力,并支持跨平台部署,适合工业级模型开发。
面向中文用户的 Linux 环境大模型实战教程,手把手教你在本地微调(全参数/LoRA)和部署国内外开源 LLM 与多模态模型。
从下载数据到生成文本,手把手教你从零训练自己的大语言模型,适合想搞懂 LLM 训练全流程的开发者动手实践。
本地运行的 AI 会议记录工具,用 Whisper/Parakeet 在设备上完成转写和说话人分离,不需要会议机器人,会议内容不出本机。
一站式大模型微调工具,支持 LoRA、QLoRA、全参等多种训练方式,用配置文件就能跑起各种开源模型的微调任务。
Meta 开源的 SAM 2 图像与视频通用分割模型,提供推理代码、预训练权重下载和示例 notebook,可对任意画面中的物体做可提示分割与视频目标跟踪。
一键识别并翻译漫画、图片中的文字,自动完成 OCR、机器翻译和文字区域修复,适合给日漫或外文图片做批量汉化。
基于节点的可视化编程工具箱,把照片一键重建为带纹理的 3D 模型,覆盖相机追踪、多视图立体和 HDR 成像等流程。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
…lex token dispatcher ([\ 5153](https://github.com/NVIDIA/Megatron-LM/pull/5153)). NCCL EP MXFP8 communication (experimental): adds MXFP8 dispatch-forward and combine-back
… 32-bit ran… by @huuanhhuyn in https://github.com/NVIDIA/raft/pull/3093 Better error reporting with std::source location by @achirkin in https://github.com/NVIDIA/raft/pu
… for KMeans by @tarang-jain in https://github.com/NVIDIA/cuvs/pull/2147 Containerize standalone tarball build by @jameslamb in https://github.com/NVIDIA/cuvs/pull/2595 Mi
… for hnsw::build by @tfeher in https://github.com/NVIDIA/cuvs/pull/1719 Track tensor and index lifetimes in the Rust DLPack bindings by @yan-zaretskiy in https://github.c
…raft resources by @achirkin in https://github.com/NVIDIA/raft/pull/3004 Fix gather/scatter fast division bug by @huuanhhuyn in https://github.com/NVIDIA/raft/pull/3059 Pr
This is the NVIDIA Dataset split followed RoDynRF. We use this dataset as the main evaluation metric in our paper.