飞桨核心框架，提供深度学习与机器学习的高性能单机及分布式训练能力，并支持跨平台部署，适合工业级模型开发。

用大模型智能体做量化交易，支持多智能体协作、策略回测和 MCP 接入，让个人也能搭起自己的自动交易助手。

高性能大模型与多模态模型推理服务框架，通过优化注意力机制和调度策略提升吞吐与延迟表现，支持 Llama、DeepSeek、MoE 等主流模型部署。

在 NVIDIA OpenShell 沙箱里安全运行 Hermes、LangChain Deep Agents、OpenClaw 等智能体，并统一托管推理调用，解决智能体执行环境隔离与模型接入管理问题。

本地运行的网络录像机，接入 IP 摄像头后实时做目标检测，识别到人、车等对象再触发录像和 MQTT 通知，画面不出家门。

给 AI Agent 运行框架加上可观测与策略执行层，记录每次运行轨迹，并实时拦截违规行为，提升运行时可靠性。

把强化学习接到 LLM Agent 应用上的训练框架，让 Agent 能在真实任务中通过 RL 持续优化策略，配置简单、扩展灵活。

基于 PyTorch 的扩散模型工具箱，统一加载和训练 Stable Diffusion、FLUX 等模型，做图像、视频、音频生成。

基于身份和上下文的零信任访问代理，用统一身份认证替代传统 VPN，按用户身份和设备状态动态控制内网应用访问。

面向 LLM 推理的可编程语义路由层，按请求语义把流量分发到不同模型和算力，并内置护栏与 K8s 集成。

面向 AI Agent 和 MCP 服务器的下一代代理网关，用 Rust 编写，把 Agent 与模型、工具之间的流量统一接入、路由和管控。

把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台，适合搭建企业知识库与智能问答。

面向系统工程师的实战课程，在 Apple Silicon 上从零搭建一个迷你 vLLM 推理引擎并跑通 Qwen 模型，帮你搞懂大模型推理系统的内部机制。

用纯 RNN 架构的 RWKV 语言模型驱动的开源聊天机器人，效果对标 ChatGPT，可在本地部署运行。

用大模型加 RAG 把自然语言问题直接转成 SQL，做对话式数据分析，让不会写 SQL 的人也能查库出报表。

基于 Kubernetes 的云原生机器学习平台，把训练、流水线编排、模型服务和 Notebook 开发统一到容器化集群里，解决 MLOps 各环节割裂、难以规模化调度的问题。

输入一个主题或关键词，就能自动完成文案生成、素材匹配、配音字幕和视频合成，一键产出高清短视频，省去手工剪辑的麻烦。

医学影像分割的深度学习工具箱，开箱即用，能自动配置训练流程，在 CT、MRI 等 3D 数据上达到竞赛级精度。

提供文本嵌入与重排模型，用于语义检索和 RAG 场景，把文档和查询转成向量并做相关性排序。

把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU，写起来像 NumPy，跑起来像高性能计算。

一站式大模型训练框架，支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练，可用 LoRA 等 PEFT 方式或全参数微调。

基于 Ray 的高性能 RLHF 训练框架，支持 PPO、DAPO、REINFORCE++ 等算法与 vLLM 推理加速，可扩展地完成大模型和视觉语言模型的对齐后训练。

开源自托管的云平台，提供弹性计算、块存储、防火墙、托管 Postgres、K8s 和 AI 推理等 AWS 式服务，可跑在自己的裸金属服务器上。

为 AI Agent 提供可持久化的长期记忆层，让智能体和应用能跨会话记住上下文，开箱即用、面向生产环境。

一套面向大模型训练的分布式并行框架，把数据、模型、流水线并行和异构训练整合成统一接口，让训练和推理更省显存、更快。

在浏览器里直接完成图片抠图去背景，无需上传服务器，兼顾隐私和零成本，适合前端集成。

统一调用 100+ 家 LLM API 的 AI 网关，用 OpenAI 格式或原生格式接入，自带成本追踪、限流护栏、负载均衡和日志。

开源的 RAG 文档问答工具，上传文档后即可用大模型对话检索，快速搭建私有知识库问答。

面向 LLM 应用的多智能体开发框架，支持多模态、语音与实时交互，让智能体的构建、运行和调试过程可见、可理解、可信。

一个能自主感知上下文的桌面 AI 伴侣，通过实时屏幕视觉、窗口追踪和 ONNX 语音合成，配合带表情的悬浮界面与你互动。

能深入解析 PDF 中每个字符、矩形和线条的位置信息，方便提取文本和表格，适合处理结构复杂的 PDF 数据。

用两小时从零训练一个 65M 参数的多模态视觉语言模型，代码和流程完整，适合低成本复现 VLM 训练与对话实验。

持续录制电脑屏幕和音频，把日常工作流整理成可检索的记录，帮你找出值得自动化的环节，并为 AI 智能体提供上下文。

用 Stable Diffusion 做音频驱动唇形同步，让视频或虚拟人像的口型与语音对齐，适合做数字人和视频配音。

基于 OpenTelemetry 的 LLM 应用可观测性工具，能追踪调用链、采集指标并监控模型表现，帮你在生产环境定位 GenAI 应用的性能与质量问题。

开源多模态大模型家族，视觉语言能力接近 GPT-4o，支持图像分类、图文检索、语义分割和视频理解等任务。

一个能自我进化的 AI 智能体，从 3.3K 行种子代码长出技能树，实现全系统控制，token 消耗比常规方案低 6 倍。

整理大模型与多模态推理加速论文和配套代码的资源清单，涵盖 Flash-Attention、Paged-Attention、低比特量化与并行策略等方向，方便快速定位和复现关键技术。

一本从硬件约束和模型架构出发、用定量推导讲透 LLM 推理与训练系统设计的开源书稿，附全书正文、PDF 和配套计算工具，适合想搞懂 AI Infra 底层账怎么算的工程师。