快速且省显存的精确注意力实现，支持训练和推理，能显著加速 Transformer 长序列计算。

ONNX 是开放的机器学习模型交换格式标准，让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。

在 Jupyter 里交互式可视化 BERT、GPT-2、RoBERTa 等 Transformer 模型的注意力权重，帮助理解模型内部机制。

基于 PyTorch 的深度学习优化库，通过 ZeRO、模型并行和混合专家等技术，让千亿到万亿参数模型的分布式训练与推理更省显存、更高效。

用纯 Rust 从零实现的开源非线性视频编辑器，支持多轨道剪辑与视频处理，适合想要轻量、高性能剪辑工具的用户。

面向 LLM 推理服务的高性能 CUDA 内核库，提供注意力、MoE 等算子的 JIT 实现，用来加速 GPU 上的大模型推理。

用一套可读的 Einstein 记号统一 PyTorch、JAX、TensorFlow 等框架的张量操作，让 reshape、转置、rearrange 这类代码更清晰、更不容易出错。

RWKV 是一种兼具 RNN 与 Transformer 优势的语言模型架构，支持像 GPT 一样并行训练，推理时线性时间、常量显存、无限上下文，无需 KV 缓存。

把 VGGT 扩展到公里级场景的官方实现，解决超长序列三维重建中显存和尺度爆炸的问题，能处理大规模空间数据。

给 CUT3R 这类循环式三维重建模型换了个简单的状态更新规则，让它在长序列输入下不容易崩，提升长度泛化能力。

面向随手拍摄的长视频，无需相机位姿即可稳健重建 3D 高斯泼溅场景，解决长序列位姿漂移和重建不稳的问题。

面向大规模场景的可扩展测试时训练 3D 重建方案，通过在线自适应提升深度估计与重建精度，适合处理超长序列和大范围场景。

统一序列并行注意力实现，把 Ulysses 和 Ring Attention 混合成 2D 并行，让长上下文 Transformer 训练和推理能扩展到超长序列。