用 PyTorch 实现的 Vision Transformer(ViT),只需一个 Transformer 编码器就能在图像分类任务上达到 SOTA,代码简洁易读,适合快速复现和二次开发。
为 Hugging Face diffusers 提供注意力图提取与可视化工具,方便查看 Stable Diffusion 文生图时文本如何影响图像区域。
用空间稀疏注意力做超大规模 3D 生成,单卡也能跑千兆级 3D 内容,支持图生 3D 和 3D 重建。
FasterViT 是 NVIDIA 提出的高效视觉主干网络,通过分层注意力机制在 ImageNet 分类、COCO 检测和 ADE20K 分割上兼顾精度与推理速度。
实现带高效注意力的 U-Net,并融合最新研究改进,适合图像生成和分割任务的训练与微调。