高性能大模型与多模态模型推理服务框架，通过优化注意力机制和调度策略提升吞吐与延迟表现，支持 Llama、DeepSeek、MoE 等主流模型部署。

基于 PyTorch 的目标检测工具箱与基准库，集成了 Faster R-CNN、DETR、Grounding DINO 等主流模型，方便训练、评测和复现检测与分割算法。

本地跑和训练大模型、扩散模型的图形界面，支持 GGUF、MLX 及 Qwen、DeepSeek、Gemma、FLUX 等主流模型，省去命令行配置的麻烦。

把 OpenAI、Claude、Gemini、通义千问等十几家主流大模型统一到一个 API 下，方便做密钥管理和二次分发，单文件部署开箱即用。

收录最全的 PyTorch 图像骨干网络合集，涵盖 ResNet、ViT、ConvNeXt 等主流模型，自带训练、评估、推理和导出脚本及预训练权重，省去自己搭网络和找权重的麻烦。

生产级多平台智能机器人开发平台，把 Agent、知识库和插件系统统一编排，一套代码接入 Discord、Slack、微信、飞书、钉钉等主流 IM，并对接 GPT、DeepSeek、Dify、Coze 等模型与工作流。

用 Rust 实现的高性能分词器库，支持 BERT、GPT 等主流模型，兼顾研究实验与生产部署，解决文本预处理速度慢、跨语言调用不便的问题。

用一份 YAML 配置就能微调大模型，靠分层流式加载让 8B 模型在 4GB 显存的笔记本 GPU 上跑起来，省去手写训练脚本和显存焦虑。

用 Triton 重写 LLM 训练中的 RMSNorm、RoPE、交叉熵等关键算子，减少显存占用并提升微调吞吐，兼容 Llama、Mistral、Gemma、Phi 等主流模型。

把 Kokoro-82M 语音合成模型封装成 OpenAI 兼容 API，用 Docker 一键部署，支持多说话人、SSML 和字幕时间戳，CPU、AMD、NVIDIA 都能跑。

OpenCompass 是一个大模型评测平台，支持 OpenAI、Qwen、DeepSeek 等主流模型，覆盖知识、推理、代码、长上下文等 100+ 数据集，帮你系统化地跑分对比。