给 LLM 推理加速的 KV Cache 层，可对接 vLLM 等框架，复用和缓存键值对来降低显存占用、提升吞吐，支持 CUDA 和 ROCm。

给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。

一种面向视频扩散模型的免训练缓存加速方法，利用时间步嵌入判断哪些步骤可以复用计算结果，从而在不重新训练的情况下显著提升推理速度。

轻量级 Node.js 私有 npm 代理仓库，可缓存并代理公共包、托管内部包，适合团队自建私有 registry。

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。

高性能内存键值数据库，兼作缓存、消息队列和向量检索引擎，帮实时数据应用把读写延迟压到毫秒级。

兼容 Redis 和 Memcached 协议的内存数据库，用多线程架构提升吞吐量，可直接替换现有缓存层。

命令行基准测试工具，能对任意 shell 命令做多次运行统计，自动给出耗时分布和置信区间，方便比较不同实现的性能差异。

快速、省磁盘空间的 JavaScript 包管理器，用硬链接共享依赖，装包更快、占用更小，适合替代 npm/yarn。

CacheRoute 是一套 LLM 调度方案，让不同 LLM 系统之间灵活复用 KV cache，从而提升任务表现和整体推理效率。

轻量级 C++ 网格优化库，通过顶点缓存重排、索引压缩和网格简化，让 3D 模型体积更小、GPU 渲染更快。

开源的图片缩略图服务，支持裁剪、缩放、加水印和格式转换，可处理 JPEG、PNG、WebP、AVIF、GIF 等格式，适合为网站搭建独立的图片处理后端。

给数据和模型做版本控制的工具，像 Git 管理代码一样管理数据集和机器学习实验，解决数据版本混乱、实验难复现的问题。

可编程的自动化引擎，用容器把构建、测试和发布流程串成可复用流水线，本地、CI 或云端都能跑。

用 Rust 写的超快 Python 包与项目管理器，替代 pip、pip-tools、virtualenv 等工具，解决依赖解析慢和环境管理繁琐的问题。

社区协作维护的命令行速查表，用简短示例讲清常用命令的用法，省去翻 man 手册的时间。

把 LLM 推理中的 KV Cache 持久化到 DRAM、SSD 或 NFS 并跨请求复用，减少重复计算，加快推理速度，兼容昇腾 NPU 和 CUDA GPU。

高性能 AI 网关，用一套 OpenAI 兼容 API 统一接入上万模型，内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控，额外延迟低于 200µs。

本地优先的视频元数据刮削与媒体库管理工具，自动整理影片信息并支持自托管播放，适合搭建个人影音库。

云原生反向代理和负载均衡器，自动发现 Docker、Kubernetes 等服务并配置路由，内置 Let's Encrypt 证书管理，适合做微服务入口网关。

基于节点的可视化编程工具箱，把照片一键重建为带纹理的 3D 模型，覆盖相机追踪、多视图立体和 HDR 成像等流程。

基于 DeepSeek 的命令行编码智能体，专为复杂软件工程任务设计，能稳定完成代码编写与开发流程自动化。

一款开源的 Android YouTube Music 客户端，基于 InnerTube 接口和 Jetpack Compose 构建，让你在手机上自由播放和浏览音乐。

跨平台系统清理工具，可深度清除缓存、日志和临时文件，并支持反取证式擦除，释放磁盘空间、保护隐私。

抓取 Claude Code 和 Codex 实际发给 API 的请求，逐段拆解 token 消耗与费用，帮你看清每次调用钱花在哪。

基于 Web 的 3D Gaussian Splatting 编辑器，可在浏览器里直接查看、裁剪和编辑 3DGS 重建场景，省去本地装软件和格式转换的麻烦。

用 Rust 写的 Git worktree 管理命令行工具，专为并行 AI 编码代理设计，让多个 agent 各自在独立工作树里干活、互不干扰。

高性能 TCP/HTTP 负载均衡器和反向代理，提供高可用、缓存、DDoS 缓解等能力，用来把流量稳定分发到后端服务。

用 Go 写的独立图片处理服务，能实时裁剪、缩放和转换图片格式，适合放在 CDN 或应用前面做动态图片分发。

端到端语音处理工具箱，覆盖语音识别、合成、翻译、增强、分离和说话人日志等任务，基于 PyTorch 提供统一训练与推理流程。

RWKV 是一种兼具 RNN 与 Transformer 优势的语言模型架构，支持像 GPT 一样并行训练，推理时线性时间、常量显存、无限上下文，无需 KV 缓存。

统一加载和运行文本、视觉、音频、多模态的预训练模型，覆盖推理与训练，省去为每个模型重写代码的麻烦。

用一套 API 同时驱动 Chromium、Firefox 和 WebKit 的浏览器自动化与端到端测试框架，适合写跨浏览器测试和网页抓取脚本。

用 Rust 写的终端工作区，把多路复用、分屏、布局和插件都内置好了，开箱即用，适合在终端里同时管理多个会话和任务。

用 JavaScript、HTML 和 CSS 构建跨平台桌面应用，底层打包 Chromium 与 Node.js，让前端技术栈直接产出 Windows、macOS、Linux 客户端。

纯 JavaScript 实现的 OCR 库，基于 WebAssembly 在浏览器和 Node.js 中直接识别 100 多种语言的图片文字，无需后端服务。

用 Rust 写成的超快 Python 代码检查与格式化工具，能替代 Flake8、Black 等，大幅缩短 lint 和格式化耗时。

构建容器化系统的开源协作项目，提供可拼装的组件，用来搭建和定制自己的容器平台，也是 Docker 的上游基础。

高性能大模型与多模态模型推理服务框架，通过优化注意力机制和调度策略提升吞吐与延迟表现，支持 Llama、DeepSeek、MoE 等主流模型部署。

用 YAML 文件定义多容器应用，一条命令就能把整套服务编排起来跑，省去逐个 docker run 的麻烦。