给 LLM 推理加速的 KV Cache 层，可对接 vLLM 等框架，复用和缓存键值对来降低显存占用、提升吞吐，支持 CUDA 和 ROCm。
给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。
Mooncake 是支撑 Kimi 大模型服务的推理平台，通过 KVCache 分离式架构和 RDMA 高速传输，把预填充与解码拆开部署，提升长上下文场景下的吞吐和资源利用率。
高性能内存键值数据库，兼作缓存、消息队列和向量检索引擎，帮实时数据应用把读写延迟压到毫秒级。
兼容 Redis 和 Memcached 协议的内存数据库，用多线程架构提升吞吐量，可直接替换现有缓存层。
轻量级 Node.js 私有 npm 代理仓库，可缓存并代理公共包、托管内部包，适合团队自建私有 registry。
社区协作维护的命令行速查表，用简短示例讲清常用命令的用法，省去翻 man 手册的时间。
可编程的自动化引擎，用容器把构建、测试和发布流程串成可复用流水线，本地、CI 或云端都能跑。
面向 Android 的 E-Hentai/ExHentai 漫画阅读与下载客户端，支持中文界面，方便浏览、搜索和离线保存图库内容。
高性能 AI 网关，用一套 OpenAI 兼容 API 统一接入上万模型，内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控，额外延迟低于 200µs。
轻量级 C++ 网格优化库，通过顶点缓存重排、索引压缩和网格简化，让 3D 模型体积更小、GPU 渲染更快。
基于 DeepSeek 的命令行编码智能体，专为复杂软件工程任务设计，能稳定完成代码编写与开发流程自动化。
RWKV 是一种兼具 RNN 与 Transformer 优势的语言模型架构，支持像 GPT 一样并行训练，推理时线性时间、常量显存、无限上下文，无需 KV 缓存。
用 PyTorch 从零实现的轻量级 vLLM，代码精简易读，适合学习大模型推理引擎的调度、KV Cache 和 PagedAttention 等核心机制。
命令行基准测试工具，能对任意 shell 命令做多次运行统计，自动给出耗时分布和置信区间，方便比较不同实现的性能差异。
高性能 TCP/HTTP 负载均衡器和反向代理，提供高可用、缓存、DDoS 缓解等能力，用来把流量稳定分发到后端服务。
在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。
统一加载和运行文本、视觉、音频、多模态的预训练模型，覆盖推理与训练，省去为每个模型重写代码的麻烦。
抓取 Claude Code 和 Codex 实际发给 API 的请求，逐段拆解 token 消耗与费用，帮你看清每次调用钱花在哪。
高性能大模型与多模态模型推理服务框架，通过优化注意力机制和调度策略提升吞吐与延迟表现，支持 Llama、DeepSeek、MoE 等主流模型部署。
用一套 API 同时驱动 Chromium、Firefox 和 WebKit 的浏览器自动化与端到端测试框架，适合写跨浏览器测试和网页抓取脚本。
用 Rust 写的超快 Python 包与项目管理器，替代 pip、pip-tools、virtualenv 等工具，解决依赖解析慢和环境管理繁琐的问题。
用 JavaScript、HTML 和 CSS 构建跨平台桌面应用，底层打包 Chromium 与 Node.js，让前端技术栈直接产出 Windows、macOS、Linux 客户端。
一款开源的 Android YouTube Music 客户端，基于 InnerTube 接口和 Jetpack Compose 构建，让你在手机上自由播放和浏览音乐。
跨平台系统清理工具，可深度清除缓存、日志和临时文件，并支持反取证式擦除，释放磁盘空间、保护隐私。
本地运行的 ElevenLabs 开源替代品，支持声音克隆、语音设计、视频配音、听写、转写和有声书制作，覆盖 646 种语言。
用 Zig 写的超快 JavaScript 运行时，把打包、测试和包管理集成在一起，用来替代 Node.js 和 npm 工具链。
轻量级 OCR 工具包，能把图片和 PDF 转成结构化数据，支持 100 多种语言，方便接入 LLM 和 RAG 流程。
新一代前端构建工具，提供极速冷启动的开发服务器和热更新，并内置生产构建能力，解决传统打包工具启动慢、反馈迟的问题。
给数据和模型做版本控制的工具，像 Git 管理代码一样管理数据集和机器学习实验，解决数据版本混乱、实验难复现的问题。
把文档、白板、表格融为一体的开源知识库，可离线使用、支持多人实时协作，是 Notion 和 Miro 的替代方案。
开源的图片缩略图服务，支持裁剪、缩放、加水印和格式转换，可处理 JPEG、PNG、WebP、AVIF、GIF 等格式，适合为网站搭建独立的图片处理后端。
用 Go 写的独立图片处理服务，能实时裁剪、缩放和转换图片格式，适合放在 CDN 或应用前面做动态图片分发。
用 Rust 写成的超快 Python 代码检查与格式化工具，能替代 Flake8、Black 等，大幅缩短 lint 和格式化耗时。
快速、省磁盘空间的 JavaScript 包管理器，用硬链接共享依赖，装包更快、占用更小，适合替代 npm/yarn。
用 Rust 写的终端工作区，把多路复用、分屏、布局和插件都内置好了，开箱即用，适合在终端里同时管理多个会话和任务。
Triton 是一门面向 GPU 编程的类 Python 语言及其编译器，让开发者不用写 CUDA 就能写出接近手写性能的高效内核。
开源跨平台音乐播放器，桌面和手机都能用，通过 Spotify 和 YouTube 等公开来源获取歌曲，无需付费订阅即可播放。