给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。

给 LLM 推理加速的 KV Cache 层，可对接 vLLM 等框架，复用和缓存键值对来降低显存占用、提升吞吐，支持 CUDA 和 ROCm。

Mooncake 是支撑 Kimi 大模型服务的推理平台，通过 KVCache 分离式架构和 RDMA 高速传输，把预填充与解码拆开部署，提升长上下文场景下的吞吐和资源利用率。

轻量级 Node.js 私有 npm 代理仓库，可缓存并代理公共包、托管内部包，适合团队自建私有 registry。

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。

高性能内存键值数据库，兼作缓存、消息队列和向量检索引擎，帮实时数据应用把读写延迟压到毫秒级。

兼容 Redis 和 Memcached 协议的内存数据库，用多线程架构提升吞吐量，可直接替换现有缓存层。

命令行基准测试工具，能对任意 shell 命令做多次运行统计，自动给出耗时分布和置信区间，方便比较不同实现的性能差异。

快速、省磁盘空间的 JavaScript 包管理器，用硬链接共享依赖，装包更快、占用更小，适合替代 npm/yarn。

轻量级 C++ 网格优化库，通过顶点缓存重排、索引压缩和网格简化，让 3D 模型体积更小、GPU 渲染更快。

开源的图片缩略图服务，支持裁剪、缩放、加水印和格式转换，可处理 JPEG、PNG、WebP、AVIF、GIF 等格式，适合为网站搭建独立的图片处理后端。

给数据和模型做版本控制的工具，像 Git 管理代码一样管理数据集和机器学习实验，解决数据版本混乱、实验难复现的问题。

可编程的自动化引擎，用容器把构建、测试和发布流程串成可复用流水线，本地、CI 或云端都能跑。

国内最受信任的 Go module 代理服务，帮开发者绕过网络限制，稳定高速地拉取 Go 依赖包。

用 Rust 写的超快 Python 包与项目管理器，替代 pip、pip-tools、virtualenv 等工具，解决依赖解析慢和环境管理繁琐的问题。

社区协作维护的命令行速查表，用简短示例讲清常用命令的用法，省去翻 man 手册的时间。

抓取 Claude Code 和 Codex 实际发给 API 的请求，逐段拆解 token 消耗与费用，帮你看清每次调用钱花在哪。

本地优先的视频元数据刮削与媒体库管理工具，自动整理影片信息并支持自托管播放，适合搭建个人影音库。

云原生反向代理和负载均衡器，自动发现 Docker、Kubernetes 等服务并配置路由，内置 Let's Encrypt 证书管理，适合做微服务入口网关。

高性能 AI 网关，用一套 OpenAI 兼容 API 统一接入上万模型，内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控，额外延迟低于 200µs。

在 Apple Silicon 上快速创建和管理 macOS/Linux 虚拟机，专为 CI 流水线和自动化任务设计，省去手动配置虚拟机的麻烦。

基于节点的可视化编程工具箱，把照片一键重建为带纹理的 3D 模型，覆盖相机追踪、多视图立体和 HDR 成像等流程。

一行代码接入的 LLM 可观测性平台，能监控大模型调用、追踪成本与延迟，并支持评估和实验对比，方便排查线上问题。

基于 DeepSeek 的命令行编码智能体，专为复杂软件工程任务设计，能稳定完成代码编写与开发流程自动化。

预训练语音合成模型集合，支持俄语、亚美尼亚语等多种语言，几行代码就能把文本转成语音，省去自己训练模型的麻烦。

一款开源的 Android YouTube Music 客户端，基于 InnerTube 接口和 Jetpack Compose 构建，让你在手机上自由播放和浏览音乐。

在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包，支持 LLaVA、Pixtral、Florence2 等多种 VLM，本地即可完成多模态任务。

基于 Web 的 3D Gaussian Splatting 编辑器，可在浏览器里直接查看、裁剪和编辑 3DGS 重建场景，省去本地装软件和格式转换的麻烦。

用 Rust 写的 Git worktree 管理命令行工具，专为并行 AI 编码代理设计，让多个 agent 各自在独立工作树里干活、互不干扰。

用 Go 写的独立图片处理服务，能实时裁剪、缩放和转换图片格式，适合放在 CDN 或应用前面做动态图片分发。

在终端里用 ASCII 字符画查看天气预报，支持多日预报和多种数据源，适合喜欢命令行工作流的开发者。

基于 Material 3 设计的 Android 版 YouTube Music 第三方客户端，支持在线播放与媒体库管理，界面遵循 Material You 风格。

跨平台系统清理工具，可深度清除缓存、日志和临时文件，并支持反取证式擦除，释放磁盘空间、保护隐私。

端到端语音处理工具箱，覆盖语音识别、合成、翻译、增强、分离和说话人日志等任务，基于 PyTorch 提供统一训练与推理流程。

RWKV 是一种兼具 RNN 与 Transformer 优势的语言模型架构，支持像 GPT 一样并行训练，推理时线性时间、常量显存、无限上下文，无需 KV 缓存。

面向 LLM 推理的可编程语义路由层，按请求语义把流量分发到不同模型和算力，并内置护栏与 K8s 集成。

面向全模态模型的高效推理框架，支持图像、视频、音频生成与多模态模型服务，基于 PyTorch 提供统一的推理与部署能力。

统一加载和运行文本、视觉、音频、多模态的预训练模型，覆盖推理与训练，省去为每个模型重写代码的麻烦。

用一套 API 同时驱动 Chromium、Firefox 和 WebKit 的浏览器自动化与端到端测试框架，适合写跨浏览器测试和网页抓取脚本。

一个简洁但完整的全注意力 Transformer 实现，集成了多篇论文中值得尝试的实验性特性，方便研究者快速试验各种注意力变体。