给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。

高性能 AI 网关，用一套 OpenAI 兼容 API 统一接入上万模型，内置故障转移、负载均衡、语义缓存、虚拟密钥与预算管控，额外延迟低于 200µs。

面向 LLM 推理的可编程语义路由层，按请求语义把流量分发到不同模型和算力，并内置护栏与 K8s 集成。

用 Streamlit 搭建的论文问答应用，把 arXiv 论文切块存入 Redis 向量库，结合 LangChain 与 OpenAI 实现检索增强问答，还能用语义缓存减少重复调用。

面向 Redis 的 AI 原生 Python 客户端，把向量检索、缓存和 RAG 所需的数据操作封装成简单接口，省去自己拼装底层命令。