面向 LLM 应用的自动化评测工具，用合成测试集和多种指标量化 RAG 与生成效果，帮你在上线前发现质量问题。

面向 Agent 应用的 Python 可观测性 SDK，支持对 Agent、LLM 和工具调用做追踪、调试与评测，自带可自托管面板，用时间线和执行图看清多智能体系统的运行过程。

轻量可定制的大模型评测框架，支持 LLM、VLM、AIGC 和 RAG 的效果评估与性能压测，帮团队快速跑通基准测试。

面向 RAG 研究的 Python 工具包，内置多种检索增强生成算法、数据集和评测基准，方便快速复现和对比实验。

Efficient Retrieval Augmentation and Generation Framework

用多查询生成和倒数排名融合（RRF）提升 RAG 检索质量，附带 NFCorpus/BEIR 评测脚本，方便对比不同检索策略的效果。

面向企业内部文档场景的 RAG 数据集与评测基准，提供标准化测试集和评估流程，用来衡量检索增强生成系统在企业知识库上的真实表现。

用声明式配置对提示词、Agent 和 RAG 做自动化评测与红队渗透测试，支持多模型横向对比，可接入命令行和 CI/CD。

面向 LLM 应用、RAG 和 Agent 工作流的可观测与评测平台，提供全链路追踪、自动评估和生产级监控看板，帮团队定位问题并持续优化效果。

ViDoRe 是评估视觉文档检索的基准与评测代码，配套 ColPali 论文，用于衡量多模态检索模型在图文文档上的检索效果。

无需人工标注标准答案就能评估 RAG 系统，通过自动生成问题和判断相关性来量化检索与生成质量。

面向大模型微调、RAG 和评测的数据集制作工具，支持数据生成、清洗与导出，省去手工整理训练数据的麻烦。

开源的 LLM 可观测性与评测平台，能追踪、调试和评估 RAG 与 Agent 应用，帮团队定位大模型链路中的问题。

在工具输出、日志、文件和 RAG 片段进入 LLM 前先做压缩，编码 Agent 省约 20% token，JSON 省 60-95%，答案不变。提供库、代理和 MCP 服务器三种用法。

为 AI Agent 提供可持久化的长期记忆层，让智能体和应用能跨会话记住上下文，开箱即用、面向生产环境。

开源的 LLM Agent 评测与测试库，能自动扫描模型和智能体的安全、公平性、幻觉等风险，帮团队在上线前发现并修复问题。

面向 AI 应用的文档处理与 RAG 框架，把私有数据接入大模型，支持构建检索增强、智能体和多智能体应用。

面向 AI Agent 的自进化上下文数据库，把 Agent 记忆、知识 RAG 和技能统一管理，解决多来源上下文分散、难以持续演进的问题。

面向 RAG 的文档索引方案，不依赖向量数据库，用推理方式定位和检索文档内容，适合构建 Agent 式检索流程。

开源的 RAG 文档问答工具，上传文档后即可用大模型对话检索，快速搭建私有知识库问答。

开源 LLM 应用编排框架，用模块化管道和智能体工作流显式控制检索、路由、记忆与生成，适合搭建 RAG、语义搜索和多模态对话系统。

给 AI Agent 提供持久化长期记忆的开源平台，用小型模型即可免费搭建，解决智能体跨会话记不住上下文的问题。

基于 TurboQuant 量化算法、用 Rust 实现并带 Python 绑定的向量索引，面向 RAG 和嵌入检索场景，提供高压缩比、低内存的近似最近邻搜索。

轻量级进程内向量数据库，主打极速检索，适合在本地为 RAG、语义搜索和 LLM 记忆等场景提供向量与全文检索能力。

一个 Rust 单二进制实现的 AI 搜索引擎兼 MCP 服务器，把代码、文档、日志、JSONL/CSV 和 PDF 统一索引，为智能体和机器人提供 BM25 全文、向量、混合检索、免 grep 代码搜索、Agent 记忆与 RAG 能力。

一份面向 AI Agent 开发与大模型求职的系统指南，覆盖上下文工程、高级 RAG、MCP、Agentic RL 和 LangGraph 实战，并附 1.2 万+ 面试题。

一站式语义搜索与 LLM 编排框架，把向量检索、RAG 和智能体工作流整合在一起，用 Python 就能搭建基于语言模型的应用。

面向稠密向量的高效相似度检索与聚类库，支持十亿级向量近邻搜索，是构建向量数据库和 RAG 检索层的底层引擎。

提供文本嵌入与重排模型，用于语义检索和 RAG 场景，把文档和查询转成向量并做相关性排序。

用 Rust 写的高性能开源文档解析器，能从 PDF 等文档中快速提取文本和 OCR 识别结果，适合给 RAG 和检索流程做预处理。

OpenAI API 的官方示例与实战指南合集，用 Jupyter Notebook 演示对话、嵌入、微调等常见用法，帮你快速上手并解决实际调用中的问题。

高性能 AI 流水线引擎，C++ 内核搭配 50+ 可扩展 Python 节点，支持多模型提供商、向量数据库和 Agent 编排，可在 IDE 中构建调试 LLM 工作流。

在任意网址前加上 https://r.jina.ai/ 前缀，就能把网页转成适合大模型读取的干净文本，省去自己写爬虫和清洗正文的麻烦。

给 LLM 推理加速的 KV Cache 层，可对接 vLLM 等框架，复用和缓存键值对来降低显存占用、提升吞吐，支持 CUDA 和 ROCm。

端到端的 LLM 与 AI Agent 评测与可观测平台，集追踪、评测、模拟、数据集、网关和护栏于一体，支持自托管，帮团队定位幻觉并持续优化 Agent 应用。

一套面向 AI 工程师的学习路线与实战资料，覆盖数据结构、深度学习、LangChain/LangGraph 智能体、LLM 推理与评测等主题，帮你系统补齐从算法到落地的知识。

开箱即用的客服系统，内置评测与监控，基于知识库和 RAG 构建，可直接上生产环境。

面向企业审计场景的可审计 AI 智能体平台，让智能体基于证据工作、工具调用受管控，并内置评测、人工复核与整改交付流程。

把视觉语言模型变成通用多模态嵌入模型，配套 MMEB 系列基准，用于图文视频检索和 RAG 场景的表示学习评测。

中文优先的企业级 RAG 知识库，把文档解析、切块、混合检索、重排、引用溯源、知识图谱和评测串成一条可控流水线，还能直接接入 Dify。