面向文本嵌入模型的高性能推理服务,用 Rust 编写,可快速把文本转成向量,适合搭建检索和 RAG 的向量化后端。
提供文本嵌入与重排模型,用于语义检索和 RAG 场景,把文档和查询转成向量并做相关性排序。
用 Cython 加速 fastText 和 gensim 模型计算句向量,比原生 Python 实现快一个数量级,适合需要批量生成句向量做相似度检索的场景。
从基础原理出发系统讲解嵌入(embeddings)的深度教程,用 Jupyter Notebook 带你理解向量表示是怎么算出来、怎么用的。
把本地代码库切块并生成向量索引,通过 MCP 服务让 LLM 和 Neovim 按语义检索相关代码,省去手动翻文件。
Azure AI Search 向量检索功能的官方代码示例集,涵盖嵌入生成、索引构建与查询,帮开发者快速接入向量搜索。
基于并行图计算的高性能向量数据库,用于存储和检索 embedding 向量,支撑语义搜索与 LLM 应用。
LanceDB 官方的示例与教程合集,用向量检索搭配大模型,演示多模态 RAG、Agent 和微调等场景的落地写法。
Private chat with local GPT with document, images, video, etc. 100% private, Apache 2.0. Supports oLLaMa, Mixtral, llama…
在 Mac 上用 MLX 本地跑视觉和文本嵌入模型的 Python 包,方便给 RAG 和检索应用生成向量,不用依赖云端 API。
面向大模型应用开发的 RAG 全栈实战教程,覆盖文本向量化、检索、重排与多模态等环节,手把手带你搭建检索增强生成系统。
RaBitQ 官方向量量化与近似最近邻检索库,提供 C++ 和 Python 接口,用 SIMD 加速高维向量的相似度搜索。
把本地文档和音视频文件建成向量库,用自然语言提问就能检索并回答,适合搭建私有 RAG 问答。
基于 Langchain 和 ChatGLM、Qwen、Llama 等本地大模型搭建的知识库问答应用,支持 RAG 检索增强与 Agent 能力,可离线部署私有文档问答系统。
开源向量数据库,同时存储对象和向量,把向量检索和结构化过滤结合起来,具备云原生数据库的容错与扩展能力。
基于 Postgres 的一站式后端开发平台,提供专用数据库、认证、存储和向量检索能力,可替代 Firebase 快速搭建 Web、移动和 AI 应用。
把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU,写起来像 NumPy,跑起来像高性能计算。
面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。
把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台,适合搭建企业知识库与智能问答。
用 Jupyter Notebook 逐个演示 RAG 系统的进阶技巧,从嵌入、检索到重排都有可运行教程,适合动手搭建和优化检索增强生成流程。
开源企业级智能体平台,可快速搭建基于知识库的问答助手和 Agent,支持接入 DeepSeek、Llama 等大模型与 MCP 工具。
基于 TurboQuant 量化算法、用 Rust 实现并带 Python 绑定的向量索引,面向 RAG 和嵌入检索场景,提供高压缩比、低内存的近似最近邻搜索。
SeaTunnel 是高性能分布式数据集成工具,支持批处理、CDC 变更捕获和多模态数据接入,用于海量数据在异构系统间高效同步。
把对话、文档和代码沉淀成聊天记忆、技能、LLM-Wiki、代码图谱四类可复用记忆资产,让多个 AI Agent 跨框架共享和治理长期记忆。
轻量级 Python 向量化库,无需 API 调用即可在本地快速生成高质量文本嵌入,适合 RAG 和向量检索场景。
基于 PyTorch 的深度强化学习库,提供 DQN、DDPG、A2C、模仿学习等算法实现,接口简洁,方便快速搭建和对比实验。
面向文本嵌入、重排、CLIP、CLAP 和 ColPali 模型的高吞吐低延迟推理服务引擎,适合把向量化和重排模型部署成线上 API。
面向长周期智能体的增量数据索引引擎,用 Rust 实现,支持变更数据捕获和 ETL,让代码库与数据源持续保持可查询的最新状态。
低代码 MCP 框架,用可视化方式快速搭建复杂 RAG 流水线,省去大量胶水代码,适合快速验证检索增强生成方案。
把预训练句向量模型蒸馏成轻量静态词向量,推理速度极快、无需 GPU,适合大规模文本向量化和检索场景。
面向 JVM 的 Java LLM 应用开发库,统一封装主流大模型与向量库接口,让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
Nomic 的 Python SDK,把文本等非结构化数据交给开发者 API 做向量化、聚类、主题建模和重复检测,省去自己搭建嵌入与聚类流程。
把 BERT 现代化改造:通过架构升级和规模扩展提升长文本理解与嵌入质量,适合做检索、分类和向量化任务。
用 EmbeddingGemma 2 在本地对照片、PDF、文档、录音、视频和代码做语义搜索,跨 Mac、Windows、Linux 的桌面文件检索工具。
用 Rust 写的命令行语义搜索与文档解析工具,能在终端里对本地文档做向量化检索,省去自己搭服务。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
面向 AI Agent 的代码检索工具,用嵌入向量做语义搜索,比 grep+read 少消耗 99% 的 token,让 Agent 更快更准地定位代码。
把文本转成向量矩阵的中文文本表征工具,内置 Word2Vec、Sentence-BERT、CoSENT 等模型,开箱即用做文本相似度计算与语义检索。
在 PostgreSQL 数据库内直接跑机器学习和向量检索,用 SQL 就能做嵌入、分类、聚类和 LLM 推理,省去单独搭推理服务的麻烦。
基于 PyTorch 的度量学习库,提供对比损失、难例挖掘、采样器和检索指标,用来训练和评估相似度搜索所需的嵌入向量。
…持图片 URL :此前已在 VARCHAR 列上支持语义索引:由 Embedding 模型将文本自动向量化,实现「Data in, Data out」的检索体验。随多模态检索需求增长(如电商以图搜图、内容审核、多模态 RAG),V4.6.0 BP1 版中语义索引新增对图片 URL 的支持能力:在 VARCHAR 列存放图片 URL,创建索
…ub.com/QuantumNous/new-api/pull/7918 feat: 支持阿里多模态向量化模型qwen3-vl-embedding by @feitianbubu in https://github.com/QuantumNous/new-api/pull/5179 fix(relaykit): keep tool cal
…A、attention mask 和 KV cache,通过分块计算、online softmax、向量化矩阵乘及 packed cache 复用,减少完整 attention score 中间张量和 decode 重复打包。 - 重构 FMA dispatch,新增 FMA4 编译/运行时检测和 NCNN FMA4 选项;卷积、GEMM
…782) - 远程 OCR 返回「未收到图片 / 请上传图片」等拒绝提示时不再当作正文入库(此前会被向量化、文档仍标记 ready),现按无可提取文本处理 - 环境变量值含换行(如粘贴的多行密钥)时,保存后再读取会被截断并残留引号;现按引号跨行读回,保证「写入 → 读取」往返保真 - 定时任务与系统任务(TLS 自动续期、自动备份)此前按
…态的问题。 24. 修复知识库切块处理带括号的 Markdown 图片 URL 时截断地址,导致图片向量化或描述关联错误的问题。 25. 修复空文件和 Office 临时锁定文件上传校验异常的问题,并统一知识库图片上传的内容校验。 26. 修复 MCP DNS rebinding 导致的 SSRF 风险,并收紧解析地址族校验。 27. 移
…景 AP 查询吞吐提升 15%~30%。 ARM AP 性能优化 补充 ARM NEON SIMD 向量化实现(整数运算、字符串比较、哈希计算),优化内存预取策略适配 ARM 的 Cache Line 行为,针对 ARM 编译器调整内联汇编与编译选项。ARM 平台 AP 核心算子性能提升 20%~40%,整体 TPC-H 性能接近 x86