面向文本嵌入模型的高性能推理服务,用 Rust 编写,可快速把文本转成向量,适合搭建检索和 RAG 的向量化后端。
提供文本嵌入与重排模型,用于语义检索和 RAG 场景,把文档和查询转成向量并做相关性排序。
Private chat with local GPT with document, images, video, etc. 100% private, Apache 2.0. Supports oLLaMa, Mixtral, llama…
面向大模型应用开发的 RAG 全栈实战教程,覆盖文本向量化、检索、重排与多模态等环节,手把手带你搭建检索增强生成系统。
基于 Langchain 和 ChatGLM、Qwen、Llama 等本地大模型搭建的知识库问答应用,支持 RAG 检索增强与 Agent 能力,可离线部署私有文档问答系统。
开源向量数据库,同时存储对象和向量,把向量检索和结构化过滤结合起来,具备云原生数据库的容错与扩展能力。
基于 Postgres 的一站式后端开发平台,提供专用数据库、认证、存储和向量检索能力,可替代 Firebase 快速搭建 Web、移动和 AI 应用。
把 NumPy 风格的 Python 代码自动微分、向量化并 JIT 编译到 GPU/TPU,写起来像 NumPy,跑起来像高性能计算。
面向 Apple silicon 的数组计算框架,让机器学习模型能直接在 Mac 芯片上高效训练和推理,省去折腾 CUDA 的麻烦。
把原始文档变成可查询的 RAG、自主推理 Agent 和自维护 Wiki 的开源 LLM 知识平台,适合搭建企业知识库与智能问答。
用 Jupyter Notebook 逐个演示 RAG 系统的进阶技巧,从嵌入、检索到重排都有可运行教程,适合动手搭建和优化检索增强生成流程。
开源企业级智能体平台,可快速搭建基于知识库的问答助手和 Agent,支持接入 DeepSeek、Llama 等大模型与 MCP 工具。
基于 TurboQuant 量化算法、用 Rust 实现并带 Python 绑定的向量索引,面向 RAG 和嵌入检索场景,提供高压缩比、低内存的近似最近邻搜索。
SeaTunnel 是高性能分布式数据集成工具,支持批处理、CDC 变更捕获和多模态数据接入,用于海量数据在异构系统间高效同步。
把对话、文档和代码沉淀成聊天记忆、技能、LLM-Wiki、代码图谱四类可复用记忆资产,让多个 AI Agent 跨框架共享和治理长期记忆。
基于 PyTorch 的深度强化学习库,提供 DQN、DDPG、A2C、模仿学习等算法实现,接口简洁,方便快速搭建和对比实验。
面向长周期智能体的增量数据索引引擎,用 Rust 实现,支持变更数据捕获和 ETL,让代码库与数据源持续保持可查询的最新状态。
低代码 MCP 框架,用可视化方式快速搭建复杂 RAG 流水线,省去大量胶水代码,适合快速验证检索增强生成方案。
面向 JVM 的 Java LLM 应用开发库,统一封装主流大模型与向量库接口,让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
用 EmbeddingGemma 2 在本地对照片、PDF、文档、录音、视频和代码做语义搜索,跨 Mac、Windows、Linux 的桌面文件检索工具。
基于飞桨的 NLP 与大模型开发库,提供丰富模型库,覆盖 BERT、ERNIE、LLaMA 等,支持分布式训练、压缩和文档智能等任务。
面向 AI Agent 的代码检索工具,用嵌入向量做语义搜索,比 grep+read 少消耗 99% 的 token,让 Agent 更快更准地定位代码。
在 PostgreSQL 数据库内直接跑机器学习和向量检索,用 SQL 就能做嵌入、分类、聚类和 LLM 推理,省去单独搭推理服务的麻烦。
基于 PyTorch 的度量学习库,提供对比损失、难例挖掘、采样器和检索指标,用来训练和评估相似度搜索所需的嵌入向量。
Obsidian 插件,写作时自动找出相关笔记和摘录,用本地嵌入模型做语义搜索,无需 API key 即可零配置使用。
跨平台桌面 AI 助手兼 MCP 客户端,兼容主流大模型服务商,可通过 MCP 服务器接入本地知识库和外部工具。
主动感知上下文的 AI 助手,结合上下文工程与 ChatGPT Pulse 思路,自动收集并组织相关信息,为对话提供持续记忆和主动提醒。
面向多模态 AI 的开放湖仓数据格式,两行代码即可从 Parquet 转换,实现百倍随机访问加速、向量索引和数据版本管理,兼容 Pandas、DuckDB、PyTorch 等生态。
本地个人图书管理员 Agent,能解析电脑里的文档并建立向量索引,让你用自然语言问答检索文件、整理资料和记住重要信息。
一站式大模型训练框架,支持 600+ 纯文本大模型和 300+ 多模态大模型的 CPT、SFT、DPO、GRPO 等训练,可用 LoRA 等 PEFT 方式或全参数微调。
…持图片 URL :此前已在 VARCHAR 列上支持语义索引:由 Embedding 模型将文本自动向量化,实现「Data in, Data out」的检索体验。随多模态检索需求增长(如电商以图搜图、内容审核、多模态 RAG),V4.6.0 BP1 版中语义索引新增对图片 URL 的支持能力:在 VARCHAR 列存放图片 URL,创建索
…ub.com/QuantumNous/new-api/pull/7918 feat: 支持阿里多模态向量化模型qwen3-vl-embedding by @feitianbubu in https://github.com/QuantumNous/new-api/pull/5179 fix(relaykit): keep tool cal
…A、attention mask 和 KV cache,通过分块计算、online softmax、向量化矩阵乘及 packed cache 复用,减少完整 attention score 中间张量和 decode 重复打包。 - 重构 FMA dispatch,新增 FMA4 编译/运行时检测和 NCNN FMA4 选项;卷积、GEMM
…782) - 远程 OCR 返回「未收到图片 / 请上传图片」等拒绝提示时不再当作正文入库(此前会被向量化、文档仍标记 ready),现按无可提取文本处理 - 环境变量值含换行(如粘贴的多行密钥)时,保存后再读取会被截断并残留引号;现按引号跨行读回,保证「写入 → 读取」往返保真 - 定时任务与系统任务(TLS 自动续期、自动备份)此前按
…态的问题。 24. 修复知识库切块处理带括号的 Markdown 图片 URL 时截断地址,导致图片向量化或描述关联错误的问题。 25. 修复空文件和 Office 临时锁定文件上传校验异常的问题,并统一知识库图片上传的内容校验。 26. 修复 MCP DNS rebinding 导致的 SSRF 风险,并收紧解析地址族校验。 27. 移
…景 AP 查询吞吐提升 15%~30%。 ARM AP 性能优化 补充 ARM NEON SIMD 向量化实现(整数运算、字符串比较、哈希计算),优化内存预取策略适配 ARM 的 Cache Line 行为,针对 ARM 编译器调整内联汇编与编译选项。ARM 平台 AP 核心算子性能提升 20%~40%,整体 TPC-H 性能接近 x86