面向 LLM 推理的可编程语义路由层，按请求语义把流量分发到不同模型和算力，并内置护栏与 K8s 集成。
ONNX 是开放的机器学习模型交换格式标准，让 PyTorch、TensorFlow、Keras 等框架训练出的模型能互相转换、跨平台部署。
用 EmbeddingGemma 2 在本地对照片、PDF、文档、录音、视频和代码做语义搜索，跨 Mac、Windows、Linux 的桌面文件检索工具。
给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。
提供文本嵌入与重排模型，用于语义检索和 RAG 场景，把文档和查询转成向量并做相关性排序。
基于 PyTorch 的语义分割模型库，提供 500+ 预训练卷积与 Transformer 骨干网络，开箱即用，省去自己搭建和训练分割模型的麻烦。
分布式 AI 计算引擎，提供核心分布式运行时和一组 AI 库，用来加速机器学习负载、大模型推理与超参搜索。
基于 PyTorch 的轻量级 NLP 框架，几行代码就能完成命名实体识别、词性标注、语义角色标注等序列标注任务的训练与微调。
面向 AI 智能体的图原生上下文基础设施，用上下文图谱管理记忆与决策依据，让 AI 系统的行为可追溯、可问责。
一个能自主感知上下文的桌面 AI 伴侣，通过实时屏幕视觉、窗口追踪和 ONNX 语音合成，配合带表情的悬浮界面与你互动。
多语种语音理解模型，一次推理就能完成中英日韩粤语音识别、语种判别、情绪识别和音频事件检测，适合做语音交互与音频分析。
开源多模态大模型家族，视觉语言能力接近 GPT-4o，支持图像分类、图文检索、语义分割和视频理解等任务。
开源 AI 记忆系统，基于 ChromaDB 为 LLM 提供持久化记忆存储与检索，在基准测试中表现领先，可免费自托管。
YOLO 系列官方实现库，一套 PyTorch 代码覆盖目标检测、实例与语义分割、图像分类、姿态估计和目标跟踪，训练到部署全流程打通。
为 AI Agent 提供可持久化的长期记忆层，让智能体和应用能跨会话记住上下文，开箱即用、面向生产环境。
把 PDF 快速转成 Markdown 和 JSON，解析准确率高，适合喂给 RAG 或做文档结构化处理。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架，内置工作流、对话机器人和评测能力，省去自己拼装 LLM 调用链的麻烦。
Triton 是一门面向 GPU 编程的类 Python 语言及其编译器，让开发者不用写 CUDA 就能写出接近手写性能的高效内核。
把 PDF、Word、PPT 解析成适合喂给大模型的格式，尽量不丢内容，省去自己清洗文档的麻烦。
Google 开源的智能体应用开发框架，支持 JavaScript、Go、Dart 和 Python，内置 LLM 调用、多模态、RAG 与向量检索能力，帮开发者快速搭建生产级 AI 应用。
开源向量数据库，同时存储对象和向量，把向量检索和结构化过滤结合起来，具备云原生数据库的容错与扩展能力。
在个人设备上本地跑 RAG 的向量索引库，用图结构剪枝把索引体积压掉 97%，兼顾检索速度和准确率，数据不出本机。
提供可插拔的 Python 和 C++ 多目标跟踪模块，集成 BoT-SORT、ByteTrack、OC-SORT 等 SOTA 算法，支持轴对齐与旋转框跟踪。
面向 JVM 的 Java LLM 应用开发库，统一封装主流大模型与向量库接口，让工具调用、Agent 和 RAG 在 Spring Boot、Quarkus 等企业框架里快速落地。
用一套可读的 Einstein 记号统一 PyTorch、JAX、TensorFlow 等框架的张量操作，让 reshape、转置、rearrange 这类代码更清晰、更不容易出错。
面向 AI Agent 的多模态数据运行时，提供无服务器 Postgres 与数据湖，支持大规模检索和模型训练。
面向 AI 研究者的开源实验环境，可在本地硬件到 GPU 集群之间无缝训练、评估和扩展大模型与扩散模型。
面向大规模数据与机器学习的 AI 搜索平台，支持向量检索、张量计算和推荐排序，适合搭建 RAG 与搜索服务。