AI · 算法工程
共 191 个仓库 · Rust
用 Rust 写的轻量级推理引擎，能直接跑 TensorFlow 和 ONNX 模型，无需额外依赖，适合在边缘设备或嵌入式场景部署神经网络。
面向大模型推理与 GPU 训练的高性能存储引擎，用 Rust 编写，通过 RDMA 等技术提升模型加载和服务吞吐。
用基础设施即代码的方式管理生产环境本体，支持变更前评估影响范围、变更后回滚，并生成审计员可复核的形式化证明。
一个用 Rust 写的 API 平台，把搜索、推荐、RAG 和数据分析打包在一起，底层接 PostgreSQL 和 Qdrant 向量库，省去自己拼装检索链路的麻烦。
用 Rust 写的高效近似最近邻检索算法库，集成 HNSW 等索引结构，为图像搜索、推荐系统等场景提供快速的向量相似度查询。
基于 eBPF 的 Linux 终端网络流量嗅探工具，用 TUI 界面实时查看内核层抓包结果，排查网络和安全问题不用再开笨重的图形工具。
用 Rust 封装 ONNX Runtime，让 ONNX 模型在 Rust 里跑推理和训练都很快，适合需要低延迟、无 Python 依赖的部署场景。
用 Rust 构建的统一基础设施可观测平台，基于数据湖架构统一采集日志、指标、链路和事件，靠列式遥测压缩把存储成本最多降低 90%。
一键把视频和图片转成 3D Gaussian Splatting 模型的本地桌面应用，不用命令行和云端，适合快速做三维重建。
一套可私有化部署的企业级 Agentic AI 平台，让大模型在本地安全访问敏感数据和内部系统，避免数据外泄。
小红书 AI 运营工作台，集内容采集、评论区下载、素材库、选题和 AI 写作于一体，本地优先，开箱即用。
用 Rust 写的高性能 GraphRAG 引擎，灵感来自 LightRAG，把文档转成知识图谱，让检索和生成效果更好。
用 Rust 写的本地 AI 模型运行时，支持 Llama、Mistral 等模型的推理、约束生成和语音转写，方便在本地快速搭建可控的 AI 应用。
用 Rust 写的多后端 OCR/视觉语言模型引擎，支持 DeepSeek-OCR、PaddleOCR-VL 等模型和 DSQ 量化，无需 Python 即可本地跑起兼容 OpenAI 的服务和命令行。
用 Rust 写的多智能体图编排引擎，自带工作流约束，帮你搭建自动化软件工厂，让编码智能体按既定流程干活。
面向 Apple Silicon Mac 的实时系统监控工具，无需 sudo 即可查看 CPU、GPU 等硬件指标，提供 TUI 界面、JSON/Prometheus 指标服务和 Rust 库。
基于对象存储的图数据库，支持分支和类型化本体，用 Rust 写成，适合在 S3 等存储上构建可版本化的知识图谱与上下文图。
Rust 写的进程内搜索库兼多租户服务端，把 BM25 词法检索和向量检索揉在一起，适合做混合搜索和 RAG 的召回层。
用 Rust 写的 OCR 库和命令行工具，能从图片中提取文字，适合需要轻量、可嵌入的光学字符识别能力的场景。
用 Rust 写的命令行语义搜索与文档解析工具，能在终端里对本地文档做向量化检索，省去自己搭服务。
常驻机器的开源自主运维代理，7×24 小时盯着你的应用，自动完成部署和故障处理，让代码上线不用人守着。
Postgres 里的可扩展向量检索扩展，pgvecto.rs 的继任者，主打快速、省磁盘，适合在现有数据库里直接做大规模向量搜索。
把 Markdown 笔记组织成知识图谱，通过 LSP 接入编辑器，并提供 CLI 和 MCP 记忆接口供 AI Agent 使用。
面向 Wayland 桌面环境的按键说话语音转文字工具，支持 Hyprland、Sway、GNOME、KDE，本地离线识别，适合日常听写和辅助输入。