AI · 算法工程
共 249 个仓库 · C++
用 C/C++ 实现的大模型推理引擎，能在普通 CPU 和消费级显卡上跑 LLaMA 等模型，支持量化以降低显存占用。
开源计算机视觉库，提供图像处理、视频分析和深度学习推理的 C++ 接口，是视觉应用开发的基础设施。
老牌开源 OCR 引擎，用 LSTM 识别图片中的文字，支持上百种语言，适合做文档扫描和文本提取。
OpenAI Whisper 语音识别模型的 C/C++ 移植版，无需 Python 和 GPU 依赖，在普通 CPU 上就能跑语音转文字。
面向稠密向量的高效相似度检索与聚类库，支持十亿级向量近邻搜索，是构建向量数据库和 RAG 检索层的底层引擎。
跨平台机器学习框架，提供可定制的视觉、音频等实时流媒体处理方案，方便在移动端和桌面端搭建低延迟推理管线。
对标彭博终端的开源金融分析平台，集成行情分析、投资研究与经济数据工具，并内置 AI 智能体辅助数据驱动决策。
基于 MCP 协议、跑在 ESP32 上的聊天机器人固件，让单片机也能接入大模型对话与工具调用。
兼容 Redis 和 Memcached 协议的内存数据库，用多线程架构提升吞吐量，可直接替换现有缓存层。
面向 Apple silicon 的数组计算框架，让机器学习模型能直接在 Mac 芯片上高效训练和推理，省去折腾 CUDA 的麻烦。
用 C++ 写的开源内存搜索引擎，支持模糊容错、分面和地理检索，可作为 Algolia、Pinecone 或 ElasticSearch 的轻量替代，快速搭建搜索体验。
已停维护的离线语音转文字引擎，在嵌入式设备上顶替云端 ASR 调用
飞桨核心框架，提供深度学习与机器学习的高性能单机及分布式训练能力，并支持跨平台部署，适合工业级模型开发。
面向手机端的高性能神经网络推理框架，针对 ARM 平台深度优化，让 Caffe、ONNX 等模型能在 Android/iOS 上低延迟运行。
跨平台高性能推理与训练加速引擎，可直接加载 ONNX 模型，兼容 PyTorch、TensorFlow 等框架导出，解决模型在不同硬件上高效部署的问题。
跨语言的列式内存格式与工具箱，让不同系统之间零拷贝交换数据，并加速内存分析。
阿里开源的轻量级端侧推理引擎，主打手机和嵌入式设备上的高性能模型推理，能跑大模型和常规深度学习网络。
轻量级进程内向量数据库，主打极速检索，适合在本地为 RAG、语义搜索和 LLM 记忆等场景提供向量与全文检索能力。
基于新一代 Kaldi 和 onnxruntime 的离线语音工具包，一套搞定语音识别、合成、说话人分离、降噪、声源分离和 VAD，可跑在嵌入式、手机和服务器上。
Open3D 是一个现代 3D 数据处理库，提供点云、网格、RGB-D 和 3D 可视化等算法与工具，支持 C++ 和 Python，可用于 3D 感知、重建与机器学习研究。
面向视觉小说和 Galgame 的翻译工具，通过文本钩子、OCR 和剪贴板等多种方式提取游戏文本，再接入翻译引擎，让玩家能顺畅阅读原文。
NVIDIA 官方的高性能深度学习推理 SDK，能把训练好的模型在 NVIDIA GPU 上做极致加速和部署，适合追求低延迟高吞吐的生产推理场景。
从多张照片重建三维场景的 C++ 工具，集成了运动恢复结构（SfM）和多视图立体（MVS），可输出相机位姿与稠密点云。
开源分布式图数据库，支持水平扩展和高可用，适合存储超大规模图数据并做低延迟查询，可用于知识图谱和 GraphRAG 场景。