AI · 算法工程
共 249 个仓库 · C++
把家里的多台设备连成集群来跑 LLM 推理，设备越多推理越快，用 C++ 实现分布式加速。
面向性能敏感场景的超低延迟异步 C++17 日志与指标库，用异步写入避免日志拖慢主线程。
跨平台视频结构化分析框架，基于 C++ 和 GStreamer 串联 CV 模型与多模态大模型，把视频流拆解成人脸、车牌、行为等结构化信息。
面向文本嵌入、重排、CLIP、CLAP 和 ColPali 模型的高吞吐低延迟推理服务引擎，适合把向量化和重排模型部署成线上 API。
提供 CTPAPI 兼容接口，让 CTP 程序无缝对接 XTP、TORA、EMT、TWS 等各券商柜台，并附带 7x24 可用的期货、期权、股票模拟交易环境，可替代 Simnow。
兼容 Arduino 的多主多介质网络协议，让单片机、ESP32、树莓派等设备通过 LoRa、MQTT 等介质组网通信。
在自己的 GPU 上跑 GLM-5.3-Flash、DeepSeek-V4.1-Flash、MiniMax-M3.1-Flash 等大模型，统一引擎加可视化面板，兼容 OpenAI 与 Anthropic 接口。
Local AI API Platform
用 ROS 2 和 Gazebo 仿真带你动手入门机器人开发，覆盖导航、里程计、路径规划与 SLAM 等核心环节。
微软推出的本地 AI 推理运行时，基于 ONNX Runtime 在设备端跑聊天补全和语音转文字模型，支持 GPU 加速，不用联网也能用。
基于 C++ 的深度学习服务端与命令行工具，封装 Torch、TensorRT 等后端，通过 REST API 提供图像分类、目标检测、分割和以图搜图能力。
给编码智能体用的零依赖 C++23 命令行工具和 MCP 服务器，像 ripgrep 一样快速检索代码上下文，还能评估改动影响范围、该跑哪些测试和质量变化。
实时紧耦合激光雷达-惯性-视觉里程计与建图系统，输出带RGB颜色的稠密点云和网格，适合无人机、机器人在复杂场景下做鲁棒SLAM与三维重建。
把远程机器上的 GPU 通过 IP 网络桥接给只有 CPU 的机器使用，让无显卡设备也能跑 CUDA 计算和推理任务。
一套开箱即用的 LiDAR 里程计与建图管线，基于点到点 ICP 实现，无需调参即可在机器人上稳定运行，支持 ROS/ROS2。
快速且鲁棒的点云配准 C++ 库，支持 3D 重建、SLAM 和机器人场景下的点云对齐，能在大量外点下稳定求解配准。
跨厂商 3D 高斯泼溅训练器，能把视频转成 splat 再生成网格，支持 Vulkan 或 CUDA 后端，并带量化训练加速。
单二进制 C++ 流式 SQL 引擎，毫秒级延迟、百 GB/s 吞吐，可从日志、指标、事件和 CDC 流中持续计算有状态上下文。
面向 Apple Silicon 的本地大模型推理引擎，围绕模型本身做优化，让 Mac 上跑编码智能体和 LLM 推理更快更省资源。
一套面向移动机器人和自动驾驶的 C++ 工具库，提供 SLAM、计算机视觉、地图构建、粒子滤波和运动估计等模块，省去从零搭建底层算法。
用廉价 ESP32 板通过 WiFi 和 BLE 信号统计人流密度，支持 LoRaWAN、GPS 等扩展，适合低成本客流监测部署。
TurtleBot3 的 ROS 功能包集合，提供移动机器人导航、SLAM 建图与 Gazebo 仿真支持，适合做机器人教学和算法验证。
用 C++ 写的轻量级 ONNX 推理库，靠流式加载把内存压到极低，能在树莓派 Zero 2 或 298MB 内存里跑 Stable Diffusion XL 1.0，桌面端也能跑 Mistral 7B。
用 C++ 实现的高性能动漫图像放大工具，支持 GPU 加速和 CNN 算法，可作 AviSynth+ 插件或 DirectShow 滤镜接入视频处理流程。