AI · 算法工程
共 2,597 个仓库 · 近 4 个月有推送
基于 ONNX Runtime、OpenVINO、PaddlePaddle 等多家推理后端的 OCR 工具包，支持多语言识别，方便在不同硬件上快速部署文字检测与识别。
给 AI Agent 运行框架加上可观测与策略执行层，记录每次运行轨迹，并实时拦截违规行为，提升运行时可靠性。
用 Python 写的开源深度研究工具，能对私有数据做推理式检索，替代闭源深度研究方案，支持接入 Milvus 和多种大模型。
聊天回复前的决策助手：读取聊天内容判断对方意图和风险，一键生成草稿供你确认后发送，支持 Android、Windows、macOS、iOS。
提供可插拔的 Python 和 C++ 多目标跟踪模块，集成 BoT-SORT、ByteTrack、OC-SORT 等 SOTA 算法，支持轴对齐与旋转框跟踪。
自托管的 AI Agent 工作台，把任务看板、Agent 编排和多端访问集中到一处，桌面、手机、浏览器或 API 都能用。
基于苹果 MLX 框架的语音处理库，在 Apple Silicon 上高效完成语音合成、语音识别和语音转换，适合本地跑多模态语音任务。
给 LLM 加一层语义缓存，相似问题直接命中缓存结果，省下重复调用 API 的钱和时间，已集成 LangChain 和 llama_index。
基于 Stream 边缘网络快速搭建语音与视觉智能体，可接入任意模型或视频源，实现超低延迟的实时多模态交互。
用 Swift 写的原生 macOS AI 智能体运行环境，可接入任意模型，支持持久记忆、自主执行和加密身份，全程离线运行。
LMDeploy 是面向大模型的高效推理与服务工具包，支持模型压缩、部署和在线服务，内置 TurboMind 推理引擎和 CUDA 算子，可加速 Llama、InternLM 等模型的推理。
跨平台桌面端语音转写工具，基于 Whisper 在本地把音视频转成文字，不用上传云端，隐私和离线场景都能用。
开源的 ML 与 LLM 可观测性框架，用 100+ 指标评估、测试并监控表格数据到生成式 AI 的数据管道与模型表现。
基于 Kubernetes 的云原生分布式块存储，为容器集群提供高可用持久卷、快照备份和跨节点数据复制。
开源可观测性与 APM 平台，整合指标、日志、链路追踪、持续剖析和 SLO 告警，借助 AI 自动定位故障根因。
用 BERT 句向量加 c-TF-IDF 做主题建模，生成的主题可解释性强，适合从大量文本里快速挖掘和归类话题。
开箱即用的浏览器沙箱 API，让 AI Agent 和应用直接调用无头浏览器完成网页自动化，省去自建基础设施的麻烦。
本地优先的 AI 编码 Agent 桌面应用，Electron 前端配 Rust 宿主内核，支持用户自装插件和 MCP，代码与数据留在本机。
在 PaLM 架构上实现 RLHF 人类反馈强化学习，复现 ChatGPT 式训练流程，适合研究大模型对齐与强化学习微调。
用 TensorRT 网络定义 API 手写实现 YOLO、ResNet、Swin Transformer 等主流深度学习模型，并附 C++ 推理代码，方便直接部署到 NVIDIA GPU。
在 Kubernetes 上编排 ML 流水线、智能体和实时推理的类型安全分布式引擎，用纯 Python 的 async/await 写工作流，也支持 Rust、Go 和 TS。
中文 MCP 资源合集，收录 MCP 服务器、客户端与使用指南，帮开发者快速找到并接入 Claude、DeepSeek、Qwen 等模型的 MCP 工具。
把普通 PC、Mac 或 Linux 机器变成私有 AI 服务器，集成 llama.cpp、ComfyUI、Open WebUI、n8n 等组件，方便本地跑大模型、RAG 和 Agent 工作流。
开源的一体化监控与可观测性平台，集告警、值班排班、事件响应和状态页于一身，帮团队快速发现并处理线上故障。