数据工程

共 38 个仓库 · 近 4 个月有推送

打开分类页
openai-cookbook
openai·Jupyter Notebook

OpenAI API 的官方示例与实战指南合集,用 Jupyter Notebook 演示对话、嵌入、微调等常见用法,帮你快速上手并解决实际调用中的问题。

OpenAI API+4数据清洗与处理
77029+4113k2026-11-09 15:44 UTC
label-studio
HumanSignal·TypeScript

多类型数据标注工具,支持图像、文本、音频等标注任务,输出统一格式,方便为机器学习和深度学习项目准备训练数据。

数据标注+4标注与偏好数据
28669+223.8k1.23.22026-11-10 06:09 UTC
akshare
akfamily·Python

开箱即用的 Python 财经数据接口库,一行代码就能拉取股票、债券、期货、外汇和宏观经济等公开数据,省去到处爬数据、清洗数据的麻烦。

财经数据接口+4量化交易
23280+273.6kv1.20.372026-11-09 16:31 UTC
datasets
huggingface·Python

Hugging Face 官方数据集库,汇集海量即用型 AI 数据集,并提供高效的数据加载与处理工具,省去自己找数据、写加载代码的麻烦。

数据集托管+4数据集托管
22123+63.6k5.1.02026-11-09 21:41 UTC
rocketride-server
rocketride-org·Python

高性能 AI 流水线引擎,C++ 内核搭配 50+ 可扩展 Python 节点,支持多模型提供商、向量数据库和 Agent 编排,可在 IDE 中构建调试 LLM 工作流。

流水线引擎+4数据管道 / ETL
20068+238.7kvscode-v1.6.0-prerelease2026-11-10 09:12 UTC
screenity
alyssaxuu·JavaScript

免费且注重隐私的浏览器屏幕录制扩展,不限录制时长,支持摄像头、麦克风和标注编辑,适合做演示和教程。

屏幕录制+4标注与偏好数据
18976+131.5kv4.7.22026-11-08 09:54 UTC
arrow
apache·C++

跨语言的列式内存格式与工具箱,让不同系统之间零拷贝交换数据,并加速内存分析。

列式格式+4数据清洗与处理
17280+24.4kapache-arrow-26.0.12026-11-10 08:20 UTC
cvat
cvat-ai·Python

面向图像、视频、音频和 3D 数据的开源标注平台,支持 AI 辅助标注、质量校验、团队协作和开发者 API,适合构建计算机视觉数据集。

数据标注+4标注与偏好数据
17104+134.1kv2.82.02026-11-10 11:00 UTC
phoenix
Arize-ai·Python

开源的 LLM 可观测性与评测平台,能追踪、调试和评估 RAG 与 Agent 应用,帮团队定位大模型链路中的问题。

LLM 可观测性+4数据集托管
12231+381.3k@arizeai/[email protected]2026-11-10 11:11 UTC
fiftyone
voxel51·TypeScript

面向视觉 AI 的数据集管理与模型分析工具,能可视化浏览数据、清洗标注、发现质量问题,并支持主动学习来迭代提升模型。

数据集管理+4数据清洗与处理
11287+5844v1.22.12026-11-09 15:33 UTC
Bash-Oneliner
onceupon

收录大量实用的 Bash 单行命令和终端技巧,覆盖数据处理与 Linux 系统维护,遇到文本处理或运维任务时可直接查用。

Bash单行命令+4数据清洗与处理
10800+26492026-09-22 06:20 UTC
techniques
satellite-image-deep-learning

汇集卫星与航拍影像深度学习的技术清单,涵盖数据集、模型与工具,帮遥感从业者快速找到可用的方法和资源。

遥感影像+4数据集托管
103011.6kv1.32026-11-07 14:51 UTC
data-juicer
datajuicer·Python

面向大模型训练的数据处理流水线,把原始多模态数据清洗、过滤、去重并加工成高质量指令微调语料。

数据处理+4数据清洗与处理
7233+4449v1.6.22026-11-10 09:31 UTC
DALI
NVIDIA·C++

GPU 加速的数据预处理库,提供高度优化的图像、音频处理算子和执行引擎,解决深度学习训练中数据管道拖慢 GPU 的瓶颈。

GPU加速+4数据清洗与处理
5794+2689v2.4.02026-11-10 09:54 UTC
argilla
argilla-io·Python

面向 AI 工程师和领域专家的数据标注协作平台,支持主动学习和人机协同,帮助团队高效构建高质量训练数据集。

数据标注+4标注与偏好数据
5196+3516v2.8.02026-11-09 22:38 UTC
langwatch
langwatch·TypeScript

面向 AI 平台团队的开源 Agent 可观测与评测平台,能追踪、测试、路由并治理公司内每个 Agent 和编码助手。

Agent 可观测+4数据集托管
5021+5428langwatch-3.23.02026-11-10 11:32 UTC
datasets
tensorflow·Python

提供大量可直接用于 TensorFlow、JAX 等框架的数据集集合,省去自己下载、解析和预处理数据的麻烦,统一接口加载即可训练模型。

数据集+4数据集托管
46111.6kv4.9.102026-11-09 15:39 UTC
pandera
unionai-oss·Python

轻量灵活的数据校验库,用声明式 schema 给 pandas 等 DataFrame 做类型、范围和统计假设检查,在数据清洗和管道里提前拦住脏数据。

数据校验+4数据质量
4522+2512v0.35.02026-11-10 03:37 UTC
anylabeling
vietanhdev·Python

集成 YOLO 与 SAM 系列模型的 AI 辅助标注工具,能自动预标注图像,省去手工框选和分割的重复劳动。

自动标注+4标注与偏好数据
3520+2356v0.4.432026-08-30 16:58 UTC
ksnip
ksnip·C++

跨平台截图与标注工具,支持裁剪、模糊、绘图和上传图床,适合需要快速截图并做标注的日常办公与开发场景。

截图工具+4标注与偏好数据
3379+4255v1.10.12026-10-21 10:17 UTC
Open3D-ML
isl-org·Python

Open3D 的 3D 机器学习扩展,提供点云与 RGBD 数据的语义分割、目标检测等任务的训练与可视化工具,支持 PyTorch 和 TensorFlow。

3D机器学习+4数据集托管
2361366v0.20.02026-09-16 22:52 UTC
fastdup
visual-layer·Python

快速扫描图像和视频数据集,找出重复、相似和异常样本,帮助清洗数据、提升标签质量并降低数据运维成本。

图像去重+4数据集托管
191595v2.2_3.82026-08-23 12:48 UTC
Capso
lzhgus·Swift

macOS 上的开源截图与录屏工具,用 Swift 6 和 SwiftUI 原生开发,是 CleanShot X 的免费替代品,支持标注和 OCR。

截图工具+4标注与偏好数据
1496+495v1.2.82026-11-10 01:43 UTC
kitops
kitops-ml·Go

把 AI/ML 模型、数据集、代码和配置打包成 OCI Artifact 并做版本管理,让模型交付像容器镜像一样标准化、可复现。

模型打包+4数据集托管
1441188v1.17.02026-11-09 20:07 UTC