数据工程

共 54 个仓库

打开分类页
openai-cookbook
openai·Jupyter Notebook

OpenAI API 的官方示例与实战指南合集,用 Jupyter Notebook 演示对话、嵌入、微调等常见用法,帮你快速上手并解决实际调用中的问题。

OpenAI API+4数据清洗与处理
77022+3413k2026-11-09 15:44 UTC
label-studio
HumanSignal·TypeScript

多类型数据标注工具,支持图像、文本、音频等标注任务,输出统一格式,方便为机器学习和深度学习项目准备训练数据。

数据标注+4标注与偏好数据
28666+193.8k1.23.22026-11-10 00:07 UTC
akshare
akfamily·Python

开箱即用的 Python 财经数据接口库,一行代码就能拉取股票、债券、期货、外汇和宏观经济等公开数据,省去到处爬数据、清洗数据的麻烦。

财经数据接口+4量化交易
23275+223.6kv1.20.372026-11-09 16:31 UTC
datasets
huggingface·Python

Hugging Face 官方数据集库,汇集海量即用型 AI 数据集,并提供高效的数据加载与处理工具,省去自己找数据、写加载代码的麻烦。

数据集托管+4数据集托管
22123+63.6k5.1.02026-11-09 21:41 UTC
rocketride-server
rocketride-org·Python

高性能 AI 流水线引擎,C++ 内核搭配 50+ 可扩展 Python 节点,支持多模型提供商、向量数据库和 Agent 编排,可在 IDE 中构建调试 LLM 工作流。

流水线引擎+4数据管道 / ETL
20061+168.7kvscode-v1.6.0-prerelease2026-11-10 05:04 UTC
screenity
alyssaxuu·JavaScript

免费且注重隐私的浏览器屏幕录制扩展,不限录制时长,支持摄像头、麦克风和标注编辑,适合做演示和教程。

屏幕录制+4标注与偏好数据
18974+111.5kv4.7.22026-11-08 09:54 UTC
arrow
apache·C++

跨语言的列式内存格式与工具箱,让不同系统之间零拷贝交换数据,并加速内存分析。

列式格式+4数据清洗与处理
17279+14.4kapache-arrow-26.0.12026-11-10 02:04 UTC
cvat
cvat-ai·Python

面向图像、视频、音频和 3D 数据的开源标注平台,支持 AI 辅助标注、质量校验、团队协作和开发者 API,适合构建计算机视觉数据集。

数据标注+4标注与偏好数据
17103+124.1kv2.82.02026-11-09 15:55 UTC
easy-dataset
ConardLi·JavaScript

面向大模型微调、RAG 和评测的数据集制作工具,支持数据生成、清洗与导出,省去手工整理训练数据的麻烦。

数据集制作+4数据集托管
15103+101.5k1.7.32026-05-01 15:03 UTC
phoenix
Arize-ai·Python

开源的 LLM 可观测性与评测平台,能追踪、调试和评估 RAG 与 Agent 应用,帮团队定位大模型链路中的问题。

LLM 可观测性+4数据集托管
12223+301.3k@arizeai/[email protected]2026-11-10 04:24 UTC
cleanlab
cleanlab·Python

自动检测和修复真实数据集中标签错误、异常样本等质量问题,帮你在训练前把脏数据清理干净,提升模型效果。

数据质量+4数据质量
11739+2940v2.9.02026-01-13 17:39 UTC
fiftyone
voxel51·TypeScript

面向视觉 AI 的数据集管理与模型分析工具,能可视化浏览数据、清洗标注、发现质量问题,并支持主动学习来迭代提升模型。

数据集管理+4数据清洗与处理
11285+3844v1.22.12026-11-09 15:33 UTC
Bash-Oneliner
onceupon

收录大量实用的 Bash 单行命令和终端技巧,覆盖数据处理与 Linux 系统维护,遇到文本处理或运维任务时可直接查用。

Bash单行命令+4数据清洗与处理
10800+26492026-09-22 06:20 UTC
techniques
satellite-image-deep-learning

汇集卫星与航拍影像深度学习的技术清单,涵盖数据集、模型与工具,帮遥感从业者快速找到可用的方法和资源。

遥感影像+4数据集托管
103011.6kv1.32026-11-07 14:51 UTC
data-juicer
datajuicer·Python

面向大模型训练的数据处理流水线,把原始多模态数据清洗、过滤、去重并加工成高质量指令微调语料。

数据处理+4数据清洗与处理
7232+3449v1.6.22026-11-09 08:44 UTC
DALI
NVIDIA·C++

GPU 加速的数据预处理库,提供高度优化的图像、音频处理算子和执行引擎,解决深度学习训练中数据管道拖慢 GPU 的瓶颈。

GPU加速+4数据清洗与处理
5794+2689v2.4.02026-11-09 15:50 UTC
argilla
argilla-io·Python

面向 AI 工程师和领域专家的数据标注协作平台,支持主动学习和人机协同,帮助团队高效构建高质量训练数据集。

数据标注+4标注与偏好数据
5196+3516v2.8.02026-11-09 22:38 UTC
langwatch
langwatch·TypeScript

面向 AI 平台团队的开源 Agent 可观测与评测平台,能追踪、测试、路由并治理公司内每个 Agent 和编码助手。

Agent 可观测+4数据集托管
5019+3428langwatch-3.23.02026-11-10 05:35 UTC
Memex
WorldBrain·TypeScript

浏览器扩展,用于在网页上标注、收藏和讨论有价值的内容,支持个人、团队和社区协作,并带全文搜索。

网页标注+4标注与偏好数据
4724+13542.2.02025-12-02 02:31 UTC
datasets
tensorflow·Python

提供大量可直接用于 TensorFlow、JAX 等框架的数据集集合,省去自己下载、解析和预处理数据的麻烦,统一接口加载即可训练模型。

数据集+4数据集托管
46111.6kv4.9.102026-11-09 15:39 UTC
pandera
unionai-oss·Python

轻量灵活的数据校验库,用声明式 schema 给 pandas 等 DataFrame 做类型、范围和统计假设检查,在数据清洗和管道里提前拦住脏数据。

数据校验+4数据质量
4522+2511v0.35.02026-11-10 03:37 UTC
anylabeling
vietanhdev·Python

集成 YOLO 与 SAM 系列模型的 AI 辅助标注工具,能自动预标注图像,省去手工框选和分割的重复劳动。

自动标注+4标注与偏好数据
3520+2356v0.4.432026-08-30 16:58 UTC
ksnip
ksnip·C++

跨平台截图与标注工具,支持裁剪、模糊、绘图和上传图床,适合需要快速截图并做标注的日常办公与开发场景。

截图工具+4标注与偏好数据
3379+4255v1.10.12026-10-21 10:17 UTC
Open3D-ML
isl-org·Python

Open3D 的 3D 机器学习扩展,提供点云与 RGBD 数据的语义分割、目标检测等任务的训练与可视化工具,支持 PyTorch 和 TensorFlow。

3D机器学习+4数据集托管
2361366v0.20.02026-09-16 22:52 UTC