OSS Radar
首页
AI 分类
推理与服务5
大模型推理服务 · 向量化 / 重排服务 · 网关与路由
训练与微调6
训练框架 · 参数高效微调 · 后训练 / RLHF
数据工程4
数据集托管 · 数据清洗与处理 · 合成数据
检索与 RAG9
向量数据库 · RAG 框架 · 检索增强引擎
Agent 与编排6
Agent 框架 · 编码 Agent · 电脑 / 浏览器 Agent
评估 · 实验 · MLOps8
模型评测 · Agent 评测 · 实验管理
多模态生成5
图像生成 · 视频生成 · 视觉语言模型
视觉与 3D5
检测 / 分割 · 3D 重建 · 3D 生成
模型工具链8
量化 · 剪枝与蒸馏 · 格式转换
科研与论文实现3
论文复现 · 时序预测 · 科学计算 / 生物医药
开发工具
开发与框架5构建与交付4底层与逆向3
系统工具
系统与文件7图像与影音工具5实用小工具4
效率工具
记录与整理3输入与阅读4
媒体与内容
播放与媒体库4内容处理3
网络工具
访问与代理3连接与传输4
游戏相关
开发与运行2游玩相关2
安全与隐私
攻防与审计3加密与隐私1
硬件与机器人
嵌入式与物联网5机器人与具身智能3
数据与金融
数据库与存储4金融与量化1
探索排行榜开发语言标签
/
周报
本周新增、涨得最快、发了什么版本
对比项目
两个项目并排看 star、维护状态与硬件
数据体检
收录量、完整度缺口、沉睡项目
提交仓库
推荐项目,附上你的使用经验
反馈与纠错
分类错了、介绍不准、链接失效
关于本站
数据来源与分类原则
登录
OSS Radar

按算法工程工作流分类的开源工具库。数据来自 GitHub 公开 API,收录 6,740 个仓库、129 个细分分类。 带 ✦ 的条目有人工撰写的专家点评。

数据最近同步于 2026/11/11 14:07:13 · 本项目仅做聚合与索引,软件版权归原作者所有

浏览

  • 全部仓库
  • AI 分类
  • 排行榜
  • 开发语言
  • 标签与关键词
  • 搜索

关于

  • 关于本站
  • 数据体检
  • 提交仓库
  • 反馈与纠错
  • 偏好设置
  • 我的收藏
  • 我的点评
© 2026 OSS Radar数据每小时级同步 · 内容由算法与人工共同维护
⌘K
「分词器」找到 13 个结果 · 7ms命中词:分词器只看有点评
T
tiktoken
openai·Python

OpenAI 官方开源的高速 BPE 分词器,专为 GPT 系列模型设计,能快速把文本切成 token,适合训练和推理时做文本预处理。

分词器+3
196340—
openai/tiktoken · 13.31
V
VoxCPM
OpenBMB·Python

无需分词器的多语言语音合成模型,支持创意音色设计和逼真声音克隆,可直接从文本生成自然语音。

语音合成+4
422500—
OpenBMB/VoxCPM · 12.85
T
tokenizers
huggingface·Rust

用 Rust 实现的高性能分词器库,支持 BERT、GPT 等主流模型,兼顾研究实验与生产部署,解决文本预处理速度慢、跨语言调用不便的问题。

分词器+4
112390—
huggingface/tokenizers · 11.62
L
lm-evaluation-harness
EleutherAI·Python

统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。

模型评测+4
144510—
EleutherAI/lm-evaluation-harness · 10.25
O
OpenMythos
kyegomez·Python

从公开研究文献出发,用第一性原理复现 Claude Mythos 架构的理论实现,供研究者拆解其注意力机制与模型设计思路。

模型架构复现+3
149220—
kyegomez/OpenMythos · 10.16
R
riot
vcaesar·Go

用 Go 写的轻量级分布式文本与向量搜索引擎,主打简单和速度,适合给应用快速加上全文检索或向量检索能力。

搜索引擎+4
60640—
vcaesar/riot · 9.87
V
VAR
FoundationVision·Jupyter Notebook

基于下一尺度预测的自回归视觉生成模型,用GPT式架构做图像生成并击败扩散模型,代码简洁易用,附带缩放定律研究。

自回归图像生成+4
87670—
FoundationVision/VAR · 9.76
L
lancedb
lancedb·Rust

面向多模态 AI 的嵌入式向量检索库,支持近似最近邻搜索和语义相似度检索,无需单独部署服务,帮开发者省去向量数据管理的麻烦。

向量数据库+4
118800—
lancedb/lancedb · 9.76
U
UniTok
FoundationVision·Python

统一视觉分词器,把图像同时编码成适合生成和理解任务的离散 token,解决生成与理解模型各用一套 tokenizer 的割裂问题。

视觉分词器+4
5360—
FoundationVision/UniTok · 8.6
V
vaporetto
daac-tools·Rust

Rust 写的超快日文分词器,用逐点预测模型做形态素分割,适合需要低延迟、高吞吐的 NLP 流水线。

日文分词+4
3020—
daac-tools/vaporetto · 8.5
V
vibrato
daac-tools·Rust

基于 Viterbi 算法的日语分词器,用 Rust 实现,适合需要高性能形态素分析的 NLP 场景。

日语分词+4
4300—
daac-tools/vibrato · 8.06
S
SudachiDict
WorksApplications·Python

Sudachi 日语分词器配套的系统词典,提供词条和词性标注数据,用于日文形态素分析和分词。

日语分词+4
3170—
WorksApplications/SudachiDict · 7.89
N
npq-vit
zhaoyue-zephyrus·Python

面向视觉 tokenizer 的球面量化方案,包含二值球面量化和 Leech 球面量化两种方法,用于压缩视觉 token 并提升表示效率。

球面量化+4
2250—
zhaoyue-zephyrus/npq-vit · 7.65

发布说明里提到「分词器」

来自 3 个版本
  • oceanbase/oceanbasev5.0.1_CE2026-08-10

    …I 能力上,AI Function 支持对图片类型的处理,并且做了并发请求的优化。 新增内置 IK 分词器现支持加载用户自定义词典,提升全文索引的准确性。 提供了 Database 级资源隔离(CPU/IO)的能力,允许将每个 Database 映射到独立的资源组,实现 CPU 和 IO 的细粒度隔离。 关键特性说明 特性增强 SUBPA

  • PaddlePaddle/PaddleNLPv3.0.0-beta32024-12-16

    …p tokenization spaces 问题( 9304),提高了文本处理的准确性。 - 统一了分词器的 pad 函数到基类。[ 9280](https://github.com/PaddlePaddle/PaddleNLP/pull/9280) - 新增了对 BertTokenizerFast 的支持,并允许在调用时注册tokeni

  • PaddlePaddle/PaddleNLPv3.0.0-beta12024-08-22

    …amba和jamba模型,并优化了LLM推理代码,提升了兼容性和效率。 基础性能优化方面,添加了快速分词器,实现了MoE优化器参数广播,加速了层归一化。同时,修复了多个bug,包括safetensors shape切片问题和Windows下mmap问题,提升了系统稳定性和兼容性。 文档与测试方面,进行了全面更新和优化,确保了文档的准确性和