OpenAI 官方开源的高速 BPE 分词器,专为 GPT 系列模型设计,能快速把文本切成 token,适合训练和推理时做文本预处理。
无需分词器的多语言语音合成模型,支持创意音色设计和逼真声音克隆,可直接从文本生成自然语音。
用 Rust 实现的高性能分词器库,支持 BERT、GPT 等主流模型,兼顾研究实验与生产部署,解决文本预处理速度慢、跨语言调用不便的问题。
统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。
从公开研究文献出发,用第一性原理复现 Claude Mythos 架构的理论实现,供研究者拆解其注意力机制与模型设计思路。
基于下一尺度预测的自回归视觉生成模型,用GPT式架构做图像生成并击败扩散模型,代码简洁易用,附带缩放定律研究。
面向多模态 AI 的嵌入式向量检索库,支持近似最近邻搜索和语义相似度检索,无需单独部署服务,帮开发者省去向量数据管理的麻烦。
统一视觉分词器,把图像同时编码成适合生成和理解任务的离散 token,解决生成与理解模型各用一套 tokenizer 的割裂问题。
Rust 写的超快日文分词器,用逐点预测模型做形态素分割,适合需要低延迟、高吞吐的 NLP 流水线。
基于 Viterbi 算法的日语分词器,用 Rust 实现,适合需要高性能形态素分析的 NLP 场景。
Sudachi 日语分词器配套的系统词典,提供词条和词性标注数据,用于日文形态素分析和分词。
面向视觉 tokenizer 的球面量化方案,包含二值球面量化和 Leech 球面量化两种方法,用于压缩视觉 token 并提升表示效率。
…I 能力上,AI Function 支持对图片类型的处理,并且做了并发请求的优化。 新增内置 IK 分词器现支持加载用户自定义词典,提升全文索引的准确性。 提供了 Database 级资源隔离(CPU/IO)的能力,允许将每个 Database 映射到独立的资源组,实现 CPU 和 IO 的细粒度隔离。 关键特性说明 特性增强 SUBPA
…p tokenization spaces 问题( 9304),提高了文本处理的准确性。 - 统一了分词器的 pad 函数到基类。[ 9280](https://github.com/PaddlePaddle/PaddleNLP/pull/9280) - 新增了对 BertTokenizerFast 的支持,并允许在调用时注册tokeni
…amba和jamba模型,并优化了LLM推理代码,提升了兼容性和效率。 基础性能优化方面,添加了快速分词器,实现了MoE优化器参数广播,加速了层归一化。同时,修复了多个bug,包括safetensors shape切片问题和Windows下mmap问题,提升了系统稳定性和兼容性。 文档与测试方面,进行了全面更新和优化,确保了文档的准确性和