OpenAI 官方开源的高速 BPE 分词器,专为 GPT 系列模型设计,能快速把文本切成 token,适合训练和推理时做文本预处理。
一个用 Rust 写的单文件 CLI 代理,在跑常见开发命令时把 LLM token 消耗砍掉 60-90%,帮编码 Agent 省成本。
本地免费统计 Claude Code、Cursor、Codex 等 37 种 AI 编码工具的 token 用量和花费,按模型、项目、任务拆分,帮你看清钱花在哪。
实时监控 Claude Code 的用量,预测额度消耗并在接近上限时提前告警,帮你在终端里随时掌握 token 使用情况。
100 行代码的极简 LLM 框架,用图编排 Agent 工作流,让 Agent 自己搭建 Agent,适合想快速上手又不想被重型框架绑住的场景。
Python SDK,用于监控 AI 智能体运行、追踪 LLM 调用成本并做基准评测,兼容 CrewAI、LangChain、AutoGen 等主流智能体框架。
开源的 LLM 可观测性与评测平台,能追踪、调试和评估 RAG 与 Agent 应用,帮团队定位大模型链路中的问题。
把全文检索、向量召回和聚合分析都塞进一个 Postgres 里,靠 pg_search 扩展实现 BM25 与混合搜索,省去额外维护搜索和向量库的麻烦。
面向本地部署的高速大模型推理引擎,通过稀疏激活与量化等技术,让消费级显卡也能流畅跑起 Llama 类模型。
…weekly component versions Package Version --- --- tokenspeed-mla [0.2.16](https://pypi.org/project/tokenspeed-mla/0.2.16/) tokenspeed-scheduler [0.1.25](https://pypi.org/
…@musicinmybrain in https://github.com/huggingface/tokenizers/pull/2050 Ci test fixes by @sebpop in https://github.com/huggingface/tokenizers/pull/2079 Avoid full vocab cl
…metadata preservation, Codex image capability and token renewal, DeepSeek V4 Pro Responses routing, durable background Responses execution, Anthropic bearer authenticatio
…Cat by @zhyncs in https://github.com/lightseekorg/tokenspeed/pull/1 Update README by @lightseek-bot in https://github.com/lightseekorg/tokenspeed/pull/2 Add PyTorch index
What's Changed chore: Daily token price update (23-05-2025) by @github-actions in https://github.com/AgentOps-AI/tokencost/pull/130 chore: Daily token price update (24-05
What's Changed chore: Daily token price update (12-05-2025) by @github-actions in https://github.com/AgentOps-AI/tokencost/pull/118 Add support for cached tokens in the c