用于评测大语言模型及 LLM 系统的框架,同时提供开源基准测试注册表,方便对比不同模型和系统的表现。
统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。
一个 Python 的 LLM 评测框架,提供开箱即用的评估指标,帮你在开发和上线前系统检验大模型输出质量。
持续更新的中文大模型能力评测榜单,已收录374个商用与开源模型,并提供超200万条缺陷库,方便研究者横向对比模型表现、定位问题并改进。
用声明式配置对提示词、Agent 和 RAG 做自动化评测与红队渗透测试,支持多模型横向对比,可接入命令行和 CI/CD。
面向 LLM 应用、RAG 和 Agent 工作流的可观测与评测平台,提供全链路追踪、自动评估和生产级监控看板,帮团队定位问题并持续优化效果。
开源 LLM 应用可观测与评估平台,能追踪调用链路、跑评测实验,帮团队定位问题并持续优化提示词和模型效果。
面向 LLM 应用的自动化评测工具,用合成测试集和多种指标量化 RAG 与生成效果,帮你在上线前发现质量问题。
OpenCompass 是一个大模型评测平台,支持 OpenAI、Qwen、DeepSeek 等主流模型,覆盖知识、推理、代码、长上下文等 100+ 数据集,帮你系统化地跑分对比。
开源的 LLM 可观测性与评测平台,能追踪、调试和评估 RAG 与 Agent 应用,帮团队定位大模型链路中的问题。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
面向 AI 平台团队的开源 Agent 可观测与评测平台,能追踪、测试、路由并治理公司内每个 Agent 和编码助手。
面向大语言模型的强化学习训练框架,支持分布式训练与智能体工作流,让开发者能低成本训练和调优推理模型。
基于 PyTorch 的目标检测工具箱与基准库,集成了 Faster R-CNN、DETR、Grounding DINO 等主流模型,方便训练、评测和复现检测与分割算法。
用真实 GitHub issue 评测语言模型能否自动修复代码缺陷的基准测试集,为代码智能体能力提供可复现的量化对比。
面向大模型微调、RAG 和评测的数据集制作工具,支持数据生成、清洗与导出,省去手工整理训练数据的麻烦。
整理 2026 年机场(代理订阅)推荐清单,汇总低价、按量计费、不限时等各类 Clash/V2ray 节点服务,并附评测与避坑提示。
面向 AI Agent 全生命周期的优化平台,覆盖开发调试、效果评估到线上监控,帮团队把 Agent 从能跑打磨到稳定可用。
把 Git 的版本控制能力搬到数据库上,支持分支、合并、克隆和 diff,适合需要追踪数据变更、给 AI Agent 做可回溯记忆存储的场景。
面向 Agent 应用的 Python 可观测性 SDK,支持对 Agent、LLM 和工具调用做追踪、调试与评测,自带可自托管面板,用时间线和执行图看清多智能体系统的运行过程。
为 AI Agent 提供可持久化的长期记忆层,让智能体和应用能跨会话记住上下文,开箱即用、面向生产环境。
5 秒克隆任意人声,实时合成任意语音,基于 PyTorch 的语音克隆与文本转语音工具。
基于多模态大模型的 GUI 智能体家族,能看懂手机和电脑界面并自动点击操作,帮你完成跨 App 的自动化任务。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架,内置工作流、对话机器人和评测能力,省去自己拼装 LLM 调用链的麻烦。
用 Markdown 写一次 AI 编码助手的插件、技能和命令,再由生成器适配 Claude Code、Codex CLI、Cursor 等各家工具,省去重复维护。
面向 AI 研究者的开源实验环境,可在本地硬件到 GPU 集群之间无缝训练、评估和扩展大模型与扩散模型。
通义开源深度研究智能体,能自主规划多步检索、浏览网页并整合信息,产出带引用的研究报告,适合做调研问答和资料汇总。
开源的 LLM Agent 评测与测试库,能自动扫描模型和智能体的安全、公平性、幻觉等风险,帮团队在上线前发现并修复问题。
把 GitHub issue 直接丢给大模型,自动定位代码并生成修复补丁,还能用于安全攻防和竞赛编程。
开源实现的 CLIP 多模态模型,提供图像-文本对比学习训练与预训练权重,支持零样本图像分类和跨模态检索。
把 AI 研究与工程技能打包成可复用模块,接入 Claude Code、Codex、Gemini 等编码代理后即可获得完整科研能力。
开源的多模态视觉指令微调模型,让 LLaMA 类大模型能看图对话,效果对标 GPT-4V,适合做图文问答和视觉助手。
低代码 MCP 框架,用可视化方式快速搭建复杂 RAG 流水线,省去大量胶水代码,适合快速验证检索增强生成方案。
提供可插拔的 Python 和 C++ 多目标跟踪模块,集成 BoT-SORT、ByteTrack、OC-SORT 等 SOTA 算法,支持轴对齐与旋转框跟踪。
基于新一代 Kaldi 和 onnxruntime 的离线语音工具包,一套搞定语音识别、合成、说话人分离、降噪、声源分离和 VAD,可跑在嵌入式、手机和服务器上。
一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。
基于 OpenTelemetry 的 LLM 应用可观测性工具,能追踪调用链、采集指标并监控模型表现,帮你在生产环境定位 GenAI 应用的性能与质量问题。
Python SDK,用于监控 AI 智能体运行、追踪 LLM 调用成本并做基准评测,兼容 CrewAI、LangChain、AutoGen 等主流智能体框架。
给编码 Agent 用的代理和技能,让模型用「原始人式」极简表达回答,砍掉约 65% 的 token 消耗。
…window index 和时间维 mRoPE 处理 工具 NeedleBench :新增长文本检索评测工具、压缩检查模式和 iOS mnn-llm demo 运行入口 iOS LLM 一键性能测试 :新增设备端 benchmark 流程 llm bench -pg :支持共享 KVCache 的 Prefill / Decode 联合测
中文版 基准测试数据集 - 新增 SafetyBench 零样本安全评测,支持 zh 、 en 、 zh subset ,分别报告整体及七类准确率;无法解析或缺失的预测计错,不随机回退到某个答案。 功能增强 - Web 任务工作区:评测与压测共用模型连接,支持独立草稿、配置模板、导入导出及活动任务发现;刷新页面后可恢复监控,无需重复提交。
中文版 基准测试数据集 - 决策评测:新增 JevBench、OpenDecisions、STS-B 和自定义 JSONL 数据集 general decision ,覆盖 Choice、Noul 和 Score 任务。 - 代码与数据库评测:新增 DS-1000 数据科学代码生成和 BIRD-SQL Mini-Dev 文本转 SQL 评
中文版 基准测试数据集 - 多轮对话评测:新增 MT-Bench,支持两轮对话和可配置的 Judge,遵循官方评分流程。 - Agent 评测:新增 Terminal-Bench 4.0( terminal bench v4 ),固定官方数据版本 4.0.0 ,支持任务筛选、重复试验及独立验证环境。 - 决策能力评测:新增 ANLI、Bo
…CSR)并启用浅路由(shallow routing):将智能体、技能、MCP、系统工具、模板市场、评测等工作台页面,账号中心各模块,管理员后台以及定价页全面迁移为客户端渲染,避免页面切换时的完整 SSR 往返请求与白屏重渲染,显著提升交互响应速度。 2. 国际化(i18n)资源加载性能优化:将客户端语言包打包为单一 chunk 预加载,
中文版 基准测试数据集 - 语音评测:新增 THCHS-30 国际音标(IPA)音素识别评测,支持 Phone Error Rate(PER)指标。 - 语音评测:LibriSpeech 新增 test-other 子集支持。 功能增强 - Agent 评测:新增 DeepSeek Harness Bridge Runner,支持通过 O