统一评测语言模型少样本能力的框架,支持多种任务和模型,方便横向对比不同模型的性能表现。
一个 Python 的 LLM 评测框架,提供开箱即用的评估指标,帮你在开发和上线前系统检验大模型输出质量。
持续更新的中文大模型能力评测榜单,已收录374个商用与开源模型,并提供超200万条缺陷库,方便研究者横向对比模型表现、定位问题并改进。
OpenCompass 是一个大模型评测平台,支持 OpenAI、Qwen、DeepSeek 等主流模型,覆盖知识、推理、代码、长上下文等 100+ 数据集,帮你系统化地跑分对比。
一行代码接入的 LLM 可观测性平台,能监控大模型调用、追踪成本与延迟,并支持评估和实验对比,方便排查线上问题。
给 Python 脚本和命令行程序加进度条的库,循环、pandas、Keras、多进程都能用,速度快、可扩展,还能在终端和 Jupyter 里显示。
用 TypeScript 快速搭建 AI 应用和智能体的现代框架,内置工作流、对话机器人和评测能力,省去自己拼装 LLM 调用链的麻烦。
命令行基准测试工具,能对任意 shell 命令做多次运行统计,自动给出耗时分布和置信区间,方便比较不同实现的性能差异。
开源 LLM 应用可观测与评估平台,能追踪调用链路、跑评测实验,帮团队定位问题并持续优化提示词和模型效果。
面向 LLM 应用的自动化评测工具,用合成测试集和多种指标量化 RAG 与生成效果,帮你在上线前发现质量问题。
开源的 LLM 可观测性与评测平台,能追踪、调试和评估 RAG 与 Agent 应用,帮团队定位大模型链路中的问题。
面向 LLM 应用、RAG 和 Agent 工作流的可观测与评测平台,提供全链路追踪、自动评估和生产级监控看板,帮团队定位问题并持续优化效果。
面向大模型微调、RAG 和评测的数据集制作工具,支持数据生成、清洗与导出,省去手工整理训练数据的麻烦。
开源 AI 工程平台,覆盖智能体、大模型和传统机器学习,帮团队调试、评估、监控和优化生产级 AI 应用,同时控制成本并管理模型与数据访问权限。
用声明式配置对提示词、Agent 和 RAG 做自动化评测与红队渗透测试,支持多模型横向对比,可接入命令行和 CI/CD。
面向 AI Agent 全生命周期的优化平台,覆盖开发调试、效果评估到线上监控,帮团队把 Agent 从能跑打磨到稳定可用。
一站式搞定 Qwen、Gemma 等开源大模型和多模态模型的微调(SFT/RL)、评测与部署,零代码也能上手。
用真实 GitHub issue 评测语言模型能否自动修复代码缺陷的基准测试集,为代码智能体能力提供可复现的量化对比。
开源的 LLM Agent 评测与测试库,能自动扫描模型和智能体的安全、公平性、幻觉等风险,帮团队在上线前发现并修复问题。
…h、Threshold、Min/Max tokens 等数值维度名称。 文档优化 - 新增中英文决策模型评测实践、自定义决策数据、API 协议及各新增基准说明。 - 更新共享前缀池、跨数据源加载和指标维度的用法及示例。 - 修正离线模型下载命令、mini-swe-agent 和 ms-swift 链接,并同步 AI2D 中文说明。 问题修
…+代码任务)上,64K版模型相比标准版有显著的性能提升,甚至优于16K版本模型,效果参阅[长上下文版模型评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca-2?tab=readme-ov-file 长上下文版模型评测) - Chinese-Alpaca-2-7B-64K已加入到[⚔️ 模型竞
…- 在长文本评测LongBench上,16K版模型相比标准版均有显著的性能提升,效果参阅[长上下文版模型评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca-2/tree/16k 长上下文版模型评测) - 主要处理长文本时,建议使用16K版;日常使用请选择标准版模型 注意事项 - transf