把任意 LLM 改造成 Jev 风格决策模型,输出带类型的决策和真实概率,无需训练即可使用,适合需要可靠置信度的决策场景。
一套 0.8B 到 27B 的开源决策模型,一次前向就能为每个选项给出校准概率,只在不确定时才输出简短思考;配套 vLLM、llama.cpp 和 MLX 推理引擎。
…持 BoolQ 的 Noul 转换和 BANKING77 的固定语义类别。 - 概率指标:新增分类、概率校准、相关性、序数评分及风险/覆盖率与 AURC 分析;保留原始概率,并单独记录用于评分的分布。 - 决策可视化与压测:Web UI 支持查看逐样本选项概率、预测与参考答案;新增 perf --api systemone / autot