cube-studio

一、AIHub 功能与界面优化

• 优化 AIHub Markdown 显示问题
• AIHub 部署为推理服务类型离线场景问题修复
• AIHub 应用优化
• AIHub 文档优化
• AIHub Demo 支持 HTTPS 限制
• AIHub 数据处理任务模板增加

二、大模型与推理服务优化

• 大模型对话优化
• 大模型微调可选值优化
• 大模型可选值模型优化
• 推理服务优化
• 推理服务模型地址支持 {{creator}}
• 去除 VLLM 的 AIHub
• 升级 LLaMAFactory 镜像版本及相关任务模板
• 升级 ML-Server 镜像版本
• 优化 ML-Server 推理服务部署
• 优化 Torch-Server 推理
• 去除不使用的大模型
• 去除部分过时模型
• QwQ-32B 更换为 Qwen3 模型
• 修复 Token 限制

三、服务网关与接口优化

• 服务网关优化（重复项合并）
• 服务网关支持代理 Embedding 接口
• 支持按照 Header 分流
• 支持通过环境变量设置是否禁用服务流量转发

四、部署与集群优化

• 优化部署
• 优化海光部署
• 优化 DCU 兼容
• 优化卸载脚本
• 优化多集群 K8s 客户端线程安全问题
• 修复 K8s 客户端使用线程安全后 Watch 组件的 Bug
• 接口中增加 Pod IP
• 支持摩尔线程
• 升级到 20260101 版本
• 升级新版本
• Argo 镜像使用内网镜像
• 修正 Redis 镜像地址
• 修复部分连线不可用的情况

五、文档与注释优化

• 优化文档
• 优化注释
• 修正文档
• 增加示例合集
• 优化示例
• 增加加解密注释
• 增加初始化任务
• 增加任务模板加密启动
• 去除冗余代码

六、安全与权限优化

• 优化加密
• 添加 OAuth2 认证
• 在线 IDE SSH 增加防暴力破解
• 优化 SSH 代理
• 去除泛域名 SSH 代理
• 普通用户不能添加其他人进组
• 数据集下载权限控制
• 优化权限问题
• 固化任务模板不可修改
• 安全响应添加

七、监控与性能优化

• 优化 LLM 指标监控
• 增加 TPS、E2E、首 Token 时延、单 Token 平均时延（ms）
• 优化整体资源自动使用缓存
• 优化监控
• 优化 Pod 子状态
• 处理 Gevent 模型性能
• 优化定时清理测试服务状态
• 优化 Watch 监控

八、任务模板与自动化标注

• 优化任务模板描述
• 增加图片质量评估任务模板
• 优化 NLP 数据处理任务模板
• 增加 PaddleOCR-VL 任务模板
• 增加万物识别自动化标注
• 增加图片转文档的自动化标注
• 优化自动化标注
• 优化 PaddleOCR-VL 自动化标注
• 优化 PaddleOCR-VL AIHub 应用
• 增加 PaddleOCR-VL 内容提取任务模板
• 增加 PaddleOCR AIHub 应用
• 万物识别自动化标注支持 XML 设置可信参数门限
• 增加结构化数据标注能力
• 增加结构化数据标注示例
• 支持大模型万物边界线和遮罩识别
• 添加 Dino 和 Dino-SAM 万物分隔模型
• 修正万物分隔 GPU 占用

九、数据处理与 NLP 能力

• 优化数据处理，增加 NLP 数据分析、问答对抽取、问答对扩展等
• 增加 NLP 数据分析能力
• 优化判断文件格式的代码

十、开发环境与工具优化

• VS Code 支持默认中文
• 优化 VS Code 汉化
• 升级 Jupyter 镜像，支持汉化
• 升级 Jupyter 镜像，支持汉化（重复项合并）
• Grafana 默认中文简体（重复项合并）
• Notebook 默认不显示续期
• Notebook Stop 同时关闭 Commit 的 Pod
• RStudio 首页跳转 Bug 修复（重复项合并）

十一、数据库与记录优化

• 优化数据库记录
• 优化部署数据库写入可能出错的地方
• 记录保存成功的时间
• 记录 Save 成功时间
• 修正某些类型数据库 Skip 是关键字的问题

十二、配置与初始化优化

• 优化初始化
• 优化默认值
• 修改初始化示例
• 任务模板添加初始化 TASK_RESOURCE_RDMA=0 环境变量
• 优化任务过期时间配置
• 优化报警描述
• 优化模板描述

十三、其他修复与优化

• 修复文字 Bug
• 优化报错打印
• 去除非必要文件
• 优化端口暴露
• 优化模拟数据
• 去除 NXTime
• 优化 AIPod 标签
• 修正域名下的虚拟服务配置
• 优化标注初始化
• 修正推送给管理员的消息记录
• 优化 MindFormer 镜像版本
• 优化 MindIE 模型的发布功能
• 增加 MindIE Qwen 推理
• 修正 Argo 镜像使用内网的镜像
• 支持增加模拟数据

一、 核心功能与模块优化

1. 模型训练与推理框架支持

   • 优化mindie模型的发布功能
   • 模型推理类型支持mindie
   • 增加mindie qwen推理
   • 优化mindie推理
   • 支持mindie分布式
   • mindie多机推理 host模式，特权模式
   • 修正ollama部署时api访问模型名的问题
   • 修正大模型推理的启动命令
   • 优化mindie模型的发布功能
   • 优化llamafactory 分布式训练
   • 增加llamafactory分布式示例
   • 升级llama factory 支持多模态大模型训练
   • 升级gpt5
   • 支持vllm推理框架
   • 丰富模型量化支持“gptq","awq","gguf","hf_quantize”
   • 添加模型蒸馏任务模板
   • 支持模型转换任务模板
   • 增加opencompass模型评估
   • 优化opencompass任务模板
   • 优化llm评估

2. 任务模板与Pipeline

   • 修复union-join-data 任务模板
   • 修复mpi的任务模板
   • 修复任务模板的复制功能
   • 优化任务模板构建
   • 优化分布式pytorch任务模板
   • 任务参数支持可选可填参数类型
   • 任务模板参数支持正则表达式
   • 任务调试时的资源值为用户填写资源值而不使用任务模板环境变量
   • 在任务模板中优化分布式任务的挂载
   • 特征处理和机器学习算法任务模板合并在一起
   • 合并机器学习模板和特征处理模板
   • 完善sklearn的任务模板
   • 增加汇总sklearn的任务模板
   • 修正pipeline编辑没有修改项目组的问题

3. AIHub应用与Demo

   • 优化aihub示例
   • 优化aihub 推理参数 必要性
   • 优化用户自定义aihub项目组时aihub demo的问题
   • aihub应用要能直接打开jupyter界面
   • 修复aihub应用 页面 管理服务按钮链接
   • 去除不使用的大模型
   • 去除部分过时的模型
   • 去除chatglm任务模板
   • 去除open webui
   • 去除不使用的大模型
   • 去除部分过时的模型
   • 去除aihub非必要代码
   • 去除视频人体分隔的aihub
   • 优化模拟数据
   • 支持增加模拟数据

4. Notebook / 在线IDE

   • jupyter ssh 端口统一为22
   • notebook支持绑定机器和非在线ide模式打开
   • notebook开放端口缩小为2个
   • notebook可以直接打开输入框中输入的目录
   • 修复 任务模板 打开目录直接显示文本文件
   • 优化notebook保存功能
   • 优化notebook保存报错提醒
   • 优化notebook pod 健康检查
   • 对于没有部署的notebook 不进行状态查询
   • 增加去除conda版本的在线ide
   • 默认不启动matlab ide
   • 修复在线vscode 远程ssh没有启动的问题
   • 兼容旧版本vscode
   • notebook, pipeline, service, inference支持nfs挂载配置

二、 部署与基础设施

1. 多集群与资源管理

   • k8s 看板 监控支持多集群
   • 机器资源，pod运行，整体资源 信息接口暴露
   • 优化整体资源
   • 优化整体资源的显示问题
   • 整体资源支持模拟数据
   • 整体资源 pod 资源占用量 没有request的时候就用limit
   • 优化整体资源的加载速度
   • 支持节点批量删除
   • 支持不同集群单独指定K8S_NETWORK_MODE等参数
   • 修复多集群部署时缓存冲突的问题
   • 修复多集群时的缓存问题
   • 镜像构建和aihub支持多集群
   • notebook 多集群创建时 没有项目组信息
   • 支持边缘集群模式部署

2. 监控、日志与清理

   • 优化watch监控
   • 优化监控
   • 升级监听记录
   • 升级grafana看板 支持containerd的运行时
   • 减少日志打印
   • 去除aihub的pysnooper.snoop打印
   • 优化清理
   • 优化限额配置和清理不正常的服务
   • 优化定时清理notebook的bug
   • 添加定制清理 历史log和workflow runhistory等记录
   • 修复监听不到外界kill pod的信号
   • prometheus查询设置timeout

3. Pod与容器管理

   • 优化deployment查询
   • 优化pod查询
   • 优化pod子状态
   • 优化pod标签
   • 优化k8s查询
   • 修复查询终止pod cache bug
   • 还没有通过健康检查的状态为Starting
   • 接口中增加pod_ip
   • 分布式任务-1 gpu占用模式，需要特权
   • 修正aihubpod的标签

4. 镜像与构建

   • 优化docker打包
   • 优化dockerfile
   • 优化dockerfile 多架构构建时架构默认值的问题
   • 优化docker build构建
   • 支持dockerfile在线构建能力
   • 控制镜像构建权限
   • 修正镜像管理中在线构建的注释
   • 构建加密镜像方法
   • 禁用用户自己填的镜像名
   • 修正mindformer的镜像版本
   • 优化yolo镜像
   • 升级新的yolov8镜像版本
   • 添加npu pytorch镜像
   • argo镜像使用内网的镜像

三、 安全、权限与认证

1. 认证与权限控制

   • 添加oauth2认证
   • jwt公钥私钥存储
   • 优化权限问题
   • 优化pod 界面访问权限控制
   • 普通用户不能添加其他人进组
   • 创建pod支持设置权限
   • 数据集下载权限控制
   • 标注平台用户token设定和api访问
   • mnt dataset等软链的静态文件，都需要通过用户认证
   • 对于跨集群的话，cookie认证就可以去掉

2. 安全加固

   • 在线ide ssh增加防暴力破解
   • 优化加密
   • 去除泛域名ssh代理
   • 优化ssh代理
   • 优化xss禁用
   • 去除非必要前端
   • 去除冗余代码，添加安全响应
   • 去除非必要脚本
   • 限制批量上传的文件格式
   • 修复登录跳转漏洞
   • 删除401报错
   • yolo视频跟踪aihub 支持npu
   • yolov8 安全验证修复

四、 用户体验与界面

1. 界面优化与交互

   • 优化flash自动消失
   • 优化列表字段宽度
   • 优化显示宽度
   • 优化显示
   • 详情展示更多字段
   • 优化中英文
   • 优化中英文翻译
   • 优化配置描述
   • 优化帮助地址使用配置文件
   • 修正中文错别字
   • 修复文字bug
   • 优化弹窗样式和自动刷新
   • 修复弹窗markdonw渲染 code 黑色背景
   • 测试按钮设置为右边漂浮
   • 修复测试按钮显示问题
   • 不使用自动刷新。
   • 泛域名可点击状态显示
   • 优化外键关联时的空白问题
   • 优化pod list界面
   • 新增pod list界面
   • 优化json类型，不自动格式化

2. 路由与代理

   • 优化路由
   • 优化https时的跳转
   • 优化登录重定向
   • 修复rstudio首页跳转bug
   • 修正域名下的虚拟服务配置
   • 内外网域名的代理
   • 支持ssh 通过泛域名中转
   • 修复ingress的bug
   • expose批量替换为expose_api

五、 硬件与国产化支持

1. 计量计费和账单优化

   • 增加默认过滤条件
   • 优化前端时间类型参数的可选择范围

2. 权限管理改进

   • 简化admin权限查询
   • 支持用户删除操作
   • 添加登录日志登记

3. 项目与资源管理

   • 任务模板、推理服务类型、AIHub支持配置显示范围
   • 项目分组列表显示更全面
   • 支持volcano调度器，项目组/资源组可选
   • 支持binpack调度
   • 修复资源占用值显示问题
   • 设置volcano允许k8s集群内其他pod访问

4. 推理服务增强

   • 优化推理服务网关功能，增加模型量化（int8/int4）
   • 支持推理服务网关统一代理
   • 修复推理服务设置域名为IP时的bug
   • 支持昇腾卡指定卡型
   • 支持并发数设置（TFServing）
   • 修复多机推理的访问入口问题

5. 模型训练与评估

   • 增加LlamaFactory模型评估
   • LlamaFactory支持奖励模型训练和强化学习
   • 直接输出LlamaFactory评估指标
   • 支持断点续训（YOLOv8）
   • 升级YOLOv8，去除YOLOv7
   • 优化SFT pipeline

6. 部署与运维优化

   • 支持SSH Proxy
   • 优化NPU监控
   • 生产部署后端代理模式支持gevent
   • 优化KubeKey离线部署
   • 支持Harbor HTTPS部署
   • 修复模型发布名称重复报错
   • 支持快速卸载AIHub应用
   • 优化初始化示例

7. 前端与用户体验

   • 修正前端镜像名
   • 为工作目录类型参数添加打开Notebook快捷按钮
   • 优化字段描述
   • 修复多用户数据探索按钮冲突
   • 增加部署多个前端的方法
   • 优化AIHub应用弹出框，支持卸载

8. 文档与示例更新

   • 优化文档描述
   • 添加SFT-RM-PPO示例
   • 添加奖励模型答案排序标注
   • 修正大模型初始化示例
   • 添加Ollama部署Embedding模型示例
   • 修正PaddleOCR的AIHub应用

9. 安全与兼容性

   • 邮箱格式限制
   • 去除不必要密钥
   • 设置Notebook SSH密码为Pod名称
   • 注册后不自动登录

10. 其他改进

    • 支持MindIE推理
    • 支持Python 3.11的ModelScope镜像
    • 优化ARM Ubuntu 22.04的源
    • 修复任务模板调用API认证问题
    • 更新ML服务镜像
    • 优化参数描述（如NPU310P占用名称）

1. 部署优化

优化rke2部署 优化kubekey多机部署 支持jetson边缘盒子 支持ollama大模型部署 前端支持https跳转 https支持nginxingressk8s部署 修正https登录时的问题 优化本地调试时端口号 优化本地开发时调试环境ip问题

2. 大模型相关

大模型微调模板，全部改为llama-factory 支持npu llamafactory和vllm 添加deepseek微调 优化llama factory任务模板 支持vllm大模型对话测试 支持qwq模型推理服务 支持deepseek官方api 添加deepseekchat应用 设置大模型最大token数 清理老旧aihub大模型 chat中文名更改 优化chat聊天对话内容替换适配deepseek

3. 配置优化

将大模型名称转换为配置 初始化示例资源配置 优化dockerfile env书写格式 优化内服服务书写格式 两个前端的示例配置 更新user1权限 增加管理员可以配置挂载目录 禁用普通用户的挂载配置 添加修改logo的教程

4. 资源管理

大模型推理服务实例小显存配置 修正整体资源界面pod显示的更全面 修复只有vgpu的时候资源显示的问题 优化在gpu为虚拟化值时的问题 修正额度限制 增加项目组支持命名空间配置 减小初始化资源占用 支持指定第n张卡 支持指定第一张卡

5. 功能优化与修复

jwt sidecar使用优化 修正metric没有启动时无法查看到pod的问题 更新开机缓存提醒 修复暂停和恢复 修复aihub离线部署时的bug 修复notebook保存的功能bug 修复镜像保存的功能 修复重复挂载的报错问题 修复rancher拉取镜像只有一个进程 清理孤立pod的报错 删除archives冗余挂载，修复gpu最大额度限制，优化chat报错日志 修正ollama配置信息和项目组配置报错提醒

6. 镜像支持

paddle镜像支持arm机构 最小化镜像拉取 修正昇腾镜像拉取策略 更新yolov8镜像版本 升级redis的镜像版本，解决arm情况下的部分报错 更新ollama镜像，下载更快 ray制作arm镜像 ray-sklearn制作arm镜像 datax支持arm64 nni的任务模板支持arm64 ray任务模板支持arm

7. 任务模板

修正任务模板目录和名称 更新horvord任务模板 更新mpi的任务模板 修正标注导入的任务模板 任务模板支持加密 优化任务模板日志打印 支持任务模板加密 添加任务流固化的能力 支持代码加密 模板加密

8. 推理服务

支持推理服务在线测试功能 推理服务的名称跟随版本更新 支持aihub部署成推理服务 推理服务的0代码发布首页自动化配置 修复online服务优先显示的问题 修正推理服务online模型优先显示

9. 可视化与工具

支持模型可视化 目标识别增加可视化tensorboard能力 yolo目标识别支持tensorboard查看 增加open-webui内部服务 支持open-webui的sidecar 支持靠右停靠的列类型 固化看板运行前无法进入跟踪界面 增加目标识别和大模型的固化看板 grafana支持设置非匿名登录

10. 数据集与模型

优化modelscope内网子模型使用离线模型的问题 数据集下载和模型下载支持魔塔 修正hfd下载最大并行数 修正paddleocr 优化paddleocraihub应用 纠正读光-文字识别-行识别模型aihub应用镜像版本

11. 其他

优化加密方法 aihub初始化不安装包 视频跟踪的联网问题 支持notebook stop 修改pip config命令 优化弹窗样式 更加友好的aihub示例输入描写 aihubexample内网示例情况 aihub排序 k8s查询时报错忽略 优化npu mindie推理 修改公司图片 更新日志显示 纠正val_dataset中文含义 优化arm加密部署，修复域名访问 优化aihub内网部署 chat应用增加前后置处理逻辑