ERNIE 4.5 系列大模型与配套的工业级开发工具包 ERNIEKit,基于 PaddlePaddle,支持大语言模型和多模态模型的训练、微调与推理部署。
把分散在多家云上的 GPU 资源统一调度成一台「AI 超算」,自动选最便宜的可用算力跑训练、微调和推理任务,省去手动比价与跨云管理。
单张图片就能快速重建出 3D 物体模型的前馈生成模型,适合需要批量产出 3D 资产的场景。
在 Mac 上基于 Apple Silicon 用 MLX 跑视觉语言模型的推理与微调工具包,支持 LLaVA、Pixtral、Florence2 等多种 VLM,本地即可完成多模态任务。
Meesho 开源的端到端机器学习基础设施栈,提供在线特征存储等组件,支撑印度规模下的实时与批量 ML 工作负载。
…验 :补充 Metal Attention / LinearAttention、多实例并发、视觉模型批量推理测试及多 LoRA 示例,完善异常数值检查和测试失败上报 iOS 集成 :补齐 framework 中的 LLM 引擎头文件,修复 Metal Tensor API 兼容性 文档与示例 :完善 C++ demo、PyMNN、LLM
…I-Server completions接口prompt 字段支持传入token id列表,同时支持批量推理 - 新增function call解析功能,支持通过 tool-call-parse 解析function call结果 - 支持服务启动或请求中自定义chat template - 支持模型chat template.jinja