单张 4GB 显存显卡就能跑 70B 甚至 2.8T 参数大模型的分层推理方案，通过逐层加载权重把显存需求压到极低，适合本地低配设备部署大模型。

面向大语言模型的强化学习训练框架，支持分布式训练与智能体工作流，让开发者能低成本训练和调优推理模型。

给 AI Agent 做强化学习训练和调优的框架，把 Agent 的推理轨迹变成训练信号，让智能体越跑越强。

帮你把随手写的提示词改写成结构清晰、效果更好的版本，还能对比测试不同提示词的效果，适合经常和 LLM 打交道的人。

开源金融大语言模型，提供训练好的模型和微调流程，用于金融情感分析、智能投顾等场景。

开源可观测性平台，统一收集日志、指标、链路、RUM 和会话回放，单二进制部署，存储成本比 Datadog、Splunk、Elasticsearch 低约 140 倍。

Kubernetes 上的自动机器学习平台，支持超参数调优和神经网络架构搜索，可对接 PyTorch、JAX 等训练框架。项目已弃用，官方建议迁移到 OptimizationJob 和 Kubeflow Trainer。

用 Python 构建并自动优化 LLM 应用的库，支持自动提示词调优、检索增强和 Agent 编排，帮开发者把大模型应用调得更准更省。

免调优的 KV Cache 2bit 非对称量化方案，能大幅压缩大模型推理时的显存占用，让长上下文推理在有限显存下跑起来。

用低代码方式简化和流式化提示词设计，让开发者和非技术用户都能更轻松地编写、调优大模型提示词。

把多模态大模型变成能调度各类计算机视觉任务的通用路由器，用指令调优统一处理检测、分割等任务，免去为每个任务单独建模。

覆盖 LLM Agent 开发全流程的框架，从提示调优、微调到多智能体仿真都能一站式搞定，省去自己拼装各阶段工具链的麻烦。

一个自动进化框架，用多智能体像 7×24 小时算法团队一样持续迭代优化任意目标，适合需要自动调优和自改进的场景。

在 AMD GPU 上自动调优 LLM 推理负载的智能体系统，通过自动搜索和优化 GPU kernel 提升大模型推理性能。

一个能 7×24 小时自主跑深度学习实验的 AI 智能体，采用 Leader-Worker 架构和固定大小内存，零成本监控训练与调参，适合无人值守的自动化研究。