[For Public] LLM Model Hub 介绍

用户851

2月1日修改

1.
基本介绍​

LLM Model Hub 是基于LLaMA-Factory，EasyR1 , vLLM, SGlang开源框架和AWS SageMaker AI基础设施提供一站式的模型微调，部署，调试的无代码可视化平台，可以帮助我们快速微调各类开源模型，高效地同时进行大量的实验和和验证，提升模型微调工作的工程效率。​

亚马逊云科技官方博客介绍：

New Blog 1：

基于 LLamaFactory 和 EasyR1 打造一站式无代码大模型强化学习和部署平台 LLM Model Hub

Blog 2：

基于 Amazon SageMaker 和 LLaMA-Factory 打造一站式无代码模型微调部署平台 Model Hub | Amazon Web Services

Demo 视频：https://mp.weixin.qq.com/s/PEl_-1CRAJvss5pMFcU31w

项目地址：https://github.com/xiehust/llm_model_hub

详细解析：https://deepwiki.com/aws-samples/llm_model_hub/1-overview

更新记录：

日期	说明	版本
01/14/2026	HyperPod EKS 推理集成 • 支持一键在Amazon HyperPod EKS 集群上部署推理端点（使用手册见Model Hub 使用示例合集（推理部署） • 支持 HyperPod 上的 vLLM 和 SGLang 推理引擎 • 智能路由和跨副本负载均衡 • vLLM L1&L2 缓存 (KV cache) 支持 • 公共 ALB 支持外部访问仪表板和集群管理 • 新增仪表板页面，显示任务、端点和集群统计信息 • HyperPod EKS 集群管理界面 • Spot 实例价格信息展示基础设施改进 • 使用 nohup 替代 pm2 管理前后端服务 • 将 upgrade.sh 移至项目根目录，简化升级流程 • 增强国际化 (i18n) 支持内置引擎版本升级： • 升级vLLM v0.13.0, • sglang 0.5.6 • LLamafactory至最新版本 • EasyR1至最新版本	1.1.7

[For Public] LLM Model Hub 介绍​

[For Public] LLM Model Hub 介绍