在线AI教程 / AI部署

[Amazon Bedrock] Amazon SageMaker JumpStart:2026 年迄今回顾

· 转自:aws.amazon.com

人工智能 Amazon SageMaker JumpStart:2026 年迄今回顾 Amazon SageMaker JumpStart 是 Amazon SageMaker A

转载本文转自「aws.amazon.com」,版权归原作者所有,内容已摘录正文、去除外部链接。

人工智能

Amazon SageMaker JumpStart:2026 年迄今回顾

Amazon SageMaker JumpStart 是 Amazon SageMaker AI 中的机器学习 (ML) 中心,可提供对 AI 模型、解决方案模板和示例笔记本的精选目录的访问。它减少了从模型选择到部署所需的时间。您可以使用它来评估开源大型语言模型 (LLM)、部署用于文档理解的视觉模型,或根据您自己的数据微调紧凑模型。

SageMaker JumpStart 服务于三个主要用例:

模型发现和评估 - 浏览来自阿里巴巴 (Qwen)、NVIDIA、Google、Mistral、Cohere、IBM 等提供商的数百个基础模型 (FM)。每个模型卡都包含架构详细信息、基准测试、许可信息和示例笔记本。 一键部署 — 使用针对您的工作负载(低成本、低延迟、吞吐量或平衡)优化的预配置设置,将您选择的模型部署到 SageMaker 实时推理端点。无需手动容器或实例配置。 模型定制 - 使用低秩适应 (LoRA)、监督微调 (SFT)、直接偏好优化 (DPO) 和可验证奖励的强化学习 (RLVR) 等技术直接从控制台或 SDK 微调模型。无服务器定制选项减少了基础设施管理。

您可以通过 SageMaker Studio 控制台(模型 → JumpStart 模型)、通过 SageMaker Python SDK 以编程方式访问 SageMaker JumpStart,或者使用最近启动的深度链接集成直接从 Hugging Face 访问 SageMaker JumpStart。

2026 年入职概览

从 2026 年 1 月到 9 月,SageMaker JumpStart 在 30 个不同的提供商中引入了 100 多个新模型。这代表着目录的显着扩展,这是由开源模型发布步伐的加快以及客户对模型架构、规模和功能选择的需求不断增长所推动的。

以下是主要贡献者的详细信息以及我们的 SageMaker JumpStart 页面 的链接:

阿里巴巴 (Qwen): 29 个模型 跨越推理 (Qwen 3.8-27B),大规模专家混合(Qwen3.5-122B-A10B)、代理工作流程 (Qwen-AgentWorld-35B-A3B)、代码生成 (Qwen3-Coder-Next、Qwen 3 Coder 30B)、语音识别 (Qwen3-ASR-1.7B)、文本转语音 (Qwen3-TTS)、嵌入 (Qwen3-VL-Embedding-2B) 和重新排名(Qwen3-Reranker-4B)。 NVIDIA: 17 个模型,包括 Cosmos3 世界基础模型系列(Super、Edge、Nano)、Cosmos Reason 7B、MSA-Search、Nemotron 3.5 Lightning、Nemotron-3-Super-120B (FP8 和 BF16)、Nemotron3 Ultra、Nemotron-Nano-12B-v2、Nemotron 3 Nano Omni(多模式) 和 Nemotron 3.5 Super VL 用于视觉语言。 Mistral: 7 种型号,包括 Ministral-3 系列(标准的 3B、8B、14B 和 BF16)和用于语音的 Voxtral-Mini-4B-Realtime。 Google: 6 个 Gemma 4 变体,包括 gemma-4-31B-it、E2B-it、E4B-it、26B-A4B-it、assistant 和 NVFP4 量化。 IBM: 4 个型号,包括 Granite 4.0 h-micro/small/tiny 和 Granite-speech-4.1-2b,用于跨 6 种语言的多语言自动语音识别 (ASR)。 Cohere: 4 个模型,包括 Command A (A100) 和用于检索增强的 Rerank v3.5、v4.0 Fast 和 v4.0 Pro。 其他: 来自 MiniMax、Zhipu AI (GLM)、DeepSeek、Moonshot AI、Allen AI、Microsoft、Meta (Muse Spark)、[Reflection] 的 33 个模型(Beam)](https://aws.amazon.com/about-aws/whats-new/2026/01/reflection-beam-on-sagemaker-jumpstart-and-aws-trainium/)、Black Forest Labs、JetBrains、OpenBMB、BharatGenAI、Kakao、OpenFold 等。

模型入职亮点

2026 年推出的模型反映了我们如何扩展 SageMaker JumpStart 目录的几个重点优先事项。这些不仅仅是行业趋势。它们代表了我们看到强劲客户需求和帮助客户在 SageMaker 上构建生产 AI 应用程序的重要机会的领域。

扩展 NVIDIA 开放模型产品组合

NVIDIA 是我们重要的模型提供商之一,到 2026 年,他们的贡献将远远超出语言模型的范畴。 Cosmos3 世界基础模型提供 Super、Edge 和 Nano 层,将视频生成、物理模拟和行动规划集成到单一架构中,适用于机器人、自主系统和数字孪生等物理 AI 应用。结合从高效边缘推理 (Nano-12B) 到大规模推理 (Super-120B) 的 Nemotron 模型,SageMaker JumpStart 现在提供广泛的 NVIDIA 开放模型组合。如果您在 NVIDIA 硬件上构建,则可以使用优化的容器和预配置的端点在 SageMaker 上部署这些模型。

缩小多式联运差距

客户工作负载越来越需要处理文本以外的内容的模型。 2026 年,我们优先考虑本地处理视觉、语音和文档理解的入职模型。 NVIDIA Nemotron 3 Nano Omni 在单一模型中处理文本、视觉和语音。 Google Gemma 4 添加了跨多种尺寸的视觉语言功能。 IBM Granite-speech-4.1-2b 可处理六种语言的语音识别和翻译。 Mistral Voxtral-Mini 支持实时语音理解。这些新增功能意味着客户可以避免为多模式工作负载链接单独的预处理模型。

让创意人工智能触手可及

图像和视频生成将在 2026 年从小众走向主流。我们使用 Black Forest Labs 的 FLUX.2 Small Decoder 和 FLUX.2-klein-base-4B 进行快速文本到图像生成,使用 Meta Muse-Glimmer-30B 进行多模式代理工作流程,并使用 NVIDIA Cosmos3 进行视频生成。借助这些模型,您可以使用与语言模型相同的一键部署体验来访问创意 AI 功能。

优先考虑高效和量化模型

并非每个工作负载都需要前沿规模的模型,许多客户在转向生产时都专注于优化推理成本。我们搭载了多个量化和紧凑的模型:Zhipu AI GLM-5.2 FP8 提供了强大的性能,同时减少了内存占用。 JetBrains Mellum2-12B 使用专家混合架构,仅具有 2.5B 个用于代码生成的活动参数。 OpenBMB MiniCPM5-1B 将多模式功能打包到 10 亿个参数中。 Microsoft Phi-4-mini-instruct 和 IBM Granite 4.0 h-tiny 演示了紧凑模型可以为 ml.g5.xlarge 等实例类型提供生产工作负载。这些模型可以针对目标用例优化延迟和总拥有成本 (TCO)。

为目标任务引入专门构建的模型

通用法学硕士用途广泛,但专用模型针对特定任务进行了优化。 2026 年,我们推出了 Qwen-AgentWorld-35B-A3B,用于具有本机工具调用的自主 AI 工作流程。 GLM-OCR、LightOnOCR 和 DeepSeek-OCR 处理文档文本提取。 Qwen3-Reranker-4B 和 Cohere Rerank v4.0 提高了检索增强生成 (RAG) 管道中的检索精度。 langcache-embed-v3-small 为语义搜索提供轻量级嵌入。 Qwen3-ASR和Qwen3-TTS带来语音识别和合成。 OpenFold3 支持科学计算的蛋白质结构预测。通过这些模型,您可以构建管道,其中每个阶段都使用专门的工具来完成工作,而不是强迫单个模型完成所有工作。

扩大提供商的多样性

降低选型集中度风险对于企业客户来说非常重要。 2026 年,我们将目录扩大到包括 30 家提供商,而前几年的提供商比较集中。阿里巴巴 Qwen 是最大的单一贡献者,拥有 29 个模型,涵盖推理、编码、语音和检索。智普AI和DeepSeek增加了有竞争力的法学硕士和专业的OCR。 MiniMax 和 Moonshot AI 贡献了新兴架构。 Cohere 带来可靠的重新排名。 BharatGenAI 和 Kakao 扩大了区域模型覆盖范围。这种广度为客户提供了更多关于性能、成本、许可和语言支持的选择。

2026 年 SageMaker JumpStart 增强功能

除了模型入门之外,SageMaker JumpStart 还在 2026 年进行了重大改进,减少了从发现到部署的模型生命周期中的摩擦。

SageMaker AI 控制台上的简化模型中心

以前,发现 SageMaker JumpStart 模型需要导航到 SageMaker Studio 并在左侧导航中找到 SageMaker JumpStart 部分。新的 Model Hub 体验直接在 SageMaker AI 控制台登录页面上显示完整的 SageMaker JumpStart 目录。您可以按类别浏览模型,并按输入/输出模式、发布者、模型大小、许可证和框架进行过滤。您还可以通过单击查看示例笔记本并在 Studio 中打开模型。这避免了减慢初始探索速度的多步导航。

预配置端点部署选项

为模型部署选择正确的实例类型、服务容器和优化设置通常需要对数十种组合进行手动基准测试。 SageMaker JumpStart 现在提供命名部署配置,以及以下优化选项:

平衡 — 通用工作负载的成本、延迟和吞吐量之间的平衡权衡。 吞吐量优化 — 使用推测解码等技术实现每秒最大令牌数,非常适合大批量批处理。 延迟优化 — 最短的首次令牌时间 (TTFT),优先考虑交互式应用程序的速度。 成本优化 - 每个请求的基础设施成本最低,适合可以接受更高延迟的工作负载。

这些配置包括针对 AWS Inferentia 和 AWS Trainium 实例的 Neuron 优化设置,从而降低了部署复杂性和基础设施成本。您只需单击一下即可部署模型并使用正确的优化配置文件,而无需花费数周时间手动对配置进行基准测试。

Hugging Face深度链接集成

与 Hugging Face 的新集成将模型发现直接连接到 SageMaker Studio,以用于加载模型。在 Hugging Face 上浏览模型时,您可以选择 在 SageMaker AI 上部署 或 在 SageMaker AI 上自定义和部署。您可以直接进入已配置的 Studio 环境,其中预加载了模型、预配置了权限,并且内置了 GPU 配额可见性。这样就无需在实验前设置 AWS Identity and Access Management (IAM) 角色、创建域或配置权限。

开始使用

可以通过三种方式开始使用 SageMaker JumpStart:

SageMaker Studio 控制台 — 打开 SageMaker Studio,导航到模型 → JumpStart 模型,然后浏览目录。选择一个模型以查看其详细信息,然后选择 部署 或 自定义。 SageMaker Python SDK — 使用 SageMaker Python SDK 以编程方式部署模型。请访问 SageMaker JumpStart 模型目录 以获取 SDK 示例和部署指南。

Hugging Face 深度链接 — 浏览 HuggingFace 模型中心 并选择 在 SageMaker AI 上部署 以直接登陆 Studio 以获得 SageMaker JumpStart 载入模型。

SageMaker JumpStart 上的每个模型都包含部署配置、示例笔记本和文档。有关实践演练,请参阅我们的相关博客文章“使用 Amazon SageMaker JumpStart 部署和评估模型”。

## 结论

2026 年前三个季度是 Amazon SageMaker JumpStart 取得重大进展的时期。该目录现已包含来自 30 家提供商的 100 多种新型号,涵盖了广泛的功能。其中包括前沿推理模型、多模态视觉语言模型、用于图像和视频生成的创意人工智能、语音识别和合成、光学字符识别 (OCR) 和文档理解、RAG 的嵌入和检索模型、代理工作流程模型以及专门的科学计算模型。

这些入职优先事项反映了我们认为最强烈的客户需求和加速 AWS 上人工智能采用的最大机会。其中包括扩大产品组合、缩小多式联运差距、使创造性人工智能变得可用、优先考虑效率和量化、引入专用模型以及扩大提供商多样性。

结合简化模型中心、预配置部署选项和 Hugging Face 深度链接集成等增强功能,SageMaker JumpStart 继续降低模型发现和生产部署之间的障碍。访问 SageMaker JumpStart 模型目录 以探索完整的产品阵容。

后续步骤

有多种方法可以开始使用 SageMaker JumpStart。亲自尝试其中之一!

评估模型并选择适合您的模型 了解如何从 HuggingFace 部署到 SageMaker Studio 在基于案例的部署中使用预训练模型 在 SageMaker HyperPod 上设计一个 物理 AI 模型工厂

关于作者