Newshot

使用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮

AI summary

部署在 Amazon SageMaker HyperPod 上的基础模型会遇到预先整理的数据集无法覆盖的输入:领域特定术语、意外格式、新产品以及不断变化的用户行为。如果没有生产推理数据的记录,团队就无法检测漂移、发现故障模式,也无法利用真实交互来改进模型。Amazon SageMaker HyperPod 现已提供 Data Capture,这一内置能力可将实时推理输入和输出记录到 Amazon Simple Storage Service(Amazon S3),提供三个相互独立的层级,对延迟影响极小,且对模型可用性零影响。本文在单个 SageMaker HyperPod 集群上完整走通一个示例:一个家电支持路由器捕获其生产流量,Amazon Athena 查询发现一个新产品盲区,一条 SQL 策略为捕获的记录打上标签,基于这些数据进行微调让路由器学会这个新产品。我们在这之前不可能存在的数据上测量了前后准确率,……

This source only provides a headline — there is no body to show. Use “Read the original” below to read it at the source.

Published by AWS Machine Learning
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗