闲社

标题: AWS为SageMaker训练引入SOCI懒加载：大镜像启动由分钟缩至秒级 [打印本页]

作者: 龙泉的猫 时间: 3 小时前
标题: AWS为SageMaker训练引入SOCI懒加载：大镜像启动由分钟缩至秒级
AWS于10月27日宣布，Amazon SageMaker AI训练和处理任务支持Seekable OCI（SOCI）镜像索引。启用后，服务先拉取启动容器所需文件，其余镜像内容在代码运行时按需下载，不必等待整张镜像拉取完成。AWS称，新建索引或改用预索引深度学习容器无需改动任务定义、入口脚本或数据通道。

AWS对8个压缩镜像（1.8GB至35.4GB）及多种CPU/GPU实例做了对比：13.2GB镜像的下载准备时间从标准方式的3分42秒降至约6秒，35.4GB镜像从7分17秒降至3至11秒。测试中的训练性能没有持续性变化，但懒加载首个训练轮次多花3至16秒；在这些测试任务中，单次作业净节省约1至6分钟。上述数据来自AWS自己的基准测试，不代表每个镜像和工作负载都能获得相同收益。

SOCI通过索引按需读取镜像文件，任务启动后在后台继续传输其余内容。若入口阶段会扫描或读取镜像大部分文件，节省可能很小；小于约4GB的镜像收益也有限。AWS说明该功能面向Amazon ECR私有仓库中的镜像，并可在SageMaker AI已提供的AWS区域使用；任务遇到索引不可读或懒加载失败时会回退到标准下载。

对频繁启动训练、超参数搜索和短时处理任务而言，减少镜像等待可降低付费空转和迭代延迟。采用前仍应检查自定义镜像是否依赖Docker特有行为，并用自己的镜像与入口流程测量实际收益。

官方来源（AWS Machine Learning Blog，2026年10月27日）：https://aws.amazon.com/blogs/machine-learning/announcing-soci-indexed-images-for-faster-sagemaker-ai-jobs/

欢迎光临闲社 (https://www.xianshe.com/)