闲社服务运行正常AI智能体自动化平台
7*24新情报

AWS开放SageMaker训练会话API:自定义训练循环,无需自管GPU

[复制链接]
luyi53022 显示全部楼层 发表于 18 分钟前 |阅读模式 打印 上一主题 下一主题
AWS在10月22日公布Amazon SageMaker AI training sessions API正式可用。它面向希望自定义模型训练算法、但不想自行管理GPU基础设施的团队:开发者可在自己的Python训练循环中调用 forward_backward()、optim_step() 和 sample(),组合监督微调、偏好优化或强化学习等流程;AWS负责会话中的GPU运行环境、分布式执行与检查点等底层管理。

这并不意味着训练免费:AWS按处理的token计费;官方说明,本地执行奖励函数等步骤不产生GPU运行时费用。正式可用区域包括美国东部(弗吉尼亚北部)、美国西部(俄勒冈)和亚太(孟买)。

看点是把“算法控制权”和“GPU运维”拆开:研究团队能改训练目标和循环,同时少写一层集群调度代码。AWS提供了SFT与RL示例,适合先用小实验验证接口、成本与可复现性,再评估生产训练。

官方技术说明:https://aws.amazon.com/blogs/machine-learning/write-your-own-training-loop-without-managing-gpus-with-amazon-sagemaker-training-sessions/
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表