AWS在10月22日公布Amazon SageMaker AI training sessions API正式可用。它面向希望自定义模型训练算法、但不想自行管理GPU基础设施的团队:开发者可在自己的Python训练循环中调用 forward_backward()、optim_step() 和 sample(),组合监督微调、偏好优化或强化学习等流程;AWS负责会话中的GPU运行环境、分布式执行与检查点等底层管理。
这并不意味着训练免费:AWS按处理的token计费;官方说明,本地执行奖励函数等步骤不产生GPU运行时费用。正式可用区域包括美国东部(弗吉尼亚北部)、美国西部(俄勒冈)和亚太(孟买)。
看点是把“算法控制权”和“GPU运维”拆开:研究团队能改训练目标和循环,同时少写一层集群调度代码。AWS提供了SFT与RL示例,适合先用小实验验证接口、成本与可复现性,再评估生产训练。
官方技术说明:https://aws.amazon.com/blogs/machine-learning/write-your-own-training-loop-without-managing-gpus-with-amazon-sagemaker-training-sessions/ |