Amazon SageMaker AI, 서버리스 모델 맞춤 설정을 위한 훈련 세션 API 발표
Amazon SageMaker AI 서버리스 모델 사용자 정의가 이제 학습 세션 API를 지원하여, 고객이 GPU 인프라를 프로비저닝하거나 관리할 필요 없이 학습 후 알고리즘을 완전히 제어할 수 있게 되었습니다. SFT, DPO 및 기타 강화 학습 방법을 포함한 관리형 기술을 통해 고객은 기술과 모델을 선택하고 SageMaker AI가 학습을 실행하도록 할 수 있습니다. 학습 세션 API를 사용하면 팀은 SFT 또는 DPO를 자체 조건으로 재현하거나 사용자 정의 손실, 새로운 RL 보상 신호, 데이터 커리큘럼 또는 최신 연구의 알고리즘을 구현하는 등 학습 루프를 작성할 수 있습니다. forward_backward(), optim_step(), sample()과 같은 작업은 라이브 상태 저장 세션에 대한 API 호출이 되므로, 고객은 SageMaker AI가 GPU 할당, 모델 및 LoRA 로딩, 분산 실행, 장애 복구, 체크포인트 저장 및 보안을 처리하는 동안 기술에 필요한 모든 학습 절차를 구성할 수 있습니다. 고객은 이러한 작업을 자체 Python 코드에서 직접 호출하여 라이브 세션에 대해 강화 학습, 지도 미세 조정 또는 사용자 정의 학습 목표를 구동할 수 있으며, 체크포인팅 및 재개가 내장되어 있습니다. 요금은 처리된 토큰당 부과되므로, 보상 점수와 같은 로컬 계산은 GPU 시간으로 청구되지 않습니다. SageMaker AI는 또한 고객이 자체 학습 루프의 청사진으로 사용할 수 있는 즉시 실행 가능한 SFT 및 RL 레시피 세트인 SageMaker 학습 세션 레시피를 출시합니다.학습 세션 API는 현재 US East (N. Virginia), US West (Oregon), Asia Pacific (Mumbai)에서 일반적으로 사용할 수 있습니다. 시작하려면 SageMaker Python SDK를 설치하고 레시피를 복제하거나, SageMaker Studio에서 노트북을 실행하고 코딩 에이전트를 연결하십시오. 자세한 내용은 설명서 및 Amazon SageMaker AI 웹페이지를 방문하십시오.