¿Qué es SageMaker HyperPod?
AmazonSageMaker HyperPod elimina el trabajo pesado e indiferenciado que implica crear y optimizar la infraestructura de machine learning (ML) para entrenar modelos fundacionales (FM), lo que reduce el tiempo de entrenamiento hasta un 40 %. SageMaker HyperPod viene preconfigurado con las bibliotecas de entrenamiento distribuidas de SageMaker, que permiten a los clientes dividir automáticamente las cargas de trabajo de formación en miles de aceleradores, de modo que las cargas de trabajo se puedan procesar en paralelo para mejorar el rendimiento del modelo. SageMaker HyperPod también garantiza que los clientes puedan continuar con el entrenamiento del FM sin interrupciones guardando puntos de control periódicamente. Cuando se produce una falla de hardware durante el entrenamiento, SageMaker HyperPod detecta automáticamente la falla, repara o reemplaza la instancia defectuosa y reanuda el entrenamiento desde el último punto de control guardado, lo que elimina la necesidad de que los clientes administren este proceso manualmente y les ayuda a entrenarse durante semanas o meses en un entorno distribuido sin interrupciones.
Beneficios de SageMaker HyperPod
Bibliotecas de entrenamiento distribuidas y optimizadas
SageMaker HyperPod viene preconfigurado con bibliotecas distribuidas de SageMaker. Con solo unas pocas líneas de código, puede habilitar el paralelismo de datos en sus scripts de entrenamiento. SageMaker HyperPod ayuda a que el entrenamiento distribuido se lleve a cabo más rápido dividiendo automáticamente los modelos y los conjuntos de datos de entrenamiento entre las instancias de GPU de AWS.
Más información »
Comprobación de estado y reparación automáticas del estado del clúster
Si alguna instancia se vuelve defectuosa durante una carga de trabajo de entrenamiento, SageMaker HyperPod detecta e intercambia automáticamente los nodos defectuosos por otros en buen estado. Para detectar hardware defectuoso, SageMaker HyperPod ejecuta con regularidad una serie de comprobaciones de estado para comprobar la integridad de la red y la GPU.
Depure y mejore el rendimiento del modelo
Puede utilizar herramientas de ML diseñadas específicamente en SageMaker HyperPod para mejorar el rendimiento del entrenamiento. Amazon SageMaker con TensorBoard ayuda a ahorrar tiempo de desarrollo mediante la visualización de la arquitectura del modelo para identificar y solucionar problemas de convergencia, como la pérdida de validación, la no convergencia o la desaparición de gradientes.