Amazon SageMaker 노트북 인스턴스에서 Amazon EC2 P5en.48xl 인스턴스를 정식 출시(General Availability)하게 되었음을 기쁜 마음으로 알려드립니다.
Amazon EC2 P5en 인스턴스는 8개의 H200 GPU를 탑재하고 있으며, 이는 P5 인스턴스에 탑재된 H100 GPU보다 1.7배 더 큰 GPU 메모리 용량과 1.4배 더 높은 GPU 메모리 대역폭을 제공합니다. P5en 인스턴스는 H200 GPU와 고성능 커스텀 4세대 Intel Xeon Scalable 프로세서를 결합하여 CPU와 GPU 간의 Gen5 PCIe 연결을 지원합니다. 이를 통해 CPU와 GPU 사이의 대역폭을 최대 4배까지 확장하고 AI 학습 및 추론 성능을 가속화합니다. 또한, Nitro v5 기반의 3세대 EFA를 통해 최대 3200Gbps의 대역폭을 제공하는 P5en은 이전 세대 EFA 및 Nitro를 사용하는 P5와 비교하여 지연 시간을 최대 35% 개선했습니다. 이는 딥러닝, 생성형 AI, 실시간 데이터 처리 및 고성능 컴퓨팅(HPC) 애플리케이션과 같은 분산 학습 워크로드의 집합 통신(collective communications) 성능을 향상시키는 데 도움이 됩니다.
Amazon EC2 P5en.48xl 인스턴스는 AWS 미국 동부(버지니아 북부 및 오하이오), 미국 서부(오레곤), 아시아 태평양(도쿄) 리전의 SageMaker 노트북 인스턴스에서 사용할 수 있습니다.
SageMaker Studio 및 SageMaker 노트북 인스턴스에서 JupyterLab 및 CodeEditor 애플리케이션을 설정하고 사용하는 방법에 대한 자세한 지침은 개발자 가이드를 참조하세요.