아마존 베드록은 선도적인 AI 기업의 고성능 파운데이션 모델에 안전하고 엔터프라이즈급 액세스를 제공하는 완전 관리형 서비스입니다. 이를 통해 생성형 AI 애플리케이션을 구축하고 확장할 수 있습니다. 아마존 베드록은 이미 bedrock-runtime 엔드포인트에 대해 AWS PrivateLink를 지원했습니다. 이번 출시를 통해 이제 bedrock-mantle 엔드포인트를 사용하여 애플리케이션에 비공개로 액세스할 때도 AWS PrivateLink를 사용할 수 있습니다. bedrock-mantle 엔드포인트는 아마존 베드록에서 대규모 머신러닝 모델 서빙을 위한 새로운 분산 추론 엔진인 Project Mantle을 기반으로 합니다. Project Mantle은 새로운 모델을 아마존 베드록에 온보딩하는 과정을 간소화하고 가속화합니다. 이것은 정교한 서비스 품질(QoS) 제어 기능을 갖춘 고성능의 안정적인 서버리스 추론을 제공하고, 자동화된 용량 관리 및 통합 풀을 통해 더 높은 기본 고객 할당량을 제공하며, OpenAI API 사양과의 즉시 사용 가능한 호환성을 제공합니다.
OpenAI API 호환 엔드포인트에 대한 AWS PrivateLink 지원은 미국 동부(버지니아 북부), 미국 동부(오하이오), 미국 서부(오레곤), 아시아 태평양(자카르타), 아시아 태평양(도쿄), 아시아 태평양(뭄바이), 아시아 태평양(시드니), 남아메리카(상파울루), 유럽(프랑크푸르트), 유럽(아일랜드), 유럽(런던), 유럽(밀라노), 유럽(스톡홀름) 및 남아메리카(상파울루) AWS 리전에서 사용할 수 있습니다. 자세히 알아보고 시작하려면 아마존 베드록 콘솔 또는 아마존 베드록 서비스 문서를 방문하십시오. 아마존 베드록 OpenAI API 호환 서비스 엔드포인트를 시작하려면 OpenAI API 호환성 문서를 방문하십시오.