아마존 베드록은 선도적인 AI 기업의 고성능 파운데이션 모델(FM)에 안전하고 기업 수준의 액세스를 제공하는 완전 관리형 서비스로, 이를 통해 생성형 AI 애플리케이션을 구축하고 확장할 수 있습니다. 오늘 아마존 베드록은 아시아 태평양(시드니) 리전에서 bedrock-runtime 및 bedrock-mantle 두 엔드포인트를 모두 사용하여 최신 공개 가중치 모델에 대한 지원을 발표했습니다. 여기에는 DeepSeek, Google, MiniMax, Mistral, Moonshot AI, MiniMax, Nvidia 및 OpenAI를 포함한 업계 선도적인 제공업체의 모델이 포함됩니다. bedrock-runtime 엔드포인트는 InvokeModel/Converse/Chat Completions API를 사용하여 아마존 베드록에 호스팅된 모델에 대한 추론 요청을 처리하는 리전별 엔드포인트를 제공합니다. bedrock-mantle 엔드포인트는 OpenAI 호환 엔드포인트를 사용하여 아마존 베드록에 호스팅된 모델에 대한 추론 요청을 처리하는 리전별 엔드포인트를 제공합니다. 이 엔드포인트는 아마존 베드록에서 대규모 머신러닝 모델 서빙을 위한 새로운 분산 추론 엔진인 Project Mantle에 의해 구동됩니다.
더 자세히 알아보거나 시작하려면 아마존 베드록 콘솔 또는 아마존 베드록 서비스 문서를 방문하세요.