생성형 AI(GenAI)에 대한 세계적 관심이 높습니다. 파이브클라우드에도 GenAI에 대해 문의하는 기업이 많아지는 추세인데요. 특히 AWS에서 제공하는 베드록(Bedrock)에 대한 기업들의 관심이 뜨겁습니다.

그렇다면 AWS Bedrock이란 무엇이고, 이용 가격 및 할인 정보, 비용 컨설팅은 어떻게 알아볼 수 있을까요? AWS 공식 파트너, 파이브클라우드가 쉽게 정리해 보았습니다.

1. Amazon Bedrock이란?

Amazon Bedrock은 AWS에서 제공하는 생성형 AI 서비스입니다. Cohere, Stability AI 등 주요 AI 스타트업과 아마존의 파운데이션 모델(FM)을 사용할 수 있도록 제공하는 완전 관리형 서비스인데요. 아마존 베드록은 서버리스이므로 인프라를 따로 관리할 필요가 없다는 특징이 있습니다.

베드록은 다양한 파운데이션 모델을 지원하는데요. 덕분에 채팅, 텍스트, 이미지 등 사용 사례에 적합한 모델 선택이 가능합니다. 콘솔 화면의 '기반 모델'에서 파운데이션 모델의 공급자 및 특화 속성과  Model ID를 확인할 수 있습니다.

현재 AWS Bedrock은 아시아 태평양(뭄바이, 싱가포르, 시드니, 도쿄), 유럽(프랑크푸르트, 아일랜드, 런던, 파리), 남아메리카(상파울루), 캐나다(중부), 미국(버지니아 북부, 오하이오, 오레곤)에서 지원됩니다. 리전별 지원되는 모델이 상이하므로 사용하고자 하는 모델이 해당 리전에서 지원되는지에 대해 먼저 확인해야 합니다.

💡 파운데이션 모델(FM)이란?

대규모 데이터세트를 기반으로 훈련된 머신러닝 또는 딥러닝 모델입니다. 광범위한 사례에 적용할 수 있도록 일반화된 데이터에 대해 훈련돼 있으며 범용적인 특성을 띱니다. AWS에서는 다양한 사례에 특화된 파운데이션 모델을 제공하기 때문에, 사용 사례에 맞춰 파운데이션 모델을 조정해 사용할 수 있습니다.

2. Amazon Bedrock 파운데이션 모델 사용하기

베드록의 FM을 사용하기 위해서는 모델에 대한 액세스 권한이 필요한데요. 콘솔에서 필요한 모델에 대한 액세스 권한을 요청해 액세스 권한이 부여한 후 모델을 사용할 수 있습니다.

AWS Bedrock 액세스 권한 부여하기

액세스 권한을 부여했다면 채팅 플레이그라운드에서 해당 모델을 테스트할 수 있습니다. 플레이그라운드에서는 다양한 모델과 추론 파라미터를 실험해 볼 수 있는 환경을 제공하죠. 베드록 콘솔의 메뉴에서 플레이그라운드로 이동해 모델을 선택하면 아래와 같이 프롬프트를 입력할 수 있습니다. 우측의 구성 패널에서는 온도와 토큰 길이 등 추론 매개 변수를 구성해 모델의 응답 정도를 결정할 수 있으며, 특정 모델의 경우 시스템 프롬프트 지정이 가능합니다.

AWS Bedrock 채팅 플레이그라운드에서 테스트하기

프롬프트 작성 후 모델을 실행하면 콘솔 아래에 모델 지표를 확인할 수 있습니다. 모델이 각 토큰을 생성하는 데 걸리는 지연 시간과 입/출력 토큰 수를 확인할 수 있으며, 입력을 처리하고 출력 토큰을 생성하는 비용도 확인할 수 있습니다.

AWS Bedrock 모델 지표 확인하기

3. Amazon Bedrock 비용

베드록을 온디맨드로 사용할 경우 사용한 만큼 비용이 청구되는데요. 모델에 따라 입출력 토큰 및 이미지 당 요금이 다릅니다. 또한, 일정 기간 처리량을 보장하는 모드와 배치 모드 등 다양한 요금 모델이 존재하니 사용 사례에 맞는 요금 모델 선정이 필요합니다.

지금까지 아마존 베드록 서비스에 대해 간략하게 알아보았는데요! AWS가 제공하는 GenAI는 요금 모델을 다양하게 지원해 선택 폭이 넓고, 용도에 적합한 모델 선택이 가능하다는 장점이 있죠. 더불어 완전관리형 서비스로 편리하게 사용할 수 있다는 점이 가장 큰 장점인데요.
생성형 AI, AWS 활용과 도입 과정에서 어려움이 있다면 파이브클라우드에서 컨설팅을 받아보세요. 파이브클라우드는 구축 및 비용 할인 등 클라우드 사용에 필요한 모든 것을 지원해 드립니다.