엔드포인트 배포 및 관리

프로덕션 애플리케이션 또는 벤치마킹 워크플로에서 학습된 커스텀 Speech-to-Text 모델을 사용합니다. 선택한 리전에 모델을 배포하기 위해 만들어진 전용 엔드포인트를 통해 모델을 배포하고 노출해야 합니다. 인식기 객체를 통해 프로그래매틱 방식으로 자동으로 액세스할 수 있습니다. V2 API 또는 Google Cloud 콘솔을 통해 직접 사용됩니다. 모델을 학습한 리전과 다른 리전에 배포할 수 있지만 모델 사본은 엔드포인트에서 지정한 리전에 생성됩니다.

커스텀 음성 모델을 사용하려면 전용 엔드포인트를 통해 배포하고 노출해야 합니다. 엔드포인트를 만들면 원하는 리전에 모델이 배포됩니다. 추론을 위한 V2 API를 통해서나 Google Cloud 콘솔에서 직접 사용할 수 있도록 인식기 객체를 통해 프로그래매틱 액세스 권한이 자동으로 부여됩니다.

시작하기 전에

Google Cloud 계정에 가입하고 프로젝트를 만들고 커스텀 음성 모델을 학습시켜야 합니다.

  1. Google Cloud 콘솔에서 음성으로 이동한 후 Speech-to-Text로 이동합니다.
  2. 왼쪽 탐색 메뉴의 맞춤 모델 섹션 내에서 이동합니다.

엔드포인트 만들기

  1. 맞춤 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. 새 엔드포인트를 클릭합니다.
  3. 엔드포인트의 이름을 정의합니다. 엔드포인트 리소스의 고유 식별자로 작동하고 추론에 커스텀 음성 모델을 호출하는 데 사용됩니다.
  4. 커스텀 음성 모델을 배포할 리전을 정의합니다. 모델이 엔드포인트 구성에 정의된 리전과 다른 리전에서 학습된 경우 새 모델 사본이 자동으로 생성됩니다.
  5. 엔드포인트를 통해 노출할 학습된 맞춤 음성 모델을 목록에서 선택합니다.
  6. 만들기를 클릭하면 잠시 후 커스텀 음성 모델이 엔드포인트에 배포되어 추론 및 벤치마킹에 사용할 수 있게 됩니다.
커스텀 모델의 엔드포인트에 필요한 필드를 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 생성 워크플로의 스크린샷

엔드포인트 나열

커스텀 모델 섹션에서 엔드포인트 탭을 선택하여 콘솔에서 연결된 엔드포인트를 관리할 수 있습니다. 콘솔에서 만든 엔드포인트를 현재 상태 및 연결된 커스텀 Speech-to-Text 모델과 함께 나열할 수도 있습니다.

커스텀 모델의 이미 만든 모든 엔드포인트가 포함된 테이블을 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 목록 워크플로의 스크린샷

엔드포인트 삭제

시작하기 전에 엔드포인트를 통해 라우팅되는 트래픽이 없는지 확인합니다. 엔드포인트를 삭제하면 요청 처리가 중지되기 때문입니다.

  1. 맞춤 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. Endpoints 탭에서 옵션을 클릭하여 펼친 다음 Delete를 클릭합니다. 잠시 후 엔드포인트가 삭제되고 더 이상 트래픽을 전송하지 않습니다.

모델 벤치마킹

커스텀 Speech-to-Text 모델과 벤치마킹 데이터 세트를 사용하여 모델의 정확성을 평가하려면 정확도 측정 및 개선 가이드를 따르세요.