엔드포인트 배포 및 관리

프로덕션 애플리케이션 또는 벤치마킹 워크플로에서 학습된 커스텀 Speech-to-Text 모델을 사용하세요. 선택한 리전에 모델을 배포하기 위해 부분적으로 생성된 전용 엔드포인트를 통해 모델을 배포하고 노출해야 합니다. 인식기 객체를 통해 프로그래매틱 액세스 권한을 자동으로 가져옵니다. V2 API 또는 Google Cloud 콘솔을 통해 직접 사용됩니다. 모델이 학습된 리전과 다른 리전에 모델을 배포할 수 있지만 엔드포인트로 지정된 리전에 모델 복사본이 생성됩니다.

커스텀 음성 모델을 사용하려면 전용 엔드포인트를 통해 배포하고 노출해야 합니다. 엔드포인트를 만들면 선택한 리전에 모델이 배포됩니다. 추론을 위한 V2 API를 통해서나 Google Cloud 콘솔에서 직접 사용할 수 있도록 인식기 객체를 통해 프로그래매틱 액세스 권한이 자동으로 부여됩니다.

시작하기 전에

Google Cloud 계정에 가입하고 프로젝트를 만들고 커스텀 음성 모델을 학습시켜야 합니다.

  1. Google Cloud 콘솔에서 음성으로 이동하고 Speech-to-Text로 이동합니다.
  2. 왼쪽 탐색 메뉴의 커스텀 모델 섹션으로 이동합니다.

엔드포인트 만들기

  1. 커스텀 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. 새 엔드포인트를 클릭합니다.
  3. 엔드포인트의 이름을 정의합니다. 엔드포인트 리소스의 고유 식별자로 작동하고 추론에 커스텀 음성 모델을 호출하는 데 사용됩니다.
  4. 커스텀 음성 모델을 배포할 리전을 정의합니다. 모델이 엔드포인트 구성에 정의된 리전과 다른 리전에서 학습된 경우 새 모델 복사본이 자동으로 생성됩니다.
  5. 엔드포인트를 통해 노출할 목록에서 학습된 커스텀 음성 모델을 선택합니다.
  6. 만들기를 클릭하고 잠시 후 커스텀 음성 모델이 엔드포인트에 배포되어 추론 및 벤치마킹에 사용할 수 있습니다.
커스텀 모델의 엔드포인트에 필요한 필드를 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 생성 워크플로의 스크린샷

엔드포인트 나열

커스텀 모델 섹션에서 엔드포인트 탭을 선택하여 콘솔에서 연결된 엔드포인트를 관리할 수 있습니다. 콘솔에서 만든 엔드포인트를 현재 상태 및 연결된 커스텀 Speech-to-Text 모델과 함께 나열할 수도 있습니다.

커스텀 모델의 이미 만든 모든 엔드포인트가 포함된 테이블을 보여주는 커스텀 Speech-to-Text 모델 엔드포인트 목록 워크플로의 스크린샷

엔드포인트 삭제

엔드포인트를 삭제하면 요청 처리가 중지되므로 시작하기 전에 엔드포인트를 통해 라우팅되는 트래픽이 없는지 확인합니다.

  1. 커스텀 모델 섹션의 엔드포인트 탭으로 이동합니다.
  2. 엔드포인트 탭에서 옵션을 클릭하여 펼친 후 삭제를 클릭합니다. 잠시 후 엔드포인트가 삭제되고 더 이상 트래픽을 처리하지 않습니다.

모델 벤치마킹

커스텀 Speech-to-Text 모델과 벤치마킹 데이터 세트를 사용하여 모델의 정확성을 평가하려면 정확도 측정 및 개선 가이드를 따르세요.