할당량 및 한도

이 문서에서는 Gemini for Google Cloud에 적용되는 할당량과 시스템 한도를 설명합니다.

  • 할당량은 사용할 수 있는 계수 가능한 공유 리소스의 양을 지정합니다. 할당량은 Gemini for Google Cloud와 같은 Google Cloud 서비스에서 정의됩니다.
  • 시스템 한도는 변경할 수 없는 고정 값입니다.

Google Cloud 는 공정성을 보장하고 리소스 사용 및 가용성의 급증을 줄이기 위해 할당량을 사용합니다. 할당량은 Google Cloud 프로젝트에서 사용할 수 있는Google Cloud 리소스의 양을 제한합니다. 할당량은 하드웨어, 소프트웨어, 네트워크 구성요소를 포함하여 다양한 리소스 유형에 적용됩니다. 예를 들어 할당량에 따라 서비스에 대한 API 호출 수, 프로젝트에서 동시에 사용하는 부하 분산기 수, 만들 수 있는 프로젝트 수가 제한될 수 있습니다. 할당량은 서비스 과부하를 방지하여Google Cloud 사용자 커뮤니티를 보호합니다. 또한 할당량은 자체 Google Cloud 리소스를 관리하는 데 도움이 됩니다.

Cloud Quotas 시스템은 다음을 수행합니다.

대부분의 경우 할당량이 허용하는 것보다 더 많은 리소스를 소비하려고 하면 시스템에서 리소스에 대한 액세스를 차단하고 수행하려는 작업이 실패합니다.

할당량은 일반적으로 Google Cloud 프로젝트 수준에서 적용됩니다. 한 프로젝트의 리소스를 사용해도 다른 프로젝트에서 사용 가능한 할당량에는 영향을 미치지 않습니다. Google Cloud 프로젝트 내에서 할당량은 모든 애플리케이션과 IP 주소에 공유됩니다.

Gemini 리소스에도 시스템 한도가 있습니다. 한도는 변경할 수 없습니다.

초당 요청 수

Gemini for Google Cloud 는 프로젝트에 있는 각 사용자의 초당 요청에 할당량을 적용합니다.

할당량 값
초당 요청 수 2

일일 요청 수

Gemini for Google Cloud 는 프로젝트의 사용자마다 일일 요청 총개수에 대한 할당량을 적용합니다.

할당량 값
코드 생성 및 코드 완성과 같은 Gemini Code Assist 또는 BigQuery의 Gemini 코드 요청에 대한 일일 요청 수입니다. 6000
Google Cloud 콘솔 및 IDE의 Cloud Assist 패널에 응답을 표시하는 채팅, 시각화, 데이터 인사이트 표 스캔, 메타데이터 생성, 데이터 준비, 기타 요청에 대한 일일 요청 수입니다. 960

Gemini Code Assist 할당량

Gemini Code Assist는 특정 기능에 할당량을 적용합니다.

할당량 값
로컬 코드베이스 인식 토큰 컨텍스트 윈도우 128,000개
코드 맞춤설정 저장소 20,000

에이전트 모드 및 Gemini CLI 할당량

Gemini Code Assist 에이전트 모드 및 Gemini CLI의 요청 할당량이 결합됩니다. 에이전트 모드이거나 Gemini CLI를 사용하는 경우 하나의 프롬프트로 여러 요청이 발생할 수 있습니다.

할당량 Gemini Code Assist 버전 값
사용자별 분당 요청 수 Standard 120
Enterprise 120
사용자당 일일 요청 수 Standard 1500
Enterprise 2000

BigQuery의 Gemini 할당량

코드 지원 기능의 경우 코드 완성 및 코드 생성과 같은 기능에 대한 Gemini Code Assist 및 BigQuery의 Gemini 코드 요청 할당량이 동일합니다.

BigQuery 주문형 컴퓨팅 또는 Enterprise 또는 Enterprise Plus 버전과 함께 BigQuery의 Gemini를 사용하는 고객의 경우 데이터 통계와 같은 고급 기능에 대한 할당량은 스캔된 TiB의 일일 평균 사용량 또는 지난 한 달(달력 기준) 동안의 슬롯 시간에 따라 제공됩니다. 이 할당량은 조직 수준에 적용되며 조직의 모든 프로젝트에서 사용할 수 있습니다. 할당량은 가장 가까운 100개 슬롯-시간 사용량으로 반올림됩니다.

100개 슬롯-시간당 할당량(Enterprise 또는 Enterprise Plus 버전 일일 평균 사용량) 또는 주문형 컴퓨팅 모델을 사용하여 스캔된 TiB당 할당량 값
Google Cloud 콘솔의 Cloud Assist 창에 응답을 표시하는 채팅, 시각화, 테이블 스캔, 기타 요청에 대한 일일 요청 수입니다. 5

예시: 기준 슬롯이 100개인 Enterprise 버전 예약이 있는 조직에서 매일 평균 2,400개 슬롯-시간(슬롯 100개 * 24시간 = 2,400슬롯-시간)을 사용합니다. 따라서 다음 달에는 다음과 같은 일일 할당량이 적용됩니다.

  • 일일 채팅, 시각화, 데이터 통계 표 스캔 및 자동 메타데이터 생성 120회

조직에서 아직 BigQuery Enterprise 버전, Enterprise Plus 버전 슬롯 또는 주문형 컴퓨팅(TiB)을 구매하지 않은 경우 첫 사용 후 첫 번째 전체 한 달(달력 기준) 동안 다음과 같은 기본 할당량이 제공됩니다.

  • 일일 채팅, 시각화, 데이터 통계 표 스캔, 자동 메타데이터 생성 250회

월 중순에 주문형 컴퓨팅, Enterprise 버전 또는 Enterprise Plus 버전 예약을 사용하기 시작하면 다음 달 말일까지 기본 할당량이 적용됩니다.

할당량 상향 조정 요청

대부분의 할당량을 조정하려면 Google Cloud 콘솔을 사용합니다. 자세한 내용은 할당량 조정 요청을 참조하세요.