사용자는 gemini-2.0-flash를 사용하여 텍스트 토큰 1,000개와 오디오 토큰 500개의 입력으로 초당 10개의 쿼리 (QPS)를 지원하고 텍스트 토큰 300개의 출력을 수신할 수 있는지 확인해야 합니다.
처리량 및 소진율 표를 사용하면 gemini-2.0-flash의 경우 입력 텍스트 토큰의 소진율은 1개 토큰, 입력 오디오 토큰의 소진율은 7개 토큰, 출력 텍스트 토큰의 소진율은 4개 토큰임을 알 수 있습니다.
사용자의 총 입력 토큰은 1,000* (입력 텍스트 토큰당 1개 토큰) + 500* (입력 오디오 토큰당 7개 토큰) = 소진 조정 입력 토큰 4,500개입니다. 사용자의 총 출력 토큰은 300* (출력 텍스트 토큰당 4개 토큰) = 소진 조정 출력 토큰 1,200개입니다. 이 둘을 더하면 소진 조정 입력 토큰 4,500개 + 소진 조정 출력 토큰 1,200개 = 쿼리당 총 토큰 5,700개가 됩니다.
쿼리당 총 토큰 수에 QPS를 곱하면 쿼리당 총 토큰 수 5,700개 * 10 QPS = 초당 총 토큰 수 57,000개가 됩니다.
이를 GSU당 초당 총 처리량으로 나누면 초당 총 토큰 57,000개 ÷ GSU당 초당 처리량 3,360개 = GSU 16.96개가 됩니다. 이 모델의 최소 GSU 구매 증분은 1이므로 사용자는 17개의 GSU가 필요합니다.
사용자가 이 처리량을 1주일 동안 유지하려는 경우 비용은 주당 $1,200 * 17 GSU = $20,400입니다. 이 처리량을 1개월 동안 유지하려면 월별 $2,700 * 17 GSU = $45,900의 비용이 발생합니다. 이 처리량을 3개월 동안 유지하려면 월 $2,400 * 17 GSU = $40,800의 비용이 듭니다. 마지막으로 이 처리량을 1년 동안 유지하려면 월 $2,000 * 17 GSU = $34,000의 비용이 듭니다.
