모델 조정은 더 높은 정밀도와 정확성으로 특정 태스크를 수행하도록 Gemini를 조정하는 데 중요한 프로세스입니다. 모델 조정은 모델에 특정 다운스트림 태스크의 여러 예시가 포함된 학습 데이터 세트를 제공하는 방식으로 작동합니다.
이 페이지에서는 Gemini 모델 조정에 대한 개요를 제공하고, Gemini에서 사용할 수 있는 조정 옵션을 설명하며, 각 조정 옵션을 사용해야 하는 시기를 결정하는 데 도움이 됩니다.
모델 조정의 이점
모델 조정은 태스크에 맞게 대규모 모델을 맞춤설정하는 효과적인 방법입니다. 이는 모델의 품질과 효율성을 개선하는 핵심 단계입니다. 모델 조정의 이점은 다음과 같습니다.
- 특정 태스크의 품질 개선
- 모델의 안정성 향상
- 짧아진 프롬프트로 인한 추론 지연 시간 단축 및 비용 절감
프롬프트 설계와 조정 비교
조정은 프롬프트 설계에 비해 다음과 같은 이점을 제공합니다.
- 모델을 세부적으로 맞춤설정할 수 있고 특정 태스크의 성능을 개선할 수 있습니다.
- 더 일관되고 신뢰할 수 있는 결과를 제공합니다.
- 더 많은 예시를 한 번에 처리할 수 있습니다.
매개변수 효율적인 조정
어댑터 조정이라고도 하는 매개변수 효율적인 조정을 사용하면 특정 태스크 또는 도메인에 맞게 대규모 모델을 효율적으로 조정할 수 있습니다. 매개변수 효율적인 조정은 조정 프로세스 중에 모델 매개변수의 비교적 작은 하위 집합을 업데이트합니다.
Vertex AI가 어댑터 조정 및 서빙을 지원하는 방법을 이해하려면 백서 대규모 기반 모델의 조정에서 자세한 내용을 확인하세요.
전체 미세 조정과 매개변수 효율적인 미세 조정 비교
매개변수 효율적인 조정과 전체 미세 조정은 대규모 모델을 맞춤설정하는 두 가지 접근 방법입니다. 두 방법 모두 모델 품질과 리소스 효율성 측면에 장점이 있으며 영향을 미칩니다.
전체 미세 조정은 모델의 모든 매개변수를 업데이트하므로, 매우 복잡한 태스크에 맞게 모델을 조정하기에 적합하고 더 높은 품질을 달성할 가능성이 있습니다. 그러나 전체 미세 조정에는 조정 및 서빙을 위해 더 높은 컴퓨팅 리소스가 필요하므로 전체 비용이 증가합니다.
매개변수 효율적인 조정은 전체 미세 조정에 비해 리소스 효율과 비용 효율성이 높습니다. 이 조정은 학습에 상당히 낮은 컴퓨팅 리소스를 사용합니다. 더 작은 데이터 세트로 모델을 더 빠르게 조정할 수 있습니다. 매개변수 효율적인 조정의 유연성 덕분에 광범위한 재학습 없이도 멀티태스크 학습을 위한 솔루션을 제공합니다.
Vertex AI는 다양한 시나리오에서 다양한 모델에 대해 매개변수 효율적인 조정과 전체 미세 조정을 지원합니다.
Gemini 모델 조정
다음 Gemini 모델은 매개변수 효율적인 조정을 사용하여 지도 조정을 지원합니다.
gemini-1.0-pro-002
지도 미세 조정은 라벨이 지정된 데이터를 사용할 수 있는 잘 정의된 태스크가 있는 경우에 적합한 옵션입니다. 특히 언어 또는 콘텐츠가 대규모 모델이 원래 학습된 데이터와 크게 다른 도메인별 애플리케이션에 효과적입니다.
지도 조정은 라벨이 지정된 데이터 세트를 통해 모델 동작을 조정합니다. 이 프로세스는 모델의 가중치를 조정하여 예측과 실제 라벨 간의 차이를 최소화합니다. 다음 유형의 태스크에서 모델 성능을 향상시킬 수 있습니다.
- 분류
- 감정 분석
- 항목 추출
- 복잡하지 않은 콘텐츠 요약
- 도메인별 쿼리 작성
Gemini 모델 조정의 할당량
할당량은 동시 조정 작업 수에 적용됩니다. 모든 프로젝트에는 최소 하나 이상의 조정 작업을 실행할 수 있는 기본 할당량이 제공됩니다. 이는 사용 가능한 모든 리전에서 공유되는 전역 할당량입니다. 더 많은 작업을 동시에 실행하려면 Global concurrent tuning jobs를 위한 추가 할당량을 요청해야 합니다.