Vertex AI Studio를 사용하여 Google의 Gemini 및 PaLM 2 대규모 언어 모델(LLM)로 전송된 프롬프트를 설계, 테스트, 맞춤설정할 수 있습니다. Vertex AI의 Gemini API와 응답을 생성하는 데 사용된 Vertex AI API 코드를 볼 수 있습니다.
Vertex AI Studio에서 다음 작업을 완료할 수 있습니다.
- 제공된 프롬프트 샘플을 사용하여 모델 테스트
- 프롬프트 설계 및 관리
- 모델별 프롬프트 출력 비교
- 선택한 품질 측정항목을 기준으로 프롬프트 평가
- 맞춤설정된 응답을 얻기 위해 모델 조정
- Vertex AI Search 또는 Google 검색에 모델 출력 그라운딩
- 작업을 구현할 Vertex AI API 코드 가져오기
Vertex AI Studio에서 프롬프트를 시작하기 전에
Google Cloud 무료 체험판 계정으로 또는 Google Cloud에 로그인하지 않은 상태로 Vertex AI Studio를 사용하면 다음 표와 같이 일부 기능을 사용할 수 없습니다. Vertex AI Studio를 사용하려면 Google Cloud 콘솔에서 Vertex AI Studio 서비스 약관을 수락해야 합니다.
Google Cloud 계정 없이 사용 | Google Cloud 무료 체험 계정으로 사용 | 기존 Google Cloud 계정으로 사용 | |
---|---|---|---|
로그인 필요 | 아니요 | 예 | 예 |
분당 쿼리 수(QPM) | 모든 멀티모달 모델의 경우 QPM 2개 | 할당량 한도 보기 | 할당량 한도 보기 |
제공 크레딧 | $0 | 90일 동안 최대 $300 | $0 |
프롬프트 갤러리 | 아니요 | 예 | 예 |
프롬프트 디자이너 | 예 | 예 | 예 |
프롬프트 저장 | 아니요 | 예 | 예 |
프롬프트 기록 | 아니요 | 예 | 예 |
고급 매개변수 | 아니요 | 아니요 | 예 |
조정 | 아니요 | 아니요 | 예 |
API 사용량 | 아니요 | 예 | 예 |
결제 필요 | 아니요 | 아니요 | 예 |
시작하는 방법 | Vertex AI Studio로 이동 | 무료 체험판 가입 | 콘솔에서 Vertex AI Studio 사용해 보기 |
Google Cloud 계정을 만들어 시작하기
이 빠른 시작을 사용하려면 Google Cloud 계정을 만들어야 합니다. 이 계정으로 $300의 무료 크레딧과 20개 이상의 제품을 무료로 사용할 수 있으며 $300 크레딧이 차감되지 않습니다.
무료로 시작하기계정이 생성된 후 Google Cloud에서 설정하는 방법에 대한 자세한 내용은 Google Cloud에서 설정을 참고하세요.
프롬프트 갤러리에서 언어 모델 테스트
- Google Cloud 콘솔의 Vertex AI 섹션에서 프롬프트 갤러리 페이지로 이동합니다.
프롬프트 갤러리로 이동 - 태스크 드롭다운 메뉴에서 요약을 선택합니다.
스크립트 요약 카드를 엽니다.
모델, 파라미터, 예시, 테스트 프롬프트가 미리 채워집니다.
프롬프트 요약을 생성하려면 테스트 섹션에서 제출을 클릭합니다.
응답이 출력 섹션에 표시됩니다.
선택사항: 다른 결과를 보려면 모델 목록에서 다른 모델을 선택하거나 파라미터를 변경한 후 제출을 클릭합니다.
선택사항: 스크립트 요약을 생성하는 데 필요한 Vertex AI API 코드를 보려면
코드 가져오기를 클릭합니다.
Vertex AI Studio 프롬프트 설계 및 테스트 익히기
비즈니스 사용 사례와 관련된 작업을 위한 프롬프트(입력)를 만들어 테스트하고 응답을 생성할 수 있습니다. 입력과 출력을 추가하면 LLM은 응답 예시로부터 맥락에 따라 학습할 수 있습니다.
정확한 지침을 제공하고 LLM이 문장을 완성하거나 일회성 질문에 답변하도록 요청하는 프롬프트를 만들 수 있습니다.
- Google Cloud 콘솔의 Vertex AI 섹션에서 Vertex AI Studio 페이지로 이동합니다.
Vertex AI Studio로 이동 Gemini로 생성하세요 섹션에서 자유 형식 열기를 클릭합니다.
제목이 없는 프롬프트가 열립니다.
프롬프트 상자에 모델에서 수행하려는 태스크에 대한 명확하고 간결한 설명을 추가합니다(예:
Suggest a name for a flower shop that sells bouquets of dried flowers
).제출을 클릭합니다.
응답이 응답 상자에 표시됩니다.
선택사항: 다른 결과를 보려면 프롬프트, 모델 또는 파라미터를 조정하고 제출을 클릭합니다.
선택사항: 유사한 응답을 생성하는 데 필요한 Vertex AI API 코드를 보려면
코드 가져오기를 클릭합니다.
Vertex AI Studio 프롬프트 카테고리 이해
Vertex AI Studio에서 다양한 생성형 AI 모델의 프롬프트를 테스트하고 맞춤설정할 수 있습니다.
- 자유 형식: 다양한 모델을 사용하여 텍스트와 멀티모달 프롬프트를 테스트합니다. 모델에 대한 자세한 내용은 Gemini 모델을 참조하세요.
- 채팅: 다양한 언어 모델을 사용하여 멀티턴 프롬프트를 사용해 봅니다. 모델에 대한 자세한 내용은 Gemini 모델을 참조하세요.
- 번역: 번역을 수행합니다.
- 비전: Vertex AI의 Imagen을 사용하여 이미지 모델 생성을 테스트합니다.
- 음성: 텍스트 음성 변환 및 음성 텍스트 변환 전환을 수행합니다. 이는 Chirp 모델을 통해 수행됩니다. Chirp에 대한 자세한 내용은 Chirp: 범용 음성 모델을 참조하세요.
Vertex AI Studio에서 Gemini 프롬프트 갤러리 살펴보기
프롬프트 샘플은 Vertex AI Studio의 자유 형식 및 채팅 섹션에서 사용 가능하며 모델 기능을 시연하는 데 도움이 되도록 미리 설계된 다양한 샘플 프롬프트를 포함합니다. 샘플 프롬프트는 요약, 분류, 추출과 같은 태스크 유형에 따라 분류됩니다. 각 프롬프트가 지정된 모델 및 파라미터 값으로 미리 구성되어 있으므로 샘플 프롬프트를 열고 제출을 클릭하여 모델에서 응답을 생성하도록 만들 수 있습니다.
Gemini 프롬프트 맞춤설정 및 개선
프롬프트 설계는 언어 모델에서 의도된 응답을 유도하는 프롬프트를 수동으로 만드는 프로세스입니다. 프롬프트를 신중하게 만들면 모델이 사용 사례에 적합한 결과를 생성하도록 유도할 수 있습니다. 프롬프트 설계는 모델 출력을 실험하는 효율적인 방법일 수 있습니다.
Vertex AI Studio를 사용하면 팀이 프롬프트를 만들고 저장하고 공동으로 미세 조정할 수 있습니다. 새 프롬프트를 설계할 때 프롬프트 텍스트를 입력하고, 이상적인 모델을 선택하고, 매개변수를 조정하고, 테스트하여 즉각적인 피드백을 받을 수 있습니다. 프롬프트가 완성되면 프롬프트를 Vertex AI Studio의 공유 프로젝트 내에 저장할 수 있습니다.
프롬프트 설계를 시작하려면 프롬프트 소개를 참조하세요.
다양한 프롬프트를 사용하여 Gemini 모델 출력 비교
Vertex AI Studio에서 프롬프트 결과를 비교하여 사용 사례에 가장 적합한 모델과 설정 쌍을 확인할 수 있습니다.
자유 형식 탭에서 프롬프트를 보고 비교하려는 프롬프트 옆에 있는 비교를 선택합니다. 프롬프트를 최대 3개까지 나란히 비교할 수 있습니다.
저장된 프롬프트 페이지를 사용하여 Gemini 프롬프트 관리 및 구성
프롬프트가 많은 경우 이를 관리할 수 있는 중앙 위치가 필요합니다. 저장된 프롬프트 페이지에서 유형별로 모든 프롬프트를 볼 수 있습니다. 프롬프트 버전을 지정하고 이전 버전을 복원하고 프롬프트 이름 지정을 삭제, 내보내기, 관리할 수 있습니다. 또한 프롬프트에 메모를 추가하여 기록을 보관하고 프롬프팅팀과 중앙에서 공동작업할 수 있습니다.
Vertex AI Studio에서 검증 가능한 데이터로 AI 프롬프트 그라운딩
생성형 AI에서 그라운딩은 언어 모델 출력을 확인 가능한 정보 소스에 연결하는 기능입니다. Vertex AI Studio의 자유 형식 및 채팅 페이지에서 모델 출력을 Vertex AI Search 또는 Google 검색으로 그라운딩할 수 있습니다. 그라운딩에 대한 자세한 내용은 그라운딩 개요를 참조하세요. 모델 출력을 Google 검색으로 그라운딩하는 방법에 대한 자세한 내용은 Google 검색으로 그라운딩을 참조하세요.
Model Garden에서 강력한 생성형 AI 모델 탐색
Model Garden은 Google 독점 정보를 탐색, 테스트, 맞춤설정 및 배포하고 OSS 모델 및 애셋을 선택할 수 있게 해주는 플랫폼입니다. Vertex AI에서 사용할 수 있는 생성형 AI 모델 및 API를 살펴보려면 Google Cloud 콘솔의 Model Garden으로 이동합니다.
사용 가능한 모델 및 기능을 포함하여 Model Garden에 대해 자세히 알아보려면 Model Garden에서 AI 모델 살펴보기를 참조하세요.
성능 향상을 위한 Gemini 모델 조정
빠른 실험을 위해서는 프롬프트 설계가 효과적이지만 학습 데이터를 사용할 수 있으면 모델 자체를 조정하여 더 높은 품질을 얻을 수 있습니다. 모델을 조정하면 모델에서 수행할 태스크 예시에 따라 모델 응답을 맞춤설정할 수 있습니다.
기반 모델을 조정하는 방법은 기반 모델 조정을 참조하세요.
Vertex AI Studio를 사용하여 Google의 Gemini 및 PaLM 2 대규모 언어 모델(LLM)로 전송된 프롬프트를 설계, 테스트, 맞춤설정할 수 있습니다. LLM은 프롬프트를 처리한 후 응답을 보냅니다. Vertex AI Studio에 대한 자세한 내용은 Vertex AI Studio에서 모델 실험을 참조하세요.
Vertex AI Studio의 새로운 기능 탐색
- 텍스트 프롬프트 및 텍스트 채팅 프롬프트 설계 알아보기
- 텍스트 임베딩 알아보기
- 언어 기반 모델 조정 사용해 보기
- 책임감 있는 AI 권장사항 및 Vertex AI 안전 필터 알아보기
- 모델에서 응답 스트리밍 알아보기