이 초보자 가이드에서는 생성형 AI의 필수 기술을 소개하고 챗봇과 애플리케이션을 만들기 위해 이들이 어떻게 함께 작동하는지를 설명합니다. genAI 또는 gen AI라고도 불리며, 머신러닝(ML)의 한 분야로 새로운 콘텐츠를 생성하기 위해 머신러닝 모델을 개발하고 활용하는 데 중점을 두고 있습니다.
생성형 AI 모델은 자연어 이해 및 생성 능력과 큰 규모로 인해 종종 대규모 언어 모델(LLM)로 불립니다. 하지만 모델의 학습 대상 데이터에 따라 이러한 모델은 텍스트, 이미지, 동영상, 오디오 등의 여러 모달로부터 콘텐츠를 이해하고 생성할 수 있습니다. 다양한 데이터 모달을 처리하는 모델을 멀티모달 모델이라고 부릅니다.
콘텐츠 생성
생성형 AI 모델이 실제 애플리케이션에 유용한 콘텐츠를 생성하기 위해서는 다음과 같은 기능을 갖춰야 합니다.
새로운 태스크 수행 방법 학습:
생성형 AI 모델은 일반적인 태스크를 수행하도록 설계되어 있습니다. 모델이 특정 사용 사례에 고유한 태스크를 수행하도록 하려면 그에 맞게 모델을 맞춤설정할 수 있어야 합니다. Vertex AI에서는 모델 조정을 통해 모델을 맞춤설정할 수 있습니다.
외부 정보 액세스:
생성형 AI 모델은 방대한 양의 데이터로 학습을 수행합니다. 하지만 이러한 모델이 유용성을 갖기 위해서는 학습 데이터 이외의 정보에도 액세스할 수 있어야 합니다. 예를 들어 생성형 AI 모델로 구동되는 고객 서비스 챗봇을 만들려는 경우에는 해당 모델이 사용자가 제공하는 제품 및 서비스에 대한 정보에 액세스할 수 있어야 합니다. Vertex AI에서는 그라운딩 및 함수 호출 기능을 이용해서 모델이 외부 정보에 액세스하도록 도와줍니다.
유해한 콘텐츠 차단:
생성형 AI 모델은 다른 사람에게 불쾌감을 주거나 피해를 줄 수 있는 텍스트를 포함하여 예기치 않은 결과를 생성할 수 있습니다. 안전을 보장하고 오용을 방지하기 위해 모델에는 잠재적으로 유해한 것으로 확인된 프롬프트와 응답을 차단하는 안전 필터가 필요합니다. Vertex AI에는 생성형 AI 서비스의 책임감 있는 사용을 촉진하는 안전 기능이 내장되어 있습니다.
다음 다이어그램은 이러한 여러 기능을 함께 사용해서 사용자가 원하는 콘텐츠를 생성하는 방법을 보여줍니다.
프롬프트
|
생성형 AI 워크플로는 일반적으로 프롬프트로 시작합니다. 프롬프트는 응답을 얻기 위해 생성형 AI 모델로 전송되는 자연어 요청입니다. 모델에 따라 프롬프트에는 텍스트, 이미지, 동영상, 오디오, 문서 및 기타 형식은 물론 여러 형식(멀티모달)도 포함될 수 있습니다. 모델에서 원하는 응답을 얻기 위해 프롬프트를 만드는 과정을 프롬프트 설계라고 부릅니다. 프롬프트 설계는 시행착오를 반복하는 과정이지만 원하는 방식으로 작동하도록 모델을 잘 다루기 위해 사용할 수 있는 프롬프트 설계 원칙과 전략이 있습니다. Vertex AI Studio는 프롬프트 관리에 도움이 되는 프롬프트 관리 도구를 제공합니다. |
기반 모델
|
프롬프트는 응답 생성을 위해 생성형 AI 모델에 전송됩니다. Vertex AI에는 다음을 포함해서 관리형 API를 통해 액세스할 수 있는 다양한 생성형 AI 기반 모델이 포함됩니다.
모델은 크기, 형식, 비용이 다릅니다. Google 모델과 오픈 모델, Google 파트너의 모델은 Model Garden에서 살펴볼 수 있습니다. |
모델 맞춤설정
|
복잡한 프롬프트를 사용하지 않아도 원하는 결과를 지속적으로 생성할 수 있도록 Google 파운데이션 모델의 기본 동작을 맞춤설정할 수 있습니다. 이러한 맞춤설정 프로세스를 모델 조정이라고 부릅니다. 모델 조정을 사용하면 프롬프트를 단순화함으로써 요청 비용과 지연 시간을 줄일 수 있습니다. Vertex AI는 또한 조정된 모델의 성능을 평가할 수 있도록 모델 평가 도구를 제공합니다. 조정된 모델이 프로덕션에 사용할 준비가 되면 이를 엔드포인트에 배포하고 표준 MLOps 워크플로에서 성능을 모니터링할 수 있습니다. |
외부 정보 액세스
|
Vertex AI는 모델이 외부 API 및 실시간 정보에 액세스할 수 있는 여러 방법을 제공합니다. |
인용 확인
|
응답이 생성된 후 Vertex AI는 응답에 인용을 포함할지 여부를 확인합니다. 응답에 포함된 텍스트 상당량을 특정 출처에서 가져온 경우 해당 출처가 응답의 인용 메타데이터에 추가됩니다. |
책임감 있는 AI와 안전성
|
프롬프트와 응답이 반환되기 전에 통과하는 마지막 검사는 안전 필터입니다. Vertex AI는 프롬프트와 응답 모두에서 프롬프트 또는 응답이 얼마나 안전 카테고리에 속하는지 확인합니다. 하나 이상의 카테고리에 기준점이 초과되면 응답이 차단되고 Vertex AI가 대체 응답을 반환합니다. |
응답
|
프롬프트와 응답이 안전 필터 검사를 통과하면 응답이 반환됩니다. 일반적으로 응답은 모두 한 번에 반환됩니다. 하지만 Vertex AI에서는 스트리밍을 사용 설정하여 응답이 생성됨에 따라 점진적으로 표시되도록 할 수 있습니다. |
Vertex AI Studio 콘솔 경험
무료 평가판을 통해 또는 Google Cloud에 로그인하지 않은 상태로 Vertex AI Studio를 사용할 때는 일부 기능이 제공되지 않습니다. Vertex AI Studio를 사용하려면 Google Cloud 콘솔에서 Vertex AI Studio 서비스 약관을 수락해야 합니다.
| Google Cloud 계정 없이 사용 | Google Cloud 무료 체험 계정으로 사용 | 기존 Google Cloud 계정으로 사용 | |
|---|---|---|---|
| 로그인 필요 | 아니요 | 예 | 예 |
| 분당 쿼리 수(QPM) | 모든 멀티모달 모델의 경우 QPM 2개 | 할당량 한도 보기 | 할당량 한도 보기 |
| 제공 크레딧 | $0 | 90일 동안 최대 $300 | $0 |
| 프롬프트 갤러리 | 아니요 | 예 | 예 |
| 프롬프트 디자이너 | 예 | 예 | 예 |
| 프롬프트 저장 | 아니요 | 예 | 예 |
| 프롬프트 기록 | 아니요 | 예 | 예 |
| 고급 매개변수 | 아니요 | 아니요 | 예 |
| 조정 | 아니요 | 아니요 | 예 |
| API 사용량 | 아니요 | 예 | 예 |
| 결제 필요 | 아니요 | 아니요 | 예 |
| 시작하는 방법 | Vertex AI Studio로 이동 | 무료 체험판 가입 | 콘솔에서 Vertex AI Studio 사용해 보기 |
Vertex AI에서 생성형 AI 시작
- Vertex AI Studio 또는 Vertex AI API를 사용하여 빠른 시작 튜토리얼 사용해 보기
- Model Garden의 미리 학습된 모델 살펴보기
- Python, Node.js, Java, Go 또는 C#의 Vertex AI Gemini API SDK 참조를 살펴보세요.
- 책임감 있는 AI 권장사항 및 Vertex AI 안전 필터 알아보기
- 가격 책정 알아보기
- OpenAI 라이브러리를 사용하여 Gemini 호출 알아보기