대규모 언어 모델(LLM)
세계적 수준의 Google AI를 기반으로 한 대규모 언어 모델
Google Cloud는 Google DeepMind에서 개발하고 테스트한 혁신 기술을 엔터프라이즈 지원 AI 플랫폼에 접목하여 고객이 미래가 아닌 지금 바로 생성형 AI 기능을 빌드하고 제공할 수 있도록 지원합니다.
신규 고객에게는 Vertex AI에 사용할 수 있는 $300의 무료 크레딧이 제공됩니다.
개요
대규모 언어 모델(LLM)이란 무엇인가요?
대규모 언어 모델(LLM)은 텍스트 및 기타 콘텐츠를 생성 및 번역하고 다른 자연어 처리(NLP) 태스크를 수행하는 데 사용할 수 있는 방대한 양의 데이터로 학습된 통계 언어 모델입니다.
LLM은 일반적으로 Google이 2017년에 개발한 Transformer와 같은 딥 러닝 아키텍처를 기반으로 하며 수십억 개의 텍스트와 기타 콘텐츠로 학습할 수 있습니다.
인기 있는 기반 모델의 예로는 어떤 것이 있나요?
Vertex AI는 Google DeepMind의 멀티모달 모델인 Gemini에 대한 액세스를 제공합니다. Gemini는 거의 모든 입력을 이해하고 다양한 유형의 정보를 결합하며 거의 모든 출력을 생성할 수 있습니다. 텍스트, 이미지, 동영상 또는 코드를 사용하여 Gemini를 통해 Vertex AI에서 프롬프트를 작성하고 테스트해 보세요. Gemini의 고급 추론과 최신 생성 기능을 사용하여 개발자는 이미지에서 텍스트를 추출하고 이미지 텍스트를 JSON으로 변환하기 위한 샘플 프롬프트를 시도하고, 업로드된 이미지에 대한 답변을 생성하여 차세대 AI 애플리케이션을 빌드할 수 있습니다.
대규모 언어 모델의 이점은 무엇인가요?
Google Cloud에서 제공하는 대규모 언어 모델 서비스는 무엇인가요?
Vertex AI의 생성형 AI: Google의 대규모 생성형 AI 모델에 액세스할 수 있으므로 AI 기반 애플리케이션에서 사용하도록 테스트, 조정, 배포할 수 있습니다.
Vertex AI Agent Builder: 온보딩, 데이터 수집, 맞춤설정과 같은 일반적인 작업을 위해 사전 빌드된 워크플로를 갖춘 엔터프라이즈 검색 및 챗봇 애플리케이션입니다.
Contact Center AI(CCAI): 의도 기반 및 LLM 기능을 모두 갖춘 Google의 대화형 AI 플랫폼인 Dialogflow가 포함된 지능형 고객센터 솔루션입니다.
작동 방식
LLM은 대량의 텍스트 데이터를 사용하여 신경망을 학습시키는 방식으로 작동합니다. 그런 다음 이 신경망을 사용하여 텍스트를 생성하거나 번역하거나 다른 작업을 수행합니다. 신경망 학습에 사용되는 데이터가 많을수록 작업을 더 정확하고 효과적으로 수행할 수 있습니다.
Google Cloud는 아래의 일반적인 용도 섹션에서 살펴볼 수 있는 다양한 사용 사례에 맞게 LLM 기술을 기반으로 제품을 개발했습니다.
LLM은 대량의 텍스트 데이터를 사용하여 신경망을 학습시키는 방식으로 작동합니다. 그런 다음 이 신경망을 사용하여 텍스트를 생성하거나 번역하거나 다른 작업을 수행합니다. 신경망 학습에 사용되는 데이터가 많을수록 작업을 더 정확하고 효과적으로 수행할 수 있습니다.
Google Cloud는 아래의 일반적인 용도 섹션에서 살펴볼 수 있는 다양한 사용 사례에 맞게 LLM 기술을 기반으로 제품을 개발했습니다.
일반적인 용도
챗봇 만들기
LLM 기반 챗봇 만들기
Vertex AI Agents는 인간과 비슷한 자연스러운 챗봇을 만듭니다. 생성형 AI 에이전트는 Dialogflow CX의 기능을 기반으로 빌드된 Vertex AI Agents 내 기능입니다.
이 기능을 사용하면 웹사이트 URL 또는 문서를 원하는 만큼 제공할 수 있고, 생성형 AI 에이전트가 콘텐츠를 파싱하고 데이터 스토어 및 LLM을 기반으로 하는 가상 에이전트를 만듭니다.
방법
LLM 기반 챗봇 만들기
Vertex AI Agents는 인간과 비슷한 자연스러운 챗봇을 만듭니다. 생성형 AI 에이전트는 Dialogflow CX의 기능을 기반으로 빌드된 Vertex AI Agents 내 기능입니다.
이 기능을 사용하면 웹사이트 URL 또는 문서를 원하는 만큼 제공할 수 있고, 생성형 AI 에이전트가 콘텐츠를 파싱하고 데이터 스토어 및 LLM을 기반으로 하는 가상 에이전트를 만듭니다.
연구 및 정보 탐색
복잡한 정보를 빠르게 찾고 요약하기
버튼 클릭 한 번으로 10-K 양식, 연구 논문, 타사 뉴스 서비스, 재무 보고서와 같은 복잡한 문서에서 중요한 정보를 추출하고 요약할 수 있습니다. 오른쪽 데모에서 엔터프라이즈 검색이 자연어를 사용하여 시맨틱 쿼리를 이해하고 요약된 응답을 제공하며 후속 질문을 제공하는 방법을 확인하세요.
연구 및 정보 탐색 솔루션 아키텍처
이 솔루션은 Vertex AI Agent Builder를 핵심 구성요소로 사용합니다. 초보 개발자도 Vertex AI Agent Builder를 통해 챗봇과 검색 애플리케이션을 몇 분 만에 빠르게 빌드하고 배포할 수 있습니다.
방법
복잡한 정보를 빠르게 찾고 요약하기
버튼 클릭 한 번으로 10-K 양식, 연구 논문, 타사 뉴스 서비스, 재무 보고서와 같은 복잡한 문서에서 중요한 정보를 추출하고 요약할 수 있습니다. 오른쪽 데모에서 엔터프라이즈 검색이 자연어를 사용하여 시맨틱 쿼리를 이해하고 요약된 응답을 제공하며 후속 질문을 제공하는 방법을 확인하세요.
추가 리소스
연구 및 정보 탐색 솔루션 아키텍처
이 솔루션은 Vertex AI Agent Builder를 핵심 구성요소로 사용합니다. 초보 개발자도 Vertex AI Agent Builder를 통해 챗봇과 검색 애플리케이션을 몇 분 만에 빠르게 빌드하고 배포할 수 있습니다.
문서 요약
Vertex AI LLM을 사용하여 대규모 문서 처리 및 요약
생성형 AI 문서 요약으로 원시 파일에서 텍스트를 감지하고 문서 요약을 자동화하는 데 도움이 되는 원클릭 솔루션을 배포할 수 있습니다. 이 솔루션은 Cloud Vision 광학 문자 인식(OCR)을 사용하여 Cloud Storage에 업로드된 PDF 문서에서 텍스트를 추출하는 파이프라인을 설정하고, Vertex AI를 사용하여 추출된 텍스트에서 요약을 만들고 검색 가능한 요약을 BigQuery 데이터베이스에 저장합니다.
방법
Vertex AI LLM을 사용하여 대규모 문서 처리 및 요약
생성형 AI 문서 요약으로 원시 파일에서 텍스트를 감지하고 문서 요약을 자동화하는 데 도움이 되는 원클릭 솔루션을 배포할 수 있습니다. 이 솔루션은 Cloud Vision 광학 문자 인식(OCR)을 사용하여 Cloud Storage에 업로드된 PDF 문서에서 텍스트를 추출하는 파이프라인을 설정하고, Vertex AI를 사용하여 추출된 텍스트에서 요약을 만들고 검색 가능한 요약을 BigQuery 데이터베이스에 저장합니다.
AI 기반 고객센터 빌드
CCAI Platform으로 AI 기반 고객센터 빌드
자연어 처리, 생성형 AI, 텍스트 및 음성 인식과 같은 AI 기술을 기반으로 하는 Contact Center AI Platform은 고객센터를 처음부터 구축하는 데 도움이 되는 Contact Center as a Service(CCaaS) 솔루션을 제공합니다. 또한 콜센터의 특정 부분을 대상으로 하는 개별 도구도 있습니다. 예를 들어 Dialogflow CX로 LLM 기반 챗봇을 빌드하고, Agent Assist를 통해 상담사에게 실시간 지원을 제공하며, CCAI Insights로 통화 요인 및 감정을 파악할 수 있습니다.
방법
CCAI Platform으로 AI 기반 고객센터 빌드
자연어 처리, 생성형 AI, 텍스트 및 음성 인식과 같은 AI 기술을 기반으로 하는 Contact Center AI Platform은 고객센터를 처음부터 구축하는 데 도움이 되는 Contact Center as a Service(CCaaS) 솔루션을 제공합니다. 또한 콜센터의 특정 부분을 대상으로 하는 개별 도구도 있습니다. 예를 들어 Dialogflow CX로 LLM 기반 챗봇을 빌드하고, Agent Assist를 통해 상담사에게 실시간 지원을 제공하며, CCAI Insights로 통화 요인 및 감정을 파악할 수 있습니다.
커스텀 LLM 학습
TPU(Tensor Processing Unit)를 사용하여 대규모 LLM 학습
Cloud TPU는 머신러닝을 위한 Google의 웨어하우스 규모 슈퍼컴퓨터입니다. 성능 및 확장성에 최적화되어 있으며 총 소유 비용을 최소화하며 LLM 및 생성형 AI 모델을 학습시키는 데 이상적입니다.
5개의 MLPerf 2.0 벤치마크에서 가장 빠른 학습 시간을 제공하는 Cloud TPU v4 포드는 최신 가속기로, 최대 9엑사플롭스급의 최대 집계 성능을 제공하는 세계 최대 규모의 일반 공개 ML 허브입니다.
방법
TPU(Tensor Processing Unit)를 사용하여 대규모 LLM 학습
Cloud TPU는 머신러닝을 위한 Google의 웨어하우스 규모 슈퍼컴퓨터입니다. 성능 및 확장성에 최적화되어 있으며 총 소유 비용을 최소화하며 LLM 및 생성형 AI 모델을 학습시키는 데 이상적입니다.
5개의 MLPerf 2.0 벤치마크에서 가장 빠른 학습 시간을 제공하는 Cloud TPU v4 포드는 최신 가속기로, 최대 9엑사플롭스급의 최대 집계 성능을 제공하는 세계 최대 규모의 일반 공개 ML 허브입니다.
Google Cloud로 다음 단계 수행
신규 고객에게 $300의 무료 크레딧 제공
전문가와 상담하기
Google Cloud의 생성형 AI 자세히 알아보기
Vertex AI API 사용 설정
