MaaS용 Vertex AI 개방형 모델

Vertex AI는 선별된 개방형 모델 목록을 관리형 모델로 지원합니다. 개방형 모델은 Vertex AI를 MaaS(model as a service)로 함께 사용될 수 있으며 관리형 API로 제공됩니다. 관리형 개방형 모델을 사용하는 경우 요청을 Vertex AI 엔드포인트로 계속 전송합니다. 관리형 개방형 모델은 서버리스이므로 인프라를 프로비저닝하거나 관리할 필요가 없습니다.

Model Garden을 사용하여 관리형 개방형 모델을 검색할 수 있습니다. Model Garden을 사용하여 모델을 배포할 수도 있습니다. 자세한 내용은 Model Garden의 AI 모델 살펴보기를 참조하세요.

개방형 모델을 사용하려면 먼저 개방형 모델에 대한 사용자 액세스 권한을 부여해야 합니다.

개방형 모델

다음 개방형 모델은 Vertex AI Model Garden(MaaS)에서 관리형 API로 제공됩니다.

모델 이름 형식 설명 빠른 시작
gpt-oss 120B 언어 추론 태스크에서 높은 성능을 제공하는 120B 모델입니다. 모델 카드
gpt-oss 20B 언어 소비자 및 에지 하드웨어의 효율성과 배포에 최적화된 20B 모델입니다. 모델 카드
Qwen3-Next-80B Thinking 언어, 코드 복잡한 문제 해결과 심층적인 추론에 특화된 Qwen3-Next 모델 제품군의 모델입니다. 모델 카드
Qwen3-Next-80B Instruct 언어, 코드 특정 명령어를 따르는 데 특화된 Qwen3-Next 모델 제품군의 모델입니다. 모델 카드
Qwen3 Coder 언어, 코드 고급 소프트웨어 개발 태스크를 위해 개발된 오픈-웨이트 모델입니다. 모델 카드
Qwen3 235B 언어 체계적인 추론과 빠른 대화 사이를 전환할 수 있는 '하이브리드 사고' 기능이 있는 오픈-웨이트 모델입니다. 모델 카드
DeepSeek-V3.1 언어 사고 모드와 비사고 모드를 모두 지원하는 DeepSeek의 하이브리드 모델입니다. 모델 카드
DeepSeek R1(0528) 언어 DeepSeek의 최신 버전인 DeepSeek R1 모델입니다. 모델 카드
Llama 4 Maverick 17B-128E 언어, 비전 코딩, 추론, 이미지 기능을 갖춘 가장 크고 기능이 뛰어난 Llama 4 모델입니다. Llama 4 Maverick 17B-128E는 전문가 망(MoE) 아키텍처와 조기 융합을 사용하는 멀티모달 모델입니다. 모델 카드
Llama 4 Scout 17B-16E 언어, 비전 Llama 4 Scout 17B-16E는 여러 벤치마크에서 이전 Llama 세대 및 기타 오픈 및 독점 모델보다 우수한 성능을 제공하는 최신 크기 클래스 결과를 제공합니다. Llama 4 Scout 17B-16E는 전문가 망(MoE) 아키텍처와 조기 융합을 사용하는 멀티모달 모델입니다. 모델 카드
Llama 3.3 언어 Llama 3.3은 텍스트 전용 70B 요청 사항 조정 모델로, 텍스트 전용 애플리케이션에 사용될 때 Llama 3.1 70B 및 Llama 3.2 90B에 비해 향상된 성능을 제공합니다. 또한 일부 애플리케이션의 경우 Llama 3.3 70B가 Llama 3.1 405B의 성능에 근접합니다. 모델 카드
Llama 3.2(미리보기) 언어, 비전 차트 및 그래프 분석, 이미지 캡션과 같은 이미지 추론을 지원할 수 있는 중형 90B 멀티모달 모델입니다. 모델 카드
Llama 3.1 언어

다국어 대화 사용 사례에 최적화된 다국어 LLM 모음으로, 일반적인 업계 벤치마크에서 사용할 수 있는 여러 오픈소스와 비공개 채팅 모델보다 우수한 성능을 발휘합니다.

Llama 3.1 405B는 정식 버전(GA)입니다.

Llama 3.1 8B 및 Llama 3.1 70B는 프리뷰 버전으로 제공됩니다.

 모델 카드

다음 개방형 임베딩 모델은 Vertex AI Model Garden(MaaS)에서 관리형 API로 제공됩니다.

모델 이름 설명 출력 크기 최대 시퀀스 길이 지원되는 텍스트 언어 빠른 시작
multilingual-e5-small E5 텍스트 임베딩 모델 제품군의 일부입니다. 소형 옵션에는 12개의 레이어가 포함되어 있습니다. 최대 384 토큰 512개 지원 언어 모델 카드
multilingual-e5-large E5 텍스트 임베딩 모델 제품군의 일부입니다. 대형 옵션에는 24개의 레이어가 포함되어 있습니다. 최대 1,024개 토큰 512개 지원 언어 모델 카드

개방형 모델 규정 준수

개방형 모델이 Vertex AI를 사용하는 관리형 API로 사용되는 경우 Vertex AI의 생성형 AI에 대한 인증이 계속 적용됩니다. 모델 자체에 관한 세부정보가 필요한 경우 각 모델 카드에서 추가 정보를 확인하거나 각 모델 게시자에게 문의하면 됩니다.

데이터는 Vertex AI의 개방형 모델에 선택한 리전이나 멀티 리전 내에 저장되지만 데이터 처리 리전화는 다를 수 있습니다. 개방형 모델의 데이터 처리 약정에 대한 자세한 목록은 개방형 모델의 데이터 상주를 참조하세요.

개방형 모델을 비롯하여 Vertex AI API를 사용하면 고객 프롬프트와 모델 응답이 서드 파티와 공유되지 않습니다. Google은 고객 데이터를 고객 지시에 따라 처리하며 이는 Cloud 데이터 처리 추가 조항에 자세히 설명되어 있습니다.

다음 단계