Model Garden은 Vertex AI에 배포하고 제공할 수 있는 자체 배포 개방형 모델과 파트너 모델을 모두 제공합니다. 이러한 모델은 서버리스이며 수동 배포가 필요하지 않은 서비스형 모델(MaaS) 제품과 다릅니다.
모델을 직접 배포하면 Google Cloud 프로젝트 및 VPC 네트워크 내에 안전하게 배포됩니다.
자체 배포 개방형 모델
개방형 모델은 멀티모달 처리에 탁월한 Gemini 모델을 비롯하여 다양한 AI 태스크를 위한 사전 학습된 기능을 제공합니다. 개방형 모델은 자유롭게 사용할 수 있고 출력을 게시할 수 있으며 라이선스 약관을 준수하는 한 모든 곳에서 사용할 수 있습니다.
Vertex AI는 개방형(개방형 가중치라고도 함) 및 오픈소스 모델을 모두 제공합니다.
Vertex AI가 포함된 개방형 모델을 사용하면 인프라에 Vertex AI가 사용됩니다. PyTorch, Jax 등 다른 인프라 제품이 포함된 개방형 모델을 사용할 수도 있습니다.
개방형 가중치 모델
많은 개방형 모델이 개방형 가중치 대규모 언어 모델(LLM)으로 간주됩니다. 개방형 모델은 개방형 가중치가 아닌 모델보다 투명성이 높습니다. 모델의 가중치는 모델의 신경망 아키텍처에 저장되는 숫자 값이며 모델 학습에 사용된 데이터로부터 학습된 패턴과 관계를 나타냅니다. 개방형 가중치 모델의 선행 학습된 매개변수 또는 가중치가 공개됩니다. 추론 및 조정에 개방형 가중치 모델을 사용할 수 있지만 원본 데이터 세트, 모델 아키텍처, 학습 코드와 같은 세부정보는 제공되지 않습니다.
오픈소스 모델
개방형 모델은 오픈소스 AI 모델과 다릅니다. 개방형 모델은 학습된 패턴의 가중치와 핵심적인 수치 표현을 노출하는 경우가 많지만 전체 소스 코드나 학습 세부정보를 제공하지는 않습니다. 가중치를 제공하면 AI 모델을 직접 구축하지 않고도 모델의 기능을 이해할 수 있는 수준의 투명성을 확보할 수 있습니다.
자체 배포 파트너 모델
Model Garden을 사용하면 독점 모델을 셀프 배포 옵션으로 제공하는 파트너의 모델 라이선스를 구매하고 관리할 수 있습니다. Cloud Marketplace에서 모델 액세스를 구매한 후에는 주문형 하드웨어에 배포하거나 Compute Engine 예약 및 약정 사용 할인을 사용하여 예산 요구사항을 충족할 수 있습니다. 모델 사용 및 사용 중인 Vertex AI 인프라에 대한 요금이 청구됩니다.
직접 배포 파트너 모델 사용을 요청하려면 Model Garden 콘솔에서 관련 모델을 찾아 영업팀에 문의를 클릭한 후 양식을 작성합니다. 그러면 Google Cloud 영업 담당자와의 연락이 시작됩니다.
[[["이해하기 쉬움","easyToUnderstand","thumb-up"],["문제가 해결됨","solvedMyProblem","thumb-up"],["기타","otherUp","thumb-up"]],[["이해하기 어려움","hardToUnderstand","thumb-down"],["잘못된 정보 또는 샘플 코드","incorrectInformationOrSampleCode","thumb-down"],["필요한 정보/샘플이 없음","missingTheInformationSamplesINeed","thumb-down"],["번역 문제","translationIssue","thumb-down"],["기타","otherDown","thumb-down"]],["최종 업데이트: 2025-07-24(UTC)"],[],[],null,["# Overview of self-deployed models\n\nModel Garden offers both self-deployed open, partner, and custom models\nthat you can deploy and serve on Vertex AI. These models are different\nfrom the [model-as-a-service (MaaS)](/vertex-ai/generative-ai/docs/partner-models/use-partner-models) offerings, which are serverless and\nrequire no manual deployment.\n\nWhen you self deploy models, you deploy them securely within your\nGoogle Cloud project and VPC network.\n\nSelf-deploy open models\n-----------------------\n\nOpen models provide pretrained capabilities for various AI tasks, including\nGemini models that excel in multimodal processing. An open model is\nfreely available, you are free to publish its outputs, and it can be used\nanywhere as long as you adhere to its licensing terms.\n[Vertex AI](/vertex-ai) offers both open (also known as *open weight*)\nand open source models.\n\nWhen you use an open model with Vertex AI, you use Vertex AI for\nyour infrastructure. You can also use open models with other infrastructure\nproducts, such as PyTorch or Jax.\n\n### Open weight models\n\nMany open models are considered open weight large language models (LLMs). Open\nmodels provide more transparency than models that aren't open weight. A\nmodel's weights are the numerical values stored in the model's neural network\narchitecture that represent learned patterns and relationships from the data a\nmodel is trained on. The pretrained parameters, or weights, of open weight\nmodels are released. You can use an open weight model for inference and tuning\nwhile details such as the original dataset, model architecture, and training\ncode aren't provided.\n\n### Open source models\n\nOpen models differ from open source AI models. While open models often expose\nthe weights and the core numerical representation of learned patterns, they\ndon't necessarily provide the full source code or training details. Providing\nweights offers a level of AI model transparency, allowing you to\nunderstand the model's capabilities without needing to build it yourself.\n\nSelf-deployed partner models\n----------------------------\n\n|\n| **Preview**\n|\n|\n| This feature is subject to the \"Pre-GA Offerings Terms\" in the General Service Terms section\n| of the [Service Specific Terms](/terms/service-terms#1).\n|\n| Pre-GA features are available \"as is\" and might have limited support.\n|\n| For more information, see the\n| [launch stage descriptions](/products#product-launch-stages).\n\nModel Garden helps you purchase and manage model licenses from partners\nwho offer proprietary models as a self deploy option. After you purchase\naccess to a model from Cloud Marketplace, you can choose to deploy on\non-demand hardware or use your Compute Engine reservations and\ncommitted use discounts to meet your budget requirements. You are charged for\nmodel usage and for the Vertex AI infrastructure that you use.\n\nTo request usage of a self-deployed partner model, find the relevant model in\nthe [Model Garden console](https://console.cloud.google.com/vertex-ai/model-garden), click **Contact sales**, and\nthen complete the form, which initiates contact with a Google Cloud sales\nrepresentative.\n\nFor more information about deploying and using partner models, see [Deploy a\npartner model and make prediction requests](/vertex-ai/generative-ai/docs/model-garden/use-models#deploy_a_partner_model_and_make_prediction_requests).\n\n### Considerations\n\nConsider the following limitations when using self-deployed partner models:\n\n- Unlike with open models, you cannot export weights.\n- If you VPC Service Controls set up for your project, you can't upload models, which prevents you from deploying partner models.\n- For endpoints, only the [shared public endpoint](/vertex-ai/docs/predictions/choose-endpoint-type) type is supported.\n\n| **Note:** Support for model-specific issues is provided by the partner. To contact a partner for model performance related issues, use the contact details in the \"Support\" section of their Model Garden model card.\n\nLearn more about self-deployed models in Vertex AI\n--------------------------------------------------\n\n- To learn more about custom weights, see [Deploy models with custom\n weights](/vertex-ai/generative-ai/docs/model-garden/deploy-models-with-custom-weights).\n- For more information about Model Garden, see [Overview of\n Model Garden](/vertex-ai/generative-ai/docs/model-garden/explore-models).\n- For more information about deploying models, see [Use models in\n Model Garden](/vertex-ai/generative-ai/docs/model-garden/use-models).\n- [Use Gemma open models](/vertex-ai/generative-ai/docs/open-models/use-gemma)\n- [Use Llama open models](/vertex-ai/generative-ai/docs/open-models/use-llama)\n- [Use Hugging Face open models](/vertex-ai/generative-ai/docs/open-models/use-hugging-face-models)"]]
