ABAP용 Vertex AI SDK 설치 및 구성

이 문서에서는 SAP BTP, ABAP 환경에 ABAP용 Vertex AI SDK를 설치하고 구성하는 방법을 설명합니다.

설치

ABAP SDK for Google Cloud의 SAP BTP 버전 최신 버전을 설치하면 ABAP용 Vertex AI SDK가 자동으로 설치됩니다. 설치 단계에 관한 자세한 내용은 ABAP SDK for Google Cloud의 SAP BTP 버전 설치 및 구성을 참고하세요.

일부 개발자의 경우 Vertex AI 및 클라우드 리소스에 대한 액세스가 제한될 수 있습니다. 최소한의 설정으로 프로토타입 제작 및 실험을 사용 설정하려면 Gemini를 사용하여 빠르게 프로토타입 제작을 참고하세요.

Vertex AI API 사용 설정

  • Google Cloud 프로젝트에서 Vertex AI API를 사용 설정합니다.

    Vertex AI API

    API를 사용 설정하는 방법에 관한 자세한 내용은 API 사용 설정을 참고하세요. Google Cloud

인증

ABAP SDK for Google Cloud의 SAP BTP 버전에서 Google Cloud API에 액세스하기 위한 인증을 설정해 두면 ABAP용 Vertex AI SDK는 동일한 인증 방법을 사용하여 Vertex AI API에 액세스합니다. ABAP SDK for Google Cloud의 SAP BTP 버전에서 인증을 설정하는 방법에 관한 자세한 내용은 인증 개요를 참고하세요.

인증 설정의 일부로 만든 클라이언트 키를 기록해 둡니다. AI 모델 생성 매개변수와 검색 매개변수를 구성할 때 이 클라이언트 키를 사용합니다.

IAM 권한

클라이언트 키 테이블에서 구성한 API 액세스를 위한 전용 서비스 계정에 Vertex AI 리소스에 대한 액세스 권한이 있는지 확인합니다.

Vertex AI

Vertex AI 리소스를 사용하려면 Vertex AI API에 액세스할 권한을 부여한 전용 서비스 계정에 Vertex AI 사용자(roles/aiplatform.user) 역할을 부여해야 합니다.

아티팩트를 만들고, 수정하고, 배포하는 데 특정 권한을 제공해야 하는 경우 적절하게 특정 Vertex AI IAM 권한을 부여합니다.

Vertex AI Feature Store

Vertex AI Feature Store를 사용하려면 서비스 계정에 다음 역할을 부여해야 합니다.

AI 기능 필요한 IAM 역할
Vertex AI Feature Store

런치패드에 Fiori 앱이 추가되었는지 확인

관리자와 개발자가 모델 생성 매개변수와 벡터 검색 매개변수를 구성할 수 있도록 ABAP SDK for Google Cloud의 SAP BTP 버전은 SAP Fiori 앱을 제공합니다. 또한 SDK는 유지 관리되는 매개변수를 볼 수 있는 디스플레이 전용 Fiori 앱을 제공합니다.

ABAP SDK for Google Cloud의 SAP BTP 버전을 설치하는 동안 이러한 Fiori 앱을 런치패드에 추가합니다. 이러한 앱을 런치패드에서 사용할 수 있는지 확인합니다. 자세한 내용은 런치패드에 Fiori 앱 추가를 참고하세요.

모델 생성 매개변수 구성

대규모 언어 모델(LLM)은 대량의 텍스트 데이터에 대해 학습된 딥 러닝 모델입니다. 모델에는 모델의 응답 생성 방식을 제어하는 매개변수 값이 포함되어 있습니다. 매개변수 값을 변경하여 모델에서 서로 다른 결과를 얻을 수 있습니다.

모델의 생성 매개변수를 정의하기 위해 ABAP용 Vertex AI SDK는 /GOOG/AI_CONFIG 테이블을 사용합니다.

모델의 생성 매개변수를 구성하려면 다음 단계를 따르세요.

  1. SAP Fiori 런치패드에 액세스합니다.

  2. SDK 구성을 위한 Fiori 앱이 있는 스페이스로 이동합니다.

  3. Vertex AI SDK: 모델 생성 매개변수 구성 앱을 엽니다.

  4. 만들기를 클릭합니다.

  5. 만들기 대화상자가 나타나면 모델 키 필드의 값을 입력한 다음 계속을 클릭합니다.

  6. 표시되는 필드에 값을 입력합니다.

    다음 표에는 필드와 모델 생성 매개변수와의 대응 관계가 설명되어 있습니다.

    필드 데이터 유형 설명
    모델 키 문자열

    모델 구성을 식별하기 위해 지정하는 고유한 이름입니다(예: Gemini).

    생성형 모델 클래스 또는 임베딩 클래스를 인스턴스화할 때 이 모델 키를 사용하여 적용할 생성 구성을 지정합니다.
    모델 ID 문자열

    LLM의 모델 ID입니다(예: gemini-1.5-flash-001).

    Vertex AI 모델 버전에 관한 자세한 내용은 모델 버전 및 수명 주기를 참고하세요.
    Google Cloud 키 이름 문자열 인증 설정 중에 Google Cloud Google Cloud에 인증하기 위해 구성된 클라이언트 키입니다.
    Google Cloud 리전 위치 ID 문자열

    사용하려는 Vertex AI 기능을 사용할 수 있는 Google Cloud 리전의 위치 ID입니다.

    일반적으로 물리적 위치에서 가장 가까운 리전이나 의도한 사용자의 물리적 위치를 사용합니다. 자세한 내용은 Vertex AI 위치를 참조하세요.
    LLM의 게시자 ID 문자열 선택사항입니다. LLM의 게시자입니다(예: google).
    응답 MIME 유형 문자열 선택사항입니다. 생성된 후보 텍스트의 출력 응답 MIME 유형입니다. 지원되는 MIME 유형은 다음과 같습니다.
    • text/plain: (기본값) 텍스트 출력입니다.
    • application/json: 후보의 JSON 응답입니다.
    모델에 적절한 응답 유형을 출력하라는 메시지가 표시되어야 합니다. 그렇지 않으면 동작이 정의되지 않습니다.
    무작위성 온도 문자열

    선택사항입니다. 예측 무작위성을 제어합니다. 자세한 내용은 강도를 참조하세요.

    범위: [0.0, 1.0]
    Top-K 샘플링 부동 소수점 수

    선택사항입니다. Top-K는 모델이 출력용 토큰을 선택하는 방식을 변경합니다.

    임의성이 낮은 응답을 위해서는 낮은 값을 지정하고 임의성이 높은 응답을 위해서는 높은 값을 지정합니다. 자세한 내용은 Top-K를 참고하세요.

    범위: [1, 40]
    Top-P 샘플링 부동 소수점 수

    선택사항입니다. Top-P는 모델이 출력용 토큰을 선택하는 방식을 변경합니다.

    임의성이 낮은 응답을 위해서는 낮은 값을 지정하고 임의성이 높은 응답을 위해서는 높은 값을 지정합니다. 자세한 내용은 Top-P를 참고하세요.

    범위: [0.0, 1.0]
    msg당 최대 출력 토큰 수 정수

    선택사항입니다. 응답에서 생성될 수 있는 토큰의 최대 개수입니다. 토큰은 약 4자(영문 기준)입니다. 토큰 100개는 단어 약 60~80개에 해당합니다.

    응답이 짧을수록 낮은 값을 지정하고 잠재적으로 응답이 길면 높은 값을 지정합니다.
    양수 페널티 부동 소수점 수

    선택사항입니다. 양수 값은 생성된 텍스트에 표시된 토큰에 페널티를 적용하여 더 다양한 주제가 생성될 가능성을 높입니다.

    범위: [-2.0, 2.0]
    빈도 관련 불이익 부동 소수점 수

    선택사항입니다. 양수 값은 생성된 텍스트에 반복적으로 표시되는 토큰에 페널티를 적용하여 동일한 콘텐츠가 반복될 가능성을 줄입니다.

    범위: [-2.0, 2.0]

    선택적 매개변수에 대한 값을 제공하지 않으면 SDK는 Model ID에 구성된 모델 버전에 지정된 매개변수의 기본값을 사용합니다.

  7. 만들기를 클릭하여 항목을 저장합니다.

벡터 검색 매개변수 구성

벡터 검색 구성을 정의하기 위해 ABAP용 Vertex AI SDK는 /GOOG/SEARCHCONF 테이블을 사용합니다.

벡터 검색 매개변수를 구성하려면 다음 단계를 따르세요.

  1. SAP Fiori 런치패드에 액세스합니다.

  2. SDK 구성을 위한 Fiori 앱이 있는 공간으로 이동합니다.

  3. Vertex AI SDK: 벡터 검색 구성 앱을 엽니다.

  4. 만들기를 클릭합니다.

  5. 만들기 대화상자가 나타나면 모델 키 필드의 값을 입력한 다음 계속을 클릭합니다.

  6. 표시되는 필드에 값을 입력합니다.

    다음 표에서는 필드와 벡터 검색 매개변수와의 대응 관계를 설명합니다.

    필드 데이터 유형 설명
    검색 키 문자열 검색 구성을 식별하기 위해 지정하는 고유한 이름입니다.
    Google Cloud 키 이름 문자열 인증 설정 중에 Google Cloud Google Cloud에 인증하기 위해 구성된 클라이언트 키입니다.
    Google Cloud 리전 위치 ID 문자열

    사용하려는 Vertex AI 기능을 사용할 수 있는 Google Cloud 리전의 위치 ID입니다.

    일반적으로 물리적 위치 또는 의도한 사용자의 물리적 위치에 가장 가까운 리전을 사용합니다. 자세한 내용은 Vertex AI 위치를 참조하세요.
    벡터 색인의 배포 ID 문자열 색인의 배포 ID입니다. 색인을 엔드포인트에 배포할 때 고유한 배포 ID를 할당합니다.

    색인 배포에 관한 자세한 내용은 색인 엔드포인트에 벡터 색인 배포를 참고하세요.
    벡터 색인 엔드포인트 ID 문자열

    색인이 배포된 색인 엔드포인트의 ID입니다.

    색인 엔드포인트에 관한 자세한 내용은 벡터 색인 엔드포인트 만들기를 참고하세요.

  7. 만들기를 클릭하여 항목을 저장합니다.

다음 단계