ABAP용 Vertex AI SDK 설치 및 구성

이 문서에서는 SAP 환경에 ABAP용 Vertex AI SDK를 설치하고 구성하는 방법을 설명합니다.

설치

ABAP SDK for Google Cloud의 온프레미스 버전 1.8 또는 모든 클라우드 버전을 설치하면 ABAP용 Vertex AI SDK가 자동으로 설치됩니다. 설치 단계에 관한 자세한 내용은 ABAP SDK for Google Cloud의 온프레미스 또는 모든 클라우드 버전 설치 및 구성을 참고하세요.

이미 ABAP SDK for Google Cloud의 온프레미스 버전 1.7 이하 또는 임의의 클라우드 버전을 사용 중인 경우 최신 버전으로 SDK를 업데이트하여 ABAP용 Vertex AI SDK를 가져옵니다. 자세한 내용은 ABAP SDK for Google Cloud 업데이트를 참고하세요.

일부 개발자의 경우 Vertex AI 및 클라우드 리소스에 대한 액세스가 제한될 수 있습니다. 최소한의 설정으로 프로토타입 제작 및 실험을 사용 설정하려면 Gemini를 사용한 빠른 프로토타입 제작을 참고하세요.

Vertex AI API 사용 설정

Google Cloud 프로젝트에서 Vertex AI API를 사용 설정합니다.

Vertex AI API

Google Cloud API를 사용 설정하는 방법은 API 사용 설정을 참조하세요.

인증

ABAP SDK for Google Cloud의 온프레미스 또는 클라우드 버전에서 Google Cloud API에 액세스하기 위한 인증을 설정해 두면 ABAP용 Vertex AI SDK는 동일한 인증 방법을 사용하여 Vertex AI API에 액세스합니다. ABAP SDK for Google Cloud의 온프레미스 또는 클라우드 버전에서 인증을 설정하는 방법에 관한 자세한 내용은 인증 개요를 참고하세요.

인증 설정의 일부로 만든 클라이언트 키를 기록해 둡니다. AI 모델 생성 매개변수와 검색 매개변수를 구성할 때 이 클라이언트 키를 사용합니다.

IAM 권한

클라이언트 키 테이블에서 구성한 API 액세스를 위한 전용 서비스 계정에 Vertex AI 리소스에 대한 액세스 권한이 있는지 확인합니다.

Vertex AI

Vertex AI 리소스를 사용하려면 Vertex AI API에 액세스할 권한을 부여한 전용 서비스 계정에 Vertex AI 사용자(roles/aiplatform.user) 역할을 부여해야 합니다.

아티팩트를 만들고, 수정하고, 배포하는 데 특정 권한을 제공해야 하는 경우 적절하게 특정 Vertex AI IAM 권한을 부여합니다.

Vertex AI Feature Store

Vertex AI Feature Store를 사용하려면 서비스 계정에 다음 역할을 부여해야 합니다.

AI 기능 필요한 IAM 역할
Vertex AI Feature Store

모델 생성 매개변수 구성

대규모 언어 모델(LLM)은 대량의 텍스트 데이터에 대해 학습된 딥 러닝 모델입니다. 모델에는 모델의 응답 생성 방식을 제어하는 매개변수 값이 포함되어 있습니다. 모델은 서로 다른 매개변수 값에 대해 서로 다른 결과를 생성할 수 있습니다.

모델의 생성 매개변수를 정의하기 위해 ABAP용 Vertex AI SDK는 /GOOG/AI_CONFIG 테이블을 사용합니다.

/GOOG/AI_CONFIG 테이블을 업데이트하려면 다음 단계를 수행합니다.

  1. SAP GUI에서 트랜잭션 코드 /GOOG/SDK_IMG를 실행합니다.

    또는 트랜잭션 코드 SPRO를 실행한 후 SAP 참조 IMG를 클릭합니다.

  2. ABAP SDK for Google Cloud > 기본 설정 > Vertex AI SDK: 모델 생성 매개변수 구성을 클릭합니다.

  3. 새 항목을 클릭합니다.

  4. 다음 필드에 값을 입력합니다.

    필드 데이터 유형 설명
    Model Key 문자열

    모델 구성을 식별하기 위해 지정하는 고유한 이름입니다(예: Gemini).

    생성형 모델 클래스 또는 임베딩 클래스를 인스턴스화할 때 이 모델 키를 사용하여 적용할 생성 구성을 지정합니다.

    Model ID 문자열

    LLM의 모델 ID입니다(예: gemini-1.5-flash-001).

    Vertex AI 모델 버전에 관한 자세한 내용은 모델 버전 및 수명 주기를 참고하세요.

    Google Cloud Key Name 문자열 인증 설정 중에 Google Cloud에 인증하기 위해 구성된 클라이언트 키입니다.
    Google Cloud Region Location ID 문자열

    사용하려는 Vertex AI 기능을 사용할 수 있는 Google Cloud 리전의 위치 ID입니다.

    일반적으로 물리적 위치 또는 의도한 사용자의 물리적 위치에 가장 가까운 리전을 사용합니다. 자세한 내용은 Vertex AI 위치를 참조하세요.

    Publisher ID of the LLM 문자열 선택사항입니다. LLM의 게시자입니다(예: google).
    Response MIME type 문자열 선택사항입니다. 생성된 후보 텍스트의 출력 응답 MIME 유형입니다. 지원되는 MIME 유형은 다음과 같습니다.
    • text/plain: (기본값) 텍스트 출력입니다.
    • application/json: 후보의 JSON 응답입니다.
    모델에 적절한 응답 유형을 출력하라는 메시지가 표시되어야 합니다. 그렇지 않으면 동작이 정의되지 않습니다.
    Randomness temperature 문자열

    선택사항입니다. 예측 무작위성을 제어합니다. 자세한 내용은 강도를 참조하세요.

    범위: [0.0, 1.0]

    Top-K Sampling 부동 소수점 수

    선택사항입니다. Top-K는 모델이 출력용 토큰을 선택하는 방식을 변경합니다.

    임의성이 낮은 응답에 낮은 값을 지정하고 임의성이 높은 응답에 높은 값을 지정합니다. 자세한 내용은 Top-K를 참고하세요.

    범위: [1, 40]

    Top-P Sampling 부동 소수점 수

    선택사항입니다. Top-P는 모델이 출력용 토큰을 선택하는 방식을 변경합니다.

    임의성이 낮은 응답을 위해서는 낮은 값을 지정하고 임의성이 높은 응답을 위해서는 높은 값을 지정합니다. 자세한 내용은 Top-P를 참고하세요.

    범위: [0.0, 1.0]

    Maximum number of output tokens per msg 정수

    선택사항입니다. 응답에서 생성될 수 있는 토큰의 최대 개수입니다. 토큰은 약 4자(영문 기준)입니다. 토큰 100개는 단어 약 60~80개에 해당합니다.

    응답이 짧을수록 낮은 값을 지정하고 잠재적으로 응답이 길면 높은 값을 지정합니다.

    Positive Penalties 부동 소수점 수

    선택사항입니다. 양수 값은 생성된 텍스트에 표시된 토큰에 페널티를 적용하여 더 다양한 주제가 생성될 가능성을 높입니다.

    범위: [-2.0, 2.0]

    Frequency Penalties 부동 소수점 수

    선택사항입니다. 양수 값은 생성된 텍스트에 반복적으로 표시되는 토큰에 페널티를 적용하여 동일한 콘텐츠가 반복될 가능성을 줄입니다.

    범위: [-2.0, 2.0]

    선택적 매개변수에 대한 값을 제공하지 않으면 SDK는 Model ID에 구성된 모델 버전에 지정된 매개변수의 기본값을 사용합니다.

  5. 새 항목을 저장합니다.

벡터 검색 매개변수 구성

벡터 검색 구성을 정의하기 위해 ABAP용 Vertex AI SDK는 /GOOG/SEARCHCONF 테이블을 사용합니다.

/GOOG/SEARCHCONF 테이블을 업데이트하려면 다음 단계를 수행합니다.

  1. SAP GUI에서 트랜잭션 코드 /GOOG/SDK_IMG를 실행합니다.

    또는 트랜잭션 코드 SPRO를 실행한 후 SAP 참조 IMG를 클릭합니다.

  2. ABAP SDK for Google Cloud > 기본 설정 > Vertex AI SDK: 벡터 검색 매개변수 구성을 클릭합니다.

  3. 새 항목을 클릭합니다.

  4. 다음 필드에 값을 입력합니다.

    필드 데이터 유형 설명
    Search Key 문자열 검색 구성을 식별하기 위해 지정하는 고유한 이름입니다.
    Google Cloud Key Name 문자열 인증 설정 중에 Google Cloud에 인증하기 위해 구성된 클라이언트 키입니다.
    Google Cloud Region Location ID 문자열

    사용하려는 Vertex AI 기능을 사용할 수 있는 Google Cloud 리전의 위치 ID입니다.

    일반적으로 물리적 위치에서 가장 가까운 리전이나 의도한 사용자의 물리적 위치를 사용합니다. 자세한 내용은 Vertex AI 위치를 참조하세요.

    Deployment ID of Vector Index 문자열 색인의 배포 ID입니다. 색인을 엔드포인트에 배포할 때 고유한 배포 ID를 할당합니다.

    색인 배포에 관한 자세한 내용은 색인 엔드포인트에 벡터 색인 배포를 참고하세요.

    Vector Index Endpoint ID 문자열

    색인이 배포된 색인 엔드포인트의 ID입니다.

    색인 엔드포인트에 관한 자세한 내용은 벡터 색인 엔드포인트 만들기를 참고하세요.

  5. 새 항목을 저장합니다.

다음 단계