텍스트 생성 함수 선택

이 문서에서는 BigQuery ML ML.GENERATE_TEXT 및 AI.GENERATE 텍스트 생성 함수를 비교합니다. 이 문서의 정보를 사용하여 함수에 겹치는 기능이 있는 경우에 사용할 함수를 결정할 수 있습니다.

함수 유사성

ML.GENERATE_TEXT 및 AI.GENERATE 함수는 다음과 같은 점에서 유사합니다.

• 목적: 프롬프트를 대규모 언어 모델(LLM)에 전달하여 텍스트를 생성합니다.
• 결제: 처리된 데이터에 대해 BigQuery ML 요금이 발생합니다. 자세한 내용은 BigQuery ML 가격 책정을 참고하세요. LLM 호출에 대한 Vertex AI 요금이 발생합니다. Gemini 2.0 이상 모델을 사용하는 경우 호출에 일괄 API 요금이 청구됩니다. 자세한 내용은 Vertex AI에서 AI 모델을 빌드하고 배포하는 비용을 참고하세요.
• 확장성: 6시간 쿼리 작업마다 100만~1,000만 개의 행을 처리합니다. 실제 처리량은 입력 행의 평균 토큰 길이와 같은 요인에 따라 달라집니다. 자세한 내용은 생성형 AI 함수를 참고하세요.
• 입력 데이터: BigQuery 표준 테이블과 객체 테이블의 텍스트 및 비정형 데이터를 모두 지원합니다.

기능 차이

다음 표를 사용하여 ML.GENERATE_TEXT 및 AI.GENERATE 함수 간의 차이점을 평가합니다.

	ML.GENERATE_TEXT	AI.GENERATE
함수 서명	테이블을 입력으로 사용하고 테이블을 출력으로 반환하는 테이블 값 함수입니다.	단일 값을 입력으로 사용하고 단일 값을 출력으로 반환하는 스칼라 함수입니다.
지원되는 LLM	Gemini 모델 Anthropic Claude, Llama, Mistral AI와 같은 파트너 모델 개방형 모델을	Gemini 모델
함수 출력 콘텐츠	Gemini 모델의 함수 출력 콘텐츠: 생성된 텍스트 책임감 있는 AI (RAI) 결과 사용 설정된 경우 Google 검색 그라운딩 결과 LLM 호출 상태 기타 유형의 모델에 대한 함수 출력 콘텐츠: 생성된 텍스트 LLM 호출 상태	생성된 텍스트 JSON 형식의 전체 모델 응답 LLM 호출 상태
함수 출력 형식	생성된 값은 flatten_json_output 인수 값에 따라 단일 JSON 열 또는 별도의 표 열로 반환됩니다.	생성된 값은 STRUCT 객체의 필드로 반환됩니다.
사용자 경험	함수를 사용하기 전에 원격 모델을 만들어야 합니다.	원격 모델을 만들 필요 없이 함수를 직접 사용할 수 있습니다.
권한 설정	BigQuery 연결을 수동으로 만들고 연결의 서비스 계정에 Vertex AI 사용자 역할 권한을 부여해야 합니다. BigQuery 기본 연결을 사용하는 경우 이 단계를 건너뛸 수 있습니다.	BigQuery 연결을 수동으로 만들고 연결의 서비스 계정에 Vertex AI 사용자 역할 권한을 부여해야 합니다.
장점	더 유연한 입력 및 출력 형식을 지원합니다.	SQL 쿼리에 더 쉽게 통합할 수 있습니다.
확장 함수	AI.GENERATE_TABLE 함수를 사용하여 지정한 SQL 출력 스키마에 따라 구조화된 출력을 생성할 수 있습니다.	AI.GENERATE_BOOL, AI.GENERATE_INT, AI.GENERATE_DOUBLE 함수를 사용하여 다양한 유형의 스칼라 값을 생성할 수 있습니다.