벡터 색인 측정항목

문서 버전을 선택합니다.

이 페이지에는 AlloyDB Omni에서 생성하는 벡터 색인과 관련된 측정항목이 나와 있습니다. alloydb_scann 확장 프로그램을 설치할 때 사용할 수 있는 pg_stat_ann_indexes 보기를 사용하여 이러한 측정항목을 볼 수 있습니다.

측정항목을 보는 방법에 관한 자세한 내용은 벡터 색인 측정항목 보기를 참고하세요.

사용성 측정항목

유용성 측정항목에는 색인 구성, 색인 검색 수와 같은 측정항목을 사용하여 색인 활용 상태를 파악하는 데 도움이 되는 측정항목이 포함됩니다.

측정항목 이름 데이터 유형 설명
relid OID 벡터 색인이 포함된 테이블의 고유 식별자
indexrelid OID 벡터 색인의 고유 식별자
schemaname NAME 색인을 소유한 스키마의 이름
relname NAME 색인이 포함된 테이블의 이름
indexrelname NAME 색인의 이름
indextype NAME 색인 유형입니다. 이 값은 항상 scann로 설정됩니다.
indexconfig TEXT[] 색인이 생성될 때 정의된 리프 수, 양자화기 등의 구성
indexsize TEXT 색인 크기
indexscan BIGINT 색인에서 시작된 색인 스캔 수

조정 측정항목

조정 측정항목은 현재 색인 최적화에 대한 통계를 제공하므로 더 빠른 쿼리 성능을 위해 추천을 적용할 수 있습니다.

측정항목 이름 데이터 유형 설명
insertcount BIGINT 색인에 대한 삽입 작업 수입니다. 이 측정항목에는 색인이 생성되기 전에 존재했던 행 수도 포함됩니다.
updatecount BIGINT 색인에 대한 업데이트 작업 수입니다. 이 측정항목은 HOT 업데이트를 고려하지 않습니다.
deletecount BIGINT 색인에 대한 삭제 작업 수입니다.
distribution JSONB 색인의 모든 파티션에 걸친 벡터 분포입니다.

다음 필드에 분포가 표시됩니다.
  • maximum (INT8): 모든 파티션의 최대 벡터 수입니다.
  • minimum (INT8): 모든 파티션의 최소 벡터 수입니다.
  • average (FLOAT) : 모든 파티션의 평균 벡터 수입니다.
  • outliers (INT8[]): 모든 파티션의 상위 이상치입니다. 이 값은 상위 20개의 이상치를 보여줍니다.

참고: K-평균 클러스터링 알고리즘의 고유한 특성으로 인해 색인이 처음 생성될 때도 파티션 간 벡터 분포에 어느 정도 분산이 항상 존재합니다.
distributionpercentile JSONB 벡터 색인 분포를 사용하면 ScaNN 색인의 파티션 간 벡터 분포를 파악할 수 있습니다. 파티션은 색인 생성 중에 정의된 num_leaves 값을 기반으로 생성됩니다.

벡터 색인 분포에는 10, 25, 50, 75, 90, 95, 99, 100번째 백분위수의 버킷이 포함됩니다. 각 버킷에는 다음 값이 포함됩니다.
  • 지정된 백분위수의 파티션에 있는 벡터 수입니다.
  • 현재 백분위수와 이전 백분위수로 정의된 범위 내에 벡터가 있는 파티션 수입니다.

참고: K-평균 클러스터링 알고리즘의 고유한 특성으로 인해 색인이 처음 생성될 때도 파티션 간 벡터 분포에 어느 정도 분산이 항상 있습니다.

측정항목을 기반으로 한 조정 권장사항

변형
insertcount, updatecount, deletecount 측정항목은 색인의 벡터에 발생한 변경사항이나 변이를 함께 보여줍니다.
색인은 특정 수의 벡터와 파티션으로 생성됩니다. 벡터 색인에서 삽입, 업데이트, 삭제와 같은 작업을 실행하면 벡터가 있는 초기 파티션 세트에만 영향을 미칩니다. 따라서 각 파티션의 벡터 수가 시간에 따라 변동되어 재현율, QPS 또는 둘 다에 영향을 미칠 수 있습니다.
시간이 지남에 따라 ANN 검색 쿼리에서 QPS가 낮거나 재현율이 좋지 않은 등 속도 또는 정확도 문제가 발생하는 경우 이러한 측정항목을 검토해 보세요. 전체 벡터 수에 비해 변형 수가 많으면 색인 생성이 필요할 수 있습니다.
분포
distribution 측정항목은 모든 파티션의 벡터 분포를 보여줍니다.
색인을 만들면 특정 수의 벡터와 고정 파티션으로 생성됩니다. 파티셔닝 프로세스와 후속 배포는 이 고려사항을 기반으로 이루어집니다. 벡터가 추가되면 기존 파티션 간에 파티션이 지정되므로 색인이 생성될 때의 분포와 다른 분포가 됩니다. 최종 분포에서는 모든 벡터를 동시에 고려하지 않으므로 재현율, QPS 또는 둘 다 영향을 받을 수 있습니다.
ANN 검색 쿼리의 성능이 점진적으로 저하되는 경우(예: 응답 시간이 느려지거나 결과의 정확도가 감소함(QPS 또는 재현율로 측정)) 이 측정항목을 확인하고 색인을 다시 생성하는 것이 좋습니다.
분포 백분위수
distributionpercentile 측정항목은 pg_stat_ann_indexes 뷰의 벡터 색인 분포로, ScaNN 색인의 파티션 간 벡터 분포를 이해하는 데 도움이 됩니다. 파티션은 색인 생성 중에 정의된 num_leaves 값을 기반으로 생성됩니다.
num_leaves를 설정하여 초기 행 집합에 alloydb_scann 색인을 만들면 데이터 작업 (기울기 변형)으로 인해 파티션 간 벡터 분포가 변경되거나 벡터 수가 크게 증가할 수 있습니다. 이러한 변경사항으로 인해 QPS 또는 재현율이 저하되거나 둘 다 저하될 수 있습니다. 벡터 색인 분포는 변이로 인해 색인 분포가 변경되는 경우 신호를 제공할 수 있습니다. 이 정보를 통해 재색인이 필요한지 또는 검색 시간 구성을 변경하면 쿼리 성능을 개선할 수 있는지 확인할 수 있습니다.
벡터 색인에서 파티션 간 벡터 분포는 완벽하게 균등한 경우가 거의 없습니다. 이러한 불균형을 균일하지 않은 분포라고 합니다. 불균일성이 어느 정도 있는 것은 흔한 일이며, 이로 인해 색인을 다시 생성해야 하는 것은 아닙니다. 균일하지 않은 분포에는 다음과 같은 특징이 있습니다.
  • 벡터 수의 분산이 낮습니다. 분산은 다음과 같이 계산할 수 있습니다.
    $(P100(num\_vectors) - p10(num\_vectors))*(\frac{num\_leaves}{total\_num\_row})$
  • 벡터가 0인 파티션의 수가 적으며 파티션의 30% 미만일 수 있습니다.
  • 파티션 수의 분산이 낮습니다.
    $ variance _{p} = abs(p_{num\_partitions} - num\_leaves * (p_{percentile} - p-1_{percentile})) $ 여기서 'p'는 벡터 색인 분포 버킷입니다.
  • 특정 백분위수의 벡터 수는 다음과 같습니다.
    $< 8 x (\frac{num\_rows\ during\ index\ creation\ time}{ num\_leaves})$

    이러한 조건이 충족되지 않으면 QPS와 리콜이 얼마나 영향을 받는지에 따라 REINDEX이 필요할 수 있습니다.
다음 시나리오도 발생할 수 있지만 균일하지 않은 분포보다 일반적이지는 않습니다.
  • 대략적인 균일 색인: 대부분의 파티션에 0이 아닌 벡터 수가 동일하고 벡터 수의 분산이 낮은 경우 대략적인 균일 색인입니다. 각 파티션의 숫자 벡터가 index_creation_time에서 $8 * 평균 벡터$ 보다 큰 경우 REINDEX가 필요합니다.
  • 희소 색인: 파티션의 50% 이상이 비어 있는 경우에도 희소 색인이 발생합니다. 예를 들어 테이블에서 삭제가 여러 번 발생하면 스파스 색인이 생성됩니다. 이 시나리오에서는 벡터가 소수의 파티션에 집중되어 각 파티션의 벡터 수가 증가합니다. 이 경우 색인을 삭제하고 다시 만듭니다.