AI 워크로드란 무엇인가요?

AI 및 ML 워크로드는 크게 두 가지 방식으로 분류할 수 있습니다.

• AI 수명 주기에서 나타내는 단계(예: 데이터 전처리, 학습, 추론)
• 수행하는 작업 유형(예: 자연어 처리 또는 컴퓨터 비전)

이러한 유형을 이해하면 기술 의사 결정권자가 각 유형에 필요한 특정 인프라, 컴퓨팅 성능, 조정 전략을 계획하는 데 도움이 됩니다.

AI 워크로드는 디지털 혁신의 핵심이며, 거의 모든 업계에서 영향력이 큰 실제 애플리케이션을 제공하여 데이터를 실질적인 가치로 전환합니다.

AI 워크로드는 소매, 전자상거래, 미디어 회사를 위한 추천 엔진을 구동할 수 있습니다. 예를 들어 한 스트리밍 회사는 수십억 개의 시청 습관을 학습한 정교한 ML 모델을 사용하여 고도의 맞춤형 콘텐츠 추천을 제공합니다.

제조업체는 중요한 장비에 센서를 배포하여 방대한 시계열 데이터를 생성합니다. AI 워크로드는 이 데이터를 지속적으로 분석하여 기계적 고장을 며칠 또는 몇 주 전에 예측할 수 있으므로 유지보수를 예약할 수 있습니다.

금융 기관은 머신러닝 워크로드를 사용하여 수백만 건의 거래를 실시간으로 분석합니다. 이러한 모델은 사기를 나타내는 패턴을 식별할 수 있으며, 일부 시스템은 높은 정확도와 낮은 거짓양성률로 무단 트랜잭션을 감지합니다.

컴퓨터 비전 워크로드는 X선, CT 스캔, MRI와 같은 의료 영상을 분석하는 데 사용됩니다. 이러한 AI 모델은 초기 단계의 종양과 같은 잠재적 이상 징후를 포착할 수 있으며, 이는 임상의가 더 빠르고 정확하게 진단하는 데 도움이 되는 속도와 일관성을 갖추고 있습니다.

생성형 AI 모델을 기반으로 하는 워크로드는 창의적이고 기술적인 분야를 혁신하는 데 도움이 됩니다. 마케팅 문구를 자동으로 생성하거나, 광고에 사용할 사실적인 이미지를 합성하거나, 가상 회의 요약을 작성하거나, 코드 블록을 제안하고 완성하여 개발자를 지원하는 데 사용됩니다.

추론을 위해 학습된 머신러닝 모델을 배포하는 것은 AI 워크로드를 프로덕션화하는 데 있어 중요한 단계가 될 수 있습니다. Vertex AI는 기본 인프라를 처리하는 관리형 서비스를 제공하여 이 프로세스를 간소화합니다.

학습된 모델을 모델 레지스트리에 업로드

• 첫 번째 단계는 학습된 모델 아티팩트를 가져와 Vertex AI Model Registry에 업로드하는 것입니다. 이 중앙 저장소는 모델을 안전하게 저장하고 버전 관리하여 배포할 준비를 갖춥니다.

관리형 엔드포인트 만들기

• 다음으로 모델을 위한 전용 실시간 HTTP 서버인 엔드포인트를 만듭니다. 이 엔드포인트는 애플리케이션이 예측을 가져오기 위해 호출하는 URL입니다. N1 CPU 머신 또는 가속화된 성능을 위한 특정 유형의 GPU와 같이 사용할 컴퓨팅 리소스의 유형을 정의합니다.

엔드포인트에 모델 배포

• 엔드포인트를 만든 후에는 모델의 특정 버전을 엔드포인트에 배포합니다. 이 단계에서는 모델과 예측 서버 코드를 포함하는 컨테이너 이미지(대개 Vertex AI에서 제공하는 사전 빌드된 이미지)를 지정합니다. 또한 트래픽 분할을 구성하여 새 모델 버전을 완전히 출시하기 전에 소량의 실시간 트래픽으로 테스트할 수 있습니다.

온라인 예측 보내고 받기

• 배포된 모델은 온라인 예측에 사용할 수 있습니다. 애플리케이션은 HTTP 요청을 통해 엔드포인트의 URL로 입력 데이터(페이로드)를 전송하고, 관리형 서비스는 추론 워크로드를 처리하여 예측 또는 결과를 거의 실시간으로 반환합니다.

엔드포인트 모니터링 및 제어

• 마지막 단계는 지속적인 모니터링입니다. Vertex AI의 통합 도구를 사용하여 엔드포인트의 상태(지연 시간, 오류율, 리소스 사용률)와 모델 자체의 성능(드리프트, 편향, 예측 품질)을 추적하여 추론 워크로드가 시간이 지나도 안정적이고 정확하게 유지되도록 합니다.