AIOps란 무엇인가요?

AIOps와 DevOps는 서로 다른 기원을 가지고 있지만 경쟁하는 개념이 아니라 강력한 파트너입니다. 이 관계는 다음과 같이 이해하는 것이 가장 좋습니다.

• DevOps는 개발과 운영을 통합하여 소프트웨어 배포 수명 주기를 가속화하는 것을 목표로 하는 문화이자 프로세스입니다. 협업, 자동화, CI/CD 파이프라인에 중점을 둡니다.
• AIOps는 DevOps 도구 모음을 강화하는 지능형 엔진입니다. 최신 DevOps 관행이 만들어 내는 복잡성을 관리하는 데 필요한 고급 분석 및 자동화를 제공합니다.

간단히 말해 DevOps는 빠르게 움직이는 파이프라인을 빌드하고 AIOps는 문제를 자동으로 감지, 진단, 해결하여 파이프라인이 안정적이고 효율적으로 실행되도록 보장합니다.

AIOps 플랫폼은 일반적으로 관찰, 참여, 행동의 3단계 프로세스로 작동합니다.

AIOps 플랫폼은 전체 IT 환경에서 측정항목, 로그, trace, 이벤트 등 방대한 데이터 스트림을 수집하고 중앙 집중화하여 시스템 상태에 대한 완전한 실시간 정보를 생성합니다.

플랫폼은 머신러닝을 사용하여 이 데이터의 상관관계를 파악하고 분석하여 노이즈에서 중요한 신호를 구별합니다. 이상치를 자동으로 감지하고 관련 알림을 그룹화하며 가능성이 높은 근본 원인을 정확히 파악하여 통합 대시보드와 타겟팅된 알림을 통해 IT팀에 실행 가능한 인사이트를 제공합니다.

플랫폼은 분석을 기반으로 문제를 해결하기 위한 자동화된 응답을 트리거합니다. 이는 올바른 팀에 알리는 것부터 서비스 다시 시작, 리소스 확장, 변경 롤백과 같은 자동화된 해결 워크플로를 실행하는 것까지 다양하며, 인간 운영자가 개입하기 전에 이루어지는 경우가 많습니다.

AIOps 성숙도를 향한 여정에는 일반적으로 몇 가지 단계가 포함됩니다.

1. 반응형: 이 첫 번째 단계에서 조직은 독립적으로 운영되며, 이벤트에 대한 데이터를 반응형 목적으로만 수집합니다. 시스템과 비즈니스 간의 상호작용이 거의 없습니다.
2. 통합형: 비즈니스가 AIOps를 도입하는 과정에서 데이터 소스를 통합된 구조로 통합하고 IT 서비스 관리(ITSM)를 개선하여 사일로를 허물고 협업을 촉진할 수 있습니다.
3. 분석형: 세 번째 단계에서는 모든 이해관계자의 데이터 접근성을 우선시하는 포괄적인 분석 전략을 구현합니다. ITSM 프로세스를 개선하고 측정 표준과 핵심 측정항목을 정의하면 조직은 더 나은 결과를 얻을 수 있습니다.
4. 처방형: 이 단계에서 조직은 자동화를 우선순위로 삼고 머신러닝을 자주 사용합니다. 인간의 상호작용을 보완하는 자동화는 ITSM 프로세스의 핵심 구성요소가 되었습니다. 또한 비교 분석을 사용하여 개선사항과 비즈니스 영향을 측정할 수 있습니다.
5. 자동화형: 가장 높은 성숙도 수준에서 조직은 완전한 자동화와 사람의 개입 없이 작동하는 예측 머신러닝 모델을 달성합니다. 이해관계자는 데이터를 원활하게 공유하며 분석에 완전한 투명성이 보장됩니다. 이를 통해 선제적이고 비즈니스 가치 중심의 의사 결정을 촉진할 수 있습니다.

적절한 플랫폼을 선택하고 효과적으로 구현하려면 다양한 유형의 AIOps 솔루션을 이해하는 것이 중요합니다. AIOps 솔루션은 크게 두 가지 유형으로 분류할 수 있습니다.

• 도메인 중심 AIOps: 이러한 특수 AI 기반 도구는 네트워킹, 애플리케이션, 클라우드 컴퓨팅 환경과 같은 특정 IT 운영 영역의 성능을 모니터링하고 관리합니다. 예를 들어 도메인 중심 AIOps 플랫폼은 네트워크 성능 모니터링에 특히 집중하고 AI를 사용하여 네트워크 이상을 감지하고 진단할 수 있습니다.
• 도메인에 구애받지 않는 AIOps: 이러한 솔루션은 더 넓은 네트워크와 조직 경계에 걸쳐 예측 분석과 AI 자동화를 확장하도록 설계되었습니다. IT 환경 전반의 다양한 소스에서 이벤트 데이터를 수집하고 분석하여 종합 인사이트와 상관관계를 제공합니다. 예를 들어 도메인에 구애받지 않는 AIOps 플랫폼은 다양한 모니터링 도구, 보안 시스템, IT 서비스 관리(ITSM) 플랫폼에서 데이터를 수집하여 IT 운영에 대한 포괄적인 뷰를 제공하고 여러 도메인에 걸친 이벤트 간의 상관관계를 파악할 수 있습니다.

AIOps는 다양한 IT 운영 시나리오에서 광범위한 기능적 애플리케이션을 제공합니다.

서비스의 속도와 안정성을 유지하기 위해 AIOps는 IT 인프라 성능을 선제적으로 모니터링합니다. 과거 데이터와 실시간 데이터를 분석하여 정상적인 상태를 학습하므로 메모리 누수나 응답 시간 저하와 같이 향후 문제를 나타내는 미묘한 편차를 감지할 수 있습니다. 이를 통해 팀은 서비스 중단이 발생하기 전에 문제를 해결할 수 있습니다.

AIOps는 IT 자동화 도구 및 조정 플랫폼과 통합하여 사고 대응 워크플로의 자동화를 촉진합니다. AIOps는 사고가 감지되면 서비스 다시 시작, 리소스 확장, 진단 스크립트 실행과 같은 사전 정의된 해결 작업을 수동 개입 없이 자동으로 트리거할 수 있습니다. 예를 들어 AIOps가 웹 애플리케이션 오류를 감지하면 애플리케이션 서버를 다시 시작하고 최근의 문제 있는 코드 배포를 롤백하는 워크플로를 자동으로 시작할 수 있습니다.

머신러닝을 활용하여 로그, 측정항목, 네트워크 트래픽, 구성 데이터 등 다양한 IT 소스의 데이터를 분석하고 상관관계를 파악하여 지능형 근본 원인 분석을 수행할 수 있습니다. 이 기능을 통해 AIOps는 인간의 분석으로는 놓칠 수 있는 복잡한 관계와 종속 항목을 식별하여 IT 문제의 근본 원인을 정확히 찾아낼 수 있습니다. 예를 들어 데이터베이스 성능 문제가 감지되면 AIOps는 데이터베이스 로그와 서버 측정항목 및 네트워크 지연 시간 데이터의 상관관계를 분석하여 근본 원인이 느린 쿼리, 서버 리소스 경합 또는 네트워크 병목 현상인지 파악할 수 있습니다.

AIOps는 위협으로부터 보호하기 위해 동일한 이상 감지 원칙을 적용하여 보안을 강화합니다. 네트워크 트래픽, 사용자 행동, 시스템 로그를 분석하여 정상적인 활동의 기준을 설정합니다. 그런 다음 비정상적인 데이터 액세스 패턴이나 예상치 못한 위치에서의 로그인 시도와 같이 잠재적인 보안 침해를 나타내는 의심스러운 편차에 플래그를 지정하여 보안팀에 알림을 트리거합니다.

지능형 알고리즘을 통합하여 알림을 분석하고 맥락화하며, 심각도, 비즈니스 영향, 종속 항목을 기반으로 알림의 우선순위를 동적으로 지정합니다. 이 기능은 알림 노이즈를 줄이고 IT팀이 가장 중요하고 실행 가능한 알림에 집중할 수 있도록 함으로써 단순한 기준점 기반 알림을 넘어섭니다.

트렌드 분석 및 용량 계획 알고리즘을 수행하여 잠재적인 성능 병목 현상을 선제적으로 파악하고 리소스 할당을 최적화합니다. AIOps는 과거 성능 데이터를 분석하고 미래의 리소스 요구사항을 예측하여 컴퓨팅 리소스 확장 또는 워크로드 재조정과 같은 리소스 조정에 대한 추천을 제공하여 최적의 성능을 유지하고 서비스 저하를 방지할 수 있습니다. 예를 들어 AIOps는 애플리케이션 성능 트렌드를 분석하고 웹 애플리케이션이 최대 부하를 경험할 가능성이 있는 시점을 예측하여 피크 시간 동안 일관된 사용자 경험을 보장하기 위해 웹 서버 인스턴스의 선제적 확장을 권장할 수 있습니다. 

AIOps를 구현하려면 데이터 품질, 통합, 기술 개발 등 다양한 요소를 고려하는 전략적 접근 방식이 필요합니다. 조직 내에서 AIOps를 구현하는 방법에 대한 대략적인 개요는 다음과 같습니다.

• 비즈니스 목표에 맞춰 AIOps 조정: AIOps 구현에 대한 명확한 목표를 정의하고 조직의 전반적인 비즈니스 전략에 맞춰 조정합니다. 예를 들어 조직의 목표가 고객 만족도 향상이라면 AIOps를 사용하여 다운타임을 줄이고 서비스 안정성을 개선하는 데 집중할 수 있습니다.
• 이벤트 데이터를 AIOps 도구에 연결: 다양한 소스와 모니터링 도구의 데이터를 통합하여 IT 환경을 통합적으로 파악할 수 있습니다. 여기에는 기존 모니터링 도구, 로그 관리 시스템, ITSM 플랫폼과의 통합이 포함될 수 있습니다.
• 노이즈 감소: 관련 없는 알림을 필터링하여 가장 중요한 문제에 집중할 수 있는 전략을 구현합니다. 여기에는 AI를 사용하여 알림의 상관관계를 파악하고, 패턴을 식별하고, 거짓양성을 억제하는 것이 포함될 수 있습니다.
• 이벤트 데이터 및 사고 보강 및 정규화: 이벤트 데이터를 표준화하고 보강하여 팀 간의 신속한 대응과 협업을 촉진합니다. 여기에는 영향을 받는 시스템, 애플리케이션, 사용자 등 알림에 컨텍스트 정보를 추가하는 것이 포함될 수 있습니다.
• 자동화된 해결 워크플로 빌드: 일반적이고 반복적인 사고를 파악하는 것부터 시작합니다. AIOps가 트리거하여 이러한 문제를 즉시 해결할 수 있는 자동화된 플레이북을 만들고 테스트하여 엔지니어가 더 복잡한 문제에 집중할 수 있도록 합니다.
• 고품질 데이터 확보: AIOps의 효과는 시스템에 제공되는 데이터의 품질에 따라 달라집니다. 데이터가 정확하고 완전하며 일관적인지 확인하여 부정확한 인사이트나 예측을 방지하세요.
• 개방형 API 및 SDK 활용: 개방형 API 및 SDK는 AIOps를 기존 시스템과 통합하고 통합을 맞춤설정하는 데 필수적입니다. 개방형 API와 SDK를 제공하는 AIOps 플랫폼을 선택하여 IT 환경과의 원활한 통합을 보장하세요.

Google Cloud는 최신 AIOps 전략의 구성요소 역할을 하는 강력한 통합 서비스 제품군을 제공합니다. 단일 제품이 아닌 '관찰, 참여, 행동' 워크플로를 구현할 수 있는 유연한 플랫폼을 제공합니다.

• '관찰' 레이어의 경우:
• Google Cloud의 Observability 제품군(Cloud Logging, Cloud Monitoring, Cloud Trace): 데이터 수집의 기반입니다. 전체 Google Cloud, 하이브리드, 멀티 클라우드 환경에서 측정항목, 로그, trace를 자동으로 수집하여 분석에 필요한 원시 데이터를 제공합니다.
• '참여'(분석 및 진단) 레이어의 경우:
• BigQuery: 이 서버리스 데이터 웨어하우스는 중앙 분석 엔진 역할을 합니다. Cloud Observability의 페타바이트 규모 운영 데이터를 저장하고 처리할 수 있습니다. 복잡한 쿼리를 실행하여 과거 트렌드를 분석하고 이질적인 데이터 세트 전반에서 패턴을 식별할 수 있습니다.
• Vertex AI: AIOps의 'AI'가 실현되는 곳입니다. Vertex AI를 사용하면 BigQuery에 저장된 데이터를 기반으로 고급 이상 감지, 예측 알림, 근본 원인 분석을 위한 커스텀 머신러닝 모델을 직접 빌드, 학습, 배포할 수 있습니다.
• '행동'(자동화 및 해결) 레이어의 경우:
• Cloud Functions 및 Cloud Run: 이러한 서버리스 컴퓨팅 서비스는 자동화된 해결 조치를 실행하는 데 적합합니다. Vertex AI의 인사이트 또는 Cloud Monitoring의 알림은 Cloud 함수를 트리거하여 포드를 자동으로 다시 시작하거나, 서비스를 확장하거나, 공동작업 도구에 자세한 알림을 게시할 수 있습니다.
• Workflows: 이 서비스를 사용하면 여러 Google Cloud 서비스에서 복잡한 일련의 작업을 조정할 수 있습니다. AIOps 이벤트에 의해 자동으로 트리거되는 정교한 엔드 투 엔드 해결 플레이북을 설계하여 일관되고 안정적인 사고 대응을 보장할 수 있습니다.