이 문서에서는 Agent Engine Threat Detection 및 감지기에 대해 설명합니다.
Agent Engine Threat Detection은 Vertex AI Agent Engine 런타임에 배포된 AI 에이전트에 대한 잠재적 공격을 감지하고 조사하는 데 도움이 되는 Security Command Center의 기본 제공 서비스입니다. Agent Engine Threat Detection 서비스에서 잠재적인 공격을 감지하면 서비스에서 Security Command Center에 거의 실시간으로 발견 사항을 생성합니다.
Agent Engine Threat Detection은 지원되는 AI 에이전트를 모니터링하고 가장 일반적인 런타임 위협을 감지합니다. 런타임 위협에는 악성 바이너리 또는 스크립트 실행, 컨테이너 이스케이프, 리버스 셸, 에이전트 환경 내 공격 도구 사용이 포함됩니다.
또한 Event Threat Detection의 컨트롤 플레인 감지기는 Identity and Access Management, BigQuery, Cloud SQL 로그를 비롯한 다양한 감사 로그와 Vertex AI Agent Engine 로그(stdout 및 stderr)를 분석하여 의심스러운 활동을 감지합니다. 컨트롤 플레인 위협에는 데이터 유출 시도, 과도한 권한 거부, 의심스러운 토큰 생성이 포함됩니다.
이점
Agent Engine Threat Detection은 다음과 같은 이점을 제공합니다.
- AI 워크로드의 위험을 선제적으로 줄입니다. Agent Engine Threat Detection은 AI 에이전트의 동작과 환경을 모니터링하여 위협을 조기에 감지하고 대응할 수 있도록 지원합니다.
- 통합 위치에서 AI 보안을 관리하세요. Agent Engine Threat Detection 발견 사항은 Security Command Center에 직접 표시됩니다. 중앙 인터페이스를 통해 위협 발견 사항을 다른 클라우드 보안 위험과 함께 확인하고 관리할 수 있습니다.
작동 방식
Agent Engine Threat Detection은 호스팅된 AI 에이전트에서 원격 분석을 수집하여 런타임 공격을 나타낼 수 있는 프로세스, 스크립트, 라이브러리를 분석합니다. Agent Engine Threat Detection이 잠재적인 위협을 감지하면 다음 작업을 수행합니다.
Agent Engine Threat Detection는 에이전트형 워크로드가 실행되는 동안 감시자 프로세스를 사용하여 이벤트 정보를 수집합니다. 감시자 프로세스가 시작되고 정보를 수집하는 데 최대 1분이 걸릴 수 있습니다.
Agent Engine Threat Detection은 수집된 이벤트 정보를 분석하여 이벤트가 사고를 나타내는지 확인합니다. Agent Engine Threat Detection은 자연어 처리(NLP)를 사용하여 Bash 및 Python 스크립트에서 악성 코드를 분석합니다.
Agent Engine Threat Detection에서 사고를 식별하면 사고를 Security Command Center의 발견 사항으로 보고합니다.
Agent Engine Threat Detection이 사고를 식별하지 못하면 정보를 저장하지 않습니다.
수집된 모든 데이터는 메모리에서 처리되며, 분석 후에는 사고로 식별되고 발견 사항으로 보고되지 않는 한 유지되지 않습니다.
Google Cloud 콘솔에서 Agent Engine Threat Detection 발견 사항을 검토하는 방법에 관한 자세한 내용은 발견 사항 검토를 참고하세요.
감지기
이 섹션에는 Vertex AI Agent Engine 런타임에 배포된 AI 에이전트를 모니터링하는 런타임 및 컨트롤 플레인 감지기가 나와 있습니다.
런타임 감지기
Agent Engine Threat Detection에는 다음과 같은 런타임 감지기가 포함됩니다.
| 표시 이름 | 모듈 이름 | 설명 |
|---|---|---|
| 실행: 추가된 악성 바이너리 실행됨(프리뷰) | AGENT_ENGINE_ADDED_MALICIOUS_BINARY_EXECUTED |
프로세스에서 위협 인텔리전스가 악성으로 식별하는 바이너리를 실행했습니다. 이 바이너리는 원래 에이전트형 워크로드에 포함되지 않았습니다. 이 이벤트는 공격자가 워크로드를 제어하고 악성 소프트웨어를 실행하고 있음을 강력하게 시사합니다. |
| 실행: 추가된 악성 라이브러리 로드됨(프리뷰) | AGENT_ENGINE_ADDED_MALICIOUS_LIBRARY_LOADED |
프로세스에서 위협 인텔리전스가 악성으로 식별하는 라이브러리를 로드했습니다. 이 라이브러리는 원래 에이전트형 워크로드에 포함되지 않았습니다. 이 이벤트는 공격자가 워크로드를 제어하고 악성 소프트웨어를 실행하고 있음을 나타냅니다. |
| 실행: 기본 제공되는 악성 바이너리 실행됨(프리뷰) | AGENT_ENGINE_BUILT_IN_MALICIOUS_BINARY_EXECUTED |
프로세스에서 위협 인텔리전스가 악성으로 식별하는 바이너리를 실행했습니다. 이 바이너리는 원래 에이전트형 워크로드의 일부였습니다. 이 이벤트는 공격자가 악성 워크로드를 배포하고 있음을 나타낼 수 있습니다. 예를 들어 공격자가 합법적인 빌드 파이프라인을 제어하여 악성 바이너리를 에이전트형 워크로드에 삽입했을 수 있습니다. |
| 실행: 컨테이너 이스케이프(프리뷰) | AGENT_ENGINE_CONTAINER_ESCAPE |
컨테이너 내에서 실행되는 프로세스가 알려진 익스플로잇 기법 또는 바이너리를 사용하여 컨테이너 격리를 우회하려고 시도했습니다. 위협 인텔리전스에서 이를 잠재적 위협으로 식별합니다. 이스케이프에 성공하면 공격자가 호스트 시스템에 액세스하고 전체 환경을 보안 침해할 수 있습니다. 이 작업은 공격자가 취약점을 공격하여 호스트 시스템 또는 더 광범위한 인프라에 무단으로 액세스하고 있음을 나타냅니다. |
| 실행: Kubernetes 공격 도구 실행(프리뷰) | AGENT_ENGINE_KUBERNETES_ATTACK_TOOL_EXECUTION |
프로세스에서 Kubernetes 관련 공격 도구를 실행했습니다. 위협 인텔리전스에서 이를 잠재적 위협으로 식별합니다. 이 작업은 공격자가 클러스터에 액세스하여 Kubernetes 관련 취약점 또는 구성을 악용하는 도구를 사용하고 있음을 나타냅니다. |
| 실행: 로컬 정찰 도구 실행(프리뷰) | AGENT_ENGINE_LOCAL_RECONNAISSANCE_TOOL_EXECUTION |
프로세스가 일반적으로 에이전트형 워크로드에 포함되지 않는 로컬 정찰 도구를 실행했습니다. 위협 인텔리전스는 이러한 도구를 잠재적 위협으로 식별합니다. 이 이벤트는 공격자가 인프라 매핑, 취약점 식별, 시스템 구성에 관한 데이터 수집 등 내부 시스템 정보를 수집하려고 시도하고 있음을 나타냅니다. |
| 실행: 악성 Python 실행됨(프리뷰) | AGENT_ENGINE_MALICIOUS_PYTHON_EXECUTED |
머신러닝 모델이 실행된 Python 코드를 악성으로 식별했습니다. 공격자는 Python을 사용하여 보안 침해된 환경에 도구나 파일을 다운로드하고 바이너리를 사용하지 않고 명령어를 실행할 수 있습니다. 감지기는 자연어 처리(NLP)를 사용하여 Python 코드의 콘텐츠를 분석합니다. 이 방법은 서명을 기반으로 하지 않기 때문에 감지기가 알려진 악성 Python 코드와 새로운 악성 Python 코드를 식별할 수 있습니다. |
| 실행: 수정된 악성 바이너리 실행됨(프리뷰) | AGENT_ENGINE_MODIFIED_MALICIOUS_BINARY_EXECUTED |
프로세스에서 위협 인텔리전스가 악성으로 식별하는 바이너리를 실행했습니다. 이 바이너리는 원래 에이전트형 워크로드의 일부였지만 런타임에 수정되었습니다. 이 이벤트는 공격자가 워크로드를 제어하고 악성 소프트웨어를 실행하고 있음을 나타냅니다. |
| 실행: 수정된 악성 라이브러리 로드됨(프리뷰) | AGENT_ENGINE_MODIFIED_MALICIOUS_LIBRARY_LOADED |
프로세스에서 위협 인텔리전스가 악성으로 식별하는 라이브러리를 로드했습니다. 이 라이브러리는 원래 에이전트형 워크로드에 포함되었지만 런타임에 수정되었습니다. 이 이벤트는 공격자가 워크로드를 제어하고 악성 소프트웨어를 실행하고 있음을 나타냅니다. |
| 악성 스크립트 실행됨(프리뷰) | AGENT_ENGINE_MALICIOUS_SCRIPT_EXECUTED |
머신러닝 모델이 실행된 Bash 코드를 악성으로 식별했습니다. 공격자는 Bash를 사용하여 보안 침해된 환경에 도구나 파일을 다운로드하고 바이너리를 사용하지 않고 명령어를 실행할 수 있습니다. 감지기는 NLP를 사용하여 Bash 코드의 콘텐츠를 분석합니다. 이 방법은 서명을 기반으로 하지 않기 때문에 감지기가 알려진 Bash 코드 및 새로운 악성 Bash 코드를 식별할 수 있습니다. |
| 악성 URL 모니터링됨(프리뷰) | AGENT_ENGINE_MALICIOUS_URL_OBSERVED |
Agent Engine Threat Detection이 실행 중인 프로세스의 인수 목록에서 악성 URL을 관찰했습니다. 감지기는 이러한 URL을 Google 세이프 브라우징 서비스에서 유지관리하는 안전하지 않은 웹 리소스 목록과 비교합니다. Google에서 URL을 피싱 사이트 또는 멀웨어로 잘못 분류했다고 생각되면 잘못된 데이터 보고에서 문제를 신고하세요. |
| 리버스 셸(프리뷰) | AGENT_ENGINE_REVERSE_SHELL |
원격으로 연결된 소켓에 대한 스트림 리디렉션으로 프로세스가 시작되었습니다. 감지기는 원격 소켓에 결합된 리버스 셸을 사용하면 공격자는 보안 침해된 워크로드에서 공격자가 제어하는 머신으로 통신할 수 있습니다. 그런 다음 공격자가 봇넷의 일부로 워크로드를 명령하고 제어할 수 있습니다. |
| 예기치 않은 하위 셸(프리뷰) | AGENT_ENGINE_UNEXPECTED_CHILD_SHELL |
일반적으로 셸을 호출하지 않는 프로세스로 인해 셸 프로세스가 생성되었습니다. 감지기는 프로세스 실행을 모니터링하고 알려진 상위 프로세스가 예기치 않게 셸을 생성하면 발견 사항을 생성합니다. |
컨트롤 플레인 감지기
이 섹션에서는 Vertex AI Agent Engine 런타임에 배포된 AI 에이전트를 위해 특별히 설계된 Event Threat Detection의 컨트롤 플레인 감지기를 설명합니다. Event Threat Detection에는 일반적인 AI 관련 위협 감지기도 있습니다.
이러한 컨트롤 플레인 감지기는 기본적으로 사용 설정되어 있습니다. 이러한 감지기는 다른 Event Threat Detection 감지기를 관리하는 것과 동일한 방식으로 관리합니다. 자세한 내용은 Event Threat Detection 사용을 참조하세요.
| 표시 이름 | API 이름 | 로그 소스 유형 | 설명 |
|---|---|---|---|
| 발견: Agent Engine 서비스 계정 자체 조사(프리뷰) | AGENT_ENGINE_IAM_ANOMALOUS_BEHAVIOR_SERVICE_ACCOUNT_GETS_OWN_IAM_POLICY |
Cloud 감사 로그: IAM 데이터 액세스 감사 로그 권한: DATA_READ |
Vertex AI Agent Engine에 배포된 AI 에이전트와 연결된 ID가 동일한 서비스 계정과 연결된 역할 및 권한을 조사하는 데 사용되었습니다. 민감한 역할 발견 항목은 부여된 역할의 중요도에 따라 높음 또는 중간 중요도로 분류됩니다. 자세한 내용은 중요한 IAM 역할 및 권한을 참조하세요. |
| 유출: Agent Engine이 시작한 BigQuery 데이터 유출(프리뷰) |
AGENT_ENGINE_BIG_QUERY_EXFIL_VPC_PERIMETER_VIOLATIONAGENT_ENGINE_BIG_QUERY_EXFIL_TO_EXTERNAL_TABLE
|
Cloud 감사 로그:
BigQueryAuditMetadata 데이터 액세스 로그
권한:DATA_READ
|
Vertex AI Agent Engine에 배포된 에이전트가 시작한 BigQuery 데이터 유출의 다음 시나리오를 감지합니다.
|
| 유출: Agent Engine이 시작한 Cloud SQL 유출(프리뷰) |
AGENT_ENGINE_CLOUDSQL_EXFIL_EXPORT_TO_PUBLIC_GCSAGENT_ENGINE_CLOUDSQL_EXFIL_EXPORT_TO_EXTERNAL_GCS
|
Cloud 감사 로그:
MySQL 데이터 액세스 로그 PostgreSQL 데이터 액세스 로그 SQL 서버 데이터 액세스 로그 |
Vertex AI Agent Engine에 배포된 에이전트가 시작한 Cloud SQL 데이터 유출의 다음 시나리오를 감지합니다.
Security Command Center 프리미엄 등급의 프로젝트 수준 활성화의 경우 표준 등급이 상위 조직에서 사용 설정된 경우에만 이 발견 항목을 사용할 수 있습니다. 발견 항목은 기본적으로 심각도가 높음으로 분류됩니다. |
| 유출: Agent Engine이 시작한 BigQuery 데이터 추출(프리뷰) | AGENT_ENGINE_BIG_QUERY_EXFIL_TO_CLOUD_STORAGE |
Cloud 감사 로그:
BigQueryAuditMetadata 데이터 액세스 로그
권한:DATA_READ
|
Vertex AI Agent Engine에 배포된 에이전트가 시작한 BigQuery 데이터 추출의 다음 시나리오를 감지합니다.
Security Command Center 프리미엄 등급의 프로젝트 수준 활성화의 경우 표준 등급이 상위 조직에서 사용 설정된 경우에만 이 발견 항목을 사용할 수 있습니다. 발견 항목은 기본적으로 심각도가 낮음으로 분류됩니다. |
| 초기 액세스: Agent Engine ID 과도한 권한 거부 작업(프리뷰) | AGENT_ENGINE_EXCESSIVE_FAILED_ATTEMPT |
Cloud 감사 로그: 관리자 활동 로그 | Vertex AI Agent Engine에 배포된 AI 에이전트와 연결된 ID가 여러 메서드 및 서비스에서 변경사항을 시도하여 권한 거부됨 오류를 반복적으로 트리거했습니다. 발견 항목은 기본적으로 심각도가 보통으로 분류됩니다. |
| 권한 에스컬레이션: Agent Engine 의심스러운 토큰 생성(프리뷰) | AGENT_ENGINE_SUSPICIOUS_TOKEN_GENERATION_IMPLICIT_DELEGATION |
Cloud 감사 로그: IAM 데이터 액세스 감사 로그 |
Vertex AI Agent Engine을 통해 권한이 더 많은 서비스 계정에서 액세스 토큰을 생성하기 위해 iam.serviceAccounts.implicitDelegation 권한이 오용되었습니다. 발견 사항은 기본적으로 심각도가 낮음으로 분류됩니다.
|
| 권한 에스컬레이션: Agent Engine 의심스러운 토큰 생성(프리뷰) | AGENT_ENGINE_SUSPICIOUS_TOKEN_GENERATION_CROSS_PROJECT_OPENID |
Cloud 감사 로그: IAM 데이터 액세스 감사 로그 |
프로젝트 수준의 활성화에는 이 발견 항목을 사용할 수 없습니다. 발견 항목은 기본적으로 심각도가 낮음으로 분류됩니다. |
| 권한 에스컬레이션: Agent Engine 의심스러운 토큰 생성(프리뷰) | AGENT_ENGINE_SUSPICIOUS_TOKEN_GENERATION_CROSS_PROJECT_ACCESS_TOKEN |
Cloud 감사 로그: IAM 데이터 액세스 감사 로그 |
Vertex AI Agent Engine에 배포된 AI 에이전트를 통해 프로젝트 수준의 활성화에는 이 발견 항목을 사용할 수 없습니다. 발견 항목은 기본적으로 심각도가 낮음으로 분류됩니다. |
다음 단계
- Agent Engine Threat Detection 사용 방법 알아보기
- Event Threat Detection 사용 방법 알아보기
- 위협 발견 사항 색인 참고