Autopilot에서 GPU 워크로드 배포

GKE Autopilot 워크로드에서 하드웨어 가속기(GPU)를 요청하는 방법을 알아봅니다.

GKE에서 여러 GPU로 LLM 제공

GKE에서 여러 NVIDIA L4 GPU를 사용해서 Llama 2 70B 또는 Falcon 40B를 제공하는 방법을 알아봅니다.

Saxml을 사용해서 GKE에서 멀티 호스트 TPU를 사용하는 LLM 서빙

GKE에서 Ray 프레임워크를 사용해서 Falcon 7b, Llama2 7b, Falcon 40b, Llama2 70b를 제공하는 방법을 알아봅니다.

GKE에서 Ray 시작하기

Ray 클러스터에서 워크로드를 실행하여 GKE에서 Ray를 손쉽게 시작하는 방법을 알아봅니다.

Ray를 사용하여 L4 GPU에 LLM 제공

GKE에서 Ray 프레임워크를 사용해서 Falcon 7b, Llama2 7b, Falcon 40b, Llama2 70b를 제공하는 방법을 알아봅니다.

JobSet 및 Kueue를 사용하여 TPU 멀티슬라이스 워크로드 조정

JobSet 및 Kueue를 사용해서 GKE에서 여러 TPU 슬라이스에서 Jax 워크로드를 조정하는 방법을 알아봅니다.

NVIDIA Data Center GPU Manager(DCGM)를 사용하여 GKE에서 GPU 워크로드 모니터링

NVIDIA Data Center GPU Manager(DCGM)를 사용하여 GKE에서 GPU 워크로드를 관찰하는 방법을 알아봅니다.

빠른 시작: GKE Standard 클러스터에서 GPU를 사용하여 모델 학습

이 빠른 시작에서는 GKE에서 GPU를 사용하여 학습 모델을 배포하고 Cloud Storage에 예측을 저장하는 방법을 보여줍니다.

GKE에서 대규모 머신러닝 실행

이 동영상은 GKE를 사용하여 대규모 AI 모델을 규모에 맞게 학습하는 데 따르는 일반적인 문제를 해결하는 방법과 GKE에서 대규모 머신러닝 모델을 학습시키고 제공하기 위한 권장사항을 보여줍니다.

GKE Autopilot의 TensorFlow와 GPU 가속

이 블로그 게시물은 Tensorflow가 지원되는 Jupiter 노트북의 생성, 실행, 분해에 대한 단계별 안내입니다.

GKE에서 네임스페이스 간 할당량 공유로 작업 큐 추가 구현

이 튜토리얼에서는 Kueue를 사용하여 작업 큐 시스템을 구현하고 GKE에서 여러 네임스페이스 간에 워크로드 리소스 및 할당량 공유를 구성하는 방법을 보여줍니다.

Ray 및 Kueue를 사용한 AI/ML 고급 예약

KubeRay 및 Kueue를 사용하여 GKE에서 Ray 애플리케이션을 조정합니다.

Google Kubernetes Engine에서 Ray를 보호하는 방법

GKE의 Ray를 사용하여 AI/ML 워크로드를 학습하기 위한 보안 통계 및 강화 기술을 적용합니다.

Google Cloud의 AI 및 ML 워크로드를 위한 스토리지 설계

Google Cloud의 AI 및 ML 워크로드를 위한 최적의 스토리지 옵션 조합을 선택하세요.

자동 드라이버 설치로 GKE에서 NVIDIA GPU 사용 간소화

GKE에 Nvidia GPU 드라이버를 자동으로 설치합니다.

GKEE 기반 NVIDIA NeMo 프레임워크로 생성형 AI 여정 가속화

GKE 및 NVIDIA NeMo 프레임워크를 사용하여 생성형 AI 모델을 학습시킵니다.

Ray AI 워크로드에 GKE를 사용해야 하는 이유

Ray 워크로드에 GKE를 사용하여 확장성, 비용 효율성, 내결함성, 격리, 이동성을 개선합니다.

이제 새로운 컴퓨팅 옵션, 가격 책정, 리소스 예약 기능으로 완전 관리형 GKE에서 AI 실행

GKE Autopilot으로 AI/ML 워크로드의 GPU 지원, 성능, 가격 인하 효과를 누리세요.

SEEN이 GKE를 사용하여 출력을 89배 확장하고 GPU 비용을 66% 절감한 방법

스타트업에서 GKE를 사용해 맞춤설정된 동영상 출력을 확장합니다.

Let's Enhances에서 NVIDIA AI 및 GKE를 사용하여 AI 기반 사진 편집을 지원하는 방법

NVIDIA GPU와 GKE를 사용하여 이미지 볼 수 있는 혁신적인 AI

GKE의 GPU 공유가 과학자의 중성미자 탐색에 도움이 되는 방법

GKE GPU 공유는 과학자가 중립적 대안을 찾는 데 도움이 됩니다.

GKE의 시간 공유 GPU

여러 컨테이너에서 단일 물리적 GPU를 공유하여 사용률을 개선하는 GKE의 GPU 시간 공유 기능을 알아봅니다.

GKE의 멀티 인스턴스 GPU

GKE의 멀티 인스턴스 GPU가 GPU 투자에서 더 많은 가치를 창출하는 데 어떻게 도움이 되는지 알아보세요.

Etsy가 GKE를 사용하여 머신러닝 플랫폼을 재설계하는 방법

Etsy는 머신러닝(ML)을 활용하여 전 세계 수백만 명의 구매자에게 맞춤설정된 환경을 만듭니다.

Spotify가 Ray와 GKE로 ML 혁신을 이끄는 방법

Ray가 Spotify에서 ML 개발을 혁신하는 방법

Ordaōs Bio가 GKE에서 생성형 AI를 활용하는 방법

생물 의학 연구 및 발견을 위한 선도적인 AI 가속기 중 하나인 Ordaos Bio는 종양학 및 만성 염증 질환의 새로운 면역 치료를 위한 솔루션을 찾고 있습니다.

ML을 기반으로 성장하는 스타트업의 GKE

실리콘 밸리 스타트업인 Moloco가 GKE 및 Tensor Flow Enterprise를 활용해 머신러닝(ML) 인프라를 강화한 방법을 소개합니다.

GKE의 Ray

이 Terraform 템플릿을 사용하여 GKE에서 Ray를 실행합니다.

TPU를 사용하여 GKE에 Ray 설정

이 Terraform 샘플을 사용하여 2x2x1 토폴로지로 GKE 클러스터에 Ray를 배포합니다.

JobSet API를 사용하여 GKE의 ML 학습 워크로드

JobSet API를 사용하여 GKE에서 분산 머신러닝 학습 워크로드를 실행합니다.

GKE의 JAX 'Hello World'

GKE 클러스터에서 NVIDIA GPU A100-80GB를 사용하여 간단한 JAX 프로그램을 실행합니다.