Creare e utilizzare un volume basato su un'istanza Parallelstore in GKE

Scopri come creare spazio di archiviazione supportato da istanze Parallelstore completamente gestite e accedervi come volumi. Il driver CSI è ottimizzato per i carichi di lavoro di addestramento AI/ML che richiedono dimensioni dei file più piccole e letture casuali.

Accelera il caricamento dei dati IA/ML con Hyperdisk ML

Scopri come semplificare e accelerare il caricamento dei pesi dei modelli AI/ML su GKE utilizzando Hyperdisk ML.

Gestisci un LLM utilizzando le TPU su GKE con JetStream e PyTorch

Scopri come gestire un modello LLM utilizzando le TPU (Tensor Processing Unit) su GKE con JetStream mediante PyTorch.

Best practice per ottimizzare l'inferenza LLM con GPU su GKE

Scopri le best practice per ottimizzare le prestazioni di inferenza LLM con le GPU su GKE utilizzando i framework di pubblicazione vLLM e di inferenza di generazione di testo (TGI).

Gestire lo stack GPU con l'operatore GPU NVIDIA su GKE

Scopri quando utilizzare l'operatore GPU NVIDIA e come attivarlo su GKE.

Configurare la scalabilità automatica per i carichi di lavoro LLM sulle TPU

Scopri come configurare l'infrastruttura di scalabilità automatica utilizzando il gestore della scalabilità automatica orizzontale dei pod (HPA) di GKE per eseguire il deployment di Gemma LLM utilizzando JetStream a host singolo.

Ottimizza i modelli aperti Gemma utilizzando più GPU su GKE

Scopri come ottimizzare il modello LLM Gemma utilizzando le GPU su GKE con la libreria Hugging Face Transformers.

Esegui il deployment di un'applicazione Ray Serve con un modello Stable Diffusion su GKE con TPU

Scopri come eseguire il deployment e pubblicare un modello di diffusione stabile su GKE utilizzando TPU, Ray Serve e il componente aggiuntivo Ray Operator.

Configurare la scalabilità automatica per i carichi di lavoro LLM su GPU con GKE

Scopri come configurare l'infrastruttura di scalabilità automatica utilizzando l'agente di scalabilità automatica dei pod orizzontali (HPA) di GKE per eseguire il deployment di Gemma LLM con il framework di servizio Hugging Face Text Generation Interface (TGI).

Addestra Llama2 con Megatron-LM su macchine virtuali A3 Mega

Scopri come eseguire un carico di lavoro PyTorch Megatron-LM basato su container su A3 Mega.

Esegui il deployment dei carichi di lavoro GPU in Autopilot

Scopri come richiedere acceleratori hardware (GPU) nei tuoi carichi di lavoro GKE Autopilot.

Gestisci un LLM con più GPU in GKE

Scopri come pubblicare Llama 2 70B o Falcon 40B utilizzando più GPU NVIDIA L4 con GKE.

Gestisci un LLM utilizzando TPU multi-host su GKE con Saxml

Scopri come gestire Falcon 7b, Llama2 7b, Falcon 40b o Llama2 70b utilizzando il framework Ray in GKE.

Iniziare a utilizzare Ray su GKE

Scopri come iniziare facilmente a utilizzare Ray su GKE eseguendo un carico di lavoro su un cluster Ray.

Gestisci un LLM su GPU L4 con Ray

Scopri come gestire Falcon 7b, Llama2 7b, Falcon 40b o Llama2 70b utilizzando il framework Ray in GKE.

Orchestra i carichi di lavoro TPU Multislice utilizzando JobSet e Kueue

Scopri come orchestrare un carico di lavoro Jax su più slice TPU su GKE utilizzando JobSet e Kueue.

Monitoraggio dei carichi di lavoro delle GPU su GKE con NVIDIA Data Center GPU Manager (DCGM)

Scopri come osservare i carichi di lavoro delle GPU su GKE con NVIDIA Data Center GPU Manager (DCGM).

Guida rapida: addestramento di un modello con GPU sui cluster GKE Standard

Questa guida rapida mostra come eseguire il deployment di un modello di addestramento con GPU in GKE e archiviare le previsioni in Cloud Storage.

Esecuzione di machine learning su larga scala su GKE

Questo video mostra come GKE aiuta a risolvere le sfide comuni relative all'addestramento di modelli AI di grandi dimensioni su larga scala e le best practice per l'addestramento e la gestione di modelli di machine learning su larga scala su GKE.

TensorFlow su GKE Autopilot con accelerazione GPU

Questo post del blog è una guida passo passo alla creazione, all'esecuzione e allo smantellamento di un notebook Jupiter abilitato per Tensorflow.

Implementare un sistema di coda dei job con condivisione della quota tra gli spazi dei nomi su GKE

Questo tutorial utilizza Kueue per mostrarti come implementare un sistema di coda di job e configurare la condivisione di risorse e quote dei carichi di lavoro tra diversi spazi dei nomi su GKE.

Creare un chatbot RAG con GKE e Cloud Storage

Questo tutorial mostra come integrare un'applicazione Large Language Model basata sulla generazione basata sul recupero con i file PDF caricati in un bucket Cloud Storage.

Semplificazione dei motori di ricerca: un approccio low code con GKE e Vertex AI Agent Builder

Come creare un motore di ricerca con Google Cloud utilizzando Vertex AI Agent Builder, Vertex AI Search e GKE.

LiveX AI riduce i costi dell'assistenza clienti con agenti IA addestrati e gestiti su GKE e NVIDIA AI

In che modo LiveX AI utilizza GKE per creare agenti IA che migliorano la soddisfazione dei clienti e riducono i costi.

Infrastruttura per un'applicazione di AI generativa compatibile con RAG che utilizza GKE

Architettura di riferimento per l'esecuzione di un'applicazione di IA generativa con RAG (Retrieval-Augmented Generation) utilizzando GKE, Cloud SQL, Ray, Hugging Face e LangChain.

Innovazione nella ricerca di brevetti: come IPRally sfrutta l'AI con GKE e Ray

In che modo IPRally utilizza GKE e Ray per creare una piattaforma ML scalabile ed efficiente per ricerche di brevetti più rapide e con una maggiore precisione.

Approfondimento sulle prestazioni di Gemma su Google Cloud

Sfrutta le potenzialità di Gemma su GPU Cloud e Cloud TPU per l'inferenza e l'addestramento in modo efficiente su GKE.

Approfondimento di Gemma su GKE: innovazioni per gestire modelli di AI generativa aperti

Utilizza i migliori modelli aperti di Gemma per creare applicazioni AI portatili e personalizzabili ed eseguirne il deployment su GKE.

Programmazione avanzata per AI/ML con Ray e Kueue

Orchestrare le applicazioni Ray in GKE con KubeRay e Kueue.

Come proteggere Ray su Google Kubernetes Engine

Applica approfondimenti sulla sicurezza e tecniche di hardening per l'addestramento dei carichi di lavoro AI/ML utilizzando Ray su GKE.

Progetta l'archiviazione per carichi di lavoro di AI e ML in Google Cloud

Seleziona la migliore combinazione di opzioni di archiviazione per i carichi di lavoro AI e ML su Google Cloud.

L'installazione automatica dei driver semplifica l'utilizzo delle GPU NVIDIA in GKE

Installa automaticamente i driver GPU Nvidia in GKE.

Accelera il tuo percorso verso l'IA generativa con il framework NVIDIA NeMo su GKEE

Addestrare modelli di IA generativa utilizzando GKE e il framework NVIDIA NeMo.

Perché scegliere GKE per i tuoi carichi di lavoro di AI Ray?

Migliora la scalabilità, l'efficienza in termini di costi, la tolleranza ai guasti, l'isolamento e la portabilità utilizzando GKE per i carichi di lavoro Ray.

Esecuzione dell'IA su GKE completamente gestito, ora con nuove opzioni di calcolo, prezzi e prenotazioni delle risorse

Ottieni un supporto GPU migliorato, prestazioni e prezzi inferiori per i carichi di lavoro AI/ML con GKE Autopilot.

In che modo SEEN ha scalato l'output di 89 volte e ridotto i costi delle GPU del 66% utilizzando GKE

La startup scala l'output video personalizzato con GKE.

Come Let's Enhance utilizza NVIDIA AI e GKE per l'editing delle foto basato sull'IA

IA innovativa per abbellire le immagini utilizzando le GPU NVIDIA e GKE.

In che modo la condivisione delle GPU di GKE aiuta gli scienziati ricerca dei neutrini

La condivisione della GPU di GKE aiuta la ricerca dei neutrini da parte degli scienziati.

GPU con condivisione del tempo in GKE

Scopri come la funzionalità di condivisione in tempo della GPU su GKE consente a più container di condividere una singola GPU fisica, migliorandone così l'utilizzo.

GPU a più istanze in GKE

Scopri come le GPU multi-istanza in GKE ti aiutano a ottenere un valore maggiore dai tuoi investimenti nelle GPU.

Scopri come Etsy utilizza GKE per riprogettare la propria piattaforma di machine learning

Etsy sfrutta il machine learning (ML) per creare esperienze personalizzate per i nostri milioni di acquirenti in tutto il mondo.

In che modo Spotify sta liberando l'innovazione ML con Ray e GKE

In che modo Ray sta trasformando lo sviluppo dell'IA presso Spotify.

In che modo Ordaōs Bio sfrutta l'AI generativa su GKE

Ordaōs Bio, uno dei principali acceleratori AI per la ricerca e la scoperta biomedica, sta trovando soluzioni a nuove immunoterapie in oncologia e malattie infiammatorie croniche.

GKE da una startup in crescita basata sul machine learning

In che modo Moloco, una startup della Silicon Valley, ha sfruttato la potenza di GKE e Tensor Flow Enterprise per potenziare la propria infrastruttura di machine learning (ML).

Ray su GKE

Usa questo modello Terraform per eseguire Ray su GKE.

Configura Ray su GKE con TPU

Utilizza questo esempio Terraform per eseguire il deployment di Ray su un cluster GKE con una topologia 2x2x1.

Carichi di lavoro di addestramento ML su GKE con l'API JobSet

Esegui carichi di lavoro distribuiti di addestramento di machine learning su GKE utilizzando l'API JobSet.

JAX "Hello World" su GKE

Esegui un semplice programma JAX utilizzando GPU NVIDIA A100-80 GB su un cluster GKE.