Executar inferência em lote usando GPUs em jobs do Cloud Run
É possível executar a inferência em lote com o LLM Llama 3.2-1b da Meta e o vLLM em um job do Cloud Run e gravar os resultados diretamente no Cloud Storage usando as montagens de volume do Cloud Run.
[[["Fácil de entender","easyToUnderstand","thumb-up"],["Meu problema foi resolvido","solvedMyProblem","thumb-up"],["Outro","otherUp","thumb-up"]],[["Difícil de entender","hardToUnderstand","thumb-down"],["Informações incorretas ou exemplo de código","incorrectInformationOrSampleCode","thumb-down"],["Não contém as informações/amostras de que eu preciso","missingTheInformationSamplesINeed","thumb-down"],["Problema na tradução","translationIssue","thumb-down"],["Outro","otherDown","thumb-down"]],["Última atualização 2025-10-19 UTC."],[],[]]
