大语言模型 (LLM)
由先进的 Google AI 驱动的大语言模型
Google Cloud 将由 Google DeepMind 开发和测试的创新技术融入我们的企业级 AI 平台，使客户可以直接用于构建和提供生成式 AI 功能，无需准备，无需等待。
新客户可获得 $300 赠金，用于抵扣 Vertex AI 的相关费用。
概览
什么是大语言模型 (LLM)？
大语言模型 (LLM) 是一种基于大量数据训练的统计语言模型，可用于生成和翻译文本和其他内容，以及执行其他自然语言处理 (NLP) 任务。
LLM 通常基于深度学习架构，例如 Google 在 2017 年开发的 Transformer，可以使用数十亿文本和其他内容进行训练。
能否举一些常用的基础模型？
Vertex AI 支持访问 Gemini，这是 Google DeepMind 推出的一个多模态模型。Gemini 能够理解几乎任何输入、组合不同类型的信息，还能生成几乎任何输出。在 Vertex AI with Gemini 中提供提示并执行测试，可使用文本、图片、视频或代码。利用 Gemini 的高级推理和先进的生成功能，开发者可以尝试使用示例提示，从而提取图片中的文本、将图片文本转换为 JSON，甚至可以针对上传的图片生成答案，以构建新一代 AI 应用。
大语言模型有什么优点？
Google Cloud 提供哪些大语言模型服务？
Generative AI on Vertex AI：可让您访问 Google 的大型生成式 AI 模型，以便测试、调整和部署模型，并用于 AI 驱动的应用。
Vertex AI Agent Builder：企业搜索和聊天机器人应用，具有针对新手入门、数据注入和自定义等常见任务的预构建工作流。
Contact Center AI (CCAI)：智能联络中心解决方案，其中包括我们的对话式 AI 平台 Dialogflow，它同时具备基于意图的功能和 LLM 功能。
工作方式
LLM 使用大量文本数据来训练神经网络。然后，此神经网络会用于生成文本、翻译文本或执行其他任务。用于训练神经网络的数据越多，它执行任务时的性能和准确性就越高。
Google Cloud 基于其 LLM 技术开发了多款产品，以满足不同的应用场景，您可以在下面的“常见用途”部分中进行探索。
LLM 使用大量文本数据来训练神经网络。然后，此神经网络会用于生成文本、翻译文本或执行其他任务。用于训练神经网络的数据越多，它执行任务时的性能和准确性就越高。
Google Cloud 基于其 LLM 技术开发了多款产品，以满足不同的应用场景，您可以在下面的“常见用途”部分中进行探索。
常见用途
构建聊天机器人
构建依托 LLM 的聊天机器人
Vertex AI Agents 可帮助创建语音自然而逼真的聊天机器人。Generative AI Agent 是 Vertex AI Agents 中的一项功能，基于 Dialogflow CX 中的功能构建。
使用该功能时，您可以提供一个网站网址和/或任意数量的文档，然后 Generative AI Agent 会解析您的内容并创建由数据存储区和 LLM 提供支持的虚拟客服。
方法指南
构建依托 LLM 的聊天机器人
Vertex AI Agents 可帮助创建语音自然而逼真的聊天机器人。Generative AI Agent 是 Vertex AI Agents 中的一项功能，基于 Dialogflow CX 中的功能构建。
使用该功能时，您可以提供一个网站网址和/或任意数量的文档，然后 Generative AI Agent 会解析您的内容并创建由数据存储区和 LLM 提供支持的虚拟客服。
研究和信息发现
即时查找和总结复杂信息
只需点击一下按钮，即可从各种复杂文档（例如 10-K 表单、研究论文、第三方新闻服务和财务报告）中提取并汇总有价值的信息。观看右侧的演示，了解企业搜索如何使用自然语言理解语义查询、提供汇总响应以及提供后续问题。
研究和信息发现解决方案架构
该解决方案使用 Vertex AI Agent Builder 作为其核心组件。借助 Vertex AI Agent Builder，即使是初入职场的开发者也能在几分钟内快速构建和部署聊天机器人及搜索应用。
方法指南
即时查找和总结复杂信息
只需点击一下按钮，即可从各种复杂文档（例如 10-K 表单、研究论文、第三方新闻服务和财务报告）中提取并汇总有价值的信息。观看右侧的演示，了解企业搜索如何使用自然语言理解语义查询、提供汇总响应以及提供后续问题。
其他资源
研究和信息发现解决方案架构
该解决方案使用 Vertex AI Agent Builder 作为其核心组件。借助 Vertex AI Agent Builder，即使是初入职场的开发者也能在几分钟内快速构建和部署聊天机器人及搜索应用。
文档汇总
使用 Vertex AI LLM 处理并总结大型文档
借助生成式 AI 文档摘要功能，您可以部署一键式解决方案，帮助检测原始文件中的文本并实现文档摘要自动化。该解决方案建立了一个使用 Cloud Vision 光学字符识别 (OCR) 从上传的 Cloud Storage PDF 文档中提取文本、使用 Vertex AI 创建所提取文本的摘要、将可搜索的摘要存储在 BigQuery 数据库中。
方法指南
使用 Vertex AI LLM 处理并总结大型文档
借助生成式 AI 文档摘要功能，您可以部署一键式解决方案，帮助检测原始文件中的文本并实现文档摘要自动化。该解决方案建立了一个使用 Cloud Vision 光学字符识别 (OCR) 从上传的 Cloud Storage PDF 文档中提取文本、使用 Vertex AI 创建所提取文本的摘要、将可搜索的摘要存储在 BigQuery 数据库中。
构建 AI 赋能的联络中心
使用 CCAI 构建 AI 赋能的联络中心
得益于自然语言处理、生成式 AI、文字和语音识别等 AI 技术，Contact Center AI (CCAI) 提供联络中心即服务 (CCaaS) 解决方案，从头开始构建联络中心。它还提供针对呼叫中心特定方面的具体工具，例如 Dialogflow CX（用于构建 LLM 赋能的聊天机器人）、Agent Assist（用于为人工客服提供实时帮助），以及 CCAI Insights（用于识别来电驱动因素和情绪）。
方法指南
使用 CCAI 构建 AI 赋能的联络中心
得益于自然语言处理、生成式 AI、文字和语音识别等 AI 技术，Contact Center AI (CCAI) 提供联络中心即服务 (CCaaS) 解决方案，从头开始构建联络中心。它还提供针对呼叫中心特定方面的具体工具，例如 Dialogflow CX（用于构建 LLM 赋能的聊天机器人）、Agent Assist（用于为人工客服提供实时帮助），以及 CCAI Insights（用于识别来电驱动因素和情绪）。
训练自定义 LLM
使用 TPU（张量处理单元）大规模训练 LLM
Cloud TPU 是 Google 用于机器学习的仓库级超级计算机。它们针对性能和可伸缩性进行了优化，同时可最大限度地降低总拥有成本，非常适合训练 LLM 和生成式 AI 模型。
Cloud TPU v4 Pod 是最新一代加速器，在五个 MLPerf 2.0 基准上均取得最快训练速度。它们构成了全球最大的公开可用机器学习中心 Hub，峰值总体性能高达 9 exaflop。
方法指南
使用 TPU（张量处理单元）大规模训练 LLM
Cloud TPU 是 Google 用于机器学习的仓库级超级计算机。它们针对性能和可伸缩性进行了优化，同时可最大限度地降低总拥有成本，非常适合训练 LLM 和生成式 AI 模型。
Cloud TPU v4 Pod 是最新一代加速器，在五个 MLPerf 2.0 基准上均取得最快训练速度。它们构成了全球最大的公开可用机器学习中心 Hub，峰值总体性能高达 9 exaflop。
