本文档介绍了如何基于与生成式 AI 相关的功能、限制和风险来设计适用于 Google Cloud 的 Gemini。
大语言模型的功能和风险
大型语言模型 (LLM) 可以执行许多有用的任务，例如：
- 翻译语言。
- 总结文本。
- 生成代码和发挥创造力。
- 强大的聊天机器人和虚拟助理。
- 与搜索引擎和推荐系统相辅相成。
同时，LLM 的技术能力在不断变化，可能会造成误应用、滥用以及意外或无法预料的后果。
LLM 可能会生成意料之外的输出，包括冒犯性、缺乏敏感性或与事实不符的文本。由于 LLM 具有极其广泛的用途，因此很难准确预测它们可能会生成哪些类型的意外或无法预料的输出。
考虑到这些风险和复杂性，适用于 Google Cloud 的 Gemini 在设计时牢记了 Google 的 AI 原则。但是，对用户来说，了解 Gemini 的一些限制对于 Google Cloud 安全、负责任地工作非常重要。
Gemini for Google Cloud 限制
针对 Google Cloud 使用 Gemini 时，您可能遇到的一些限制包括（但不限于）以下限制：
极端情况。边缘情况是指训练数据中未得到很好表示的异常、罕见或特殊情况。这些情况可能会导致 Gemini 模型的输出受到限制，例如模型过度自信、对上下文的误解或不恰当的输出。
模型幻觉、依据和事实性。Gemini 模型在现实世界知识、物理属性或准确理解方面可能缺乏依据和事实性。此限制可能会导致模型产生幻觉，即适用于 Google Cloud 的 Gemini 可能会生成看似合理的但与事实不符的输出内容、不相关、不恰当或无意义的输出。幻觉还包括虚假链接指向不存在或从未存在过的网页。如需了解详情，请参阅为 Gemini for Google Cloud 编写更好的提示。
数据质量和调整。为 Google Cloud 产品输入的提示数据的质量、准确性和偏差会对其性能产生重大影响。如果用户输入的问题不准确或不正确，Gemini for Google Cloud 可能会返回不理想或错误的响应。
放大偏见。语言模型可能会无意中放大其训练数据中的现有偏差，导致其输出可能会进一步加剧社会偏见并对某些群体造成不平等对待。
语言质量。虽然 Gemini for Google Cloud 在我们评估基准方面具有令人印象深刻的多语言能力，但我们的大多数基准（包括所有公平性评估）均采用美式英语。
语言模型可能会为不同的用户提供不一致的服务质量。例如，文本生成对于某些方言或语言变体可能没有那么有效，因为它们在训练数据中的代表性不足。非英语语言或代表性较低的英语语言变体的性能可能更差。
公平性基准和子群组。Google 研究团队对双子座模型的公平性分析并未详尽地说明各种潜在风险。例如，我们重点关注性别、种族、民族和宗教轴方面的偏见，但仅分析美国英语数据和模型输出。
领域专业知识有限。Gemini 模型已使用 Google Cloud 技术进行训练，但可能缺乏对高度专业或技术主题提供准确而详细的响应所需的知识，从而导致信息浅层或错误。
当您在 Google Cloud 控制台中使用 Gemini 窗格时，Gemini 无法感知您的特定环境，因此它无法回答“我上次创建虚拟机是什么时候？”这样的问题。
在某些情况下，适用于 Google Cloud 的 Gemini 会将上下文的特定片段发送给模型，以接收针对特定上下文的响应 - 例如，当您点击 Error Reporting 服务页面中的问题排查建议按钮时。
Gemini 安全和恶意言论过滤
Gemini 根据适用于每个用例的安全属性的完整列表检查 Google Cloud 提示和响应。这些安全属性旨在滤除违反我们的使用限制政策的内容。如果输出被认为是有害的，系统将阻止响应。
后续步骤
- 详细了解 Gemini 在帮助您生成代码时如何引用来源。