本文档介绍了如何从与生成式 AI 相关的功能、限制和风险的角度来设计 Gemini。
大语言模型的功能和风险
大型语言模型 (LLM) 可以执行许多有用的任务，例如：
- 翻译语言。
- 总结文本。
- 生成代码和发挥创造力。
- 强大的聊天机器人和虚拟助理。
- 与搜索引擎和推荐系统相辅相成。
同时，LLM 的技术能力在不断变化，可能会造成误应用、滥用以及意外或无法预料的后果。
LLM 可能会生成意料之外的输出，包括冒犯性、缺乏敏感性或与事实不符的文本。由于 LLM 具有极其广泛的用途，因此很难准确预测它们可能会生成哪些类型的意外或无法预料的输出。
考虑到这些风险和复杂性，适用于 Google Cloud 的 Gemini 在设计时牢记了 Google 的 AI 原则。但是，对用户来说，了解 Gemini 的一些限制对于 Google Cloud 安全、负责任地工作非常重要。
Gemini for Google Cloud 限制
针对 Google Cloud 使用 Gemini 时，您可能遇到的一些限制包括（但不限于）以下限制：
极端情况。边缘情况是指训练数据中未得到很好表示的异常、罕见或特殊情况。这些情况可能会导致 Gemini 输出受到限制，例如模型过度置信度、对上下文的误解或不恰当的输出。
模型幻觉、依据和事实性。适用于 Google Cloud 的 Gemini 模型可能缺乏现实世界知识、物理属性或准确理解方面的依据和事实。此限制可能会导致模型产生幻觉，即 Gemini 可能生成听起来看似合理的但与事实不符的输出内容、不相关、不恰当或无意义的输出。此外，幻觉还包括虚构指向不存在或从未存在过的网页的链接。如需了解详情，请参阅为 Gemini for Google Cloud 编写更好的提示。
数据质量和调整。Gemini 中输入的提示数据的质量、准确性和偏差会对其性能产生重大影响。如果用户输入的问题不准确或不正确，Gemini 可能会返回不理想或错误的回复。
放大偏见。语言模型可能会无意中放大其训练数据中的现有偏差，导致其输出可能会进一步加剧社会偏见并对某些群体造成不平等对待。
语言质量。虽然 Gemini 在我们评估的基准中展现出令人印象深刻的多语言能力，但我们的大部分基准（包括所有公平性评估）都是使用美式英语。
语言模型可能会为不同的用户提供不一致的服务质量。例如，文本生成对于某些方言或语言变体可能没有那么有效，因为它们在训练数据中的代表性不足。非英语语言或代表性较低的英语语言变体的性能可能更差。
公平性基准和子群组。Google 研究团队对双子座的公平性分析并未详尽地说明各种潜在风险。例如，我们重点关注性别、种族、民族和宗教轴方面的偏见，但仅分析美国英语数据和模型输出。
领域专业知识有限。Gemini 接受过 Google Cloud 技术培训，但可能缺乏对高度专业或技术主题提供准确而详细的回复所需的知识深度，从而导致信息浅层或不正确。
当您在 Google Cloud 控制台中使用 Gemini 窗格时，Gemini 无法感知您的特定环境，因此它无法回答“我上次创建虚拟机是什么时候？”这样的问题。
在某些情况下，Gemini 会将上下文的特定片段发送给模型，以便接收特定上下文的响应，例如，当您点击 Error Reporting 服务页面中的问题排查建议按钮时。
Gemini 安全和恶意言论过滤
Gemini 根据适用于每个用例的安全属性的完整列表检查 Google Cloud 提示和响应。这些安全属性旨在滤除违反我们的使用限制政策的内容。如果输出被认为是有害的，系统将阻止响应。
后续步骤
- 详细了解 Gemini 在帮助您生成代码时如何引用来源。