本页介绍了您可以在对模型的请求中设置的可选抽样参数。每种模型的可用参数可能有所不同。如需了解详情，请参阅参考文档。
令牌采样参数
Top-P
Top-P 可更改模型选择输出词元的方式。系统会按照概率从最高（见 top-K）到最低的顺序选择词元，直到所选词元的概率总和等于 top-P 的值。例如，如果词元 A、B 和 C 的概率分别为 0.3、0.2 和 0.1，并且 top-P 值为 0.5，则模型将选择 A 或 B 作为下一个词元（通过温度确定），并会排除 C，将其作为候选词元。
指定较低的值可获得随机程度较低的回答，指定较高的值可获得随机程度较高的回答。
如需了解详情，请参阅topP。
Top-K
Top-K 可更改模型选择输出词元的方式。如果 top-K 设为 1，表示所选词元是模型词汇表的所有词元中概率最高的词元（也称为贪心解码）。如果 top-K 设为 3，则表示系统将从 3 个概率最高的词元（通过温度确定）中选择下一个词元。
在每个词元选择步骤中，系统都会对概率最高的 top-K 词元进行采样。然后，系统会根据 top-P 进一步过滤词元，并使用温度采样选择最终的词元。
指定较低的值可获得随机程度较低的回答，指定较高的值可获得随机程度较高的回答。
如需了解详情，请参阅topK。
温度
温度 (temperature) 在生成回复期间用于采样，在应用 topP 和 topK 时会生成回复。温度可以控制词元选择的随机性。
较低的温度有利于需要更少开放性或创造性回复的提示，而较高的温度可以带来更具多样性或创造性的结果。温度为 0 表示始终选择概率最高的词元。在这种情况下，给定提示的回复大多是确定的，但可能仍然有少量变化。
如果模型返回的回答过于笼统、过于简短，或者模型给出后备回答，请尝试提高温度。
温度越低，结果越可预测（但并非完全确定）。如需了解详情，请参阅 temperature。
停止参数
输出词元数上限
设置 maxOutputTokens 以限制响应中生成的令牌数量。一个词元约为 4 个字符，因此 100 个词元对应大约 60-80 个单词。设置较低的值可限制响应的长度。
停止序列
在 stopSequences 中定义字符串，以告知模型在响应中遇到其中一个字符串时，停止生成文本。如果某个字符串在响应中多次出现，则响应会在首次出现该字符串的位置截断。字符串区分大小写。
令牌惩罚参数
频次惩罚
正值会惩罚生成的文本中反复出现的词元，从而降低重复内容概率。最小值为 -2.0。最大值为 2.0，但不包括该数值。如需了解详情，请参阅 frequencyPenalty。
存在惩罚
正值会惩罚已生成文本中已存在的词元，从而增加生成更多样化内容的概率。最小值为 -2.0。最大值为 2.0，但不包括该数值。如需了解详情，请参阅 presencePenalty。
高级参数
您可以使用这些参数在响应中返回有关令牌的更多信息，或控制响应的可变性。
输出令牌的对数概率
返回每个生成步骤中排名靠前的候选 token 的对数概率。模型选择的词元可能与每个步骤中的最可能候选词元不同。使用介于 1 到 5 范围内的整数值指定要返回的候选项数量。如需了解详情，请参阅 logprobs。您还需要将 responseLogprobs 参数设置为 true，才能使用此功能。
responseLogprobs 参数会返回模型在每个步骤中选择的令牌的对数概率。
种子
当种子固定为特定值时，模型会尽最大努力为重复请求提供相同的回答。无法保证确定性输出。此外，更改模型或参数设置（例如温度）可能会导致回答发生变化，即使您使用相同的种子值也是如此。默认情况下，系统会使用随机种子值。
如需了解详情，请参阅 seed。