Vertex AI Vizier 概览

Vertex AI Vizier 是一项黑盒优化服务,可帮助您调节复杂机器学习 (ML) 模型中的超参数。如果机器学习模型具有多个不同的超参数,则手动调节这些参数可能会既困难又耗时。Vertex AI Vizier 可通过为您调节超参数来优化模型的输出。

黑盒优化是对符合以下任一条件的系统的优化:

  • 没有已知的目标函数进行评估。

  • 使用目标函数进行评估的费用过高,这通常是因为系统的复杂性。

其他 Vertex AI Vizier 功能

Vertex AI Vizier 可优化机器学习模型的超参数,但也可以执行其他优化任务。

调节参数

您可以使用 Vertex AI Vizier 有效地调节函数中的参数。例如,您可以使用 AI Platform Optimizer 来确定新闻网站“订阅”按钮上最有效的背景颜色、字体大小和链接颜色组合。如需查看更多示例,请参阅用例

了解超参数与参数之间的区别

优化任何可评估的系统

Vertex AI Vizier 适用于任何您可以评估的系统,包括无法表示为封闭式分析函数的系统。例如,您可以使用 Vertex AI Vizier 找到 TensorFlow 模型的最佳神经网络深度、宽度和学习速率。

Vertex AI Vizier 的工作原理

以下部分定义了可用于 Vertex AI Vizier 优化机器学习模型或函数的术语、行为和可用值。首先确定研究配置

学习配置

研究配置是您尝试解决的优化问题的定义。它包括您要优化的结果以及影响该结果的超参数或参数。

研究和试验

研究是研究配置的实现。研究使用研究配置的目标(指标)和输入值(超参数或参数)进行实验(称为试验)。试验是一组特定的输入值,可产生相对于您的目标的结果。

Vertex AI Vizier 会建议要用于每次试验的输入值,但不会为您运行试验。

研究会持续进行,直至达到设定的试验限制或者您中断研究为止。 试验会持续进行,直到您指明已完成或不可行。

计量结果

计量结果是指试验的测量结果。 每个测量结果都可以包含一个或多个指标,并且每个试验可以包含特定时间段内的一个或多个计量结果。 在试验完成之前,您可以随时为试验添加新的计量结果。

搜索算法

如果您没有指定算法,则 Vertex AI Vizier 会使用默认算法。默认算法使用贝叶斯优化来找到最佳解决方案,对参数空间进行更有效的搜索。

您可以使用以下值:

  • ALGORITHM_UNSPECIFIED:与未指定搜索算法时的行为方式相同。Vertex AI Vizier 使用默认算法,该算法运用贝叶斯优化来搜索可能值的空间,从而为您的参数集提供最有效的技术。

  • GRID_SEARCH:在可行空间内执行简单的网格搜索。如果您要指定的试验次数超过可行空间中的点数,则此选项很有用。这种情况下,如果您未指定网格搜索,默认算法可能会生成重复的建议。要使用网格搜索,所有参数都必须是 INTEGERCATEGORICALDISCRETE 类型。

  • RANDOM_SEARCH:在可行空间内执行的简单随机搜索。

Vertex AI Vizier 与自定义训练的区别

Vertex AI Vizier 是一项独立服务,用于优化具有许多参数的复杂模型。它既可用于机器学习,也可用于非机器学习用例。它可用于训练作业或其他系统(甚至多云端环境)。用于自定义训练的超参数调节是一项使用 Vizier 训练作业的内置功能。它可帮助确定机器学习模型的最佳超参数设置。

使用场景

在以下场景中,Vertex AI Vizier 可帮助调节超参数以优化模型,或调节参数以优化结果:

  • 优化神经网络推荐引擎的学习速率、批量大小以及其他超参数。

  • 通过测试不同界面元素的排列方式来优化应用的易用性。

  • 通过确定理想的缓冲区大小和线程数,最大限度地减少作业的计算资源。

  • 优化配方中的成分量,以制作出最美味的菜品。

后续步骤

  • Vertex AI Vizier 基于 Google Vizier(一项用于黑盒优化的 Google 内部服务)。如需详细了解黑盒优化和 Google Vizier 架构和算法,请参阅 PDF Google Vizier:黑盒优化服务