Labeling Manager UI 和 Labeler Workbench

管理器界面

借助 Manager 界面,管理员1 可以管理 Labeler 在任务2 中的工作。管理员可以使用此界面添加或移除标注员、分配或取消分配任务,以及监控任务进度和有关每位标注员表现的分析数据。

管理器界面

左侧列出了用户作为管理员的所有 Google Cloud 已启用项目的 Labeler 池3。标记员池名称右侧的数字是相应池中的标记员数量。右侧是界面的主要内容,包含四个标签页:

Tasks

任务表是 Labeler 池 Google Cloud 项目中的所有任务的视图。其中包含有关任务的一些基本统计信息,并提供暂停任务的功能,以及用于将标注员快速分配给任务的快捷方式。

任务表

过滤条件

数据网格上方是一组过滤条件控件,用于确定数据网格中显示哪些任务。

  • 按名称搜索任务:过滤结果,仅显示包含所输入名称的任务。包含自动补全功能。
  • 进行中:如果选中此复选框,结果将包含所有未暂停、未完成或未分配的任务。此功能默认处于启用状态。
  • 已暂停:如果选中此复选框,结果将包含所有已暂停的任务。
  • 已完成:如果选中此复选框,结果将包含所有已完成的任务,即没有可用问题(无论是由于尚未将任何问题加入队列,还是由于队列中的所有问题都已回答)。
  • 未分配:如果选中此复选框,结果将包含所有未分配标记者任务。

如果未选择任何过滤条件,则会显示错误,并且页面会告知经理选择一些过滤条件。如果任何复选框处于未选中状态,则与该复选框的条件匹配的任务将被排除,除非该任务与某个选中复选框的条件匹配。例如,如果某个任务同时处于暂停状态未分配状态,那么只要选中“已暂停”复选框或“未分配”复选框(或同时选中这两个复选框),系统就会显示该任务。如果“已暂停”复选框和“未分配”复选框均未选中,则不会显示此结果。

数据网格

  • 第一列包含每行的复选框。如果经理选中其中一个或多个复选框,然后点击表格上方的管理分配按钮,系统会将他们带到“分配”页面,并在“任务”过滤条件中预先填充所选任务。
  • “任务”列显示任务的名称。此名称由创建任务的人员设置,是直观易懂的名称(例如“简历分类”),而不是内部标识符(例如“cloud_data_67523fe89343”)。
  • “目标”列包含目标名称,用于描述任务类型(图片分类、文本分类等)。
  • “上次入队时间”列包含最近一次将问题加入队列的日期(如果尚未将任何问题加入任务队列,则为空)。
  • “已分配”列显示当前已分配给相应任务的标注员人数。它还提供了一个对话框,供经理取消分配标签员。经理无法通过此对话框进行分配,他们需要使用“分配”页面才能进行分配。
  • “可供处理的问题数/已排队的问题数”列显示的是任务中当前可供注释者处理的问题数与任务中当前已排队的问题总数之间的比率。
  • “进度”列以图形和百分比的形式显示上述比率。如上图所示,该页面还会显示任务是否已暂停(未投放任何问题),如表格的最后一行所示。
  • “操作”列包含一个菜单,其中提供了一些可对任务执行的其他操作:
    • 暂停:仅当任务当前未处于暂停状态时可用,用于暂停任务。
    • 恢复:仅当任务当前处于暂停状态时可用,用于恢复任务。
    • 作业:此选项可提供指向“作业”页面的快捷方式,并会在过滤条件中预先选择“任务”。

数据表上方有一个分页控件,管理员可以使用该控件决定每页显示更多结果,并在结果页面之间导航。

标签添加者

“Labelers”表是 Labeler 池中所有 Labeler 的视图。其中包含有关 Labeler 的一些基本统计信息,以及将 Labeler 快速分配给任务的方法。

标签添加者表

过滤条件

数据网格上方有一个过滤框,用于将结果过滤为包含所输入电子邮件地址的结果。多个电子邮件地址之间可以用英文逗号分隔。

添加标签添加者

添加 Labeler 按钮

点击添加按钮会打开一个对话框,管理员可以在其中向池中添加一个或多个标注员。您可以输入多个电子邮件地址,并以英文逗号分隔。您还可以输入语言代码(例如“en”“de”),并用英文逗号分隔。同一个人(电子邮件地址)可以出现在多个标注者池中,并且在每个池中拥有不同的任务。

“添加标签添加者”对话框

对话框将显示已添加或未添加的标记者的摘要。对勾标记表示已成功添加标记员,而红色 X 表示无法添加标记员(例如,因为他们已存在于标记员池中)。

数据网格

  • 第一列包含每行的复选框。如果经理选中其中一个或多个复选框,然后点击表格上方的管理分配按钮,系统会将经理带到“分配”页面,并在“标注员”过滤条件中预先填充所选的标注员。
  • “电子邮件”列会显示标签员的电子邮件地址。
  • “分配的任务”列显示的是向标注员分配的任务数量。它还提供对一个对话框的访问权限,管理员可以通过该对话框从一个或多个任务中取消分配 Labeler。经理无法通过此对话框分配角色。如需分配任务,经理需要使用“分配”页面。
  • “语言”列会显示标签器关联的语言。这些值可能会影响标签员可以租用哪些问题,具体取决于问题入队时的配置。
  • “操作”列包含一个菜单,其中提供了一些可对任务执行的其他操作:
    • 任务:此选项可提供指向“任务”页面的快捷方式,并预先在过滤条件中选择 Labeler。
    • 删除:从当前的 Labeler 池中移除 Labeler。

数据表上方有一个分页控件,管理员可以使用该控件决定每页显示更多结果,并在结果页面之间导航。

作业

通过“分配”页面,经理可以管理向标注员池中的标注员分配的任务。

“作业”页面

过滤条件

作业网格的内容由两组过滤条件决定:标记者过滤条件(用于确定 Y 轴上显示的内容)和任务过滤条件(用于确定 X 轴上显示的内容)。

标记器过滤条件

  • 任务选择器:经理可以使用此字段选择一项或多项任务。网格中显示的标注员集将包含分配给上述任何任务的所有标注员。
  • 电子邮件过滤条件:管理员可以使用此字段指定一个或多个电子邮件地址(以英文逗号分隔)。网格中显示的标记员集将包含具有上述任何电子邮件地址的所有标记员。

可以使用这两个过滤器中的一个或两个,但必须至少使用一个。

任务过滤条件

  • 任务选择器:经理可以使用此字段选择一项或多项任务。网格中显示的任务集将包含所有选定的任务。
  • 其他过滤条件:
    • 所有已暂停的任务:如果选中此复选框,则显示的“任务”列表还将包含所有已暂停的任务。
    • 所有已完成的任务:如果选中此选项,则显示的任务还将包括所有已完成的任务(没有可处理的问题)。
    • 所有未分配的任务:如果选中此复选框,则显示的“任务”还会包括未分配给任何标签添加者的任务。
    • 所有进行中的任务:如果选中此复选框,则显示的“任务”还会包括任何“进行中”(未暂停、完成或未分配)的任务。

您可以任意组合使用这些过滤条件,但必须至少使用一个。这些过滤条件彼此独立;在“注释者”过滤条件中选择的选项不会对在“任务”过滤条件中选择的选项产生任何影响,反之亦然。

作业网格

网格会显示所选过滤条件的结果。标记者构成 Y 轴,任务构成 X 轴。对于每个单元格,经理可以选中复选框,将相应的标注员分配给相应的任务;也可以取消选中复选框,将相应的标注员从相应的任务中取消分配。

此外,您还可以在每个行标题和列标题单元格的菜单中找到一些快捷方式(点击三点状按钮即可打开菜单)。例如,如果经理在 Labeler 标题单元格中打开菜单,则可以一次性为所有任务分配或取消分配该 Labeler。经理还可以使用“移除”菜单选项隐藏行或列,或者查看当前分配给某个标注者的任务/当前分配给某个任务的标注者。在填充行和列时,管理员可以选择使用可用的快捷方式从分配网格中移除特定的标注员或任务。此操作不会影响已移除的任务或标记者的分配状态。您可以使用顶部的相应过滤条件,在网格中重新显示已移除的任务或标注员。提交更改后,系统只会使用作业网格中显示的 Task 和 Labeler 来修改作业。

作业网格

对作业进行更改后,页面顶部的提交更改按钮将处于启用状态。系统还会显示舍弃更改按钮;点击此按钮可重置所有未提交的分配更改。

管理作业

当经理点击提交更改按钮时,系统会向经理显示将对分配进行的所有更改的列表。经理查看更改后,可以中止更改或提交更改。如果他们放弃更改,系统会将他们返回到“作业”页面,以便他们继续修改作业。如果他们提交更改,系统会提交作业,并将他们带回“作业”页面。

分配变更列表

在经理点击更改列表页面上的“提交”之前,他们在网格中所做的更改不会保存。

Labeler Workbench

Labeler 工作台是 Labeler 用于标记问题的界面。他们收到的问题取决于他们所属的工作器池,而工作器池由经理分配。

获取问题

工作台加载后,系统会自动尝试获取供标记人员标记的问题。这可能会因多种原因而失败:

  • 标签添加者未分配给当前标签添加者池中的任何任务(工作台一次使用一个标签添加者池)。其他标签添加者池中可能还有可供该标签添加者回答的问题。
  • 标记员被分配了一个或多个任务,但目前没有任务包含可供该特定标记员回答的问题。这可能是由多种原因造成的:
    • 没有问题处于排队状态
    • 所有问题均已满足复制条件
    • 所有剩余复制次数的问题都已分配给其他正在处理这些问题的标记员
    • 所有可用的问题都关联了标记者没有的语言。
    • 贴标者已回答所有可回答的问题。在复制完成之前,其他标注者可能仍可使用这些问题。
    • 由于标记员之前曾回答过此问题,因此无法回答当前的问题。其他标记员可能仍能看到这些问题。

工作台加载完毕后,Labeler 可能会用完问题。发生这种情况时,系统会显示一个按钮,供标记员尝试再次获取问题(可能会遇到与上述相同的潜在故障)。

“获取更多问题”按钮

处理问题

当 Labeler 租用问题后,该问题会显示在工作台中。具体外观取决于已加入队列的问题以及任务配置为使用的界面。

工作台将启动一个计时器,直到问题分配过期。计时器结束时,问题将过期并从工作台中移除,以便分配给其他评分员,从而保持队列正常运行。

当标注员提交了对问题的回答后,工作台会自动加载下一个可用的问题。否则,标记员将需要点击上图所示的获取更多问题按钮来请求更多问题。

提交状态

在工作台中,标签员可以在以下几个位置查看其提交的答案的状态:提交是否成功、失败或仍在进行中。

“通知”对话框

通知对话框

此对话框显示了标记者提交的答案的状态:

  • 左侧的图标和数字(橙色时钟)表示仍在提交过程中的回答。
  • 中间的图标(红色三角形)表示提交失败的答案。提交失败可能是由于某种服务器错误或客户端的互联网连接存在问题。
  • 右侧的图标表示已成功提交的答案。

请注意,该计数不会保留在浏览器中;如果您关闭工作台并再次打开(或刷新页面),计数器将重置为 0。

更多工具

在主工具栏末尾的 按钮打开的菜单中,还有一些其他工具。

“更多工具”按钮

以下是各个选项:

  • 跳过:如果任务已启用跳过功能,则跳过当前问题。如果界面中显示的问题损坏,则通常会使用此选项,但各个经理可能会指示标签员何时跳过问题。请注意,跳过会被视为回答,并会保存其他元数据来指明跳过情况和原因。
  • 查找回答:前往“回答”页面,让标记员通过搜索问题 ID 查看自己对任何问题的回答。标记员只能查看自己的回答,而标记员池中的管理员可以查看所有回答。

问题队列

还有一个队列,其中包含标签员已提交回答的问题:

问题队列

在这种情况下,第一个答案已成功提交,但下一个答案提交失败。下一个答案已成功提交,第四个气泡表示当前加载的问题及其剩余时间。最后一个气泡显示可租给标签员的问题数量。这有助于标签员了解自己何时快要没有问题可标记,并及时告知其经理。

标记员可以点击相应气泡返回到之前的问题。如果问题尚未过期,标记者可以更改回答并重新提交。系统只会存储最新答案,并覆盖之前的所有答案。请注意,如果答案提交后无法更改,则部分任务可能会要求您不要使用此功能。

“其他工具”工具栏

有一个工具栏可供使用,其中包含工作台的其他工具。此部分默认处于隐藏状态,但您可以根据需要展开。

“其他工具”工具栏

此处有三个按钮:

  • 全屏:使插件在全屏模式下打开。这样一来,系统将仅显示工作台,并隐藏浏览器界面以及所有操作系统工具栏。标注员可以按 Esc 键或再次点击同一按钮来退出此模式。
  • 重新加载:刷新当前可见的插件。在大多数情况下,这比从浏览器重新加载页面要好,因为重新加载页面可能会清除某些状态(例如花费的时间和提交的答案),并且无法保证标记员在重新加载页面后会再次看到相同的问题。
  • 问题信息:此部分会显示当前可见问题的一些信息,例如问题 ID 和插件名称。根据任务管理器的说明,在报告特定问题时,记录此信息可能很有用。

问题详情

“分析”页面

在 Analytics 页面上,标记员可以查看自己最近的贡献。

贡献分析

顶部是贡献率图表。下方是以表格形式显示的相同信息。标记员可以选择几个预定义的时间范围来查看数据。点击工具栏中的“分析”按钮即可访问“分析”页面。

“贡献分析”按钮

为插件预留空间

您可以使用一些控件来调整插件可用的空间大小。

插件空间按钮

顶部按钮(对角箭头)可切换 One Google Bar(位于其正上方的栏,包含 Google 账号切换器)的显示状态。底部按钮(向下箭头)用于切换其他工具工具栏的可见性。如果与全屏模式结合使用,则切换为隐藏这两个工具栏后,插件几乎可以占据整个屏幕。


  1. 标签员池的管理员是指有权添加或移除标签员以及更改标签员所分配到的任务的用户。 

  2. 任务是一组问题,可从标签添加者池中分配给一个或多个标签添加者。 

  3. 标签添加者池是由一个或多个经理管理的标签添加者集合。池中的标签添加者可以分配到已针对该池启用的任务。