Ce guide explique comment configurer l'agent de surveillance pour qu'il reconnaisse et exporte les métriques de votre application vers Cloud Monitoring.
L'agent de surveillance est un démon collectd. L'agent peut non seulement exporter vers Cloud Monitoring de nombreuses métriques système et tierces prédéfinies, mais également vos propres métriques d'application collectd en tant que métriques définies par l'utilisateur. Les plug-ins collectd peuvent également exporter vers Monitoring.
Autre moyen d'exporter les métriques d'application vers Monitoring est de utilisez StatsD. Cloud Monitoring fournit une configuration par défaut qui mappe les métriques StatsD aux métriques définies par l'utilisateur. Si ce mappage vous convient, vous n'avez pas besoin des étapes de personnalisation décrites ci-dessous. Pour en savoir plus, consultez la page Plug-in StatsD.
Pour en savoir plus sur les métriques, consultez les documents suivants:
- Métriques, séries temporelles et ressources :
- Structure des séries temporelles.
- Présentation des métriques définies par l'utilisateur
Cette fonctionnalité n'est disponible que pour les agents exécutés sous Linux. Elle n'est pas disponible sous Windows.
Avant de commencer
Installez l'agent de surveillance le plus récent sur une instance de VM et vérifiez qu'il fonctionne. Pour mettre à jour l'agent, reportez-vous à la section Mettre à jour l'agent.
Configurez collectd pour obtenir les données de surveillance de votre application. Collectd accepte de nombreux frameworks d'application et points de terminaison de surveillance standards via ses plug-ins de lecture. Recherchez le plug-in de lecture qui correspond à vos besoins.
(Facultatif) Pour plus de commodité, ajoutez la documentation de référence collectd de l'agent aux pages
man
de votre système. Pour cela, mettez à jour la variableMANPATH
, puis exécutezmandb
:export MANPATH="$MANPATH:/opt/stackdriver/collectd/share/man" sudo mandb
Les pages man sont destinées à
stackdriver-collectd
.
Fichiers et répertoires importants
Les fichiers et répertoires suivants, créés lors de l'installation de l'agent de surveillance (collectd) servent à sa configuration :
/etc/stackdriver/collectd.conf
Le fichier de configuration collectd utilisé par l'agent. Éditez ce fichier pour modifier la configuration générale.
/etc/stackdriver/collectd.d/
Répertoire des fichiers de configuration ajoutés par l'utilisateur. Pour envoyer des requêtes de l'agent, vous placez les fichiers de configuration requis, décrits ci-dessous, dans ce répertoire. Pour assurer la rétrocompatibilité, l'agent recherche également les fichiers dans
/opt/stackdriver/collectd/etc/collectd.d/
./opt/stackdriver/collectd/share/man/*
Documentation de la version de l'agent collectd. Vous pouvez ajouter ces pages à l'ensemble de pages
man
de votre système. Pour en savoir plus, consultez la section Avant de commencer./etc/init.d/stackdriver-agent
Script d'initialisation de l'agent.
Comment Monitoring gère les métriques collectd
L'agent de surveillance traite les métriques collectd en arrière-plan et les envoie à Monitoring, qui traite chacune d'elles en tant que membre de l'une des catégories suivantes :
Métriques définies par l'utilisateur : Métriques collectd associées à la clé de métadonnées
stackdriver_metric_type
et un seul source de données sont gérées. en tant que métriques définies par l'utilisateur Surveillance avec Méthodeprojects.timeSeries.create
dans l'API Monitoring.Métriques sélectionnées. Toutes les autres métriques collectd sont envoyées à Monitoring via une API interne. Seules les métriques de la liste des métriques sélectionnées sont acceptées et traitées.
Métriques supprimées. Les métriques collectées qui ne figurent pas dans la liste des métriques sélectionnées et qui ne sont pas des métriques définies par l'utilisateur sont ignorées par Monitoring. L'agent lui-même ne sait pas quelles métriques sont acceptées ou ignorées.
Écrire des métriques définies par l'utilisateur avec l'agent
Vous configurez l'agent pour envoyer des points de données de métrique à Monitoring. Chaque point doit être associé à une métrique définie par l'utilisateur, que vous définissez à l'aide d'un descripteur de métrique. Ces concepts sont présentés sur la page Métriques, séries temporelles et ressources et décrits en détail sur les pages Structure des séries temporelles et Présentation des métriques définies par l'utilisateur.
Pour qu'une métrique collectd soit traitée comme une métrique définie par l'utilisateur, en ajoutant les métadonnées appropriées à la métrique:
stackdriver_metric_type
: (obligatoire) nom de la métrique exportée. Exemple :custom.googleapis.com/my_custom_metric
.label:[LABEL]
: (facultatif) libellés supplémentaires de la métrique exportée. Par exemple, le libellé Monitoring STRING nommécolor
correspond à la clé de métadonnéeslabel:color
et à la valeur de clé"blue"
. Vous pouvez indiquer jusqu'à 10 libellés par type de métrique.
Vous pouvez modifier les métadonnées des métriques à l'aide d'une chaîne de filtres collectd. Comme les chaînes de filtres ne peuvent pas modifier la liste des sources de données et les métriques définies par l'utilisateur n'acceptent qu'une seule source de données, les métriques collectd que vous souhaitez utiliser avec cette installation doit disposer d'une source de données unique.
Exemple
Dans cet exemple, nous allons surveiller les connexions Nginx actives à partir de deux services Nginx, my_service_a
et my_service_b
, puis les envoyer à Monitoring à l'aide d'une métrique définie par l'utilisateur.
Nous allons suivre les étapes ci-dessous :
Identifier les métriques collectd pour chaque service Nginx.
Définir un descripteur de métrique Monitoring.
Configurer une chaîne de filtres collectd pour ajouter des métadonnées aux métriques collectd afin de répondre aux attentes de l'agent de surveillance.
Métriques collectd entrantes
Collectd s'attend à ce que les métriques comprennent les composants suivants. Les cinq premiers composants constituent l'identifiant collectd de la métrique :
Host, Plugin, Plugin-instance, Type, Type-instance, [value]
Dans cet exemple, les métriques à envoyer en tant que métrique définie par l'utilisateur ont les valeurs suivantes :
Composant | Valeur(s) attendue(s) |
---|---|
Hôte | tous |
Plug-in | curl_json |
Instance de plug-in | nginx_my_service_a ounginx_my_service_b 1 |
Type | gauge |
Type instance | active-connections |
[value] |
toute valeur2 |
Remarques :
1 Dans l'exemple, cette valeur encode à la fois le nom de l'application (Nginx) et le nom du service connecté.
2 La valeur est généralement un horodatage et un nombre à double précision.
Monitoring gère les détails de l'interprétation des différents genres
de valeurs. Les valeurs composées ne sont pas compatibles avec l'agent Monitoring.
Descripteur de métrique et séries temporelles Monitoring
Côté Monitoring, créez un descripteur de métrique pour votre métrique définie par l'utilisateur. Le descripteur suivant peut convenir pour les données de cet exemple :
- Nom :
custom.googleapis.com/nginx/active_connections
- Libellés :
service_name
(STRING) : nom du service associé à Nginx.
- Genre : GAUGE
- Type : DOUBLE
Une fois que vous avez défini le descripteur de métrique, vous pouvez le créer à l'aide de projects.metricDescriptors.create
ou le faire créer automatiquement à partir des métadonnées de séries temporelles présentées ci-dessous. Pour plus d'informations, consultez la section Créer des descripteurs de métrique sur cette page.
En raison de la façon dont le descripteur de métrique est défini, les données de série temporelle y étant associées doivent contenir les informations suivantes :
- Type de métrique :
custom.googleapis.com/nginx/active_connections
- Valeurs de libellé de métrique :
service_name
:"my_service_a"
ou"my_service_b"
D'autres informations de série temporelle, y compris la ressource surveillée associée (l'instance de VM qui envoie les données) et le point de données de métrique, sont automatiquement obtenues par l'agent pour toutes les métriques. Aucune action particulière n'est requise de votre part.
La chaîne de filtres
Créez un fichier, /opt/stackdriver/collectd/etc/collectd.d/nginx_curl_json.conf
, contenant le code suivant :
LoadPlugin match_regex
LoadPlugin target_set
LoadPlugin target_replace
# Insert a new rule in the default "PreCache" chain, to divert your metrics.
PreCacheChain "PreCache"
<Chain "PreCache">
<Rule "jump_to_custom_metrics_from_curl_json">
# If the plugin name and instance match, this is PROBABLY a metric we're looking for:
<Match regex>
Plugin "^curl_json$"
PluginInstance "^nginx_"
</Match>
<Target "jump">
# Go execute the following chain; then come back.
Chain "PreCache_curl_json"
</Target>
</Rule>
# Continue processing metrics in the default "PreCache" chain.
</Chain>
# Following is a NEW filter chain, just for your metric.
# It is only executed if the default chain "jumps" here.
<Chain "PreCache_curl_json">
# The following rule does all the work for your metric:
<Rule "rewrite_curl_json_my_special_metric">
# Do a careful match for just your metrics; if it fails, drop down
# to the next rule:
<Match regex>
Plugin "^curl_json$" # Match on plugin.
PluginInstance "^nginx_my_service_.*$" # Match on plugin instance.
Type "^gauge$" # Match on type.
TypeInstance "^active-connections$" # Match on type instance.
</Match>
<Target "set">
# Specify the metric descriptor type:
MetaData "stackdriver_metric_type" "custom.googleapis.com/nginx/active_connections"
# Specify a value for the "service_name" label; clean it up in the next Target:
MetaData "label:service_name" "%{plugin_instance}"
</Target>
<Target "replace">
# Remove the "nginx_" prefix in the service_name to get the real service name:
MetaData "label:service_name" "nginx_" ""
</Target>
</Rule>
# The following rule is run after rewriting your metric, or
# if the metric wasn't one of your user-defined metrics. The rule returns
# to the default "PreCache" chain. The default processing
# will write all metrics to Cloud Monitoring,
# which will drop any unrecognized metrics: ones that aren't
# in the list of curated metrics and don't have
# the user-defined metric metadata.
<Rule "go_back">
Target "return"
</Rule>
</Chain>
Charger la nouvelle configuration
Pour rendre la nouvelle configuration effective, redémarrez l'agent en exécutant la commande suivante sur l'instance de VM :
sudo service stackdriver-agent restart
Les informations sur votre métrique définie par l'utilisateur sont transmises à Monitoring.
Référence et bonnes pratiques
Descripteurs de métrique et séries temporelles
Pour obtenir une présentation des métriques Cloud Monitoring, consultez la page Métriques, séries temporelles et ressources. Pour en savoir plus, consultez les pages Présentation des métriques définies par l'utilisateur et Structure des séries temporelles.
Descripteurs de métrique. Un descripteur de métrique comporte les éléments significatifs suivants :
Un type au format
custom.googleapis.com/[NAME1]/.../[NAME0]
Exemple :custom.googleapis.com/my_measurement custom.googleapis.com/instance/network/received_packets_count custom.googleapis.com/instance/network/sent_packets_count
La dénomination recommandée est hiérarchique afin de faciliter le suivi des métriques. Les types de métriques ne peuvent pas contenir de traits d'union. pour connaître le nom exact consultez la section Attribuer des noms aux types de métriques et aux libellés.
Un maximum de 10 libellés pour annoter les données de métrique. Par exemple :
device_name
,fault_type
ouresponse_code
. Les valeurs des libellés ne sont pas spécifiées dans le descripteur de métrique.Le genre et le type de valeur des points de données, par exemple "une valeur de jauge de type double". Pour en savoir plus, consultez les sections suivantes :
MetricKind
etValueType
.
Séries temporelles. Un point de données de métrique comporte les éléments significatifs suivants :
Type du descripteur de la métrique associé.
Les valeurs de tous les libellés du descripteur de métrique
Une valeur horodatée compatible avec le type et le genre de la valeur du descripteur de métrique
La ressource surveillée dont proviennent les données, généralement une instance de VM. Le descripteur n'a pas besoin de libellé distinct pour l'espace réservé à la ressource, car il est intégré.
Créer des descripteurs de métrique
Vous n'avez pas besoin de créer de descripteur de métrique à l'avance. Lorsqu'un point de données arrive dans Monitoring, le type de métrique, les libellés et la valeur de ce point de données peuvent servir à créer automatiquement un descripteur de jauge ou de métrique cumulée. Pour en savoir plus, consultez la section Créer automatiquement des descripteurs de métrique.
Cependant, lorsque vous créez votre propre descripteur de métrique, vous bénéficiez des avantages suivants :
Vous pouvez inclure une documentation pertinente sur la métrique et ses libellés.
Vous pouvez spécifier d'autres genres et types de métriques. Les seules combinaisons (genre, type) acceptées par l'agent sont (GAUGE, DOUBLE) et (CUMULATIVE, INT64). Pour plus d'informations, consultez la section Genres de métriques et types de valeurs.
Vous pouvez spécifier des types de libellés différents de STRING.
Si vous écrivez un point de données dans Monitoring qui utilise un type de métrique non défini, un nouveau descripteur de métrique est créé pour le point de données. Ce comportement peut poser problème lorsque vous déboguez le code écrit des données de métriques. Si vous omettez le type de métrique, vous obtiendrez des métriques erronées. de descripteurs.
Une fois le descripteur de métrique créé, par vous-même ou automatiquement, il n'est plus modifiable. Par exemple, vous ne pouvez pas ajouter ou supprimer de libellés. Vous pouvez uniquement supprimer le descripteur de métrique (ce qui supprime toutes ses données), puis le recréer comme vous le souhaitez.
Pour plus d'informations sur la création de descripteurs de métrique, consultez Créer votre métrique.
Tarifs
En général, les métriques système Cloud Monitoring sont gratuites, contrairement aux métriques provenant de systèmes, d'agents ou d'applications externes. Les métriques facturables sont facturées en fonction du nombre d'octets ou du nombre d'échantillons ingérés.
Pour en savoir plus sur les tarifs de Cloud Monitoring, consultez les documents suivants:
Limites
Cloud Monitoring limite le nombre de durées des métriques et le nombre de descripteurs de métriques définis par l'utilisateur dans chaque projet. Pour plus de détails, consultez la page Quotas et limites.
Si vous avez créé des descripteurs de métrique dont vous ne voulez plus, vous pouvez les rechercher et les supprimer à l'aide de l'API Monitoring. Pour en savoir plus, consultez la section sur projects.metricDescriptors
.
Dépannage
Cette section explique comment configurer le plug-in write_log
de l'agent de surveillance pour vider tous les points de métrique, y compris les métadonnées. Cette fonctionnalité permet de déterminer les points à transformer et de garantir que les transformations se comportent comme prévu.
Activer write_log
Le plug-in write_log
est inclus dans le package stackdriver-agent
. Pour activer le plug-in, procédez comme suit :
En mode root, modifiez le fichier de configuration suivant :
/etc/stackdriver/collectd.conf
Juste après
LoadPlugin write_gcm
, ajoutez :LoadPlugin write_log
Juste après
<Plugin "write_gcm">…</Plugin>
, ajoutez :<Plugin "write_log"> Format JSON </Plugin>
Recherchez
<Target "write">…</Target>
, et après chaquePlugin "write_gcm"
, ajoutez :Plugin "write_log"
Enregistrez vos modifications et redémarrez l'agent :
sudo service stackdriver-agent restart
Ces modifications vont générer une ligne de journal par valeur de métrique signalée, y compris l'identifiant collectd complet, les entrées de métadonnées et la valeur.
Sortie de write_log
Si l'étape précédente a abouti, la sortie de write_log
doit s'afficher dans les journaux système :
- Linux basé sur Debian :
/var/log/syslog
- Linux basé sur Red Hat :
/var/log/messages
Les exemples de lignes ci-dessous ont été mis en forme pour faciliter leur lecture dans ce document.
Dec 8 15:13:45 test-write-log collectd[1061]: write_log values:#012[{
"values":[1933524992], "dstypes":["gauge"], "dsnames":["value"],
"time":1481210025.252, "interval":60.000,
"host":"test-write-log.c.test-write-log.internal",
"plugin":"df", "plugin_instance":"udev", "type":"df_complex", "type_instance":"free"}]
Dec 8 15:13:45 test-write-log collectd[1061]: write_log values:#012[{
"values":[0], "dstypes":["gauge"], "dsnames":["value"],
"time":1481210025.252, "interval":60.000,
"host":"test-write-log.c.test-write-log.internal",
"plugin":"df", "plugin_instance":"udev", "type":"df_complex", "type_instance":"reserved"}]