Merge branch 'dist/eole/2.6.2/master' of https://forge.cadoles.com/Cadoles/eole-prometheus into dist/eole/2.6.2/master

This reverts commit 2da03082ec.

Makefile

@@ -1,11 +1,11 @@
 ################################
-# Makefile pour XXX-XXX
+# Makefile pour eole-prometheus
 ################################
 
 SOURCE=eole-prometheus
-VERSION=0.1
-EOLE_VERSION=2.7
-EOLE_RELEASE=2.7.0
+VERSION=0.0.1
+EOLE_VERSION=2.6
+EOLE_RELEASE=2.6.2
 PKGAPPS=non
 
 ################################

README.md

@@ -1,33 +1,41 @@
-# eole-prometheus 
-
+## eole-prometheus 
 Eolisation de la solution de surveillance Prometheus.
-
 Grafana est pris en charge dans l'eolisation et peut ou non être activé.
+L'exporter système (node-exporter) est dans la configuration par défaut (Prométheus se surveille lui même).
 
-L'exporter système (node-exporter) est dans la configuration par défaut (Prometheus se surveille lui même).
+### eole-prometheus :
 
-### Installation
 
-#### Installer `eole-prometheus`
+1. gen_config
 
-1. Ajouter le dépôt officiel de [Grafana](http://docs.grafana.org/installation/debian/#apt-repository). Dans l'interface `GenConfig`
-    ```
-    Mode expert > Dépot tiers > Ajouter un dépot
-            Dépôt officiel Grafana
-                Libellé du dépot = Dépôt officiel Grafana
-                Déclaration du dépôt = deb https://packages.grafana.com/oss/deb stable main
-                Méthode de récupération de la clé = URL de la clé
-                URL de la clé = https://packages.grafana.com/gpg.key
-    ```
-2. Ajouter le dépôt Cadoles. Dans l'interface `GenConfig`
-    ```
-    Mode expert > Dépot tiers > Ajouter un dépot
-            Cadoles pour environnement de Dev
-                Libellé du dépot = Cadoles
-                Déclaration du dépôt = deb https://vulcain.cadoles.com 2.7.0-dev main
-                Méthode de récupération de la clé = URL de la clé
-                URL de la clé = https://vulcain.cadoles.com/cadoles.gpg
     ```
+Mode expert > Dépot tiers > Ajouter un dépot
+        Cadoles pour environnement de Qualification
+            Libellé du dépot = Cadoles
+            Déclaration du dépôt = deb https://vulcain.cadoles.com 2.6.2-staging main
+            Méthode de récupération de la clé = URL de la clé
+            URL de la clé = https://vulcain.cadoles.com/cadoles.gpg
+```
+
+* Pour ajouter une sonde sur eole :
+
+1. gen_config
+
+   ```
+ Mode expert > Dépot tiers > Ajouter un dépot
+        Cadoles pour environnement de Qualification
+            Libellé du dépot = Cadoles
+            Déclaration du dépôt = deb https://vulcain.cadoles.com xenial-staging main
+            Méthode de récupération de la clé = URL de la clé
+            URL de la clé = https://vulcain.cadoles.com/cadoles.gpg
+```
+
+* Pour ajouter une sonde sur ubuntu xenial:
+
+```
+echo "deb https://vulcain.cadoles.com xenial-staging main" > /etc/apt/sources.list.d/cadoles.list
+wget -O - https://vulcain.cadoles.com/cadoles.gpg|apt-key add -
+```
 
 Il faut ouvrir les ports en fonction des exporters. Tous les exporters n'utilisent pas le même port.
 
@@ -36,3 +44,4 @@ Le paquet eole-prometheus ouvre les ports sur le serveur où Prometheus sera ins
 * 9090 pour le serveur prometheus
 * 9100 pour la sonde node-exporter
 * 3000 pour le serveur Grafana
+

debian/dirs

@@ -1 +0,0 @@
-/var/lib/grafana/dashboards

debian/postinst

@@ -1,7 +0,0 @@
-#!/bin/bash
-
-case "$1" in
-    configure)
-    chown grafana:grafana /var/lib/grafana/dashboards
-    ;;
-esac

debian/rules

@@ -5,4 +5,4 @@
 # export DH_VERBOSE=1
 
 %:
-	dh $@
+	dh $@

dicos/70_prometheus.xml

@@ -3,20 +3,17 @@
     <files>
       <file filelist='prometheus'   name='/etc/default/prometheus' source='prometheus.defaults'  mkdir='True' rm='True'/>
         <file filelist='prometheus'   name='/etc/prometheus/prometheus.yml'          mkdir='True' rm='True'/>
-        <file filelist='prometheus-alertmanager' name='/etc/prometheus/alertmanager.yml'        mkdir='True' rm='True'/>
-        <file filelist='prometheus-alertmanager' name='/etc/prometheus/rules.d/alert-rules.yml' mkdir='True' rm='True'/>
-        <file filelist='prometheus-alertmanager' name='/etc/prometheus/rules.d/predict-rules.yml' mkdir='True' rm='True'/>
+        <file filelist='alertmanager' name='/etc/prometheus/alertmanager.yml'        mkdir='True' rm='True'/>
+        <file filelist='alertmanager' name='/etc/prometheus/rules.d/alert-rules.yml' mkdir='True' rm='True'/>
+        <file filelist='alertmanager' name='/etc/prometheus/rules.d/predict-rules.yml' mkdir='True' rm='True'/>
         <file filelist='grafana'      name='/etc/grafana/grafana.ini'                mkdir='True' rm='True'/>
-        <file filelist='grafana'      name='/etc/grafana/provisioning/dashboards/eole.yml' source='grafana-dashboards.yml'     mkdir='True' rm='True'/>
-        <file filelist='grafana'      name='/etc/grafana/provisioning/datasources/eole.yml' source='grafana-datasources.yml'     mkdir='True' rm='True'/>
-        <file filelist='grafana'      name='/var/lib/grafana/dashboards/eole.json' source='grafana-node-dashboard.json'     mkdir='True' rm='True'/>
 
         <service>prometheus</service>
-        <service>prometheus-alertmanager</service>
+        <service>alertmanager</service>
         <service>grafana-server</service>
         <service_access service='prometheus'>
             <port service_accesslist="prometheus">9090</port>
-            <port service_accesslist="prometheus-alertmanager">9093</port>
+            <port service_accesslist="alertmanager">9093</port>
         </service_access>
         <service_access service='grafana-server'>
             <port service_accesslist="grafana">3000</port>
@@ -62,7 +59,7 @@
 
             <!-- Job standard  -->
             <variable name='prTarg' type='string' description='Nom de la cible prometheus' multi='True'/>
-            <variable name='prTargIP' type='string' description="Adresse IP ou nom de domaine de la cible prometheus"/>
+            <variable name='prTargIP' type='ip' description="Adresse IP de la cible prometheus"/>
             <variable name='prTargSonde' type='string' description="Sonde a utiliser pour ce client">
                 <value>Node Exporter</value>
             </variable>
@@ -81,9 +78,6 @@
             <variable name='scrpScheme' type='string' description="Protocole à utiliser pour l'interrogation de la sonde">
                 <value>http</value>
             </variable>
-           <variable name='scrpMetricPath' type='string' description="Chemin d'accès de la ressource">
-                <value>/metrics</value>
-            </variable>
 
             <variable name='addPrOpenTarg' type='oui/non' description="Ajouter des cibles statiques pour les jobs personnalisé">
                 <value>non</value>
@@ -91,28 +85,28 @@
             <!-- Job libre  -->
             <variable name='prOpenTarg' type='string' description='Nom de la cible personnalisé prometheus' multi='True'/>
             <variable name='prOpenTargJob' type='string' description='Nom du job de rattachement de la cible'/>
-            <variable name='prOpenTargIP' type='string' description="Adresse IP ou nom de domaine de la cible"/>
+            <variable name='prOpenTargIP' type='ip' description="Adresse IP de la cible"/>
             <variable name='prOpenTargPort' type='number' description="Port d'écoute de la sonde"/>
         </family>
 
         <family name="grafana">
-            <variable name='grafana_domain' type='string' description="Nom de Domaine ou IP pour accèder à l'interface Grafana" mandatory='True'>
-                <value>localhost</value>
-            </variable>
-            <variable name='grafana_session_max_lifetime' type='string' description="Durée avant déconnexion de l'interface Grafana (en seconde)">
-                <value>86400</value>
-            </variable>
-            <variable name='grafana_admin_passwd' type='string' description="Mot de passe admin pour la première connexion">
-                <value>admin</value>
-            </variable>
-            <variable name='grafana_sign_up' type='string' description="Activer l'enregistrement automatique">
-                <value>false</value>
-            </variable>
-            <variable name='grafana_auth_anonymous' type='string' description="Activer l'accès aux utilisateurs non enregistrés">
-                <value>false</value>
-            </variable>
-            <variable name='grafanaRootURL' type='string' description='Url publique de grafana (avec http:// ou https://)' mode='expert'/>
-        </family>
+                    <variable name='grafana_domain' type='string' description="Nom de Domaine ou IP pour accèder à l'interface Grafana" mandatory='True'>
+                        <value>localhost</value>
+                    </variable>
+                    <variable name='grafana_session_max_lifetime' type='string' description="Durée avant déconnexion de l'interface Grafana (en seconde)">
+                        <value>86400</value>
+                    </variable>
+                    <variable name='grafana_admin_passwd' type='string' description="Mot de passe admin pour la première connexion">
+                        <value>admin</value>
+                    </variable>
+                    <variable name='grafana_sign_up' type='string' description="Activer l'enregistrement automatique">
+                        <value>false</value>
+                    </variable>
+                    <variable name='grafana_auth_anonymous' type='string' description="Activer l'accès aux utilisateurs non enregistrés">
+                        <value>false</value>
+                    </variable>
+					<variable name='grafanaRootURL' type='string' description='Url publique de grafana (avec http:// ou https://)' mode='expert'/>
+                </family>
 
         <family name="alertes prometheus">
 			<variable name='alSMTPUseSys' type='oui/non' description="Utiliser la passerelle SMTP du système ?">
@@ -174,8 +168,7 @@
             <slave>scrpInterval</slave>
             <slave>scrpTimeout</slave>
             <slave>honorLabels</slave>
-	    <slave>scrpScheme</slave>
-            <slave>scrpMetricPath</slave>
+			<slave>scrpScheme</slave>
         </group>
 
         <group master='alRoute'>
@@ -260,8 +253,8 @@
         <condition name='disabled_if_in' source='activerAlertmanager'>
             <param>non</param>
             <target type='family'>alertes prometheus</target>
-            <target type='filelist'>prometheus-alertmanager</target>
-            <target type='service_accesslist'>prometheus-alertmanager</target>
+            <target type='filelist'>alertmanager</target>
+            <target type='service_accesslist'>alertmanager</target>
         </condition>
 
         <condition name='disabled_if_in' source='addTargetPrometheus'>

postservice/88_grafana

@@ -0,0 +1,91 @@
+#!/usr/bin/env bash
+
+
+function importDataSource()
+{
+    local grURL="${1}/api/datasources"  # Grafana API URL
+    local dsName=${2} # Datasource Name
+    local dsURL="${3}" # Datasource URL
+    local dsType="prometheus" # Datasource type
+
+    cmd="curl"
+
+
+    data=$(cat <<__EOF__
+{"name":"${dsName}","type":"${dsType}","url":"${dsURL}","access":"direct"}
+__EOF__
+    )
+
+    echo -ne "\tCreating datasource for Prometheus "
+    res=$(${cmd} "${grURL}" -H "Content-Type: application-json" --data-binary "${data}" 2>&1 )
+    excode=${?}
+    case $res in
+        *"already exists"*)
+            echo " ... [Exists]"
+            ;;
+        *"Datasource added"*)
+            echo " ... [OK]"
+            ;;
+        *)
+            echo " ... Ooops ${res}"
+            ;;
+    esac
+}
+
+function importDashboardFromMarket()
+{
+    local grURL="${1}/api/dashboards/import" # API URL to create new Dashboard
+    local dsName="${2}"                  # Datasource name (to link dashboard to data)
+    local dhID="${3}"                    # Dashboard ID in the market
+    local dhRev="${4}"                   # Dashboard Revision to download
+    local tmpFile=$(mktemp)
+    local dhFile=$(mktemp)
+
+    # URL To download the json file for dashboard
+    local pubDashBoardURL="https://grafana.com/api/dashboards/${dhID}/revisions/${dhRev}/download"
+
+    local cmd="curl"
+
+    local dh=$(${cmd} --silent ${pubDashBoardURL} 2>&1)
+
+    cat <<_EOF_ > ${tmpFile}
+{
+  "inputs": [ { "name":"DS_LOCALHOST", "type":"datasource", "pluginId":"prometheus", "value":"${dsName}" } ],
+  "dashboard": { "title": "Surveillance Système", ${dh:1:-1} },
+  "folderId": 0,
+  "overwrite": true
+}
+_EOF_
+
+    res=$(${cmd} "${grURL}" -H "Content-Type: application-json" --data-binary "@${tmpFile}" 2>&1 )
+    excode=${?}
+    case $res in
+        *"\"imported\":true"*)
+            echo " ... [Overwrited]"
+            ;;
+        *"Datasource added"*)
+            echo " ... [OK]"
+            ;;
+        *)
+            echo " ... Ooops ${res}"
+            ;;
+    esac
+#    rm -rf ${tmpFile}
+}
+
+grafanaHost=$(CreoleGet srvGrafanaIP 127.0.0.1)
+grafanaPort=$(CreoleGet srvGrafanaPort 3000)
+grafanaUser="admin"
+grafanaPasswd=$(CreoleGet grafana_admin_passwd admin)
+grafanaURL="http://${grafanaUser}:${grafanaPasswd}@${grafanaHost}:${grafanaPort}"
+datasource_name=$(CreoleGet promDataSource "prometheus")
+promHost=$(CreoleGet adresse_ip_eth0)
+promPort='9090'
+datasourceURL="http://${promHost}:${promPort}"
+
+importDataSource ${grafanaURL} ${datasource_name} ${datasourceURL}
+echo
+echo -ne "\tImporting Node Exporter Full Dashboard "
+importDashboardFromMarket ${grafanaURL} ${datasource_name} 1860 11
+
+rm -rf ${dashBoardFile}

tmpl/alert-rules.yml

@@ -33,18 +33,9 @@ groups:
   # Heavy "/" use
   - alert: filesystem_threshold_exceeded
     expr: node_filesystem_avail{job="%%{job_name_node}",mountpoint="/"} / node_filesystem_size{job="%%{job_name_node}"}
-      * 100 < 20
+      * 100 < 90
     annotations:
       description: This device's filesystem usage has exceeded the threshold with
         a value of {{ $value }}.
       summary: Instance {{ $labels.instance }} filesystem usage is dangerously high
 
-  # Heavy CPU temperature
-  - alert: cpu_temp_threshold_exceeded
-    expr: avg(node_hwmon_temp_celsius{job="node"}) BY (instance)
-      > 50
-    annotations:
-      description: This device's cpu temperature has exceeded the threshold with a value
-        of {{ $value }}.
-      summary: Instance {{ $labels.instance }} CPU temperature is dangerously high
-

tmpl/alertmanager.yml

@@ -81,7 +81,6 @@ route:
     - match:
         %%{sroute.alSubRouteMatchSource}: %%alSubRouteMatchValue
       receiver: %%alSubRouteMatchReceiver
-      continue: true
       %end if
     %end for
   %end if
@@ -90,7 +89,6 @@ route:
   - match:
       %%{rt.alRouteMatchSource}: %%{rt.alRouteMatchValue}
     receiver: %%rt.alRouteMatchReceiver
-    continue: true
 
   %if not %%is_empty('alSubRoute')
     routes:
@@ -99,7 +97,6 @@ route:
     - match:
         %%{sroute.alSubRouteMatchSource}: %%{sroute.alSubRouteMatchValue}
       receiver: %%sroute.alSubRouteMatchReceiver
-      continue: true
       %end if
     %end for
   %end if

tmpl/grafana-dashboards.yml

@@ -1,10 +0,0 @@
-# # config file version
-apiVersion: 1
-
-providers:
-- name: 'eole'
-  orgId: 1
-  folder: ''
-  type: file
-  options:
-    path: /var/lib/grafana/dashboards

tmpl/grafana-datasources.yml

@@ -1,11 +0,0 @@
-apiVersion: 1
-
-datasources:
-- name: Prometheus
-  type: prometheus
-  access: proxy
-  orgId: 1
-  url: http://%%adresse_ip_eth0:9090
-  isDefault: true
-  version: 1
-  editable: false

tmpl/grafana.ini

@@ -21,7 +21,7 @@
 ;plugins = /var/lib/grafana/plugins
 
 # folder that contains provisioning config files that grafana will apply on startup and while running.
-provisioning = /etc/grafana/provisioning
+; provisioning = conf/provisioning
 
 #################################### Server ####################################
 [server]

tmpl/prometheus.yml

@@ -44,7 +44,6 @@ scrape_configs:
     scrape_interval: %%{job.scrpInterval}s
     scrape_timeout: %%{job.scrpTimeout}s
     scheme: %%job.scrpScheme
-    metrics_path: %%job.scrpMetricPath
   %set first = True
     static_configs:
       - targets: [ %slurp