Elasticsearch - dane zbiorcze

Zadanie zbiorcze to zadanie okresowe, które podsumowuje dane z indeksów określonych przez wzorzec indeksu i przenosi je do nowego indeksu. W poniższym przykładzie tworzymy indeks o nazwie sensor z różnymi znacznikami czasu. Następnie tworzymy zadanie zbiorcze, aby okresowo zestawiać dane z tych indeksów za pomocą zadania cron.

PUT /sensor/_doc/1
{
   "timestamp": 1516729294000,
   "temperature": 200,
   "voltage": 5.2,
   "node": "a"
}

Po uruchomieniu powyższego kodu otrzymujemy następujący wynik -

{
   "_index" : "sensor",
   "_type" : "_doc",
   "_id" : "1",
   "_version" : 1,
   "result" : "created",
   "_shards" : {
      "total" : 2,
      "successful" : 1,
      "failed" : 0
   },
   "_seq_no" : 0,
   "_primary_term" : 1
}

Teraz dodaj drugi dokument i tak dalej dla innych dokumentów.

PUT /sensor-2018-01-01/_doc/2
{
   "timestamp": 1413729294000,
   "temperature": 201,
   "voltage": 5.9,
   "node": "a"
}

Utwórz zadanie zbiorcze

PUT _rollup/job/sensor
{
   "index_pattern": "sensor-*",
   "rollup_index": "sensor_rollup",
   "cron": "*/30 * * * * ?",
   "page_size" :1000,
   "groups" : {
      "date_histogram": {
         "field": "timestamp",
         "interval": "60m"
      },
      "terms": {
         "fields": ["node"]
      }
   },
   "metrics": [
      {
         "field": "temperature",
         "metrics": ["min", "max", "sum"]
      },
      {
         "field": "voltage",
         "metrics": ["avg"]
      }
   ]
}

Parametr cron kontroluje, kiedy i jak często zadanie jest aktywowane. Po wyzwoleniu harmonogramu cron zadania zestawiania rozpocznie on zwijanie od miejsca, w którym zostało przerwane po ostatniej aktywacji

Po uruchomieniu zadania i przetworzeniu niektórych danych, możemy użyć zapytania DSL, aby przeprowadzić wyszukiwanie.

GET /sensor_rollup/_rollup_search
{
   "size": 0,
   "aggregations": {
      "max_temperature": {
         "max": {
            "field": "temperature"
         }
      }
   }
}