Elasticsearch

本文說明如何設定 Google Kubernetes Engine 部署作業,以便使用 Google Cloud Managed Service for Prometheus 從 Elasticsearch 收集指標。本文將說明如何執行下列操作:

  • 設定 Elasticsearch 的匯出工具,以回報指標。
  • 在 Cloud Monitoring 中存取預先定義的資訊主頁,即可查看指標。
  • 設定快訊規則,監控指標。

只有在使用 Managed Service for Prometheus 的 代管收集作業時,才適用這些操作說明。如果您使用自行部署的收集作業,請參閱 Elasticsearch 匯出工具的來源存放區,瞭解安裝資訊。

這些操作說明僅供參考,適用於大多數 Kubernetes 環境。 如果因嚴格的安全或機構政策而無法安裝應用程式或匯出工具,建議您參閱開放原始碼文件尋求支援。

如要瞭解 Elasticsearch,請參閱「Elasticsearch」。

必要條件

如要使用 Managed Service for Prometheus 和代管收集作業,從 Elasticsearch 收集指標,部署作業必須符合下列規定:

  • 叢集必須執行 Google Kubernetes Engine 1.28.15-gke.2475000 以上版本。
  • 您必須執行 Managed Service for Prometheus,並啟用代管收集作業。詳情請參閱「 開始使用代管集合」一文。

  • 如要使用 Cloud Monitoring 提供的 Elasticsearch 整合資訊主頁,請務必使用 elasticsearch_exporter 1.3.0 以上版本。

    如要進一步瞭解可用的資訊主頁,請參閱「查看資訊主頁」。

安裝 Elasticsearch 匯出工具

建議您使用下列設定安裝 Elasticsearch 匯出工具 elasticsearch_exporter

# Copyright 2022 Google LLC # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # #     https://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License.  apiVersion: apps/v1 kind: Deployment metadata:   name: elasticsearch-exporter   labels:     app.kubernetes.io/name: elasticsearch-exporter spec:   selector:     matchLabels:       app.kubernetes.io/name: elasticsearch-exporter   template:     metadata:       labels:         app.kubernetes.io/name: elasticsearch-exporter     spec:       containers:       - name: exporter         image: quay.io/prometheuscommunity/elasticsearch-exporter:v1.3.0         args:         - '--es.uri=https://user:password@elasticsearch-es-internal-http:9200'         ports:         - containerPort: 9114           name: prometheus
Elasticsearch 匯出工具可透過旗標設定,這些旗標可設為容器引數。您可以調整匯出工具的設定,配合 Elasticsearch 設定。 更新 --es.uri 標記,以符合環境的使用者名稱、密碼和 clusterIP 服務名稱。

如要套用本機檔案的設定變更,請執行下列指令:

 kubectl apply -n NAMESPACE_NAME -f FILE_NAME 

您也可以使用 Terraform 管理設定。

定義 PodMonitoring 資源

如要探索目標,Managed Service for Prometheus Operator 需要與相同命名空間中的 Elasticsearch 匯出工具對應的 PodMonitoring 資源。

您可以使用下列 PodMonitoring 設定:

# Copyright 2022 Google LLC # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # #     https://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License.  apiVersion: monitoring.googleapis.com/v1 kind: PodMonitoring metadata:   name: elasticsearch   labels:     app.kubernetes.io/name: elasticsearch     app.kubernetes.io/part-of: google-cloud-managed-prometheus spec:   endpoints:   - port: prometheus     scheme: http     interval: 30s     path: /metrics   selector:     matchLabels:       app.kubernetes.io/name: elasticsearch-exporter

如要套用本機檔案的設定變更,請執行下列指令:

 kubectl apply -n NAMESPACE_NAME -f FILE_NAME 

您也可以使用 Terraform 管理設定。

定義規則和快訊

您可以使用下列 Rules 設定,在 Elasticsearch 指標上定義快訊:

# Copyright 2022 Google LLC # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # #     https://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License.  apiVersion: monitoring.googleapis.com/v1 kind: Rules metadata:   name: elasticsearch-rules   labels:     app.kubernetes.io/component: rules     app.kubernetes.io/name: elasticsearch-rules     app.kubernetes.io/part-of: google-cloud-managed-prometheus spec:   groups:   - name: elasticsearch     interval: 30s     rules:     - alert: ElasticsearchHighJVMMemoryUsage       annotations:         description: |-           Elasticsearch high jvm memory usage             VALUE = {{ $value }}             LABELS: {{ $labels }}         summary: Elasticsearch high jvm memory usage (instance {{ $labels.instance }})       expr: (elasticsearch_jvm_memory_used_bytes / elasticsearch_jvm_memory_max_bytes) > 0.9       for: 5m       labels:         severity: critical     - alert: ElasticsearchRedClusterStatus       annotations:         description: |-           Elasticsearch red cluster status             VALUE = {{ $value }}             LABELS: {{ $labels }}         summary: Elasticsearch red cluster status (instance {{ $labels.instance }})       expr: sum(elasticsearch_cluster_health_status{color="red"}) > 0       for: 5m       labels:         severity: critical     - alert: ElasticsearchYellowClusterStatus       annotations:         description: |-           Elasticsearch yellow cluster status             VALUE = {{ $value }}             LABELS: {{ $labels }}         summary: Elasticsearch yellow cluster status (instance {{ $labels.instance }})       expr: sum(elasticsearch_cluster_health_status{color="yellow"}) > 0       for: 5m       labels:         severity: warning

如要套用本機檔案的設定變更,請執行下列指令:

 kubectl apply -n NAMESPACE_NAME -f FILE_NAME 

您也可以使用 Terraform 管理設定。

如要進一步瞭解如何將規則套用至叢集,請參閱「受管理規則評估和快訊」。

您可以根據應用程式調整快訊閾值。

驗證設定

您可以使用 Metrics Explorer 驗證 Elasticsearch 匯出工具是否設定正確。Cloud Monitoring 可能需要一到兩分鐘才能擷取指標。

如要確認指標已擷取,請按照下列步驟操作:

  1. 前往 Google Cloud 控制台的 「Metrics Explorer」頁面:

    前往 Metrics Explorer

    如果您是使用搜尋列尋找這個頁面,請選取子標題為「Monitoring」的結果

  2. 在查詢建構工具窗格的工具列中,選取名稱為  MQL PromQL 的按鈕。
  3. 確認已在「Language」(語言) 切換按鈕中選取「PromQL」。語言切換按鈕位於同一工具列,可供你設定查詢格式。
  4. 輸入並執行下列查詢:
    up{job="elasticsearch", cluster="CLUSTER_NAME", namespace="NAMESPACE_NAME"}

查看資訊主頁

Cloud Monitoring 整合功能包含 Elasticsearch Prometheus 總覽資訊主頁。設定整合作業後,系統會自動安裝資訊主頁。 您也可以查看資訊主頁的靜態預覽畫面,不需安裝整合功能。

如要查看已安裝的資訊主頁,請按照下列步驟操作:

  1. 在 Google Cloud 控制台中,前往「Dashboards」(資訊主頁) 頁面:

    前往「Dashboards」(資訊主頁)

    如果您是使用搜尋列尋找這個頁面,請選取子標題為「Monitoring」的結果

  2. 選取「資訊主頁清單」分頁標籤。
  3. 選擇「整合」類別。
  4. 按一下資訊主頁名稱,例如「Elasticsearch Prometheus Overview」

如要查看資訊主頁的靜態預覽畫面,請按照下列步驟操作:

  1. 前往 Google Cloud 控制台的 「Integrations」(整合) 頁面

    前往「整合」

    如果您是使用搜尋列尋找這個頁面,請選取子標題為「Monitoring」的結果

  2. 按一下「Kubernetes Engine」部署平台篩選器。
  3. 找出 Elasticsearch 整合項目,然後按一下「查看詳細資料」
  4. 選取「資訊主頁」分頁標籤。

疑難排解

如要瞭解如何排解指標擷取問題,請參閱「 排解擷取端問題」中的「 無法從匯出工具收集資料」。