Apache SkyWalking 用の Grafana ダッシュボードの構築 - ネイティブ PromQL サポート

プログラミング 2023-03-28 20:26:50 訪問数: null

バックグラウンド

Apache SkyWalking は、分散システムのアプリケーション パフォーマンス監視ツールとして、クラウド ネイティブ アーキテクチャの下で分散システムの監視、追跡、および診断機能を提供します。Prometheus は、 アクティブなエコシステムを備えたオープン ソースのシステム監視およびアラート ツールキットです。特に、Prometheus メトリクスは、 エクスポーターと統合を通じて 広くサポートされています 。Prometheus クエリ言語であるPromQL には、一連の式が含まれており、HTTP API を公開してメトリクスを読み取ります。

SkyWalking は、 OpenTelemetry コレクターを介した Prometheus メトリックの取り込みをサポートし、これらのメトリックの集計計算を通じて、Linux 監視や Kubernetes 監視などのさまざまなシステム監視を提供します。SkyWalking はすでに ネイティブ UI と GraphQL APIをユーザーに提供しています。ただし、9.4.0 以降、より広範な生態学的統合機能を提供するために、PromQL サービスを提供します。これにより、既に PromQL をサポートしているサードパーティ システムまたは視覚化プラットフォーム (Grafana など) がインジケーターを取得できます。SkyWalking ユーザーは、さまざまなシステムと統合するときにメリットがあります。

SkyWalking の PromQL サービスとは何ですか?

PromQL サービスは、SkyWalking のネイティブ GraphQL クエリの上にあるクエリ エンジンであり、Prometheus 式を利用した追加のクエリ フェーズ コンピューティング機能を備えています。PromQL HTTP API リクエストを受け入れ、Prometheus 式を解析し、Prometheus メトリクスと SkyWalking メトリクスの間で変換できます。

PromQL サービスは、PromQL のすべてのプロトコルと構文に準拠しており、ユーザーは PromQL のように使用できます。SkyWalking はメトリックの分類、形式、ストレージなどの点で Prometheus とは根本的に異なるため、PromQL サービスが完全な PromQL 機能を実装する必要はありません。詳細については、ドキュメントを参照してください。

SkyWalkingの基本的な考え方

以下は、ユーザーが PromQL サービスを使用する際に理解する必要があるいくつかの基本的な概念と、Prometheus との違いです: Prometheus インジケーターは命名形式と構造を指定し、実際のインジケーター名とラベルはクライアント プロバイダーによって決定され、詳細情報を格納します。ユーザーは、PromQL の式を使用してメトリクスを集計および計算します。Prometheus とは異なり、SkyWalking のメトリクス メカニズムは、次のコア概念と階層を中心に構築されています。

  • 層 (Layer): オペレーティング システム (OS_LINUX 層)、Kubernetes (k8s 層) など、コンピューター サイエンスにおける抽象的なフレームワークを表します。このレイヤーは、さまざまなテクノロジから検出されたさまざまなサービスの所有者になります。ここで入手可能

    すべてのレイヤー定義を検索します。

  • サービス: 着信要求に対して同じ動作を提供するワークロードのグループ/セットを表します。

  • サービス インスタンス: サービス グループ内の単一のワークロード。

  • エンドポイント: 着信要求のサービス パス。

  • プロセス: オペレーティング システムのプロセス。一部のシナリオでは、service instance これはプロセスではありません。たとえば、Kubernetes Pod には複数のプロセスが含まれる場合があります。

Metric 名称和属性（标签）由 SkyWalking OAP 服务器根据数据源以及 OAL 和 MAL 配置。SkyWalking 提供了对时间序列指标进行下采样（down-sampling），并生成不同时间段数据（分钟、小时、天）的能力。

SkyWalking 指标流如下：

流量

  • Service/ServiceRelation/Instance/ServiceInstanceRelation/Endpoint/EndpointRelation/Process/ProcessRelation 的元数据。包括名称、层、属性、它们之间的关系等。

指标

  • 名称（Name）：指标名称，来自 OAL 和 MAL 的配置。
  • 实体（Entity）：表示指标的归属，用于查询。一个 Entity 根据 Scope 不同会包含如下信息： Scope 代表指标级别，在查询阶段代表 Scope catalog，Scope catalog 为所有的 scope 提供了高维的分类，层次结构。
Scope 实体信息
Service 服务（包括图层信息）
ServiceInstance 服务、服务实例
Endpoint 服务、端点
ServiceRelation 服务，目标服务
ServiceInstanceRelation 服务实例、目标服务实例
EndpointRelation 端点、目标端点
Process 服务、服务实例、流程
ProcessRelation 进程、服务实例、DestProcess
  • 值：
  1. 单值：long
  2. 标签值：文本，label1,value1|label2,value2|... ，例如 L2 aggregation,5000 | L1 aggregation,8000
  • TimeBucket：时间精确到分钟、小时、天

如何使用 PromQL 服务

设置

PromQL 服务在 v9.4.0 之后默认开启，不需要额外配置。例如，可以使用 OAP 环境变量配置默认端口：

restHost: ${SW_PROMQL_REST_HOST:0.0.0.0}
restPort: ${SW_PROMQL_REST_PORT:9090}
restContextPath: ${SW_PROMQL_REST_CONTEXT_PATH:/}
restMaxThreads: ${SW_PROMQL_REST_MAX_THREADS:200}
restIdleTimeOut: ${SW_PROMQL_REST_IDLE_TIMEOUT:30000}
restAcceptQueueSize: ${SW_PROMQL_REST_QUEUE_SIZE:0}
复制代码

使用 Prometheus 表达式

PromQL 通过 Prometheus 表达式匹配指标。这是一个典型的 Prometheus 指标。

为了匹配指标，Prometheus 表达式如下：

在 PromQL 服务中，这些保留的标签将被解析为度量名称和实体信息字段以及用于查询的其他标签。映射如下。

SkyWalking 概念 Prometheus 表达
指标名称 指标名称
层 标签
服务 标签
服务实例 标签 <服务实例>
端点 标签
…… ……

例如，以下表达式用于匹配查询指标：service_cpm、service_instance_cpm、endpoint_cpm

service_cpm {service='agent::songs', layer='GENERAL'}
service_instance_cpm {service='agent::songs', service_instance='agent::songs_instance_1', layer='GENERAL'}
endpoint_cpm {service='agent::songs', endpoint='GET:/songs', layer='GENERAL'}
复制代码

典型查询示例

在这里，我们将 SkyWalking Showcase 部署作为 Playground 来演示如何使用 PromQL 获取 SkyWalking 指标。

以下示例可用于通过 PromQL 服务查询服务的元数据和指标。

获取指标名称

查询：

http://localhost:9099/api/v1/label/__name__/values
复制代码

结果：

{
    "status": "success",
    "data": [
        "meter_mysql_instance_qps",
        "service_cpm",
        "envoy_cluster_up_rq_active",
        "instance_jvm_class_loaded_class_count",
        "k8s_cluster_memory_requests",
        "meter_vm_memory_used",
        "meter_apisix_sv_bandwidth_unmatched",
        "meter_vm_memory_total",
        ...
    ]
}
复制代码

选择一个指标并获取标签

查询：

http://localhost:9099/api/v1/labels?match []=service_cpm
复制代码

结果：

{
  "status": "success",
  "data": [
    "layer",
    "service",
    "top_n",
    "order"
  ]
}
复制代码

从特定层获取服务

查询：

http://127.0.0.1:9099/api/v1/series?match []=service_traffic {layer='GENERAL'}&start=1677479336&end=1677479636
复制代码

结果：

{
    "status": "success",
    "data": [
        {"__name__": "service_traffic",
            "service": "agent::songs",
            "scope": "Service",
            "layer": "GENERAL"
        },
        {"__name__": "service_traffic",
            "service": "agent::recommendation",
            "scope": "Service",
            "layer": "GENERAL"
        },
        {"__name__": "service_traffic",
            "service": "agent::app",
            "scope": "Service",
            "layer": "GENERAL"
        },
        {"__name__": "service_traffic",
            "service": "agent::gateway",
            "scope": "Service",
            "layer": "GENERAL"
        },
        {"__name__": "service_traffic",
            "service": "agent::frontend",
            "scope": "Service",
            "layer": "GENERAL"
        }
    ]
}
复制代码

查询服务的特定指标

查询：

http://127.0.0.1:9099/api/v1/query?query=service_cpm {service='agent::songs', layer='GENERAL'}
复制代码

结果：

{
  "status": "success",
  "data": {
    "resultType": "vector",
    "result": [
      {"metric": {
          "__name__": "service_cpm",
          "layer": "GENERAL",
          "scope": "Service",
          "service": "agent::songs"
        },"value": [
          1679559960,
          "6"
        ]
      }
    ]
  }
}
复制代码

关于 range query 和不同的 metrics type for query 可以参考 这里的 文档。

构建 Grafana Dashboard

从上面我们知道了 PromQL 服务的机制和查询方式，现在我们可以为上面的服务示例构建 Grafana Dashboard。注：以下所有配置均基于 Grafana 9.1.0 版本。

SkyWalking Showcase 提供了 General Service 和 Service Mesh 层等 Dashboard 文件，我们可以通过导入 Dashboard JSON 文件快速为层服务创建 Dashboard。

部署 Grafana 应用程序后，请按照以下步骤操作：

配置数据源

首先，我们需要创建一个数据源： 在数据源配置面板中，选择 Prometheus 并设置 URL 为 OAP 服务器地址，默认端口为 9090。 SkyWalking 如果有多个 Prometheus 数据源，请在此处设置数据源名称。

导入 Dashboard 文件

  1. 创建一个名为 SkyWalking 的 Dashboard 文件夹。

  2. 将 Dashboard 文件导入到 Grafana 中，有两种获取文件的方式：

    1. 来自 SkyWalking Showcase
    2. 转到 SkyWaking Demo：在 Grafana 上预览指标，并将其从 General Service Dashboard 导出。

  3. 完毕！现在我们可以看到 Dashboard 正在运行，服务位于下拉列表中，指标显示在面板上。

这是一种简单的构建方式，但是如果我们想要自定义它，我们需要知道它是如何工作的。

Dashboard 的工作原理

Dashboard 设置

打开 Settings-Variables 我们可以看到如下变量：

让我们看看每个变量的作用：

  1. $DS_SkyWalking

    这是一个数据源 ty 变量，它指定了之前定义为 SkyWalking 的 Prometheus 数据源。

  2. $layer

    这是一个常量类型，因为在 ‘General Service’ Dashboard 中，所有服务都属于 ‘GENERAL’ 层，因此可以在每个查询中直接使用它们。注意，当您自定义其他层时，必须在 Layer 上面定义该值。

  3. $service

    查询类型变量，为下拉列表获取该层下的所有服务名称。

    查询表达式：

    label_values (service_traffic {layer='$layer'}, service)
复制代码

    查询表达式将查询 HTTP API /api/v1/series，以获取 $layer 中服务元数据，并根据标签（服务）提取服务名称。

  4. $service_instance

    与 $service 一样，是一个查询变量，用于在下拉列表中选择服务的所有实例。

    查询表达式：

    label_values (instance_traffic {layer='$layer', service='$service'}, service_instance)
复制代码

    这里的查询表达式不仅指定了 $layer 还包含 $service 变量，用于关联下拉列表的服务。

  5. $endpoint

    与 $service 一样，是一个查询变量，用于在下拉列表中选择服务的所有端点。

    查询表达式：

    label_values (endpoint_traffic {layer='$layer', service='$service', keyword='$endpoint_keyword', limit='$endpoint_limit'}, endpoint)
复制代码

    此处的查询表达式指定 $layer 和 $service 用于与下拉列表的服务相关联的。并且还接受 $endpoint_keyword 和 $endpoint_limit 变量作为过滤条件。

  6. $endpoint_keyword

    一个文本类型的变量，用户可以输入它来过滤 $endpoint 的返回值。

  7. $endpoint_limit

    自定义类型，用户可以选择它以限制返回端点的最大数量。

Dashboard 配置

这个 Dashboard 上有几个典型的指标面板，让我们看看它是如何配置的。

普通值指标

选择 Time series chart 面板 Service Apdex 并单击 edit。

  1. 查询表达式

    service_apdex {service='$service', layer='$layer'} / 10000
复制代码

    指标范围为 Service，添加 service 和 layer 标签用于匹配，label 值使用上面配置的变量。该计算 Divided by 10000 用于匹配结果单位。查询文档可以参考 这里。

  2. 设置 Query options --> Min interval = 1m，因为 SkyWalking 中的指标最小时间段是 1m。

  3. 设置 Connect null values --> AlwaysShow points --> Always，因为当查询间隔大于 1 小时或 1 天时，SkyWalking 返回小时 / 天步长指标值。

标签值指标

选择 Time series chart 面板 Service Response Time Percentile 并单击 edit。

  1. 查询表达式

    service_percentile {service='$service', layer='$layer', labels='0,1,2,3,4', relabels='P50,P75,P90,P95,P99'}
复制代码

    指标范围为 Service，添加 service 和 layer 标签用于匹配，label 值使用上面配置的变量。添加 labels='0,1,2,3,4' 过滤结果标签，并添加 relabels='P50,P75,P90,P95,P99' 重命名结果标签。查询文档可以参考 这里。

  2. 设置 Query options --> Min interval = 1m，因为 SkyWalking 中的指标最小时间段是 1m。

  3. 设置 Connect null values --> AlwaysShow points --> Always，因为当查询间隔 > 1 小时或 1 天时，SkyWalking 返回小时 / 天步长指标值。

  4. 设置 Legend 为 {{label}} 来展示。

排序指标

选择 Time series chart 面板 Service Response Time Percentile 并单击 edit。

  1. 查询表达式

    service_instance_cpm {parent_service='$service', layer='$layer', top_n='10', order='DES'}
复制代码

    该表达式用于查询服务下的排序指标，因此添加标签 parent_service 和 layer 进行匹配。添加 top_n='10' 和 order='DES' 过滤结果。查询文档可以参考 这里。

  2. 设置 Query options --> Min interval = 1m，因为 SkyWalking 中的指标最小时间段是 1m。

  3. 设置 Calculation --> Latest*。

  4. 设置 Legend 为 {{service_instance}} 来展示。

结论 

在这篇文章中，我们介绍了 SkyWalking 中的 PromQL 服务是什么以及它的背景。详细介绍了 PromQL 服务的使用方法和 SkyWalking 相关的基本概念，展示了如何使用 PromQL 服务为 SkyWalking 构建 Grafana Dashboard。

未来，将会有更多的集成利用这个协议，比如 CI/CD、HPA（缩放）等。

おすすめ

転載: juejin.im/post/7215454235054473277
おすすめ
ランキング
uni.request在接口状态码403等还是走success
Springboot は mybatisplus を統合しており、ページング クエリによって返される Page オブジェクトの合計は常に 0 です。
System.InvalidOperationExceptionが：「BuildWindowCoreは、子ウィンドウのハンドル搭乗を返しません。」
[Example 08] IPD system advancement: version naming rules for version management
カスタム NavigationBar -- UIView による描画
データとデータの移行を復元します（個人的なメモ、無用リーダー）
4. 2次元配列で検索する
vim的私人订制
Flutterのカスタムルーティング切り替えアニメーション
Javaコンテナの方法の簡単なアプリケーションのArrayList
アーカイブ
もっと
2024-05-12(27)
2024-05-11(31)
2024-05-10(33)
2024-05-09(30)
2024-05-08(18)
2024-05-07(34)
2024-05-06(6)
2024-05-05(0)
2024-05-04(18)
2024-05-03(8)

コードワールド

© 2018 codetd.com