日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

OpenTelemetry 實踐指南:歷史、架構(gòu)與基本概念

來源: 責編: 時間:2024-05-21 09:06:36 140觀看
導讀歷史發(fā)展早在 OpenTelemetry 誕生之前可觀測性這個概念就一直存在了,我記得我最早接觸到這個概念是在 16 年當時的公司所使用的一個產(chǎn)品:pinpoint現(xiàn)如今這個項目依然比較活躍。圖片依然還記得當時通過它可以直接看到項

歷史發(fā)展

早在 OpenTelemetry 誕生之前可觀測性這個概念就一直存在了,我記得我最早接觸到這個概念是在 16 年當時的公司所使用的一個產(chǎn)品:pinpointmb628資訊網(wǎng)——每日最新資訊28at.com

現(xiàn)如今這個項目依然比較活躍。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

依然還記得當時通過它可以直接看到項目調(diào)用的拓撲圖,在時間坐標上框出高延遲的點就能列出這些請求,同時還能查看此時的運行日志。mb628資訊網(wǎng)——每日最新資訊28at.com

這樣強大的功能對于一個剛工作一年的小白來說沖擊力實屬太大了一點。mb628資訊網(wǎng)——每日最新資訊28at.com

后來才了解到 pinpoint 屬于 APM 這類產(chǎn)品,類似的產(chǎn)品還有:mb628資訊網(wǎng)——每日最新資訊28at.com

  • Apache SkyWalking
  • 美團的 CAT 等

他們都是可以用于性能分析和鏈路追蹤的產(chǎn)品,到后來公司的運維層面也接入過 Zabbix、open-falcon 之類的產(chǎn)品:mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

17之后全面切換到 spring boot 時,也用過社區(qū)提供的 spring-boot-admin 項目:mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

這就是一個簡單的可以監(jiān)控 spring boot 應用的產(chǎn)品,用于展示 JVM 指標,或者自己也可以定義一些健康指標。mb628資訊網(wǎng)——每日最新資訊28at.com

再之后進入云原生體系后可觀測性的技術(shù)棧稍有變化。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

日志使用 Sidecar 代理的方式通過 Agent 將數(shù)據(jù)寫入 ElasticSearch 中。 具體日志采集方式可以參考之前的文章:mb628資訊網(wǎng)——每日最新資訊28at.com

  • 在 kubernetes 環(huán)境下如何采集日志

而鏈路追蹤則是使用的 skywalking,在 trace 這個領(lǐng)域 skywalking 還是非常受大家喜愛的。mb628資訊網(wǎng)——每日最新資訊28at.com

不過最近也從 skywalking 切換到了我們本文所講到的 OpenTelemetry,具體可以看之前的文章:mb628資訊網(wǎng)——每日最新資訊28at.com

  • 實戰(zhàn):如何優(yōu)雅的從 Skywalking 切換到 OpenTelemetry

指標采集使用的是自然也是 Prometheus 的那一套技術(shù)棧,只是 Prometheus 換為了與它完全兼容的 VictoriaMetric 目前是為了更省資源。mb628資訊網(wǎng)——每日最新資訊28at.com

客戶端使用則是直接使用 Prometheus 的庫進行指標暴露:mb628資訊網(wǎng)——每日最新資訊28at.com

<dependency>    <groupId>io.prometheus</groupId>    <artifactId>prometheus-metrics-core</artifactId>    <version>1.0.0</version></dependency><dependency>    <groupId>io.prometheus</groupId>    <artifactId>prometheus-metrics-instrumentation-jvm</artifactId>    <version>1.0.0</version></dependency><dependency>    <groupId>io.prometheus</groupId>    <artifactId>prometheus-metrics-exporter-httpserver</artifactId>    <version>1.0.0</version></dependency>

最終通過配置抓取策略,由 VictoriaMetrics 的 scrape 程序來抓取指標最終寫入到它自己的存儲中:mb628資訊網(wǎng)——每日最新資訊28at.com

apiVersion: operator.victoriametrics.com/v1beta1  kind: VMPodScrape  metadata:    name: kubernetes-pod-scrape    namespace: monitoring  spec:    podMetricsEndpoints:      - scheme: http        scrape_interval: "30s"        path: /metrics        relabelConfigs:          - source_labels: [__meta_kubernetes_pod_annotation_prometheus_io_scrape]            separator: ;            regex: "true"            replacement: $1            action: keep          # 端口相同          - action: keep_if_equal            source_labels: [ __meta_kubernetes_pod_annotation_prometheus_io_port, __meta_kubernetes_pod_container_port_number ]          # 過濾INIT容器          - action: drop            source_labels: [ __meta_kubernetes_pod_container_init ]            regex: "true"          - source_labels: [__meta_kubernetes_pod_annotation_prometheus_io_path]            separator: ;            regex: (.+)            target_label: __metrics_path__            replacement: $1            action: replace          - source_labels: [__address__, __meta_kubernetes_pod_annotation_prometheus_io_port]            separator: ;            regex: ([^:]+)(?::/d+)?;(/d+)            target_label: __address__            replacement: $1:$2            action: replace          - separator: ;            regex: __meta_kubernetes_pod_label_(.+)            replacement: $1            action: labelmap          - source_labels: [__meta_kubernetes_namespace]            separator: ;            regex: (.*)            target_label: kubernetes_namespace            replacement: $1            action: replace          - source_labels: [__meta_kubernetes_pod_name]            separator: ;            regex: (.*)            target_label: kubernetes_pod_name            replacement: $1            action: replace        vm_scrape_params:          stream_parse: true    namespaceSelector:      any: true

以上是 VM 提供的 CRDmb628資訊網(wǎng)——每日最新資訊28at.com

OpenTelemetry 誕生

到此鋪墊完成,不知道有沒有發(fā)現(xiàn)在可觀測性中關(guān)鍵的三個部分:日志、指標、trace 都是使用不同的開源產(chǎn)品,從而會導致技術(shù)棧較多,維護起來自然也是比較麻煩的。mb628資訊網(wǎng)——每日最新資訊28at.com

這么一個軟件領(lǐng)域的核心能力自然需要提供一個完整方案的,將以上的不同技術(shù)棧都整合在一起,更加的方便開發(fā)者使用。mb628資訊網(wǎng)——每日最新資訊28at.com

在這之前也有兩個社區(qū)想要做類似的事情:mb628資訊網(wǎng)——每日最新資訊28at.com

  • OpenTracing
  • OpenCensus

不過他們并沒有統(tǒng)一整個可觀測領(lǐng)域,直到 2019 年 CNCF 社區(qū)宣布成立 OpenTelemetry,并且將上述兩個社區(qū)進行合并共同開發(fā) OpenTelemetry。mb628資訊網(wǎng)——每日最新資訊28at.com

背靠 CNCF 云原生社區(qū)加上許多知名廠商的支持(Google、Amazon、Redhat 等),現(xiàn)在已經(jīng)正式成為 CNCF 的頂級項目了。mb628資訊網(wǎng)——每日最新資訊28at.com

OpenTelemetry 架構(gòu)介紹

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

但我們打開 OpenTelemetry 社區(qū)的 GitHub 首頁時,會看到有許多項目;第一反應應該是比較蒙的,下面我會著重介紹一些比較重要的項目。mb628資訊網(wǎng)——每日最新資訊28at.com

在開始之前還是先簡單介紹下 OpenTelemetry 的一些基礎(chǔ)組件和概念:mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

整個 OpenTelemetry 系統(tǒng)其實可以簡單分為三個部分:mb628資訊網(wǎng)——每日最新資訊28at.com

  • 客戶端
  • OTel collector
  • 數(shù)據(jù)存儲

第一個客戶端很好理解,也就是我們的業(yè)務應用;如果是 Java 應用只需要掛載一個 agent 就可以自動采集系統(tǒng)的指標、鏈路信息、日志等上傳到 Collector 中。mb628資訊網(wǎng)——每日最新資訊28at.com

也就是上圖的左邊部分。mb628資訊網(wǎng)——每日最新資訊28at.com

之后就是非常關(guān)鍵的組件 collector,它可以通過 OTLP 協(xié)議接收剛才提到的客戶端上傳的數(shù)據(jù),然后再內(nèi)部進行處理,最終輸出到后續(xù)的存儲系統(tǒng)中。mb628資訊網(wǎng)——每日最新資訊28at.com

Collector

 collector 的架構(gòu)圖 collector 的架構(gòu)圖mb628資訊網(wǎng)——每日最新資訊28at.com

由于 OpenTelemetry 設(shè)計之初就是要做到廠商無關(guān),所以它就得做出更高層級的設(shè)計。mb628資訊網(wǎng)——每日最新資訊28at.com

關(guān)鍵點就是這里的 Receiver 和 Exporter 都是模塊化的設(shè)計,第三方開發(fā)者可以基于它的標準開發(fā)不同組件從而兼容不同的產(chǎn)品。mb628資訊網(wǎng)——每日最新資訊28at.com

Receiver:用于接收客戶端上報的數(shù)據(jù),不止是自己 agent 上報的數(shù)據(jù),也可能會來自不同的廠商,比如 kubernetes、Kafka 等。mb628資訊網(wǎng)——每日最新資訊28at.com

Exporter:同理,可以將 receiver 收到的數(shù)據(jù)進行處理之后輸出到不同的組件中;比如 Kafka/Pulsar/Promethus/Jaeger 等。mb628資訊網(wǎng)——每日最新資訊28at.com

比如我們可以使用 Nginx Receiver接收來著 Nginx 上報的數(shù)據(jù)。mb628資訊網(wǎng)——每日最新資訊28at.com

使用 MySQL Receiver接收來自 MySQL 的數(shù)據(jù)。mb628資訊網(wǎng)——每日最新資訊28at.com

當然通常我們使用最多的還是 OTLP Receiver,這是官方的 OTLP 協(xié)議的接收器,可以接受官方的一些指標,比如我們只使用了 Java Agent 進行數(shù)據(jù)上報時。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

https://github.com/open-telemetry/opentelemetry-collector-contrib/tree/main/receivermb628資訊網(wǎng)——每日最新資訊28at.com

在這里是可以看到目前支持的所有第三方的 Receiver。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

OpenTelemetry 所支持的 Exporter 也很多,比如一些常見的存儲:mb628資訊網(wǎng)——每日最新資訊28at.com

  • clickhouse exporter
  • elasticsearch exporter
  • pulsar exporter
  • prometheus exporter
  • otlp http exporter

Exporter 的使用場景很多:如果是指標相關(guān)的數(shù)據(jù)可以直接寫入 Prometheus,如果是日志數(shù)據(jù)也可以直接寫入 ElasticSearch。mb628資訊網(wǎng)——每日最新資訊28at.com

如果還有其他的特殊需求(刪減屬性等)則可以寫入消息隊列,自行處理完之后再發(fā)往 collector 進行后續(xù)的處理。mb628資訊網(wǎng)——每日最新資訊28at.com

可能你已經(jīng)發(fā)現(xiàn)了,由于 collector 非常的靈活,所以我們可以像搭積木一樣組裝我們的 receiver 和 exporter,它會以我們配置的流水線的方式進行調(diào)用,這樣我們就可以實現(xiàn)任意可定制的處理邏輯。mb628資訊網(wǎng)——每日最新資訊28at.com

而這些流水線的組裝對于客戶端來說都是透明的,也就是說 collector 的更改完全不會影響到業(yè)務;業(yè)務只需要按照 OTLP 的格式上報數(shù)據(jù)即可。mb628資訊網(wǎng)——每日最新資訊28at.com

在之前的從 Skywalking 切換到 OpenTelemetry 的文章中有人問為什么要切換到 OpenTelemetry?mb628資訊網(wǎng)——每日最新資訊28at.com

從這里也能看得出來,OpenTelemetry 的靈活度非常高,借助于 Exporter 可以任意的更換后端存儲,或者增加/刪減一些不需要的指標數(shù)據(jù)等。mb628資訊網(wǎng)——每日最新資訊28at.com

當然我們也可以統(tǒng)一的在這里進行搜索,可以列出所有的第三方集成的組件: https://opentelemetry.io/ecosystem/registry/。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

OpenTelemetry 項目介紹

opentelemetry-java

介紹完基本的概念后,我們可以看看  OTel 社區(qū)的一些主要開源項目。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

這里我們還是以剛才的那個架構(gòu)圖從作往右講起,也就是主要分為客戶端和 collector 端。mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

目前官方支持的客戶端語言已經(jīng)非常齊全了,大部分的版本都已經(jīng)是 Stable 穩(wěn)定版,意味著可以進入生產(chǎn)環(huán)境。mb628資訊網(wǎng)——每日最新資訊28at.com

這里我們以 Java 客戶端為例:mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

其中我們重點關(guān)注下 opentelemetry-java 和 opentelemetry-java-instrumentation 這兩個項目。mb628資訊網(wǎng)——每日最新資訊28at.com

我們用的最多的會是 opentelemetry-java-instrumentation,它會給我們提供一個 java agent 的 JAR 包:mb628資訊網(wǎng)——每日最新資訊28at.com

java -javaagent:path/to/opentelemetry-javaagent.jar /     -jar myapp.jar

我們只需要在 Java 應用中加上該  agent 就可以實現(xiàn)日志、指標、trace 的自動上報。mb628資訊網(wǎng)——每日最新資訊28at.com

而且它還實現(xiàn)了不同框架、庫的指標采集與 trace。mb628資訊網(wǎng)——每日最新資訊28at.com

在這里可以查到支持的庫與框架列表:mb628資訊網(wǎng)——每日最新資訊28at.com

圖片圖片mb628資訊網(wǎng)——每日最新資訊28at.com

https://github.com/open-telemetry/opentelemetry-java-instrumentation/blob/main/docs/supported-libraries.md#libraries--frameworksmb628資訊網(wǎng)——每日最新資訊28at.com

總之幾乎就是你能想到和不能想到的都支持了。mb628資訊網(wǎng)——每日最新資訊28at.com

而 opentelemetry-java 我們直接使用的幾率會小一些,opentelemetry-java-instrumentation 本身也是基于它創(chuàng)建的,可以理解為是 Java 版本的核心基礎(chǔ)庫,一些社區(qū)支持的組件就可以移動到 instrumentation 這個庫中。mb628資訊網(wǎng)——每日最新資訊28at.com

比如我在上篇文章:從一個 JDK21+OpenTelemetry 不兼容的問題講起中涉及到的 HostResourceProvider 資源加載就是從 opentelemetry-java 中移動到了 opentelemetry-java-instrumentation。mb628資訊網(wǎng)——每日最新資訊28at.com

具體可以參考:https://github.com/open-telemetry/opentelemetry-java/issues/4701mb628資訊網(wǎng)——每日最新資訊28at.com

collector

之后就是 collector 的組件了,它同樣的也有兩個庫:OpenTelemetry Collector 和 OpenTelemetry Collector Contribmb628資訊網(wǎng)——每日最新資訊28at.com

其實通過他們的名字也可以看得出來,他們的作用與剛才的 Java 庫類似:mb628資訊網(wǎng)——每日最新資訊28at.com

  • opentelemetry-collector:由官方社區(qū)維護,提供了一些核心能力;比如只包含了最基本的 otlp 的 receiver 和 exporter。
  • opentelemetry-collector-contrib:包含了官方的 collector,同時更多的維護了社區(qū)提供的各種 receiver 和 exporter;就如上文提到的,一些社區(qū)組件(pulsar、MySQL、Kafka)等都維護在這個倉庫。

而我們生產(chǎn)使用時通常也是直接使用 opentelemetry-collector-contrib,畢竟它所支持的社區(qū)組件更多。mb628資訊網(wǎng)——每日最新資訊28at.com

總結(jié)

因為 OpenTelemetry 想要解決的是整個可觀測領(lǐng)域的所有需求,所以倉庫非常多,社區(qū)也很開放,感興趣的朋友可以直接參與貢獻,這么多 repo 總有一個適合你的。mb628資訊網(wǎng)——每日最新資訊28at.com

后續(xù)會繼續(xù)講解如何安裝以及配置我們的 OpenTelemetry。mb628資訊網(wǎng)——每日最新資訊28at.com

參考鏈接:mb628資訊網(wǎng)——每日最新資訊28at.com

  • https://github.com/pinpoint-apm/pinpoint
  • https://github.com/codecentric/spring-boot-admin
  • https://github.com/open-telemetry/opentelemetry-java
  • https://github.com/open-telemetry/opentelemetry-java-instrumentation
  • https://github.com/open-telemetry/opentelemetry-java/issues/4701

本文鏈接:http://www.www897cc.com/showinfo-26-89552-0.htmlOpenTelemetry 實踐指南:歷史、架構(gòu)與基本概念

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 在 ASP.NET Core 中優(yōu)雅地處理多接口實現(xiàn)

下一篇: 基于單元的架構(gòu)綜合指南

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 白银市| 桦川县| 五家渠市| 五华县| 尼勒克县| 财经| 南开区| 屏东县| 平江县| 禹城市| 怀仁县| 英山县| 慈溪市| 浮山县| 庄浪县| 永安市| 香格里拉县| 申扎县| 黄大仙区| 邻水| 从江县| 手机| 改则县| 花莲县| 博乐市| 板桥市| 长武县| 卢氏县| 柳州市| 荔浦县| 河曲县| 永康市| 怀集县| 大厂| 旺苍县| 巢湖市| 容城县| 三台县| 滨州市| 岑溪市| 双柏县|