日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當(dāng)前位置:首頁 > 科技  > 軟件

可觀測性數(shù)據(jù)收集集大成者:Vector

來源: 責(zé)編: 時間:2023-09-28 10:07:26 325觀看
導(dǎo)讀如果企業(yè)提供 IT 在線服務(wù),那么可觀測性能力是必不可少的。“可觀測性” 這個詞近來也越發(fā)火爆,不懂 “可觀測性” 都不好意思出門了。但是可觀測性能力的構(gòu)建卻著實不易,每個企業(yè)都會用到一堆技術(shù)棧來組裝建設(shè)。比如數(shù)

如果企業(yè)提供 IT 在線服務(wù),那么可觀測性能力是必不可少的。“可觀測性” 這個詞近來也越發(fā)火爆,不懂 “可觀測性” 都不好意思出門了。但是可觀測性能力的構(gòu)建卻著實不易,每個企業(yè)都會用到一堆技術(shù)棧來組裝建設(shè)。比如數(shù)據(jù)收集,可能來自某個 exporter,可能來自 telegraf,可能來自 OTEL,可能來自某個日志文件,可能來自 statsd,收集到數(shù)據(jù)之后還需要做各種過濾、轉(zhuǎn)換、聚合、采樣等操作,煩不勝煩,今天我們就給大家介紹一款開源的數(shù)據(jù)收集+路由器工具:Vector,解除你的上述煩惱。EJX28資訊網(wǎng)——每日最新資訊28at.com

Vector 簡介

Vector 通常用作 logstash 的替代品,logstash 屬于 ELK 生態(tài),使用廣泛,但是性能不太好。Vector 使用 Rust 編寫,聲稱比同類方案快 10 倍。Vector 來自 Datadog,如果你了解監(jiān)控、可觀測性,大概率知道 Datadog,作為行業(yè)老大哥,其他小弟拍馬難及。Datadog 在 2021 年左右收購了 Vector,現(xiàn)在 Vector 已經(jīng)開源,地址是:EJX28資訊網(wǎng)——每日最新資訊28at.com

  • 主站:https://vector.dev/
  • 倉庫:https://github.com/vectordotdev/vector

Vector 不止是收集、路由日志數(shù)據(jù),也可以路由指標(biāo)數(shù)據(jù),甚至可以從日志中提取指標(biāo),功能強大。下面是 Vector 的架構(gòu)圖:EJX28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片EJX28資訊網(wǎng)——每日最新資訊28at.com

看起來和其他同類產(chǎn)品是類似的,核心就是 pipeline 的處理,有 Source 端做采集,有中間的 Transform 環(huán)節(jié)做數(shù)據(jù)加工處理,有 Sink 端做數(shù)據(jù)轉(zhuǎn)發(fā)。魔鬼在細(xì)節(jié),Vector 有如下一些特點,讓它顯得卓爾不群:EJX28資訊網(wǎng)——每日最新資訊28at.com

  • 超級快速可靠:Vector采用Rust構(gòu)建,速度極快,內(nèi)存效率高,旨在處理最苛刻的工作負(fù)載
  • 端到端:Vector 致力于成為從 A 到 B 獲取可觀測性數(shù)據(jù)所需的唯一工具,并作為守護(hù)程序、邊車或聚合器進(jìn)行部署
  • 統(tǒng)一:Vector 支持日志和指標(biāo),使您可以輕松收集和處理所有可觀測性數(shù)據(jù)
  • 供應(yīng)商中立:Vector 不偏向任何特定的供應(yīng)商平臺,并以您的最佳利益為出發(fā)點,培育公平、開放的生態(tài)系統(tǒng)。免鎖定且面向未來
  • 可編程轉(zhuǎn)換:Vector 的高度可配置轉(zhuǎn)換為您提供可編程運行時的全部功能。無限制地處理復(fù)雜的用例

Vector 安裝

Vector 的安裝比較簡單,一條命令即可搞定,其他安裝方式可以參考其 官方文檔。EJX28資訊網(wǎng)——每日最新資訊28at.com

curl --proto '=https' --tlsv1.2 -sSf https://sh.vector.dev | bash

Vector 配置測試

Vector 的配置文件可以是 yaml、json、toml 格式,下面是一個 toml 的例子,其作用是讀取 /var/log/system.log 日志文件,然后把 syslog 格式的日志轉(zhuǎn)換成 json 格式,最后輸出到標(biāo)準(zhǔn)輸出:EJX28資訊網(wǎng)——每日最新資訊28at.com

[sources.syslog_demo]type = "file"include = ["/var/log/system.log"]data_dir = "/Users/ulric/works/vector-test"[transforms.remap_syslog]inputs = [ "syslog_demo"]type = "remap"source = '''  structured = parse_syslog!(.message)  . = merge(., structured)'''[sinks.emit_syslog]inputs = ["remap_syslog"]type = "console"encoding.codec = "json"

首先,[sources.syslog_demo] 定義了一個 source,取名為 syslog_demo,這個 source 的類型是 file,表示從文件中讀取數(shù)據(jù),文件路徑是 /var/log/system.log,data_dir 是存儲 checkpoint 數(shù)據(jù)不用關(guān)心,只要給一個可寫的目錄就行(Vector 自用)。然后定義了一個 transform,名字為 remap_syslog,指定這個 transform 的數(shù)據(jù)來源(即上游)是 syslog_demo,其類型是 remap,remap 是 Vector 里非常重要的一個 transform,可以做各類數(shù)據(jù)轉(zhuǎn)換,在 source 字段里定義了一段代碼,其工作邏輯是:EJX28資訊網(wǎng)——每日最新資訊28at.com

  • 來自 syslog_demo 這個 source 的日志數(shù)據(jù),日志原文在 message 字段里(除了日志原文 message 字段,Vector 還會對采集的數(shù)據(jù)附加 host、timestamp 等字段),需要先解析成結(jié)構(gòu)化的數(shù)據(jù),通過 parse_syslog 這個函數(shù)做轉(zhuǎn)換
  • 轉(zhuǎn)換之后,相當(dāng)于把非結(jié)構(gòu)化的日志數(shù)據(jù)轉(zhuǎn)換成了結(jié)構(gòu)化的數(shù)據(jù),賦值給 structured 變量,然后通過 merge 函數(shù)把結(jié)構(gòu)化的這個數(shù)據(jù)和原始就有的 host、timestamp 等字段合并,然后把合并的結(jié)果繼續(xù)往 pipeline 后續(xù)環(huán)節(jié)傳遞

[sinks.emit_syslog] 定義了一個 sink,名字是 emit_syslog,通過 inputs 指明了上游數(shù)據(jù)來自 remap_syslog 這個 transform,通過 type 指明要把數(shù)據(jù)輸出給 console,即控制臺,然后通過 encoding.codec 指定輸出的數(shù)據(jù)格式是 json。然后通過下面的命令啟動 Vector:EJX28資訊網(wǎng)——每日最新資訊28at.com

vector -c vector.toml

然后,你就會看到一堆的日志輸出(當(dāng)然,前提是你的機器上有 system.log 這個文件,我是 macbook,所以用的這個文件測試的),樣例如下:EJX28資訊網(wǎng)——每日最新資訊28at.com

ulric@ulric-flashcat vector-test % vector -c vector.toml...{"appname":"syslogd","file":"/var/log/system.log","host":"ulric-flashcat.local","hostname":"ulric-flashcat","message":"ASL Sender Statistics","procid":332,"source_type":"file","timestamp":"2023-09-27T07:31:22Z"}

如上,就說明正常采集到了數(shù)據(jù),而且轉(zhuǎn)換成了 json 并打印到了控制臺,實驗成功。當(dāng)然,打印到控制臺只是個測試,Vector 可以把數(shù)據(jù)推給各類后端,典型的比如 ElasticSearch、S3、ClickHouse、Kafka 等。EJX28資訊網(wǎng)——每日最新資訊28at.com

Vector 部署模式

Vector 可以部署為兩個角色,既可以作為數(shù)據(jù)采集的 agent,也可以作為數(shù)據(jù)聚合、路由的 aggregator,架構(gòu)示例如下:EJX28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片EJX28資訊網(wǎng)——每日最新資訊28at.com

當(dāng) Vector 作為 agent 的時候,又有兩種使用模式:Daemon 和 Sidecar。Daemon 模式旨在收集單個主機上的所有數(shù)據(jù),這是數(shù)據(jù)收集的推薦方式,因為它最有效地利用主機資源。比如把 Vector 部署為 DaemonSet,收集這個機器上的所有容器中應(yīng)用的日志,容器中的應(yīng)用的日志推薦使用 stdout 方式打印,符合云原生 12 條要素。架構(gòu)圖如下:EJX28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片EJX28資訊網(wǎng)——每日最新資訊28at.com

當(dāng)然,也可以使用 Sidecar 模式部署,這樣占用的資源更多(畢竟,每個 Pod 里都要塞一個 Vector 容器),但是更靈活,服務(wù)所有者可以隨意搞自己的日志收集方案,不用依賴統(tǒng)一的日志收集方案。架構(gòu)圖如下:EJX28資訊網(wǎng)——每日最新資訊28at.com

圖片圖片EJX28資訊網(wǎng)——每日最新資訊28at.com

Vector 總結(jié)

夜鶯社區(qū)里已經(jīng)有很多小伙伴從 logstash 遷移到了 Vector,并普遍表示 Vector YYDS,如果你還沒聽過 Vector,趕緊去試試吧。其他的我也不啰嗦,請各位移步 Vector 官方文檔,本文最重要的價值就是讓你知道有這么個好東西 :-)EJX28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-11833-0.html可觀測性數(shù)據(jù)收集集大成者:Vector

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 18個不可不知的Spring Cloud微服務(wù)架構(gòu)知識點

下一篇: Node.js、Deno、Bun三個JS運行時哪個更勝一籌?

標(biāo)簽:
  • 熱門焦點
  • 5月iOS設(shè)備性能榜:M1 M2依舊是榜單前五

    和上個月一樣,沒有新品發(fā)布的iOS設(shè)備性能榜的上榜設(shè)備并沒有什么更替,僅僅只有跑分變化而產(chǎn)生的排名變動,剛剛開始的蘋果WWDC2023,推出的產(chǎn)品也依舊是新款Mac Pro、新款Mac Stu
  • 28個SpringBoot項目中常用注解,日常開發(fā)、求職面試不再懵圈

    前言在使用SpringBoot開發(fā)中或者在求職面試中都會使用到很多注解或者問到注解相關(guān)的知識。本文主要對一些常用的注解進(jìn)行了總結(jié),同時也會舉出具體例子,供大家學(xué)習(xí)和參考。注解
  • Rust中的高吞吐量流處理

    作者 | Noz編譯 | 王瑞平本篇文章主要介紹了Rust中流處理的概念、方法和優(yōu)化。作者不僅介紹了流處理的基本概念以及Rust中常用的流處理庫,還使用這些庫實現(xiàn)了一個流處理程序
  • 深度探索 Elasticsearch 8.X:function_score 參數(shù)解讀與實戰(zhàn)案例分析

    在 Elasticsearch 中,function_score 可以讓我們在查詢的同時對搜索結(jié)果進(jìn)行自定義評分。function_score 提供了一系列的參數(shù)和函數(shù)讓我們可以根據(jù)需求靈活地進(jìn)行設(shè)置。近期
  • 自律,給不了Keep自由!

    來源 | 互聯(lián)網(wǎng)品牌官作者 | 李大為編排 | 又耳 審核 | 谷曉輝自律能不能給用戶自由暫時不好說,但大概率不能給Keep自由。近日,全球最大的在線健身平臺Keep正式登陸港交所,努力
  • 網(wǎng)紅炒股不為了賺錢,那就是耍流氓!

    來源:首席商業(yè)評論6月26日高調(diào)宣布入市,網(wǎng)絡(luò)名嘴大v胡錫進(jìn)居然進(jìn)軍了股市。在一次財經(jīng)媒體峰會上,幾個財經(jīng)圈媒體大佬就“胡錫進(jìn)炒股是否知道認(rèn)真報道”展開討論。有
  • 三星電子Q2營收60萬億韓元 存儲業(yè)務(wù)營收同比仍下滑超過50%

    7月27日消息,據(jù)外媒報道,從三星電子所發(fā)布的財報來看,他們主要利潤來源的存儲芯片業(yè)務(wù)在今年二季度仍不樂觀,營收同比仍在大幅下滑,所在的設(shè)備解決方案
  • 2022爆款:ROG魔霸6 冰川散熱系統(tǒng)持續(xù)護(hù)航

    喜逢開學(xué)季,各大商家開始推出自己的新產(chǎn)品,進(jìn)行打折促銷活動。對于忠實的端游愛好者來說,能夠擁有一款夢寐以求的筆記本電腦是一件十分開心的事。但是現(xiàn)在的
  • 世界人工智能大會國際日開幕式活動在世博展覽館開啟

    30日上午,世界人工智能大會國際日開幕式活動在世博展覽館開啟,聚集國際城市代表、重量級院士專家、國際創(chuàng)新企業(yè)代表,共同打造人工智能交流平臺。上海市副市
Top 主站蜘蛛池模板: 丰顺县| 类乌齐县| 海门市| 潼关县| 兴文县| 岚皋县| 布拖县| 武定县| 兴业县| 嫩江县| 伽师县| 财经| 蓬安县| 名山县| 藁城市| 保亭| 彰化市| 青龙| 勃利县| 交口县| 全州县| 正蓝旗| 惠来县| 万荣县| 黎川县| 辽宁省| 和硕县| 永川市| 政和县| 汉沽区| 玉屏| 万盛区| 永嘉县| 桓台县| 九台市| 沙洋县| 靖安县| 湟中县| 赤城县| 绥江县| 土默特左旗|