摘要:接上篇的安裝與界面預覽阿里云系統環境操作系統阿里云系統內網,私有地址內內內外網,公有地址外外外版本版本版本安裝與配置官方文檔不同于和,需要多帶帶安裝環境下載解壓后續操作在內目錄進行到下載測試數據集解壓測試數據集
接上篇:Kibana 7.x 的安裝與界面預覽(阿里云Ubuntu)
系統環境操作系統:Ubuntu 18.04 LTS(阿里云)
系統IP
# 內網,私有地址 172.內.內.內 # 外網,公有地址 112.外.外.外
Elasticsearch 版本:7.2
Kibana 版本:7.2
Logstash 版本:7.2
安裝與配置官方文檔:https://www.elastic.co/guide/...
Logstash 不同于 Elasticsearch 和 Kibana,需要多帶帶安裝 Java 環境
~$ sudo apt install default-jdk ~$ java -version openjdk version "11.0.3" 2019-04-16 OpenJDK Runtime Environment (build 11.0.3+7-Ubuntu-1ubuntu218.04.1) OpenJDK 64-Bit Server VM (build 11.0.3+7-Ubuntu-1ubuntu218.04.1, mixed mode, sharing)
下載 logstash
wget https://artifacts.elastic.co/downloads/logstash/logstash-7.2.0.tar.gz
解壓 logstash
tar -zxf logstash-7.2.0.tar.gz
后續操作在 logstash-7.2.0 內目錄進行
cd logstash-7.2.0/
到 grouplens 下載 MovieLens 測試數據集
wget http://files.grouplens.org/datasets/movielens/ml-latest-small.zip
解壓測試數據集
unzip ml-latest-small.zip
創建并編輯 logstash.conf 文件,添加如下內容(Ruby 語法)
input { file { path => "/home/walker/es/ml-latest-small/movies.csv" start_position => "beginning" sincedb_path => "/dev/null" } } filter { csv { separator => "," columns => ["id","content","genre"] } mutate { split => { "genre" => "|" } remove_field => ["path", "host","@timestamp","message"] } mutate { split => ["content", "("] add_field => { "title" => "%{[content][0]}"} add_field => { "year" => "%{[content][2]}"} } mutate { convert => { "year" => "integer" } strip => ["title"] remove_field => ["path", "host","@timestamp","message","content"] } } output { elasticsearch { hosts => "http://172.18.193.52:9200" index => "movies" document_id => "%{id}" } stdout {} }
導入數據,注意導入后不會自動退出,用 Ctrl-C 手動退出
# 個人路徑有所不同 ./bin/logstash -f /home/walker/es/ml-latest-small/logstash.conf
Management 查看數據(Index 相當于關系型數據庫的 Table)
關系型數據庫與 Elasticsearch 的抽象與類比
Dev tools 查看文檔總數(即數據總條數)
# 查看數據總量 GET /movies/_count # 控制臺輸出 { "count" : 9743, "_shards" : { "total" : 1, "successful" : 1, "skipped" : 0, "failed" : 0 } }
查看 id 為 1 的數據
# 查看 id 為 1 的數據 GET /movies/_doc/1 # 控制臺輸出 { "_index" : "movies", "_type" : "_doc", "_id" : "1", "_version" : 1, "_seq_no" : 121, "_primary_term" : 1, "found" : true, "_source" : { "@version" : "1", "genre" : [ "Adventure", "Animation", "Children", "Comedy", "Fantasy" ], "year" : 1995, "id" : "1", "title" : "Toy Story" } }
刪除 movies 數據(Elasticsearch 的 Index 可對標關系型數據庫的 Table)
# 刪除命令 DELETE /movies # 控制臺輸出 { "acknowledged" : true }walker 的目錄結構
$ tree /home/walker/es/ -L 2 /home/walker/es/ ├── elasticsearch-7.2.0 │?? ├── bin │?? ├── config │?? ├── data │?? ├── jdk │?? ├── lib │?? ├── LICENSE.txt │?? ├── logs │?? ├── modules │?? ├── NOTICE.txt │?? ├── plugins │?? └── README.textile ├── elasticsearch-7.2.0-linux-x86_64.tar.gz ├── kibana-7.2.0-linux-x86_64 │?? ├── bin │?? ├── built_assets │?? ├── config │?? ├── data │?? ├── LICENSE.txt │?? ├── node │?? ├── node_modules │?? ├── NOTICE.txt │?? ├── optimize │?? ├── package.json │?? ├── plugins │?? ├── README.txt │?? ├── src │?? ├── target │?? ├── webpackShims │?? └── x-pack ├── kibana-7.2.0-linux-x86_64.tar.gz ├── logstash-7.2.0 │?? ├── bin │?? ├── config │?? ├── CONTRIBUTORS │?? ├── data │?? ├── Gemfile │?? ├── Gemfile.lock │?? ├── lib │?? ├── LICENSE.txt │?? ├── logs │?? ├── logstash-core │?? ├── logstash-core-plugin-api │?? ├── modules │?? ├── NOTICE.TXT │?? ├── tools │?? ├── vendor │?? └── x-pack ├── logstash-7.2.0.tar.gz ├── ml-latest-small │?? ├── links.csv │?? ├── logstash.conf │?? ├── movies.csv │?? ├── ratings.csv │?? ├── README.txt │?? └── tags.csv └── ml-latest-small.zip
本文是阮一鳴《Elasticsearch核心技術與實戰》的學習筆記。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/75612.html
摘要:摘要本篇文章介紹了如何通過數人云部署一套標準的日志收集系統。主機添加完成后,檢查主機運行是否正常,如圖第二步,發布實例我們將通過數人云將的鏡像以模式部署到我們規劃的主機和上。 摘要:本篇文章介紹了如何通過數人云部署一套標準的 ELK 日志收集系統。第一步,將主機組織成集群;第二步,發布 ElasticSearch 實例;第三步,發布 Kibana 實例;第四步,發布 Logstash ...
摘要:數據導入與校驗容器運行之后,筆者需要驗證是否啟動成功,可以通過瀏覽器訪問和的頁面是否成功來判斷。的整體操作流程比較簡單,首先是收集各種日志并進行過濾,然后將過濾后的內容發送到服務中,最后用戶通過的頁面查看中的日志數據作者湯青松微信日期 一、背景 筆者所在項目組的項目由多個子項目所組成,每一個子項目都存在一定的日志,有時候想排查一些問題,需要到各個地方去查看,極為不方便,此前聽說有ELK...
摘要:數據導入與校驗容器運行之后,筆者需要驗證是否啟動成功,可以通過瀏覽器訪問和的頁面是否成功來判斷。的整體操作流程比較簡單,首先是收集各種日志并進行過濾,然后將過濾后的內容發送到服務中,最后用戶通過的頁面查看中的日志數據作者湯青松微信日期 一、背景 筆者所在項目組的項目由多個子項目所組成,每一個子項目都存在一定的日志,有時候想排查一些問題,需要到各個地方去查看,極為不方便,此前聽說有ELK...
摘要:數據導入與校驗容器運行之后,筆者需要驗證是否啟動成功,可以通過瀏覽器訪問和的頁面是否成功來判斷。的整體操作流程比較簡單,首先是收集各種日志并進行過濾,然后將過濾后的內容發送到服務中,最后用戶通過的頁面查看中的日志數據作者湯青松微信日期 一、背景 筆者所在項目組的項目由多個子項目所組成,每一個子項目都存在一定的日志,有時候想排查一些問題,需要到各個地方去查看,極為不方便,此前聽說有ELK...
閱讀 3980·2021-11-23 10:09
閱讀 1344·2021-11-23 09:51
閱讀 2944·2021-11-23 09:51
閱讀 1590·2021-09-07 09:59
閱讀 2357·2019-08-30 15:55
閱讀 2301·2019-08-30 15:55
閱讀 2953·2019-08-30 15:52
閱讀 2565·2019-08-26 17:04