logstash同步mysql到es 配置

2021-08-18 15:39:19 字數 1672 閱讀 6195

0. 準備mysql的驅動

1. logstash配置檔案 mysql.conf

input

}output "

hosts => ["es:9200"]}}

2. 引數配置說明:

dbc_driver_library:

資料庫驅動路徑,這裡我填寫的是絕對路徑,可自行嘗試相對路徑;

jdbc_driver_class:

驅動名稱;

jdbc_connection_string:

資料庫的連線字串;

forelk為資料庫名;

?autoreconnect=true&usessl=false自動重連並禁用ssl;

jdbc_user:

資料庫使用者名稱;

jdbc_password:

資料庫密碼;

schedule:

重複執行匯入任務的時間間隔;

jdbc_default_timezone:

預設時區設定;

statement:

匯入的表(查詢sql,可以過濾資料)

index:

索引名稱(類似資料庫名稱);

document_type:

型別名稱(類似資料庫表名);

document_id:

類似主鍵;

hosts:

要匯入到的elasticsearch所在的主機;

3. 執行匯入

cd bin

./logstash -f mysql.conf

4.執行查詢

5.準備mysql資料,建庫forelk 建表elktable

create database `forelk` /*!40100 default character set utf8 collate utf8_bin */;

create table `elktable` (

`elkid` int(11) not null,

`elkname` varchar(45) collate utf8_bin default null,

`elkage` int(11) default null,

`elk***` tinyint(4) default null,

`elkbirth` date default null,

primary key (`elkid`)

) engine=innodb default charset=utf8 collate=utf8_bin;

insert into `forelk`.`elktable`

(`elkid`,

`elkname`,

`elkage`,

`elk***`,

`elkbirth`)

values

(111,

aa,11,

1,2006);

insert into `forelk`.`elktable`

(`elkid`,

`elkname`,

`elkage`,

`elk***`,

`elkbirth`)

values

(222,

bb,22,

0,1995);

Logstash同步MySQL資料到ES

資料放在mysql上不好進行分析,且查詢的還比較慢。就想著把資料同步到es上,利用es的高效查詢功能進行資料分析。一 logstash配置mysql資料來源接入create table t ex deal deal id varchar 50 not null,back decimal 36,18 ...

Logstash同步sql資料到Es

安裝好elasticsearch和logstash 把mysql驅動放到logstash的bin目錄下新建的資料夾mysq test下 在mysql test資料夾下面建立mysql.config檔案 input jdbc filter output stdout mysql.sql檔案如下 sel...

mysql同步資料 MySQL同步資料

mysql dump工具用於匯出現有資料,匯出結果為sql檔案 目前dump工具支援整庫dump以及單錶dump。下面為單錶dump操作過程 1 選擇匯出目標目錄 確保該目錄有足夠的儲存空間。mkdir opt bas backup 2 使用mysqldump命令匯出表資料 mysqldump u ...