業務資料分析系統

2021-09-21 17:21:46 字數 1305 閱讀 3938

由於專案需求,需要將玩家資訊從日誌中存入到db中,db暫選mysql.

本文並未使用開源的向fluentd  一樣的系統,我的工作只是日誌分析,存入db,剩下的是開發人員如何展示資料啦。現列出部分指令碼,歡迎各位提出意見:

日誌收集指令碼(用shell搞定),核心思想是scp,並用cat 合併檔案。

此程式分3個目錄,bin目錄下可執行指令碼collect_log.sh  expect_rsync.sh

conf 目錄,service_server  sync_file  web_server  三個檔案儲存ip,和檔名稱

data目錄 儲存收集、合併結果

expect_rsync.sh  遠端傳輸:

set host [lindex $ar** 0]

set remote_dir [lindex $ar** 1]

set file [lindex $ar** 2]

set local_dir [lindex $ar** 3]

spawn scp "******@$host#36000:$remote_dir/$file" $local_dir

expect -re "permission denied, please try again." -re "connection refused" timeout eof

}expect eof

exit

collect_log.sh 判斷機器和檔名

#!/bin/bash

web_remote_dir=/data/matrixjoyweb/matrixjoy-dragon-web/logs

service_remote_dir=/data/matrixjoyservice/matrixjoy-dragon-gameserver/logs/

scdir=/data/log-system/

rawdatadir=$scdir/data/raw/

logdate=$(date +%y%m%d --date="-$1 day")

#transport function

function expect_rsync_logs()

#mkdir directory

function ensure_dir()

function collect()

function main()

#merge log

function merge()

function merge_result()

main

merge_result

待續。。。

餐飲業務資料分析

餐飲業務資料分析 一 資料描述 fd fd 日期 銷量 1 2015 3 1 51.00 2 2015 2 28 2618.20 3 2015 2 27 2608.40 4 2015 2 26 2651.90 5 2015 2 25 3442.10 6 2015 2 24 3393.10 7 201...

資料分析系統

資料分析系統,是精準推廣系統的後端分析有效結果的標準,分析推廣抓取來的有效資料和有效客戶,形成銷售轉化乃至二次購買。同時進行使用者行為分析等一系列內容反過來指導推廣工作的優化。1 資料統計 精準推廣得來的各維度資料先要進行資料統計,這裡的統計包括各渠道 平台的流量 宣傳質量 轉化率 互動率及成交量等...

資料分析 常用業務運營指標

本文是學習了天善學院秦路老師的課程的總結使用者 客戶生命週期 企業 產品和消費者在整個業務關係階段的週期。不同業務劃分的階段不同。傳統營銷中分為潛在使用者 興趣使用者 新客戶 老客戶 流失客戶 使用者價值 使用者貢獻 產出量 投入量 100 內容運營,比如知乎 使用者價值 貢獻1 貢獻2 比如金融行...