《大資料 (電商數倉專案) 集群各服務啟動指令碼》

2021-10-10 15:26:59 字數 800 閱讀 5057

1. hadoop 啟動停止指令碼 (yx_hadoop.sh)

#!/bin/bash

#hadoop集群的一鍵啟動指令碼

if(($#!=1))

then

echo '請輸入start|stop引數!'

exit;

fi#只允許傳入start和stop引數

if [ $1 = start ] || [ $1 = stop ]

then

$1-dfs.sh

$1-yarn.sh

ssh hadoop1 mr-jobhistory-daemon.sh $1 historyserver

else

echo '請輸入start|stop引數!'

fi

2. zookeeper 啟動停止指令碼 (yx_zk.sh)

#!/bin/bash

if(($#!=1))

then

echo 請輸入start或stop或status!

exit;

fiif [ $1 = start ] || [ $1 = stop ] || [ $1 = status ]

then

xcall zkserver.sh $1

else

echo 請輸入start或stop或status!

fi

3. kafka 啟動停止指令碼 (yx_kafka.sh)

大資料專案之電商數倉(數倉建模理論篇)(重點)

ods 原始資料層 不做處理,存放原始資料 dwd 明細資料層 進行簡單資料清洗,降維 dws 服務資料層 按天進行輕度彙總 做寬表 dwt 資料主題層 按主題進行彙總 ads 資料應用層 為報表提供資料 1 保持資料原貌不做任何修改,起到備份資料的作用。2 資料採用lzo壓縮,並建立索引減少磁碟儲...

電商數倉3 0 同步策略

1.基於大資料環境下的資料,若將資料從db中匯入到hdfs中。每天匯入的方式都是將一張表資料中所有資料都全部匯入都hdfs 全量匯入 如訂單表16號 17號 18號。的資料都會匯入到hdfs中會造成這麼一種情況,hdsf中17號分割槽的資料儲存著16號和17號的資料,18號分割槽中會儲存16號 17...

電商數倉中需要統計的指標

1 商品類指標 產品總數,sku數 有多少件 spu數 有多少款式 上架商品的sku數,上架商品的spu數,上架商品數。2 流量類指標 pv uv 跳出率 平均頁面的訪問時長 人均頁面訪問數。3 購物車 加入購物車次數 加入購物車買家次數 加入購物車商品次數 購物車支付轉化率。4 下單類 下單筆數 ...