日常資料探勘中經常遇到的分析方法,主要有哪些?

2021-09-14 03:19:34 字數 3055 閱讀 6832

1、基於歷史的mbr分析(memory-based reasoning;mbr)

基於歷史的mbr分析方法最主要的概念是用已知的案例(case)來**未來案例的一些屬性(attribute),通常找尋最相似的案例來做比較。

記憶基礎推理法中有兩個主要的要素,分別為距離函式(distance function)與結合函式(combination function)。距離函式的用意在找出最相似的案例;結合函式則將相似案例的屬性結合起來,以供**之用。記憶基礎推理法的優點是它容許各種型態的資料,這些資料不需服從某些假設。另乙個優點是其具備學習能力,它能借由舊案例的學習來獲取關於新案例的知識。較令人詬病的是它需要大量的歷史資料,有足夠的歷史資料方能做良好的**。此外記憶基礎推理法在處理上亦較為費時,不易發現最佳的距離函式與結合函式。其可應用的範圍包括欺騙行為的偵測、客戶反應**、醫學診療、反應的歸類等方面。

2、購物籃分析(market basket analysis)

購物籃分析最主要的目的在於找出什麼樣的東西應該放在一起?商業上的應用在借由顧客的購買行為來了解是什麼樣的顧客以及這些顧客為什麼買這些產品,找出相關的聯想(association)規則,企業藉由這些規則的挖掘獲得利益與建立競爭優勢。舉例來說,零售店可藉由此分析改變置物架上的商品排列或是設計吸引客戶的商業**等等。

購物籃分析基本運作過程包含下列三點:

(1)選擇正確的品項:這裡所指的正確乃是針對企業體而言,必須要在數以百計、千計品項中選擇出真正有用的品項出來。

(2)經由對共同發生矩陣(co-occurrence matrix)的**挖掘出聯想規則。

(3)克服實際上的限制:所選擇的品項愈多,計算所耗費的資源與時間愈久(呈現指數遞增),此時必須運用一些技術以降低資源與時間的損耗。

購物籃分析技術可以應用在下列問題上:

(1)針對信用卡購物,能夠**未來顧客可能購買什麼。

(2)對於電信與金融服務業而言,經由購物籃分析能夠設計不同的服務組合以擴大利潤。

(3)保險業能借由購物籃分析偵測出可能不尋常的投保組合並作預防。

(4)對病人而言,在療程的組合上,購物籃分析能作為是否這些療程組合會導致併發症的判斷依據。

3、決策樹(decision trees)

決策樹在解決歸類與**上有著極強的能力,它以法則的方式表達,而這些法則則以一連串的問題表示出來,經由不斷詢問問題最終能匯出所需的結果。典型的決策樹頂端是乙個樹根,底部有許多的樹葉,它將紀錄分解成不同的子集,每個子集中的字段可能都包含乙個簡單的法則。此外,決策樹可能有著不同的外型,例如二元樹、三元樹或混和的決策樹型態。

4、遺傳演算法(genetic algorithm)

遺傳演算法學習細胞演化的過程,細胞間可經由不斷的選擇、複製、交配、突變產生更佳的新細胞。基因演算法的運作方式也很類似,它必須預先建立好乙個模式,再經由一連串類似產生新細胞過程的運作,利用適合函式(fitness function)決定所產生的後代是否與這個模式吻合,最後僅有最吻合的結果能夠存活,這個程式一直運作直到此函式收斂到最佳解。基因演算法在群集(cluster)問題上有不錯的表現,一般可用來輔助記憶基礎推理法與類神經網路的應用。

5、聚類分析(cluster detection)

這個技術涵蓋範圍相當廣泛,包含基因演算法、類神經網路、統計學中的群集分析都有這個功能。它的目標為找出資料中以前未知的相似群體,在許許多多的分析中,剛開始都運用到群集偵測技術,以作為研究的開端。

6、連線分析(link analysis)

連線分析是以數學中之圖形理論(graph theory)為基礎,藉由記錄之間的關係發展出乙個模式,它是以關係為主體,由人與人、物與物或是人與物的關係發展出相當多的應用。例如電信服務業可藉鏈結分析收集到顧客使用**的時間與頻率,進而推斷顧客使用偏好為何,提出有利於公司的方案。除了電信業之外,愈來愈多的營銷業者亦利用鏈結分析做有利於企業的研究。

7、olap分析(on-line analytic processing;olap)

8、神經網路(neural networks)

神經網路是以重複學習的方法,將一串例子交與學習,使其歸納出一足以區分的樣式。若面對新的例證,神經網路即可根據其過去學習的成果歸納後,推導出新的結果,乃屬於機器學習的一種。資料探勘的相關問題也可採類神經學習的方式,其學習效果十分正確並可做**功能。

9、判別分析(discriminant analysis)

當所遭遇問題它的因變數為定性(categorical),而自變數(**變數)為定量(metric)時,判別分析為一非常適當之技術,通常應用在解決分類的問題上面。若因變數由兩個群體所構成,稱之為雙群體 —判別分析 (two-group discriminant analysis);若由多個群體構成,則稱之為多元判別分析(multiple discriminant analysis;mda)。

(1) 找出**變數的線性組合,使組間變異相對於組內變異的比值為最大,而每乙個線性組合與先前已經獲得的線性組合均不相關。

(2) 檢定各組的重心是否有差異。

(3) 找出哪些**變數具有最大的區別能力。

(4) 根據新受試者的**變數數值,將該受試者指派到某一群體。

10、羅吉斯回歸分析(logistic analysis)

當判別分析中群體不符合正態分佈假設時,羅吉斯回歸分析是乙個很好的替代方法。羅吉斯回歸分析並非**事件(event)是否發生,而是**該事件的機率。它將自變數與因變數的關係假定是s行的形狀,當自變數很小時,機率值接近為零;當自變數值慢慢增加時,機率值沿著曲線增加,增加到一定程度時,曲線協率開始減小,故機率值介於0與1之間。

人工智慧、大資料、雲計算和物聯網的未來發展值得重視,均為前沿產業,多智時代專注於人工智慧和大資料的入門和科譜,在此為你推薦幾篇優質好文:

資料統計分析和資料探勘有何區別?

資料探勘的聚類演算法和優勢

如何通過自學,成為資料探勘「高手」?

資料分析與資料探勘的區別和聯絡?

構建乙個資料探勘模型,主要分為哪幾步?

多智時代-人工智慧和大資料學習入門**|人工智慧、大資料、物聯網、雲計算的學習交流**

資料庫備份過程中經常遇到的九種情況

突發的計算機故障或病毒,可能導致資料庫中重要資料的丟失或不可用,為了防止這種事情的發生,要對資料庫進行備份,下文是針對幾種情況進行資料庫備份的分析。第一種情況 有raid,還需要做資料庫備份嗎?回答 需要。有了raid,萬一部份磁碟損壞,可以修復資料庫,有的情況下資料庫甚至可以繼續使用。但是,如果哪...

資料探勘與資料分析的主要區別

百科是這樣定義資料探勘和資料分析的。資料分析 是指用適當的統計分析方法對收集來的大量資料進行分析,提取有用資訊和形成結論而對資料加以詳細研究和概括總結的過程。這一過程也是質量管理體系的支援過程。在實用中,資料分析可幫助人們作出判斷,以便採取適當行動。資料分析的數學基礎在20世紀早期就已確立,但直到計...

一道工作中經常遇到的資料轉換演算法題

將原資料型別轉換為目標資料型別。原資料型別如下 const list1 目標資料型別 const result1 從問題要求不難發現,我們需要做的任務就是將陣列中相同typeid的object進行合併,最終返回乙個新object陣列。一種比較直觀的解決方案是 首先確定原陣列中所有的typeid,然後...