基於CRISP的資料探勘有哪些坑?

2021-09-30 22:30:14 字數 2441 閱讀 7799

crisp-dm (cross-industry standard process for data mining),即跨行業資料探勘標準流程,描述了資料探勘的生命週期,是迄今為止最流行的資料探勘流程,更多crisp-dm的應用示例請看《crisp-dm, still the top methodology for analytics, data mining, or data science projects》這篇文章。

之所以許多資料分析人員使用crisp-dm,因為他們需要的是一種可重複使用的分析方法。然而,如何在日常工作中使用crisp-dm方法時,仍存在一些問題。排名前四的4個問題分別是對業務需求缺乏認知,盲目的返工,盲目的部署和無法形成迭代。決策建模和決策管理可以解決這些問題,使crisp-dm流程的價值最大化,並確保模型分析的有效性。

完整的crisp-dm資料探勘流程的各個階段如圖1所示。下面介紹每個階段所要完成的任務。

基於crisp-dm的完整資料探勘流程圖

圖1 基於crisp-dm的完整資料探勘流程圖

1.業務理解階段(business understanding):集中在理解專案目標和從業務的角度理解需求,定義資料探勘問題和完成目標的初步計畫;

2.資料理解階段(data understanding):從初始的資料收集開始,通過一些活動的處理,目的是熟悉資料,發現資料的內部屬性,或是探測引起興趣的子集去形成隱含資訊的假設;

3.資料準備階段(data preparation):資料準備階段包括從未處理的資料中構造最終資料集的所有活動。這些資料將是建模階段的輸入值,任務包括屬性的選擇、資料表、記錄的抽取,以及將資料轉換為模型工具所需的格式和清洗資料;

4.建模階段(modeling):可以選擇和應用不同的模型技術,模型引數被調整到最佳的數值。有些技術在資料格式上有特殊要求,因此需要經常跳回到資料準備階段;

5.評估階段(evaluation):經過建模階段後,已建立了乙個高質量的決策模型,但在開始最後部署模型之前,重要的事情是徹底地評估模型,檢查構造模型的步驟,確保模型可以完成業務目標。這個階段的關鍵目的是確定是否有重要業務問題沒有被充分的考慮,評估模型是否有達到最初設定的目標;

6.部署階段(deploying):根據使用者需求,實現乙個重複的、複雜的資料探勘過程。

最外面這一圈表示資料探勘自身的迴圈本質,每乙個解決方案部署之後代表另乙個資料探勘的過程也已經開始了,需要在執行過程中不斷迭代、更新模型。

crisp-dm是乙個偉大的框架,它可以讓專案組聚焦於挖掘真正的商業價值上。crisp-dm路程已經存在有很長時間了,許多使用crisp-dm流程的專案常常會走捷徑,這些捷徑中的有一些是有意義的,但捷徑往往會導致專案使用不完整的流程,如圖2所示。

典型的不完整crisp-dm

圖2 典型的不完整crisp-dm

這種不完整的crisp-dm流程存在四個問題,具體包括:

1.業務目標不清晰

不能一開始就陷入細節,應該真正去了解業務問題以及明確乙個模型可以發揮什麼作用,確定專案團隊的業務目標和提出衡量專案成功的指標。「理解」了業務目標,團隊想把工作負擔最小化,就跳入專案的最有趣的部分–分析資料,但這樣做只產出有趣的模型,而不能滿足真正的商業需要。

2.盲目地返工

一些分析團隊只用分析術語來評估他們的模型,認為如果模型只要做到可**,那麼它就是乙個好的模型。大多數人通常可以意識到模型是有問題的,就會嘗試檢查他們的模型是否符合業務目標。但如果缺乏對商業問題的充分認識,這樣的檢查往往是非常困難的。如果他們開發的模型不符合業務需求,此時團隊幾乎沒得選擇,此時大多數人是在嘗試找到新資料或新的建模技術,而不是與他們的業務合作夥伴一起重新評估業務問題。

3.盲目地部署

一些分析團隊根本不考慮他們模型的部署和操作的易用性。做得好些的團隊可以認識到他們構建的模型必將處理實時資料,資料通常儲存在資料庫中,或嵌在式作業系統中。即使是這樣的團隊通常也沒有參與到部署工作中,不清楚模型是如何部署的,並不把部署當做分析工作的一部分,結果就是模型直接丟給it團隊去部署,模型是否容易部署、以及在生產環境是否可用都是別人的問題。這增加了模型部署的時間和成本,並產生了大量從未對業務產生影響模型。

4.無法形成迭代

分析專家了解模型的生命週期,為了保證模型的可用性,需要對模型保持更新。他們知道隨著商業環境變化,模型的價值會改變,驅動模型的資料模式可能會改變。但他們認為這是另乙個時間點的問題。由於他們缺少對業務問題的足夠認識,往往難以確定如何評估模型的表現,相比模型建立階段,他們在模型迭代、修改上的投入更少。畢竟解決另乙個新問題更有趣。這使得老的模型不受監控和保護,從而破壞了模型的長期價值。

以上任一問題都可能使構建出來的模型毫無商業價值,真正需要利用分析的組織,特別是資料探勘、**和機器學習等更高階的分析,必須避免這些問題。

解決這些問題需要明確、清晰地關注決策,圍繞著決策展開,包括需要改善的決策方法,改善意味著什麼,做能實際改善決策的分析模型,設計可以輔助決策的系統,還需要明確在怎樣的外部環境下需要重新評估模型。

資料探勘的步驟有哪些

所謂資料探勘就是從海量的資料中,找到隱藏在資料裡有價值的資訊。因為這個資料是隱式的,因此想要挖掘出來並不簡單。那麼,如何進行資料探勘呢?資料探勘的步驟有哪些呢?一般來講,資料探勘需要經歷資料收集 資料視覺化 資料預處理 準備模型輸入以及訓練模型五大步驟,下面讓中琛魔方來詳細分析一下吧!資料探勘的步驟...

資料探勘的技術都有哪些?

如果我們學習資料分析,那麼肯定少不了也要好好學習一下資料探勘。我們都知道,要想掌握好資料探勘就需要掌握很多的相關技術。一般來說,資料探勘工作的技術有關聯規則 分類 聚類 決策樹 序列模式,下面我們就給大家講述一下這些知識。1.關聯規則 首先我們給大家講述一下關聯規則,一般來說,關聯規則使兩個或多個項...

基於大資料的移動應用開發前景有哪些

在這裡相信有許多想要學習大資料的同學,大家可以 下大資料學習裙 740041381,即可免費領取套系統的大資料學習教程 大資料可用於以有用的方式增強人類的判斷力,隨著人們不斷使用移動裝置,他們的資料不斷儲存不斷增加,它隨著時間的流逝而變得越來越大,由於大資料的資料集如此之大,傳統的應用無法收集和評估...