成功實施大資料專案的五項基本要求

2021-10-01 01:07:20 字數 1365 閱讀 7776

在apache:北美大資料會議的主題演講當中,擁有十餘年從業經驗的資料科學家amy gaskins談到了她總結出的五項助力大資料專案成功或實現突破的要點。

成功的大資料專案擁有五大核心要求,擁有十餘年從業經歷的資料科學家amy gaskins強調稱。

在此次apache:北美大資料會議的主題演講中,gaskins提到了以下五項助力大資料專案成功或實現突破的要點:

認同 。目前的普遍共識在於,大資料專案需要獲得高層管理團隊的認同才有可能成功。不過gaskins表示,單純做到這一點還不夠。大家需要立足各個層面給予認同,包括中層管理與員工自身。「大家需要自上而下團結一致。為什麼要這樣?因為每個人都需要理解大資料究竟是什麼。」

緊迫性 。「如果不建立大資料專案,是否會導致自身業務面臨實際威脅?」gaskins提出設問。

透明度 。企業內部與外部人員是否了解我們在做些什麼,又為什麼這麼做?具體作法能否復用?

非資料科學專業人員的參與 。所謂非資料科學專業人員,是指那些了解企業業務的專家。他們能夠提供豐富的背景資訊,幫助我們了解資料所表達的內容。gaskins表示這些專家往往會將多個大資料專案加以結合,「非資料專業人士能夠防止it與業務部門爆發爭端。」

心 理安全 。這裡談的是信任。各團隊成員、資料科學家以及非資料專業人士之間必須彼此信任。

「在**成功條件時,我們應當參考馬斯洛的需求層次結構,」gaskins建議稱。「事實上這是一套完整體系,而且可以對其進行細化拆分。」

兩個大資料成功例項與乙個險些失敗的專案

gaskins最近擔任了某個國家海洋與大氣管理局(簡稱noaa)發起的大資料專案的主管,她用其中的三個例項進行具體講解:幫助第43持續保障旅在阿富汗執行任務,以避免資源落入塔利班武裝集團手中; 幫助metlife公司杜拜辦事處建立起保險欺詐檢測機制; 幫助noaa建立氣象資料自動化解決方案並推動其商業化。

前兩個專案完全滿足以上五點要求,並最終取得了成功。

在阿富汗,gaskins以軍事情報官的身份擔任美國陸軍情報與安全司令部(簡稱inscom)指導員。在為第43持續保障旅服務時,僅有6名成員的情報部門需要支援旅內約5000名士兵。gaskins建立的專案利用卡車司機及其他工作人員收集情報,從而分析資源分配過程中依法**的相關證據。

而在杜拜與metlife的合作專案中,gaskins幫助這家保險公司建立起自動化解決方案,並最終通過發現一系列欺詐行為實現了超過400%的投資回報。

第三個專案雖然取得了一定程度的成功,但卻未能最終達到noaa領導者的要求。其缺少緊迫性作為推動力。該專案確實成功將相當一部分noaa資料交付給公眾,但取得成功的企業客戶往往需要借用甚至挖走noaa內部非資料專業人士才能理解資料資訊。

「好在我們的大資料專案團隊不設明確的頭銜,意味著每個人都能夠輕鬆參與決策,」gaskins表示。「我們一直保持著開放與透明的狀態,而這也讓整個團隊相當穩固。」

大資料專案實施風險(一)

1 sow和招標檔案要反覆確認。確保專案的實施範圍。2 人員要給充分。3 測試環境和生產環境相關。測試環境 1 測試環境資料測試那個時間段的資料?建議測試2019年1月到3月資料 2 大資料平台如何獲取生產資料?是通過dblink 物化檢視 檢視等?3 特別敏感的資料可以考慮,由專人處理後,放到中間...

BI大資料專案的0 1開展模型

在軟體工程的概念裡面,對於乙個資訊系統專案,有幾類開發模型。對於bi大資料專案而言,各種模型各有利弊,對於不同類的企業,也需要不同的開發模型進行資料化運營的實施。下面為大家介紹bi大資料專案的開展使用的模型。下面我們可以結合各類軟體開發模型進行講解 1 瀑布模型 瀑布模型的開發過程是通過設計一系列階...

大資料專案的一般測試方法

一.功能性測試 大資料功能主要涉及系統實現面向大資料分析應用的posix api,包括檔案讀取與訪問控制,元資料操作,鎖操作等功能 大資料分析系統的posix語義不同,實現的檔案系統api也不同,功能測試要覆蓋到大資料系統涉及實現的api和功能點 功能測試工作量大,應該重點考慮應用自動化測試方法進行...