解釋性模型

2021-08-26 19:00:18 字數 812 閱讀 1919

模型在幫助領域學習方面也具有很大價值。對設計起到推動作用的模型是領域的乙個檢視,但為了學習領域,還可以引入其他檢視,這些檢視只用作傳遞一般領域知識的教學工具。出於此摸底,人們可以使用如軟體設計無關的其他種類模型的那些或文字。

使用其他模型的乙個特殊原因是範圍。驅動軟體開發過程的技術模型必須經過嚴格的精簡,以便使用最小化的模型來實現其功能。而解釋性模型則可以包含提供上下文的哪些領域方面,用澄清範圍上受到嚴格限制的技術模型。

解釋性模型提供了一定的自由度,可以專門為某個特殊主題制度能夠一些表達力更強的風格。領域專家在乙個領域中所使用的視覺隱喻通常呈現了更清晰的解釋,這可以教給開發人員領域知識,同時是領域專家們的意見更一致。解釋性模型還可以以一種不同的方式來呈現領域,各種不同角度的解釋有助於人們更好地學習。

解釋性模型不必是物件模型,而且最好不是,實際上在這些模型中不使用uml是有好處的,這樣可以避免人們錯誤的認為這些與軟體設計是一致的。儘管解釋性模型與驅動設計的模型往往有對應關係,但他們並不完全類似。為了避免混淆,每個人都必須知道他們之間的區別。

例項航運操作和線路

考慮乙個用來跟蹤某家航運公司貨物的應用程式。模型包含乙個詳細的檢視,他顯示了如何將港口裝卸和貨輪航次組合為一次貨運的操作計畫。但對外行而言,類圖可能起不到多大的說明作用。

在這種情況下,解釋性模型可以幫助團隊成員理解類圖的實際含義。

圖中的每根線段都表示後物的一種狀態——或者正在港口裝卸,或者停放在倉庫裡或者正在運輸途中。這個圖並沒有與類圖中的細節一一對應,當強調了領域的要點。

這種圖連同他所表示的模型的自然語言解釋,能夠幫助開發人員和領域裝甲理解更嚴格的軟體模型圖。把這兩種圖放在一起看要比單獨看一種圖更容易理解。

XGB模型可解釋性SHAP包實戰

xgboost相對於邏輯回歸模型在進行 時往往有更好的精度,但是同時也失去了線性模型的可解釋性。feature importance可以直觀地反映出特徵的重要性,看出哪些特徵對最終的模型影響較大。但是無法判斷特徵與最終 結果的關係是如何的。lundberg和lee的 提出了shap值這一廣泛適用的方...

漏洞可解釋性定位

利用可解釋性做定位,用可解釋的方法來做定位。首先在建模的時候要包括能體現漏洞的特徵,結合汙點分析的原理,可以這樣說,如果在source和sink中間沒有sanitizer操作,這才可能會導致漏洞發生,資料完整性或資料私密性被破壞。都說借助自然語言的處理方法來對程式處理,是為了程式的語義資訊。可是,程...

AI可解釋性主體

可解釋性,就是我們需要完成一件事的時候,我們能獲取到的足夠多的,能讓我們自己理解的資訊。當我們不能獲得足夠多的資訊,來理解一件事情的時候,我們可以說這是不可解釋的。所以,解釋性的目的就是以人的思維來理解事物,讓人能懂。但是在深度學習模型中,建立模型的時候往往沒有考慮到它的可解釋性,特別是在深層網路中...