THEMIS 機器學習公平性測試

2021-10-08 10:00:26 字數 1379 閱讀 6360

themis 從域中選擇所有屬性的隨機值,以確定系統是否在個體之間進行歧視。

因果歧視評分是一種更強的歧視測量,因為它在軟體中尋找因果關係,測量輸入的分數,改變特定的輸入特徵導致輸出改變。因果辨別評分確定哪些特徵會直接影響輸出結果,例如,雖然群體和明顯的歧視得分懲罰軟體提供貸款給不同的分數對於不同種族的個人,因果歧視評分會懲罰向乙個種族的個人提供貸款的軟體,而不是向另乙個種族的相同個人提供貸款的軟體。

群體歧視(演算法1)測量群體歧視得分相對於其輸入特徵x '的子集。根據定義3.6,groupdiscrimination將x '固定在特定的值上(第2行),以計算固定了x '值的所有測試中產生真實輸出的部分。while迴圈(第5行)為剩餘的輸入特徵(第7行)生成隨機輸入分配,將它們儲存在測試套件中,並度量積極輸出的計數。如果沒有快取執行,演算法執行測試(第9行);否則,演算法從快取中檢索軟體輸出(第12行)。經過最小取樣閾值(16行),它會檢查如果ϵ誤差達到所需的信心(第18行)。如果是,groupdiscrimination將終止當前組的計算,並更新最大和最小值(第20-21行)。

themis通過三種優化來解決這些問題:(1)測試快取,(2)自適應,信心驅動抽樣,(3)聲音修剪。這三種技術都減少了計算群體歧視和因果歧視所需的測試用例的數量。

測試快取。精確計算群體和因果歧視的得分需要執行大量的測試。然而,很多這種計算是重複:測試相關群體歧視也有關因果歧視,和測試相關的一組特徵也可以與另一組相關。公平的冗餘測試允許忒彌斯利用快取重用測試結果沒有重新執行測試。測試快取具有較低的儲存開銷,並提供了顯著的執行時收益。

自適應,confidence-driven抽樣。由於窮舉測試是不可行的,themis通過抽樣計算近似群體和因果區分得分。忒彌斯是自適應抽樣,使用持續的分數計算來確定指定的保證金的errorϵ配置已經達到預期的信心水平。themis使用輸入模式均勻隨機地生成輸入,並保持軟體輸出為真(組歧視)或軟體改變輸出(因果歧視)的樣本比例(p)。則p的誤差幅度計算為:

群體歧視(演算法1)測量群體歧視得分相對於其輸入特徵x '的子集。根據定義3.6,groupdiscrimination將x '固定在特定的值上(第2行),以計算固定了x '值的所有測試中產生真實輸出的部分。while迴圈(第5行)為剩餘的輸入特徵(第7行)生成隨機輸入分配,將它們儲存在測試套件中,並度量積極輸出的計數。如果沒有快取執行,演算法執行測試(第9行);否則,演算法從快取中檢索軟體輸出(第12行)。經過最小取樣閾值(16行),它會檢查如果ϵ誤差達到所需的信心(第18行)。如果是,groupdiscrimination將終止當前組的計算,並更新最大和最小值(第20-21行)。

Java併發框架 公平性

準備入佇列的節點,此情況討論的是執行緒加入等待佇列時產生的競爭是否公平,執行緒在嘗試獲取鎖失敗後將被加入等待佇列,這時多個執行緒通過自旋將節點加入佇列,所有執行緒在自旋過程中是無法保證其公平性的,可能後來的執行緒比早到的先進入佇列,所以節點入佇列不具公平性。等待佇列中的節點,情況 中成功加入佇列後即...

力求企業的內部公平性

年關將至,又是人員流動時。人員流動很常見,勞資雙方都看重,又都不願意擺上檯面的潛規則,無外乎薪酬和期權。期權是長遠利益,可以稍微等一段時間再說。而薪酬是近期利益,現在不說就沒以後了。薪酬和很多因素有關,諸如老闆的人才觀 企業的現金流 個人的能力值,市場的平均價等等。用乙個人力資源朋友的話來說,薪酬只...

力求企業的內部公平性

年關將至,又是人員流動時。人員流動很常見,勞資雙方都看重,又都不願意擺上檯面的潛規則,無外乎薪酬和期權。期權是長遠利益,可以稍微等一段時間再說。而薪酬是近期利益,現在不說就沒以後了。薪酬和很多因素有關,諸如老闆的人才觀 企業的現金流 個人的能力值,市場的平均價等等。用乙個人力資源朋友的話來說,薪酬只...