自步學習 Self paced Learning

2021-10-08 14:04:49 字數 738 閱讀 1214

機器學習方法中也存在相關方法用於選擇樣本,例如:主動學習(active learning)和協同訓練(co-training)。自步學習與二者的區別在於自步學習中所有樣本的標籤是完全存在的,在每次迭代過程中,我們可以通過計算**值和標籤的差別來選擇置信度高的樣本。而主動學習和協同訓練往往應用於半監督學習框架,其中主動學習傾向於選擇當前模型下確定性或置信度低的樣本,而協同訓練則是從無標籤資料中選擇分類器認為置信度可能高的樣本,選擇的樣本並沒有標籤,無法斷定估計結果是否準確。相比之下,自步學習則是選擇**值與真實值接近的、即分類器可以分辨的置信度真的高的樣本。引用自:self-paced learning 自步學習

主動學習模型

把一堆數學課程書全部給小孩學習,他會優先選擇簡單的一年級課程開始學習,接著是二年級、三年級等順序學習,這個難易學習順序是學校根據以往的教學經驗確定的,這就是根據先驗知識賦予樣本學習先後順序的課程學習

自步學習改進了課程學習,學習演算法在每一步迭代中決定下一步學習樣本,這個小孩會根據自己的當前狀態來選擇簡單的課程進行學習,這個難易程度不一定是按照年級來分的,由他自己決定。參考自:自步學習(self-paced learning)

自監督學習 對比學習自監督

關於bert的無監督聚類的一些說法 1.首先一點是在不finetune的情況下,cosine similairty絕對值沒有實際意義,bert pretrain計算的cosine similairty都是很大的,如果你直接以cosine similariy 0.5之類的閾值來判斷相似不相似那肯定效果...

centos7開機自啟自己配置自啟檔案步驟和問題

systemd 預設從目錄 etc systemd system 讀取配置檔案。但是,裡面存放的大部分檔案都是符號鏈結,指向目錄 usr lib systemd system 真正的配置檔案存放在那個目錄。1 進入 usr lib systemd system 目錄下建立服務的自啟檔案 以prome...

Mybatis學習 自增列

詳細實現過程如下 首先建立乙個包含自增列的資料庫表單student create table student id int 11 primary key auto increment,first name varchar 255 gender char 1 成員變數 有參生成器 無參生成器 tost...