遷移學習 入門筆記

2021-09-27 10:49:16 字數 830 閱讀 9499

背景:現如今資料**:

所以收集標籤資料和從頭開始構建乙個模型都是代價高昂的,需要對模型和帶有標籤的資料進行重用

傳統機器學習:假設資料服從相同分布,但我們希望針對不同分布的資料,快速構建模型,實現資料標記

遷移學習(transfer learning)通俗來講,就是運用已有的知識來學習新的知識,核心是找到已有知識和新知識之間的相似性。在遷移學習中,我們已有的知識叫做源域(source domain),要學習的新知識叫目標域(target domain),源域和目標域不同但有一定關聯,我們需要減小源域和目標域的分布差異,進行知識遷移,從而實現資料標定。

同構遷移學習:特徵維度相同分布不同

有標籤的源域和無標籤的目標域共享相同的特徵和類別,但是特徵分布不同,如何利用源域標定目標域計算機視覺的乙個重要問題

解決思路:

遷移方法:

1、基於特徵的遷移方法:

2、基於例項的遷移方法:

alexnet:基於神經網路學習(cnn)的框架,解決了影象分類的問題

以上內容基於王晉東的遷移學習簡明手冊,在自身理解下有改動

[1]: /img/bvbqerp

[2]: /img/bvbqlqh

遷移學習 入門筆記

背景 現如今資料 所以收集標籤資料和從頭開始構建乙個模型都是代價高昂的,需要對模型和帶有標籤的資料進行重用 傳統機器學習 假設資料服從相同分布,但我們希望針對不同分布的資料,快速構建模型,實現資料標記 遷移學習 transfer learning 通俗來講,就是運用已有的知識來學習新的知識,核心是找...

機器學習筆記之 遷移學習

關於遷移學習不錯的博文,值得學習 1.2.a survey on transfer learning,sinno jialinpan,qiang yang,ieee trans 個人關於遷移學習的粗淺理解 在機器學習領域,我們的任務是對乙個模型給定充足的資料,對機器學習模型進行訓練 微調和優化,得到...

zookeeper 學習筆記 平滑公升級遷移

zookeeper集群 集群個數 2n 1 一般3 5 7的奇數 把zookeeper的安裝包重新命名為node 1 node 2 node 3 配置 zoo.cfg zookeeper node 1的配置 zookeeper node 1 conf zoo.cfg ticktime 2000 in...