manifold mixup: better representations by interpolating hidden states
深度學習善於擬合訓練資料，在測試資料分布稍有差異時，**效果就不好，
這種測試資料報括資料分布偏移, 異類, 對抗樣本，
為解決這個問題，我們提出manifold mixup，即一種簡單的正則化方法，
manifold mixup使用語義插補文字作為附加的訓練訊號，使神經網路 在多層的向量表示 有更平滑的決策邊界，
結果是，用manifold mixup訓練的神經網路可學習class-representations時使用更少的方差方向，
我們證明了這個理論在理想情況下為何會發生扁平化，在實際場景也證實了，以及聯絡到之前的資訊理論和泛化理論，
儘管只用很少**，manifold mixup很大提公升了監督學習的baseline， 提公升了一步對抗樣本攻擊的魯棒性，以及提公升了測試集的log-likelihood分數
python摘要 python 摘要演算法
一 概述 摘要演算法主要特徵是加密過程不需要金鑰，並且加密的資料無法解密，只有輸入相同的明文資料經過相同的摘要演算法才能得到相同的密文。摘要演算法主要應用在 數字簽名 領域。接下來會講述rsa公司的md5演算法和sha 1演算法。二 原理 通過乙個函式，把任意長度的資料轉換成乙個長度固定的資料串 通...
訊息摘要演算法 數字摘要
為了保證檔案或值的安全性，因為使用訊息摘要生成的值是不可篡改的 特點 準備工作 string input 訊息摘要 string algorithm md5 public static void main string args throws exception 建立乙個訊息摘要物件messaged...
Online Meta Learning 摘要速覽
智慧型系統想要解決 之前訓練好的模型加速新任務的訓練，有兩個正規化解決這個問題 meta learning把這個問題看作 訓練乙個模型，這個模型在新的任務會快速適應，相反，online regret based learning把這個問題看作 只訓練乙個模型，適應一系列的任務，這篇文章將meta l...