關於損失函式的一些思考

2021-08-11 05:06:59 字數 354 閱讀 4859

損失函式一般有四種形式

0-1

平方(l2)

絕對值(l1) 對數

其中平方與絕對值是適用與所有metric情形的

比如最小二乘(本質是找個線性流形去投影)和knn(區別在於最小二乘規定了線性可分假設,knn則是區域性的乙個constant function)

0-1是最一般的形式

但也可以用於metric情形

但對於01而言是discrete metric

本質上來說是因為離散度量生成的拓撲沒啥用(體現:01的損失函式不好進行最大最小優化)

0-1損失函式可推導出bayesian classifier、

to min epe

關於A Softmax損失函式的一些解釋

關於a softmax具體內容請參考 sphereface deep hypersphere embedding for face recognition by weiyang liu,yandong wen,zhiding yu,ming li,bhiksha raj and le song。關於...

關於SpringIOC的一些思考

ioc是 依賴倒置原則 的乙個特例,說其是特例,就是說其具有 依賴倒置原則 的性質。依賴倒置原則強調的兩點是 上層模組和下次模組都依賴於抽象,二者之間通過這種抽象的東西聯絡在一起 具體可以依賴於抽象,而抽象不能依賴於具體。我認為spring提倡的 基於介面程式設計 就是為了遵循 依賴倒置原則 其中所...

關於sizeof 的一些思考

今天面試被問到sizeof,回來整理一下。1 定義 sizeof是c c 中的乙個操作符 operator 作用就是返回乙個物件或者型別所佔的記憶體位元組數。msdn上的解釋為 the sizeof keyword gives the amount of storage,in bytes,assoc...