生活在數字時代，最大的挑戰就是資訊洪流持續占有你的注意力。要麼無聊，要麼焦慮。合理的管理注意力變得非常重要。
注意力是什麼？
注意力是一種資源，它就像人的探照燈，你要選擇把它集中，照亮某個區域。
控制注意力的核心是讓注意力盡量處於核心專區。如果不在的話，就把它拉回來。
吻乙個漂亮姑娘還能穩穩的開車，說明這個人吻的不夠專心。-愛因斯坦
注意力用的時候要聚，不用的時候要散。
1. 減少資訊刺激
主動尋找資訊，而不是被動接受。
sns，微博知乎都是被動接受。
2. 注意力是資源
身體，情緒，心理狀態都會影響注意力的狀態。
有乙個注意力的曲線，你做的最好是把注意力資源合理的分配到任務上。
平時的情況要維持正常的運轉，特殊時候可以使用峰值。但是一點要恢復。
3. 倒u曲線
注意力和刺激是倒u曲線，過低和過高的刺激都不利於注意力。
比如，無聊是刺激不夠；而緊張和焦慮是刺激過高。
在中度刺激的時候，注意力最集中。表現最好。
這和「心流」理論不謀而合。
自我控制，目標明確，時間感消失。所有的創造性活動都希望獲得心流時刻。
這樣的時刻越多，你就越幸福。
巔峰狀態太難了，退而求次之，進入接近峰值的區間做事就有效率了。
4. 過度刺激
刺激主要以激素形式激起的。主要是腎上腺素。
生存還是逃避。
就是暴怒還是焦慮。
不同的活動的注意力專區所需的腎上腺素水平是不一樣的。
5. 注意力專區
要找到注意力專區並不容易。
跟基因，年齡，精力，精神狀況有關。
隨任務變化。
疲憊是因為分泌了太多的腎上腺素，導致拖延。
注意力有向系統內部和外部的兩種傾向。
向內：多關注積極的，好的回憶，心流時刻。
向外：關注跟目標相關的資訊。
我管理的重心由時間轉向注意力。
無聊是注意力太散，興奮是注意力過於集中。
還有一種就是在太散和過於集中間擺動。
定向反應，大腦總是趨向於新的刺激，這個是人類進化中的優勢，因為它讓我們隨時保持警惕。
現代社會，這個裝置仍然很有用，但也讓我們很難集中注意力。
電視，網際網路和各類新聞就是利用了人希望獲得新的刺激。
看電視就是乙個典型的利用我們定向反應的例子。
注意力機制筆記
本文是對深度學習中的注意力機制做的筆記，並附上注意力機制應用的部分例子。首先，從其功能感受下注意力機制的作用。來自這裡 上圖展示了引入attention後框架的變化 由固定的語義編碼c變為根據輸出不斷變化的 公式中 抽象為更一般的模型如下 相似度計算 階段1 相似度的歸一化 階段2 計算attent...
注意力漂移
在學習李笑來的一本講自學的新書時，我學習到乙個概念 注意力漂移，這個概念很好的概況了自己有時候在生活工作中的一種狀態。如果你對上面的場景特別熟悉，那麼需要自己注意了，如果上面的場景經常在你的生活工作 現，你可能並不是乙個高效的工作者。在上面的例子中，我發現時間過去了，自己想做的工作卻幾乎沒有進展，問...
注意力機制
從網路結構本身的角度出發，可以從以下四個維度來提公升卷積神經網路的效能，分別是 深度 resnet 寬度 wideresnet 基數 resnext 和注意力 senet 一般來說，網路越深，所提取到的特徵就越抽象 網路越寬，其特徵就越豐富 基數越大，越能發揮每個卷積核獨特的作用 而注意力則是一種能...