通訊中，信源編碼本質上是將信源符號轉變為適合通道傳輸的符號，目的為了減少或消除信源冗餘度而提高傳輸效率及通訊的有效性。
在資訊理論的編碼定理中，已從理論上證明，至少存在某種最佳的編碼或通道處理方法，能夠做到既可靠又有效地傳輸資訊。而夏農第一定理就是乙個極為重要的極限定理：
要做到無失真的信源編碼，平均每個信源符號所需最少的r
rr元碼元數為信源的熵hr(
s)h_r(s)
hr(s)
.即信源的資訊熵hr(
s)h_r(s)
hr(s)
是無失真信源壓縮的極限值。
若編碼的平均碼長小於信源的熵值hr(
s)h_r(s)
hr(s)
，則惟一可解碼不存在，在解碼或反變換時必然要帶來失真或差錯。
通過對擴充套件信源進行變長編碼，當 n→∞
n \to\infty
n→∞ 時，平均碼長limn
物理意義：
無失真信源編碼的實質是對離散信源進行變換——變換後信源符號(通道的輸入信源)盡可能為等概率分布—— 新信源符號平均所含的資訊量達到最大——使通道的資訊傳輸率r達到通道容量c，實現信源與通道理想的統計匹配。
當通道的資訊傳輸率不超過通道容量時，採用合適的通道編碼方法可以實現任意高的傳輸可靠性，但若資訊傳輸率超過了通道容量(r
>
cr>c
r>
c)，就不可能實現可靠的傳輸。
設某通道有r個輸入符號，s
ss個輸出符號，通道容量為c
cc，當通道的資訊傳輸率 r
r<
c，碼長n
nn足夠長時，總可以在輸入的集合中，找到m
mm個碼字，分別代表m
mm個等可能性的訊息，組成乙個碼以及相應的解碼規則,使通道輸出端的最小平均錯誤解碼概率達到任意小(pe→
0p_e\to0
pe→0)。
具有劃時代意義的夏農公式：
c =b
⋅log
2(1+
sn)\bm)}
c=b⋅lo
g2(
1+ns
)b為通道頻寬；s
n\frac
ns為訊雜比，單位分貝（db）。
保真度準則下的信源編碼定理，或稱有損信源編碼定理。只要碼長足夠長，總可以找到一種信源編碼，使編碼後的資訊傳輸率r′r'
r′略大於率失真函式r(d
)r(d)
r(d)
，而碼的平均失真度d(c
)d(c)
d(c)
不大於給定的允許失真度d
dd，即r′≥
r(d)
,d(c
)≤dr' \geq r(d),d(c) \leq d
r′≥r(d
),d(
c)≤d
.夏農作為資訊理論的創始人，對如今的資訊時代(4g、5g移動通訊)貢獻巨大。
訊雜比 夏農公式 如何理解夏農公式？
引自 讀懂通訊 之夏農公式 夏農公式，在我看來，是通訊界最著名的公式，可以與勾股定理 尤拉公式以及愛因斯坦的質能公式相媲美。夏農公式並不複雜 式中，c 代表通道也就是傳輸通道可傳送的最大資訊速率，簡稱為通道容量 b 代表通道也就是傳輸通道的頻寬 s n 代表接收訊號的訊雜比 lb代表以2為底的對數。...
夏農取樣定理
編輯夏農取樣定理，又稱奈奎斯特取樣定理，是資訊理論，特別是通訊與訊號處理學科中的乙個重要基本結論。1924年奈奎斯特 nyquist 就推導出在理想低通訊道的最高大碼元傳輸速率的公式 理想低通訊道的最高大碼元傳輸速率 2w log 2n 其中w是理想低通訊道的頻寬，n是電平強度 中文名 夏農取樣定理...
奈氏準則 夏農定理
奈氏準則 在理想低通 無雜訊 頻寬受限 條件下，為了避免碼間串擾，極限碼元傳輸速率為2w baud，w是通道頻寬，單位是hz.在任何通道中，碼元傳輸的速率是有上限的。若傳輸速率超過此上限，就會出現嚴重的碼間串擾問題，使接收端對碼元的完全正確識別成為不可能。通道的頻帶越寬 即能通過的訊號高頻分量越多 ...