第4章 資訊率失真函式
主要內容 ：
4.1 平均失真和資訊率失真函式
4.2 離散信源和連續信源的r(d)的計算
4.1 平均失真和資訊率失真函式
4.1.1 失真函式
假如某一信源x，輸出樣值為xi，xi，經過有失真的信源編碼器，輸出y，樣值為yj，yj 。如果xi＝yj，則認為沒有失真；如果xi yj，那麼就產生了失真。失真的大小，用乙個量來表示，即失真函式d(xi，yj)，以衡量用yj代替xi所引起的失真程度。一般失真函式定義為
失真矩陣
單個符號的失真度的全體構成的矩陣
最常用的失真函式
前三種失真函式適用於連續信源，後一種適用於離散信源。
序列失真函式
推廣到序列編碼
如果假定離散信源輸出符號串行x=(x1x2…xl…xl)，其中l長符號串行樣值xi＝(xi1xi2…xil…xil)，經信源編碼後，輸出符號串行y=(y 1y 2…y l…y l)，其中l長符號串行樣值yj＝(yj1yj2…yjl…yjl)，則失真函式定義為：
其中d(xil，yjl)是信源輸出l長符號樣值xi中的第l個符號xil時，編碼輸出l長符號樣值yj中的第l個符號yjl的失真函式。
4.1.2 平均失真
xi和yj都是隨機變數，失真函式d(xi，yj)也是隨機變數
限失真時的失真值，只能用它的數學期望或統計平均值，因此將失真函式的數學期望稱為平均失真，記為
對於連續隨機變數同樣可以定義平均失真
對於l長序列編碼情況，平均失真為
4.1.3 資訊率失真函式r(d)
信源編碼器的目的
使編碼後所需的資訊傳輸率r盡量小
r越小，引起的平均失真就越大
給出乙個失真的限制值d，在滿足平均失真 d的條件下，選擇一種編碼方法使資訊率r盡可能小。
資訊率r就是所需輸出的有關信源x的資訊量。
將此問題對應到通道，
接收端y需要獲得的有關x的資訊量，也就是互資訊i(x;y)。
這樣，選擇信源編碼方法的問題就變成了選擇假想通道的問題，符號轉移概率p(yj/xi)就對應通道轉移概率。
1、 d允許試驗通道
平均失真由信源分布p(xi)、假想通道的轉移概率p(yj/xi)和失真函式d(xi，yj)決定，若p(xi)和d(xi，yj)已定，則可給出滿足x下式條件的所有轉移概率分布pij，它們構成了乙個通道集合pd
稱為d允許試驗通道。
l 滿足保真度準則下，尋找再現信源訊息所必須獲得的最低平均資訊量
l 接收端獲得的平均資訊量可用平均互資訊i(x;y)來表示
l 問題轉化成：滿足保真度準則的條件下，尋找平均互資訊i(x;y)的最小值
l 在d失真許可的所有試驗通道集合pd中，尋找乙個通道p(yj/xi)，使i(x;y)取極小值
2、資訊率失真函式r(d)
互資訊取決於信源分布和通道轉移概率分布
當p(xi)一定時，互資訊i是關於p(yj/xi) 的u型凸函式，存在極小值。
在上述允許通道pd中，可以尋找一種通道pij，使給定的信源p(xi)經過此通道傳輸後，互資訊i(x；y)達到最小。
該最小的互資訊就稱為資訊率失真函式r(d)，即
單位：bit/信源符號
對於離散無記憶信源，r(d)函式可寫成
p(ai)，i＝1，2，…，n 是信源符號概率分布；
p(bj/ai)，i＝1，2，…，n，j＝1，2，…，m 是轉移概率分布；
p(bj)，j＝1，2，…，m 是接收端收到符號概率分布。
資訊率失真函式給出了熵壓縮編碼可能達到的最小熵率與失真的關係
4.1.4 資訊率失真函式的性質
r(d)函式的定義域和值域
⑴ 定義域
[0, dmax]
dmin和r(dmin)
dmin＝0
對於連續信源
(2) dmax和r(dmax)
選擇所有滿足r(d)＝0中d的最小值，定義為r(d)定義域的上限dmax，即
因此可以得到r(d)的定義域為
2、r(d)函式的下凸性和連續性
3、r(d)函式的單調遞減性
容許的失真度越大，所要求的資訊率越小。反之亦然。
結論：
l r(d)是非負的實數，即r(d) 0。
l 定義域為0～dmax，其值為0～h(x)。
l 當d>dmax時，r(d) 0。
l r(d)是關於d的下凸函式，因而也是關於d的連續函式。
l r(d)是關於d的嚴格遞減函式。
對一般r(d)曲線的形態可以畫出來：
第四章 函式
樣例1，不帶引數的函式 create or replace function helloworld return varchar2 is begin return 朋友,您好 end 呼叫函式 語句的呼叫 select helloworld from dual 第二種呼叫方法 pl sql塊 beg...
第四章 函式
知識點 1 函式 function 可接受輸入 執行指令 返回輸出的復合語句。呼叫函式，意味著提供輸入。每乙個輸入就是乙個引數，為函式提供引數稱之為 傳參 2 呼叫函式的語句 函式名 逗號分隔的引數 f x x 2 語句左側定義乙個函式 f 接受乙個引數 x 右側是函式具體定義，利用 x 中傳遞的引...
第四章總結（一）
字串string類簡介 建立陣列就很簡單了，就直接typename arrayname size 這裡的typename 可以是你自己定義的結構體，也可以是基本資料型別，然後這裡的size如果是在vs編譯器中，必須是常量或者是const變數，這裡的常量是說你直接把size寫死，比如int a 5 但...