1.設x是乙個隨機變數,取值範圍是乙個包含m個字母的符號集。證明0<=h(x)<=log2m。
答： 當m=1時，則p(x)=1,此時
h(x)=-∑(p(x1)*p(x1))
=-1*(1/1)*log21=0
h(x)最小；
當m>1時，概率相等，都為p(xi)，此時
h(x)=-∑p(xi)*logp(xi)
=-m*(1/m)*log2m=log2m
h(x)最大；
所以 0≤h(x)≤log2m
2.證明如果觀察到乙個序列的元素為iid分布，則該序列的熵等於一階熵。
答：設序列，gn=-∑∑...∑p(x1=ai1,x2=ai2,......x1=ain
)logp(x1=ai1,x2=ai2,......x1=ain
)每個元素獨立同分布，所有 gn=-n∑p(x1=ai)*logp(x1=ai)
h=-∑p(x1)*logp(x1)
綜上命題即得證。
3.給定符號集a=,求以下條件下胡一階熵：
(a)p(a1)=p(a2)=p(a3)=p(a4)=1/4
h(a)=-4×1/4 log(1/4)
=-log(1/4)=2 bit/字元
(b)p(a1)=1/2, p(a2)=1/4, p(a3)=p(a4)=1/8
h(b)=-1/2 log(1/2)-1/4 log(1/4)-2×1/8 log(1/8)
=1/2+1/2+3/4=1.75 bit/字元
(c)p(a1)=0.505, p(a2)=1/4, p(a3)=1/8, p(a4)=0.12
h(c)=-0.505 log(0.505)-1/4 log(1/4)-1/8 log(1/8)-0.12 log(0.12)
=0.15+1/2+3/8+0.11=1.135 bit/字元
第二次作業
execise02 1.查詢85年以後出生的學生姓名 性別和出生日期 2.列表顯示所有可能的學生選課組合 學號 課程號 3.查詢1 2 4班中陳姓同學的資訊 4.查詢所有及格的學生姓名 所選課程名及所得分數 5.統計各門課程的及格人數 課程編號 課程名 及格人數 6.統計各門課程的總人數 及格人數和...
第二次作業
第一題 p1 1 遞迴寫法，效率低 include 1.寫乙個函式返回引數值為1的個數 比如 15 0000 1111 4個1 程式原型 int count one bits unsigned int value int fuc int x else return 0 void mainp1 p1 ...
第二次作業
檔名稱 516.cpp 作 者 闕文榮 完成日期 2016 年 3 月 11 日 版 本 號 v1.1 對任務及求解方法的描述部分 用while語句控制輸出 輸入描述 略 問題描述 現在北京有一套房子，200萬，假設房價每年 10 乙個軟體工程師每年固定能賺40萬。他想買這套房子，多大的 率能夠忍受...