信息论matlab的实验用到的编码.docx

Matlab 源程序 附录 A 信息熵 % 函数说明： % % H=entropy(P,r) 为信息熵函数 % % P 为信源的概率矢量 , r 为进制数 % % H为信息熵 % %****************************** % function H=entropy(P,r) if (length(find(P=0)) ~=0) error(Not a ,negative component); % end  判断是否符合概率分布条件 if (abs(sum(P)-1)10e-10) error(Not a ,component do not add up to 1); end H=(sum(-P.*log2(P)))/(log2(r)+eps); 附录 B 离散无记忆信道容量的迭代计算 % 信道容量 C 的迭代算法 % % 函数说明： % % [CC,Paa]=ChannelCap(P,k) 为信道容量函数 % % 变量说明： % % P：输入的正向转移概率矩阵， k ：迭代计算精度 % % CC：最佳信道容量， Paa：最佳输入概率矩阵 % % Pa：初始输入概率矩阵， Pba：正向转移概率矩阵 % % Pb：输出概率矩阵， Pab：反向转移概率矩阵 % % C：初始信道容量， r ：输入符号数， s ：输出符号数 % %************************************************** % function [CC,Paa]=ChannelCap(P,k) % 提示错误信息 if (length(find(P0)) ~ =0) error(Not a ,negative component); % end if (abs(sum(P)-1)10e-10) error(Not a ,component do not add up to 1) end  %  判断是否符合概率分布条件 判断是否符合概率和为  1 1) 初始化 Pa [r,s]=size(P); Pa=(1/(r+eps))*ones(1,r); sumrow=zeros(1,r); Pba=P; 2) 进行迭代计算 n=0; C=0; CC=1; while abs(CC-C)=k n=n+1; (1) 先求 Pb Pb=zeros(1,s); for j=1:s for i=1:r Pb(j)=Pb(j)+Pa(i)*Pba(i,j); end end (2) 再求 Pab suma=zeros(1,s); for j=1:s for i=1:r Pab(j,i)=Pa(i)*Pba(i,j)/(Pb(j)+eps); suma(j)=suma(j)+Pa(i)*Pba(i,j)*log2((Pab(j,i)+eps)/(Pa(i)+eps)); end 3) 求信道容量 C C=sum(suma); 4) 求下一次 Pa, 即 Paa L=zeros(1,r); sumaa=0; for i=1:r for j=1:s L(i)=L(i)+Pba(i,j)*log(Pab(j,i)+eps); end a(i)=exp( L(i)); end sumaa=sum(a); for i=1:r Paa(i)=a(i)/(sumaa+eps); end 5) 求下一次 C,即 CC CC=log2(sumaa); Pa=Paa; end 打印输出结果 s0= 很好！输入正确，迭代结果如下： ; s1= 最佳输入概率分布 Pa:; s2= 信道容量 C:; s3= 迭代次数 n:; s4= 输入符号数 r:; s5= 输出符号数 s:; s6= 迭代计算精度 k:; for i=1:r B{i}=i; end disp(s0); disp(s1),disp(B),disp(Paa); disp(s4),disp(r); disp(s5),disp(s); disp(s2),disp(CC); disp(s6),disp(k); disp(s3),disp(n); 附录 C Shannon 编码 % 函数说明： % % [p,x]=array(P,X)为按降序排序的函数 % % P 为信源的概率矢量， X 为概率元素的下标矢量 % % p 为排序后返回的信源的概率矢量 % % x 为排序后返回的概率元素的下标矢量 % %*******************************************% function [p,x]=array(P,X) P=[P;X]; [l,n]=size(P); for i=1:n max=P(1,i); maxN=i; MAX=P(:,i);