2012/06/06

Information Channels

Forward Probabilitis:已知输入是$a_i$,输出是$b_j$的概率可写成矩阵(这个概率和源的分布无关): $$P_{ij}=P(b=b_j|a=a_i)$$ 如果往channel里一端输入$a_i$,另一端一定会输出一个,所以$\sum_j P_{ij}=1$,输入的信号源有$\sum_ip_i=1$。

Backword Probabilitis:已知输出是$b_j$那么输出$a_i$的概率为(这个概率和输出的分布无关): $$Q_{ij}=P(a=a_i | b=b_j)$$ Joint Probabilitis:输出是$b_j$,输入$a_i$的概率为: $$R_{ij}=P(a=a_i, b=b_j)$$ 关系: $$p_iP_{ij}=P(a_i)P(b_j|a_i)=P(a_i, b_j)=P(b_j)P(a_i|b_j)=q_jQ_{ij}$$

No comments:

Post a Comment

Print This Post