درمائلت (اطلاعاتی نظریہ)

سانچہ:اصطلاح برابر اطلاعاتی نظریات میں کسی تصادفی متغیر کی درمائلت اس سے وابستہ لاتیقن کو ناپتی ہوتی ہے۔

تعریف

کسی متفرد تصادفی متغیر X جو ممکنہ اقدار $\{x_1,x_2,\cdots ,x_n\}$ لے سکے، کی اطلاعاتی درمائلت H(X)، یوں تعریف ہوتی ہے

$H(X)=\mathrm{E}(I(X))=-\sum _{i=1}^{n}p(x_i){\log }_{2}p(x_i)$

جہاں

I(X) تصادفی متغیر X کا اطلاعاتی متن ہے، جو خود بھی تصادفی متغیر ہے

E(X) تصادفی متغیر X کا متوقع قدر تفاعل ہے

p(xi) = Pr(X = xi) تصادفی متغیر X کی "احتمال کمیت دالہ" ہے

لاگرتھم کی اساس 2 ہے اور $0\log 0=0$