Entropî di teoriya agahdariyê de têgehek bingehîn e û di warên cihêreng de, di nav de ewlehiya sîber û krîptografiya quantum de, rolek girîng dilîze. Di çarçoweya entropiya klasîk de, taybetmendiyên matematîkî yên entropiyê baş têne diyar kirin û di derheqê cewhera agahdarî û nezelaliya wê de nihêrînên hêja peyda dikin. Di vê bersivê de, em ê van taybetmendiyên matematîkî bikolin û rave bikin ka çima entropî ne-neyînî ye.
Pêşî, bila em entropiyê diyar bikin. Di teoriya agahdariyê de, entropî rêjeya navînî ya agahdariya ku di guhêrbarek rasthatî de heye dipîve. Ew nezelaliya ku bi encamên muhtemel ên guhêrbara rasthatî ve girêdayî ye hejmar dike. Ji hêla matematîkî ve, ji bo guhêrbarek veqetandî X bi fonksiyona girseya îhtimalê P(X), entropiya H(X) bi vî rengî tê dayîn:
H(X) = -∑ P(x) log₂ P(x)
Li cihê ku berhevok li ser hemî nirxên gengaz ên x-ya X-ê tê girtin. Logarîtma bi gelemperî berbi bingeha 2-yê tê girtin, di encamê de entropî bi bit têne pîvandin.
Naha, werin em taybetmendiyên matematîkî yên entropiyê binirxînin. Taybetmendiya yekem ev e ku entropî her dem ne-neyînî ye. Ev tê wê wateyê ku entropiya guhêrbarek rasthatî an pergalê nikare neyînî be. Ji bo ku em fêm bikin ka çima entropî ne-neyînî ye, divê em taybetmendiyên fonksiyona logarîtmê binirxînin.
Fonksiyona logarîtmê tenê ji bo nirxên erênî tê diyarkirin. Di formula entropyayê de, fonksiyona girseya îhtimalê P(x) îhtîmala çêbûna her nirxa x nîşan dide. Ji ber ku îhtimal ne-neyînî ne (ango, P(x) ≥ 0), logarîtma îhtimaleke neneyînî wê were diyarkirin. Wekî din, logarîtma 1-ê bi 0-yê re ye. Ji ber vê yekê, her termek di berhevkirina formula entropiyê de dê ne-neyînî be an jî bi sifirê re wekhev be. Wekî encamek, berhevoka şertên ne-neyînî jî dê ne-neyînî be, û piştrast dike ku entropî ne-neyînî ye.
Ji bo ronîkirina vê milkê, avêtina dravek adil bifikirin. Guherbara tesadufî X encama avêtina drav nîşan dide, ku X = 0 ji bo seriyan û X = 1 ji bo dûvikan. Fonksiyona girseya îhtimalê P(X) bi P(0) = 0.5 û P(1) = 0.5 tê dayîn. Dema van nirxan têxin nav formula entropiyê, em distînin:
H(X) = -(0.5 log₂ 0.5 + 0.5 log₂ 0.5) = -(-0.5 – 0.5) = 1
Entropiya avêtina pereyê adil 1 bit e, ev destnîşan dike ku bi encama avêtina pereyê re yek bit nezelaliyek heye.
Ji bilî ne-neyînîbûnê, entropî xwediyê taybetmendiyên din ên girîng jî ye. Taybetmendiyek weha ev e ku entropî dema ku hemî encam bi heman îhtîmal in zêde dibe. Bi gotineke din, heke fonksiyona girseya îhtimalê P(x) wisa be ku P(x) = 1/N ji bo hemî nirxên mimkun x, ku N hejmara encamên mimkun e, wê demê entropî herî zêde dibe. Ev taybetmendî bi têgihîştina me re hevaheng e ku dema ku hemî encam bi heman îhtîmal in, nediyariya herî zêde heye.
Wekî din, entropî ji bo guhêrbarên serbixwe yên serbixwe lêzêde ye. Ger me du guhêrbarên tesadufî yên serbixwe X û Y hebin, entropiya belavkirina wan a hevbeş bi kombûna entropiyên wan ên takekesî ye. Ji hêla matematîkî ve, ev taybetmendî dikare wekî:
H(X, Y) = H(X) + H(Y)
Ev taybetmendî bi taybetî di dema analîzkirina entropiya pergalên pêkhatî an dema ku bi gelek çavkaniyên agahdariyê re mijûl dibe bikêr e.
Taybetmendiyên matematîkî yên entropiyê di teoriya agahdariya klasîk de baş têne diyar kirin. Entropî ne-neyînî ye, dema ku hemî encam bi qasî hev îhtîmal in, zêde dibe, û ji bo guhêrbarên serbixwe yên serbixwe lêzêde dibe. Van taybetmendiyan ji bo têgihîştina cewhera agahdarî û nezelaliya wê bingehek zexm peyda dikin.
Pirs û bersivên din ên vê dawiyê di derbarê Entropiya klasîk:
- Têgihîştina entropiyê çawa beşdarî sêwirandin û nirxandina algorîtmayên krîptografîk ên bihêz di warê ewlehiya sîber de dibe?
- Nirxa herî zêde ya entropiyê çi ye, û kengê tê bidestxistin?
- Di bin çi şert û mercan de entropiya guherbareke tesadufî ji holê radibe, û ev di derbarê guherbarê de çi tê wateya?
- Entropiya guhêrbarek çawa diguhere dema ku ihtimal di navbera encaman de bi rengek wekhev tê dabeş kirin li gorî dema ku ew berbi yek encamê ve girêdayî ye?
- Entropiya binary ji entropiya klasîk çawa cûda dibe, û ew ji bo guhêrbarek binerd a bi du encaman çawa tê hesibandin?
- Têkiliya di navbera dirêjahiya çaverêkirî ya peyvên kod û entropiya guhêrbarek rasthatî de di kodkirina dirêjahiya guhêrbar de çi ye?
- Vebêjin ka têgeha entropiya klasîk çawa di nexşeyên kodkirina dirêjahiya guhêrbar de ji bo şîfrekirina agahdariya bikêr tê bikar anîn.
- Taybetmendiyên entropiya klasîk çi ne û ew çawa bi îhtîmala encaman re têkildar e?
- Entropiya klasîk çawa di pergalek diyarkirî de nediyarbûn an jî rasthatiniyê dipîve?