Информатика. Кодирование и передача дискретных сообщений: Учебное пособие

Ф а куль т е т ком п ь ю т е рны х на ук К а ф едр а и нф ор м а ц и онны х си стем

А .В . С ыч е в

И нф орм а т ика . К од иров а ние и п е ре д а ча д искре т ны х сообще ний.

У ч е б н о е по со б ие д л я I курс а ф акул ь т ет а ком пь ю т ерны х наук

В ор онеж – 2002

2

У Д К 681.3

С ы чев А .В . Инф ор м а ти ка . К оди р ова ни е и пер еда ча ди скр етны х собщ ени й. – В ор онеж : В ГУ , 2002.

В пособи и р а ссм а тр и ва ются м етоды опти м а л ьного и пом ехоустойчи вого коди р ова ни я , а на л ого-ц и ф р овы е пр еобр а зова ни я и ф ор м а ты пр едста вл ени я ц и ф р овы х си гна л ов, вопр осы и зм ер ени я кол и чества и нф ор м а ц и и и пр опускной способности р а зл и чны х ка на лов свя зи , способы кр и птогр а ф и ческой за щ и ты и нф ор м а ц и и . К р ом е того, в пособи и пр и води тся обзор способов пер еда чи да нны х. О но пр една зна чено дл я и спол ьзова ни я в ка честве учебны х м а тер и а лов по ди сц и пл и не “Инф ор м а ти ка ” на ф а кул ьтете ком пьютер ны х на ук. М ож ет бы ть и спол ьзова но на др уги х ф а кул ьтета х по р одственны м спец и а л ьностя м .

Печа та ется по р ешени ю на учно-м етоди ческого совета ф а кул ьтета ком пьютер ны х на ук В ор онеж ского госуда р ственного уни вер си тета .

(с) В ор онеж ски й госуда р ственны й уни вер си тет, 2002 (с) С ы чев А .В ., 2002

3

В в едени е Гл убокое пони м а ни е всего м ногообр а зи я совр ем енны х и нф ор м а ц и онны х си стем , пр оц ессов и технол оги й, а та кж е совр ем енны х тенденц и й в этой сф ер е, невозм ож но беззна ни я , пр еж де всего, пр и нц и пов и соотношени й, соста вл я ющ и х ф унда м ент и нф ор м а ти ки . К сож а л ени ю, сегодня дом и ни р уют учебни ки и учебны е пособи я , на ц ел енны е на обучени е конкр етны м зна ни я м и ф ор м и р ова ни е пр а кти чески х на вы ков в сф ер е и нф ор м а ц и онны х технологи й. У ни вер си тетское ж е обр а зова ни е пр едпол а га ет др уги е подходы к подготовке вы сококва л и ф и ц и р ова нного спец и а л и ста в обл а сти и нф ор м а ц и онны х си стем и технологи й. С одер ж а ни е да нного пособи я охва ты ва ет ту ча сть уни вер си тетского кур са и нф ор м а ти ки , чи та ем ого на 1 кур се ф а кул ьтета ком пьютер ны х на ук В ор онеж ского госуда р ственного уни вер си тета , в котор ой и зуча ются вопр осы коди р ова ни я и пер еда чи ди скр етны х сообщ ени й. В пособи и р а ссм а тр и ва ются та ки е а ктуа л ьны е дл я совр ем енной и нф ор м а ти ки и ее пр и л ож ени й вопр осы ка к опти м а л ьное и пом ехоустойчи вое коди р ова ни е, кр и птоси стем ы с откр ы ты м кл ючом (в т.ч. ц и ф р ова я подпи сь), пр опускна я способность си стем тел еком м уни ка ц и й и др .

1. Д и с кр ет ны е с ообщ ени я С и гна л на зы ва ется дискрет н ым , есл и па р а м етр си гна л а м ож ет пр и ни м а тьли шь конечное чи сл о зна чени й, и сущ ествен л и шьв конечном чи сл е м ом ентов вр ем ени (возм ож но, пер и оди чески повтор я ющ и хся ). Дис крет ны м и с ообщениям и на зы ва ются та ки е сообщ ени я , котор ы е м огут бы ть пер еда ны с пом ощ ью ди скр етны х си гна л ов. 1.1. З н аки, н аб о р ы з н ако в , ал ф ав ит ы Я зы ковы е сообщ ени я в пи сьм енной ф ор м е стр оя т обы чно, за пи сы ва я зна ки пи сьм а (гра ф е м ы ) др уг за др угом . Х отя дл и нны е сообщ ени я м огут р а зм ещ а ться на м ноги х стр очка х и стр а ни ц а х, это р а зби ени е не и м еет, вообщ е говор я , ни ка кого зна чени я ; оно не несё т ва ж ной и нф ор м а ц и и . По сущ еству та ки е сообщ ени я я вл я ются посл едова тел ьностя м и зна ков. Э то ока зы ва ется спр а ведл и вы м и дл я устны х я зы ковы х сообщ ени й, есл и р а зл ож и ть устны й текст на эл ем ента р ны е соста вны е ча сти , та к на зы ва ем ы е ф о н е м ы, и подзна ка м и пони м а тьф онем ы . Т очка зр ени я , что сообщ ени е есть посл едова тел ьность зна ков, не огр а ни чи ва ется , р а зум еется , тем сл уча ем , когда зна ки - это ф онем ы и л и гр а ф ем ы (на пр и м ер , зна ки букв и ц и ф р , зна ки пр епи на ни я ). З на ки пл а нет и л и зна ки зоди а ка и да ж е ки вок и пока чи ва ни е гол овой та кж е м огут пони м а ться ка к зна ки . Поэтом ум ы опр едел и м поня ти е зна ка сущ ественно ши р е. Зна к - эт о эл ем ент некотор ого конечного м нож ес т ва от л ичим ы х д руг от д руга „вещ ей", набора знаков. Набор знаков, в кот ором опред ел ё н (л инейны й) поряд ок знаков, назы вает с я алф авит о м .

4

В от некотор ы е пр и м ер ы а л ф а ви тов (пор я док в ни х — это пор я док пер ечи сл ени я ): а ) а л ф а ви т деся ти чны х ц и ф р {0, 1, 2, 3, 4, 5, 6, 7, 8, 9}. b) а л ф а ви т за гл а вны х л а ти нски х букв {A,B,C,D,E,F,G,H,I,J,K,L,M,N,0,P,Q,R,S, T,U,V,W,X,Y,Z}; с) а л ф а ви т за гл а вны х ки р и л л и чески х букв {А ,Б,В ,Г,Д ,Е ,Ж ,З .И,Й ,К ,Л,М ,Н ,0,П,Р,С ,Т , У ,Ф ,Х ,Ц ,Ч ,Ш ,Щ ,Ъ,Ы ,Ь,Э ,Ю ,Я }; d) а л ф а ви т я понской ка та ка ны

e) а л ф а ви т м еж дуна р одного кода сем а ф ор ной си гна л и за ц и и

ж ) на бор зна ков а збуки М ор зе

5

1.2. Ко ды ико дир о в ан ия Е сл и N - пр едл ож ени е некотор ого естественного я зы ка , то N м ож но р а ссм а тр и ва ть ка к посл едова тел ьность зна ков, по кр а йней м ер е, тр ем я р а зны м и способа м и . Пр еж де всего, N пр едста вл я ет собой посл едова тел ьность букв, ц и ф р , зна ков пр епи на ни я и т. д.; да л ее, N — это посл едова тел ьность сл ов, котор ы е в др угом контексте м огут са м и р а ссм а тр и ва ться ка к зна ки ; на конец , и всё пр едлож ени е ц ел и ком м ож но р а ссм а тр и ва тька к оди н зна к. Пер вое пони м а ни е и спол ьзуется , на пр и м ер , когда и м еется пр а ви л о для коди р ова ни я сообщ ени я N в текстовом ф а йл е; втор ое пони м а ни е л еж и т в основе стеногр а ф и чески х сокр а щ ени й; кр а йнее тр етье пони м а ни е бы ва ет ум естны м пр и пер еводе на др угой естественны й я зы к, когда послови ц а одного я зы ка пер еводи тся соответствующ ей по см ы сл упосл ови ц ей др угого я зы ка . Д и скр етны е сообщ ени я пр едста вл я ют собой (конечны е и л и бесконечны е) по сле до ват е льн о ст и зн ако в. Пр и этом , и сходя и з сообр а ж ени й, свя за нны х с ф и зи ологи ей ор га нов чувств, и л и и зчи сто техни чески х сообр а ж ени й, и х обы чно р а зби ва ют на конечны е посл едова тел ьности зна ков, на зы ва ем ы е сло вам и. Н а бол ее вы соком ур овне ка ж дое слово м ож но снова р а ссм а тр и ва ть ка к зна к, пр и этом соответствующ и й на бор зна ков будет, вообщ е говор я , ши р е пер вона ча л ьного. О бр а тно, да нны й на бор зна ков м ож но пол учи ть с пом ощ ью соста вл ени я сл ов, и сходя и з некотор ого на бор а с м еньши м чи сл ом зна ков, в ча стности и з двои чного на бор а зна ков. Н екотор ы е и з пер ечи сл енны х вы ше на бор ов пол учены с пом ощ ью словообр а зова ни я „на д" конкр етны м и двои чны м и на бор а м и зна ков и ли , а бстр а ктно, на дна бор ом {1, 0}. С л ова на д двои чны м на бор ом зна ков на зы ва ются дво ич н ым и сло вам и. О ни не обя за ны и м еть постоя нную дл и ну (см . а збуку М ор зе), есл и это всё ж е та к, то говор я т об n-р а зр я дны х двои чны х зна ка х и n-р а зр я дны х двои чны х кода х. Д а ди м тепер ьточное опр едел ени е: Ко до м на зы ва ется пр а ви л о, опи сы ва ющ ее отобр а ж ени е одного на бор а зна ков в др угой на бор зна ков (и л и сл ов); та кж е на зы ва ют и м нож ество обр а зов пр и этом отобр а ж ени и .

6

Пом и м о основного зна чени я слова „code" - «кодекс» , «свод за конов» (гр а ж да нски й кодекс, кодекс Н а пол еона ) - на чи на я с сер еди ны 19-го в. оно озна ча л о кни гу, в котор ой сл ова м естественного я зы ка сопоста вл ены гр уппы ц и ф р и л и букв. У потр ебл ени е та ки х кодов пр и обр ело зна чени е скор ее в свя зи со стр ем л ени ем сэконом и ть на стои м ости тел егр а м м , чем в свя зи с сообр а ж ени я м и конспи р а ти вности (А В С -кодВ . К л а узен-Т уэ, 1874). Е сл и ка ж ды й обр а з пр и коди р ова ни и я вл я ется отдел ьны м зна ком , то та кое отобр а ж ени е м ы на зы ва ем ш иф ро вко й, а обр а зы - ш иф рам и (а нгл . cipher). Поскол ьку здесь и м еется кр и птогр а ф и чески й а спект, обр а щ ени е этого отобр а ж ени я — когда оно однозна чно — на зы ва ется де ко диро ван ие м или де ш иф ро вко й. Испол ьзова ни е кодов для ши ф р ова ни я сообщ ени й озна ча ет за м енунекотор ы х и л и всех слов и ф р а з кодовы м и сл ова м и , пол ученны м и и з спец и а л ьной кни ги , на пом и на ющ ей слова р ь; на са м ом дел е сл ово код относи тся тол ько к та кой кр и птоси стем е, хотя тер м и ны секр етны й код и взл ом кода и спол ьзуются во всех р а знови дностя х та йнопи си . Ина че говор я , код долж ен и м еет возм ож ность уста нови ть сем а нти ческое содер ж а ни е л юбого сообщ ени я , котор ое м ож но пер еда ть по ка на л у, и ка к отпр а ви тел ь, та к и пол уча тел ь дол ж ны и м еть кодовую кни гу. Пр и усл ови и , что кодова я кни га на деж но за щ и щ ена , та кое сообщ ени е чр езвы ча йно тр удно (есл и вообщ е возм ож но) взл ом а ть. О дна ко пер еда ча сообщ ени я невозм ож на , если ф р а за не вкл ючена в кодовую кни гу. Н а пр оти в, пр и и спол ьзова ни и ши ф р а возм ож на пер еда ча пр ои звол ьны х сообщ ени й, потом учто ши ф р – это а л гор и тм , пр и сва и ва ющ и й новы е си м вол ы ши ф р ова нного текста си м вол а м и л и гр уппа м си м вол ов откр ы того текста . В ком м ер чески х и кр и птогр а ф и чески х кода х слова , ф р а зы и поня ти я естественны х я зы ков коди р уются в больши нстве сл уча ев сл ова м и на днекотор ы м буквенны м и л и ц и ф р овы м а лф а ви том , обы чно пя тер ка м и . В техни чески х кода х буквы , ц и ф р ы и др уги е зна ки почти всегда коди р уются двои чны м и сл ова м и . Ко н т ро льн ые во про сы. 1. Ч то та кое зна к, а л ф а ви т, код, ши ф р ? 2. Ч ем кодотл и ча ется от ши ф р а ?

2. Коди р ов ани е и нф ор м ац и и Пусть объектом коди р ова ни я я вл я ются тексты , за пи са нны е на некотор ом (естественном и ли и скусственном ) я зы ке, пр и чем чи сло букв в а л ф а ви те этого я зы ка , вкл юча я (есл и есть та ка я необходи м ость) некотор ы е зна ки пр епи на ни я , зна к пр обел а и т.п., р а вно п. Пусть да л ее, l - на и м еньшее на тур а л ьное чи сл о, удовл етвор я ющ ее усл ови ю l ≥ log2 n . Т огда м ож но пол ьзова ться пр остейши м и з р а зл и чны х м етодов побуквенного коди р ова ни я , сводя щ и м ся к уста новл ени ю вза и м но однозна чного соответстви я м еж ду р а зл и чны м и буква м и и сходного текста и р а зли чны м и кодовы м и на бор а м и двои чны х си м вол ов ф и кси р ова нной

7

дл и ны , р а вной l. Н а пр и м ер , есл и р ечь и дет о текста х, за пи са нны х на р усском я зы ке, где чи сл о букв а л ф а ви та , вкл юча я зна к пр обел а , n = 34, то, поскол ьку и м еет м есто нер а венство 5 < log234 < 6, м ож но осущ естви ть побуквенное коди р ова ни е, уста нови в сл едующ ее соответстви е: Буква рус с кого Ш ес т ис им вол ь ны й язы ка код овы й набор (пр обел ) а б . л . я . .

000000 000001 000010 … … … 001101 … … … . 100001 … … … . 111111

Дес ят ичная запис ь 0 1 2 . 13 . 33 . 63

Д екоди р ова ни е пр и этом осущ ествл я ется очень пр осто: посл едова тел ьность двои чны х си м волов - за коди р ова нны й текст - дел и тся на блоки и з шести си м вол ов и ка ж ды й бл ок за м еня ется соответствующ ей буквой а л ф а ви та и сходного текста . Н евоор уж енны м гл а зом ви дно, что, будучи очень пр и вл ека тел ьны м по своей пр остоте, р а ссм отр енны й м етод коди р ова ни я гр еши т опр едел енной "р а сточи тел ьностью" (и збы точностью). О б этом сви детел ьствует хотя бы то обстоя тел ьство, что шестью двои чны м и си м вол а м и м ы см огли бы вы р а зи ть не п = 34, а ц елы х п = 26 = 64 букв а л ф а ви та . Ч тобы ул учши ть полож ени е, м ож но бы л о, на пр и м ер , пойти на некотор ую уступку, а и м енно, согл а си ться с тем , чтобы пр и коди р ова ни и и декоди р ова ни и текстов па р ы букв "е"-"ё " и "ь"-"ъ" ока за л и сь "нер а зли чи м ы м и ". В едь л юди , вл а деющ и е р усски м я зы ком , все р а вно см огл и бы восста нови ть это р а зл и чи е пр и р а боте с уж е декоди р ова нны м текстом . Пр и на л и чи и та кого согл а си я чи сло букв в а л ф а ви те р усского я зы ка (вкл юча я зна к пр обел а ) ока за л ось бы р а вны м п = 32, и поэтом у м ож но бы ло бы обойти сь кодовы м и на бор а м и постоя нной дл и ны , р а вной l = log232 = 5. Т ем са м ы м , и зка ж ды х шести двои чны х си м вол ов оди н си м вол м ож но бы ло сэконом и ть. Из этого пр и м ер а л егко сдел а ть вы вод, что пр и побуквенном коди р ова ни и букв и сходного текста кодовы м и на бор а м и постоя нной дли ны на и бол ее ком па ктное (эконом ное) коди р ова ни е уда ется осущ естви ть тогда , когда чи сло букв в а л ф а ви те м ож но пр едста ви тька к ц ел ую степеньдвойки : n = 2l ( l = 1,2, ...,). (2.1) Н а р ушени е этого усл ови я пр и ука за нном м етоде коди р ова ни я непр ем енно пр и води т к некотор ой и збы точности . В озни ка ет вопр ос, а и м еются л и р езер вы дл я да л ьнейшего сокр а щ ени я ср еднего чи сл а двои чны х си м вол ов, отводи м ы х под одну букву? О ка зы ва ется , что та ки е р езер вы и м еются , и да ж е тогда , когда п удовл етвор я ет усл ови ю (2.1), возм ож ны ва р и а нты , когда коди р ова ни е м ож но

8

осущ естви тьта ки м обр а зом , чтобы ср еднее чи сл о двои чны х си м волов, отводи м ы х пододнубукву, ока за л осьм еньше l = log2п. Пустьа л ф а ви т и сходного текста состои т и звосьм и букв А , В , С , D, Е , F, G, Н . Поскол ькуп = 8 = 23, т.е. l = 1оg2n = 3, то пр и р а ссм отр енном тол ько что м етоде коди р ова ни я ка ж дой букве ста ви л ся бы в соответстви е кодовы й на бор постоя нной дл и ны , р а вной тр ем . Пустьна м и звестны зна чени я вер оя тностей того, что на уга двзя та я буква и з текстов этого я зы ка ока ж ется буквой А , В , С , D, Е , F, G и л и Н : р (А ) = 0,08 р (Е ) = 0,08 р (В ) = 0,44 р (F) = 0,08 р (С ) = 0,08 р (G) = 0,08 р (D) = 0,08 р (Н ) = 0,08 С учетом нер а вновер оя тности встр еча ем ости р а зли чны х букв а л ф а ви та пр едста вл я ется естественны м отка за ться от постоя нства дл и ны кодовы х на бор ов и ста р а ться осущ естви ть та кое коди р ова ни е, пр и котор ом на и бол ее ча сто встр еча ющ и еся буквы бы л и бы за коди р ова ны возм ож но бол ее кор отки м и кодовы м и на бор а м и и , на обор от, на и бол ьшую дл и нуи м ел и бы кодовы е на бор ы , соответствующ и е на и м енее ча сто встр еча ющ и м ся буква м . В р усл е эти х сообр а ж ени й спец и а л и ста м и бы ли р а зр а бота ны р а зл и чны е м етоды побуквенного коди р ова ни я . В свя зи с пер еходом к пер ем енной дл и не кодовы х на бор ов возни ка ет пр обл ем а уста новл ени я гр а ни ц м еж дуни м и пр и декоди р ова ни и . Пр и этом кр а йне неж ел а тел ьно, чтобы дл я уста новл ени я гр а ни ц бы л и и спол ьзова ны ка ки е-л и бо спец и а л ьны е р а здел и тел ьны е си м волы , та к ка к это пр и вел о бы к увел и чени ю ср едней дл и ны кодовы х на бор ов. К оды (схем ы , а л гор и тм ы коди р ова ни я ), где однозна чность декоди р ова ни я дости га ется без пом ощ и ка ки х-л и бо спец и а л ьны х р а здел и тел ьны х си м вол ов, на зы ва ются кода м и без за пя той. С р еди ни х на и бол ее пр осты м и и в то ж е вр ем я на и бол ее попул я р ны м и я вля ются та к на зы ва ем ы е преф икс ны е код ы , обл а да ющ и е тем свойством , что кодовы й на бор ни ка кой буквы не я вл я ется на ча л ом (пр еф и ксом ) кодового на бор а др угой буквы . Пусть п - чи сл о букв в а л ф а ви те, nk— чи сло букв, кодовы е на бор ы котор ы х состоя т и зk двои чны х си м волов, li - чи сл о двои чны х си м вол ов в кодовом на бор е i-й буквы а л ф а ви та , L = max (li). L

Т огда , очеви дно, n = ∑ nk , а дл я пр ои звол ьного ф и кси р ова нного зна чени я k k =1

и м еет м есто

n ≤2

k

k

. Е сл и ж е на м за да ны зна чени я

будет и м етьм есто нер а венство

nk ≤ 2

k

т.е.

k

∑2 j =1

k− j

⋅nj ≤ 2

−2

k −1

⋅nk −1 − ... − 2 ⋅n1

k

и л и , посл е дел ени я обеи х ча стей нер а венства на 2k,

n , n ,..., n 1

2

k −1

, то, очеви дно,

9 k

∑2 ⋅nj ≤1 −j

j =1

Поскол ькувы бор зна чени я k пр ои звол ьны й, то пр и м ем k = L. и тогда будем и м еть: L

∑2 ⋅nj ≤1 −j

j =1

О тсюда непоср едственно сл едует n

∑ 2 li ≤ 1 −

(2.2)

i =1

Н ер а венство (2.2) на зы ва ется неравенс т вом Краф т а и и м еет кл ючевое зна чени е в теор и и коди р ова ни я . Х отя вы вод этого нер а венства м ы осущ естви ли пр и м ени тел ьно к двои чном у пр еф и ксном у коду, оно вер но та кж е дл я пр ои звол ьного (не обя за тел ьно двои чного и не обя за тел ьно пр еф и ксного) кода без за пя той. Н ер а венство К р а ф та , собственно, и ли м и ти р ует на ше ж ела ни е опер и р ова ть ка к м ож но м еньши м и зна чени я м и li. Пусть, на пр и м ер , n = 10 и уж е и звестны зна чени я l1 = 2, l2 = l3 =...= l6 = 3. Т огда . очеви дно, зна чени я l7 ÷ l10 долж ны удовл етвор и тьнер а венству 10

∑ 2 li ≤ 1 − 2 i =7

−

−2

− 5 ⋅ 2−3 =

1 8

Пусть, на пр и м ер , м ы хоти м , чтобы и м ел о м есто l7=l8=l9=l10=l. Т огда пол учи м , что зна чени е l дол ж но удовл етвор и ть нер а венству −l 4 ⋅ 2 ≤ 1 / 8 , т.е. оно не м ож ет бы тьм еньше пя ти . Пр еф и ксны й код на зы ва ется пол ны м , есл и доба вл ени е к нем ул юбого нового кодового на бор а на р уша ет свойство пр еф и ксности . Пусть, на пр и м ер , буква м А , В и С поста вл ены в соответстви и кодовы е на бор ы 00, 01 и 1. Т огда очеви дно, что л юба я попы тка за коди р ова ть ещ е хоть одну букву пр и вел а бы к на р ушени ю свойства пр еф и ксности . З на чи т, код00, 01, 1 я вл я ется полны м . Е сл и ж е буква м А . В и С бы л и поста влены в соответстви е кодовы е на бор ы 00, 01 и 10, то чер езветвь 11... м ы см огли бы , не на р уша я свойство пр еф и ксности , за коди р ова ть скол ько угодно новы х букв. М ы та кж е см огли бы безна р ушени я свойства пр еф и ксности чер езветвь01... за коди р ова ть скол ько угодно новы х букв, есл и бы буква м А , В и С бы л и поста вл ены в соответстви е кодовы е на бор ы 000, 001 и 1. З на чи т, коды 00, 01, 10 и 000, 001, 1 я вл я ются непол ны м и . Д л я пол ны х пр еф и ксны х кодов и только дл я ни х нер а венство К р а ф та пр евр а щ а ется в р а венство. Е стественно, что на пр а кти ке на и бол ьши й и нтер ес пр едста вл я ют пол ны е коды , та к ка к пр и пр очи х р а вны х усл ови я х ср едня я дл и на кодовы х на бор ов у полны х кодов пол уча ется м еньше, чем унепол ны х.

10

Пер ейдем к р а ссм отр ени ю двух полны х пр еф и ксны х кодов, пр едста вл я ющ и х бол ьшой пр а кти чески й и нтер ес. 2.1. С хе м а дв о ичн о го ко дир о в ан ия т е кст о в по Р. Фан о Пр едлож енна я а м ер и ка нски м спец и а л и стом Р. Ф а но схем а двои чного коди р ова ни я своди тся к вы полнени ю следующ и х опер а ц и й. 1) С оста ви ть спи сок букв а л ф а ви та (и сходное м нож ество букв) в пор я дке убы ва ни я зна чени й соответствующ и х и м вер оя тностей. 2) Ра зби ть этот спи сок на два подспи ска (подм нож ества букв) та ки м обр а зом , чтобы зна чени я вер оя тностей того, что на уга д взя та я и зр а ссм а тр и ва ем ого текста буква ока ж ется в пер вом и л и во втор ом и з эти х подм нож еств, бы ли бы по возм ож ности бли зки . 3) Пр и пи са ть пр ои звол ьном у одном у и з эти х подм нож еств (подспи сков) си м вол "0", а др угом у- "1". 4) Ра ссм а тр и ва я ка ж дое и з эти х подм нож еств (подспи сков) ка к и сходное, пр и м ени тел ьно к ка ж дом уи зни х осущ естви тьопер а ц и и , ука за нны е в пункта х (2) и (3). 5) Э тот пр оц есс пр одол ж а ть до тех пор , пока в ка ж дом и з очер едны х подм нож еств не ока ж ется по одной букве. 6) К а ж дой букве пр и пи са ть двои чны й код, состоя щ и й и з посл едова тел ьности нул ей и еди ни ц , встр еча ющ и хся на пути и з и сходного м нож ества букв ко м нож еству, состоя щ ем уи зодной этой буквы . Пол ьзуя сь схем ой Р. Ф а но (см . р и с. 2.1) пр и м ени тел ьно к пр и веденном увы ше пр и м ер у, л егко уста нови тьна бор ы двои чны х си м волов, соответствующ и е буква м и сходного текста : Букв а Дв оичны й код Букв а Дв оичны й код А 00 Е 1011 В 01 F 110 С 100 G 1110 D 1010 Н 1111 Е сл и обозна чи ть чер ез LA = 2, LB = 3, LC = 3,... чи сл а двои чны х си м волов в кодовы х на бор а х, соответствующ и х буква м А , В , С , ..., то ср еднее чи сл о двои чны х си м вол ов, отводи м ы х под одну букву и сходного а л ф а ви та , м ож но опр едел и тьпо ф ор м ул е l = р(А)lА + p(В)lB +...+ p(Н)lH = 2,8. Т а ки м обр а зом , с пер еходом к пер ем енной дл и не кодовы х на бор ов, отводи м ы х под ка ж дую буквуи сходного текста , уда ется на 7% (2,8 вм есто тр ех си м вол ов на одну букву) сокр а ти ть чи сл о двои чны х си м вол ов в за коди р ова нном тексте. Пр а вда , это свя за но с некотор ы м усл ож нени ем пр оц едур коди р ова ни я и декоди р ова ни я . Будучи доста точно эф ф екти вной, схем а коди р ова ни я Р. Ф а но не всегда га р а нти р ует, что пр и за да нном на бор е зна чени й вер оя тностей ср едня я дл и на кодовы х на бор ов l ока ж ется на и м енее возм ож ной. Т а кую га р а нти ю да ет др уга я схем а коди р ова ни я , пр едл ож енна я а м ер и ка нски м м а тем а ти ком Д . Х а ф ф м а ном . Исходны е сообр а ж ени я здесь те ж е, что и пр и р а ссм отр ени и схем ы Р. Ф а но, одна ко, опер и р уя бол ее тонки м м еха ни зм ом коди р ова ни я , Д . Х а ф ф м а ну

11

уда л ось дости чь на и м еньшего возм ож ного пр и зна чени я ср едней дли ны кодовы х на бор ов.

побуквенном

коди р ова ни и

2.2. Ко ды Хаф ф м ан а Ра ссм отр ени е кодов Х а ф ф м а на на чнем с коди р ова ни я в двои чном а л ф а ви те. Т ер м и н с им вол ис т очника пр и м еня ется здесь дл я обозна чени я входов si, а код овы й ал ф авит — дл я обозна чени я а л ф а ви та , в котор ы й пр ои сходи т коди р ова ни е. Д ока за тел ьство свойств коди р ова ни я , а та кж е м етод коди р ова ни я основа ны на том , что на ка ж дом ша ге пр ои сходи т сведени е кода к бол ее укор оченном у. О бъеди ни м два на и м енее вер оя тны х си м вол а а л ф а ви та и сточни ка в оди н си м вол , вер оя тность котор ого р а вна сум м е соответствующ и х вер оя тностей. Т а ки м обр а зом , нуж но постр ои ть код дл я и сточни ка , у котор ого чи сл о си м вол ов ум еньши л ось на 1. Повтор я я этот пр оц есс нескол ько р а з, пр и ходи м к бол ее пр остой за да че коди р ова ни я и сточни ка , а л ф а ви т котор ого состои т и зси м волов 0 и 1. В озвр а щ а я сьна оди н ша г на за д, и м еем , что оди н и зси м вол ов нуж но р а зби ть на два си м вол а ; это м ож но сдел а ть, доба ви в к соответствующ ем укодовом усл ову си м вол 0 дл я одного и зси м волов и си м вол 1 - дл я др угого. В озвр а щ а я сь ещ е на оди н ша г на за д, нуж но та ки м ж е обр а зом р а зби тьоди н и зтр ех и м еющ и хся си м во-

Рис. 2.1. С хем а поси м вол ьного коди р ова ни я по Р. Ф а но

12

л ов на два си м вол а , и та к да л ее. Н а р и с. 2.2 пока за н пр оц есс р едукц и и дл я одного ча стного сл уча я , а на р и с. 2.3 - соответствующ и й пр оц есс р а зби ени я (р а сши р ени я ). Н а основа ни и этого р а ссм отр ени я общ и й сл уча й ста нови тся очеви дны м . Почем у этот пр оц есс пор ож да ет эф ф екти вны й код? Пр едполож и м , что сущ ествует бол ее кор отки й код, т. е. та кой, у котор ого ср едня я дл и на L' удовл етвор я ет усл ови ю L' < L. С р а вни м два дер ева декоди р ова ни я . В эф ф екти вном двои чном коде все конц евы е вер ши ны дол ж ны бы ть за ня ты и не дол ж но бы ть м ер твы х р ебер . (Н а л и чи е м ер твого р ебр а позвол я ет ум еньши ть дл и нукода , уда л я я соответствующ и й двои чны й си м вол и звсех конц евы х вер ши н, путьк котор ы м пр оходи т чер езэтубеспол езную точку.) Е сл и в дер еве есть тол ько два сл ова м а кси м а л ьной дл и ны , они дол ж ны и м еть общ ую посл еднюю вер ши ну ветвл ени я и соответствова ть двум на и м енее вер оя тны м си м вола м . Д о р едукц и и дер ева эти два си м вол а да ют вкл а д l q ( pq + pq −1) , а посл е р едукц и и , (l q − 1)( pq + pq −1) , та к что ср едня я дл и на кода ум еньша ется до ( pq + pq −1) Si S1 S2 S3 S4 S5

Pi 0,4 0,2 0,2 0,1 0,1

0,4 0,2 0,2 0,2

П ервона- П ервая чал ь ны й ред укция ис т очник

0,4 0,4 0,2

Вт орая ред укция

0,6 0,4

Si S1 S2 S3 S4 S5

Pi 1 01 000 0010 0011

0,4 0,2 0,2 0,1 0,1

1 01 000 0010 0011

0,4 0,2 0,2 0,2

1 0,4 01 0,4 000 0,2 001

1 0,6 0 00 0,4 1 01

Трет ь я ред укция

Рис. 2.2. Пр оц есс р едукц и и

Рис. 2.3. Пр оц есс р а здел ени я

Е сл и чи сло слов м а кси м а л ьной дл и ны бол ьше двух, то м ож но и спол ьзова ть сл едующ ее пр едпол ож ени е: кодовы е сл ова оди на ковой дли ны м ож но пер еста вл я ть, не ум еньша я ср едней дл и ны кода . Н а основе этого пр едполож ени я м ож но счи та ть, что два на и м енее вер оя тны х си м вол а и м еют одну и ту ж е вер ши ну посл еднего ветвл ени я . Т а ки м обр а зом , посл е р едукц и и ср едня я дли на кода ум еньши л а сьна ( pq + pq −1) . Ита к, в л юбом сл уча е м ож но укор оти тькоди ум еньши тьср еднюю дл и нукода на однуи туж е вел и чи ну. Пр и м ени м эту пр оц едур у к двум ср а вни ва ем ы м дер евья м декоди р ова ни я . Поскол ьку обе ср едни е дл и ны ум еньши л и сь на одну и ту ж е вели чи ну, нер а венство м еж дуср едни м и дли на м и сохр а ни тся . Повтор ное пр и м енени е этой пр оц едур ы своди т оба дер ева к двум си м вол а м . Д л я кода Х а ф ф м а на ср едня я дл и на р а вна 1, дл я др угого кода она долж на бы тьм еньше 1, что невозм ож но. Т а ки м обр а зом , кодХ а ф ф м а на я вл я ется са м ы м кор отки м и звозм ож ны х кодов.

13

Пр оц есс коди р ова ни я неоднозна чен в нескол ьки х отношени я х, В о-пер вы х, сопоста вл ени е си м вол ов 0 и 1 двум си м вол а м и сточни ка на ка ж дом эта пе р а зби ени я я вл я ется пр ои звол ьны м , что, одна ко, пр и води т л и шь к тр и ви а л ьны м р а зл и чи я м . В о-втор ы х, в сл уча е, когда вер оя тности двух си м вол ов р а вны , нева ж но, ка кой и зси м волов поста ви тьв та бли ц е вы ше др угого. Пол ученны е коды м огут и м етьр а зл и чны е дл и ны кодовы х сл ов, одна ко ср едни е дл и ны кодовы х сл ов дл я двух кодов совпа да ют. Д л я двух р а зл и чны х кодов Х а ф ф м а на р а ссм отр и м вер оя тности p1 = 0,4; р2 = 0,2; р3 = 0,2; р4 = 0,1; р5 = 0,1. Е сл и пом ещ а ть склеенны е состоя ни я ка к м ож но ни ж е, то пол уча ем дл и ны (1,2,3,4,4) и ср едня я дл и на р а вна L = 0,4 (l) + 0.2 (2) + 0,2 (3) + 0,l (4) + 0,l (4) = 2,2. Е сл и , с др угой стор оны , ста ви ть скл еенны е состоя ни я ка к м ож но вы ше (рис . 2.4), то пол учи м дл и ны (2, 2, 2, 3, 3) и ср едня я дл и на р а вна L = 0,4 (2) + 0,2 (2) + 0,2 (2) + 0,1 (3) + 0,1 (3) = 2,2. О ба кода и м еют оди на ковую эф ф екти вность (ср еднюю дл и ну), но р а зны е на бор ы дл и н кодовы х слов. Si S1 S2 S3 S4 S5

Pi 00 10 11 010 011

0,4 0,2 0,2 0,1 0,1

00 10 11 010 011

0,4 0,2 0,2 0,2

00 01 10 11

0,4 0,4 0,2

1 0,6 0 00 0,4 1 01

Рис. 2.4. К а кой и зэти х двух кодов сл едует вы бр а ть? Бол ее р а зум ны м вы бор ом я вл я ется тот, пр и котор ом дл и на м еньше м еня ется по а нса м бл ю сообщ ени й. Поэтом у сл едует вы чи сли ть ди спер си ю дли ны . Д р угой м етод коди р ова ни я дл я ка ж дого и з эти х двух сл уча ев: Var(I) = 0,4 (1 - 2,2) 2 + 0,2 (2 - 2,2) 2 + 0,2 (3 - 2,2) 2 + 0,1 (4 - 2,2) 2 + 0,1 (4 2,2) 2 = 1,36; Var (II) = 0,4 (2 - 2,2) 2 + 0,2 (2 - 2,2) 2 + 0,2 (2 - 2,2) 2 + 0,1 (3 - 2,2) 2+0,1 (3 2,2) 2 = 0,16. Т а ки м обр а зом , пр и и спол ьзова ни и дл я коди р ова ни я сообщ ени й конечной дл и ны втор ой код и м еет сущ ественно м еньшую ди спер си ю дли ны и поэтом у, возм ож но, я вл я ется бол ее пр едпочти тел ьны м . В есьм а вер оя тно, что, пом ещ а я скл еенное состоя ни е возм ож но вы ше, пол учи м кодс на и м еньшей ди спер си ей. Ко н т ро льн ые во про сы. 1. К а ки м обр а зом вер оя тность отдел ьны х букв а л ф а ви та м ож ет учи ты ва ться пр и коди р ова ни и ? Ч то это да ет ? 2. Ч то та кое пр еф и ксны е коды и дл я чего они нуж ны ? 3. З а да но м нож ество двои чны х ком би на ц и й {0, 1, 00, 01, 10, 11, 000, 001, 010, 011, 100, 101, 110, 111, 0000, 0001, 0010, 0011, 0100, 0101, 0110, 0111, 1000,

14

1001, 1010, 1011, 1100, 1101, 1110, 1111}. В ы дели те и знего подм нож ества , обр а зующ и е пр еф и ксны й код. 4. Д л я м нож ества си м вол ов {a, b, c, d, e, f, g, h} с вер оя тностя м и {0.35, 0.25, 0.15, 0.05, 0.05, 0.05, 0.05, 0.05} постр ойте пр еф и ксны й код, и спол ьзуя а л гор и тм ы Ф а но и Х а ф ф м а на . В ы чи сли те ср еднюю дл и нуи энтр опи ю.

3. И зм ер ени е коли чес т в а и нф ор м ац и и 3.1. Ш е н н о н о в ские со о б щ е н ия С одер ж а щ а я ся в сообщ ени и и нф ор м а ц и я м ож ет сущ ественно за ви сеть от того м ом ента вр ем ени , в котор ы й сообщ ени е дости га ет пр и ё м ни ка . З а дер ж ка та кого сообщ ени я одновр ем енно и зм еня ет его ха р а ктер . Пр и м ер а м и м огут сл уж и ть л отер ейны й би л ет, пр огноз погоды и штор м овое пр едупр еж дени е. Пр едел ьны м я вл я ется сл уча й, когда вся и нф ор м а ц и я , котор ую несё т сообщ ени е, опр едел я ется вр ем енем пр и бы ти я (за р а нее обусл овл енного) си гна л а . Т огда говор я т об изве щ е н ии и л и т ре во ге . Пр и м ер а м и служ а т пож а р ны й си гна л , звон кол окол а , бой ча сов и л и си гна л си р ены . С ущ ествуют, одна ко, сообщ ени я , и нф ор м а ц и я котор ы х не за ви си т от вр ем ени . Т а ки е сообщ ени я ча сто м ож но р а ссм а тр и ва ть ка к посл едова тел ьности отдел ьны х сообщ ени й, котор ы е посы л а ются др уг за др угом во вр ем ени : в м ом ент вр ем ени t0 - пер вое сообщ ени е, в м ом ент t1 — втор ое и т. д. Т а к ка к на с не и нтер есует да л ьнейша я внутр ення я стр уктур а отдел ьны х сообщ ени й, м ы м ож ем счи та ть и х зна ка м и . Э ти зна ки счи та ются вы бр а нны м и с некотор ы м и не за ви ся щ и м и от вр ем ени вер оя тностя м и и зза р а нее за да нного конечного и ли бесконечного на бор а зна ков. З десь на с особо и нтер есует сл уча й, и м еющ и й м есто, на пр и м ер , пр и бр оса ни и куби ка , когда вер оя тность встр ети ть некотор ы й зна к Z в пр ои звол ьны й м ом ент вр ем ени t совпа да ет с относи тел ьной ча стотой зна ка Z во всей посл едова тел ьности зна ков. Посл едова тел ьности зна ков с та ки м свойством на зы ва ются ш енноновс ким и с ообщениям и, а пор ож да ющ и й, и х отпр а ви тель ис т очником с ообщений и ли ш енноновс ким ис т очником . С м а тем а ти ческой точки зр ени я и сточни к сообщ ени й - это ста ц и она р ны й сл уча йны й пр оц есс. Поскол ьку са м и зна ки и содер ж а щ а я ся в ни х и нф ор м а ц и я и звестны за р а нее, сущ ественны й м ом ент пр и поступл ени и некотор ого зна ка состои т в са м ом ф а кте, ка кой и м енно и з за да нны х зна ков получен, т. е. ка кой и з зна ков бы л „вы бр а н". Э ти „вы бор ы " и сследуются т еорией инф орм ации Ш еннона. К . Ш еннон в 1948 г. ввё л в свя зи с эти м м а тем а ти ческое поня ти е ко лич е ст ва ин ф о рм ации. Э то м ер а тех за тр а т, котор ы е необходи м ы дл я того, чтобы р а скл а сси ф и ц и р ова ть („р а зобр а ть") пер еда нны е зна ки . С лово „и нф ор м а ц и я " употр ебл я ется здесь, очеви дно, в некотор ом спец и а л ьном см ы сл е, не совпа да ющ и м с тем , в котор ом оно и спол ьзова л осьна м и р а нее. 3.2. Ко л иче ст в о ин ф о р м ац ии Ш енноновска я теор и я и нф ор м а ц и и , точнее коли чества и нф ор м а ц и и , и сходи т и з эл ем ента р ного ал ь т ернат ивного вы бора м еж ду двум я зна ка м и (би та м и ) 0 и 1. Т а кой вы бор соответствует пр и ё м усообщ ени я , состоя щ его и зодного двои чного

15

зна ка . По опр едел ени ю, кол и чество и нф ор м а ц и и , содер ж а щ ееся в та ком сообщ ени и , пр и ни м а ется за еди ни ц уи та кж е на зы ва ется б ит о м . Е сл и вы бор состои т в том , что некотор ы й зна к вы би р а ется и з м нож ества п зна ков, где n ≥ 2 , то это м ож но сдел а ть поср едством конечного чи сл а сл едующ и х др уг за др угом а л ьтер на ти вны х вы бор ов в ф ор м е вы борочного кас кад а: да нное м нож ество и з n зна ков р а зби ва ется на два (непусты х) подм нож ества , ка ж дое и з котор ы х точно та к ж е р а зби ва ется да льше, пока м ы не пол учи м одноэл ем ентны е подм нож ества . Пр и за да нном вы бор очном ка ска де на с и нтер есует тепер ь, скол ько потр ебуется а л ьтер на ти вны х вы бор ов дл я вы бор а ка кого-ни будьопр едел ё нного зна ка . Н а р и с. 3.1 пр и ведё н пр и м ер : чтобы вы бр а ть а и л и е, нуж ны два а л ьтер на ти вны х вы бор а (кол и чество и нф ор м а ц и и соста вл я ет 2 би та ); чтобы вы бр а ть b, с и л и f, необходи м ы тр и а л ьтер на ти вны х вы бор а , и т. д. Е сл и некотор ы й зна к встр еча ется ча сто, то, естественно, кол и чество вы бор ов, тр ебующ и хся дл я его опозна ва ни я , стр ем я тся сдел а ть возм ож но м еньши м . С оответственно дл я опозна ва ни я бол ее р едки х зна ков пр и ходи тся и спол ьзова ть бол ьшее чи сло а л ьтер на ти вны х вы бор ов. Д р уги м и сл ова м и , ча сто встр еча ющ и еся зна ки содер ж а т м а л ое, а р едки е зна ки - бол ьшое кол и чество и нф ор м а ц и и . Поэтом упр едста вл я ется р а зум ны м р а зби ва ть и сходное м нож ество зна ков не на р а вновел и ки е, а на р а вновер оя тны е подм нож ества , т. е. та к, чтобы пр и ка ж дом р а зби ени и на два подм нож ества сум м ы вер оя тностей дл я зна ков одного и дл я зна ков др угого подм нож ества бы ли бли зки др уг к др угу, на скол ько это возм ож но. a

e

a ` b

a

b

e

c

d f

a `

e b

d

d g

b

c

g d

f

e

c

g

c f

g

f

Рис. 3.1. В ы бор очны й ка ска д. Ра ди пр остоты будем счи та ть сна ча л а, что за да нны е вер оя тности позвол я ют пол учи ть точное р а венство. Т огда есл и i-й зна к вы дел я ется после ki а л ьтер на ти вны х вы бор ов, то вер оя тность его поя вл ени я рi р а вна (1 / 2)k i . О бр а тно, дл я вы бор а зна ка , котор ы й встр еча ется с вер оя тностью рi, тр ебуется k i = logi (1 / p i) а л ьтер на ти вны х вы бор ов. Исходя и з ска за нного, м ы опр едел и м количес т во инф орм ации, с од ерж ащейс я в знаке, за да ва ем ое ча стотой поя вл ени я та кого зна ка , ка к log2 (1 / p i ) [би т] Т огда ср еднее коли чество и нф ор м а ц и и , пр и ходя щ ейся на оди н пр ои звол ьны й зна к, будет р а вно

16 H = ∑ pi ⋅ log2 (

1 ) pi

Э то - основное опр едел ени е теор и и и нф ор м а ц и и Ш еннона . В ел и чи ну Н на зы ва ют сре дн им ко лич е ст во м ин ф о рм ации н а зн ак, ин ф о рм ацие й н а зн ак и л и эн т ро пие й ист о ч н ика со о б щ е н ий. Т от ф а кт, что дл я за тр а т на вы бор сущ ественны м я вл я ется не коли чество зна ков n, а его л ога р и ф м , в экспер и м ента л ьной пси хол оги и подтвер ж да ется зако н о м М е рке ля (1885 г.): врем я реакции T ис пы т уем ого на вы пол нение зад ания “вы брат ь опред еленны й пред м ет из n им ею щих с я” рас т ет пропорционал ь но л огариф м у от n T = 200 + 180 ⋅ log 2 n [м с]. Резул ьта т одного отдел ьного а л ьтер на ти вного вы бор а м ож ет бы ть пр едста вл ен ка к 0 и л и 1. Т огда вы бор у вся кого зна ка соответствует некотор а я посл едова тел ьностьдвои чны х зна ков 0 и 1, т. е. двои чное сл ово. М ы на зовем это двои чное сл ово ко диро вко й зн ака, а м нож ество коди р овок всех зна ков и сточни ка сообщ ени й — ко диро ван ие м ист о ч н ика со о б щ е н ий. Получа ющ и еся двои чны е сл ова и м еют, вообщ е говор я , р а зную дл и ну: зна ку, вер оя тность котор ого pi, соответствует сл ово дл и ны N i = log2 (1 / p i ) . Пр и этом а втом а ти чески вы пол ня ется сво йст во пре ф иксн о ст и: ни ка кое кодовое сл ово не я вля ется на ча л ом др угого кодового сл ова . Ра ссм отр и м пр и м ер . pi Двоичны е с лова Буква a 1/4 00 e 1/4 01 f 1/8 100 c 1/8 101 b 1/8 110 d 1/16 1110 g 1/16 1111 Д л я да нного м нож ества зна ков H = 2.625 . М ож но пр овер и ть, что H в да нном пр и м ер е я вл я ется ещ е и ср едней дл и ной двои чны х слов. Е сл и пр и некотор ом коди р ова ни и и сточни ка сообщ ени й i-ы й зна к и м еет дл и ну Ni, то ср едня я дл и на сл ов р а вна L = ∑ pi N i i

В сл уча е, когда на бор зна ков м ож но р а зби ть на точно р а вновер оя тны е подм нож ества , дости га ется стр огое р а венство H = L. О дна ко в общ ем сл уча е, и м еет м есто нер а венство H ≤ L . Т а ки м обр а зом , H – это ни ж ня я гр а ни ц а дл я кол и чества за тр а чи ва ем ы х а л ьтер на ти вны х вы бор ов пр и на и л учшем возм ож ном коди р ова ни и . Е сл и пр оводи тькоди р ова ни е не по одном уси м вол уза оди н р а з, а стр ои тькод дл я бл оков и з n си м волов (расш ире н ия ко да), то м ож но р а ссчи ты ва ть бли ж е подойти к ни ж ней гр а ни ц е дл я ср едней дли ны . Поскол ьку вер оя тности в р а сши р ени и и сточни ка бол ее р а знообр а зны , чем вер оя тности и сходного

17

и сточни ка , то м ож но ож и да ть, что чем вы ше кр а тность р а сши р ени я , тем бол ее эф ф екти вны м и ока ж утся коды ка к Х а ф ф м ена , та к и коды Ф а но. N-кр а тное расш ире н ие а л ф а ви та и сточни ка и з си м вол ов si с за да нны м и вер оя тностя м и pi состои т и з си м вол ов ви да si , si ,..., si с вер оя тностя м и 1

2

n

Qi = pi pi ... pi . К а ж ды й блок и з n пер вона ча л ьны х си м вол ов ста нови тся одни м 1 2 n си м вол ом t i с вер оя тностью Qi . В се вм есте они обр а зуют а л ф а ви т S n = T.

К а к дока зы ва ется в [7], ср едня я дл и на кодового сл ова дл я n-кр а тного р а сши р ени я , обл а да ет сл едующ и м свойством : n n H r ( S ) ≤ Ln ≤ H r ( S ) + 1 . Е сл и да нное вы р а ж ени е р а здел и ть на n, то пол учи тся ср едня я дл и на кодовой посл едова тел ьности , пр и ходя щ ейся на оди н си м вол и сходного а л ф а ви та S: H r ( S ) ≤ ( L n / n) ≤ H r ( S ) + 1 / n . Посл еднее вы р а ж ени е соста вл я ет суть т е о ре м ы Ш е н н о н а о ко диро ван ии б е з ш ум а: дл я n-кр а тного р а сши р ени я доста точно вы сокой кр а тности ср едня я дл и на кодового сл ова L м ож ет бы тьскол ьугодно бл и зкой к Hr(S). Ра зность L - Н на зы ва ют изб ыт о ч н о ст ью ко да, a 1 - (H/L) - о т н о сит е льн о й изб ыт о ч н о ст ью ко да. Избы точность - это м ер а беспол езно совер ша ем ы х а л ьтер на ти вны х вы бор ов. Т а к ка к в пр а кти чески х сл уча я х отдел ьны е зна ки почти ни когда не встр еча ются оди на ково ча сто, то коди р ова ни е с постоя нной дли ной кодовы х сл ов в бол ьши нстве сл уча ев и збы точно. Н есм отр я на это, та кое коди р ова ни е пр и м еня ют довол ьно ча сто, р уководствуя сь техни чески м и сообр а ж ени я м и , в ча стности возм ож ностью па р а л л ел ьной и м ул ьти пл ексной пер еда чи . О пр едел ё нную и збы точность и м еют, на пр и м ер , n - р а зр я дны е двои чны е коды дл я отдел ьны х букв р усского я зы ка . К одМ ор зе ум еньша ет этуи збы точность. Е щ ё бол ее ум еньша ют её кодовы е сл ова р и для сл ов ц ели ком . В а ж ной пр а кти ческой за да чей я вл я ется опр едел ени е энтр опи и естественны х я зы ков. Е сл и счи та ть, что в р усском я зы ке все 33 буквы и пр обел р а вновер оя тны , то пр и 34 зна ка х м ы пол учи м H ≤ log2 34 = 5.09 … [би т/зна к]. Та блица 3.1. Вероят нос т и от д ел ь ны х букв в рус с ком язы ке. Буква пр обел о е, е а и т н с р в л к

pi

0.175 0.090 0.072 0.062 0.062 0.053 0.053 0.045 0.040 0.038 0.035 0.028

Буква я ы з ь, ъ б г ч й х ж ю ш

pi

0.018 0.016 0.016 0.014 0.014 0.013 0.012 0.010 0.009 0.007 0.006 0.006

18

м д п у

0.026 0.025 0.023 0.021

ц щ э ф

0.004 0.003 0.003 0.002

Е сл и ж е учестьча стоты букв (та бл . 3.1), то пол учи м H ≤ 4.35 [би т/зна к]. О дна ко относи тел ьны е ча стоты отдел ьны х букв не я вля ются ста ти сти чески неза ви си м ы м и ; некотор ы е, на пр и м ер , в р усском я зы ке ы и й, с и т си л ьно кор р ел и р уют, тогда ка к в а нгли йском я зы ке пр а кти чески нет слов, в котор ы х за буквой q сл едует ка ка я -л и бо буква отл и чна я от u. Е сл и учесть ещ ё и относи тел ьны е ча стоты би гр а м м и тр и гр а м м и т. д., то зна чени е Н сни зи тся ещ ё бол ьше. С р остом дл и ны ста ти сти чески учи ты ва ем ы х гр упп букв м ы пол уча ем всё л учшее пр и бли ж ени е к м ор ф ологи чески кор р ектном у, но сем а нти чески бессм ы сл енном у я зы ку (р и с. 3.2). А на л оги чно м ож но действова ть со сл ога м и и сл ова м и . Т а ки м способом м ы пол учи м до некотор ой степени соответствующ ее действи тел ьности H ≈ 1.19 [би т/зна к]. О тсюда м ож но вы вести , что относи тел ьная зна чени е и збы точность р усского л и тер а тур ного я зы ка без учета сем а нти ки соста вл я ет по м еньшей м ер е 76%. Рис. 3.2. С и нтети чески й я зы к, постр оенны й на основе относи тел ьны х ча стот букв. По от носит е ль ной ча ст от е от д е ль ны х букв оя р а ъи а еи и еы м р оа чднукет ооа нт ом е оф тм м юи ем бчси н а м нз м пл и д енха ы юки евеьннр впьойунпм ч а а щ вр я м ха р охоесншл та на р см и кнр По от носит е ль ной ча ст от е бигра м м а делосва сх бы и кл ь а кор а ц етостм пр ф ова уа ц и здетвел а ни ва на кстой да да л пи и ча ер ом е ст м ы чи йспьздна дст м ы х и ге венор ннф и и и пьнни сл и щ и бля м ы х сы костех пь ц и чни сл м поны х на сл ют ны гобор укобости я ни си ном а я з По от носит е ль ной ча ст от е т ригра м м ы м и р оги чнов тер ет р а к си сти ческом ож ны х на бот бессти ва ни е этоты и вы сова нечны х на да ни е а л го па ста вл едстор ы уски и в ц и е си стектуа л и па р хи ти кусл и р овы чи пр ехни я вкл а сты обл а ста кж енкр а вл я тор ди ц и и упр обр По от носит е ль ной ча ст от е че т ы ре хбукв е нны х соче т а ний на ук и зуча ется на уки ба з да тчи ком пьютер ны х а л гор и тм ов пол ьшого и нф ор м а ц и и ба зы да нны е и за пр а вл ени я х две ком пьютер а ж и ва ющ и м и ти р ова ни я пр осы р ел я тся ком пьютер ны м и вза и м остьи л и устр ойства ви де с

19

3.3. Тр и по дхо да к о пр е де л е н ию ко л иче ст в а ин ф о р м ац ии (По Ко л м о го р о в у). В своей кл а сси ческой р а боте “Т р и подхода к опр едел ени ю кол и чества и нф ор м а ц и и ” [4] советски й м а тем а ти к а ка дем и к К ол м огор ов А .Н . пр едлож и л тр и способа и зм ер ени я кол и чества и нф ор м а ц и и : ком би на тор ны й, вер оя тностны й и а л гор и тм и чески й. В ер оя тностны й подход уж е бы л р а ссм отр ен вы ше, поэтом у огр а ни чи м ся тол ько двум я оста л ьны м и . 3.3.1. К ом би на тор ны й подход Пусть пер ем енное х способно пр и ни м а ть зна чени я , пр и на длеж а щ и е конечном у м нож еству X, котор ое состои т и з N эл ем ентов. Говор я т, что «энтр опи я » пер ем енного р а вна Н(х ) = log 2 N У ка зы ва я опр едел енное зна чени е х = а пер ем енного х , м ы «сни м а ем » эту энтр опи ю, сообщ а я «и нф ор м а ц и ю» I = log 2 N Е сл и пер ем енны е x1,x2,… ,xk способны неза ви си м о пр обега ть м нож ества , котор ы е состоя т соответственно и зN1, N2,..., Nk эл ем ентов, то H(x1,x2,… ,xk) = H(x1)+H(x2)+… +H(xk) Д л я пер еда чи кол и чества и нф ор м а ц и и пр и ходи тся употр ебл я ть I,

пр и I ц ел ом ,

[I] + 1,

пр и I др обном

(3.3.1)

двои чны х зна ков. Н а пр и м ер , чи сло р а зл и чны х «сл ов» , состоя щ и х и з k нул ей и еди ни ц и одной двойки , р а вно 2k(k + 1). Поэтом укол и чество и нф ор м а ц и и в та кого р ода собщ ени и р а вно I = k+log2(k+1), т.е. дл я «коди р ова ни я » та кого р ода слов в чи стой двои чной си стем е тр ебуется I’ ≈ k + log2 k

нул ей и еди ни ц . В сл уча е ком би на тор ного подхода к дел у необходи м о подчер кнуть его л оги ческую неза ви си м ость от ка ки х бы то ни бы ло вер оя тностны х допущ ени й. Пусть, на пр и м ер , на с за ни м а ет за да ча коди р ова ни я сообщ ени й, за пи са нны х в а л ф а ви те, состоя щ ем и зs букв, пр и чем и звестно, что ча стоты Pr = sr/s (3.3.2) поя вл ени я отдел ьны х букв в сообщ ени и дл и ны удовл етвор я ют нер а венству s

χ = −∑

r =1

pr ⋅ logr pr ≤ h

(3.3.3)

20

Легко подсчи та ть, что пр и бол ьши х п двои чны й лога р и ф м чи сл а сообщ ени й, подчи ненны х тр ебова ни ю (3.3.3), и м еет а си м птоти ческую оц енку: Н = log2N ~ nh. Поэтом у пр и пер еда че та кого р ода сообщ ени й доста точно употр еби ть пр и м ер но nh двои чны х зна ков. У ни вер са л ьны й м етод коди р ова ни я , котор ы й позвол и т пер еда ва ть л юбое доста точно дл и нное сообщ ени е в а л ф а ви те и зs букв, употр ебл я я не м ноги м бол ее чем nh двои чны х зна ков, не обя за н бы ть чр езм ер но слож ны м , в ча стности , не обя за н на чи на ться с опр едел ени я ча стот рr дл я всего сообщ ени я . Ч тобы поня ть это, доста точно за м ети ть: р а зби ва я сообщ ени е S на т отр езков S1, S2 ,..., Sm пол учи м нер а венство

χ ≥ n−1[n1 χ 1 + n2 χ 2 + K + nm χ m] В полне естественны м я вл я ется чи cто ком би на тор ны й подход к поня ти ю «энтр опи и р ечи » , есл и и м еть в ви ду оц енку «ги бкости » р ечи - пока за тел я р а зветвл енности возм ож ностей пр одол ж ени я р ечи пр и да нном сл ова р е и да нны х пр а ви л а х постр оени я ф р а з. Д л я двои чного лога р и ф м а чи сла N р усски х печа тны х текстов, соста вл енны х и з слов, вкл юченны х в «С л ова р ь р усского я зы ка » С . И. О ж егова и подчи ненны х л и шь тр ебова ни ю «гр а м м а ти ческой пр а ви л ьности » дл и ны n, вы р а ж енной в «чи сл е зна ков» (вкл юча я «пр обел ы » ), М . Ра тнер и Н . С ветл ова пол учи л и оц енку h= (log2N)/n = 1,9 ±0,1. Э то зна чи тел ьно бол ьше, чем оц енки свер ху дл я «энтр опи и л и тер а тур ны х текстов» , пол уча ем ы е пр и пом ощ и р а зл и чны х м етодов «уга ды ва ни я пр одол ж ени й» . Т а кое р а схож дени е впол не естественно, та к ка к л и тер а тур ны е тексты подчи нены не тол ько тр ебова ни ю «гр а м м а ти ческой пр а ви л ьности » . Посм отр и м тепер ь, в ка кой м ер е чи сто ком би на тор ны й подход позвол я ет оц ени ть «кол и чество и нф ор м а ц и и » , содер ж а щ ееся в пер ем енном x относи тел ьно свя за нного с ни м пер ем енного у. С вя зьм еж дупер ем енны м и х и у, пр обега ющ и м и соответственно м нож ества Х и У , за кл юча ется в том , что не все па р ы x, у, пр и на дл еж а щ и е пр я м ом у пр ои зведени ю Х х Y, я вл я ются «возм ож ны м и » . По м нож ествувозм ож ны х па р U опр едел я ются пр и л юбом а ∈ Х м нож ества Ya тех у, дл я котор ы х (а ,y) ∈ U x 1 1 + 2 + 3 -

y 2 3 + + - + + -

4 + -

Е стественно опр едел и тьусл овную энтр опи ю р а венством H(y | a) = log2N( Ya )

(3.3.4)

21

(где N(Yx) - чи сл о эл ем ентов в м нож естве Yx ), а и нф ор м а ц и ю в x относи тел ьно у ф ор м ул ой I(х : у) = Н (у) - Н (у| х)

(3.3.5)

Н а пр и м ер , в сл уча е, и зобр а ж енном в та бл и ц е и м еем I(х =1: у) = 0, I(х =2 : у)=1, I(х = 3 : у) = 2. Поня тно, что Н (у | x) и I(x : у) я вл я ются ф ункц и я м и от х (в то вр ем я ка к у входи т в и х обозна чени е в ви де «свя за нного пер ем енного» ). Без тр уда вводи тся в чи сто ком би на тор ной конц епц и и пр едста вл ени е о ”коли честве и нф ор м а ц и и , необходи м ом дл я ука за ни я объект x пр и за да нны х тр ебова ни я х к точности ука за ни я ”. О чеви дно, Н (х | х ) = 0 , I(х : х)= Н(х) (3.3.6) 3.3.2. А л гор и тм и чески й подход По сущ еству, на и бол ее содер ж а тел ьны м я вл я ется пр едста вл ени е о кол и честве и нф ор м а ц и и «в чем -л и бо» (х) и «о чем -л и бо» (у). Реа л ьны е объекты , подл еж а щ и е на шем у и зучени ю, очень (неогр а ни ченно?) сл ож ны , но свя зи м еж ду двум я р еа л ьно сущ ествующ и м и объекта м и и счер пы ва ются пр и бол ее пр остом схем а ти зи р ова нном и х опи са ни и . Е сл и геогр а ф и ческа я ка р та да ет на м зна чи тел ьную и нф ор м а ц и ю об уча стке зем ной повер хности , то все ж е м и кр остр уктур а бум а ги и кр а ски , на несенной на бум а гу, ни ка кого отношени я не и м еет к м и кр остр уктур е и зобр а ж енного уча стка зем ной повер хности . Пр а кти чески на с и нтер есует ча щ е всего кол и чество и нф ор м а ц и и об и нди ви дуа л ьном объекте, х относи тельно и нди ви дуа л ьного объекта у. Пр а вда , уж е за р а нее я сно, что та ка я и нди ви дуа л ьна я оц енка кол и чества и нф ор м а ц и и м ож ет и м еть р а зум ное содер ж а ни е л и шь в сл уча я х доста точно бол ьши х кол и честв и нф ор м а ц и и . Н е и м еет, на пр и м ер , см ы сл а спр а ши ва ть о коли честве и нф ор м а ц и и в посл едова тел ьности ц и ф р 0110 относи тел ьно посл едова тел ьности 1100. Н о есл и м ы возьм ем вполне конкр етную та бл и ц у сл уча йны х чи сел обы чного в ста ти сти ческой пр а кти ке объем а и вы пи шем дл я ка ж дой ее ц и ф р ы ц и ф р уеди ни ц ее ква др а та по схем е 0123456789 0149656941, то нова я та бл и ц а будет содер ж а тьпр и м ер но (log210 – 8/10) n и нф ор м а ц и и о пер вона ча л ьной (п - чи сл о ц и ф р в стол бц а х). В соответстви и с тол ько что ска за нны м пр едл а га ем ое да л ее опр едел ени е вел и чи ны IА (x : у) будет сохр а ня ть некотор ую неопр едел енность. Ра зны е р а вноц енны е ва р и а нты этого опр едел ени я будут пр и води ть к зна чени я м , экви ва л ентны м л и шьв см ы сл е I A1 ≈ I A2 , т.е.

22 |I

где конста нта

A1

−I

A1

| ≤C

C A A за ви си т от пол ож енны 1

A1 A2

х в основудвух ва р и а нтов опр едел ени я

2

уни вер са л ьны х м етодов пр огр а м м и р ова ни я А1 и А2. Будем р а ссм а тр и ва ть «нум ер ова нную обл а сть объектов» , т.е. счетное м нож ество X = {x}, ка ж дом у эл ем енту котор ого поста вл ена в соответстви е в ка честве «ном ер а » п(х ) конечна я посл едова тел ьность нул ей и еди ни ц , на чи на ющ а я ся с еди ни ц ы . О бозна чи м чер ез l(x) дл и нупосл едова тел ьности п(х ). Будем пр едпол а га ть, что 1) соответстви е м еж ду Х и м нож еством D двои чны х посл едова тел ьностей опи са нного ви да вза и м но однозна чно; 2) D ⊂ X, ф ункц и я n(x) на D общ ер екур си вна , пр и чем дл я х ∈ D l(n(x)) ≤ l(x) + С , где С - некотор а я конста нта ; 3) вм есте с х и у в X входи т упор я доченна я па р а (х ,у), ном ер этой па р ы есть общ ер екур си вна я ф ункц и я ном ер ов х и у и l(х ,у) ≤ С x+ l(у), где С x за ви си т тол ько от х . Н е все эти тр ебова ни я сущ ественны , но они обл егча ют и злож ени е. К онечны й р езул ьта т постр оени я и нва р и а нтен по отношени ю к пер еходук новой нум ер а ц и и п'(х ), обл а да ющ ей тем и ж е свойства м и и вы р а ж а ющ ейся общ ер екур си вно чер ез ста р ую, и по отношени ю к вкл ючени ю си стем ы X в бол ее обши р ную си стем уX' (в пр едполож ени и , что ном ер а п' в р а сши р енной си стем е дл я эл ем ентов пер вона ча л ьной си стем ы общ ер екур си вно вы р а ж а ются чер ез пер вона ча л ьны е ном ер а п). Пр и всех эти х пр еобр а зова ни я х новы е «сл ож ности » и кол и чества и нф ор м а ц и и оста ются экви ва л ентны м и пер вона ча л ьны м в см ы сл е ≈ . “О тноси тел ьной сл ож ностью” объекта у пр и за да нном x будем счи та ть м и ни м а л ьную дл и нуl(p) пр огр а м м ы р пол учени я у и з x. С ф ор м ул и р ова нное та к опр едел ени е за ви си т от «м етода пpoгр а м м и р ова ни я » . М етод пр огр а м м и р ова ни я естьне что и ное, ка к ф ункц и я ϕ (p, x) = у, ста вя щ а я в соответстви е пр огр а м м е ри объектух объект у. В соответстви и с уни вер са л ьно пр и зна нны м и в совр ем енной м а тем а ти ческой л оги ке взгл я да м и сл едует счи та ть ф ункц и ю у ча сти чно р екур си вной. Д л я л юбой та кой ф ункц и и пол а га ем 

K ϕ ( y | x) = ∞, 

min l ( p )

ϕ ( p, x)= y

ес л и нет т акого p, чт о ϕ ( p, x) = y

KA(y) = KA(y | 1) м ож но счи та ть пр осто «сл ож ностью объекта у» и опр едел и ть «кол и чество и нф ор м а ц и и в х относи тел ьно у» ф ор м ул ой IA(x:y) = KA(y) - KA(y|x) Ко н т ро льн ые во про сы. 1. Ч то та кое вы бор очны й ка ска д ? К а к свя за на его стр уктур а с вер оя тностя м и зна ков ?

23

Ч то та кое энтр опи я и сточни ка сообщ ени й ? В ка ком сл уча е ср едня я дл и на кода совпа да ет с его энтр опи ей ? Ч то та кое р а сши р ени е кода ? С ка кой ц ел ью и спол ьзуется р а сши р ени е кода ? В чем за кл юча ется пр а кти чески й см ы сл теор ем ы Ш еннона о коди р ова ни и без шум а ? 6. Ч то та кое и збы точностькода ? Ч то она пока зы ва ет ? 7. Ч ем ур а вна и збы точностьестественного я зы ка ? 8. К а ки е подходы и спол ьзуются дл я опр едел ени я кол и чества и нф ор м а ц и и ? В чем пр и нц и пи а л ьное отл и чи е м еж дуни м и ?

2. 3. 4. 5.

4. Защ и т а и нф ор м ац и и от с лучайны х пом ех. Пом ехоус т ойчи в ое коди р ов ани е. Говор я об опти м а л ьном (в см ы сл е м а кси м а л ьного сж а ти я ) коди р ова ни и текстов, м ы и м ели в ви дудости ж ени е усл ови я l = Н. Е сл и ж е это усл ови е не бы л о дости гнуто, то говор и л и , что и м еет м есто неопти м а льное, т.е. и збы точное коди р ова ни е. К ол и чественно и збы точность м ож но оц ени ть, на пр и м ер , р а зностью S = l - Н и л и , в пр оц ента х, (S/l) *100%. Д ости ж ени е усл ови я l = Н обеспечи ва ет м а кси м а л ьно возм ож ное сж а ти е и сходны х текстов (и збы точность нул ева я ). Пр и этом за коди р ова нны й текст ока зы ва ется пр едел ьно сж а ты м и поэтом уа бсол ютно безза щ и тны м к случа йны м оши бка м . Е сл и на ур овне хоть одного двои чного си м вол а опти м а л ьно за коди р ова нного текста пр ои зошл а оши бка , то м ы ока зы ва ем ся теор ети чески л и шенны м и возм ож ости ка к-то обна р уж и ть ее, а тем бол ее и спр а ви ть. Интуи ти вно я сно, что на л и чи е некотор ой и збы точности созда л о бы пр и нц и пи а л ьную возм ож ность обна р уж и ва ть (обна р уж и ва ющ и е коды ), а в некотор ы х сл уча я х и и спр а вл я ть (и спр а вл я ющ и е коды ) оши бки . С ка за нное, одна ко, не озна ча ет, что са м ф а кт на ли чи я некотор ой и збы точности уж е я вл я ется доста точны м дл я обна р уж ени я и л и и спр а вл ени я оши бок. Н а л и чи е и збы точности созда ет ли шь теор ети ческую, пр и нц и пи а л ьную возм ож ность обна р уж ени я и л и и спр а вл ени я оши бок. Д л я того ж е, чтобы она "р а бота л а на на с", всец ело бы ла на пр а вл ена на обна р уж ени е и и спр а влени е оши бок пр едпол а га ем ого ха р а ктер а , эту и збы точность сл едует спец и а л ьно "констр уи р ова ть", что, собственно, и я вл я ется пр едм етом и зучени я р а здел а пр и кл а дной м а тем а ти ки , за ни м а ющ егося констр уи р ова ни ем кодов, обна р уж и ва ющ и х и и спр а вл я ющ и х оши бки . Т а м ж е уста на вл и ва ются кол и чественны е оц енки того, на что и м енно м ы впр а ве р а ссчи ты ва ть (обна р уж ени е одной, двух и т.д. оши бок, и х и спр а вл ени е) пр и том и л и и ном ур овне и збы точности . Р ас с м от рим прим ер. Пусть на м пр едстои т за коди р ова ть текст, за пи са нны й на некотор ом я зы ке, та ком , что чи сло букв в а л ф а ви те этого я зы ка п = 2m (т ц елое чи сл о), а поя вл ени е в тексте тех и ли и ны х букв а л ф а ви та р а вновер оя тно и не за ви си т от того, ка ки е буквы и м пр едшествова л и . Т огда и м еем p(i) = p(j) =

1 ; Н = Н1 = log2 п = т . n

24

У сл ови я за да чи та ковы , что дости чь опти м а л ьного коди р ова ни я м ож но са м ы м неза тейл и вы м м етодом коди р ова ни я - побуквенны м коди р ова ни ем с постоя нной дл и ной (l = т ) кодовы х на бор ов. Пр и этом , одна ко, м ы ока за л и сь бы ли шенны м и ка кой-ли бо возм ож ности обна р уж и ва ть, а тем бол ее и спр а вл я ть оши бки . Ч тобы та ка я возм ож ность поя ви л а сь, необходи м о отка за ться от опти м а л ьности кода , "р а скошел и ться " на нескол ько дополни тел ьны х двои чны х си м вол ов на букву, т.е. ум ы шл енно ввести некотор ую и збы точность, котор а я см огл а бы пом очь на м обна р уж и тьи л и и спр а ви тьоши бки . Н еобходи м ое чи сл о допол ни тел ьно вводи м ы х двои чны х си м вол ов на одну букву обозна чи м чер ез х , и тогда дли на кодового на бор а ста нет р а вной l = т + х . Пр и м ем , что в р езул ьта те пом ех (сл уча йны х и л и пр една м ер енны х) ли шь оди н и ли вовсе ни ка кой и з т + х двои чны х си м волов м ож ет пр евр а щ а ться и з еди ни ц ы в нул ь и л и , на обор от, и з нул я в еди ни ц у. Пр и м ем да л ее, что 1 + т + х собы ти й, за кл юча ющ и еся в том , что оши бка вообщ е не пр ои зойдет, пр ои зойдет на ур овне пер вого, втор ого, ..., (т + x)-го си м вол а кодового на бор а , р а вновер оя тны . Э нтр опи ю уга ды ва ни я того, ка кое и м енно и з эти х 1 + m + x собы ти й будет и м етьм есто, в си л ур а вновер оя тности эти х собы ти й она пол уча ется р а вной Н = log2 (1 + т + х ) би т. Т а ки м обр а зом , для обна р уж ени я са м ого ф а кта на л и чи я оди ночной оши бки и уста новл ени я ее пози ц и и необходи м о за пол учи тьи нф ор м а ц и ю в кол и честве не м енее Н = log2(1+т +х ) би т. Источни ком этой и нф ор м а ц и и служ а т л и шьдопол ни тел ьно

Рис. 4.1. Х а р а ктер за ви си м ости на и м еньшего допусти м ого зна чени я па р а м етр а х от а р гум ента т (спл ошна я л и ни я ). Х а р а ктер за ви си м ости па р а м етр а ( δ / l с р ). 100% от а р гум ента т (пункти р на я л и ни я ) введенны е x двои чны х си м вол ов, та к ка к оста л ьны е т си м вол ов и з-за опти м а л ьности коди р ова ни я до пр едела за ня ты опи са ни ем са м ого текста . В ы ше

25

уж е говор и л ось о том , что x двои чны х си м вол ов в л учшем сл уча е м огут содер ж а тьи нф ор м а ц и ю в кол и честве x би т. Т а ки м обр а зом , пр и констр уи р ова ни и кода , обна р уж и ва ющ его и и спр а вл я ющ его оди ночную оши бку, сл едует учесть, что этого м ож но доби ться л и шьпр и зна чени я х x, удовл етвор я ющ и х нер а венству (4.1) x ≥ log2 (1 + m + x), и ли x (4.1a) 2 − x −1 ≥ m Н а р и с. 4.1 пр и ведена кр и ва я , уста на вли ва ющ а я за ви си м ость ни ж ней гр а ни ц ы допусти м ы х зна чени й x от т . Р. Х эм м и нг р а зр а бота л конкр етную констр укц и ю кода [7], котор а я обеспечи ва ет весьм а эл ега нтное обна р уж ени е и и спр а вл ени е оди ночны х оши бок пр и м и ни м а л ьно возм ож ном чи сл е допол ни тел ьно вводи м ы х двои чны х си м вол ов, т.е. пр и зна ке р а венства в (4.1). Пр осл еди м за постр оени ем этого кода , когда т = 4. Изр и с. 4.1 сл едует, что пр и этом допусти м ое зна чени е x р а вно тр ем , т.е. пр и чи сл е основны х (и нф ор м а ц и онны х) двои чны х си м вол ов т = 4, чи сл о допол ни тел ьно введенны х, т.е. контр ол ьны х си м волов дол ж но бы ть не м енее тр ех. Пр и м ем , что на м уда л ось "обойти сь" и м енно тр ем я допол ни тел ьны м и си м вол а м и , т.е. уда л ось сконстр уи р ова ть та кой код, пр и котор ом ка ж ды й и з допол ни тел ьно введенны х тр ех си м вол ов да ет на м м а кси м а л ьно возм ож ное кол и чество и нф ор м а ц и и , т.е. по одном у би ту. Т огда в р а сши р енном кодовом на бор е ока ж утся сем ьдвои чны х си м вол ов:

β1 β 2 β 3 β 4

β5β6β7

(и нф ор м а ц и онны е си м волы )

(контр ол ьны е си м вол ы )

Поскол ьку си м вол ы β 1 ÷ β 4 за ня ты коди р ова ни ем собственно текста , то упр а вл я ть и х зна чени я м и на м не да но. Ч то ж е ка са ется си м вол ов β 5 ÷ β 7 , то они пр една зна чены и м енно дл я обна р уж ени я и и спр а вл ени я оши бок и поэтом у и х зна чени я м ы м ож ем увя за ть со зна чени я м и и нф ор м а ц и онны х си м вол ов пр ои звол ьны м и тр ем я ф ункц и я м и от а р гум ентов β 1 ÷ β 4 (4.2) β 5 = β 5 ( β 1 ÷ β 4),

β 6 = β 6 ( β 1 ÷ β 4), β 7 = β 7 ( β 1 ÷ β 4)

(4.3)

e0 = e0 ( β 1 ÷ β 7 ), e1 = e1 ( β 1 ÷ β 7), e2 = e2 ( β 1 ÷ β 7 )

(4.5) (4.6)

(4.4) та ки м и , чтобы в посл едующ ем с пом ощ ью тр ех др уги х ф ункц и й от а р гум ентов

β1 ÷ β 7

(4.7) опр едел и ть зна чени я е0, е1, е2, содер ж а щ и е и нф ор м а ц и ю о том , пр ои зошл а л и оши бка вообщ е и есл и да , то на ур овне ка кого и м енно и з сем и си м вол ов. О чеви дно, и м еется м нож ество р а зл и чны х ва р и а нтов пр и вы бор е ф ункц и й (4.2) -:(4.7). Р. Х эм м и нг поста ви л пер ед собой за да чу вы бор а и м енно та кой

26

совокупности ф ункц и й (4.2) -:- (4.7), чтобы на бор зна чени й е2 е1 е0 ока за л ся двои чной за пи сью пози ц и и , где пр ои зошл а оши бка . В сл уча е ж е, когда оши бка не и м ел а м еста , на бор зна чени й е2 е1 е0 долж ен ука за тьна "нул евую" пози ц и ю, т.е. на несущ ествующ и й си м вол β 0 . Издвои чной за пи си эти х пози ц и й 0 0 0 0

0 0 1 1

0 1 0 1

(0) (1) (2) (3)

1 1 1 1

0 0 1 1

0 1 0 1

(4) (5) (6) (7)

л егко за м ети ть, что зна чени е е0 "несет ответственность" за пози ц и и β 1 , β 3 , β 5 , β 7 и поэтом ув ка честве ф ункц и и (4.5) бер ется за ви си м ость (4.8а ) e0 = β 1 + β 3 + β 5 + β 7 mod 2 А на л оги чно, обр а щ а я вни м а ни е на то, что зна чени я е1 и е2 отвеча ют за пози ц и и соответственно β 2 , β 3 , β 6 , β 7 и β 4 , β 5 , β 6 , β 7 , пол учи м (4.9а ) e1 = β 2 + β 3 + β 6 + β 7 mod 2

e2 = β 4 + β 5 + β 6 + β 7

(4.10а ) О бр а ти м вни м а ни е, что си стем у(4.8а ) -:- (4.10а ) м ож но р а ссм а тр и ва тька к р а звер нутую за пи сьм а тр и чного ур а внени я

e0 e1 e2

1 0 1 =0 1 1 0 0 0

mod 2

0 1 0 0 0 1 1 1 1

β1 β2 1 β3 1⋅ β4 1 β5 β6 β7

и ли

Ve = A * Va

где Vе - вектор оши бки , ука зы ва ющ и й на се м естор а спол ож ени е; А - основна я м а тр и ц а , стол бц ы котор ой сутьдвои чны е за пи си чи сел от одного до сем и . О пер а ц и я сл ож ени я во всех тр ех ур а внени я х (4.8а ) -:- (4.10а ) осущ ествл я ется по м одул ю два . Подста вл я я в си стем уур а внени й (4.8а ) -:- (4.10а ) е0 = е1 = е2 = 0, пол учи м си стем уи зтр ех ур а внени й (4.8б) β 1 + β 3 + β 5 + β 7 = 0 mod 2 (4.9б) β 2 + β 3 + β 6 + β 7 = 0 mod 2

β4 + β5 + β6 + β7 Пр и ня в в ка честве неи звестны х вел и чи ны ур а внени й с тр ем я неи звестны м и :

β 5 + β 7 = β1 + β 3 β6 + β7 = β2 + β3

= 0 mod 2

(4.10б)

β 5 , β 6 , β 7 , пол учи м си стем уи з тр ех mod 2

(4.8в)

mod 2

(4.9в)

27

β5 + β6 + β7 = β4

(4.10в)

mod 2

Э та си стем а экви ва лентна одном ум а тр и чном уур а внени ю

1 0 1 0 1 1⋅ 1 1 1

β β β

5 6

1 0 1 0 = 0 1 1 0⋅ 0 0 0 1

7

β β β β

1

(4.11)

2 3 4

и ли C*Vс = I*Vi, (4.11a) где Vс и Vi, вектор ы -стол бц ы , коор ди на ты котор ы х пр едста вл ены соответственно контр ол ьны м и и и нф ор м а ц и онны м и р а зр я да м и ; С и I -та к на зы ва ем ы е контр ол ьна я и и нф ор м а ц и онна я м а тр и ц ы . С толбц ы эти х м а тр и ц суть двои чны е за пи си ном ер ов соответственно контр ол ьны х и и нф ор м а ц и онны х р а зр я дов. Решени е си стем ы (4.8в) -:- (4.10в), и л и , что то ж е са м ое, м а тр и чного ур а внени я (4.11) относи тел ьно β 5 , β 6 , β 7 пр и води т к конкр етны м вы р а ж ени я м дл я ф ункц и й (4.2.2) -:- (4.2.4): (4.2в) β 5 = β 2 + β 3 + β 4 mod 2 (4.3в) β 6 = β 1 + β 3 + β 4 mod 2

β 7 = β1 + β 2 + β 4

(4.4в)

mod 2

З а м ети м , что са м Р. Х эм м и нг в ка честве контр ол ьного бер ет не на бор си м вол ов β m +1 , β m + 2 ,..., β m + x , а на бор си м вол ов, и ндексы котор ы х пр едста вл я ют ц ел ы е степени двойки . В сл уча е, когда чи сло контр ол ьны х си м вол ов р а вно тр ем , эти и ндексы р а вны 20 = 1, 21 = 2 и 22 = 4, т.е. р ечь и дет о на бор е си м вол ов β 1 , β 2 , β 4 относи тел ьно котор ы х р ешени е си стем ы (4.8б) -:- (4.10б) чр езвы ча йно упр ощ а ется :

β1 = β 3 + β 5 + β 7 β2 = β3 + β6 + β7 β4 = β5 + β6 + β7

mod 2 mod 2 mod 2

Э то и естественно, поскол ьку в да нном сл уча е вм есто (4.11) м ы и м еем дело с м а тр и чны м ур а внени ем 1 0 0 0 1 0⋅ 0 0 1

β β β

1 2 4

1 1 0 1 = 1 0 1 1⋅ 0 1 1 1

β β β β

3 5 6 7

где контр ол ьна я м а тр и ц а С всегда р а вна еди ни чной м а тр и ц е. О тм ети в, что пр и ука за нной р еком енда ц и и Р. Х эм м и нга контр ол ьна я м а тр и ц а всегда (неза ви си м о от т и х ) ока зы ва ется р а вной еди ни ц е, подр обное обсуж дени е

28

этой р еком енда ц и и оста ви м на потом , пр одолж а я р а ссм а тр и ва ть в ка честве контр ол ьны х β 5 , β 6 , β 7 , а в ка честве и нф ор м а ц и онны х- β 1 , β 2 , β 3 , β 4 . Ра ссм отр и м , к пр и м ер у, на бор и нф ор м а ц и онны х си м волов β 1 β 2 β 3 β 4 = 1011 . С пом ощ ью за ви си м остей (4.5а ) -:- (4.7а ) опр едел и м на бор контр ол ьны х (допол ни тел ьно введенны х, и збы точны х) си м волов β 5 β 6 β 7 = 010 . Пусть оши бка пр ои зошл а на ур овне си м вол а β 5 , т.е. вм есто и сти нного р а сши р енного кодового на бор а 1 0 1 1 (0) 1 0 пол учен код 1 0 1 1 (1) 1 0. Т огда с пом ощ ью за ви си м остей (4.8а ) -:- (4.10а ) на йдем e0 = 1 + 1 + 1 + 0 = 1 mod 2 е1 = 0 + 1 + 1 + 0 = 0 mod 2 е2 = 1 + 1 + 1 + 0 = 1 mod 2 Н а бор зна чени й е2 е1 е0 = 1 0 1 я вл я ется двои чной за пи сью чи сл а "пя ть", т.е. ука зы ва ет и м енно на пя тую пози ц и ю (на си м вол β 5 ), где, собственно, и пр ои зошл а оши бка . Пр и веденна я схем а Р. Х эм м и нга по констр уи р ова ни ю кода , обна р уж и ва ющ его и и спр а вл я ющ его оди ночную оши бку, уни вер са л ьна , и а на л оги чны й код м ож ет бы ть постр оен дл я пр ои звол ьной па р ы зна чени й т и х , удовл етвор я ющ и х ур а внени ю x (4.16) 2 − x −1 = m З а м ети м та кж е, что вовсе не обя за тел ьно, чтобы на бор и зт и нф ор м а ц и онны х си м вол ов пр едста вл я л собой код ка кой-то опр едел енной буквы , ка к это и м ел о м есто в тол ько что р а ссм отр енном пр и м ер е. Н а пр а кти ке сна ча л а м ож но осущ естви ть опти м а л ьное (и л и бл и зкое к опти м а л ьном у) коди р ова ни е текста . З а тем уж е за коди р ова нны й текст м ож но дел и ть на бл оки по т двои чны х x си м вол ов в ка ж дом , пр и чем и з возм ож ны х зна чени й m = 2 − x −1 (х = 3, 4, ...) его конкр етное зна чени е сл едует вы би р а ть и сходя и з экспл уа та ц и онной необходи м ости . Пр и пр очи х р а вны х усл ови я х зна чени е т дол ж но бы ть тем м еньши м , чем больше зна чи м ость и нф ор м а ц и и и чем бол ьше ур овень пом ех. Посл е вы бор а конкр етного зна чени я т ка ж ды й бл ок и з т и нф ор м а ц и онны х си м вол ов сл едует на р а щ и ва ть х = х (т ) контр ол ьны м и си м вол а м и , пр една зна ченны м и дл я обна р уж ени я и и спр а вл ени я оди ночны х оши бок в р а м ка х да нного бл ока . А тепер ь вер нем ся к р а ссм отр ени ю вопр оса о том , почем у Р. Х эм м и нг в ка честве контр ол ьны х бер ет и м енно си м волы , и ндексы котор ы х р а вны ц ел ы м степеня м двойки , т.е. 1, 2, 4, 8, 16,.... В о-пер вы х, ка к уж е об этом говор и л ось вы ше, пр и та ком вы бор е контр ол ьна я м а тр и ц а всегда ока зы ва ется р а вной еди ни ц е, т.е. ф а кти чески сни м а ется вопр ос р ешени я си стем ы (4.8б) -:- (4.10б) относи тел ьно контр ол ьны х си м вол ов, та к ка к ее "р ешени е" своди тся к пр остом у пер епи сы ва ни ю соответствующ и х ур а внени й. Н о это не гла вное, та к ка к си стем у (4.8б) -:- (4.10б) пр и ходи тся р еша ть тол ько оди н р а з и да л ее пр и ка ж дом а кте коди р ова ни я м ы пол ьзуем ся л и шь си стем ой (4.5а ) -:- (4.7а ) - р ешени ем си стем ы (4.8б) -:- (4.10б) относи тел ьно контр ольны х си м волов. Пр и р еа л и за ц и и пр оц едур коди р ова ни я и декоди р ова ни я на Э В М са м ф а кт, что контр ол ьны е си м вол ы

29

р а зобщ ены (не сл едуют подр я ддр уг за др угом ), созда ет опр едел енны е неудобства пр и ка ж дом а кте коди р ова ни я и декоди р ова ни я . Е стественно поэтом у ж ел а ни е вы бр а ть контр ол ьны е си м вол ы та ковы м и , чтобы они сл едова ли подр я д др уг за др угом , пусть да ж е ц еною того, чтобы оди н р а зр еши ть си стем у(4.8б) -:- (4.10б). Им енно та к поступа л и м ы , когда вопр еки р еком енда ц и и Р. Х эм м и нга взя ть в ка честве контр ол ьны х си м вол ы β 1 , β 2 , β 4 взя л и в ка честве та ковы х си м волы β 5 , β 6 , β 7 . Х отя это и вы нуди л о на с р еши тьси стем у(4.8в) -:- (4.10в) относи тел ьно пер ем енны х β 5 , β 6 , β 7 , но за то пр и ка ж дом а кте коди р ова ни я и декоди р ова ни я м ы см огли опер и р ова ть "па чка м и " контр ол ьны х си м вол ов, а не "вы ковы р и ва ть" и х ср еди и нф ор м а ц и онны х си м волов. В озни ка ет вопр ос: а всегда л и , пр и л юбом чи сл е и нф ор м а ц и онны х си м волов м ы см огли бы поступа ть а на л оги чны м обр а зом ? Н ет, не см огл и бы , если попр еж нем у хоти м , чтобы двои чны й на бор си м волов еx-1, еx-2,… е0 ука зы ва л на а др ес оши бки . Потом учто уж е когда чи сл о контр ол ьны х си м волов бол ьше тр ех, м ы не и м еем пр а ва взя ть в ка честве контр ол ьны х посл едни е х си м волов. Легко убеди ться , что пр и этом контр ол ьна я м а тр и ц а непр ем енно ока за л а сь бы вы р ож денной, т.е. зна чени е ее детер м и на нта ока за л а сь бы р а вны м нул ю. Бол ее того, да ж е в р а ссм отр енном на м и сл уча е, когда чи сло контр ол ьны х си м волов р а вно тр ем , м ы не см огл и бы в ка честве контр ол ьны х взя ть, на пр и м ер , пер вы е тр и си м вол а . В о всех эти х сл уча я х опр едели тел и контр ол ьны х м а тр и ц (вспом ни м , что стол бц ы этой м а тр и ц ы суть двои чны е за пи си ном ер ов вы бр а нны х на м и контр ол ьны х си м вол ов) ока зы ва ются р а вны м и нул ю. Пусть, на пр и м ер , м ы вы бр а л и в ка честве контр ол ьны х не па чку си м вол ов β 5 , β 6 , β 7 , а си м вол ы

β 1 , β 2 , β 3 . Т огда на м пр и шл ось бы и м еть дел о с ква др а тной м а тр и ц ей тр етьего пор я дка , стол бц ы котор ой я вл я ются двои чны м и ф ор м а м и за пи си чи сел 1, 2 и 3: 1 0 1 C=0 1 1 0 0 0

Ра венство нул ю детер м и на нта этой м а тр и ц ы сви детел ьствует о том , что си стем у (4.86) -:- (4.106) нел ьзя р еши ть относи тел ьно пер ем енны х β 1 , β 2 , β 3 .Т а ки м обр а зом , пр и вы бор е ср еди т + х си м вол ов х контр ол ьны х сл едует за боти ться о том , чтобы опр едел и тел ь контр ол ьной м а тр и ц ы пор я дка х , стол бц ы котор ой пр едста вл я ют собой двои чны е за пи си ном ер ов вы бр а нны х си м вол ов, не ока за лся р а вны м нул ю. Им енно чтобы и зба ви ться от эти х за бот, Р. Х эм м и нг р еком ендует в ка честве контр ол ьны х взя тьси м вол ы с и ндекса м и 1, 2, 4, 8 и т.д. Легко обна р уж и ть, что пр и та ком вы бор е контр ол ьны х си м волов м ы всегда (неза ви си м о от и х чи сл а ) будем и м етьдело с еди ни чной м а тр и ц ей. К р ом е за ви си м ости (4.1а ), на р и с. 1 пр и ведена та кж е за ви си м ость относи тел ьной и збы точности ( δ / l с р ). 100% от т . Легко за м ети ть, что с увел и чени ем т тр ебуем ы й пр оц ент и збы точности дл я обна р уж ени я и и спр а вл ени я оди ночной оши бки р езко ум еньша ется . С тол ь неестественны й р езул ьта т я вл я ется сл едстви ем и скусственного, да лекого от р еа л ьности допущ ени я , что в р а м ка х ка ж дого кодового на бор а неза ви си м о от его дл и ны т + х

30

м ож ет пр ои зойти не бол ее одной оши бки . Е сл и ж е допусти тьвозм ож ностьдвух и бол ее оши бок, то за да ча и х обна р уж ени я , и тем бол ее и спр а вл ени я усл ож ня ется . Постр ои ть для эти х сл уча ев коды столь ж е эл ега нтны е, ка к код Р. Х эм м и нга дл я оди ночной оши бки , пока не уда л ось. Ге о м е т р иче ский по дхо д В ы ше бы л пр едста вл ен а л гебр а и чески й подход к кода м с и спр а вл ени ем оши бок. Д р угой, экви ва л ентны й подходи спол ьзует n - м ер ную геом етр и ю. В этой м одел и посл едова тел ьность и з нул ей и еди ни ц р а ссм а тр и ва ется ка к точка nм ер ного пр остр а нства . К а ж ды й си м вол за да ет зна чени е соответствующ ей коор ди на ты в n-м ер ном пр остр а нстве, (пр едпол а га ется , что дли на за коди р ова нного сообщ ени я в точности р а вна п. би та м ). Та ки м обр а зом , и м еется куб в n-м ер ном пр остр а нстве, ка ж да я вер ши на котор ого пр едста вл ена посл едова тел ьностью и з n нул ей и еди ни ц . Пр остр а нство состои т т ол ь ко и з 2n вер ши н и , кр ом е ни х, в пр остр а нстве всех возм ож ны х сообщ ени й ни чего нет. Э то пр остр а нство и ногда на зы ва ют вект орны м . К а ж да я вер ши на я вл я ется возм ож ны м пр и ня ты м сообщ ени ем ; одна ко л и шь некотор ы е вы бр а нны е вер ши ны — это посы л а ем ы е сообщ ени я . О д иночная оши бка в сообщ ени и пер едви га ет точку, соответствующ ую сообщ ени ю, вдол ь р ебр а вообр а ж а ем ого куба в соседнюю вер ши ну. Е сл и потр ебова ть, чтобы л юбое посы л а ем ое сообщ ени е на ходи лось на рас с т оянии, по кр а йней м ер е, двух р ебер от л юбого др угого возм ож ного сообщ ени я , то я сно, что л юба я оди ночна я оши бка сдви нет сообщ ени е вдол ь р ебр а и пр и ня тое сообщ ени е вы йдет и з м нож ества посы л а ем ы х сообщ ени й. Е сл и м и ни м а л ьное р а сстоя ни е м еж ду посы л а ем ы м и сообщ ени я м и р а вно тр ем р ебр а м куба , то л юба я оди ночна я оши бка оста ви т пр и ня тое сообщ ени е бл и ж е к посл а нном у, чем к л юбом удр угом упосы л а ем ом у сообщ ени ю, та к что кодбудет и спр а вл я тьоди ночны е оши бки . Ф а кти чески введено рас с т ояние, р а вное м и ни м а л ьном учи сл ур ебер куба , по котор ы м нуж но пр ойти , чтобы дойти от одной точки до др угой. Э то р а сстоя ни е р а вно та кж е чи сл у би т, котор ы м и отли ча ются посл едова тел ьности , соответствующ и е двум вер ши на м . Т а ки м обр а зом , р а сстоя ни е м ож но р а ссм а тр и ва ть ка к л огичес кую сум м у двои чны х си м вол ов двух точек. Э та вел и чи на действи тел ьно я вл я ется р а сстоя ни ем , поскол ьку она обл а да ет сл едующ и м и тр ем я свойства м и . 1. Ра сстоя ни е от л юбой точки до са м ой себя р а вно 0. 2. Ра сстоя ни е от точки х до отли чной от нее точки у совпа да ет с р а сстоя ни ем от точки у до точки х и я вл я ется пол ож и тел ьны м чи сл ом . 3. В ы полнено нер а венство тр еугол ьни ка , т. е. сум м а дл и н двух стор он тр еугол ьни ка (р а сстоя ни е от а до с пл юс р а сстоя ни е от c до b) не м еньше дли ны тр етьей стор оны (р а сстоя ни е от а до b). Э то р а сстоя ни е обы чно на зы ва ется рас с т оянием Х эм м инга. О но пр и способл ено дл я двои чного белого шум а . Испол ьзуя это р а сстоя ни е, м ож но опр едел и тьр а зл и чны е объекты в пр остр а нстве.

31

В ча стности , поверх нос т ь с ф еры , с ц ентр ом в некотор ой точке пр едста вл я ет собой м нож ество точек, на ходя щ и хся на за да нном р а сстоя ни и от ц ентр а . Повер хностьсф ер ы р а ди уса 1 с ц ентр ом (0, 0, ..., 0) — это м нож ество всех вер ши н пр остр а нства , на ходя щ и хся на р а сстоя ни и 1, т. е. м нож ество всех вер ши н, и м еющ и х тол ько оди н си м вол 1 в коор ди на тной за пи си (р и с. 4.1). Ч и сло та ки х точек р а вно С (n, 1). М и ни м а л ьное р а сстоя ни е м еж ду вер ши на м и м нож ества посы л а ем ы х сообщ ени й м ож но вы р а зи ть в тер м и на х кор р екти р ующ и х свойств. Д л я однозна чности кода м и ни м а л ьное р а сстоя ни е дол ж но бы ть, по м еньшей м ер е, р а вно 1 (та бл . 4.1). М и ни м а л ьное р а сстоя ни е 2 да ет обна р уж ени е оди ночны х оши бок. М и ни м а л ьное р а сстоя ни е 3 да ет и спр а вл ени е оди ночны х оши бок; ка ж да я оди ночна я оши бка оста вл я ет точку, р а сполож енную бл и ж е к пер вона ча л ьном у полож ени ю, чем к л юбом у др угом у посы л а ем ом у сообщ ени ю. Я сно, что код с эти м м и ни м а л ьны м р а сстоя ни ем м ож ет и спол ьзова ться та кж е для обна р уж ени я двойны х оши бок. М и ни м а л ьное р а сстоя ни е 4 да ет и спр а вл ени е оди ночны х оши бок, а та кж е обна р уж ени е двойны х оши бок. М и ни м а л ьное р а сстоя ни е 5 да ет и спр а вл ени е двойны х оши бок. О брат но, дл я того чтобы обна р уж и ва ть и л и и спр а вл я ть оши бки соответствующ ей кр а тности , код дол ж ен и м еть соответствующ ее м и ни м а л ьное р а сстоя ни е. Та блица 4.1. С м ы с л м иним ал ь ного рас с т ояния М иним ал ь ное рас с т ояние 1 2 3 4

5

И нт ерпрет ация О днозна чность О бна р уж ени е оди ночны х оши бок Испр а вл ени е оди ночны х оши бок (и л и обна р уж ени е двойны х оши бок) Испр а вл ени е оди ночны х оши бок дополни тел ьно к этом у, обна р уж ени е двойны х оши бок (и л и вм есто всего этого обна р уж ени е тр ойны х оши бок) Испр а вл ени е двойны х оши бок

(1,1,0)

(1,1,1)

(1,0,0) (1,0,1)

. (0,1,0) (0,1,1) (0,0,0)

(0,0,1)

Рис. 4.1.

32

Пр и и спр а вл ени и оди ночной оши бки (м и ни м а л ьное р а сстоя ни е 3) ка ж дое сообщ ени е м ож но окр уж и ть еди ни чной сф ер ой, и эти сф ер ы не пер екр ы ва ются . Ш а р р а ди уса 1 состои т и з ц ентр а и n точек, по одной дл я ка ж дой и зм ененной коор ди на ты ; та ки м o6pа зом , объ ем ша р а р а вен 1+n. О бъем всего n-м ер ного пр остр а нства , т. е. чи сл о всех точек в нем , р а вен, очеви дно, 2n. Поскол ьку ша р ы не пер есека ются , м а кси м а л ьное чи сл о посы л а ем ы х сообщ ени й долж но удовл етвор я тьусл ови ю объ ем с ф еры ≥ м иним ал ь ное чис л о с ф ер объ ем вс его прос т ранс т ва

и ли n

2 ≥ k 2 n +1

(4.2)

m+k k m Поскол ьку n=m+k, то 2 ≥ 2 ⋅ (n + 1) и л и 2 ≥ n + 1 . Им енно это нер а венство бы ло пол учено пр и и спол ьзова ни и а л гебр а и ческого подхода . М ож но дока за ть, что двои чны й код C с м и ни м а л ьны м кодовы м р а сстоя ни ем dmin м ож ет и спр а вля ть все ком би на ц и и от 1 до t оши бок и м ож ет обна р уж и ва ть все ком би на ц и и от t+1 до t+s оши бок тогда и тол ько тогда , когда d min ≥ 2⋅t + s

Пр и пр очи х р а вны х усл ови я х, чем бол ьше и збы точность текста , тем л егче осущ естви ть его неса нкц и они р ова нное декоди р ова ни е, точнее деши ф р овку. В этом см ы сл е опти м а л ьно за коди р ова нны е тексты ха р а ктер и зуются бол ьшей за щ и щ енностью. В то ж е вр ем я эти тексты а бсол ютно безза щ и тны к сл уча йны м и /и л и ум ы шл енно введенны м оши бка м - доста точно хоть одной оши бки на ур овне ка кого-ли бо двои чного си м вола опти м а л ьно за коди р ова нного текста , и уж е не тол ько "пр оти вни к", но и "свой" а др еса т л и ши тся возм ож ности декоди р ова ть - восста нови ть и сходны й текст. Ч тобы пр едоста ви ть а др еса тухоть ка кую-то возм ож ность обна р уж и ть, а тем бол ее и спр а ви ть и м еющ и е м есто оши бки , пр и ходи тся отка за ться от пр едел ьного сж а ти я текста и ввести некотор ую и збы точность. Н о эта и збы точность дол ж на бы ть спец и а льно сконстр уи р ова на , т.е. она дол ж на бы ть на ц ел ена на обна р уж ени е, а если это возм ож но, то и и спр а вл ени е оши бок. Ко н т ро льн ые во про сы. 1. К а к свя за ны м еж ду собой коли чество и нф ор м а ц и онны х и контр ол ьны х си м вол ов в коде Х эм м и нга ? 2. Пр и пер еда че кодовой ком би на ц и и дл и ной 7 двои чны х р а зр я дов, за щ и щ енной по схем е Х эм м и нга , пр ои зошл а однокр а тна я оши бка , и в р езул ьта те бы л а пол учена ком би на ц и я : 0111011. Н а йди те и и спр а вьте оши бку. 3. Ч то та кое р а сстоя ни е Х эм м и нга ? В чем за кл юча ется его см ы сл ? 4. К а к свя за ны м еж ду собой м и ни м а л ьное р а сстоя ни е и кор р екти р ующ а я способностькода ?

33

5. Им еется кодс м и ни м а л ьны м р а сстоя ни ем 12. С кол ько оши бок он позволя ет обна р уж и ть? С кол ько и спр а ви ть?

5. Пер едача конф и денц и альны х с ообщ ени й. К л а сси чески е схем ы ор га ни за ц и и обм ена конф и денц и а л ьной и нф ор м а ц и ей по откр ы ты м ка на л а м свя зи пр едпол а га ют непр ем енное на л и чи е у обм ени ва ющ и хся стор он некотор ого секр етного ключа ши ф р ова ни я деши ф р ова ни я , на основе котор ого отпр а ви тел ь и нф ор м а ц и и осущ ествл я ет ши ф р ова ни е конф и денц и а л ьны х сообщ ени й и уж е пол ученную ши ф р огр а м м упо откр ы ты м ка на л а м свя зи посы л а ет пол уча тел ю и нф ор м а ц и и . Посл едни й с пом ощ ью секр етного кл юча р а сши ф р овы ва ет пол ученную ши ф р огр а м м у, восста нови в тем са м ы м и сходны й текст конф и денц и а л ьного сообщ ени я . Пр и этом , естественно, секр етны й кл юч долж ен бы ть та ки м , чтобы от тр етьи х стор он (и х на зы ва ют та кж е злоум ы шл енни ка м и ), пы та ющ и хся осущ естви ть неса нкц и они р ова нны й доступ к конф и денц и а л ьны м сообщ ени я м , дл я этого потр ебова л осьбы доста точно м ного уси л и й. 5.1. Кр ипт о сист е м ы , испо л ьз ую щ ие се кр е т н ы е кл ю чи ш иф р о в ан ия О дни м и з на и бол ее р а нни х м етодов ши ф р ова ни я я вл я ется м етод пр остой за м ены си м волов и сходного текста конф и денц и а л ьны х сообщ ени й др уги м и си м вол а м и , согл а сно некотор ой подста новке, вы полня ющ ей ф ункц и и секр етного кл юча . В пр остейшем сл уча е та ка я подста новка своди тся к сдви гу всех букв а л ф а ви та вл ево и ли впр а во на некотор ую постоя нную вел и чи ну. С л едующ и й пр и м ер и л л юстр и р ует р а боту а л гор и тм а постоя нного сдви га пр и м ени тел ьно к р усски м текста м пр и допущ ени и , что в пер еда ва ем ы х сообщ ени я х отсутствуют за гл а вны е буквы и зна ки пр епи на ни я , а буква ё отож дествл ена с буквой е. Ины м и сл ова м и , пр едпол а га ется , что в сообщ ени я х, подл еж а щ и х ши ф р ова ни ю, м огут встр еча ться 33 р а зли чны х си м вол а , а и м енно: 32 буквы р усского я зы ка и си м вол пр обел а . Пр и ня в, что сдви г букв осущ ествл я ется впр а во, а постоя нна я сдви га р а вна восьм и буква м , пол учи м сл едующ ую подста новку: а б в г д е ж з и й к л м н о п р с щ ъ ы ь э ю я - а б в г д е ж з и й 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 т у ф к л м 18 19 20

х ц ч н о п 21 22 23

ш щ ъ ы ь э р с т у ф х 24 25 26 27 28 29

ю ц 30

я ч 31

ш 32

34

О бр а ти м вни м а ни е, что си м вол ы , вы шедши е в р езул ьта те сдви га за р а м ки а л ф а ви та (в пр и веденной вы ше подста новке эти си м вол ы подчер кнуты ), за ни м а ют освободи вши еся 8 пози ц и й в на ча л ьной ча сти а л ф а ви та . Е стественно, что чи сл о та ки х си м вол ов р а вно постоя нной сдви га (в на шем сл уча е оно р а вно восьм и ). Е сли буквы а л ф а ви та пр онум ер ова ть в пор я дке возр а ста ни я за ни м а ем ы х и м и пози ц и й в а л ф а ви те ('а' = 0, 'б' = 1, 'в' = 2, ..., 'я' = 31, '-' = 32), то очер една я буква и сходного текста , котор а я в а л ф а ви те за ни м а ет i-ю пози ц и ю, будет за м енена буквой, за ни м а ющ ей j-ю пози ц и ю а л ф а ви та , где j = (i-k) mod (N) (5.1) k - постоя нна я сдви га , р а вна я в на шем пр и м ер е восьм и , а N - чи сл о р а зли чны х си м вол ов, р а вное в на шем пр и м ер е тр и дц а ти тр ем . Н а пр и м ер , в р езул ьта те та кого ши ф р ова ни я и сходны й текст "встр еча убуки ни ста " пр и м ет ф ор м уши ф р огр а м м ы "ы йки юпщ шл шъл ва е а йкщ ". Ч тобы р а сши ф р ова ть та кую ши ф р огр а м м у, необходи м о очер едную букву ши ф р огр а м м ы , за ни м а ющ ую i-ю пози ц и ю а л ф а ви та , за м ени тьбуквой, за ни м а ющ ей в а л ф а ви те j-ю пози ц и ю, где j = (i + k) mod (N) (5.2) Поступа я та ки м обр а зом , и з пол ученной тол ько что ши ф р огр а м м ы пол учи м и сходны й текст "встр еча убуки ни ста ". В общ ем сл уча е в ка честве секр етного кл юча ши ф р ова ни я м огут бы ть и спол ьзова ны пр ои звол ьны е подста новки , опр едел енны е на м нож естве и з N си м вол ов. Пр и м ер ом м ож ет сл уж и ть, на пр и м ер , подста новка а б в г д е ж з и й к л м н о п р й - а б э ю я ъ ы ь т уф х ц ч ш X = с т уф х ц ч ш щ ъ ы ь э ю я c в г д е ж з и й к л м н о п р Д л я р а сши ф р ова ни я текстов, за ши ф р ова нны х согл а сно некотор ой подста новке X, и спол ьзуется обр а тна я ей подста новка Y = X -1, т.е. та ка я , чтобы и м ело м есто X ⋅ Y = E , где E - еди ни чны й эл ем ент, пр едста вл я ющ и й тож дественную подста новку: а б в г д е ж з и й к л м а б в г д е ж з и й к л м

н о п р н о п р

E=

с т уф х ц с т уф х ц

ч ш щ ъ ы ч ш щ ъ ы

ь э ю я ь э ю я

-

Подста новочны е а л гор и тм ы ши ф р ова ни я в кл а сси ческом ва р и а нте и х и спол ьзова ни я ока за л и сь л егко взл а м ы ва ем ы м и . О сновны м "ви новни ком " этого я вл я ется пр и сущ а я естественны м я зы ка м и збы точность, в да нном сл уча е вы р а ж а ющ а я ся в том , что р а зл и чны е буквы а л ф а ви та и м еют р а зл и чную вер оя тность встр еча ем ости в текста х естественны х я зы ков. Пр и м ени тел ьно к р усски м текста м , на пр и м ер , на основе р езул ьта тов ста ти сти ческой обр а ботки

35

свы ше 0,5 м л н. си м вол ов м ож но утвер ж да ть, что есл и ка ка я -то буква и м еет на и м еньшую встр еча ем остьв ши ф р огр а м м е, то скор ее всего эта буква - р езул ьта т пр еобр а зова ни я ка кой-ли бо одной и з букв 'ъ ', 'ф ', 'э' и л и 'щ'. И, на обор от, есл и ка ка я -то буква и м еет на и вы сшую встр еча ем остьв ши ф р огр а м м а х, то скор ее всего эта буква - р езул ьта т пр еобр а зова ни я ка кой-л и бо одной и збукв 'о', 'е', 'и' и л и 'п'. Руководствуя сь а на л оги чны м и сообр а ж ени я м и , м етодом пр об и оши бок уда ется ср а вни тел ьно л егко взл а м ы ва ть подста новочны е а л гор и тм ы . Е сл и ж е учесть, что дл я а на л и за м огут бы ть и спол ьзова ны огр ом ны е возм ож ности совр ем енны х ком пьютер ов, то, по кр а йней м ер е, в на ши дни кр и птостойкость эти х а л гор и тм ов сл едует пр и зна тьчр езвы ча йно ни зкой. Пр остейши м пр едста ви тел ем др угого на пр а вл ени я ши ф р ова ни я пер еста новочны х а л гор и тм ов м ож ет сл уж и ть пер еста новочны й а л гор и тм ши ф р ова ни я с ша гом в k букв. В р а м ка х этого а л гор и тм а буква м и и сходного текста поочер едно за полня ются кл етки пр я м оугол ьни ка и з k стр ок в пор я дке, ука за нном ни ж е на пр и м ер е ши ф р ова ни я и сходного текста "встр еча убуки ни ста " (зна чени е k пр и ня то здесьр а вны м тр ем ). в р а – к и а с е - б и с т ч уун т и в ка честве ши ф р огр а м м ы пр и ни м а ется посл едова тел ьность букв "вр а – ки а се би с - тчуунт -". Ины м и сл ова м и , и спол ьзуется пр а ви ло "за пи сь по столбц а м ши ф р огр а м м а по стр ока м ". Ра сши ф р овка ши ф р огр а м м ы осущ ествл я ется в обр а тном пор я дке "за пи сь по стр ока м - и сходны й текст по стол бц а м ", а и м енно, буква м и ши ф р огр а м м ы поочер едно за полня ются кл етки пр я м оугол ьни ка и з т = M/k столбц ов (М - чи сло букв в ши ф р огр а м м е), а и сходны й текст ф ор м и р уется поочер едны м чтени ем букв по стол бц а м . О пи са нны й тол ько что а л гор и тм ши ф р ова ни я не обл а да ет скол ько-ни будь сер ьезны м ур овнем кр и птостойкости . Н о здесь на л и ц о основной пр и нц и п р а боты пер еста новочны х а л гор и тм ов - пер еста новка пози ц и й, котор ы е за ни м а ют буквы в и сходны х текста х. Путем усл ож нени я пр а ви л пер еста новки в р я де сл уча ев уда ется доби ться доста точно вы сокого ур овня кр и пстойкости . И тогда дл я взл а м ы ва ни я кр и птоси стем ы пр и ходи тся пр и бега ть к более м ощ ны м ср едства м , на пр и м ер , с и спол ьзова ни ем зна чени й вер оя тностей встр еча ем ости р а зли чны х па р букв, тр и а д букв и т.д., с учетом да ж е пози ц и й эти х па р , тр и а д в слова х естественны х я зы ков. Н е вда ва я сь в подр обности а на л и за р а зл и чны х р ешени й в ка ж дой конкр етной кр и птоси стем е, где м огут сочета ться подста новочны й и пер еста новочны й пр и нц и пы ши ф р ова ни я , отм ети м л и шь, что основны м и нстр ум ентом и х взлом а я вл я ется и спол ьзова ни е тех и л и и ны х пр оя вл ени й и збы точности текстов естественны х я зы ков. Ч тобы полностью (и л и почти пол ностью) и зба ви ть кр и птогр а м м ы от и збы точности , пр и сущ ей естественны м я зы ка м , К . Ш еннон р еком ендова л конф и денц и а л ьны е тексты пр едва р и тельно а р хи ви р ова тьс пом ощ ью ка кого-л и бо и з эф ф екти вны х а лгор и тм ов сж а ти я текстов (Ф а но, Х а ф ф м эн, Ш еннон) и уж е а р хи ви р ова нны й текст подвер га ть ши ф р ова ни ю, и спол ьзуя в ка честве секр етного

36

кл юча сл уча йную посл едова тел ьность си м вол ов а л ф а ви та да нного естественного я зы ка . Пр и этом пр а кти чески и сключа ются сл уча и взл а м ы ва ни я , но та кой а л гор и тм вр я д л и м ож но пр и зна ть пр и ем л ем ы м с пр а кти ческой точки зр ени я , поскол ьку пр и его и спол ьзова ни и тр ебуется посы л а ть а др еса ту не тол ько ши ф р огр а м м у, но и секр етны й кл юч - сл уча йную посл едова тел ьностьбукв, дл и на котор ой в да нном сл уча е ока зы ва ется р а вной дли не а р хи ви р ова нного текста . В за кл ючени и на стоя щ его р а здел а отм ети м на и бол ее ха р а ктер ны е чер ты кр и птоси стем , ор и енти р ова нны х на и спол ьзова ни е секр етны х ключей ши ф р ова ни я . В се они , неза ви си м о от конкр етной и х р еа л и за ц и и , непр ем енно тр ебуют на л и чи я за кр ы того ка на л а свя зи дл я обм ена секр етны м и кл юча м и . Н а основе эти х кл ючей осущ ествл я ется ши ф р ова ни е конф и денц и а л ьны х сообщ ени й и пол ученна я в р езул ьта те этого ши ф р огр а м м а , уж е непоня тна я дл я тр етьи х стор он, пер еда ется а др еса ту по откр ы ты м ка на л а м свя зи . А др еса т ж е восста на вл и ва ет и сходны й текст путем р а сши ф р ова ни я кр и птогр а м м ы с пом ощ ью того ж е (и л и почти того ж е) кл юча ши ф р ова ни я . Пр и ня то счи та ть, что во всех р а ссм отр енны х вы ше кр и птоси стем а х пр и ши ф р ова ни и и р а сши ф р ова ни и конф и денц и а л ьны х текстов и спол ьзуется оди н и тот ж е секр етны й кл юч. В пр и нц и пи а л ьном ж е пл а не та кое утвер ж дени е не совсем вер но. В ер нем ся , на пр и м ер , к р а ссм отр ени ю пр остейшего подста новочного а лгор и тм а , р еа л и зова нного путем постоя нного сдви га всех букв а л ф а ви та на 8 пози ц и й впр а во (см . вы ше). В р а м ка х этой си стем ы пр и ши ф р ова ни и и сходны х текстов буква 'а' за м еня ется буквой 'щ', тогда ка к пр и р а сши ф р ова ни и кр и птогр а м м та ж е буква 'а' за м еня ется буквой 'и'. Ины м и сл ова м и , кл ючи ши ф р ова ни я и р а сши ф р ова ни я в общ ем -то р а зл и чны , но пер еход от кл юча ши ф р ова ни я к кл ючур а сши ф р ова ни я на стол ько пр ост, что эти кл ючи пр а кти чески отож дествл я ют. Д л я человека , вл а деющ его кл ючом ши ф р ова ни я , ни ка кого тр уда не пр едста вл я ет р а сши ф р ова ни е ши ф р огр а м м . Ины м и сл ова м и , есл и у = f(x) - ф ункц и я ши ф р ова ни я , то на хож дени е ф ункц и и х = f -1(y) на стол ько пр осто, что ф ункц и и f(x) и х = f -1(y) пр а кти чески отож дествл я ют и говор я т, что и м еют дело с одни м и тем ж е секр етны м кл ючом . С ущ ественно по-и ном уобстои т дело в кр и птоси стем а х откр ы того ши ф р ова ни я , где опр едел ени е зна чени я ф ункц и и f -1(y) на основе зна чени я ф ункц и и f(x) чр езвы ча йно за тр уднено. В сл едующ ем р а здел е м ы пр оа на л и зи р уем пр и нц и п постр оени я а л гор и тм ов откр ы того ши ф р ова ни я , где кл ючи ши ф р ова ни я и р а сши ф р ова ни я р а зл и чны на стол ько, что зна ни е кл юча ши ф р ова ни я вовсе не я вл я ется доста точны м дл я р а сши ф р ова ни я кр и птогр а м м . 5.2. Одн о ст о р о н н ие ф ун кц ии и кр ипт о сист е м ы ш иф р о в ан ия.

о т кр ы т о го

Е щ е в на ча л е шести деся ты х годов дл я пр едотвр а щ ени я неса нкц и они р ова нного доступа к р а зл и чны м объекта м (Э В М , ба зы да нны х, ф а йл ы и т.д.), конкр етнее, дл я ор га ни за ц и и па р ол ьного доступа к объекта м , пр и м еня л ся м етод та к на зы ва ем ы х од нос т оронних ф ункц и й. Под ни м подр а зум ева ют ф ункц и и у = f(x), та ки е, что вы чи сл ени е зна чени я у пр и за да нном х не пр едста вл я ет особого тр уда ,

37

тогда ка к на хож дени е х , соответствующ его за да нном узна чени ю у, чр езвы ча йно тр удно, точнее, свя за но с чр езм ер но бол ьши м объем ом вы чи сл ени й, р еа ли за ц и я котор ы х за обозр и м ы й пр ом еж уток вр ем ени не уда ется . Пусть, к пр и м ер у, р а ссм а тр и ва ется ф ункц и я y=f(x)=Ax mod(N) (5.3) где х и N - чр езм ер но бол ьши е чи сл а , а А - пр ои звол ьное чи сл о и зи нтер ва л а [2, N - 2]. З десьпр и за да нном х зна чени е у вы чи сл я ется относи тел ьно пр осто, тогда ка к дл я вы чи сл ени я зна чени я х = f -1(y) свя за но с р еа ли за ц и ей чр езм ер но бол ьшого объем а вы чи сл ени й. О дни м и з возм ож ны х пр и лож ени й этой и л и л юбой др угой одностор онней ф ункц и и м ож ет служ и ть упом я нуты й вы ше пр и м ер ор га ни за ц и и па р ол ьного доступа к Э В М и л и и ны м объекта м огр а ни ченного доступа . В тр а ди ц и онны х схем а х его ор га ни за ц и и та бл и ц а па р ол ей хр а ни тся в па м я ти Э В М и дл я доступа к ней от ка ж дого i-го пол ьзова тел я тр ебуется на зва ть свой па р ол ь x(i). Н а л и чи е на зва нного x(i) в та бл и ц е па р ол ей я вл я ется доста точны м для того, чтобы допусти ть да нного пол ьзова тел я к Э В М . Е сл и , к пр и м ер у, пр оти вни ку уда л ось за вл а деть та бл и ц ей па р ол ей, то, на зы ва я те и л и и ны е па р ол и , он м ож ет беспр епя тственно пол учи ть доступ к Э В М , и м и ти р уя л юбого пол ьзова тел я . Е сл и ж е в та бл и ц е доступа хр а ни ть не са м и зна чени я па р ол ей x(i), a тол ько зна чени я соответствующ и х и м у(x(i)), где у = f(x) - некотор а я одностор оння я ф ункц и я , то доступ к Э В М м ож но р а зр еши ть л и шь посл е того, ка к в та бли ц е ока ж ется вы чи сл енное на основе пр едъя вл енного да нны м пол ьзова тел ем па р ол я x(i) зна чени е у(x(i)). Пр и та кой поста новке и нтер ес пр оти вни ка к этой та бл и ц е ср а зу ж е отпа дет, поскольку на основе пр и веденны х та м зна чени й у зна чени я са м и х па р ол ей, т.е. зна чени я x(i) и з-за одностор онности ф ункц и и у = f(x), он не м ож ет вы чи сл и ть. Из пр и веденного пр и м ер а л егко за м ети ть, на скол ько ва ж ны м и дл я пр а кти ческого пр и м енени я я вл я ются одностор онни е ф ункц и и . Н о то, что ввели в р а ссм отр ени е сна ча л а в теор ети ческом пл а не, а потом и в пл а не пр а кти ческого пр и м енени я У . Д и ф ф и и М . Х ел л м а н, повл екл о за собой на стоя щ ую р евол юц и ю в совр ем енной кр и птогр а ф и и . В 1976 г. они опубл и кова л и ста тью "Н овы е на пр а вл ени я в кр и птогр а ф и и ", где впер вы е ввел и в р а ссм отр ени е поня ти е одностор онни х ф ункц и й с л овушкой (л а зейкой). К а к и все оста л ьны е одностор онни е ф ункц и и у = f(x), это ф ункц и и , где вы чи сл ени е у = f(x) л егко осущ естви м о, тогда ка к вы чи сл ени е х = f -1(y) свя за но с пр а кти чески непр еодоли м ы м и тр удностя м и . Н о в отл и чи е от др уги х одностор онни х ф ункц и й, одностор онни е ф ункц и и с л овушкой обл а да ют тем спец и ф и чески м свойством , что пр и зна ни и опр еделенной и нф ор м а ц и и (и тол ько пр и этом !) вы чи сл ени е х = f -1(y) ста нови тся л егко р еа л и зуем ы м . Ины м и слова м и , дл я л и ц , вл а деющ и х этой и нф ор м а ц и ей, ф ункц и я у = f(x) ста нови тся л егко обр а ти м ой, тогда ка к дл я всех оста л ьны х л и ц , не вл а деющ и х этой и нф ор м а ц и ей, она оста ется пр а кти чески необр а ти м ой. Им енно эта и нф ор м а ц и я и вы пол ня ет р ол ьтой л овушки (л а зейки ), с пом ощ ью котор ой уда ется обр а щ а тьф ункц и и та кого ти па .

38

5.3. Кр ипт о сист е м а о т кр ы т о го ш иф р о в ан ия RSA. Изи звестны х на м кр и птоси стем , ба зи р ующ и хся на одностор онни х ф ункц и я х с л овушкой, на и бол ьшую попул я р ность пол учи л а кр и птоси стем а RSA, относя щ а я ся к пер вом у на пр а вл ени ю и ссл едова ни й - на пр а вл ени ю возведени я чи сел в бол ьши е степени по м одул ю, та кж е я вл я ющ ем уся бол ьши м чи слом . С вое на зва ни е этот а л гор и тм пол учи л по пер вы м буква м ф а м и л и й его созда тел ей (Rivest, Shamir, Adleman). Попул я р ность а л гор и тм а RSA, по-ви ди м ом у, м ож но объя сни ть возм ож ностью довол ьно эл ега нтной р еа ли за ц и и в р а м ка х этого а л гор и тм а ка к пер еда чи конф и денц и а л ьны х сообщ ени й, та к и ор га ни за ц и и эл ектр онной подпи си . М еха ни зм ф ункц и они р ова ни я кр и птоси стем ы RSA за кл юча ется в сл едующ ем . К а ж ды й i-й а бонент сети неза ви си м о от др уги х а бонентов генер и р ует два бол ьши х пр осты х чи сл а q и p и вы чи сля ет чи сл о N = q• p. Пор я док вел и чи н q и p опр едел я ется двум я сообр а ж ени я м и : - с увел и чени ем эти х чи сел скор ость ши ф р ова ни я , пер еда чи по ка на л а м свя зи и р а сши ф р ова ни я конф и денц и а л ьны х сообщ ени й ум еньша ется ; - пр и пр очи х р а вны х усл ови я х с увел и чени ем пр осты х чи сел q и p кр и птостойкостьси стем ы RSA р а стет. О бы чно р еком ендуется в ка честве q и p вы бр а тьпр осты е чи сл а , состоя щ и е и з 150-200 деся ти чны х зна ков ка ж дое. Е стественно, что эти р еком енда ц и и не сл едует пр и ни м а ть за догм у, и в за ви си м ости от экспл уа та ц и онной необходи м ости эти чи сл а м огут бы ть вы бр а ны зна чи тел ьно м еньши м и , и л и , на обор от, бол ьши м и . Пр и вы бор е и пр овер ке на пр остотубол ьши х чи сел обы чно пол ьзуются м а л ой теор ем ой Ф ер м а , а и м енно, чи сл о S счи та ют пр осты м , есл и дл я пр ои звол ьно вы бр а нного чи сл а М < S и м еет м есто M s-1 = 1 mod (S) (5.4) Х отя усл ови е (5.4) я вл я ется л и шьнеобходи м ы м , но не доста точны м усл ови ем , чтобы чи сло S пр и зна ть пр осты м , тем не м енее, посл е соответствующ и х допр овер ок теор ем а Ф ер м а способствует вы бор у пр осты х чи сел q и p. Посл е опр едел ени я чи сл а N, i-й а бонент сети вы чи сл я ет чи сло Э йл ер а от а р гум ента N, котор ое пр и пр осты х q и p опр едел я ется по ф ор м ул е F(N) = (q-1) • (p-1) (5.5) Д а л ее i-м а бонентом вы би р а ется пр ои звол ьное доста точно бол ьшое и вза и м но пр остое с F(N) чи сло e, посл е чего вы би р а ется пр ои звол ьное чи сло d та кое, чтобы и м ел о м есто e • d = l mod (F(N)) (5.6) Посл е того, ка к i-м а бонентом опр едел ены чи сл а q, p, N, F(N), e и d, он уж е готов к пр и ем у конф и денц и а л ьны х сообщ ени й. Д л я этого он пом ещ а ет в общ едоступны й спр а вочни к чи сл а N и e в ка честве откр ы того кл юча ши ф р ова ни я , а чи сл о d хр а ни т усебя в ка честве секр етного кл юча р а сши ф р ова ни я . Поскол ьку пр и и звестны х чи сла х е и N зна ни я л юбого и зчи сел q, p и ли F(N) доста точно дл я того, чтобы вы чи сл и ть чи сло d - секр етны й кл юч р а сши ф р ова ни я , то чи сл а q, p и F(N) сл едует хр а ни тьв та йне, л и бо ж е вообщ е "уни чтож и ть", поскол ькуда л ее они этом уа бонентуне нуж ны .

39

Д л я пер еда чи конф и денц и а л ьны х сообщ ени й в а др ес i-го а бонента пол ьзова тел и сети пр едва р и тел ьно а р хи ви р уют пер еда ва ем ы е сообщ ени я с пом ощ ью ка кого-л и бо общ едоступного а р хи ва тор а , за тем пол ученны й а р хи ви р ова нны й текст деля т на ф р а гм енты (есл и в этом естьнеобходи м ость) та к, чтобы чи сл енное пр едста вл ени е ка ж дого и з эти х ф р а гм ентов ока за л ось м еньше чи сл а N. Ч и сл енны е пр едста вл ени я X ка ж дого и зэти х ф р а гм ентов и есть обр а зы конф и денц и а л ьны х сообщ ени й, подл еж а щ и х пер еда че в а др ес i-го а бонента . З а м ети м , что пр оц едур а пр едва р и тел ьной а р хи ва ц и и текстов не я вл я ется обя за тел ьной, хотя она и созда ет допол ни тел ьны е слож ности дл я зл оум ы шл енни ков, пы та ющ и хся р а ссекр ети ть си стем у RSA. Пр едва р и тел ьна я а р хи ва ц и я текстов пол езна ещ е и потом у, что в р езул ьта те а р хи ва ц и и и сходны е тексты ум еньша ются , в р езул ьта те чего ум еньша ется та кж е чи сл о ф р а гм ентов, на котор ы е дел я тся и сходны е тексты , с тем , чтобы чи сл енны е пр едста вл ени я ка ж дого и зэти х ф р а гм ентов ока за ли сь м еньше чи сл а N. Ч и сл о N, л и м и ти р ующ ее свер худопусти м ы й объем ка ж дого пер еда ва ем ого ф р а гм ента текста (неза ви си м о от того, я вл я ется л и этот текст а р хи ви р ова нны м и л и нет), за ви си т от того, на скол ько бол ьши м и вы бр а ны чи сл а q и p. Н а пр и м ер , есл и чи сл а q и p содер ж а т по 100 деся ти чны х зна ков ка ж дое, то чи сл о N будет состоя ть и з200 деся ти чны х зна ков, что экви ва лентно 660 би та м , т.е. пр и та ком вы бор е чи сел q и p объем ка ж дого ф р а гм ента ши ф р уем ого текста свер хул и м и ти р ова н 660 би та м и . В ка честве одностор онней ф ункц и и с л овушкой в си стем е RSA сл уж и т ф ункц и я у =f(X) = X e mod(N) (5.7) Э та ф ункц и я пр и зна ется одностор онней в си л у того, что пока не и звестны р езул ьта ты , позвол я ющ и е пр и доста точно бол ьши х чи сл а х e и N на основе чи сл а у (т.е. на основе кр и птогр а м м ы ) опр едел и ть чи сло X (т.е. и сходное сообщ ени е). Ины м и сл ова м и , пр и за да нном а р гум енте X вы чи сл ени е у = f(X) не пр едста вля ет особого тр уда , тогда ка к обр а щ ени е ф ункц и и f(X), т.е. вы чи сл ени е зна чени я X = f -1(y) (5.8) пр и и звестном у свя за но с бол ьши м объм ом вы чи сл и тел ьны х р а бот. З а м ети м , что утвер ж дени е об отсутстви и эф ф екти вны х м етодов обр а щ ени я ф ункц и и (5.7), р а вно ка к и утвер ж дени е об отсутстви и эф ф екти вны х м етодов р а злож ени я бол ьши х чи сел N на пр осты е м нож и тел и q и p, скор ее я вл я ются пр едполож ени я м и , неж ели утвер ж дени я м и в стр огом м а тем а ти ческом см ы сл е. По кр а йней м ер е, не и звестны публ и ка ц и и , где пр и води лось дока за тел ьство эти х пр едполож ени й, котор ы е скор ее стр оя тся не на стр оги х дока за тел ьства х, а ли шь на отсутстви и р а бот, где пр и води ли сь эф ф екти вны е м етоды обр а щ ени я ф ункц и и (5.7) и ли р а зл ож ени я чи сл а N на пр осты е м нож и тели . Э то обстоя тел ьство я вл я ется одной и з сл а бы х стор он, пр и сущ и х всем кр и птоси стем а м откр ы того ши ф р ова ни я , ба зи р ующ и хся на возведени и чи сел в бол ьши е степени по бол ьшом ум одул ю. Н есм отр я на вы шеска за нное, в да л ьнейшем и зл ож ени и все ж е будем пр и дер ж и ва ться пр едпол ож ени я о том , что обр а щ ени е ф ункц и и (5.7), р а вно ка к и р а зл ож ени е чи сел N на пр осты е м нож и тел и , пр едста вл я ются доста точно сл ож ны м и за да ча м и и поэтом упер ехва т зл оум ы шл енни ком чи сл а у не позвол и т ем у восста нови ть конф и денц и а л ьное сообщ ени е X. В этом , собственно, и

40

за кл юча ется одностор онность ф ункц и и (5.7). Ч то ж е ка са ется л овушки дл я этой ф ункц и и , то ее р оль в да нном сл уча е вы пол ня ет секр етны й кл юч d, поскол ькус его пом ощ ью обр а щ ени е ф ункц и и (5.7) сущ ественно упр ощ а ется . А бонент, вл а деющ и й секр етны м кл ючом d, с пом ощ ью ф ор м ул ы X = f -1(y) = y d mod(N) (5.9) относи тел ьно л егко восста нови т и сходное сообщ ени е X, р а сши ф р овы ва я тем са м ы м кр и птогр а м м уу. В этом , собственно, и за кл юча ется сущ ность кр и птоси стем ы RSA, где ши ф р ова ни е и сходны х сообщ ени й X осущ ествл я ется с и спол ьзова ни ем откр ы того кл юча - па р ы чи сел e и N и своди тся к вы чи сл ени ю кр и птогр а м м ы у с пом ощ ью ф ор м ул ы (5.7). Ра сши ф р ова ни е кр и птогр а м м ы у осущ ествл я ется с и спол ьзова ни ем секр етного кл юча - чи сл а d и своди тся к вы чи сл ени ю и сходного сообщ ени я X с пом ощ ью ф ор м ул ы X = yd mod (N) (5.9) П рим ер1. Пусть в ка честве пр осты х чи сел q и р вы бр а ны чи сл а q = 17 и p = 23. Т огда N = 17 • 23 = 391, а чи сло F(N) опр едели тся по ф ор м ул е (5), т.е. F(N) = 16• 22 = 352 = 25 • 11. В ка честве e пр и этом м ож но бр а ть пр ои звол ьное вза и м но пр остое F(N) чи сл о, на пр и м ер , чи сло e = 85. Т огда в ка честве чи сл а d м ож но вы бр а ть пр ои звол ьное чи сло, удовл етвор я ющ ее усл ови ю (5.6), на пр и м ер , чи сл о d = 29. Легко пр овер и ть, что па р а чи сел e = 85 и d = 29 удовл етвор я ет усл ови ю (5.6). О чер едны м конф и денц и а л ьны м сообщ ени ем м ож ет сл уж и ть пр ои звол ьное чи сл о X, удовл етвор я ющ ее усл ови ю 2≤ X ≤ N −2

(обр а ти м вни м а ни е, что и зи нтер ва л а возм ож ны х зна чени й X м ы и скл ючи л и чи сл а X = 1 и X = N - 1). ПустьX = 35. Т огда ши ф р огр а м м ой будет сл уж и тьчи сл о у = 3585 mod (391) = 307. Им енно чи сло у = 307 и посы л а ется по откр ы том у ка на л у свя зи в а др ес i-го а бонем ента - пол уча тел я и нф ор м а ц и и . Ч тобы восста нови ть и сходное сообщ ени е, т.е. чи сл о X, i-й а бонент возводи т чи сл о у = 307 в степень d = 29 по том уж е м одул ю N = 391: X = 30729 mod (391) = 35. А на л оги чно, если X = 51 (обр а ти м вни м а ни е, что чи сл о X = 51 кр а тно чи сл уq = 17), то y = 5185 mod(391) = 306, X = 30629 mod(391) = 51. В а ж но отм ети ть, что а бонент - отпр а ви тел ь конф и денц и а л ьны х чи сел вл а деет л и шь откр ы ты м ключом ши ф р ова ни я - па р ой чи сел N и e, зна ни е котор ы х не я вл я ется доста точны м дл я р а сши ф р ова ни я кр и птогр а м м . Е сл и допусти ть, на пр и м ер , что посл е ши ф р ова ни я очер едного сообщ ени я X его отпр а ви тел ь потер я л это сообщ ени е, то на основе и м ж е вы чи сл енной кр и птогр а м м ы у с пом ощ ью откр ы того кл юча ши ф р ова ни я он уж е не м ож ет восста нови ть и сходное сообщ ени е X. В этом и за кл юча ется спец и ф и ка кр и птоси стем откр ы того ши ф р ова ни я . И поскол ьку зна ни е кл юча ши ф р ова ни я вовсе не я вл я ется

41

доста точны м дл я того, чтобы восста нови ть и сходное сообщ ени е, то отпа да ет необходи м ость дер ж а ть этот кл юч в секр ете. А кол ь скор о сни м а ется необходи м ость дер ж а ть его в секр ете, то отпа да ет необходи м ость и в его и нди ви дуа л и за ц и и с ка ж ды м потенц и а л ьны м отпр а ви тел ем . Т ем са м ы м ста нови тся возм ож ны м не тол ько "откр ы ва ть" кл юч ши ф р ова ни я , но и сдел а тьего еди ны м дл я всех отпр а ви тел ей. В соответстви и с эти м ста нови тся еди ны м и секр етны й кл юч р а сши ф р ова ни я , т.е. одни м и тем ж е чи слом d р а сши ф р овы ва ются все за секр еченны е тексты , неза ви си м о от того, от ка кого и м енно отпр а ви тел я они пол учены . 5.4. Ор ган из ац ия эл е кт р о н н о й по дписив кр ипт о сист е м е RSA. В а ж ны м пр еи м ущ еством кр и птоси стем откр ы того ши ф р ова ни я вообщ е и кр и птоси стем ы RSA в ча стности я вл я ется возм ож ность довол ьно пр остой ор га ни за ц и и в ее р а м ка х эл ектр онной подпи си . Ра ньше, когда стор она м и , обм ени ва ющ и м и ся секр етны м и сообщ ени я м и , бы ли ди плом а ты , военны е и др ., м ож но бы л о говор и ть о на деж ности па р тнер ов по свя зи , об и х вза и м ном довер и и др уг к др угу. О сновной за ботой обм ени ва ющ и хся стор он служ и л о л и шьто, чтобы в конф и денц и а л ьную свя зь не см огл и вкл и ни ться тр етьи стор оны . Пр а кти чески бы ли и скл ючены сл уча и , когда посл е пол учени я очер едного конф и денц и а л ьного сообщ ени я а др еса т вел бы себя недобр осовестно и по ка ки м -л и бо сообр а ж ени я м объя вл я л о непол учени и и м этого сообщ ени я . Ил и ж е, на обор от, когда а бонент объя вл я л бы о получени и и м некотор ой и нф ор м а ц и и , хотя в действи тел ьности та кую и нф ор м а ц и ю он не пол уча л . Ины м и сл ова м и , р ечь шл а об обм ене конф и денц и а л ьны м и сообщ ени я м и м еж ду "свои м и ", котор ы е пол ьзова л и сь безгр а ни чны м вза и м ны м довер и ем . Пр и та кой поста новке впол не пр и ем л ем ы м и ока за ли сь кр и птоси стем ы , ба зи р ующ и еся на и спол ьзова ни и секр етны х кл ючей ши ф р ова ни я . Пр и нц и пи а л ьно и на я ка р ти на скл а ды ва ется сейча с, когда обм ен докум ента м и (сообщ ени я м и ) осущ ествл я ется м еж ду а бонента м и , котор ы е за ведом о не довер я ют др уг др угу. Н а пр и м ер , когда р ечь и дет об обм ене и нф ор м а ц и ей (пусть да ж е конф и денц и а льной) м еж дуком м ер чески м и ф и р м а м и , ба нка м и и л и и ны м и подобны м и ор га ни за ц и я м и . З десь дол ж ны бы ть пр едусм отр ены допол ни тел ьны е м ер ы , дока зы ва ющ и е ф а кт посы л ки и л и пол учени я соответствующ и х сообщ ени й. Им енно здесьпр оя вл я ется одно и зва ж ны х пр еи м ущ еств одностор онни х ф ункц и й и р еа л и зова нны х на ни х кр и птоси стем с откр ы ты м кл ючом ши ф р ова ни я . С пом ощ ью одностор онни х ф ункц и й уда ется ор га ни зова ть эл ектр онную подпи сь, котор а я по своей на деж ности вполне м ож ет конкур и р ова ть с обы чны м и подпи ся м и на бум а ж ны х носи тел я х. Пр осл еди м , на пр и м ер , за м еха ни зм ом ор га ни за ц и и эл ектр онной подпи си в р а м ка х си стем ы RSA, Пустьи м еется необходи м остьв том , чтобы j-м а бонентом в а др ес i-го а бонента бы ло посл а но некотор ое сообщ ени е (некотор ы й текст) X и чтобы к том уж е j-й а бонент подпи са л ся под эти м текстом , с тем , чтобы в посл едующ ем у i-го а бонента бы л о неопр овер ж и м ое (и л и почти неопр овер ж и м ое) дока за тел ьство того, что да нны й текст бы л посл а н не кем и ны м , ка к и м енно j-м а бонентом .

42

Будем р а ссм а тр и ва ть ва р и а нт р еа л и за ц и и эл ектр онной подпи си с и спол ьзова ни ем х еш -ф ункции от а р гум ента X, т.е. ф ункц и и h(X), обл а да ющ ей сл едующ и м и свойства м и : - хеш-ф ункц и я h(X) дол ж на бы тьчувстви тел ьна ко всевозм ож ны м м оди ф и ка ц и я м (и зм енени я м ) а р гум ента X, та ки м , ка к вста вка , вы бр осы , пер еста новки и т.п.; - ф ункц и я h(X) долж на обл а да ть свойством необр а ти м ости , т.е. за да ча подбор а текста X, котор ы й обл а да л бы да нной h(X), дол ж на бы ть чр езвы ча йно сл ож ной (вы чи сл и тел ьно нер а зр еши м ой); - вер оя тность того, что зна чени я h(X) двух р а зл и чны х текстов совпа дут, дол ж на бы тьни чтож но м а ла . Э л ектр онную подпи сь с и спол ьзова ни ем хеш-ф ункц и и h(X) в р а м ка х си стем ы RSA м ож но р еа ли зова тьсл едующ и м обр а зом . 1. О тпр а ви тел ь и нф ор м а ц и и (j-й а бонент) вы чи сл я ет хеш-ф ункц и ю h(X) от а р гум ента X - пер еда ва ем ого сообщ ени я . 2. В за ви си м ости от того, я вл я ется сообщ ени е X конф и денц и а л ьны м и л и нет: а ) ши ф р ует сообщ ени е X, т.е. вы чи сл я ет чи сл о у(Х ) = Xe mod(N) (5.10) и по откр ы том ука на л упосы л а ет его в а др ес i-го а бонента , б) в а др ес i-го а бонента посы л а ет чи сл о X. 3. С та ви т свою подпи сьподh(X), т.е. вы чи сл я ет чи сло S(h(X)) = (h(X))d mod (N) (5.11) и посы л а ет его в а др ес i-го а бонента . Пол уча тел ь подпи са нного текста (i-й а бонент) пр и необходи м ости , т.е. когда и м еет м есто сл уча й (а ), р а сши ф р овы ва ет текст с пом ощ ью ф ор м ул ы X = (y(X))d mod (N) (5.12) вы чи сл я ет хеш-ф ункц и ю h*(X) от а р гум ента X и свер я ет ее зна чени е с р езул ьта том р а сши ф р ова ни я кр и птогр а м м ы S(h(X)). Ины м и сл ова м и , пр овер я ется усл ови е h*(X) = (S(h(X))e mod (N) (5.13) собл юдени е котор ого и есть дока за тельство того, что сообщ ени е X с его хешф ункц и ей h(Х ) в а др ес i-го а бонента бы л о посл а но и м енно j-м а бонентом . В едь ни кто др угой, кр ом е а бонента , вл а деющ его секр етны м кл ючом d(j), не м ож ет вы чи сл и ть чи сло S(h(X)) та кое, чтобы оно удовл етвор и ло р а венству (5.13). З а м ети м , что в р езул ьта те "пер ехва та " чи сл а S(h(X)) зл оум ы шл енни к см ож ет восста нови ть хеш-ф ункц и ю h(X), поскол ьку чи сло e(j), т.е. откр ы ты й кл юч ши ф р ова ни я j-го а бонента , общ еи звестно. Н о это не пом ож ет ем ув дел е поддел ки подпи си . Д л я этого ем унеобходи м о вла деть за кр ы ты м ключом ши ф р ова ни я , т.е. чи слом d(j). Тол ько тогда он см ож ет и м и ти р ова ть посы л ку в а др ес л юбого а бонента пр ои звол ьного текста от и м ени (за подпи сью) j-го а бонента . Исходя и з этого, м ож но за ключи ть, что пр едъя вл ени е а р би тр у со стор оны i-го а бонента текста X, его хеш-ф ункц и и h(X) и чи сл а S(h(X)) я вл я ется доста точно убеди тел ьны м дока за тел ьством того, что текст X он пол учи л и м енно от j-го а бонента . Ко н т ро льн ые во про сы.

43

Д л я чего пр една зна чены кр и птоси стем ы ? В чем за кл юча ется пр оц едур а ши ф р ова ни я ? М ож но л и пр очи та тьза ши ф р ова нное сообщ ени е, не зна я ключа ? Н а чем основа на стр а теги я кр и птоа на л и за ? Ч то та кое одностор оння я ф ункц и я ? В чем см ы сл “откр ы тости ” кр и птоси стем откр ы того ши ф р ова ни я ? О пи ши те стр укур уа л гор и тм а RSA. Д л я ка ки х за да ч необходи м о пр и м енени е эл ектр онной подпи си ? К а к р а бота ет эл ектр онна я подпи сь? Пр одем онстр и р уйте это на пр и м ер е а л гор и тм а RSA. 10. Н а чем основа на дока за тел ьность си стем эл ектр онной подпи си ? Я вл я ется л и она а бсол ютной?

1. 2. 3. 4. 5. 6. 7. 8. 9.

6. Ц и ф р ов ы е и аналогов ы е с и гналы и пр еобр азов ани я. Спект р с и гнала. Д л я пер еда чи сообщ ени й на р а сстоя ни е необходи м о и спол ьзова ть си гна лы . Ра сстоя ни е, на котор ое пер еда ется сообщ ени е, м ож ет бы тьоченьнезна чи тел ьны м (на пр и м ер , пер еда ча ком а нд в Э В М м еж дуотдел ьны м и блока м и ) и л и огр ом ны м (м еж конти нента л ьна я и ли косм и ческа я свя зь). Пер еда ча сообщ ени й осущ ествл я ется с пом ощ ью пр оводны х, ка бел ьны х (в т.ч. оптоволоконны х), вол новодны х л и ни й и л и в свободном пр остр а нстве. В се и спол ьзуем ы е дл я пер еда чи сообщ ени й си гна лы м ож но р а здел и ть на сл едующ и е кл а ссы : пр ои звол ьны е по вел и чи не и непр ер ы вны е по вр ем ени - анал оговы е (р и с. 6.1, а ); пр ои звол ьны е по вел и чи не и ди скр етны е по вр ем ен – д ис крет ны е (р и с. 6.1, б); ква нтова нны е по вел и чи не и ди скр етны е по вр ем ени – квант ованны е (р и с. 6.1, в); ква нтова нны е по вел и чи не и ди скр етны е по вр ем ени - циф ровы е (р и с. 6.1, г).

44 S

S

0

t1

t

0

а)

t

б)

S

S

0

t

в)

0

t

г)

Рис. 6.1. Пр и а на л и зе си гна л ов и спол ьзуются пр едста вл ени е во вр ем енной и ча стотной обл а стя х (р и с. 6.2). 1. Врем енная облас т ь удобна пр и и зобр а ж ени и и зм енени й си гна л а во врем ени. М ы все зна ем , что та кое си нусои ды . К а ж да я си нусои да ха р а ктер и зуется тр ем я па р а м етр а м и : а м пли тудой, на ча л ьной ф а зой и ча стотой. О д на си нусои да и м еет од ну ча стоту. Ч ас т от а – это па р а м етр , пока зы ва ющ и й, ка к ча сто си гна л повтор я ет са м себя . О бр а тны м ча стоте я вл я ется период . О н соответствует пр одол ж и тел ьности , котор ую за ни м а ет во вр ем ени оди н пер и од пер и оди ческого си гна л а . Н а гр а ф и ка х пока за ны две си нусои ды с р а зл и чны м и ча стота м и и , сл едова тел ьно, р а зл и чны м и пер и ода м и . 2. Ч ас т от ная облас т ь удобна пр и и зобр а ж ени и ча стотного соста ва си гна лов. К а ж да я си нусои да , пр едста вл енна я на гр а ф и ке, и м еет одну ча стоту. С л едова тел ьно, в ча стотной обл а сти ка ж да я си нусои да пр едста вля ется тол ько одной ча стотной соста вл я ющ ей. Е е а м пл и туда (на гр а ф и ке – пр я м а я со стр ел кой ввер х) в ча стотной обл а сти пр опор ц и она л ьна а м пли туде си нусои ды во вр ем енной обл а сти . Ч а стота f1 соответствует ча стоте пер вой си нусои ды , а f2 – втор ой. Ч ем вы ше ча стота си нусои ды , тем да л ьше по оси ча стот она р а спол а га ется . (С ловосочета ни е «ча стотна я соста вл я ющ а я » дл я кр а ткости за м еня ют пр осто на «ча стоту» , есл и поня тно, что р ечь и дет о соста вл я ющ ей ча стотного спектр а , а не о поня ти и ча стоты ка к та ковом ).

45 Ч АС ТОТНАЯ ОБЛАС ТЬ

ВРЕМ ЕННАЯ ОБЛАС ТЬ

T =1/f 1

1

АМ ПЛИ ТУ ДА

ЗНАЧ ЕНИ Е С И Г НАЛА

Ч АС ТОТА

ВРЕМ Я

f

АМ ПЛИ ТУ ДА

T =1/f ЗНАЧ ЕНИ Е С И Г НАЛА

2

1

2

Ч АС ТОТА

ВРЕМ Я

f T = п е риод

f = ча ст от а

2

Рис. 6.2. Пр едста вл ени е си гна л а во вр ем енной и спектр а льной обл а стя х. Реа л ьны е си гна л ы пр едста вл я ют собой ком би на ц и ю и з м нож ества си нусои д с р а зл и чны м и ча стота м и , а м пли туда м и и на ча л ьны м и ф а за м и . З на чи т, в ча стотной обл а сти р еа л ьны й си гна л содер ж и т м ного ча стотны х соста вл я ющ и х. Н а пр и м ер , чтобы пр ои знести звук, соответствующ и й букве «Ф » , м ы и спол ьзуем огр ом ное кол и чество ча стотны х соста вл я ющ и х. Н а м пр едста ви тся удобны й сл уча й пр овер и ть это на одной и з дем онстр а ц и й. С ка за нное ти пи чно дл я м ноги х си гна л ов, котор ы е на м пр едстои т обр а ба ты ва ть. В тех сл уча я х, когда си гна л содер ж и т м ного ча стотны х соста вл я ющ и х с р а зл и чны м и а м пл и туда м и , его гр а ф и к в ча стотной обл а сти весьм а удобен. О н отобр а ж а ет пол ны й ча стотны й соста в конкр етного си гна л а . Ш ирина полос ы с игнала – это р а зность м еж дуего са м ой вы сокой и са м ой ни зкой ча стота м и , пр и котор ы х а м пл и туды пр евы ша ют за да нное зна чени е. В да нном сл уча е это fm. З на ть ши р и нупол осы си гна л а очень пол езно. С ее пом ощ ью, на пр и м ер , опр едел я ют ти п уси л и тел я , котор ы й сл едует и спол ьзова ть дл я уси л ени я си гна л а . Н ел ьзя и спол ьзова ть звуковой уси л и тел ь дл я си гна л а с ши р и ной пол осы 50кГц , пр осто потом у, что звуковой уси л и тел ь не уси л и ва ет ча стоты , котор ы е м ы не м ож ем сл ы ша ть. Поня ти е отр и ц а тел ьной ча стоты чи сто а бстр а ктное, си нусои д с отр и ц а тел ьны м и ча стота м и не сущ ествует. О дна ко оно удобно дл я м а тем а ти ческого опи са ни я си гна лов. Поэтом у на гр а ф и ке и зобр а ж ен си гна л в ди а па зоне – fm до fm.

46 ЗНАЧ ЕНИ Е С И Г НАЛА

l

ВРЕМ Я

l l

|A|

РЕАЛЬ НО С У Щ ЕС ТВУ Ю Щ И Е С И Г НАЛЫ ПРЕДС ТАВЛЯЮ Т С ОБОЙ К ОМ БИ НАЦ И Ю М НОГ И Х Ч АС ТОТ ОНИ И М ЕЮ Т Ш И РИ НУ ПОЛОС Ы

2fm

Ч АС ТОТНЫ Й С ПЕК ТР = Ч АС ТОТНОМ У С ОС ТАВУ

Ч АС ТОТА

-fm

2fm

fm

Рис. 6.3. С пектр р еа л ьного си гна л а . С пект р (час т от ны й) с игнала отобр а ж а ет его ча стотны й соста в. Э тот тер м и н пом ога ет поня ть, и з ка ки х ча стотны х соста вл я ющ и х (ча стот) обр а зова н конкр етны й си гна л . Н еобходи м о подчер кнуть р а зни ц у м еж ду ши р и ной пол осы и ча стотны м спектр ом . Ш и р и на полосы си гна л а да ет и нф ор м а ц и ю о р а зм а хе (ши р и не) ча стотного ди а па зона си гна л а . С пектр си гна л а отобр а ж а ет его точны й ча стотны й соста в. М ож но и м етьдва си гна л а с оди на ковой ши р и ной пол осы 10 кГц , но оди н, р а сполож енны й в ди а па зоне от 5 кГц до 15 кГц , а др угой – в ди а па зоне от 500 кГц до 510кГц . З на чи т, ш ирина полос ы не да ет и нф ор м а ц и и о значениях ча стот, содер ж а щ и хся в си гна л е. С пект рж е си гна л а позвол я ет и х уви деть(Ри с. 3). Т а ки м обр а зом , два си гна л а с оди на ковой ши р и ной пол осы м огут и м етьдва совер шенно р а зл и чны х спектр а . 6.1. Циф р о в ы е сигн ал ы . А на л оговы й си гна л пр едста вл я ет собой непр ер ы вны й во вр ем ени и по а м пл и туде пр оц есс, а его ц и ф р овое пр едста вл ени е есть посл едова тел ьность и л и р я д чи сел , состоя щ и х и з конечного чи сл а би т. Пр еобр а зова ни е а на логового си гна л а в ц и ф р овой состои т и з двух эта пов: д искре т иза ции п о в ре м е ни и кв а нт ов а нии п о а м п лит уд е . Д и скр ети за ц и я по вр ем ени озна ча ет, что си гна л пр едста вл я ется р я дом свои х отсчетов, взя ты х чер езр а вны е пр ом еж утки вр ем ени . Н а пр и м ер , когда м ы говор и м , что ча стота ди скр ети за ц и и 44,1 К гц , то это зна чи т, что си гна л и зм ер я ется 44100 р а зв течени е секунды . О сновной вопр ос на пер вом

47

эта пе пр еобр а зова ни я а на логового си гна л а в ц и ф р овой (оциф ровки) состои т в вы бор е ча ст от ы д искре т иза ции а на л огового пр оц есса . О твет на него да ет и звестна я т еорем а Кот ел ь никова-Найквис т а, утвер ж да ющ а я , что дл я того, чтобы а на логовы й (непр ер ы вны й по вр ем ени ) си гна л , за ни м а ющ и й пол осуча стот от 0 Гц до F Гц , м ож но бы л о а бсолютно точно восста нови ть по его отсчета м , ча стота ди скр ети за ц и и дол ж на бы ть ка к м и ни м ум вдвое бол ьше м а кси м а л ьной звуковой ча стоты F. Т а ки м обр а зом , есл и р еа л ьны й а на л оговы й си гна л , котор ы й м ы соби р а ем ся пр еобр а зова ть в ц и ф р овую ф ор м у, содер ж и т ча стотны е ком поненты от 0 Гц до 20 К гц , то ча стота ди скр ети за ц и и та кого си гна л а дол ж на бы тьне м еньше, чем 40 К гц . 6.1.1. Д и скр ети за ц и я . Пер вы й эта п ф ор м и р ова ни я ц и ф р ового си гна л а – ди скр ети за ц и я . Д и скр ети зи р уют си гна л в соответствующ и й м ом ент вр ем ени , а за тем удер ж и ва ют пол ученное зна чени е отсчета до м ом ента ф ор м и р ова ни я сл едующ его отсчета . О тсчет си гна л а и спол ьзуют дл я пол учени я его ц и ф р ового пр едста вл ени я . Пр и чи на удер ж и ва ни я вел и чи ны отсчета м ож ет бы ть не совсем очеви дна . «Пер и од удер ж и ва ни я » да ет вр ем я а на л ого-ц и ф р овом упр еобр а зова тел ю (А Ц П) вы пол ни тьего пр еобр а зова ни е. О чеви дно, что чем м еньше и нтер ва л ди скр ети за ц и и и , соответственно, вы ше ча стота ди скр ети за ц и и , тем м еньше р а зл и чи я м еж ду и сходны м си гна л ом и его ди скр ети зи р ова нной копи ей. Э то и нтуи ти вное пони м а ни е вы р а ж а ется сл едующ ей т е о ре м о й о т сч ет о в (К отел ьни ков (1933 г.), Н а йкви ст (1924 г.)): Пустьf(t) – ф ункц и я ви да fm f (t ) = ∫ ( a( f ) ⋅ cos(2πft ) + b( f ) ⋅ sin( 2πft )) df 0

48

З на чени я отсчетов

l

БЕРЕМ С ОВОК У ПНОС ТЬ М Г НОВЕННЫ Х ЗНАЧ ЕНИ Й НЕПРЕРЫ ВНО И ЗМ ЕНЯЮ Щ И Х С Я ДАННЫ Х

l

ПЕРИ ОД ДИ С К РЕТИ ЗАЦ И И Ф И К С И РУ ЕТС Я

l

Э ТО ДЕЛАЕТ И НФ ОРМ АЦ И Ю

ПОНЯТНОЙ

l РАС С ТОЯНИ Е М ЕЖ ДУ ОТС Ч ЕТАМ И

П Е РИО Д ДИС КРЕ ТИЗА Ц ИИ

В РЕ М Я ДИС КРЕ ТИЗА Ц ИИ (М Г Н О В Е Н Н О Е ЗН А Ч Е Н ИЕ ) l ВРЕМ Я, ВЫ БИ РАЕМ ОЕ ДЛЯ Ф И К С АЦ И И ОТС Ч ЕТА

Рис. 6.4. Д и скр ети за ц и я .

Рис. 6.5. А на л оговы й си гна л и его ди скр етное пр едста вл ени е. (т.е. f(t) ка к ф ункц и я вр ем ени “соста вл ена ” и з кол еба ни й с ча стотой, не пр евы ша ющ ей некотор ой кр и ти ческой ча стоты fm, на зы ва ем ой ш ирин о й по ло сы про пускан ия). Т огда есл и

ts ≤ 2 ⋅

1

fm

то f(t) м ож но пр едста ви тьв ви де sin( f (t ) = ∑ f (n ⋅ t s ) ⋅ n

π ⋅t

ts

π ⋅t

ts

− n ⋅π)

− n ⋅π

49

Д р уги м и слова м и , ф ункц и ю м ож но восста нови тьпо зна чени я м в точка х отсчета ( n ⋅ t s ), есл и ч аст о т а о т сч ет а 1 / t s не м еньше удвоенной кр и ти ческой ча стоты . 6.1.2. К ва нтова ни е. Кван т о ван ие — это отобр а ж ени е вещ ественны х чи сел в некотор ое счё тное м нож ество чи сел , а и м енно в м нож ество всех кр а тны х некотор ого чи сл а ∆ , на зы ва ем ого ш аго м кван т о ван ия (и ли пр осто кван т о м ). О тобр а ж ени е устр оено та к, что вся ки й К ва нтова ни е по сер еди не по гр а ни ц е

∆

Рис. 6.6. К ва нтова ни е. и з на ши х р а вны х по дли не и нтер ва лов чи сел отобр а ж а ется в то кр а тное ∆ , котор ое л еж и т в этом и нтер ва л е (р и с. 6.6). Ф и зи чески е сообр а ж ени я снова позвол я ют на м пр едпола га ть, что зна чени я ф ункц и и , пр едста вля ющ и е собой зна чени я некотор ой ф и зи ческой вел и чи ны , не м огут бы ть ка к угодно вели ки , а огр а ни чены свер ху и сни зу. Поэтом у ква нтова ни е пер еводи т зна чени я ф ункц и и в конечное м нож ество чи сел , котор ое м ож но пони м а ть ка к на бор зна ков. Т а ки м обр а зом , ди скр ети за ц и я , за котор ой сл едует ква нтова ни е, да ё т посл едова тел ьность зна ков - пр ои звол ьное сообщ ени е пр евр а щ а ется в ди скр етное, пр едста вл я ем ое сл овом на д некотор ы м на бор ом зна ков. О тдел ьны е зна ки этого на бор а - кр а тны е ша га ква нтова ни я - в свою очер едь м ож но двои чно за коди р ова ть. В техни ке этот м етод и звестен под на зва ни ем им пул ь с но-код овой м од ул яции (р и с 6.7). С ущ ествует нескол ько ва р и а нтов основной ф ор м ы ИК М : • Д ел ьта -М одул я ц и я (Д М ); • Д и ф ф ер енц и а л ьна я ИК М (Д ИК М ); • А да пти вна я Д и ф ф ер енц и а л ьна я ИК М (А Д ИК М ).

50 1000 0111 0110 0101 0100 0011 0010 0001

t

0000 0011

0100

0101

0110

0111

1000

1001

1010

1011

1100

1101

Рис. 6.7. Им пул ьсно-кодова я м одул я ц и я . В точка х отсчета вр ем ени счи ты ва ются зна чени я ф ункц и и , ука за нны е по оси t. Пр и ди ф ф ер енц и а л ьной ИК М (Д ИК М ) коди р уется тол ько р а зность м еж ду пр едска за нны м зна чени ем (на основе пр едшествующ и х отсчетов) и ф а кти чески и зм ер енны м зна чени ем отсчета а на логового си гна л а . Т а кое р ешени е обоснова но тем , что на бл юда ется си л ьна я степень кор р ел я ц и и м еж ду посл едова тел ьны м и зна чени я м и , котор а я обусл овл и ва ет зна чи тел ьную дол ю и збы точности , содер ж а щ ейся в зна чени я х отсчетов. О т того, на скол ько уда чно вы бр а н м еха ни зм пр едска за ни я зна чени й отсчетов, за ви си т степень сж а ти я и х ц и ф р ового пр едста вл ени я пр и коди р ова ни и . Т и пи чны й пр и м ер уда чного пр и м енени я Д ИК М – это коди р ова ни е стр ок м онотонного и зобр а ж ени я (ф отогр а ф и ческого), содер ж а щ его тол ько пл а вны е тона л ьны е пер еходы . В ка честве и л л юстр а ц и и ни ж е пр и водя тся две ги стогр а м м ы дл я одного и того ж е и зобр а ж ени я за коди р ова нного с пом ощ ью ИК М и Д ИК М , соответственно. Н а пер вой ги стогр а м м е (Ри с. 6.8), и м еется огр ом ное чи сло отсчетов с за м етны м зна чени ем ча стоты , пр и чем сл ож но вы дели ть и з ни х небол ьшую гр уппу, дл я котор ой м ож но и спол ьзова ть бол ее кор отки е кодовы е слова в ц ел я х сж а ти я . Н а втор ой ги стогр а м м е пр а кти чески все отсчеты на ходя тся в ди а па зоне от –20 до +20, и та ки м обр а зом и м м ож но на зна чи тьбол ее кор отки е кодовы е сл ова . В сл уча е и спол ьзова ни я а да пти вной Д ИК М (А Д ИК М ) ша г ква нтова ни я вы би р а ется а да пти вно, в за ви си м ости от скор ости и зм енени я ф ор м ы си гна л а . Пр и дел ьта -м одул я ц и и в ц и ф р овом ви де пр едста вл я ется р а зность вел и чи н посл едова тел ьны х отсчетов си гна л а . О сновны м достои нством да нного ф ор м а та я вл я ется пр остота констр укц и и устр ойств р еа л и зующ и х да нное пр еобр а зова ни е (однор а зр я дны й А Ц П). О дна ко дл я дости ж ени я за да нного ка чества си гна л а обы чно необходи м а гор а здо бол ьша я скор остьпер еда чи и нф ор м а ц и и . О днор а зр я дны й дел ьта -м одул я тор на ка ж дом та ктовом и нтер ва л е вы носи т би на р ное р ешени е путем ср а внени я ур овня входного си гна л а с вел и чи ной а ппр окси м и р ова нного пр еды дущ его отсчета . Е сл и си гна л бол ьше а ппр окси м и р ова нного зна чени я , то к посл еднем у доба вл я ется ф и кси р ова нное

51

пр и р а щ ени е и , на обор от, если си гна л м еньше пр еды дущ его отсчета , пр и р а щ ени е вы чи та ется (р и с. 6.10). Пр оц есс повтор я ется дл я ка ж дого отсчета , и а ппр окси м и р ова нное зна чени е си гна л а все вр ем я удер ж и ва ется вбл и зи и сти нного зна чени я входного си гна л а . Т очность а ппр окси м а ц и и пр я м о свя за на с вел и чи ной пр и р а щ ени я . О днор а зр я дны е чи сл а , на основа ни и котор ы х в коди р овщ и ке стр ои тся а ппр окси м и р ова нное зна чени е входного си гна л а , м ож но пер еда ть в др угое м есто и та м восста нови ть по ни м ту ж е са м ую вел и чи ну а на л огового си гна л а . Ги стогр а м м а ИК М отсчетов и зобр а ж ени я Ч а с т о т а

З на чени я отсчетов Ри с 6.8. Ги стогр а м м а ИК М отсчетов. Ги стогр а м м а Д ИК М отсчетов Ч а с т о т а

Ра зностьм еж дуотсчета м и

Ри с 6.9. Ги стогр а м м а Д ИК М отсчетов Пр и а да пти вной дел ьта -м одул я ц и и вели чи на ша га ква нтова ни я и зм еня ется в за ви си м ости от ха р а ктер а си гна л а . Е сл и вел и чи на си гна л а бы стр о увел и чи ва ется , то ша г ква нтова ни я увел и чи ва ется , чтобы и збеж а ть огр а ни чени я скор ости на р а ста ни я вы ходного си гна л а , пр и м а л ы х си гна л а х ша г ква нтова ни я на обор от ум еньша ется . Е сл и пер еда ются оди на ковы е чи сл а , то и м еет м есто огр а ни чени е скор ости на р а ста ни я а ппр окси м а ц и и , поскол ьку а ппр окси м и р ующ и й си гна л не успева ет отсл еж и ва ть и зм енени я входного си гна л а . Е сл и пер еда ются непр ер ы вно

52

чер едующ и еся чи сл а , то а ппр окси м и р ующ и й блок кол ебл ется относи тел ьно пр а ви л ьного зна чени я . В ы ходной си гна л бл ока а ппр окси м а ц и и А на л оговы й си гна л

Пер еда ва ем ы й поток двои чны х чи сел

Рис. 6.10. С и гна лы в си стем е дел ьта -м одул я ц и и : входной (а на л оговы й), вы ходной в блоке а ппр окси м а ц и и и пер еда ва ем ы й поток двои чны х чи сел .

1. 2. 3. 4. 5. 6. 7. 8.

Ко н т ро льн ые во про сы. К а ки е ти пы си гна лов и спол ьзуются дл я пер еда чи сообщ ени й ? В чем отл и чи е м еж дуни м и ? К а ки е пр едста вл ени я си гна л ов и спол ьзуются дл я и х а на л и за ? Ч то та кое ши р и на пол осы си гна л а и чем она отл и ча ется от его спектр а ? Ч то та кое а на л ого-ц и ф р овое и ц и ф р о-а на л оговое пр еобр а зова ни я и дл я чего они и спол ьзуются ? К а ки е эта пы вкл юча ет в себя пр оц едур а пол учени я ц и ф р ового си гна л а ? Ч то та кое ди скр ети за ц и я ? О т чего за ви си т и нтер ва л ди скр ети за ц и и ? В чем состои т см ы сл теор ем ы К отел ьни кова -Н а йкви ста ? В чем за кл юча ется ква нтова ни е? ИК М , Д ИК М , А Д ИК М , дел ьта -м одул я ц и я . Ч то общ его м еж дуни м и и в чем они р а зли ча ются ?

7. Пр опус кная с пос обнос т ь канала. Пол осой пр опуска ни я (пр опускной способностью) оц ени ва ется коли чество и нф ор м а ц и и , котор ое м ож ет бы ть пер еда но по ка на л у. Ш и р и на пол осы пр опуска ни я и зм ер я ется в би та х в секунду(би т/с) - дл я ц и ф р овы х си гна лов и л и в гер ц а х (Гц ) - дл я а на л оговы х си гна л ов, на пр и м ер , звуковы х вол н. Ш и р и на полосы пр опуска ни я дл я а на л оговой си стем ы р а вна р а зности вы чи та ни я на и ни зшей пер еда ва ем ой ча стоты и з на и вы сшей. Н а пр и м ер , ши р и на полосы пр опуска ни я , необходи м ой дл я пер еда чи чел овеческого гол оса , соста вля ет, пр и м ер но, 2700 Гц (3000 — 300) Гц . Е сл и р а ссм отр еть теор ем уотсчетов в свете теор и и и нф ор м а ц и и Ш еннона , то ка ж ды е ts = 1/2fm секунд нуж но пер еда ва ть сообщ ени е, а и м енно а м пл и тудное зна чени е. К ва нтова ни е своди т дело к вы бор уи з некотор ого конечного чи сла n а м пл и тудны х зна чени й, котор ы е поя вля ются с опр едел енны м и вер оя тностя м и pi.

53

Т а ки м обр а зом , H = ∑ pi ⋅ log2 (1 / pi ) - это коли чество и нф ор м а ц и и на оди н та кт. П о т о к ин ф о рм ации, т.е. и нф ор м а ц и я , пер еда ва ем а я в еди ни ц у вр ем ени , соста вл я ет C=

H

ts

= 2⋅

[би т/c].

f m⋅H

Пр и ум еньшени и ша га ква нтова ни я увел и чи ва ется поток и нф ор м а ц и и . О дна ко если на пер еда ва ем ую ф ункц и ю на кл а ды ва ются шум ы , и ска ж а ющ и е а м пл и тудны е зна чени я , будет дости га ться бол ьша я точность воспр ои зведени я не тол ько пол езного си гна л а , но и шум ов, что на кл а ды ва ет огр а ни чени я на поток и нф ор м а ц и и . В сл уча е, когда в спектр е шум а все ча стоты и м еют оди на ковую и нтенси вность, а а м пл и туды подчи ня ются нор м а л ьном уга уссовур а спр едел ени ю (“бел ы й га уссов шум ”)

H

≤ log2

1+ N s NR

где N s - ср едня я м ощ ностьси гна л а , N R - ср едня я м ощ ностьшум а . О тсюда пол уча ем м а кси м а л ьны й поток и нф ор м а ц и и по пер еда ющ ем ука на л у, и л и про пускн ую спо со б н о ст ь кан ала:

Ns C max = 2 ⋅ f m ⋅ H max = f m ⋅ log2 (1 + ) NR Т а ки м обр а зом , ка к это хор ошо и звестно и з техни ки свя зи , пр опускна я способность ка на л а м ож ет бы ть увел и чена тол ько за счё т увел и чени я ши р и ны полосы пр опуска ни я f m и ул учшени я отношени я м ощ ности си гна л а к м ощ ности шум ов. Таб лица 7.2. Тех ничес кие, х аракт ерис т ики каналов с вязи f m [Гер ц ]

Ns NR

C max

[би т/с]

f

а ) сетьа бонентского тел егр а ф а b) сетьпер еда чи да нны х ф едер а л ьной почты с) тел еф онна я сеть ф едер а л ьной почты d) тел еви зи онны й ка на л

120

~26

0.64 • 103

240

~ 26

1.28 • 103

3.1•103

~ 217

51 •103

7• 106

~217

130 •106

В та бл . 7.2 пр и ведены кр и ти ческа я ча стота , отношени е м ощ ности си гна л а к м ощ ности шум ов и м а кси м а л ьны й поток и нф ор м а ц и и (пр опускна я способность) дл я некотор ы х техни чески х пр и м ер ов ка на л ов.

54

В тех ж е по пор я дку пр едел а х, что и в гр а ф а х с) и d) этой та бли ц ы , л еж и т опр едел я ем ы й ф и зи ологи чески м и экспер и м ента м и м а кси м а л ьны й поток 4 и нф ор м а ц и и чер ез чел овеческое ухо (~5• 10 [би т/с]) и гла за (~5• 106 [би т/с]). В пр оти вополож ность этом у поток и нф ор м а ц и и , обр а ба ты ва ем ой в чел овеческом м озге, сущ ественно ни ж е. О н уста на вл и ва ется с пом ощ ью р а зл и чны х пси хол оги чески х экспер и м ентов, на пр и м ер по той м а кси м а л ьной скор ости , с котор ой м ож но осм ы сл енно чи та ть текст (15 - 40 букв в секунду, что соответствует пр и м ер но 20 - 50 [би т/с]) и л и осм ы сл енно р а згова р и ва ть (не бол ее 50 [би т/с]). Т а ки м обр а зом , тел егр а ф ны й ка на л пр и способл ен к возм ож ностя м чел овеческого м озга обр а ба ты ва ть и нф ор м а ц и ю. Ф и зи ол оги чески е ка на л ы (зр ени е и сл ух) допуска ют вы сокую и збы точность и нф ор м а ц и и , поступа ющ ей в м озг. Ко н т ро льн ые во про сы. 1. К а ка я свя зьм еж дупр опускной способностью ка на л а и шум а м и в ка на л е ? 2. О пр едел и те пр опускную способностьтел еф онной л и ни и , есл и пол оса пр опуска ни я соста вл я ет 3.1 кГц , Ns/Nr ~ 103.

8. Пер едача данны х 8.1. По л о са пр о пускан ия, диапаз о н част о т П ол ос ой пропус кания (пропус кной с пос обнос т ь ю ) оц ени ва ется кол и чество и нф ор м а ц и и , котор ое м ож ет бы ть пер еда но по ка на л у. Ш и р и на пол осы пр опуска ни я и зм ер я ется в би та х в секунду(би т/с) - дл я ц и ф р овы х си гна лов и л и в гер ц а х (Гц ) - дл я а на л оговы х си гна л ов, на пр и м ер , звуковы х вол н. Ш и р и на полосы пр опуска ни я дл я а на л оговой си стем ы р а вна р а зности вы чи та ни я на и ни зшей пер еда ва ем ой ча стоты и з на и вы сшей. Н а пр и м ер , ши р и на полосы пр опуска ни я , необходи м ой дл я пер еда чи чел овеческого гол оса , соста вля ет, пр и м ер но, 2700 Гц (3000 - 300) Гц . Ч ем ши р е пол оса пр опуска ни я ка на л а , тем бол ьше да нны х м ож ет бы тьпо нем у пер еда но. В ц и ф р овы х ком м уни ка ц и я х это озна ча ет бол ьшую би товую скор ость. В то ж е вр ем я , увел и чени е полосы пр опуска ни я , а , сл едова тел ьно, повы шени е ча стоты си гна л а , ум еньша ет дл и ну вол ны . Пр и бол ее ши р окой пол осе пр опуска ни я (вы ше ча стоты си гна л а ) возм ож на бол ее скор остна я пер еда ча . В этом сл уча е пр ои сходи т ум еньшени е дл и тел ьности и м пул ьсны х си гна лов, что пр и води т к и х и ска ж ени ю и повы шени ю вер оя тности возни кновени я оши бок. Э тот эф ф ект учи ты ва ется для сведени я к м и ни м ум уи ска ж ени я си гна л ов. В пр и лож ени и 2 (“Пол осы пр опуска ни я эл ектр ом а гни тного спектр а ча стот”) пр и веден р я д на и бол ее р а спр остр а ненны х ча стотны х ди а па зонов, и спол ьзуем ы х дл я а на л оговой пер еда чи и нф ор м а ц и и .

55

8.2. Диапаз о н ы р адио част о т н о го спе кт р а Ра ди оча стотны й спектр соста вл я ют ча стоты от свер хни зки х (VLF, very low frequency) до свер хвы соки х (SHF, super high frequency). Ч а щ е всего и спол ьзуются сл едующ и е ди а па зоны этого уча стка : • ср едни е ча стоты (MF, middle frequency), (535 -1605 кГц ) - дл я а м пл и тудном одул и р ова нного (AM) р а ди овещ а ни я ; • очень вы соки е ча стоты (VHP, very high frequency) (88 - 108 М Гц ) - дл я ча стотно-м одул и р ова нного (FM) р а ди овещ а ни я , (54 - 88 М Гц ) и (174 -216 М Гц ) дл я VHF-тел евещ а ни я ; • VHF и ул ьтр а вы сокоча стотны й (LINF, ultra high frequency) ди а па зон (108 174 М Гц ) для VHF-ши р оковещ а тел ьны х ка бел ьны х ста нц и й и (216 — 470 М Гц ) дл я VHF и UHF-ка бел ьного вещ а ни я • ул ьтр а вы соки е ча стоты (470 - 890 М Гц ) - дл я UHF-тел еви зи онного вещ а ни я ; • 10 пол ос в ди а па зоне ча стот (230 М Гц - 3 Т Гц вы дел ено для р а боты р а да р ны х устр ойств. Н а р и сунке 1 пр и води тся р а спр едел ени е ча стот м еж дур а зл и чны м и си стем а м и на зем ного вещ а ни я . В та бл и ц е 8.1 пр и водя тся да нны е по ча стотны м ди а па зона м свы ше 800 М Гц . Та блица 8.1.

С в е д е ния п о ча ст от ны м д иа п а зона м

Диа п а зоны ча ст от 824-849 М Гц 869 - 894 М Гц 896-901 М Гц 930 - 931 М Гц 902-928 М Гц 931-932 М Гц 932-935 М Гц 941-944 М Гц

Оп иса ние С р едства сотовой свя зи . Ч а стотны е, м оби л ьны е ком м уни ка ц и и на зем ного ба зи р ова ни я (на пр и м ер , усл уги р а ди о и м оби л ьной свя зи дл я обм ена да чны х Н ел и ц ензи р уем ое ком м ер ческое пр и м енени е (на пр и м ер , беспр оводна я тел еф онна я свя зьи л и л ока л ьна я сеть). Испол ьзуегся в тaки х обл а стя х, ка к пр ом ы шл енность на учна я дея тел ьность, м еди ц и на и т.п.. О бщ едоступное пейдж и нговое обсл уж и ва ни е. О дноточечны е л и бо м ноготочечны е ком м уни ка ц и и

1,85-1,97 ГГц 2,13-2,15 ГГц

К ом м ер ческое и неком м ер ческое обсл уж и ва ни е пер сона л ьной свя зи (PCS, personal communications services).

2,18-2,2 ГГц 2,4 - 2,51 ГГц 5,8 - 5,9 ГГц

Н ел и ц ензи р уем ое ком м ер ческое и спол ьзова ни е.

56

Рис. 8.1. Ра спр едел ени е ча стот дл я си стем на зем ного вещ а ни я .

57

8.3. По л о сы пр о пускан ия ц иф р о в ы х кан ал о в св яз и Пр опускна я способность ц и ф р овы х ка на л ов пер еда чи да нны х кол ебл ется в очень ши р оки х пр едел а х. Н и ж е пр и веден р я д пр и м ер ны х полос пр опуска ни я ц и ф р овы х ка на лов р а зл и чного ти па : • некотор ы е ц и ф р овы е тел еф онны е л и ни и : м енее 100 кби т/с; • сети ARCnet: 2.5 М би т/с; • сети ARCnet Plus: 20 М би т/с; • сети Ethernet: 10 М би т/с; • сети Fast Ethernet: 100 М би т/с; • сети Token Ring: 1. 4 и ли 16 М би т/с; • сети Fast Token Ring: 100 М би т/с; • оптоволоконны е сети (FDDI): окол о 100 М би т/с в на стоя щ ее вр ем я , теор ети чески , скор ость пер еда чи да нны х м ож ет бы ть на нескол ько пор я дков вы ше; • сети ATM: окол о 655 М би т/c; в будущ ем – до 2.488 Гби т/c. 8.4. Об м е н дан н ы м и Пр и пер еда че да нны х в эл ектр онном ви де по ф и зи ческой ср еде необходи м о, ка к м и ни м ум , два узл а - пер еда тчи к (отпр а ви тел ь и ли и сточни к и нф ор м а ц и и ) и пр и ем ни к (пол уча тел ь- и нф ор м а ц и и ). 8.4.1. К ом поненты , уча ствующ и е в обм ене да нны м и Д л я соеди нени я пер еда тчи ка и пр и ем ни ка и спол ьзуется ка на л пер еда чи да нны х, котор ы й состои т и з ф и зи ческой ср еды пер еда чи и соответствующ и х пр и ем о-пер еда ющ и х устр ойств, подкл юченны х к и сточни ку и пр и ем ни ку да нны х. З а да ча пер еда тчи ка состои т в коди р ова ни и и пер еда че и нф ор м а ц и и , а за да ча пр и ем ни ка - в и х пр и ем е и декоди р ова ни и . К оди р ова ни е да нны х м ож ет вкл юча ть в себя спец и а л ьны е опер а ц и и - на пр и м ер , сж а ти е (дл я устр а нени я и збы точности ) и ли ши ф р ова ни е (дл я пр едотвр а щ ени я неса нкц и они р ова нного доступа и л и пер ехва та и нф ор м а ц и и ). 8.4.2. Т и пы пер еда чи да нны х Пр и ня то р а зл и ча тьсл едующ и е ти пы пер еда чи и нф ор м а ц и и : • Прям а я (м е ж узлов а я) п е ре д а ча (point-to-point, direct): осущ ествл я ется по ка на л упр я м ой пер еда чи да нны х, котор ы й непоср едственно соеди ня ет пер еда тчи к с пр и ем ни ком . Пер еда ча та кого ти па ча сто встр еча ется в небол ьши х л ока л ьны х сетя х, а та кж е пр и и спол ьзова ни и вы дел енны х л и ни й свя зи . • К осв е нна я (mediated) п е ре д а ча : осущ ествл я ется поср едством одного и ли нескол ьки х пр ом еж уточны х узл ов. Т а ка я пер еда ча и спользуется в том сл уча е, есл и пр я м ое соеди нени е м еж дупр и ем ни ком и пер еда тчи ком отсутствует. В этом сл уча е, все пер еда ва ем ы е да нны е будут и дти по одном уи том уж е м а р шр уту.

58

• К ом м ут ируе м а я (switched) п е ре д а ча : непр я м а я пер еда ча , осущ ествл я ем а я поср едством нескол ьки х пр ом еж уточны х узл ов и (возм ож но) - по нескол ьки м м а р шр ута м . Д л я ком м ута ц и и пер еда ва ем ы х да нны х и м а р шр утов м огут и спол ьзова ться р а зл и чны е эл ем енты пер еда ва ем ы х да нны х - бл оки ф и кси р ова нной дл и ны , па кеты пер ем енной дл и ны и л и ц елы е сообщ ени я . Пр и ем ни к/Пер еда тчи к

Рис. 8.2. Пр я м а я пер еда ча . Пр и ем ни к / Пер еда тчи к Пр ом еж уточны е узл ы и ком поненты

Рис. 8.3. К освенна я пер еда ча • Ш ироков е ща т е ль на я (broadcast) п е ре д а ча : вы полня ется на все, пр една зна ченны е дл я пр и ё м а подобной и нф ор м а ц и и ста нц и и и л и узл ы . Пр и м ер ом ши р оковещ а тел ьной пер еда чи да нны х м ож ет сл уж и тьси стем а р а ди овещ а ни я . • Г руп п ов а я (multicast) п е ре д а ча : вы пол ня ется на все узл ы , на ходя щ и еся в опр едел енном спи ске а др есов. Пр и м ер а м и та кой пер еда чи м огут сл уж и ть р а ссы л ка сообщ ени й подпи счи ка м эл ектр онной конф ер енц и и и ли эл ектр онна я почта спец и а л и зи р ова нны х гр упп, р а ссы л а ем а я тол ько подпи счи ка м . • Пе ре д а ча с п ром е ж ут очны м хра не ние м (stored and forwarded): состои т в пер еда че да нны х на пр ом еж уточны й узел , где они хр а ня тся до пол учени я за пр оса и л и до и стечени я опр едел енного пр ом еж утка вр ем ени . • Вре м е нное м уль т ип ле ксиров а ние (TDM, time-division multiplexed): пр и м еня ется в сочета ни и с др уги м и способа м и пер еда чи и позвол я ет ор га ни зова ть па р а лл ел ьную пер еда чуда нны х от р а зл и чны х и сточни ков по одной л и ни и свя зи . Блоки да нны х, относя щ и еся к р а зли чны м сообщ ени я м , чер едуются и на пр а вл я ются в л и ни ю чер езопр едел енны е вр ем енны е пр ом еж утки .

59

Пр ом еж уточны е узл ы и ком поненты

Пр и ем ни к / Пер еда тчи к Рис. 8.4. К ом м ути р уем а я пер еда ча . Гр уппова я пер еда ча

Ш и р оковещ а тел ьна я пер еда ча

Рис. 8.5. Гр уппова я и ши р оковещ а тел ьна я пер еда чи . М етоди ка вр ем енного м ул ьти пл екси р ова ни я основа на на посл едова тел ьной пер еда че небол ьши х уча стков от ка ж дого входного ка на л а , отпр а вл я ющ его и нф ор м а ц и онную посл едова тел ьность та ки м обр а зом , что ка ж дом у входном у ка на л увы дел я ется опр едел енное коли чество вр ем енны х и нтер ва лов в вы ходном ка на л е. Е сли общ и й вы ходной ка на л пер еда чи да нны х р а здел ен м еж ду м ути пл екси р уем ы м и ка на л а м и , то ка ж ды й и зни х пол уча ет в свое р а спор я ж ени е 1/n ча сть вр ем ени общ его вы ходного ка на л а . М етоди ку вр ем енного м ул ьти пл екси р ова ни я и ногда и спол ьзуют дл я ор га ни за ц и и втор и чного ка на л а ,

60

котор ы й р а бота ет на гр а ни ц а х полосы пр опуска ни я основного ка на л а , то есть в обл а стя х котор ы е, обы чно, не и спол ьзуются дл я пер еда чи да нны х. Пр и м ул ьти пл екси р ова ни и с вр ем енны м р а здел ени ем отдел ьны е куски сообщ ени й ква нтуются , вза и м осм ещ а ются во вр ем ени и отпр а вл я ются в опр едел енном пор я дке • Ч а ст от ное м уль т ип ле ксиров а ние (FDM, frequency-division multiplexed): пр и м еня ется в сочета ни и с др уги м и способа м и пер еда чи и позвол я ет ор га ни зова ть па р а л л ел ьную пер еда чу да нны х от р а зли чны х и сточни ков. В отл и чи е от Т DМ общ а я м а ги стр а л ь р а здел я ется на нескол ько узкопол осны х ча стотны х ка на лов, по ка ж дом у и з котор ы х пер есы л а ется и нф ор м а ц и я соответствующ его и сточни ка р а здел енны х нескол ьки м и ча стотны м и ди а па зона м и , Д л я пер еда чи да нны х одного ка на л а , ем у вы дел я ется несущ а я ча стота и и нди ви дуа л ьны й ди а па зон ча стот внутр и ши р окого ка на л а пер еда чи . A B C D

A B C D

A B C D A B C D

Рис. 8.6. В р ем енное м ул ьти пл екси р ова ни е. Д а нны е З а щ и тна я пол оса Д а нны е З а щ и тна я пол оса Д а нны е З а щ и тна я пол оса Д а нны е З а щ и тна я пол оса

Рис. 8.7. Ч а стотное м ул ьти пл екси р ова ни е. Пр и м ул ьти пл екси р ова ни и с ча стотны м р а здел ени ем ка ж дом у ка на л у вы дел я ется собственна я пол оса ча стот, ка ж да я и з котор ы х пр едста вл я ет ча сть

61

общ ей пол осы пр опуска ни я . К а ж да я пол оса ча стот да нны х отдел ена от соседни х полос за щ и тны м и пол оса м и . • М уль т ип ле ксиров а ние с ра зд е ле ние м д лин в олн: дл и на вол ны и ча стота эл ектр ом а гни тны х и опти чески х си гна л ов обр а тно пр опор ц и она л ьны др уг др угу. М ул ьти пл екси р ова ни е с р а здел ени ем дл и н вол н а на л оги чно ча стотном у с тем отл и чи ем , что для одновр ем енной пер еда чи м ул ьти пл екси р уем ы х си гна л ов по одном ука бел ю и ли оптовол окнуи спол ьзуются вол ны р а зл и чны х дли н. Ко н т ро льн ые во про сы. 1. Ч то та кое пр опускна я способность ка на л а и в чем она и зм ер я ется ? К а кое зна чени е она и м еет дл я пер еда чи и нф ор м а ц и и ? Ч ем она обусл овл ена ? 2. К а ки е основны е ди а па зоны м ож но вы дели ть в пол осе ча стот си стем на зем ного вещ а ни я ? 3. К а ки е ком поненты м огут бы ть за действова ны пр и пер еда че да нны х в эл ектр онном ви де по ф и зи ческой ср еде ? К а ки е способы пер еда чи пр и этом и спол ьзуются ? 4. Ч то та кое м ул ьти пл екси р ова ни е ? З а счет чего дости га ется па р а л л ел ьность пер еда чи да нны х по одной л и ни и свя зи ?

Ли т ер ат ур а 1. А вети ся н Р.Д ., А вети ся н Д .О . Т еор ети чески е основы и нф ор м а ти ки . М .: Росси йск. гос. гум а ни т. ун-т, 1997. – 167 с. 2. А кр и та с А . О сновы а л гебр ы с пр и л ож ени я м и : Пер . с а нгл . – М ., М и р , 1994. - 544 с. 3. Ба уэр Ф .Л., ГоозГ. Инф ор м а ти ка . В водны й кур с: Пер . с нем . – М .: М и р , 1990. – 742 с. 4. К ол м огор ов А .Н . Т еор и я и нф ор м а ц и и и теор и я а л гор и тм ов. - М .: Н а ука , 1987. – 303 с. 5. К р и чевски й Р.Е . С ж а ти е и пои ск и нф ор м а ц и и . - М .: Ра ди о и свя зь, 1989. – 167 с. 6. Пи отр овски й Р.Г. Инф ор м а ц и онны е и зм ер ени я я зы ка . М .: Н а ука , 1968. – 164 с. 7. Х эм м и нг Р.В . Т еор и я коди р ова ни я и теор и я и нф ор м а ц и и . - М .:Ра ди о и свя зь, 1983. – 174 с. 8. Ш еннон К . Пр едска за ни е энтр опи и печа тного а нгл и йского текста // Ра боты по теор и и и нф ор м а ц и и и ки бер нети ке. - М . 1963. - C. 669-686. 9. Ш еннон К . М а тем а ти ческа я теор и я свя зи // Ра боты по теор и и и нф ор м а ц и и и ки бер нети ке. - М . 1963. - C. 243-332. 10. Ш еннон К . Т еор и я свя зи в секр етны х си стем а х // Ра боты по теор и и и нф ор м а ц и и и ки бер нети ке. - М . 1963. - C. 333-402. 11. Я гл ом А .М ., Я гл ом И.М . В ер оя тность и и нф ор м а ц и я . М .: Н а ука , 1973. – 511 с.

62

Пр и ложени я П рило ж е н ие 1. К илоба йт М е га ба йт Г ига ба йт Те ра ба йт Пе т а ба йт Э кза ба йт Зе т т а ба йт Й от т а ба йт

Ед иницы изм е ре ния инф орм а ции 210 220 230 240 250 260 270 280

1024 ба йт 1024 ки л оба йт 1024 м ега ба йт 1024 ги га ба йт 1024 тер а ба йт 1024 пета ба йт 1024 экза ба йт 1024 зета ба йт

1 048 576 ба йт 1 073 741 824 ба йт 1 099 511 627 776 ба йт 1 125 899 906 842 624 ба йт 1 152 921 504 606 846 976 ба йт 1 180 591 620 717 411 303 424 ба йт 1 208 92 81 614 629 174 706 176 ба йт

П рило ж е н ие 2. Полосы п роп уска ния эле кт ром а гнит ного сп е кт ра ча ст от . На зв а ние

Диа п а зон (инт е рв а л Длина в олны ча ст от )

К ом м е нт а рий

У л ь т ранизкие час т от ы С верх низкие час т от ы

0,001 -1 Гц 30 - 300 Гц

300 Гм - 300 М м 10 -1 М м

Подзвуковой ди а па зон

Ч ас т от ы речи С верх низкие час т от ы

300 Гц - 3 кГц 3 - 30 кГц 20 -100 кГц

1 М м -100 км 100 -10 км 15 – З км

З вуковой а уди оди а па зон

Низкие час т от ы

30 - 300 кГц

10 -1 км

С ред ние час т от ы

300 кГц - З М Гц

1 км — 100 м

Вы с окие час т от ы О чень вы с окие час т от ы У л ь т равы с окие час т от ы С верх вы с окие час т от ы Наивы с ш ие час т от ы

3 - 30 М Гц 30 - 300 М Гц

100 м -10 м 10 м -1 м

300 М Гц – 3 ГГц

1 м – 10 см

3-30 ГГц 30 - 300 ГГц

10 – 1см 1 см — 1 м м

300 ГГц -300 Т Гц

1 м м — 1 м км

И нф ракрас ны й с пект р

300 ГГц -430 Т Гц

1 м м - 0,7 м км

С пект рвид им ого с вет а

430 - 750 Т Гц

0,7- 0,4 м км

750 Т Гц - 30 ПГц

400 – 10 нм

30 ПГц - 30 Э Гц 30 - 3000 Э Гц

10 - 0,01 нм 0,01 - 0,0001 нм

У л ь т раф иол ет овы й с пект р Р ент геновс кие л учи Гам м а— л учи

У л ьтр а звуковой ди а па зон Д л и нновол новы й ди а па зон С р едневол новы й ди а па зон У л ьтр а кор отковол новы й ди а па зон У л ьтр а м и кр овол новы й ди а па зон Д и а па зон спектр а ви ди м ого света У л ьтр а ф и ол етовы й ди а па зон Рентгеновски е л учи Га м м а — л учи

Прим е ча ние : Гм - ги га м етр , М м - м ега м етр , км - ки л ом етр , с м - са нти м етр , м м - м и л л и м етр , м км -м и кр он, нм на ном етр . Гц - гер ц , кГц - ки л огер ц , М Гц - м ега гер ц , ГГц - ги га гер ц , ТГц - тер а гер ц , П Гц - пета гер ц , Э Гц - экза гер ц .

63

Содер жани е 1. Д и скр етны е сообщ ени я ............................................................................................... 3 1.1. З на ки , на бор ы зна ков, а л ф а ви ты ......................................................................... 3 1.2. К оды и коди р ова ни я ............................................................................................. 5 2. К оди р ова ни е и нф ор м а ц и и .......................................................................................... 6 2.1. С хем а двои чного коди р ова ни я текстов по Р. Ф а но......................................... 10 2.2. К оды Х а ф ф м а на .................................................................................................. 11 3. Изм ер ени е коли чества и нф ор м а ц и и ........................................................................ 14 3.1. Ш енноновски е сообщ ени я ................................................................................. 14 3.2. К ол и чество и нф ор м а ц и и .................................................................................... 14 3.3. Т р и подхода к опр едел ени ю кол и чества и нф ор м а ц и и (По К ол м огор ову). .. 19 3.3.1. К ом би на тор ны й подход............................................................................... 19 3.3.2. А л гор и тм и чески й подход........................................................................... 21 4. З а щ и та и нф ор м а ц и и от сл уча йны х пом ех. Пом ехоустойчи вое коди р ова ни е. ... 23 Геом етр и чески й подход............................................................................................ 30 5. Пер еда ча конф и денц и а л ьны х сообщ ени й. ............................................................. 33 5.1. К р и птоси стем ы , и спол ьзующ и е секр етны е кл ючи ши ф р ова ни я ............... 33 5.2. О дностор онни е ф ункц и и и кр и птоси стем ы откр ы того ши ф р ова ни я . ..... 36 5.3. К р и птоси стем а откр ы того ши ф р ова ни я RSA. ................................................ 38 5.4. О р га ни за ц и я электр онной подпи си в кр и птоси стем е RSA. ........................... 41 6. Ц и ф р овы е и а на логовы е си гна л ы и пр еобр а зова ни я . С пектр си гна л а . ............... 43 6.1. Ц и ф р овы е си гна л ы .............................................................................................. 46 6.1.1. Д и скр ети за ц и я ............................................................................................... 47 6.1.2. К ва нтова ни е. ................................................................................................ 49 7. Пр опускна я способностька на л а . ............................................................................. 52 8. Пер еда ча да нны х ....................................................................................................... 54 8.1. Полоса пр опуска ни я , ди а па зон ча стот.............................................................. 54 8.2. Д и а па зоны р а ди оча стотного спектр а ................................................................ 55 8.3. Пол осы пр опуска ни я ц и ф р овы х ка на л ов свя зи .............................................. 57 8.4. О бм ен да нны м и .................................................................................................. 57 8.4.1. К ом поненты , уча ствующ и е в обм ене да нны м и ........................................ 57 8.4.2. Т и пы пер еда чи да нны х ................................................................................ 57 Ли тер а тур а ...................................................................................................................... 61 Пр и л ож ени я .................................................................................................................... 62 С одер ж а ни е .................................................................................................................... 63

С оста ви тел ь

ка нди да т ф и зи ко-м а тем а ти чески х на ук С ы чев Ал екс анд рВас ил ь евич

Реда ктор

Бунина Т.Д.