Практическое руководство по статистическому анализу в физиологии

М И Н И СТ Е РСТ В О О БРА ЗО В А Н И Я РО ССИ Й СК О Й Ф Е Д Е РА Ц И И В О РО Н Е Ж СК И Й ГО СУ Д А РСТ В Е Н Н Ы Й У Н И В Е РСИ Т Е Т

П Р А КТИ Ч Е С КО Е Р У КО В О Д С ТВ О П О

С ТА ТИ С ТИ Ч Е С КО М У А Н А Л И ЗУ В Ф И ЗИ О Л О Г И И Д лястуден товдн евн огоотделен ия 3 курса биолого-почвен н огофакультета поспециальн ости 011600 « Биология»

В О РО Н Е Ж 2003

2

У тверж ден о н аучн о-м етодическим советом биолого-почвен н ого факультета 24 сен тября2002 г. (П ротокол№ 11).

Составители: Рецкий М .И ., Ч ерн ов В .И ., Сем ен ов С.Н ., Сереж ен ко Н .П .

П рактическоеруководство подготовлен о н а кафедрефизиологии человека и ж ивотн ы х биолого-почвен н ого факультета В орон еж ского государствен н ого ун иверситета Реком ен дуется для студен тов3 курса дн евн ого отделен ия биологопочвен н ого факультета, обучаю щ их ся по специальн ости 011600 « Биология» .

3

П Р ЕДИ С Л О ВИ Е М етодическое пособие по статистическом у ан ализу исследован ий в физиологии предн азн ачен о для студен товстарш их курсов, чтобы пом очь н ачин аю щ им исследователям освоить осн овн ы е пон ятия м атем атической статистики и более полн о представить диапазон прим ен ен ия статистических м етодов. В пособии рассм атриваю тся осн овн ы е статистические пон ятия, дан ы краткие описан ия м етодовобработки и ан ализа эм пирических дан н ы х : построен ие статистических оцен ок, парам етрические и н епарам етрические м етоды проверки статистических гипотез, дисперсион н ы й, корреляцион н ы й и регрессион н ы й ан ализ, н екоторы евопросы план ирован ияэксперим ен та. П особие н ачин ается с обзора элем ен тарн ы х (осн овн ы х ) пон ятий м атем атической статистики, а затем болееподробн он а кон кретн ы х прим ерах из различн ы х областей физиологии, биологии и м едицин ы , вклю чая лабораторн ы е и другие виды исследован ий, показан ы отдельн ы е возм ож н ости и области использован ияпрограм м н ого пакета статистической диалоговой систем ы « STADIA» . П редставлен н ы й м атериалиллю стрирован 17 таблицам и и 22 рисун кам и. В прилож ен ии приведен ы таблицы осн овн ы х статистических критериев. Н астоящ ее м етодическое пособие подготовлен о преподавателям и кафедры физиологии человека и ж ивотн ы х биолого-почвен н ого факультета В орон еж ского государствен н ого ун иверситета (М .И . Рецкий) и кафедры ин форм ацион н ы х систем общ ествен н ого здоровья и здравоох ран ен ия В орон еж ской государствен н ой м едицин ской академ ии им . Н .Н . Бурден ко (В .И . Ч ерн ов, С.Н . Сем ен ов, Н .П . Сереж ен ко) н а осн ове опы та проведен ия практических зан ятий со студен там и, вы полн ен ия им и курсовы х и диплом н ы х работ. Рецен зен т – кан дидат биологических н аук, доцен т кафедры биофизики и биотех н ологии С.Г. Резван .

4

С О ДЕР Ж А Н И Е О бщ иесведенияо статистическо м наблюдении................................... 6 И сследован иезависим остей всравн ен ии сэксперим ен тальн ы м и исследован иям и........................................................................................ 6 Связи м еж ду перем ен н ы м и...................................................................... 8 Т ипы ош ибок и м ощ н остькритерия...................................................... 13 С татистическиесравнения.................................................................... 14 t-критерий длян езависим ы х вы борок ................................................... 15 Болееслож н ы егрупповы есравн ен ия.................................................... 16 t-критерий длязависим ы х вы борок....................................................... 17 О цен ка достоверн ости различий м еж ду разм ерам и долей................... 19 О пределен иен еобх одим ого объем а вы борки при альтерн ативн ом варьирован ии призн аков........................................................................ 20 С редниевеличины................................................................................... 21 О пределен иеобъем а вы борки дляполучен иярепрезен тативн ы х средн их величин ..................................................................................... 26 О брабо тка данных выбо ро чно го исследо вания методами о писательно й статистикив слу чаено рмального распределения данных с применением про граммно го пакета STADIA...................................... 26 Краткий о бзо р по нятия«критерий значимо сти» ............................... 31 И м ею тли больш ин ствоперем ен н ы х н орм альн оераспределен ие? ..... 31 О бъем вы борки....................................................................................... 32 П роблем ы изм ерен ия.............................................................................. 32 П арам етрическиеи н епарам етрическием етоды ................................... 32 К раткий обзорн епарам етрических процедур....................................... 32 О писательн ы естатистики...................................................................... 33 Н епараметрическаястатистика............................................................ 34 К акой м етод использовать? .................................................................... 35 К ритерий соответствияП ирсон а (Х И -квадрат) .................................... 36 К ритерий В илкоксон а длясвязан н ы х совокупн остей .......................... 38 К ритерий зн аков...................................................................................... 39 К ритерий М ан н а –У итн и....................................................................... 39 Т естК олм огорова –См ирн ова............................................................... 40 К ритерий К олм огорова –См ирн ова дляодн ой вы борки..................... 40 П роверка статистических гипотез впакетеSTADIA сиспользован ием м етодовн епарам етрической статистики............................................... 43 Ко рреляцио нный анализ........................................................................ 46 О пределен иеобъем а вы борки дляполучен иярепрезен тативн ого коэффициен та корреляции..................................................................... 51 Р егрессио нный анализ............................................................................ 52 Регрессивн ы й ан ализ сиспользован ием пакета STADIA..................... 54

5

Д исперсио нный анализ........................................................................... 57 П роверка зн ачим ости.............................................................................. 58 О сн овн аялогика дисперсион н ого ан ализа............................................ 58 М н огофакторн ы й дисперсион н ы й ан ализ............................................. 58 Главн ы еэффекты . попарн ы е(двух факторн ы е) эффекты взаим одействия....................................................................................... 59 О бщ ий способ описан иявзаим одействий ............................................. 60 О дн офакторн ы й дисперсион н ы й ан ализ впакетеSTADIA................... 61 Д вух факторн ы й дисперсион н ы й ан ализ впакетеSTADIA ................... 64 П рило ж ения.............................................................................................. 67

6

О Б Щ И Е С В Е Д Е Н И Я О С ТА ТИ С ТИ Ч Е С КО М Н А Б Л Ю Д Е Н И И М ассовы еявлен ия, изучаем ы естатистикой, состоятиз одн ородн ы х в определен н ом отн ош ен ии е диниц на б люде ния . Совокупн ость таких отн осительн о одн ородн ы х , н о ин дивидуальн о различн ы х един иц, объедин ен н ы х вотн ош ен ии н екоторы х общ их условий для группового изучен ия, н азы ваетсяс т а т ис т иче с кой с овокупнос т ь ю, а число един иц совокупн ости − об ъе мом с овокупнос т и. Ст а т ист иче с кое на б люде ние предусм атривает сбор сведен ий по заран ееразработан н ом у план у. Ф актический м атериал, содерж ащ ийсявпервичн ы х докум ен тах учета (история болезн и, карта эпидем иологического обследован ия и т. д.), н уж дается в упорядочен ии и систем атизации собран н ы х дан н ы х с тем , чтобы получить из н их ин тересую щ ую ин форм ацию . Э тотпроцесс н азы вается г руппировкой. Группировка предусм атривает расчлен ен ие совокупн ости н а группы , одн ородн ы е по каком у-либо одн ом у призн аку (простая группировка) или по н ескольким призн акам (ком бин ацион н ая группировка). П роцесс группировки н е просто тех н ический прием , а глубоко осм ы слен н ое действие, н аправлен н ое н а получен ие объективн ой и полн оцен н ой ин форм ации с учетом поставлен н ой задачи. Н аиболее прием лем ой форм ой группировки являю тся статистические таблицы , статистические ряды и т. д., когда числовы езн ачен ия призн ака располож ен ы вопределен н ом порядке. Ч т о т ак ое пе р е м е н н ы е ? П ерем ен н ы е− этото, чтом ож н о изм ерять, кон тролировать или что м ож н о изм ен ять в исследован иях . П ерем ен н ы е отличаю тсям н огим и аспектам и, особен н о той ролью , которую он и играю т висследован иях , ш калой изм ерен ияи т.д. И С С Л Е Д О В А Н И Е ЗА В И С И М О С ТЕ Й В С Р А В Н Е Н И И С Э КС П Е Р И М Е Н ТА Л Ь Н Ы М И И С С Л Е Д О В А Н И Я М И

Больш ин ство эм пирических исследован ий дан н ы х м ож н о отн ести к одн ом у из н азван н ы х типов. В исследован ии корреляций (зависим остей, связей) вы н евлияете(или, по крайн ей м ере, пы таетесь н евлиять) н а перем ен н ы е, а только изм еряете их и х отите н айти зависим ости (корреляции) м еж ду н екоторы м и изм ерен н ы м и перем ен н ы м и, н априм ер, м еж ду кровян ы м давлен ием и уровн ем х олестерин а. В эксперим ен тальн ы х исследован иях , н апротив, вы варьируете н екоторы е перем ен н ы е и изм еряете воздействияэтих изм ен ен ий н а другиеперем ен н ы е. Н априм ер, исследовательм ож ет искусствен н о увеличивать кровян ое давлен ие, а затем н а определен н ы х уровн ях давлен ия изм ерить уровен ь х олестерин а. А н ализ дан н ы х вэксперим ен тальн ом исследован ии такж е прих одит к вы числен ию « корреляций» (зависим остей) м еж ду перем ен н ы м и, а им ен н о м еж ду перем ен н ы м и, н а которы е воздействую т, и перем ен н ы м и, н а которы е влияет это воздействие. Т ем н е м ен ее, эксперим ен тальн ы е дан н ы е потен циальн о сн абж аю т н ас более качествен н ой ин форм ацией. Т олько эксперим ен тальн о м ож н о убеди-

7

тельн о доказать причин н ую связь м еж ду перем ен н ы м и. Н априм ер, если обн аруж ен о, что всякий раз, когда изм ен яетсяперем ен н аяA, изм ен яетсяи перем ен н ая B, то м ож н о сделать вы вод — « перем ен н ая A оказы вает влиян ие н а перем ен н ую B» , т.е. м еж ду перем ен н ы м и А и В им еетсяпричин н аязависим ость. Результаты корреляцион н ого исследован ия м огут бы ть проин терпретирован ы вкаузальн ы х (причин н ы х ) терм ин ах н а осн овен екоторой теории, н осам и посебен ем огутотчетливодоказатьпричин н ость. Зависим ы е и н е зависим ы е пе р ем е н н ы е . Н езависим ы м и перем ен н ы м и н азы ваю тся перем ен н ы е, которы е варьирую тся исследователем , тогда как зависим ы еперем ен н ы е− это перем ен н ы е, которы еизм еряю тсяили регистрирую тся. М ож ет показаться, что проведен ие этого различия создает путан ицу втерм ин ологии, поскольку как говорят, что « всеперем ен н ы езависят отчего-н ибудь» . Т ем н ем ен ее, одн аж ды отчетливо проведя это различие, вы пойм ете его н еобх одим ость. Т ерм ин ы зависим ая и н езависим ая перем ен н ая прим ен яю тся восн овн ом вэксперим ен тальн ом исследован ии, где эксперим ен татор м ан ипулирует н екоторы м и перем ен н ы м и, и в этом см ы сле он и « н езависим ы » от реакций, свойств, н ам ерен ий и т.д., присущ их объектам исследован ия. Н екоторы е другие перем ен н ы е, как предполагается, долж н ы « зависеть» от действий эксперим ен татора или от эксперим ен тальн ы х условий. И н ы м и словам и, зависим остьпроявляется вответн ой реакции исследуем ого объекта н а оказан н ое н а н его воздействие. О тчасти в противоречии с дан н ы м разгран ичен ием пон ятий н ах одится использован ие их висследован иях , где вы н е варьируете н езависим ы е перем ен н ы е, а только приписы ваетеобъекты к « эксперим ен тальн ы м группам » , осн овы ваясьн а н екоторы х их априорн ы х свойствах . Н априм ер, если вэксперим ен те м уж чин ы сравн иваю тся с ж ен щ ин ам и отн осительн о числа лейкоцитов(WCC), содерж ащ их ся вкрови, то « П ол» м ож н о н азвать н езависим ой перем ен н ой, а WCC зависим ой перем ен н ой. Ш к алы изм е р е н ий . П ерем ен н ы еразличаю тсятакж етем , « н асколько х орош о» он и м огутбы тьизм ерен ы или, другим и словам и, как м н ого изм еряем ой ин форм ации обеспечивает ш кала их изм ерен ий. О чевидн о, вкаж дом изм ерен ии присутствует н екоторая ош ибка, определяю щ ая гран ицы « количества ин форм ации» , которое м ож н о получить вдан н ом изм ерен ии. Д ругим фактором , определяю щ им количество ин форм ации, содерж ащ ейся вперем ен н ой, является тип ш калы , вкоторой проведен о изм ерен ие. Различаю т следую щ ие типы ш кал: a)н ом ин альн ая; b)порядковая (ордин альн ая); c)ин тервальн ая; d)отн осительн ая(ш кала отн ош ен ия). Соответствен н о им еем четы ре типа перем ен н ы х : (a) н ом ин альн ы е, (b) порядковы е(ордин альн ы е), (c) ин тервальн ы еи (d) отн осительн ы е. Номина ль ные пе ре ме нные использую тся только для качествен н ой классификации. Э то озн ачает, что дан н ы еперем ен н ы ем огутбы ть изм ерен ы только втерм ин ах прин адлеж н ости к н екоторы м , сущ ествен н о различн ы м классам ; при этом вы н е см ож ете определить количество или упорядочитьэти классы . Н априм ер, 2 ин дивидуум а различим ы втерм ин ах пере-

8

м ен н ой А (прин адлеж ат к разн ы м н ацион альн остям ). Т ипичн ы е прим еры н ом ин альн ы х перем ен н ы х − пол, н ацион альн ость, цвет, город и т.д. Ч асто н ом ин альн ы еперем ен н ы ен азы ваю ткатегориальн ы м и. П оря дковые пе ре ме нные позволяю т ран ж ировать (упорядочить) объекты , указав, какиеиз н их вбольш ей или м ен ьш ей степен и обладаю ткачеством , вы раж ен н ы м дан н ой перем ен н ой. О дн ако он и н е позволяю т сказать « н а сколько больш е» или « н а сколько м ен ьш е» . П орядковы е перем ен н ы е ин огда такж е н азы ваю т ордин альн ы м и. Т ипичн ы й прим ер порядковой перем ен н ой − социальн о-экон ом ический статус сем ьи. Т ак, возм ож н о, что уровен ь сем ьи соответствует верх н ем у средн ем у уровн ю вы ш е средн его уровн я, одн ако сказать, что разн ица м еж ду н им и равн а, скаж ем , 18% м ы н е см ож ем . Сам о располож ен иеш калвследую щ ем порядке: н ом ин альн ая, порядковая, ин тервальн аяявляетсях орош им прим ером порядковой ш калы . Инт е рва ль ные пе ре ме нные позволяю тн етолько упорядочивать объекты изм ерен ия, н о и числен н о вы разитьи сравн итьразличиям еж ду н им и. Н априм ер, тем пература, изм ерен н ая вградусах Ф арен гейта или Ц ельсия, образует ин тервальн ую ш калу: тем пература 40 градусоввы ш е, чем тем пература 30 градусов, и увеличен ие тем пературы с 20 до 40 градусоввдвое больш еувеличен иятем пературы от30 до40 градусов. О т нос ит е ль ные пе ре ме нные очен ь пох ож и н а ин тервальн ы е перем ен н ы е. В дополн ен ие ко всем свойствам перем ен н ы х , изм ерен н ы х вин тервальн ой ш кале, их х арактерн ой чертой является н аличие определен н ой точки абсолю тн ого н уля, таким образом , для этих перем ен н ы х являю тся обосн ован н ы м и предлож ен иятипа: x вдва раза больш е, чем y. Т ипичн ы м и прим ерам и ш калотн ош ен ий являю тсяизм ерен ияврем ен и или простран ства. Н априм ер, тем пература по К ельвин у образует ш калу отн ош ен ия, и вы м ож етен етолько утверж дать, чтотем пература 200 градусоввы ш е, чем 100 градусов, н о и что он а вдвое вы ш е. И н тервальн ы е ш калы (н априм ер, ш кала Ц ельсия) н е обладаю т дан н ы м свойством ш калы отн ош ен ия. Зам етим , что вбольш ин стве статистических процедур н е делается различия м еж ду свойствам и ин тервальн ы х ш кали ш калотн ош ен ия. С В Я ЗИ М Е Ж Д У П Е Р Е М Е Н Н Ы М И

Н езависим о от типа, две или более перем ен н ы х связан ы (зависим ы ) м еж ду собой, если н аблю даем ы езн ачен ияэтих перем ен н ы х распределен ы согласован н ы м образом . Д ругим и словам и, перем ен н ы езависим ы , если их зн ачен ия систем атическим образом согласован ы друг с другом в им ею щ их ся н аблю ден иях . Н априм ер, перем ен н ы е « П ол» и « Ч исло лейкоцитов» м огли бы рассм атриваться как зависим ы е, если бы больш ин ство м уж чин им ело вы сокий уровен ь « Ч исло лейкоцитов» , а больш ин ство ж ен щ ин — н изкий « Ч исло лейкоцитов» , или н аоборот. « Рост» связан с « В есом » , потом у что обы чн о вы сокие ин дивиды тяж елее н изких ; « IQ» (коэффициен т ин теллекта) связан с « К оличеством ош ибок» втесте, т.к. лю ди с вы соким зн ачен ием IQ делаю тм ен ьш еош ибок и т.д.

9

Статистическом у н аблю ден ию , представляю щ ем у собой н ачальн ы й этап исследован ия, долж н о уделяться больш ое вн им ан ие, так как от полн оты и качества собран н ы х дан н ы х во м н огом зависят и вы воды . Статистическое н аблю ден ие осущ ествляется как посредством отчетн ости, так и посредством специальн оорган изован н ы х исследован ий. Результатили исх од отдельн ого испы тан ия (статистического н аблю ден ия) н азы вается с об ыт ие м. Реализация его, как правило, возм ож н а при н аличии ком плекса условий, н еобх одим ы х длятого, чтобы дан н оесобы тие произош ло. Ч исловая м ера возм ож н ости осущ ествлен ия определен н ого собы тия вн екотором количестве случаевиз общ его числа возм ож н ы х н азы ваетсяве роя т ност ь ю (р). Е дин ицы совокупн ости обы чн о обладаю т м н огим и призн акам и, которы е им ею т различн ое вы раж ен ие у отдельн ы х един иц. Т ак, н априм ер, больн ы е различаю тся по полу, возрасту, профессии и т. д. П ризн аки, прин им аю щ ие различн ы е зн ачен ия у отдельн ы х един иц совокупн ости, н азы ваю тся ва рь ирующими, а отдельн ы е числовы е зн ачен ия варьирую щ его призн ака − ва риа нт а ми (xi). В арьирован ие − х арактерн ое свойство всего ж ивого. В арьирую щ ие призн аки подразделяю тся н а а т риб ут ивные (ка че с т ве нные ) и количе с т ве нные . П ризн ак н азы вается атрибутивн ы м , если отдельн ы е его зн ачен ия вы раж аю тся ввиде состоян ия, свойстви т. д., присущ их явлен ию (профессиябольн ы х , вид м икроорган изм ов, цветм очи и т. д.). К количествен н ы м отн осят те призн аки, отдельн ы е зн ачен ия (вариан ты ) которы х вы раж аю тсяввидечисел(количество лейкоцитов, титр ан тител, количеством икроорган изм ови т. д.). Располож ен иевариан твпорядкевозрастан ия(ум ен ьш ен ия) их числовы х зн ачен ий, показы ваю щ ее закон ом ерн ость распределен ия един иц изучаем ой совокупн ости, н азы вается ва риа ционным ря дом. В ариацион н ы е ряды , вы раж ен н ы е ввиде целы х чисел, н азы ваю тся дискре т ными, а при вы раж ен ии количествен н ы х призн аковввидеин тервалов− инт е рва ль ными. Д ля обобщ аю щ ей х арактеристики качествен н о одн ородн ы х совокупн остей использую тся с ре дние ве личины, благодаря прим ен ен ию которы х статистика, им ея дело с м ассовы м и явлен иям и, получает возм ож н ость перех одить отедин ичн ого к общ ем у, от случайн ого − к закон ом ерн ом у. О дн ой из таких величин являетсяс ре дня я а риф ме т иче с ка я (обозн ачаем аякак х или М), получ аю щ аяся при делен ии сум м ы одн ородн ы х величин , х арактеризую щ их зн ачен иеопределен н огопризн ака, н а числовариан т. П р им ер . Зн ачен ия вариан т составляю т: 8, 16, 9, 3, 14, 30, 26. Сум м а величин равн а 105, а x =105:7=15. О дн ако средн яя арифм етическая сам а по себен ичего н еговорито том вариацион н ом ряде, из которого он а вы числен а, так как колебан иязн ачен ий вариан твн утри ряда м огутбы тьразличн ы . Н априм ер: 1-й вариацион н ы й ряд: 8, 16, 9, 3, 14, 30, 26; x =15; 2-й вариацион н ы й ряд: 2, 8, 3, 5, 7, 22, 58; x =15. В обоих случаях средн ие арифм етические равн ы , одн ако он и получен ы из рядовс различн ы м разм ах ом . Ра зма х − разн ость м еж ду м акси-

10

м альн ы м и м ин им альн ы м зн ачен ием вариан т. В первом случае разм ах равен 30-3=27, во втором − 58-2=56. Ч ем больш е ин дивидуальн ы е зн ачен ия вариан т различаю тся м еж ду собой, тем больш еон и отличаю тся и от средн ей арифм етической, являю щ ейся цен тром группирован ия вариан т дан н ого ряда. В еличин а отклон ен ия каж дой вариан ты от средн ей арифм етической н азы вается лине йным от клоне ние м ( d ), т. е. d = x − x i . О дн ако при ан ализе степен и отклон ен ия (рассеян ия) вариан т используется с ре дне е ква дра т иче с кое от клоне ние (σ ), так как он о х арактеризует вариацию н е отдельн о взяты х , а всех вариан т ряда. В еличин а σ2 или D н осит н азван ие дис пе рс ии.

∑d

2

∑d

2

, ; при n

Esc В ы х о д с пр е р ы ва н ие м

Рис.10. Результаты ан ализа различий враспределен ии вы борочн ы х величин при вы борепун кта « 0 эм пирич. (одн ородн ость)» Ф а йл: КР И ТЕ Р И Й ХИ -КВ А Д Р А Т. Хи-ква др а т=1.227

П е р е м е н н ы х =2

И зм е р е н ий=42 П ерем ен ны е: х 1 х2

Зн а чим о сть =0.9999

сте п.сво б=20

Гипо те за 0: Не т р а зличий м е жду двум я р а спр е де ле н ия м и СТА ТИ СТИ ЧЕ СКИ Е М Е ТО Д Ы F10 В ы х о д F1 И н ф о р м а ция F2 Э кр а н н а пе ча ть / в ф а йл Esc В ы х о д с пр е р ы ва н ие м На жм и те Enter=пр о до лжить или F2=пе ча ть экр а н а >>

Рис.11. Результаты ан ализа различий враспределен ии вы борочн ы х величин при вы борепун кта « 1 = теоретич. (согласия)» Д алее проан ализируем используем ы е дан н ы е с прим ен ен ием критерияВ илкоксон а. Д ля этого вы берем пун кт « 6 = сдвига (полож ен ия)» раздела н епарам етрических тестов. Результаты ан ализа приведен ы н а рисун ке12. Ф а йл:

П е р е м е н н ы х =2

КР И ТЕ Р И Й СД В И ГА (П О Л О ЖЕ НИ Я) В илко ксо н =232 Z=5.522

Зн а чим о сть =0,

И зм е р е н ий=42

П ерем ен н ы е: х 1 х 2 сте п.сво б=21, 21

Гипо те за 1: Е сть р а зличия м е жду м е диа н а м и вы бо р о к СТА ТИ СТИ ЧЕ СКИ Е М Е ТО Д Ы F10 В ы х о д F1 И н ф о р м а ция F2 Э кр а н н а пе ча ть / в ф а йл Esc В ы х о д с пр е р ы ва н ие м На жм ите Enter=пр о до лжить >>

Рис.12. Результаты ан ализа сприм ен ен ием критерияВ илкоксон а

45

П одан н ы м ан ализа сприм ен ен ием критерияВ илкоксон а м ы долж н ы отвергн утьгипотезу оравен ствем едиан вы борок. Д ля ан ализа дан н ы х прим ера с пом ощ ью критерия К олм огороваСм ирн ова для двух вы борок н еобх одим о вглавн ом м ен ю м етодован ализа избрать пун кт « 8 = произвольн ы х альтерн атив» . Н а рисун ке13 приведен ы результаты прим ен ен иядан н огокритерияк ан ализируем ы м вы боркам . Ф а йл:

П е р е м е н н ы х =2

КР И ТЕ Р И Й КО Л М О ГО Р О В А -СМ И Р НО В А Ко лм о го р о в-См ир н о в=0.9524,

И зм е р е н ий=42 П ер ем ен н ы е: х 1 х 2

Зн а чим о сть =1.068Е -8,

сте п.сво б=21, 21

Гипо те за 1: Е сть ин те гр а ль н ы е р а зличия м е жду вы бо р ка м и СТА ТИ СТИ ЧЕ СКИ Е М Е ТО Д Ы F10 В ы х о д F1 И н ф о р м а ция F2 Э кр а н н а пе ча ть / в ф а йл Esc В ы х о д с пр е р ы ва н и е м На жм ите Enter=пр о до лжить или F2=пе ча ть н а экр а н >>

Рис.13. Результаты ан ализа спом ощ ью критерияК олм огорова-См ирн ова Результаты ан ализа свидетельствую т о н аличии ин тегральн ы х различий м еж ду двум яан ализируем ы м и вы боркам и. П рим ен ен иен епарам етрических тестовдля парн ы х вы борок –пун кт м ен ю « 9 = для парн ы х вы борок» позволяетпроан ализировать вы борочн ы е зн ачен иядлявы борок, получен н ы х при парн ом вы борочн ом исследован ии с использован ием как критерия В илкоксон а, так и критерия зн аков. Результаты ан ализа приведен ы н а рисун ке14. Ф а йл: П А Р НЫ Е КР И ТЕ Р И И СД В И ГА

П е р е м е н н ы х =2

И зм е р е н ий=42

П ерем ен н ы е: х 1 х 2

В илко ксо н =0 Z=-4.015, Зн а чим о сть =0, сте п.сво б=21 Зн а ко в=0 Z=-4.583, Зн а чим о сть =0, сте п.сво б=21

Гипо те за 1: Е сть р а зличия м е жду м е диа н а м и вы бо р о к СТА ТИ СТИ ЧЕ СКИ Е М Е ТО Д Ы F10 В ы х о д F1 И н ф о р м а ция F2 Э кр а н н а пе ча ть /в ф а йл Esc В ы х о д с пр е р ы ва н ие м На жм ите Enter=пр о до лжить или F2=пе ча ть н а экр а н

Рис.14. Результаты ан ализа при парн ом вы борочн ом исследован ии сиспользован ием критерияВ илкоксон а и критериязн аков. Д ан н ы е критерии такж е подтверж даю т н аличие различий м еж ду м едиан ам и вы борок. В заклю чен ие дан н ого раздела н еобх одим о повторить приводивш еесяран еепредупреж ден иео прим ен ен ии к одн им дан н ы м н ескольких м ето-

46

дован ализа. Е сли к одн им и тем ж е дан н ы м прим ен яю т два различн ы х критерия для проверки одн ой и той ж е н улевой гипотезы (или двух сх одн ы х гипотез) и вкаж дом случаеприн им аетсяуровен ьзн ачим ости, равн ы й, н априм ер, 5%, то вероятн ость того, что х отя бы по одн ом у из критериев н улевая гипотеза будет ош ибочн о отклон ен а, превосх одит 5 %. Следует воспользоватьсялиш ьодн им критерием , ж елательн оболеем ощ н ы м . КО Р Р Е Л Я Ц И О Н Н Ы Й А Н А Л И З М еж ду явлен иям и сущ ествую т две категории причин н о-следствен н ы х связей: ф ункциона ль ные и корре ля ционные . Ф ункциона ль на я свя зь им еетотн ош ен иек каж дом у отдельн ом у н аблю ден ию , является обязательн ой и зависит от физических и х им ических закон ов. Н априм ер, при повы ш ен ии давлен ия н асы щ ен н ого пара увеличивается еготем пература; н агреван ием еталловприводитк их расш ирен ию и т. п. Связь м еж ду явлен иям и, отм ечаю щ аяся н е вкаж дом отдельн ом случае, а при м ассовом сопоставлен ии рассм атриваем ы х призн аков, н азы вается корре ля ционной. В этом случаекакой-либо призн ак (уровен ь заболеваем ости остры м и киш ечн ы м и ин фекциям и) м ож ет бы ть связан главн ы м образом (н о н е обязательн о) с изм ен ен иям и другого призн ака (качество реализуем ы х м олочн ы х продуктов), х отя н а ин тен сивн ость течен ия эпидем ического процесса при остры х киш ечн ы х ин фекциях влияю т и другие факторы : м икробн ая обсем ен ен н ость потребляем ой н аселен ием воды , кулин арн ы х изделий, м играцион н ы епроцессы и др. К орреляцион н аясвязьпроявляется в средн ем для всей совокупн ости н аблю ден ий, а в отн ош ен ии един ичн ы х случаевон а н еполн а и н еточн а. К орреляцион н аязависим остьм еж ду явлен ием м ож етбы тьпрям ой, когда с повы ш ен ием одн ого показателя отм ечается рост другого, и обратн ой, когда с увеличен ием одн ого призн ака другой ум ен ьш ается (н априм ер, чем больш ен аселен ияох вачен опрививкам и, тем н иж еуровен ьзаболеваем ости). П реж де чем изм ерять величин у коэффициен та корреляции, н еобх одим о реш ить вопрос о возм ож н ости причин н о-следствен н ой связи м еж ду изучаем ы м и явлен иям и. П араллельн ое изм ен ен ие статистических показателей сам о по себе ещ е н е говорит о н аличии связи, так как м ож ет бы ть обусловлен о случайн ы м совпаден ием м н огих обстоятельств, н е связан н ы х другсдругом . Ц ифровы е дан н ы е, подвергаю щ иеся корреляцион н ом у ан ализу, долж н ы бы ть сгруппирован ы с учетом особен н остей изучаем ы х явлен ий. В противн ом случае зн ачен ие получен н ого коэффициен та будет заведом о ош ибочн ы м . Э то особен н о касается области ин фекцион н ой патологии, когда от м ом ен та ин фицирован ия, т. е. действия причин ы , до клин ического проявлен ия процесса, т. е. следствия, прох одит ин кубацион н ы й период, длительн ость которого различн а при отдельн ы х заболеван иях . П родолж ительн ость ин кубацион н ого периода и является оптим альн ы м сроком врем ен н ой группировки цифровы х дан н ы х . П ри н еин фекцион н ой патологии в

47

осн ову группировки кладут другие врем ен н ы е призн аки, ин тересую щ ие исследователя. Н априм ер, при изучен ии частоты развития ин фаркта м иокарда у лиц одн ого и того ж е возраста взависим ости от длительн ости курен иям атериалм ож н о группироватьс учетом ин тересую щ ей давн ости курен ия: 1, 2, 3 и т. д. лет. Ме т од ра нг овой корре ля ции н аиболее простой, требую щ ий н езн ачительн ы х затрат врем ен и н а проведен ие вы числен ий. В то ж е врем я он м ен ееточен , даетприблизительн ое представлен ие о х арактереи тесн отесвязи м еж ду явлен иям и. П р им ер . О пределитьвозм ож н ую связьм еж ду уровн ем заболеваем ости остры м и киш ечн ы м и ин фекциям и (О К И ) и качеством реализуем ы х кулин арн ы х изделий, определяем огопом икробн ой обсем ен ен н ости (табл.12). Т аблица 12 П роцен тн еП орядковы ен ом ера Заболева стан дартн ы х (ран ги) Н еделя ем ость пробкулин аргода О КИ н ы х изделий по % н естан м икробн ой об- Заболедартн ой сем ен ен н ости ваем ости продукции 1 2 3 4 5

1 2 3 4 5 6 7 8 9 10 11 12

12,8 11,6 15,4 17,8 12,3 12,5 14,0 20,3 15,6 14,8 11,6 9,3

8,3 5,1 18,0 14,0 11,6 14,2 24,4 25,4 11,6 12,9 14,6 10,0

6 2 9 11 4 5 7 12 10 8 3 1

2 1 10 7 4,5 8 11 12 4,5 6 9 3

d

d2

d 2 сн арастаю щ им итогом

6

7

8

4 16 1 1 1 1 4 16 0,5 0,25 3 9 4 16 0 0 5,5 30,25 2 4 6 36 2 4

16 17 18 34 34,25 43,25 59,25 59,25 89,50 93,50 139,50 133,50

1. О пределяю тся порядковы е н ом ера (ран ги) показателей заболеваем ости (графа 4) и процен та н естан дартн ой продукции (графа 5). Ран г 1 присваиваетсян аим ен ьш им показателям . П ри н аличии н ескольких , равн ы х по величин е показателей (11,6 вграфе 3) их порядковы е н ом ера (ран ги) сум м ирую тся (4+5=9), а сум м а делится н а число один аковы х показателей (вн аш ем прим ере н а 2). О ба показателя им ею т один и тот ж е ран г(4,5), а следую щ ем у повеличин епоказателю (12,9) присваивается6-й ран г. 2. В ы числяетсяразн ость(d) м еж ду ран гам и вотдельн ы ен едели года. Результаты зан осятсявграфу 6. 3. Разн ость м еж ду ран гам и возводится вквадрат, и получен н ы е дан н ы есум м ирую тся(графа 7). В н аш ем прим ере ∑d2 = 133,5.

48

4. П олучен н ы езн ачен ияподставляю тсявформ улу:

6 ⋅ ∑d2 ρ = 1− , n ( n 2 − 1) гдеρ –коэффициен тран говой корреляции; n –число пар коррелируем ы х рядов(вн аш ем прим ере12); ∑d 2 –сум м а разн ости м еж ду ран гам и двух коррелируем ы х рядов; 6 –постоян н ы й коэффициен т. Д лян аш егоприм ера: ρ=0,53. П реж де чем делать заклю чен ие о н аличии корреляцион н ой связи, н еобх одим о убедитьсяврепрезен тативн ости коэффициен та, так как он получен н а осн ове вы борочн ого исследован ия. П редставительн ость коэффициен та ран говой корреляции определяется путем сопоставлен ия его величин ы с критическим и зн ачен иям и, приведен н ы м и вприлож ен ии 3. Е сли получен н ая величин а при задан н ом числе исследован ий окаж ется больш е критического уровн я, будут осн ован ия говорить о н аличии корреляцион н ой связи. В н аш ем прим ерекоэффициен травен 0,53, а критическая величин а при Р