Министерство образования и науки Российской Федерации Омский государственный университет им. Ф.М. Достоевского
УДК 519 ...
48 downloads
156 Views
424KB Size
Report
This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!
Report copyright / DMCA form
Министерство образования и науки Российской Федерации Омский государственный университет им. Ф.М. Достоевского
УДК 519 ББК 32.973-018я73 Ч 188 Рекомендовано к изданию в качестве учебного пособия учебно-методическим советом математического факультета Рецензенты: доктор техн. наук, профессор С.Н. Чуканов; зав. кафедрой ПрО ЭВМ канд. физ.-мат. наук, доцент А.Ф. Красников
Ч 188
О.Г. Чанышев
Автор обобщает опыт проведения лекций по теме «Введение в искусственный интеллект» и «Автоматический анализ текста» на математическом факультете Омского государственного университета (ОмГУ) в 2000–2004 гг. в части, касающейся когнитивно-психологических и психолингвистических оснований научного направления «Искусственный интеллект» в современной информатике. Пособие отличает прагматическая направленность. Первые два раздела содержат материал общетеоретического неформального характера. В третьем разделе автор приводит пример использования всего изложенного материала (в частности, наличие произвольных и непроизвольных тенденций в процессе мышления) как онтологического основания оригинальной «Ассоциативной модели реального текста». Этой темой автор занимается в Омском филиале Института математики Сибирского отделения Российской Академии наук (ОФ ИМ СО РАН). Для студентов математического факультета. УДК 519 ББК 32.973-018я73
Онтологические основания искусственного интеллекта Учебное пособие
Изд-во ОмГУ
Чанышев О.Г. Онтологические основания искусственного интеллекта: Учебное пособие. – Омск: Изд-во ОмГУ, 2004. – 47 с. ISBN 5-7779-0524-2
Омск 2004
© Чанышев О.Г., 2004 © Омский госуниверситет, 2004
ISBN 5-7779-0524-2 2
ОГЛАВЛЕНИЕ
Введение
Введение ......................................................................................................... 4 1. Когнитивная психология о психике и мышлении ............................. 9 1.1. Этапы решения психофизиологической проблемы ...................... 10 1.1.1. Ассоционизм............................................................................ 10 1.1.2. Структура и гештальт ............................................................. 11 1.1.3. Функционализм ....................................................................... 12 1.1.4. Бихевиоризм ............................................................................ 13 1.1.5. Психологический энергетизм................................................. 13 1.1.6. Рефлекс как связь двух миров: психобиологического и физического ............................................................................................... 14 1.2. Образ и его свойства. Вторичный образ ........................................ 15 1.2.1. Свойства образа....................................................................... 16 1.2.2. Законы группирования элементов в целостную структуру....................................................................................................... 17 1.2.3. Вторичные образы................................................................... 18 1.3. Мышление, речь, понимание .......................................................... 18 1.3.1. Понимание и мышление ......................................................... 20 1.3.2. Непроизвольные и произвольные составляющие, обратимость мысли ...................................................................................... 23 2. Процессоры мозга. Многопроцессорная метафора.......................... 24 2.1. Элементарный процессор мозга – нейрон ..................................... 25 2.2. Разделы мозга. Межполушарная асимметрия ............................... 27 2.2.1. Межполушарная асимметрия................................................. 29 2.3. Проекционные структуры ............................................................... 29 2.4. Память............................................................................................... 31 2.4.1. Процедурная и декларативная память................................... 31 2.4.2. Типы памяти, дифференцируемые по времени хранения информации .................................................................................................. 32 2.5. Многопроцессорная метафора........................................................ 33 2.5.1. Процессоры в многопроцессорных системах ....................... 34 2.5.2. Сопоставление функциональных зон коры с процессорами ЭВМ ................................................................................... 35 2.5.3. Об организации работы мозга на макроуровне .................... 36 3. О модели генерации текста .................................................................. 38 3.1. Автомат-«писатель» ........................................................................ 39 Заключение.................................................................................................. 42 Контрольные вопросы............................................................................... 43 Список используемой литературы.......................................................... 44
Из статьи Евгения Корниенко «Опасно разумен» [1]: «К сожалению, я знаю, что проблема искусственного разума будет скоро решена. И к этому принципиально невозможно морально подготовиться. Сначала мы будем учить роботов тому, что считаем полезным. Затем они будут развиваться по экспоненте, потому что им не нужно тратить время на изучение того, что знают их "предки". Знания будут накапливаться не в книгах (и учителях), а в мозгах этих роботов. Невозможно, чтобы робот, который умнее меня в 10 раз, был моим слугой. В конце концов, ничто живое не будет нужно новому поколению синтетической жизни. Дай Бог, если мы станем домашними питомцами или игрушками».
3
Из выступления А.И. Шевченко, директора Института искусственного интеллекта АН Украины, на II научно-практической конференции по ИИ, Донецк, 1997 г.: «…Основной задачей нашего института является создание искусственного интеллекта, т. е. вычислительной машины нового поколения. Такая машина должна уметь общаться с человеком, обладать подобными нашим органами чувств и коммуникативными способностями: слухом, речью и т. п. Не поймите нас так, будто мы намерены стать вровень с Богом и создать подобное себе существо искусственным путем. Человек вряд ли сможет когда-либо создать искусственную техническую систему, которая будет превосходить его по интеллектуальным способностям: нельзя было запретить открытие электричества, остановить исследования в области ядерной физики, космонавтики, компьютерной техники, медицины... Мы исходим из оптимистической интерпретации нравственной природы человека, верим в его лучшее будущее». Искусственный интеллект – словосочетание, кажущееся многим странным, если совсем неприемлемым. Искусственная птица – самолет, искусственная рыба – подводная лодка, искусственное дерево найдется едва ли не в каждом офисе. Мы полагаем, что знаем не только значение слов «рыба», «птица», «дерево», но и 4
технологию создания их функциональных подобий (во всяком случае, мы знаем, что есть люди, которые знают). Но искусственный интеллект..?! «А что это такое?» – еще и сегодня можно услышать даже от специалистов-«естественников». Патрик Генри Уинстон раздел «Мифы о мышлении» [2] предваряет замечанием о том, что быть знатоком в области машинного интеллекта «весьма утомительно» из-за споров, возникающих при первой же возможности и основанных на давно изживших себя ошибках. Соглашаясь с мнением автора о конкретных перечисленных им мифах, думаю, что споры возникают не только из-за некомпетентности спорящих. Проблема исследования мозга человека, соотношения мозга и психики – самая cложная задача из всех, которые когда-либо возникали в науке, поскольку главным средством его познания остается опять-таки наш человеческий мозг. Существует интереснейшая гносеологическая проблема, получившая в лингвистике наименование семантической редукции [3]. Проблема состоит в том, чтобы выделить возможно меньшую часть естественного языка и, в частности, определить тот минимальный список слов и выражений, который оказался бы достаточным для того, чтобы представить значения всех остальных слов и их взаимосвязь. В явном или неявном виде она возникла сразу, как только человек начал рефлексировать и задумываться об устройстве мира. Согласно Луллию1, в каждой области знаний можно выделить несколько аксиоматических понятий и образовать из них все остальные, подобно тому, как доказываются теоремы. Он придумал устройство из семи концентрических вращающихся кругов, разделенных на секторы, соответствующих тому или иному понятию. Поворот рычага совмещал секторы разных кругов, и буквы, 1 Считается, что первое «устройство для автоматического открытия истин» предложил францисканский монах Раймундо Луллий в XIII веке [4]. Однако Ю. Петрунин, автор процитированной работы, пишет: «Некоторые страницы произведений Луллия – причем одни из самых важных – кажутся словно вырванными из работ выдающегося мыслителя мусульманского средневековья богослова и суфийского философа Мухйи ад-Дина Мухаммада ибн аль-Араби (1165– 1240), хотя вопрос о прямом влиянии или заимствовании идей "Величайшего Учителя" (шейх аль-акбар), как называли его исламские авторитеты, в научном мире до конца не решен и в наши дни».
5
обозначающие секторы, образовывали «формулы», соответствующие понятиям производным. Нетрудно увидеть, что правила совмещения секторов – это «эвристики» в современной терминологии, сокращающие число возможных состояний машины Луллия. Возвращаясь к проблеме семантической редукции, заметим, что она вызывает прямые ассоциации с теоремой Геделя о неполноте. Ее обобщенная формулировка [5] говорит о том, что если имеется формальная система L, содержащая минимум арифметических функций, функторы всеобщности и существования и обычные правила обращения с ними, то в L всегда найдется формально неразрешимое суждение F, т. е. такая замкнутая формула, что ни F, ни ¬F не являются выводимыми в L. Противоречивость или непротиворечивость F можно доказать только построив другую, более мощную систему L’, однако в ней появится F’, противоречивость или непротиворечивость которой доказывается в более мощной L’’, и т. д. Можно сказать и так, что для «доказательства» аксиом некоторой теории L нужно построить более общую теорию L’, в которой аксиомы L являлись бы теоремами в L’. «...известно, что предельные, исходные понятия частной теоретической концепции не могут быть раскрыты средствами концептуального аппарата самой теории – для этого требуется обобщающий переход к метатеории» [9]. Возникает вопрос: какие же понятия считать аксиоматическими для объяснения работы Мозга? Во всяком случае следует признать, что для таких базовых понятий, как «мысль», «мышление», «понимание», «смысл», «интеллект», нет настолько общепринятых определений, какие существуют для понятий «процессор ЭВМ» или «оперативная память». Именно в этом и заключается истинная причина незатухающих споров вокруг самого термина «искусственный интеллект» – «смысл» его еще только возникает в результате исследований психолога, математика, физика, нейропсихолога, лингвиста и программиста. Человечество, используя разные «эвристики», совмещает секторы их предметных областей как круги луллиевой машины, получая формулы нового знания.
6
Опытное познание начинается с имитации: использование бычьего пузыря для плаванья, пергаментных крыльев для полета, мысленного эксперимента для редуцирования сложного явления к некоторому множеству более простых. С этой точки зрения наиболее аргументированные возражения против использования словосочетания «искусственный интеллект» высказал академик Н.Н. Моисеев [6]. Признавая, что «прагматический аспект искусственного интеллекта является основой современной информационной технологии» и что термин так или иначе утвердился в научной литературе, он считает его появление и широкое распространение следствием «содружества моды и некомпетентности», и было бы лучше ограничиться четким понятием «имитационная система». Тем не менее наука в разных ее ипостасях вплотную подошла к проблеме искусственного разума. Например, среди прочих на конференции «Искусственный интеллект–2000» (Украина, Крым 11–16 сентября 2000 г.) [7] обсуждались и следующие темы: В.П. Широчиным, доктором техн. наук, профессором кафедры вычислительной техники Национального технического университета Украины: «Бессознательная мотивация и интуитивная логика умозаключений человека в эмоционально и морально-ориентированных системах принятия решений»; «Архитектура и функции искусственного сознания, подсознания и надсознания в эмоционально и морально-ориентированных суперкомпьютерах будущих поколений». Ю.Н. Ефремовым, канд. техн. наук: «Моделирование искусственного сознания». Возвращаясь к вопросу о метатеории теории «Мозг», следует вспомнить банальный, но часто забываемый в увлечении формализацией факт, что многие базовые («аксиоматические») термины искусственного интеллекта исторически принадлежат предметной области психологии (в частности, бихевиоризм стоял у истоков направления «черного ящика», обратная связь в кибернетике – это сеченовский рефлекс с дополнением И. Павлова о его адаптационной роли в организме). Экспериментальный материал, накопленный психологами (может быть, особенно в области пси-
хопатологии), ее концептуальный аппарат, обогащаемый результатами кибернетического моделирования, еще долгое время будет источником идей для ученых, работающих в области ИИ. В этом смысле психология была и остается метатеорией искусственного интеллекта. Во всяком случае до тех пор, пока не будет завершена более общая теория, начало которой положил Норберт Винер своей работой «Кибернетика или управление и связь в животном и машине».
7
8
1. Когнитивная психология о психике и мышлении …самое непонятное в этом мире – то, что он понятен. А. Эйнштейн «Нелегко найти еще одну область знания, где сочетались бы столь многообразно и прихотливо, как в психологии, поверхностное любопытство и глубокая любознательность, эмоциональное пристрастие и строгая логическая объективность, актуальный практический запрос и абстрактный теоретический поиск». Л.В. Веккер
Стремительное развитие естествознания, в частности физики и физиологии, привело к тому, что уже в конце XIX в. были достаточно хорошо разработаны базовые нейрофизиологические концепции, касающиеся структуры мозга и механизмов его работы. А где-то рядом, как тень отца Гамлета, совершенно непонятная по своей природе, бродила психика. Что такое эмоции? Сознание? «Я»? Физиологически мозг одинаков, а люди разные. Эта непонятность связи материальных физиологических процессов и психики составляет сущность психофизиологической проблемы. Мало найдется современных ученых, сомневающихся в том, что основным, центральным субстратом психики является мозг. «...мышление, так же как и все другие осознаваемые психические процессы, в принципе является производным процессов, происходящих в органе поведения – нервной системе, – и может рассматриваться как функция этого органа» [8]. Естественно, прежде чем это убеждение стало доминирующим, психология прошла долгий путь творческого поиска, ошибок и открытий. На этом пути она установила множество эмпирических фактов и сформулировала принципиальные положения, которые могут и должны быть положены в онтологическую основу функционирования будущего искусственного разума. Психология в 1950-х гг. стояла у истоков научного направления «искусственный интеллект» и сегодня остается его метасистемой. В дальнейшем я буду в основном следовать логике и содержанию фундаментальной монографии Л.М. Веккера «Психика и реальность» [9], являющейся переработанным и дополненным вариантом книги «Психические процессы» [10; 11]. 9
1.1. Этапы решения психофизиологической проблемы 1.1.1. Ассоционизм Самая универсальная форма взаимосвязи психических явлений – ассоциация. Ассоциация – доминантный психический феномен – привлек внимание еще древней науки. В XVIII в. закономерности ассоциаций проанализированы в рамках английского ассоцианизма (Д. Гартли, Дж. Пристли), в дальнейшем ассоциативная концепция воплотилась в методе ассоциативного эксперимента и «сохранила свое значение в качестве одного из наиболее общих психологических принципов до настоящего времени». Ассоциации – это нити, с помощью которых части разноцветной психической ткани сшиваются в единое целое. Но, для того, чтобы получилась картина, а не хаос цветовых пятен, нужна система, контролирующая процесс. Ассоцианистские идеи оказали влияние на лингвистику, в результате чего к 50-м годам XX в. оформился как направление лингвистический (или психолингвистичекий) ассоционизм. Его основу составляли попытки объяснения понимания и развертывания высказывания на основе цепей Маркова. Сложная серия последовательных действий истолковывалась как цепь, где каждое последующее звено вызывалось механизмами, заключенными в предшествующем звене. Прибегая к вероятностным цепям, можно объяснить, почему мы для сокращения слов используем их начала или только начальные буквы (правда, в данном случае распознавания большую роль играет контекст). С появлением каждой новой буквы в слове сокращается множество кандидатов на занятие следующей позиции. На уровне фразы для русского языка характерен следующий ряд: «скажи-ка...», «скажи-ка, дядя...», «скажи-ка, дядя, ведь...», «скажи-ка, дядя, ведь недаром...», после чего с подавляющей вероятностью ожидается: «...Москва, спаленная пожаром, французу отдана». Важно отметить, что ассоцианизм не является чисто психологической теорией. Например, Гартли полагал, что психические элементы ощущения соединяются друг с другом вибрациями частиц эфира в нервном субстрате (опираясь на соответствующие 10
представления Ньютона). Тем не менее он оставался на позициях параллелизма нервного и психического. В варианте ассоцианизма Д. Юма разделенность этих аспектов доведена до логического конца: связь внутри элементов сознания не требует никакой реальной основы. Однако такая конкретность больше порождает вопросов, чем дает ответов. Если психические процессы замкнуты в себе, то какова же функция процессов нервных? И существует ли то, что называется внешним миром?
1.1.3. Функционализм
Структуральное направление Вундта-Титченера (начало XX в.) ввело в психологию понятие структуры и даже исходный материал. Этим материалом была психическая ткань чувственного опыта, открывающаяся субъекту интроспективно и совершенно оторванная от внешнего объекта. Попытку соотнесения с последним Титченер считал «ошибкой стимула». По существу, реальному миру в реальности отказано. Сама психическая структура складывается либо по ассоциативным законам, либо по неопределенным законам «психического синтеза». Огромный вклад в развитие понятия психической структуры внесла гештальт-психология. Недоопределенной ассоциации элементов она противопоставила структуру предметной целостности, предопределенной внешним объектом. Экспериментально было установлено доминирование целостного гештальта над составляющими элементами. Из попыток соотнесения психических структур с нейрофизиологическими эквивалентами и физическими объектами родилось одно из самых важных теоретических положений психологии – принцип изоморфизма психических, нейрофизиологических и физических явлений. Однако это были именно попытки. Изоморфизм интерпретируется как параллелизм психического, физиологического и физического. Структура психических процессов в гештальт-психологии остается оторванной от состояний субстрата и является причиной самой себя. «Несколько утрируя аналогию, можно было бы сказать, что модель психической структуры не может быть построена без учета материала по тем же причинам и логическим основаниям, по которым нельзя построить здание из стиля или сшить платье из фасона».
Функционализм ввел в теоретический аппарат психологии функцию в качестве основной категории. В европейском варианте функционализма, идущему от К. Штумпфа (1913), психические явления (ощущения, восприятия, образы памяти) являются операндным материалом интеллектуальной функции. Как и у Титченера, ткань психического процесса оказывается самопричиной, понятием аксиоматическим. Интеллектуальные процессы психики («функции») действительно оперируют с «внутренними» образами, моделируя возможные состояния реальности. На это есть нейрофизиологические основания, поскольку мозг, содержащий в себе «центральные представительства» органов чувств и внутренних органов тела [12], в этом смысле автономен, замкнут. Это – «голова профессора Доуэля». Модели реальности он хранит в себе, а выработанные решения «спускает» командным нейронам «центральных представительств». Все прекрасно, но где обратная связь? Американский функционализм (У. Джемс, чикагская школа – Д. Дьюи, Д. Энджел, Г.Керр, колумбийская – Р. Вудвортс [13]) трактует функцию уже как психофизическую деятельность, реализующую процесс адаптации организма к внешней среде, и в этом заключается его особенный и очень важный вклад в психологическую науку. Я бы сказал, не столько потому, что организм «адаптируется», а потому, что в область психологии теперь входят не только сознание, но и поведение, его мотивы, научение, индивидуальные различия между субъектами. К критике функционализма следует относиться очень осторожно. Например, словарь «Психология» [13] в статье «Функциональная психология» к слабостям функционализма относит «телеологический взгляд на сознание, как целенаправленно действующую сущность». Но разве сознание нормального взрослого человека, осознавшего себя (в частности, свои возможности), не действует целенаправленно, преодолевая препятствия, жертвуя материальными благами ради достижения высших ценностей? Грубо материалистически понимаемый термин «адаптация» низводит человека до хищника, использующего огромные адаптационные возможности своего мозга в качестве когтей и клыков.
11
12
1.1.2. Структура и гештальт
1.1.4. Бихевиоризм Бихевиоризм отметает «целенаправленно действующую сущность» под предлогом недоступности сознания для объективного исследования. Он изучает поведение, рассматривая его как ответную реакцию организма на внешние воздействия. Мышление в бихевиоризме сводится к речедвигательным актам, эмоции связываются с внутренними изменениями в организме. Бихевиористы как бы составляют большую двухколонную таблицу, над левой колонкой которой написано «стимул», над правой – «реакция», с целью выявления корреляций, доступных численному анализу. Это совершенно нормальный научный подход, которой стал одним из истоков кибернетики (направление «черного ящика») и повлиял на развитие лингвистики, антропологии, социологии. Категориальный аппарат психологии обогатился категорией «действия», охватывающей теперь не только внутренние, но и телесные акты, направленные вовне. Работа психики выступает в бихевиоризме в виде выявляемых статистических закономерностей поведения, и это дает основание Л.В. Веккеру полагать, что благодаря бихевиоризму «не только сама идея информационной природы психики (что общеизвестно), но и предпосылки качественного и количественного подхода к природе информации, т.е. определения ее формы и меры, первично сложились внутри психологической науки под давлением ее собственных потребностей». 1.1.5. Психологический энергетизм Если абстрагироваться от функциональных и субстационально-структурных характеристик психических процессов, то останется то, без чего невозможны никакие формы движения – энергия. Это совершенно банальное утверждение сегодня не было столь очевидным в конце XIX – начале XX в., когда Зигмунд Фрейд (совместно с И. Брейером) опубликовал «Исследование истерии» (1895 г.). Нормальная работа психики как бы маскирует энергетический аспект, поэтому он был выявлен в области психопатологии. Появление энергетического фактора в психологии связано преимущественно с именем Фрейда и его знаменитой концепцией 13
«либидо». Скрытое в глубинах подсознания сексуальное влечение находится в постоянном конфликте с цензурой сознания, что является источником всякого рода душевных расстройств. Эту идею Фрейд развил до объемов стройной и достаточно мощной теории, претендующей на статус общего учения о человеке и культуре. Трудно сомневаться в силе и влиянии животного начала в человеке, главным выражением которого является стремление к продолжению рода. Тем более что мысль о цензурирующей роли сознания представляется бесспорной. Но абсолютизация одного, пусть и очень мощного фактора, просто неправомерна. Фактическое подчеркивание роли низшего психического в концепции Фрейда вполне закономерно привлекло внимание марксистов от психоанализа [13, фрейдо-марксизм], согласно воззрениям которых борьба с гнетом капитала должна сопровождаться раскрепощением инстинктов. Долой цензуру сознания, и у свободной личности неврозов не будет! С чисто физической точки зрения очевидно, что функцию энергостанции выполняет желудочно-кишечный тракт, обеспечивающий питанием весь организм, в том числе мозг и половую систему. В этом смысле более естественно-научными представляются взгляды П. Жане [13; 14]. Он рассматривает психику как «энергетическую систему, обладающую рядом уровней напряжения, отвечающих сложности соответствующих им функций» и вводит термины: «психическая энергия», «психическое напряжение». Они связывают психологию с нейрофизиологией (измерение энергопотенциалов различных участков мозга) и открывают возможности для чисто физической трактовки психических явлений. Например, удар кулаком по столу вместо логического вербального контраргумента в споре можно интерпретировать буквально как «разрядку», сброс энергии с перевозбужденных локальных зон мозга на мотонейроны. 1.1.6. Рефлекс как связь двух миров: психобиологического и физического Для того чтобы психика не оставалась «головой профессора Доуэля», психологии требовалось преодолеть разрыв между психическим и телесным. Это было сделано физиологом И.М. Сече14
новым. Согласно его теории психических процессов, центральным звеном психического акта является мозг, а концом и началом – внемозговые компоненты соматической периферии. По структуре этот трехчленный акт – рефлекс (стимул – обработка стимула – реакция). Однако не следует упрекать И.М. Сеченова в примитивизации явления. Вскрывая сущность вещей, он сознательно искал тот предел, где психическое, еще оставаясь таковым, смыкается с телесным. Концевые компоненты рефлекторного акта неотделимы от раздражителя. Следовательно, понятие рефлекса связывает два мира: психологию через биологию с миром физического взаимодействия двух физических тел – организма и объекта. 1.2. Образ и его свойства. Вторичный образ В мыслительные процессы прежде всего вовлечены психические структуры, содержащие отражение (образ) объектов внешнего мира – предметно-образные компоненты. В психологии понятие «образ» трактуется в диапазоне от широкого толкования, близкого к «субъективной картине мира», до «перцепта» как результата восприятия конкретного предмета. С позиций психофизиологической проблемы в точке «образ» происходит переход от «допсихического» (физиологии нервных возбуждений) к начальному психическому. Или, иначе говоря, от живого существа, нервная система которого функционирует на уровне «телефонной станции», к «начально-психическому» существу, оперирующему отображениями предметов реального мира. Началом процесса формирования образа, как и всякого материального процесса получения изображения одного объекта в другом, является физическое взаимодействие объектов, носителя информации с источником информации (например, сверла с доской, которая хранит информацию о взаимодействии в виде отверстия, фотопленки со световым потоком, лазерного луча с поверхностью компакт-диска). Разрыв между двумя физическими мирами, внешним и психическим, происходит в анализаторе.
15
1.2.1. Свойства образа Образ характеризуют следующие свойства: константность, предметность, целостность, обобщенность. Константность – это независимость образа от условий его восприятия. Образ конкретного объекта всегда одинаков. (Это не означает, что мы не можем представить тополь под струями дождя и под палящими лучами южного солнца, просто это – разные составные образы, а тополь остается тополем). Именно константность образа дает возможность его модификаций в мыслительных процессах. Предметность заключается прежде всего в том, что получаемые с помощью анализаторов сведения относятся не к состоянию нервной системы, а к предметам внешнего мира. Целостность есть внутренняя органическая связь частей и целого в образе. В свойстве целостности экспериментально установлены два основных аспекта – влияние целого на восприятие частей и факторы объединения частей в целое. Аспект влияния целого (доминирования) имеет различные формы проявления, такие, как: один и тот же элемент в составе различных структур воспринимается по-разному (желто-зеленый кружок видится как зеленый среди сине-зеленых кружков и как желтый среди желтых кружков); замена в образе его составляющих при сохранении отношения между ними не изменяет образ (проигрывание мелодии на разных инструментах или в разных регистрах не изменяет мелодию). Обобщая феноменологию, Веккер пишет: «Общий смысл эмпирических фактов, воплощающих в себе все перечисленные формы доминирования, заключается в том, что конкретные характеристики отдельного элемента перцепта ограничены в собственных степенях свободы и детерминируются и даже предопределяются тем местом, которое этот элемент занимает в общей структуре...» Обобщенность перцептивного образа заключается в том, что отображаемый единичный объект-раздражитель воспринимается в качестве представителя класса объектов, однородных с данным по каким-либо признакам. Это выражается в однородных ис16
полнительных реакциях в ответ на воздействие разных экземпляров класса, а на человеческом уровне – в однородных словесных реакциях, обозначающих разных единичных представителей данного класса одним и тем же словом. 1.2.2. Законы группирования элементов в целостную структуру Факт представления единичным объектом класса выводит свойство обобщенности за пределы внутренних связей элементов данного перцепта и вводит в сферу внешних, межобразных связей или связей актуального восприятия с прошлым опытом. Отсюда возникает вопрос о связи восприятий – первичных образов с представлениями – вторичными образами. Для разработчиков систем ИИ особенный интерес представляют эмпирические законы группировки элементов в целостную структуру: «1. Фактор близости. При прочих равных условиях в целостную структуру объединяются элементы по признаку наименьшего расстояния между ними. 2. Фактор замкнутости. В единую перцептивную структуру объединяются элементы, в совокупности составляющие замкнутый контур или замкнутую трехмерную поверхность. 3. Фактор хорошей формы. Объединению подвергаются элементы, образующие в целом особый предпочтительный класс так называемых хороших форм, таких, например, как круг или прямая линия, т. е. тел или фигур, обладающих свойством симметричности, периодичности, ритма и т. д. 4. Фактор коллективного движения. К объединению в группу тяготеют элементы, совершающие совместное перемещение (стая птиц, эскадрилья самолетов и т. д.). 5. Фактор однородности. Детерминантой объединения элементов оказываются их общие пространственные или модальные характеристики; в единую группировку входят компоненты одной формы, одного цвета и т. д.». Можно сказать, что четыре первых фактора представляют из себя модификации последнего (однородность) по различным признакам. 17
1.2.3. Вторичные образы Вторичные образы – это извлеченные из памяти «первые сигналы», воспроизводящие прошлые первичные (сенсорно-перцептивные) образы. Они изображают объекты, не воздействующие в данный момент на рецепторы. Представления смыкают первосигнальные и второсигнальные, собственно-человеческие речемыслительные процессы. Отмечается, что исследование вторичных образов сталкивается с существенными методическими трудностями, вызванными отсутствием непосредственно действующего объекта-раздражителя. Факт его отсутствия делает само представление трудно поддающейся фиксированию структурой. Отсюда проистекают наиболее характерные свойства вторичного образа – фрагментарность и неустойчивость. Следует отметить, что поразительная реальность объектов в снах (и в бреду) говорит скорее о том, что фрагментарность и неустойчивость вторичных образов является характеристикой концептуальной фазы сознательного мышления, не интересующегося деталями. В тренировках на сосредоточение, практикуемых, в частности, хатха-йогой, предлагается представить во всех деталях некоторый предмет и удерживать его перед «внутренним взором», что и получается при достаточном времени и старании. Напрашивается аналогия с некоторым ограниченным ресурсом (например, с оперативной памятью), разделяемым несколькими программами. Этим ресурсом может быть и энергия. 1.3. Мышление, речь, понимание Несмотря на спорность вопроса о генерирующих факторах и степени размытости границы между образными и рече-мыслительными процессами, эта граница носит принципиальный характер, оставляя зрелые формы речевого мышления монопольно за человеком. Высший уровень психики (второсигнальная система) вырос из исходного образного (первосигнального), надстроен над ним, но не оторван от него. 18
В первые десятилетия XX в. формирование высказывания понималось как непосредственный переход бесплотной мысли в развернутую речь, а понимание высказывания – как непосредственный обратный переход. Имеется разносторонний и надежный экспериментальный материал, доказывающий, что мышление человека неразрывно связано с речью, но вовсе к ней не сводится. Прежде всего, это работы российского ученого А.Н. Соколова. Резюмируя свои исследования, он писал: «Поскольку речедвигательная импульсация отмечается не только в процессе вербально-понятийного, но и наглядного мышления... и притом у всех испытуемых, независимо от их типа памяти, можно заключить, что мышление в любом случае связано с языком, хотя в отдельные моменты, или фазы, решения (особенно при решении наглядных задач) речедвигательная импульсация может быть заторможена. Это, однако, не означает, что в последнем случае имеет место "безъязыковое" мышление. Такой вывод был бы неоправданным допущением, так как основывался бы на изоляции одной фазы мышления от другой, что, по существу, невозможно. Вместе с тем эти данные указывают и на невозможность отождествления мышления с речью, так как мышление содержит в себе не только речевую, но и неречевую фазу действия, связанную с накоплением сенсорной информации. Следовательно, здесь имеет место постоянное взаимодействие предметной и речевой информации, которое описывалось И.П. Павловым как взаимодействие первой (предметной) и второй (речевой) сигнальных систем». Можно с большой уверенностью предполагать, что информационно-психологическая специфика мышления заключается в непрерывно совершающихся актах перевода информации с языка образов в структуры речи и наоборот. Факт, что в операндный состав мыслительных процессов включены предметно-образные компоненты, никогда не вызывал принципиальных разногласий, но идея, что мышление представляет собой «беззвучное лингвистическое поведение» вызывала активные возражения до тех пор, пока американский исследователь Л. Макс не провел знаменитый эксперимент с группой глухонемых. 19
«Поскольку у глухонемых жестовая коммуникация осуществляется с помощью мускулов пальцев, на эти мускулы были помещены электроды, чтобы замерить зачаточные движения, когда эти люди думают. Контрольная группа состояла из людей с нормальным слухом. Задачи на абстрактное мышление вызывали такие действия в руке у 84 % и лишь у 31 % испытуемых в контрольной группе». 1.3.1. Понимание и мышление Понимание есть «характеристика мысли как результата» мышления. Что же такое мышление? С точки зрения психологии, мышление есть процесс, стартовой точкой которого «является отображение проблемной ситуации, которое и составляет проблему или вопрос как мотивирующее, движущее начало мысли». За проблемой следует этап выдвижения и проверки гипотез, который заканчивается «феноменом понимания». Самой существенной характеристикой «проблемы» («вопроса») является то, «что в ней представлена не только информация о проблемной ситуации, но и информация о дефиците информации об определенных предметных отношениях в этой проблемной ситуации». Эта мысль содержит два важных положения: – ситуация представляется предметными психическими структурами и отношениями между ними; – в самом вопросе содержится если не ответ, то указание на направление поиска ответа (информация о дефиците информации). «Сформулировать, в чем вопрос, – значит уже подняться до известного понимания, а понять задачу или проблему – значит если не разрешить ее, то по крайней мере найти путь, т. е. метод, для ее разрешения... Возникновение вопросов – первый признак начинающейся работы мысли и зарождающегося понимания» [15]. Таким образом, сущность понимания на стартовом этапе мышления заключается в «понимании непонятности». Следующим этапом процесса мышления является выдвижение и выбор гипотез. Выбор основывается на вероятностной оценке, но в процессе обыденного мышления никто не рассчитывает 20
вероятности как числовые величины. Выбор производится моделированием возможного состояния с использованием имеющегося опыта, т. е. эвристическим путем. Здесь работают «внутренние терминалы». В них мозг разворачивает «целый модельный мир, объекты которого для мозга эквивалентны объектам окружающего мира, их свойствам и отношениям» [16]. Моделируя состояния, мышление пытается минимизировать различия между целевым состоянием, представляемым «предметными психическими структурами» вопроса и текущим состоянием. Отмечу по ходу, что этап выбора и проверки гипотез сам по себе может быть сложной задачей, т. е. цель порождает иерархию подцелей и возникает необходимость в стратегическом управлении деятельностью. Высшая цель – познание и реализация собственных возможностей составляет содержание всей жизни. На этапе выдвижения и проверки гипотез используются мыслительные операции, к которым относятся: – сравнение; – анализ; – синтез; – абстракция и обобщение; – конкретизация (как операция, обратная обобщению). Они являются различными гранями основной операции мышления – опосредования – «раскрытия все более существенных связей и отношений». Этот перечень из 5 операций на самом деле состоит из 6. Как и анализ (расчленение объекта) имеет пару в синтезе, обобщение в конкретизации, так и сравнение включает в себя две операции – различение и установление разностепенного сходства. Парный состав операции сравнения доказан эмпирически. Например, Клапаредом установлен генетический закон более раннего осмысления ребенком различий между объектами, чем сходства. Выгодский показал, что операция установления сходства более сложна по составу, нежели различение. Операции различения и установления сходства могут осуществляться независимо. В 20–30-х годах XX века П. Жане рассматривает мышление как «заместитель реального действия, функционирующий в форме внутренней речи» [14]. Это положение с большой степенью надежности и достоверности доказано экспериментально (Л.М. Век-
кер ссылается на исследования Гальперина): формирование умственных операций начальной точкой имеет физические действия с предметами или их изображениями, затем наступает этап оперирования с предметными психическими структурами сначала средствами внешней речи, а затем внутренней. Последний уровень является высшим, идеальным уровнем. Акт мышления, рассматриваемый как поиск ответа на вопрос, стимулированный внешней ситуацией, завершается формированием суждения по данному вопросу. Суждение выражается предложением, имеющим минимально трехкомпонентную структуру, сохраняющую специфику мысли как законченного целого – подлежащее, сказуемое и связку. (Связка может подразумеваться.) «У всех народов всех веков, всех племен и всех ступеней умственного развития словесный образ мысли в наипростейшем виде сводится на наше трехчленное предложение. Именно благодаря этому, мы одинаково легко принимаем мысль древнего человека, оставленную в письменных памятниках, мысль дикаря и мысль современника. Благодаря тому же, мы можем утверждать с полной уверенностью, что и те внутренние скрытые от нас процессы, из которых возникает бессловесная мысль, у всех людей одинаковы» [17]. Ответ на вопрос или решение, выраженное суждением как структурной единицей процесса мышления, «характеризуется феноменом понимания». Понимание есть результат мышления и, повидимому, нет причин использовать термин «понимание как процесс». Операндный состав в начальном и конечном пунктах процесса мышления существенно различен. Ответ содержит компоненты, информационный дефицит которых составляет сущность вопроса. Можно говорить о «состоянии понятности», которое характеризуется умением субъекта самостоятельно выделять отношения между операндами и выражать их вербально в различных формах, не нарушая смысла (адекватности отражения). Психическое отображение отношения между операндами ответа должно оставаться инвариантным относительно речевых форм выражения этого отношения. Это требование ограничивает множество форм выражения.
21
22
1.3.2. Непроизвольные и произвольные составляющие, обратимость мысли На пути от «понимания непонятности» к пониманию как результату мышления встречаются очень важные психические эффекты. Достаточно давно (в начале XX в.) были выделены две тенденции непроизвольного влияния на течение мыслительного процесса. Они были названы персеверативной и ассоциативной (репродуктивной). Действие первой из них заключается в том, что каждая предметная психическая структура (операнд) «часто возвращается и вклинивается в течение мыслительного процесса». Вторая тенденция выражается в стремлении к «ветвлению» мышления, поскольку операнды ассоциируются с другими психическими структурами, связанными с ними прошлым опытом. Поскольку мысль все же сохраняет целенаправленность, следовательно, существует произвольная детерминирующая компонента процесса. Парность мыслительных операций имеет следствием обратимость мысли: реализация пары операций обеспечивает возврат мысли к исходному пункту. Поскольку таких пар несколько, общее свойство обратимости мыслительного процесса «опирается на функционирование целостного ансамбля координированных операций». Очевидно, обратимость имеет отношение как к операционному, так и к операндному (предметному или символическому) составу мысли.
2. Процессоры мозга. Многопроцессорная метафора Волей-неволей в науке выстраивается некоторая иерархия представлений и конструкций, как будто наш Разум, обретя наконец возможность, торопится повторить все то, что он прошел уже сам в своем совершенствовании длительным путем мучительной эволюции, тянувшейся миллионы лет. Н. Моисеев
Понятия «система управления», «обратная связь», «автомат», «персептрон», «ассоциативная память»2 стали результатом осмысления наукой вопросов о строении и функциях нервной системы. В свою очередь информатика (в современном понимании этого научного направления) является основным источником моделей работы нервной системы, так как анализ движения и взаимодействия нервных импульсов «ничего не могут сказать о смысле операций» [16]. Нейробиология и кибернетика (более широко – информатика) неизбежно должны развиваться в тесном взаимодействии. В недалеком прошлом нейропсихологи совершенно пренебрегали представлениями искусственного интеллекта о фундаментальной роли знаний в моделировании мышления. Оправданием этому может послужить тот факт, что компьютерная метафора в нейрокибернетике основывалась на неймановской архитектуре ЭВМ. Но когда в 70–80-х годах прошлого века стали создаваться непрограммные системы со сложной архитектурой (например, операционные системы ЭВМ для своего времени явились едва ли не самым сложным продуктом человеческого интеллекта.), появились многопроцессорные ЭВМ с разделением функций между процессорами и распараллеливанием процессов, ситуация стала меняться. Искусственный интеллект в ипостаси экспертных систем (ЭС) из исследовательской перешел в индустриальную фазу развития. И, может быть, наиболее важными научными результатами исследований и разработок в области ЭС стали выводы о том, что: – всякая интеллектуальная система должна уметь оперировать внутренними моделями мира; 2
23
Память, содержание которой в целом доступно по какой-либо его части.
24
– для эффективного моделирования мира знания о различных аспектах его организации должны быть по-разному структурированы и представлены в ЭВМ в форме, позволяющей реализовывать естественную для данного аспекта логику манипулирования с моделями [16]. (По сути, эта же идея лежит в основе так называемого Объектно Ориентированного Программирования.) А теперь рассмотрим основания для многопроцессорной метафоры в нейрокибернетике. 2.1. Элементарный процессор мозга – нейрон «Атомом» нервной системы, но далеко не неделимым и не простым, является нервная клетка – нейрон. Его структура и механизм работы неизмеримо шире, чем представление о нем, как о простом пороговом элементе. Основные функциональные свойства нейрона определяются его способностью к возбуждению и самовозбуждению. Передача возбуждения осуществляется по отросткам нейрона – аксонам и дендритам. Аксоны передают информацию от клетки другим клеткам. Дендриты воспринимают возбуждение от соседних нейронов и проводят его к телу клетки. Синапсы – места контактов нейрон – нейрон или нейрон – клетка мышцы. Синапсы состоят из узкой щели между двумя клетками и двух мембран, одна из которых принадлежит передающей клетке, другая – принимающей. Помимо внутренних нейронов, воспринимающих и преобразующих импульсы, поступающие от других нейронов, существуют еще нейроны, воспринимающие воздействия непосредственно из окружающей их среды (рецепторы), а также нейроны, непосредственно воздействующие на исполнительные органы – эффекторы, например, на мышцы или железы. Если нейрон воздействует на мышцу, его называют моторным нейроном, или мотонейроном. Утверждение о том, что нейрон – медленно работающее устройство, во многом не верно. Хотя частота импульсов на выходе большинства нейронов редко превосходит 100 имп/сек, а переходные процессы в мембранах длятся по нескольку микросекунд, од25
нако многие нейроны имеют десятки, а то и сотни тысяч входов, и для того, чтобы имитирующая нейрон ЭВМ могла даже просто последовательно опросить эти входы за 0,01 сек, ее быстродействие должно было бы превышать миллион операций в секунду [16]. Порождение нервного импульса в результате деполяризации триггерного участка нейрона – аксонного холмика – наиболее «доминантная» функция для большинства нейронов. Однако реальный нейрон существенно сложнее порогового элемента. Действительно, можно утверждать, что: – многие нейроны обладают спонтанной импульсной активностью и приходящая афферентация лишь меняет ее временные характеристики; – не все нейроны возбудимы, в ряде случаев обработка информации и ее передача происходит на подпороговом уровне; – помимо классических синапсов между аксонами одних нейронов и дендритами других встречаются и дендрит-дендритные, дендрит-аксонные и т. п.; – возможности отдельных нейронов настолько велики, что им доверяется управление сложными динамическими системами или организация целостных поведенческих реакций; например, так называемые командные нейроны (как правило, гигантские) используются у многих животных для распознавания угрожающей ситуации и быстрого запуска целостной реакции избегания. В силу сложности структуры число возможных состояний нейрона очень велико, и ансамбли нейронов могут быть очень емкими и компактными устройствами хранения информации – «блоками памяти». Таким образом, даже «элементарная» структурная единица нервной системы – нейрон – больше похож на процессор, чем на простой пороговый элемент, и в качестве простого линейного сумматора он работает лишь в исключительных, предельно простых случаях. Модель искусственного нейрона в виде простого сумматора, соединенного с пороговым элементом, оказалась продуктивной в силу ее простоты. На основе искусственных нейросетей (ИНС) разработаны нейросетевые компьютеры и приставки к обычным ЭВМ. Но ожидать, что на основе ИНС можно создать Мозг, по всей видимости, не следует. 26
Работа человеческой психики, субстратом которой является мозг, дает множество оснований для ее моделирования многопроцессорной системой. Участки мозга в обоих полушариях (объемом 1–2 см3) можно сравнить с процессорами, специализированными на выполнении различных интеллектуальных задач. В каждом таком участке содержится по нескольку миллионов нейронов, большая часть которых имеет размеры от 5 до 50 мк. Головной мозг состоит из ряда хорошо различимых отделов, которые, в свою очередь, состоят из подотделов (области, комплексы, формации), границы между которыми не всегда четко различимы. Разделы подразделов называются полями или ядрами (в зависимости от плотности упаковки нейронов). Различные участки головного мозга работают параллельно и относительно независимо. Например, человек с тяжелыми поражениями речи может правильно узнавать окружающие предметы, читать и даже сочинять музыку. Еще немецкий физиолог Галлей (1758–1828 гг.) высказал предположение о специализированности некоторых областей мозга, которые могут хранить отдельные «способности» [20]. На конференции «Meeting of the American Academy of Neurology», прошедшей в 2001 г., сообщено о нахождении зоны мозга, ответственной за самосознание (сведения из Internet). Ученые изучали пациентов с редким дегенеративным заболеванием мозга, которое ведет к серьезным изменениям индивидуальности человека. В результате исследователям удалось выявить ту область мозга, которая, по их мнению, ответственна за ощущение «Я», своей личности, убеждений, а также предпочтений. Это – правая фронтальная область мозга. Брюс Миллер, главный исследователь, утверждает, что, согласно его исследованиям, поражения в правой фронтальной области ведут к нарушению сознательных функций и функций самоосознания. Это не тривиальное открытие, поскольку не понятно, почему неречевая зона мозга ответственна за концепции о себе самом. (Поскольку языковое мышление – это уже формализованное мышление, что приведенный факт является еще одним доказательством преимущественной «образности» ра-
боты мозга. Необходимо заметить также, что нарушение контроля над протеканием сознательных процессов, выражающихся в потере четкой ориентировки в окружающем, в своем прошлом, в нестойкости сознания, при поражениях лобных долей мозга было описано еще в 60-х годах [21].) В области микрокартирования мозга получены в последнее время результаты, вызывающие интерес. Обнаружены даже такие механизмы, как детектор грамматической правильности осмысленной фразы. Например, «белый пароход» и «белая пароход». Есть одна группа нейронов, которая возбуждается, когда грамматика нарушена, и сигнализирует об этом мозгу. Найдены микроучастки мозга, которые отвечают за счет, за различение конкретных и абстрактных слов. Переднему мозгу приписывают исполнение высших интеллектуальных функций. Затылочная доля коры отвечает за зрение, височная доля – за слух и речь, теменная доля – за реакции на сенсорные стимулы и управление движениями, лобная доля отвечает также за координацию функций других областей коры. Поверхностный слой правого и левого полушарий – кора – вместе с несколькими небольшими структурами в глубине составляют передний мозг. В подкорковых отделах больших полушарий и стволе мозга находятся глубокие структуры мозга – специфические и неспецифические. Специфические структуры мозга обеспечивают переработку сенсорной информации и организацию моторных актов. Неспецифические – активацию, регуляцию цикла «сон – бодрствование», процессы памяти и внимания, эмоциональные процессы, состояния сознания. При стереотоксических воздействиях на неспецифические глубокие структуры мозга (неспецифические ядра зрительного бугра, лимбическую кору и др.) возникают динамические нарушения высших психических функций – речи (дисфазии), движений (диспраксии), памяти (дисмнезии), которые отличаются от соответствующих нарушений, обусловленных поражением коры больших полушарий (афазии, апраксии, амнезии). В интеллектуальной деятельности нейроны коры и глубоких структур мозга участвуют по-разному. В глубоких структурах в основном наблюдается увеличение частоты электрических разря-
27
28
2.2. Разделы мозга. Межполушарная асимметрия
дов, не очень «привязанное» к какой-то определенной зоне. Эти нейроны как бы любую задачу решают совместно. Совершенно другая картина в коре головного мозга. Там нейроны специализированы. 2.2.1. Межполушарная асимметрия На макроуровне бросается в глаза физическая разделенность головного мозга на два полушария. Открытие факта разделенности головного мозга человека вряд ли можно приписать кому-то персонально. Но на функциональную ассиметрию полушарий впервые обратил внимание Брока в 1861 г. Он обнаружил в области третьей лобной извилины левого полушария зону, поражение которой приводит к потере речи. Идею о «логичности», «аналитичности» левого полушария и «образности» и «непосредственности» правого впервые высказал, по-видимому, Джексон в 1874 г. [27]. С тех пор и до настоящего времени проводятся исследования с целью понять природу парности и функциональной асимметрии. Несмотря на то, что признаки функциональной асимметрии наблюдаются вскоре после рождения ребенка и могут считаться врожденными, на сегодня точка зрения о логико-образной (аналитико-холистической) дихотомии, физически (физиологически) реализованной в двуполушарности мозга, является доминирующей. Однако указанные функциональные различия между полушариями носят скорее количественный, а не качественный характер. Крайне интересны с точки зрения связи логичности мышления и одаренности данные, свидетельствующие о том, что одаренность связана с правым, «образным» полушарием [22–25]. 2.3. Проекционные структуры В мозгу человека и всех сколько-нибудь высокоорганизованных животных обнаружены многочисленные проекционные структуры [16]. Информация в этих структурах представляется в пространственно развернутой форме – в виде мозаики из возбужденных и невозбужденных нейронов. Зрительные и соматосенсорные образы внешнего мира проецируются в мозг с сохранением их топологической структуры. Возбуждение близко расположенных 29
элементов сетчатки глаза приводит к возбуждению близко расположенных нейронов в проекционных областях зрительной коры, а прикосновение к соседним точкам кожи приводит к возбуждению соседних групп нейронов в области, специализирующейся на анализе соматосенсорной информации. В слуховом анализаторе возбуждение близких нейронов соответствует близким по высоте звукам. Участки мозга не только управляются своими выходными проекционными структурами, но в какой-то мере вмешиваются в события, происходящие на их входных структурах. Об этом свидетельствует тот факт, что мы способны вызывать сенсорные образы объектов окружающего мира. Особенно яркими идущие изнутри образы становятся в сновидениях и при галлюцинациях. Таким образом, проекционные структуры предоставляют мозгу пространство, в котором он разворачивает целый модельный мир, объекты которого для мозга эквивалентны объектам окружающего мира, их свойствам и отношениям. В отличие от окружающего мира, всем, что происходит во внутреннем модельном мире, мозг может оперировать непосредственно, «силой мысли». Мозгу доступны не только имена объектов окружающего мира, но в определенном смысле сами объекты. Многопроцессорная метафора, наличие локальных «внутренних дисплеев» и центрального, создающего целостную картину воспринятого, могут объяснить такие психопатологические феномены, как подавление восприятия и невозможность «монтажа» целостного образа воспринятого. Состояние подавленного восприятия описывается больным как «тяжелая штора», опущенная на мозг; это напоминает тяжелую грозовую тучу, затрудняющую использование органов чувств. Свой собственный голос может звучать глухо и как бы издалека, в глазах все расплывается и колеблется. В случае полного разрыва связей получим резко выраженную патологию: «Аудиальные, визуальные и кинестетические контакты со средой перестают быть понятными для больного... При подобных нарушениях информация, поступающая к больному, перестает быть для него цельной и очень часто предстает в форме раздробленных, разделенных элементов. Например, при просмотре телевизионных передач боль30
ной не может одновременно смотреть и слушать, а видение и слух представляются ему двумя разделенными сущностями» [26]. Такое раздробленное восприятие может отражаться как на речи больного, так и на его поступках. И понятно почему: из-за неточной входной информации «сбоит» работа высших по иерархии процессоров – процессоров сознания, организующих поведение. 2.4. Память С проблемой организации и локализации функций мозга тесно связана и проблема определения структур, хранящих информацию, т. е. «модулей памяти». К настоящему времени никакой макроструктуры («винчестера»), функцией которой являлось бы только хранение информации, не обнаружено. Н.П. Бехтерева [см. 27] пришла к принципиальному заключению о том, что, «хотя существуют зоны мозга, имеющие тесную связь с процессами памяти, данные записи физиологических показателей мозга и его электрической стимуляции свидетельствуют об организации памяти по распределенному принципу... Создается впечатление не просто о системном характере организации памяти, а множестве систем, обеспечивающих различные виды и различные фазы памяти, имеющие общие для всех и различные для каждой из них звенья». Память – это нейронное хранилище ассоциаций. Способность к образованию ассоциаций присуща нейронам всех структур мозга высших животных и человека, «а может быть, и вообще всем нейронам» [27]. Образование и распад ассоциаций составляют основу обучения. В один образ связываются (ассоциируются) прежде разобщенные образы восприятия, памяти, собственных действий. Ассоциации, не поддерживаемые повторными сочетаниями, саморазрушаются сначала быстро, а потом все медленнее, по экспоненте с отрицательным показателем степени [28]. 2.4.1. Процедурная и декларативная память Некоторые исследователи подразделяют память на «процедурную», или «моторную», и «декларативную». «Процедурное знание – это знание того, как действовать. Декларативное знание... 31
обеспечивает доступный и ясный отчет о прошлом индивидуальном опыте...» [8]. Отличие двух типов памяти может заключаться в том, что процедурная память основана на биохимических или биофизических изменениях, происходящих только в тех нервных сетях, которые непосредственно участвуют в усвоенных действиях. Изменения этого типа отличаются от перестройки нервных сетей, с которой, как полагают, связана декларативная память. Декларативную память называют также семантической, поскольку «доступный и ясный отчет» обеспечивается логической категоризацией, полностью определяемой речью. 2.4.2. Типы памяти, дифференцируемые по времени хранения информации На сегодня, будучи строго объективным, можно констатировать, что установлено наличие трех видов нервной памяти [27]. «1) Сенсорная (перцептивная) память – отпечаток, энграмма внешних воздействий, представляющая из себя нейродинамический процесс длительностью 0,1–0,5 с. Главной особенностью сенсорной памяти считается ее практически неограниченная емкость, запоминается все, что воспринимается рецепторами. Она обеспечивает возможность выбора и переработки информации более высокими по иерархии отделами мозга. 2) Кратковременная память – ряд электрофизиологических и электрохимических процессов длительностью от десятков миллисекунд до минут, часов, дней, переводящих соответственно переработанную отфильтрованную сенсорную энграмму в долговременную память или извлекающих следы энграммы из долговременной памяти; объем кратковременной памяти, который после многолетних тщательных исследований по разнообразным методикам считается равным 7±2 единицы. 3) Долговременная память – некоторая новая внутримозговая структура, матрица, представляющая из себя изменения в мембранах нейронов и межнейронных связях, в которых отображаются в переработанном виде сенсорные энграммы, являющиеся результатом сложных сцеплений следовых образов внешнего мира». 32
Все это весьма напоминает описание концепции иерархии памяти ЭВМ «от очень быстро и мало» до «очень много и медленно». Тем более что нейрофизиологи говорят о возможности существования и четвертого вида памяти – промежуточной, или лабильной. Поскольку объема кратковременной памяти явно недостаточно для обеспечения записи в долговременную память непрерывного потока внешней и внутренней информации, значит, должна существовать память значительно большей емкости и с временем хранения, измеряемым часами. Однако ее емкость также ограничена, и предполагается, что «очищение ее регистра» [27], обработка и перевод информации в долговременную память производится через кратковременную во время сна, когда она свободна от внешней информации. В психологической литературе фигурирует множество видов памятей: «образная, логическая, эмоциональная, память-воображение, память-рассказ», появление которых связано преимущественно с методологическими слабостями интроспективного метода исследования. (Небезынтересно отметить, что И.П. Павлов, фактически занимавшийся исследованиями механизмов памяти, отказался от использования психологических терминов.) Тем не менее различение видов памяти по модальностям (зрительная (визуальная)), звуковая (аудиальная), тактильная, вкусовая), а также по времени и объему хранения информации представляется очень важным и твердо укрепилось в нейрофизиологии. 2.5. Многопроцессорная метафора По морфологической сложности нервная система превосходит весь остальной организм. Различные участки мозга, как уже сказано выше, отличаются и функциями, и ролью в процессах переработки информации. Достаточно давно выделенные отделы мозга метафорически сопоставлялись с процессорами ЭВМ. Однако метафора понималась слишком формально.
33
2.5.1. Процессоры в многопроцессорных системах Отдельные процессоры в многопроцессорных системах, как правило, обладают характеристиками, фактически придающими процессору особый онтологический статус в рамках вычислительной системы, делают его своего рода «субъектом». Перечислим эти характеристики, следуя [16]. 1. Наличие собственной памяти. 2. Форма представления информации, адекватная классу решаемых задач. 3. Возможность различными способами коммутироваться с другими процессорами в функциональные комбинации. 4. Возможность перепрограммировать извне. 5. Обладание входными и выходными интерфейсами (или внутренними дисплеями). Функцией некоторых процессоров может быть планирование и организация работы всей многопроцессорной системы как целого. К безусловным преимуществам многопроцессорных систем следует отнести большую надежность и производительность, которые достигаются за счет распараллеливания процессов. В свою очередь, это позволяет строить их из относительно уязвимых и медленно работающих элементов. Вместе с тем можно закрепить за отдельными процессорами выполнение ограниченного класса задач – сделать их специализированными, приспособленными для работы с определенными формами представления информации, естественными для конкретных моделей и объектов. А при решении задач в естественном представлении отпадает, как правило, необходимость в их предварительной формализации, существенно упрощается структура программ. Одновременная работа нескольких процессоров позволяет вычислительной системе сопоставлять различные аспекты, синтезировать представления об объектах мира как о многогранных динамических целостностях, а не просто как о носителях некоторого набора признаков. Путем обмена информацией через «внутренние дисплеи» многопроцессорная система получает возможность оперировать имитационными моделями внешнего мира и собственных действий. Это необходимо для прогнозирования развития со34
бытий, за которыми наблюдают ее сенсоры. Если имитационная модель сформирована, то одна группа процессров может проиграть для другой группы возможное развитие ситуации. Это похоже на модельный физический эксперимент или театральную сцену. В системе, состоящей из процессоров, обменивающихся между собой информацией через «внутренние дисплеи» и оперирующих каждый своей, специализированной формой знаний, разумным образом можно ввести представление о смысле. «Cмысл» – это интерпретация одним процессором состояния других в своей форме представления. 2.5.2. Сопоставление функциональных зон коры с процессорами ЭВМ Некоторые участки мозга, как уже было сказано, специализированы. По крайней мере, функциональные зоны коры можно сопоставить с процессорами вычислительных устройств. Собственная память. И нейропсихологические, и нейрофизиологические данные указывают на то, что большинство из участков коры мозга обладают собственной памятью. Все попытки найти единый центр памяти неизменно терпели неудачу. При повреждениях же определенных участков мозга одновременно исчезают способности оперировать с информацией определенной модальности и ее следы. То, что поражение некоторых глубинных участков мозга приводит к тяжким нарушениям внимания и управления общей активностью мозга, которые делают эффективное запоминание невозможным, во всяком случае, не опровергает факта распределения памяти по зонам. Собственная форма представления информации. По традиции, восходящей еще к прошлому веку, в нейропсихологии принято закреплять за зонами не формы представления информации, а целостные психические функции или хотя бы их отдельные элементы. Однако экспериментально установлено, что поражение одной и той же зоны мозга может привести к столь различным нарушениям, как потеря возможности пользоваться географической картой, вести счет с переносом разрядов влево или вправо и понимать сложные грамматические конструкции. Все эти функции объединены лишь необходимостью использовать «квазипространственную форму представления информации». 35
Перекоммутация. Различные по специализации участки мозга могут по-разному коммутироваться друг с другом. Еще одна отличительная черта высших психических процессов человека – это то, что локализация их в мозговой коре не является устойчивой, постоянной, а меняется как в процессе развития ребенка, так и на последовательных этапах упражнения. Способ, которым осуществляется некоторое интеллектуальное действие, и соответственно локализация используемых для этого областей коры мозга даже у одного человека могут меняться в зависимости от того, какие еще задачи ему приходится решать в этот момент. Перепрограммируемость. Участки мозга могут менять характер информационной деятельности как автономно, так и под действием сигналов от других отделов. Ряд фактов говорит о том, что внутренняя структура этих зон, а вместе с ней и функции изменяются не только в ходе эмбрионального развития и самообучения. Исследование мозга, выполненное с помощью функциональной ядерно-магнитной резонансной томографии, подтвердило гипотезу о том, что при разрушении жизненно важных участков коры головного мозга их функция может передаваться другим областям. Таким образом, «второстепенных» участков коры не существует, просто многие оставлены в резерве. В этом направлении уже получены положительные результаты: например, перенос владения иностранным языком из одного полушария мозга в другое; обучение говорить заново больных с нарушением области Брока. 2.5.3. Об организации работы мозга на макроуровне Анализ работы и дифференции функций зрительной, слуховой и других подсистем дал основание А.Р. Лурии, основоположнику отечественной нейропсихологии, сформулировать принципиальное положение о том, что каждая высшая психическая функция выполняется за счет работы трех мозговых блоков. Первый блок – блок регуляции уровня общей и избирательной активации мозга образован неспецифическими структурами ретикулярной формации ствола мозга, структурами среднего мозга, диэнцефальных отделов ствола, лимбической системы, медиобазальными отделами коры лобных и височных долей мозга. 36
Второй блок – блок приема, переработки и хранения модально-специфической информации образован основными анализаторными системами (зрительной, слуховой, кожно-кинестезической), корковые зоны которых расположены в задних отделах больших полушарий. Третий блок – блок программирования, регуляции и контроля за протеканием психической функции, обеспечивающий формирование мотивов деятельности и контроль за результатами деятельности посредством большого числа двусторонних связей с корковыми и подкорковыми структурами, образован моторными, премоторными и префронтальными отделами коры больших полушарий.
3. О модели генерации текста В заключение я хочу привести пример того, как приведенный выше эмпирический материал (в частности, наличие произвольных и непроизвольных тенденций в процессе мышления) можно использовать при построении математических моделей мышления и производных процессов. Для установления некоторых общих характеристик текстов, допускающих числовое представление и экспериментальную проверку, необходимо построить модель, хотя бы в самых общих чертах описывающую процесс генерации текста. С учетом того, что любой текст есть продукт мышления, основанием для такой модели может служить аналогия между описанием процесса мышления в когнитивной психологии и процедурой поиска пути между фиксированными вершинами некоторого графа. Пусть задан некоторый граф G(V,E), V – множество вершин – операндов, E – множество ребер. Полагая, что субъектом мышления является программа, сам процесс мышления моделирует процедура поиска путей между заданными вершинами. Действительно: – на старте имеем известные начальную и конечную вершины пути и неизвестные промежуточные вершины – «понимание непонятности»; – процесс выбора вершины для очередного шага соответствует элементарному акту мышления; – персеверативной и ассоциативной тенденциям соответствуют переходы между смежными вершинами и возвраты в исходные; – «протокол» переходов будет соответствовать тексту. Пусть граф G содержит 5 вершин V0,v1,v2,v3,V4, причем степень вершины V0 равна 3, степень V4 равна 1, степени v1,v2 равны 1 и они смежны с V0, степень v3 равна 2 и она смежна с V4 и V0. Введя соответствующие алфавит и грамматику, «протокол» поиска пути между V0 и V4 может быть записан в виде следующих «предложений»: V0 e{0,1} v1. V0 e{0,2} v2. V0 e{0,3} v3. v3 e{3,4} V4.
37
38
Учесть ограниченность кратковременной памяти можно путем моделирования процесса перекачки информации из одного вида памяти в другой (например, из лабильной памяти в долговременную) через фильтр кратковременной памяти. При этом будем считать, что в нашем графе существует единственный вид отношений между вершинами – смежность, т. е. перейдем от исходного графа к тотальному. Для этого есть некоторые онтологические основания – в возбужденном участке мозга нейронные ансамбли либо соединены между собой аксон-дендритными «проводами», либо нет.
Каждый следующий такт начинается с чтения концевого маркера из Moi. Y Условимся, что конструкция X ⎯⎯ → Z обозначает последовательную запись множества элементов X из памяти Y в память Z. В случае записи или чтения информации из ячеек оперативной памяти указание типа памяти над стрелкой не используется. Первый такт работы автомата представится множеством действий: i
M 1. (vn,v1,v1) ⎯⎯ → ( e1o , e2o , e3o ) L
3.1. Автомат-«писатель» Представим себе автомат [29; 30], обладающий следующими видами памятей: ML – моделирует лабильную; в ней хранятся пути между фиксированными вершинами некоторого графа, каждый из которых представлен последовательным множеством троек имен вершин. Каждое такое множество однозначно определяется именами начальной и конечной вершин. Eo=( e1o , e2o , e3o , e4o , e5o , e6o , e7o ) – моделирует кратковременную. Mi – память (лента), задающая начальные и конечные вершины путей в виде троек (Vs,ve,ve). Moi – выходная память (лента), моделирующая долговременную. Конструкция автомата дополняется командным блоком, в функцию которого входит управление читающими и пишущими головками. Автомат формирует «описание» заданного пути тройками имен вершин (прототипами предложений PP), которые записываются на «ленту» Moi. Полное множество PP составляет (прототип текста) PT=(PP1,PP2,…,PPn). Полагаем, что оперативная память хранит информацию на протяжении такта формирования блока. Блок состоит из двух PP и специальной тройки – «концевого маркера», – состоящей из имен конечной, начальной и последней, прочитанной из ML вершин. 39
M ( e3o , e4o , e5o ) 2. (v1,v2,v3) ⎯⎯→ L
M ( e5o , e6o , e7o ) 3. (v3,v4,v5) ⎯⎯→
4. ( e3o , e4o , e5o ) ⎯⎯ → Moi 5. & ( e5o , e6o , e7o ) ⎯⎯ → Moi 6. & ( e1o , e2o , e7o ) ⎯⎯ → Moi Следующие такты начинаются с «промотки» ленты Moi на одну тройку («концевой маркер») назад. 7. Moi ←⎯ ⎯ oi
M ( e1o , e2o , e3o ) 8.(vn,v1,vj) ⎯⎯→ L
M ( e3o , e4o , e5o ) 9.(vj,vj+1,vj+2) ⎯⎯→ L
M ( e5o , e6o , e7o ) 10. (vj+2,vj+3,vj+4) ⎯⎯→
11. ( e2o , e3o , e4o ) ⎯⎯ → Moi
→ Moi 12. ( e5o , e6o , e7o ) ⎯⎯ 13. ( e1o , e2o , e7o ) ⎯⎯ → Moi Прототип текста для 5 вершин в пути: v1v2 v3. v3 v4 v5. v1 v5 v5. Прототип для 9 вершин: v1 v2 v3. v3 v4 v5. v1 v9 v5. v5 v6 v7. v7 v8 v9. v1 v9 v9. Определим вес каждого PP как сумму частот встречаемости каждого имени в различных PP. 40
Нетрудно увидеть, что при числе вершин, равном 9, в распределении весов W(Np), где Np – номер PP, появятся локальные максимумы, приходящиеся на концевые маркеры, содержащие наиболее «важные» имена вершин. Процедура отбора предложений с локальными максимумами [31] – автоматическое квазиреферирование – фигурально выражаясь, напрашивается сама собой. Пусть Cb – число блоков в PT (равное числу концевых маркеров). Тогда коэффициент «реферирования», определяемый как отношение PP с локальными максимумами ко всем PP в PT: Cb 1 Kr= b = . 3C 3 Поскольку не существует удовлетворительного объяснения гиперболического закона рангового распределения, широко известного в лингвистике как закон Ципфа, было интересно посмотреть на такие распределения для прототипа. Выяснилось, что если сгруппировать имена с равными частотами и пронумеровать (проранжировать) группы в порядке возрастания частоты, то зависимость ранга от частоты, начиная с 8 вершин в пути, перестает быть строго линейной – лидируют с отрывом имена начальной и конечной вершин. Это позволяет нам возможность ввести критическую частоту повторяемости имени, предположив, что изменение зависимости r = R-ω (R – максимальный ранг или ранг текста) происходит в районе максимума rω. Продифференцировав rω =Rω – ω2 по ω и положив результат равным нулю, получим ω kr=0,5R. Развитие модели в область реальных текстов можно посмотреть в статье [32].
41
Заключение Термин «искусственный интеллект» (artificial intelligence, AI, ИИ) утвердился как составная часть информатики. Сегодня это не только направление научных исследований, но и солидная индустрия. В центре внимания этого научного направления находятся творческие возможности человеческого разума, умение приобретать и эффективно использовать знания, находить решения новых задач. Благодаря исследованиям в различных областях знания (психологии, нейрофизиологии и нейролингвистики, лингвистики, нейрокопьютинга, программирования) сумма знаний и технологий вплотную приблизилась к критическому значению, за которым последует появление искусственных «понимателей». Cинтез ряда естественных и гуманитарных наук (лингвистика, психология, нейрофизиология), а также технических дисциплин (программирование в широком смысле) сделал ИИ по сути «экспериментальной философией» – недавно еще фантастической возможностью «проверки самых тонких и абстрактных гипотез о природе человеческого разума» [33]. Один из известных специалистов в области ИИ профессор Н.Г. Загоруйко [34] следующим образом резюмирует сегодняшнее состояние исследований в этой области информатики: «Дискуссии на тему "Может ли машина мыслить" уже давно сошли со страниц газет и журналов. Скептики устали ждать, когда же сбудутся обещания энтузиастов. А энтузиасты без лишних разговоров, небольшими шагами продолжают двигаться в направлении горизонта, за которым они надеются увидеть искусственного собрата по разуму».
42
Контрольные вопросы
Список используемой литературы
1. Вопрос, возникающий по ассоциации с теоремой Геделя о неполноте: какие процессы в Природе, по Вашему мнению, более естественны: бесконечно «прогрессивные» или циклические? 2. В чем заключается проблема семантической редукции? 3. Телеологично ли человеческое поведение? 4. Назовите две непроизвольные тенденции, сопровождающие процесс мышления. 5. В чем заключается информационная сущность вопроса (задачи)? 6. Какая задача из теории графов (и общий алгоритм решения) наиболее ярко иллюстрирует процесс мышления c его непроизвольными тенденциями? 7. Могут ли нейроны образовывать новые связи? 8. В чем заключаются преимущества многопроцессорной системы? 9. Что такое «внутренние терминалы»? 10. Как можно определить «смысл» в многопроцессорной системе? 11. Существует ли в человеческом мозге некоторая единая структура, отвечающая только за хранение информации? 12. Классифицируйте память по основным модальностям. 13. Назовите основные типы памятей, классифицируя по времени и объему хранения информации. 14. Какую роль, возможно, выполняет лабильная память? 15. Назовите основные свойства образа. 16. В чем может заключаться причина нестабильности вторичных образов? 17. За счет работы каких «мозговых блоков», согласно А.Р. Лурии, выполняется каждая высшая психическая функция?
1. Корниенко Е. Опасно разумен. //http://webcenter.ru/~korn/ mind/danger.html 2. Уинстон П. Искусственный интеллект. М.: Мир, 1980. 3. Вежбицка А. Из книги «Семантические примитивы». Введение // Семиотика / Под ред. Ю.С. Степанова. М., 1983. 4. Петрунин Ю. О рождении европейской науки. http://www.bedir.ru/nauka/index.shtml?05002 5. Математическая энциклопедия. М.: Советская энциклопедия, 1977. Т. 1. 6. Моисеев Н. Человек и ноосфера. М.: Молодая гвардия, 1990. 7. Электронная версия материалов конференции «Искусственный интеллект 2000», Украина, Крым, 11–16 сентября 2000 г. // http://www.iai.dn.ua/css/iaistyle.css 8. Блум 3.Ф., Лейзерсон А., Хофстедтер Л. Мозг, разум и поведение. М.: Мир, 1988. 9. Веккер Л.М. Психика и реальность. Единая теория психических процессов. М.: Смысл, 1998. 10. Веккер Л.М. Психические процессы. Л.: Изд-во ЛГУ, 1974. Т. 1. 11. Веккер Л.М. Психические процессы. Л.: Изд-во ЛГУ, 1976. Т. 2. 12. Адам Д. Восприятие, сознание, память. М.: Мир, 1983. 13. Психология: Словарь. М.: Политическая литература, 1990. 14. Философский энциклопедический словарь. М.: Советская энциклопедия, 1983. 15. Рубинштейн С.Л. Основы общей психологии: В 2 т. М., 1988. 16. Дорфман Я.Г., Сергеев В.М. Нейроморфогенез и модели мира в сетях нейронных процессоров // Интеллектуальные процессы и их моделирование: Сб. ст. / Отв. ред.: Е.П. Велихов, А.В. Чернавский. М.: Наука, 1987. 17. Сеченов И.М. Избранные произведения. М., 1952. Т. 1. 18. Фор А. Восприятие и распознавание образов. М.: Машиностроение, 1989.
43
44
19. Загоруйко Н.Г. Прикладные методы анализа данных и знаний. Новосибирск: Ин-т математики, 1999. 20. Челпанов Г.И. Очерки психологии. М.; Л.: Моск. акц. изд. об-во., 1926. 21. Лурия А.Р. Основы нейропсихологии. М.: Московский университет, 1973. 22. Bell M.A., Fox N.A. The relations between frontal and brain electrical activity and cognitive development during infancy // Child Dev. 1992. V. 63. P. 1142–1163. 23. Fox N.A. et al. EEG asymmetry and negative emotionality in 14-month-old infants // Psychophysiol. 1988. V. 25. P. 446–447. 24. O'Boyle M.W., Alexander J.E., Benbow C.P. Enhanced RH activation in the mathematically precocious: A preliminary EEG investigation // Brain a. Cognit. 1991. V. 17. P. 138–153. 25. O'Boyle М. W., Benbow C.P., Alexander J.E. Sex differences, hemispheric laterality and associated brain activity in the intellectually gifted // Devel. Neuropsychol. 1995. V. 11. № 4. P. 415–443. 26. Фуллер Торри Э. Шизофрения: книга в помощь врачам, пациентам и членам их семей. СПб.: Питер, 1996. 27. Механизмы памяти (Руководство по физиологии). Л.: Наука, 1987. 28. Лебедев А.Н. Память человека, ее механизмы и границы // Исследования памяти: Сб. ст. / Под ред. Н.Н. Коржа. М.: Наука, 1990. С. 104–118. 29. Чанышев О.Г. Обнаружение закономерностей в реальных текстах при помощи автомата-«писатель» //Четвертый сибирский конгресс по прикладной и индустриальной математике: Тез. докл. Новосибирск, 2000. Ч. III. C. 106–107. 30. Чанышев О.Г. Ассоциативная модель реального текста и ее экспериментальная проверка // Математические структуры и моделирование: Cб. науч. тр. / Под ред. А.К. Гуца. Омск: ОмГУ, 1999. Вып. 3. C. 143–151. 31. Солтон Дж. Динамические библиотечно-информационные системы. М.: Мир, 1979. 32. Чанышев О.Г. Ассоциативная модель реального текста и ее применение в процессах автоиндексирования // Тр. cедьмой на-
циональной конф. по искусственному интеллекту (КИИ'2000). М.: Физико-математическая литература, 2000. C. 430–438. 33. Будущее искусственного интеллекта. М.: Наука, 1991. 34. Загоруйко Н.Г. Искусственный разум в научных исследованиях \\ http://www-sbras.nsc.ru/HBC/2001/n04/f06.html.
45
46
Учебное издание
О.Г. Чанышев Онтологические основания искусственного интеллекта Учебное пособие
Технический редактор Н.В. Москвичёва Редактор Л.Ф. Платоненко Подписано в печать 11.11.04. Формат бумаги 60х84 1/16. Печ. л. 2,9. Уч.-изд. л. 2,7. Тираж 100 экз. Заказ 583. Издательство Омского государственного университета 644077, г. Омск-77, пр. Мира, 55а, госуниверситет
47
48