ARTIFICIAL INTELLIGENCETHROUGHSIMULATED EVOLUTION

LAWRENCE J. FOGEL, Ph. D„ALVIN J. OWENS, Ph. D„MICHAEL J. WALSH, Ph. D.

JOHN WILEY & SONS, INC.NEW YORK — LONDON — SYDNEY1966

Л. ФОГЕЛЬ, А. ОУЭНС, М. УОЛШ

Искусственный интеллект и эволюционное моделирование

ПЕРЕВОД С АНГЛИЙСКОГО

Ю. П. ЗАЙЧЕНКО

ПОД РЕДАКЦИЕЙ

А. Г. ИВАХНЕНКО

ИЗДАТЕЛЬСТВО «МИР» МОСКВА 1969

УДК 681.142 155

В книге излагается новый подход к проблеме создания «разумных машин», основанный на использовании так называемых эволюционирующих программ, которые в ускоренном масштабе времени самосовершенствуются в процессе поиска решения задач, как бы имитируя процесс органической эволюции с «естественным отбором» и «выживанием наиболее приспособленных вариантов».

Развитые в книге идеи, подкрепленные серией выполненных авторами экспериментов, позволяют по-новому подойти к ряду актуальных проблем кибернетики — проблемам обнаружения, распознавания и классификации образов, управления производственными процессами и экономическими системами в условиях неполной информации. создания самопрограммирующихся машин, автоматизации некоторых форм научного труда и т. д.

Книга представляет большой интерес для специалистов различного профиля, работающих над проблемами современной кибернетики и ее практических приложений.

Редакция литературы по новой технике

инд. 3-3-14

Предисловие редактора русского перевода

Книга посвящена важной проблеме моделирования мышления н создания искусственного интеллекта. Основные работы по исследованию этой проблемы либо носят бионический характер (модели нейронов и искусственные нейронные сети, перцептрон Ф. Розенблатта [1] н др.), либо связаны с так называемым эвристическим программированием (работы Ньюэлла, Саймона и Шоу [2] и др.). В отличие от этих уже достаточно известных подходов в предлагаемой читателю книге развивается особый, третий подход к решению указанной выше проблемы, называемый эволюционным программированием.

Моделирование процесса эволюции проводилось неодиократио (см., например, [3]), однако оно было направлено на решение совсем других проблем Цель эволюционного программирования, предлагаемого авторами книги, указана на стр. 28: для упрощения исследования предлагается «заменить процесс моделирования человека моделированием процесса его эволюции». Трудности, возникшие на пути бионического подхода и эвристического программирования, известны (см. [3—5]). По мнению авторов книги, эволюционное программирование должно быстрее достигнуть цели, а его результаты обещают быть более разнообразными ввиду того, что возможны различные пути создания искусственного интеллекта.

«Интеллект» определяется в книге как «способность принимающего решения устройства достигать определенной степени успеха при поиске широкого многообразия целей в обширном диапазоне сред». Алгоритмы смены цели являются наиболее трудно разрешимым вопросом при бионическом и эвристическом подходах: очень трудно определить, почему и как человек изменяет цели и критерии своего поведения. Однако точно известно, что именно разнооб разие целей решает проблему резкого сокращения перебора возможностей («проклятия многомерности»), например, при моделировании шахматной игры [5]. Так, на стр. 28 мы находим определение искусственного интеллекта как генератора «озарений» («инсайтов»)

с целью нахождения новых координат, новых методов решения имеющейся проблемы.

Известны попытки построения бионических моделей «инсайта» на основе систем с «опрокидыванием» положительной обратной связи (см. [5]). Эволюционное программирование, основанное на случайном поиске, обследует другую модель этою процесса, связанную с генерированием новой информации (стр 28). Нам представляется, что более эффективным методом обнаружения неожиданных новых координат является факторный анализ [8]. Случайный поиск, а также градиентные методы поиска ничего нового к координатам данной среды прибавить не могут: перебор совершается в заданном множестве возможностей.

Основным элементарным актом эволюционного программирования является предсказание: на основе изучения ряда «символов среды» в прошлом и настоящем требуется предсказать последующий символ. «Разумный организм» моделируется алгоритмом решения этой задачи предсказания. Эволюция заключается в самоусовершенствовании алгоритма: каждый алгоритм-потомок предсказывает символы лучше (или — при вырождении — хуже), чем его алгоритм-родитель

«Потомок» образуется из «родителя» при помощи мутаций — случайного изменения параметров формулы предсказания по данным таблицы случайных чисел. Если имеет место повышение точности предсказания, такое изменение закрепляется (потомок «выживает»). Поэтому основную идею книги можно выразить так: для моделирования процесса эволюции предлагается подробно изучить процесс адаптации предсказывающего фильтра, улучшение параметров которого происходит при помощи случайного поиска.

По видимому, для такого весьма условного моделирования эволюции можно использовать любой генератор шума и любую формулу предсказывания (например, дискретный оператор Колмогорова— Габора [9]). Однако авторы предлагают свой, сравнительно простой алгоритм (стр. 32), весьма напоминающий алгоритм предсказания амплитуды следующей морской волны по отклонениям предыдущих волн от среднего значения [10] Таким образом, модель авторов принципиально отличается от самонастраивающегося фильтра Габора только тем, что авторы применили случайный поиск для оптимальной настройки фильтра. Из известного положения о единственности оптимальной настройки следует вывод, что эволюция алгоритма предсказания в стационарной среде практически не можег продолжаться бесконечно долго и в случае успеха за-

капчиваегся определением «наилучшего автомата». Для читателя, знакомого с фильтром Габора и проблемой адаптации, изложение материала во второй главе книги покажется слишком многословным и нестрогим. Некоторые построения автора (например, усреднение двух автоматов для моделирования пола родителей, стр. 44) являются неудачными.

В гл. 3 излагаются результаты экспериментов с самоулучшаю- щимся предсказывающим фильтром. Данные, приводимые здесь, весьма интересны. К сожалению, не приведены данные о результатах действия оптимального фильтра, настроенного на минимум среднеквадратичной ошибки (например, при помощи решения системы нормальных уравнений [11]). Поэтому положение вершины экстремального холма остается неясным. Однако значение описываемых экспериментов не ограничивается определением качества фильтров и имеет большую познавательную ценность. Например, представляет интерес тот факт, что модель «озарения» («инсайта») осуществляется при помощи автоматического выделения периодических составляющих среды.

В гл. 4 эволюционное программирование видоизменяется для моделирования диагностики, а также для обнаружения и распознавания периодических последовательностей сигналов. Распознавание образов трактуется как одно из многих свойств искусственного разума (стр. 112). Наиболее характерный для данной книги эксперимент— распознавание четырех классов периодических кривых при наложении на них шума, — описан на стр. 113. Для этой цели «учитель» (человек) обучал четыре предсказывающих адаптивных фильтра, после чего оценивалась точность их действия как на обучающей кривой, так и на других кривых.

Гл. 5 посвящена вопросам управления, которое трактуется как естественное продолжение диагностики, различения и распознавания. Эволюционирующая управляющая система представляет собой самонастраивающуюся систему со случайным поиском оптимальных значений параметров. Процесс адаптации параметров и мотелнрует эволюцию. Сходные идеи можно найти в известных работах В. К- Чичинадзе [12], хотя последний обращает основное внимание на результат работы гомеостата и не изучал многообразия хода случайного процесса. В этом и заключается основное отличие данной работы от других исследований, проводившихся в этом направлении.

Наиболее сложным является вопрос о моделировании уровня абстракции, от которого зависит весь ход процесса и даже его

результат Вопрос об уровне абстракции обсуждается в гл. 6, где рассматривается «научный метод» познания как эволюционный процесс, связанный с мутациями (случайным поиском). В результате такого процесса генерируется новая, неожиданная для исследователя идея.

Старое изречение «машина никогда не знает больше, чем программист» просто неверно, — заявляют авторы книги, и с ними нельзя не согласиться. Добавление индетерминированной части к системе распознавания или управления в сочетании с аппаратом отбора лучших решений всегда может привести к совершенно неожиданным улучшениям, т. е. к «озарению», «инсайту». В этой же главе авторы обсуждают такие сложные вопросы, как «имеется ли верхний предел развития интеллекта», «что понимать под «желанием» неодушевленного существа» и др., которые, несомненно, вызовут большой интерес у читателя.

Здесь уместно, пожалуй, напомнить восклицание Г. А Гарднера (в его книге «Этот правый, левый мир»): «Сколько собаку ни учи, она принципиально никогда не поймет квантовую механику! Может быть, и для нас в мире существуют важные, но настолько сложные вещи, что мы принципиально не можем понять их ни в одиночестве, ни даже в «обществе» с другими».

Как видно пз изложенного выше, вся книга написана в «постановочном» и дискуссионном плане, и именно поэтому она представляет большой интерес. В последней, седьмой главе авторы кратко повторяют основные положения книги, а в послесловии приводят некоторые мысли, касающиеся возможности применения изложенных идей к социальным проблемам

В заключение хотелось бы сделать следующие замечания. Во всех кибернетических моделях можно проследить две противоположные друг другу школы. Одна из них связана с анализом причин и следствий, входов и выходов (детерминированный подход), другая — с самопроизвольными процессами самоорганизации (инде- терминированный подход). Этот вопрос с большим знанием дела освещен в работе Дэвидсона и Смита по моделированию нейронных сетей [11], а также частично в основополагающей книге Ф. Розенблатта [1]. Некоторым упущением авторов книги является то, что такое «разграничение подходов» для эволюционного программирования в данной книге систематически не проводится, что не позволяет выяснить структуру предлагаемых программ эволюции. Очевидно, что эволюционирующие фильтры могут иметь как рассчитываемую (детерминированную) часть, так и случайный корректор

(индетермипированиая часть). Связь между требуемым для расчета объемом исходной информации и информацией, генерируемой в таком комбинированном предсказывающем фильтре, не рассматривается.

Второе замечание относится к ориентации авторов книги на моделирование эволюции на цифровых вычислительных машинах — по-видимому, на ЦВМ можно получить лишь сравнительно простые модели (программы) эволюции мозга. Более сложные модели потребуют снова возвращения к аналоговым моделям (например, оптические модели с использованием голографии [13]). Простота рассматриваемых в книге задач предсказания далеко не соответствует сложности и объему реальных задач, причем потеря сложности может привести к качественным изменениям результатов эволюционного программирования. В книге отсутствует четкая программа дальнейших путей исследований в области эволюционного программирования в развитие того, что проделано авторами; видимо, чтобы продолжить работу авторов, требуются новые «инсайты».

Следует, наконец, указать на то, что форма изложения не всегда достаточно кратка, проста и доходчива. Все даже самые сложные вопросы, затрагиваемые в книге, можно было, безусловно, изложить проще и понятнее.

Тем не мечее, как уже указываюсь выше, эта книга, посвященная одной из самых важных проблем кибернетики (а также биологии), содержит много новых идей, подкрепленных данными экспериментальных исследований. Поэтому она представляет большой интерес для советских читателей. Можно не сомневаться, что эволюционное программирование найдет своих горячих сторонников и в нашей стране.

Чл -корр. АН УССР А. г. Ивахненко

ЛИТЕРАТУРА

Розенблатт Ф., Принципы пейродинамики, изд-во «Мир» 1965.

Психология мышления. Сборник переводов под ред. А. М. Матюшкина, изд-во «Прогресс», 1965.

Принципы построения самообучающихся систем, Гостехиздат УССР. 1962.

Розенблатт Ф., «Модель памяти на нейронных сетях». Автоматика, № 5 (1965); № 2 и 4 (1966).

Братко А. А., «О построении модели памяти», сб. «Проблемы моделирования психической деятельности», Новосибирск, 1967

Касаткин А. М., Касаткина Л М., Моделирование целенаправленного поведения живых организмов». Автоматика, № 5 (1966).

И в а х н е н к о А. Г., Самообучающиеся системы управления и распознавания, изд-во «Техника», Киев, 1968.

Волохов В. С., Т у л у п ч у к Ю. М., «Направленный поиск специфических признаков с помощью факторного анализа», Автоматика, № 1 (1968).

Ивахненко А. Г -Папа В. Г., Кибернетические предсказывающие устройства, изд-во «Паукова Думка», Киев, 1965

Ивахненко А. Г , Г и л ь ц Б В. и др., «Индетерминирован- ные (игровые) распознающие и предсказывающие системы». Автоматика, № 2 (1967).

Ивахненко А. Г., Кибернетические системы с комбинированным управлением, изд-во «Техника», Киев, 1965.

Чичинадзе В. К., «Самообучающиеся системы, основанные на принципе случайного поиска», Труды I Международного конгресса по автоматическому управлению, Москва, I960.

С и н ю к К). Г., Островский А. С., «Голограммные распознающие системы», Автоматика, № 6 (1968).

Предисловие

Жизнь на Земле развивается уже свыше двух миллиардов лет. Первоначально лишь сильнейшие организмы выживали во враждебных им условиях естественной среды и конкуренции с другими живыми организмами. Но с течением времени некоторые их виды приобрели достаточную сложность, чтобы запоминать повторение сходных событий. В результате эти существа развили свое «умение», и вскоре появился закон «выживания наиболее умелых». Выживали те особи, которые умели постоянно чуять опасность, избегать угроз и использовать средства маскировки. Фактически само существование человека является свидетельством того, что его предки смогли перехитрить, превзойти по уму, а не по силе своих противников в борьбе за существование. Конечно, способность к выживанию измерялась тем, насколько устойчиво данная особь осуществляла правильный выбор стратегии среди множества альтернатив.

С возрастанием сенсорных способностей организма он получил возможность распознавать наличие новых ситуаций, которые требовали решений, выходящих за пределы царства «условных рефлексов». Индивидууму приходилось определять, какие аналогии могли бы быть установлены между наблюдаемой ситуацией и теми, в которых набор его навыков и умений в прошлом оказывался полезным. Это явилось началом того, что можно назвать «разумным поведением». В суровых условиях постоянной борьбы часто лишь более разумному существу удавалось выжить и воспроизвести себе подобных. Некоторые виды «решали» проблему выживания путем

увеличения числа воспроизводимых потомков, в то время как другие уменьшали объем своей деятельности, чтобы избежать явных опасностей. Хотя и эти виды представляют интерес, особого внимания заслуживают «существа», которые реагировали на опасности окружающей среды путем разумного приспособления к ней.

Эта способность открывать черты сходства обеспечивает также возможность самонаблюдения и самооценки. Как естественный результат этого появился интерес к проблеме принятия разумных решений. Но только на современной стадии эта заинтересованность стала сопровождаться проникновением в самую природу процесса принятия решений.

За последние годы с развитием техники человечество получило в свои руки новые орудия и средства. Эти средства позволяют человеку синтезировать автоматы, проявляющие именно те черты поведения, которые характерны для его собственного поведения при принятии решений. Моделирование человека может привести к созданию машин, которые будут воспроизводить его способности, но с гораздо большей скоростью, точностью и логической последовательностью.

Но значительно больший интерес представляет исследование логических свойств, лежащих в основе интеллекта. Одним из средств достижения этой цели является изучение естественного процесса, приведшего к развитию все более и более разумных существ. В настоящее время признано, что естественная эволюция представляет собой итеративный процесс, который включает воспроизведение в условиях мутаций, естественный отбор, случайные рекомбинации, индивидуальное обучение и т. д. Можно надеяться, что при воспроизведении специфических черт эволюции будут найдены средства для создания автоматов, наделенных искусственным интеллектом, автоматов, способных решать задачи ранее неизвестными путями. Это может обеспечить более глубокое понимание самой организации интеллекта.

Эта книга не могла бы быть написана без поддержки со стороны многих лиц. В частности, нам хочется отме-

тить интерес к этим исследованиям, проявленный д-ром Г Ф Данхолтером, и полезные технические замечания д-ров Дж. Лаймена, Дж. Барнса, У. Эйди и К. Белла. Работа поощрялась фирмой «Дженерал дайнэмикс», Отделом военно-морских исследований ВМФ, Годдар- довским Центром космических исследований НАСА, а также Римским исследовательским центром ВВС США.

Сан-Диего, Калифорния Апрель 1966 г.

Лоуренс Дж. Фогель Элвин Дж. Оуэнс Майкл Дж. Уолш

О построении книги

Целью этой книги является обзор новейших исследований по использованию эволюционного программирования в создании искусственного интеллекта. Проблема определения понятия «интеллект» рассматривается в гл. 1 с точки зрения бионики и эвристического программирования. В качестве нового средства получения разумного поведения предлагается ускоренное моделирование эволюции.

В гл. 2 детально описаны принципы эволюционного программирования. Для лучшей иллюстративности интеллект трактуется как сочетание способности предсказания среды со способностью выбора соответствующей реакции из множества альтернатив с учетом результата предсказания и поставленной цели. В гл. 3 представлены результаты серии экспериментов со средами, задаваемыми на алфавите из 2 и 8 символов.

В гл. 4 обсуждаются возможности эволюционного программирования как средства подхода к некоторым фундаментальным проблемам теории информации: обнаружению, различению, распознаванию и классификации образов. Особое внимание уделено вопросу диагностики — определения сопутствующей переменной на основе имеющихся косвенных данных и предыстории. В гл. 5 рассматривается проблема использования эволюционного программирования для управления объектом в условиях неполной информации и неопределенности его характеристик. В гл. 6 обсуждаются некоторые важные приложения эволюционного программирования. Рассматриваются вопросы реализации самопрограммирую- щихся машин й автоматического осуществления научного исследования. Отмечаются также некоторые

философские следствия этих исследований, включая вопросы автоматизации логического вывода, образования более высоких уровней абстракции и создания машинного самосознания.

В гл. 7 дается краткий обзор современного состояния этой области исследований с акцентом на рассмотрение свойственных эволюционному программированию ограничений. В заключении обращается внимание на некоторые важные социальные проблемы, связанные с работами по автоматизации интеллекта.

В одном из приложений дается логическое описание эволюционной программы, которую можно использовать в обычных ЦВМ.

Цель книги будет достигнута, если нам удастся привлечь к этим исследованиям интерес научной общественности в надежде, что это вдохновит исследователей на расширение уже достигнутых в этой области результатов; интерес инженерных кругов в надежде, что это стимулирует поиск более широких приложений для этой новой способности вычислительных машин; и, наконец, интерес широкой публики в надежде направить ее внимание на проблемы, которые уже в недалеком будущем могут потребовать компетентного обсуждения.

ГЛАВА ПЕРВАЯ

Введение

ОПРЕДЕЛЕНИЕ ИНТЕЛЛЕКТА

Интерес к проблеме принятия разумных решений существует уже с давних пор. Первоначально усилия ученых были направлены на оказание помощи принимающему решение в виде совета и снабжения его необходимой информацией. Принятие решений считалось своего рода искусством. Лишь в конце прошлого столетия были предприняты первые серьезные исследования поведенческих аспектов процесса принятия решений. По словам У С. Джевонса1), «экономия умственной энергии может рассматриваться как одно из главных условий, от которого зависит наше господствующее интеллектуальное положение». Уже в то время использовалось понятие «интеллект», однако оно все еще оставалось без точного определения.

Приблизительно в то же время особое внимание было уделено роли количественного описания в науке. Лорд Кельвин (У. Томпсон) заметил: «Я часто говорю, что, если вы можете измерить то, о чем говорите, и выразить это в числах, вы что-то знаете об этом; но если вы не можете его измерить, если вы не можете выразить его в числах, ваше знание объекта скудно и неудовлетворительно; это может быть началом познания, но едва ли вы в ваших мыслях продвинулись до стадии научного знания, каков бы ни был ваш предмет».

Различие между знанием и интеллектом стало ясным; знание — это полезная информация, накопленная индивидуумом, а интеллект — способность индивидуума

’) Jevons W. S., The Principles of Science: 1 Treatise on Logic and Scientific Method (1874), Pover Publ., New York, 1958

использовать эту накопленную информацию некоторым полезным (целенаправленным) образом.

Первые попытки измерения интеллекта возникли из практической потребности выявления индивидуумов, которые заслуживают специального обучения. Были разработаны различные тесты интеллектуальных способностей, и хотя методы эти были значительно улучшены и усовершенствованы в последующие десятилетия, интерпретация итогового показателя умственных способностей как меры интеллекта оставляла место для сомнений. Например, общепризнано, что широко применяемый тест по «показателю умственной одаренности» (I. Q.— Intelligence Quotient) обычно отдает предпочтение лицам, связанным с городской культурой, и тем, у кого более развита способность к словесному выражению мыслей. Такие относительные критерии интеллектуальных способностей не могут поэтому претендовать на то, чтобы вскрыть фундаментальную природу интеллекта.

За последние годы был предпринят ряд попыток глубже понять природу интеллекта. Биофизические исследования позволили установить грубую локализацию функций в различных отделах коры головного мозга, однако мало что известно о неспецифических механизмах мозга1). Все еше остается широкий разрыв между современным состоянием знаний и детальным пониманием того, как физическая материя порождает разум.

Со стороны психологов предпринимались усилия разложить интеллектуальное поведение на специфические «компоненты», чтобы облегчить опознавание и измерение индивидуальных умственных способностей. Хотя такие факторы, как вербальное понимание, беглость речи, перцепция, психомоторная координация, способность к счету, память и рассуждение^, и были описаны до-

') Harlow Н. F., Woosley С. N. (eds.). Biological and Biochemical Bases of Behavior, Univ, of Wisconsin Press, Madison, 1958 Wooldridge D. E., The Machinery of the Brain, McGraw Hill, New York, 1963; русский перевод. Вулдридж Д., Механизмы мозга, изд-во «Мир» 1965.

2) Green В. F., Jr., «Intelligence in Computer simulation», Trans. New York Acad. ScL, Ser. II, 27, 55- 63 (1964).

вольно детально, они, конечно, не представляют собой независимых аспектов интеллектуального поведения. Разумное поведение проявляется также существами, стоящими на гораздо более низких уровнях в филогенетическом ряду. Являются ли упомянутые выше факторы компонентами поведения и этих существ? Такой подход к определению интеллекта таил бы в себе известные опасности.

Подобные определения интеллекта оказываются слишком ограниченными. Не будет ли более содержательным определять интеллект в терминах поведения некоего стремящегося к цели существа и измерять степень его интеллекта по адекватности принимаемых им решений? Разумеется, при отсутствии цели принятие решений беспредметно и термин «интеллект» не имеет смысла. Формулируя более точно, интеллект можно рассматривать как способность принимающего решения устройства достигать определенной степени успеха при поиске широкого многообразия целей в обширном диапазоне сред. Трудность выражения этого определения в количественной форме связана с проблемой, что же, собственно, понимается под «степенью успеха», «разнообразием целей» и «диапазоном сред». Принимающее решения существо (или устройство), которое может достигнуть конкретной цели только в определенной среде, но не в других средах, не обнаруживает значительного интеллекта. Универсальность, гибкость — существенный ингредиент интеллектуального поведения. При таком определении может иметь смысл только сравнительная оценка интеллекта.

ПУТИ к ИСКУССТВЕННОМУ интеллекту

Интерес к процессам принятия решений постоянно расширялся. По мере того как совершенствовались попытки измерения интеллекта принимающего решения существа, проводились попутно и исследования логической структуры интеплекта. Эти исследования, начавшись с чисто философских спекуляций, достигли ныне уровня автоматизации различных гипотез для доказательства их справедливости. В настоящее время

общепризнано что более глубокого понимания организации интеллекта можно достичь путем создания устройства, которое обнаруживало бы то, что принято называть «разумным поведением». За последнее десятилетие наблюдается значительное возрастание интереса к таким исследованиям.

Такие усилия можно условно классифицировать на две категории. К первой категории относятся работы исследователей, которые исходят из того, что человек является наиболее интеллектуальным из всех созданий природы. Поэтому стоило бы попытаться каким-то специфическим образом воспроизвести человеческий интеллект. Со стороны биологов делаются попытки синтезировать «нейронную сеть», которая обнаруживала бы свойства нервной системы. Обычно такие работы охватываются термином «бионика».

Многие работы по бионике основаны на фундаментальном открытии, сделанном Маккалоком и Питтсом в 1943 г. *) и заключающемся в том, что любое «функционирование», которое может быть логически строго и однозначно определено с помощью конечного числа слов, может быть реализовано и сетью «формальных нейронов». Другая классическая работа (1959 г.)) продемонстрировала избирательные свойства сетчатки глаза лягушки. Развивая эти работы, фон Фёрстер дал ясное описание возможных фильтров свойств, состоящих из линейно связанных между собой формальных нейронов). Подобные исследования проводятся, чтобы достигнуть более глубокого понимания способов отбора данных и кодирования на все более высоких уровнях

*) McCulloch W S., Pitts W. Н„ «А Logical Calculus of the Ideas Immanent in Nervous Activity», Bull, of Mathem. a. Biophys., 5, 115 (1943); русский перевод в сб. «Автоматы». ИЛ, 1956.

филогенетического ряда. Однако проблема становится значительно более трудной, как только эти исследования касаются человека.

Совершенно независимо от этого Хебб предложил модель мозга, в которой ассоциативные ячейки связаны в сложную случайно организованную сеть). Предполагается, что эти связи, существовавшие еще до принятия любого успешного решения, становятся после него более устойчивыми, создавая тем самым «следы памяти». Фэрли и Кларк промоделировали такую систему), используя «...случайно связанную сеть нелинейных элементов, причем каждый из них имеет порог для входного возбуждения, ниже которого возбуждения элемента не происходит, а выше которого элемент «срабатывает». Когда элемент срабатывает, его порог немедленно возрастает до бесконечности, а затем, после непродолжительного рефрактерного периода, экспоненциально уменьшается до своего значения в состоянии покоя. Кроме того, через короткое время после срабатывания элемент передает возбуждение всем другим элементам, с которыми он связан. Эффективность возбуждения, передаваемого таким образом к соседнему элементу, определяется некоторым свойством данной связи, известным под названием «веса» связи. В общем случае каждый элемент имеет несколько входных связей, из которых каждая имеет свой вес... В момент передачи возбуждения соответствующий вес добавляется к любому возбуждению, уже присутствующему на входе данной ячейки. После этого возбуждение экспоненциально убывает до нуля. Таким образом, модель реализует как пространственное, так и временное суммирование. Если в какой-то момент это возбуждение превышает порог соответствующего элемента, последний совершает свой собственный цикл срабатывания и передает свои собственные возбуждения... Следовательно, система сама

организуется так, чтобы различать два различных входных оораза» *).

Рочестер, стремясь более точно реализовать модель Хебба, использовал еще более простые «нейроны» и получил сходные результаты).

Позднее Розенблатт рассмотрел случайную сеть, организованную несколько отличным образом). Его перцептрон состоял из множества сенсорных элементов (S-ячеек), которые в нормальном состоянии связаны с системой многоуровневых элементов памяти, называемых ассоциативными элементами (Л-ячейками). Выходы Л-ячеек в свою очередь случайным образом связаны с группой реагирующих элементов (/?-ячеек), которые считывают результаты операций по распознаванию образов. Эти /?-ячейки через тормозящие связи соединены с другими /^-ячейками, а по цепям обратной связи — сЛ-ячей- ками.

Эксперименты с перцептроном состоят из двух фаз: периода обучения и периода испытаний. В течение периода обучения набор стимулов подается на сенсорные элементы, причем каждый из стимулов ассоциируется с одной из реакций путем принудительного перевода соответствующего подмножества /?-ячеек в доминирующее положение, т. е. искусственного активирования соответствующего сигнала реакции.

После завершения периода обучения перцептрону предъявляется испытательный стимул и предоставляется возможность реагировать без внешнего управления. Если связи в сети перцептрона были в достаточной степени изменены, вероятность правильных реакций повышается. По существу, некоторое множество много-

*) Farley В. G., «Self-Organizing Models for Learned Perception», см. Yovits M. C., Cameron S. (eds ). Selforganizing Systems, Pergamon, New York, 1960, pp. 7—31; русский перевод в сб. «Самоорганизующиеся системы», изд-во «Мир», 1964.

уровневых ассоциативных элементов оказывается связанным как с сенсорными, так и с реагирующими ячейками. Возбуждение сенсорных элементов новыми стимулами вызывает определенное распределение активности в ассоциативных элементах, которые некоторым образом изменяют их передаточные характеристики. Если вслед за этими изменениями реагирующий элемент срабатывает (спонтанно или принудительно), образуется новое распределение связей; следовательно, если вновь предъявляется исходный стимул, он будет коррелироваться с данным распределением активности таким образом, чтобы благоприятствовать ранее ассоциированной реакции.

Чтобы ввести в модель обучение, необходимо пойти дальше и постулировать, что распределение весов окружающих связей в любой момент времени представляет суммарный опыт системы к этому моменту. Для того чтобы система создавала определенное внутреннее распределение в ответ на комбинацию внешних стимулов и собственных реакций на эти стимулы, необходимо ввести процесс, с помощью которого информация о реакциях системы могла бы сообщаться системе по цепи обратной связи, создавая таким образом положительное или отрицательное подкрепление.

Любому такому устройству присущи фундаментальные ограничения. Заученные логические структуры могут быть использованы для перевода любого символа входного алфавита в любой символ выходного алфавита, но такое преобразование остается инвариантным лишь до тех пор, пока сохраняется эта заученная конфигурация. Другими словами, условные зависимости, лежащие вне алфавита входных символов, не могут быть опознаны системой.

Конечно, можно построить многослойные системы, обладающие большими способностями к обучению •). Однако все они требуют особых указаний, каким именно парам стимул — реакция должна быть обучена машина.

') Rosenblatt F., Principles of Neurodynamics, Spartan Books, Washington, 1962; русский перевод: Розенблатт Ф„ Принципы нейродинамики. Перцептроны и теория механизмов мозга, изд-во «Мир», 1965.

Были развиты и другие методы, в которых выходы пороговых устройств объединяются для взвешенной классификационной оценки стимулов, однако ради краткости изложения мы вынуждены здесь отказаться от их более подробного рассмотрения1).

Подобные биологические модели могут в некоторых случаях оказаться полезными. Они могут помочь нам более глубоко разобраться в функционировании биологических механизмов, направляя внимание исследователей на новые аспекты, заслуживающие наблюдения и изучения. Но, хотя в этом отношении уже достигнут определенный успех, трудно отыскать биологические системы, которые могли бы служить «естественными прототипами» при конструировании новых инженерных систем, и особенно таких, которые обнаруживали бы искусственный интеллект.

Это и не удивительно. Попытка реализации автоматов с искусственным интеллектом путем непосредственного моделирования биологических систем малоперспективна уже ввиду чрезвычайной сложности биологических систем переработки информации. Центральная нервная система человека — невероятно сложная структура, содержащая около 15 миллиардов нейронов. Из них приблизительно 10 миллиардов составляют собственно мозг. Каждый нейрон имеет большое количество дендритов, способных снабжать его информацией. В центральной нервной системе трудно проследить даже глобальные связи. Детальная организация нервной системы настолько сложна, что никак не может считаться легкодоступной для познавания. Еще до недавнего времени нейрон рассматривали как двухпозиционный элемент; однако сейчас широко распространено убеждение, что в каждом синапсе возможны градации реакций. Многое здесь еще остается неясным.

*) Seb estyen G. S., Decision-Making Processes in Pattern Recognition. Macmillan, New York, 1962; русский перевод: Себастиан Г. С, Процессы принятия решений при распознавании образов, изд-во «Техника», Киев, 1965; Widrow В., «Generalization and Information Storage in Networks of Adeline „Neurons”, cm. Yovits M. C„ Jacobi G T Goldstein G. D. (eds.), Self-Organizing Systems 1962, Spartan Books, Washington, 1962, pp. 435--462.

Помимо недостатка информации относительно структуры нервной системы имеются также значительные трудности в описании ее функционирования. Например, нейронное кодирование остается нерасшифрованным в терминах конкретных представлений. К механизму хранения информации проявляется огромный интерес, но до сих пор существуют значительные расхождения во мнениях относительно его биологической реализации. Вполне возможно, что для понимания механизма памяти потребуется не только конкретная информация о нейронной активности, но и информация о действиях соседних глиальных клеток, об изменениях в структуре белковых молекул и, возможно, о других аспектах.

Биологи первыми признали наличие существенного пробела в наших знаниях в этой области. Попытки смоделировать конкретные аспекты переработки информации биологическими системами, безусловно, заслуживают внимания как шаг на пути к более полному пониманию этого механизма. Но в то же время маловероятно, чтобы такие модели могли, по крайней мере в обозримом будущем, привести к созданию автоматов, наделенных искусственным интеллектом.

Вторая категория исследователей соглашается с тем, что человек ввиду его высокого интеллекта является наиболее ценным объектом моделирования; однако эта группа предпочитает рассматривать человека как некий психологический феномен1). Такое моделирование может быть выполнено следующим образом. Субъекту предлагается игровая ситуация и требуется, чтобы он сделал «ход». Затем его решение при выборе хода анализируется с целью установления некоторого устойчивого множества «подзадач», облегчающих ему принятие решения. Тем самым вскрываются закономерности его мышления, которые используются при составлении программ для машин, способных играть в данную игру

’) Во многих ситуациях воспроизведение конкретных деталей может оказаться менее эффективным, чем моделирование общих логических свойств. Стоит, например, обратить внимание на тот факт, что, хотя современные самолеты подчиняются тем же законам аэродинамики, которые справедливы для птиц, они не принадлежат к классу «Ornithopterae» п не имеют перьев.

аналогичным образом. Такой подход к искусственному интеллекту, обычно называемый эвристическим программированием, направлен на отыскание набора правил сокращения информации, которые, будучи приложены к наблюдаемым данным, позволяют сравнительно эффективно преобразовывать эти данные в желательные реакции. При таком анализе исследователь рассчитывает не только найти способы эффективного сокращения данных, но и обнаружить определенные общие черты, присущие всем таким программам. Это могло бы обеспечить создание решающего устройства, которое оказалось бы «разумным» даже при встрече с новыми проблемами и неожиданными ситуациями.

С более общей точки зрения такое гибкое поведение «разумного» устройства для принятия решений можно моделировать с помощью адаптивных следящих систем ’) и процессов последовательных статистических решений).

В случае адаптивных следящих систем задача состоит в том, чтобы создать такую иерархию систем с об ратными связями, в которой параметры систем более низкого порядка подходящим образом изменялись бы в результате реакций систем более высокого порядка. Диапазон «адаптивности» ограничивается структурой многоконтурной следящей системы и допустимыми пределами изменений каждой переменной). Что же касается процедур статистических решений, то для некоторых классов сред и для определенных критериев выведены оптимальные решающие правила. Задача «разрешима», только если наблюдаемая среда попадает в

•) Ashby W. R., Design for a Brain, Wiley, New York, 1960; русский перевод: Эшби У. Р„ Конструкция мозга, ИЛ, 1962.

соответствующий класс и если цель может быть выражена с помощью одного из допустимых критериев).

Значительный интерес был проявлен также к непараметрическому статистическому выводу; однако и здесь тоже предполагается стационарность среды).

Обширная литература посвящена также методам оптимизации. Некоторые из этих методов можно считать в значительной степени эвристическими, поскольку решение задачи конструируется на основе продемонстрированной пригодности этих методов при решении более простых задач).

Хотя эвристическое программирование применялось к относительно широкому классу ситуаций по принятию решений человеком, оно, по-видимому, ограничено пределами способностей человека-оператора. До сих пор оказалось трудным достичь с помощью этого метода более глубокого проникновения в природу интеллекта. Качество каждой конкретной программы ограничено умением программиста и моделируемого субъекта (даже если программа может оказаться значительно более быстродействующей и точной)). В ситуациях, когда машине предоставлена возможность играть против аналогично запрограммированной машины (или против самой себя), ее способности могут улучшаться; однако это происходит лишь вследствие возрастания ее опыта, а не в результате новых «постижений» существенных черт организации интеллекта. Искусственный интеллект

будет реализован лишь тогда, когда неодушевленная машина сможет решить задачи, которые до сих пор не удавалось решить человеку, —не вследствие большей скорости и точности машины, а в результате ее способности найти новые методы для решения имеющейся задачи.

Возможен и третий подход к проблеме искусственного интеллекта. С менее эгоцентрической точки зрения можно рассматривать человека как всего лишь особый продукт естественного эксперимента, называемого эволюцией. Хотя человек, безусловно, разумное создание, нет оснований полагать, что он наиболее интеллектуальное существо, которое вообще возможно. Эксперимент природы продолжается, и ввиду ее прежних успехов в создании существ последовательно все более высокой интеллектуальности кажется вполне разумным предположить, что некоторые будущие существа будут обладать значительно большим интеллектом, чем современный человек. В этом свете было бы, пожалуй, полезным заменить процесс моделирования человека моделированием процесса его эволюции. Реализация такого процесса помогла бы нам глубже понять основные свойства интеллекта и благодаря этому получить средство для синтеза машин, обнаруживающих большую «разумность», чем до сих пор удалось найти в природе’)

В известном смысле при эволюционном подходе ставится вопрос: «Каким мог бы быть интеллект в отдаленном будущем?» Хотя этот вопрос касается потомков человека, такие исследования имеют гораздо более общую цель. Например, нельзя быть уверенным в том, что логические программы, которые появятся в результате моделирования процесса эволюции, сохранят какое- либо сходство с интеллектом действительных потомков современного человека. (Вместе с тем, если моделирование эволюции сумело бы открыть дорогу к созданию более совершенного интеллекта, оно смогло бы также сделать значительный вклад в решение некоторых важных проблем, которые стоят сейчас перед человечеством,

*) Fogel L. J., Owens A. J., Walsh М. J., «Artificial Intelligence Through a Simulation of Evolution», cm. Maxfield M., Callahan A., Fogel L. J. (eds) Biophysics and Cybernetic Systems, Spartan Books, Washington, 1965

и тем самым оказать косвенное влияние на исход продолжающегося процесса его естественной эволюции.)

Моделирование естественного процесса эволюции требует известной осторожности. Насколько известно, этот «эксперимент» совершен природой лишь однажды. Наблюдаемая изменчивость дает мало оснований полагать, что, если бы эксперимент был повторен, результат его был бы тем же самым. Поле возможностей настолько велико, что чрезвычайно маловероятно, чтобы современного человека удалось воспроизвести даже при большом числе подобных эволюционных экспериментов. Поэтому при воспроизведении процесса эволюции возникают серьезные трудности. Исследователь должен установить такие аспекты природы, которые, как он полагает, являются фундаментально инвариантными свойствами среды, т. е. такие ее свойства, на которые развиваю* щиеся существа сами не оказывают влияния.

Делая такое разграничение, исследователь проявляет свою «свободу конструирования» путем отбора некоторой системы основных допущений. На этой основе он может продолжать исследование вопроса о том, какой бы могла быть эволюция, т. е. какой тип процесса максимизирует вероятность успеха тех существ, которые выживают перед лицом испытаний со стороны окружающей их среды.

Как бионический, так и эвристический подходы к проблеме искусственного интеллекта носят в основном описательный характер, т. е. представляют собой попытки моделирования природы в том виде, в каком она нами наблюдается. В противоположность этому эволюционный подход носит прежде всего нормативный характер, так как является попыткой моделирования эволюционного процесса в том виде, в каком он мог бы происходить в природе, попыткой описания того, что должно было бы быть, вместо того, что есть. Ученый действует, чтобы знать, в то время как инженер знает, чтобы действовать. При эволюционном подходе исследователь в процессе умозрительного синтеза своей модели становится на позиции инженера.

Общепризнано, что нет четкого разграничения между описательными и нормативными науками. Описательная

наука всегда включает некоторый эффект ориентации исследователя при поисках того, что кажется ему заслуживающим внимания. Это всегда присутствующий нормативный эффект. Аналогичным образом нормативная наука развивается исследователем, который в состоянии понимать природу только с позиций, связанных с его предшествующим знанием. Поэтому его попытки понять ограничения, которые могут существовать в природе, всегда несут на себе следы описательного подхода.

При моделировании эволюционных процессов можно было бы использовать различные «организмы»; чем больше их внутренняя сложность, тем больше в свою очередь и вероятность успеха (см. гл. 2 и 6). Но даже после рассмотрения различных сочетаний мутаций, отбора и рекомбинаций этих организмов дополнительные выгоды можно извлечь при введении логических понятий, добытых на более высоких уровнях абстракции. Если воспользоваться простой аналогией, можно сказать, что модели организмов вполне могут передвигаться на колесах, хотя природа и не «изобрела» еще такого средства передвижения для живых организмов.

Нормативная наука особенно поощряет введение и использование оптимальных процедур всюду, где таковые имеются и где целесообразно их включение в модель. Аналогично модели процессов принятия решений также могут включать оптимальные автоматические процедуры, позволяющие извлекать пользу из совместной деятельности человека и машины. Можно надеяться, что требуемые решения удастся представить в виде иерархической структуры «подрешений», поручив машине низшие уровни подрешений и предоставив тем самым человеку-оператору возможность полностью сосредоточиться на задачах более высоких уровней. Ожидается, что с развитием таких систем «человек-машина» автоматические подпрограммы будут занимать свои места на все более высоких уровнях иерархии. Исследование методов целесообразной организации автоматов для принятия решений будет получать все большее признание, по мере того как работы над созданием искусственного интеллекта начнут давать реальные плоды.

ГЛАВА ВТОРАЯ

Эволюционное программирование

ПРЕДПОСЫЛКИ ПРЕДСКАЗАНИЯ

Разумное поведение можно рассматривать как сочетание способности предсказывать состояние внешней среды с преобразованием каждого предсказания в подходящую реакцию в свете заданной цели •).

Способность предсказывать среду с разумной степенью успеха является необходимой предпосылкой «разумного» поведения. Для ясности изложения последующая дискуссия будет в основном связана с проблемой предсказания. Понятие «среда» может включать любой источник информации. С целью упрощения (но без потери общности) среда будет рассматриваться как последовательный источник сигналов, выбранных из конечного алфавита. В более конкретной формулировке задача состоит в том, чтобы найти алгоритм, который, оперируя над наблюдавшейся последовательностью символов, выдавал бы в каждый момент времени выходной символ, с наибольшей вероятностью совпадающий с очередным символом среды. Эволюционное программирование предлагает путь для достижения этой цели).

По существу, эволюционная программа реализует ускоренное моделирование некоторых фундаментальных процессов естественной эволюции, причем в каждый момент времени сохраняется тот «организм», который наилучшим образом может справиться с данной задачей.

*) Здесь мы пока предполагаем, что цель «хорошо определена» и задана свыше. Более подробное рассмотрение природы целей и их генерации будет дано позднее.

«Организм» задается в виде математической формулы, описывающей определенную логику преобразования последовательности входных символов в последовательность выходных. «Родительский» организм оценивается в зависимости от способности принимать требуемое решение на основе имеющихся данных. Этот организм подвергается мутации и производит на свет «потомка», которому ставится такая же задача и который оценивается таким же образом. Тот организм, который демонстрирует наилучшую способность выполнять требуемые функции, сохраняется и служит «родителем» для нового поколения. Таким образом, прогрессирующая эволюция производит все лучшие и лучшие программы для решения имеющейся задачи. В некоторый момент реального времени или в момент, когда получена достаточно хорошая программа, принимается фактическое решение. Всякий раз, когда поступает новая информация, происходит эволюционный поиск логической структуры, подходящей для принятия требуемого решения. Более детальное изложение принципов эволюционного программирования дается ниже.

Для моделирования эволюции необходимо выбрать вид математического представления «организма». Пусть машина-организм имеет вид конечного автомата, т. е. машины, определенной на конечном алфавите возможных входных символов, конечном алфавите возможных выходных символов и некотором конечном числе возможных внутренних состояний. Для задания такого автомата каждое из этих состояний должно быть описано через символы, которые появляются на выходе машины, когда она находится в данном состоянии и получает любой из возможных входных символов. Например, автомат с тремя состояниями представлен на фиг. 2.1. Алфавит входных символов состоит из «О» и «I», тогда как алфавит выходных — из а, Р и у (входные символы указаны слева от наклонной черточки, а выходные — справа от нее). Как показано на «диаграмме состояний»1), входной символ «1», поданный на

') В литературе такое представление называется графом переходов. См. ГиллА., Введение в теорию конечных автоматов, изд-во «Наука», 1966. — Прим, персе.

Ф и г. 2.2. Автомат Ма.

автомат, находившийся в состоянии В, изменяет внутреннее состояние автомата на С, причем на его выходе появляется символ а. Входной же символ «О», поданный на автомат, находящийся в состоянии В, вызывает появление на его выходе символа у, причем автомат остается в своем прежнем состоянии В. Таким образом, последовательность входных символов преобразуется в последовательность выходных, как показано в табл. 2.1, где предполагается, что «начальным состоянием» является С. Если бы начальное состояние было

Таблица 2.1

Текущее состояниеСВСААВ

Входной символ 011101

Следующее состояниеВСААВС

Выходной символраурра

иным, то и выходная последовательность в общем случае была бы другой. Поэтому конечный автомат полностью определяется своей диаграммой состояний и указанием начального состояния1). Предполагается, что автомат действует только при поступлении входных сим' волов и все операции оканчиваются до поступления очередного символа.

Предположим теперь, что желательно, чтобы предсказывался каждый следующий символ входной последовательности Более конкретно задача состоит в отыскании алгоритма, который оперировал бы над последовательностью входных символов так, чтобы полученный выходной символ с наибольшей вероятностью совпадал с очередным символом среды. Для достижения этой цели произвольному конечному автомату Мо предъявляют последовательность входных символов из внешней среды (фиг. 2.2). Каждый выходной символ машины сравнивается со следующим входным символом, поступающим от среды. Процент правильных предсказаний есть мера способности машины предсказывать поведение среды на

*) Т. е. состояния, в котором автомат находится при получении первого символа рассматриваемой входной последовательности.

основе предшествовавших символов (табл 2.2). В первой строке этой таблицы указана последовательность текущих состояний машины в процессе ее реагирования на последовательность входных символов, представленную во второй строке таблицы. Состояние В было произвольно выбрано в качестве начального состояния. Самый последний по времени входной символ находится непосредственно слева от вертикальной черты, в то время как справа от нее указан символ, который должен быть предсказан. В третьей строке приведена последовательность

Таблица 2.2

Текущее состояниеВходной символ Выходной символ Стоимость ошибкиТекущее состояниеВходной символ Выходной символ Стоимость ошибкиВ А С С С2 210 112101111В А С С С2 210 112101111С В С С В А 3 3 0 3 0 1 110 0 11 110 110С В С С В А 3 3 0 3 0 1 110 0 11 110 110В21В21

Текущее состояние

Входной символ Выходной символ Стоимость ошибки

Текущее состояние

Входной символ Выходной символ Стоимость ошибки

В А С С С

2 210 1

1210

1111

В А С С С

2 210 1

1210

1111

С В С С В А 3 3 0 3 0 1 110 0 11 110 110

С В С С В А 3 3 0 3 0 1 110 0 11 110 110

В

2

1

В

2

1

символов, полученных в результате преобразований. Отметим, что эти символы сдвинуты на одну позицию вправо для облегчения сравнения. Выходной символ в этой строке таблицы справа от вертикальной линии есть предсказанное машиной значение неизвестного символа.

Последняя строка образована путем сопоставления фактического символа с предсказанным при учете «матрицы стоимостей» (или «матрицы штрафов») 4=[оу]. В данном примере Оц=0, если i=j, и ai3=l, если (=£/. Стоимость каждого преобразования находится по матрице стоимостей, где индекс i относится к предсказанному символу (выходу машины), а/— к очередному символу входной последовательности. Мера Р\ предсказательной способности машины определяется как отношение суммы стоимостей всех ошибок к числу членов. Так, средняя стоимость ошибок машины Мо находится по формуле

р _ Сумма стоимостей ошибок _ 8 _ „ _

Число членов10’ *

«Отпрыск», или «потомок», этого автомата производится путем мутаций, т. е. однократного изменения

Фиг. 2.3. Автомат М^

родительского автомата в соответствии с некоторым распределением «мутационного шума». Режим мутаций определяется интервалом, в котором лежит некоторое число, выбираемое из таблицы случайных чисел. Интервалы выбираются в соответствии с распределением вероятностей допустимых режимов мутаций. Для определения конкретных деталей режима мутаций затем выбираются добавочные числа. Таким образом, «потомок» может отличаться от «родителя» выходным символом1), таблицей переходов, числом состояний или начальным состоянием. Например, может появиться такой «потомок» Mt автомата Мо, у которого оба различающихся выходных символа определяются детерминирование (фиг. 2.3).

В табл. 2.3 приведена оценка предсказательной способности автомата Mi после такой же предыстории, что

') В случае среды, состоящей из двух символов, можно заменить этот режим мутаций детерминированной процедурой. По мере предсказания каждого символа среды па основе предыдущих символов подсчитывается показатель относительной частоты успеха каждого перехода между состояниями. Показатель успешного предсказания выше 0.5 может быть тогда обеспечен реверсированием выходных символов тех переходов, в которых машина чаще ошибалась.

чем делала правильные предсказания.

и для автомата Мо (предыстория в дальнейшем иногда будет называться «объемом запоминания» — «recall»). Результирующая средняя стоимость ошибок Pi оказалась равной 0,7. Автомат Afi обнаруживает здесь свое

Таблица 2.3

Текущее состояниеВходной символ Выходной символ Стоимость ошибкиТекущее состояниеВходной символ Выходной символ Стоимость ошибкиВ А С С С2 210 112101111В А С С С2 210 112101111СВССВА33030113003110 0 110СВССВА33030113003110 0 110В22В22

Текущее состояние

Входной символ Выходной символ Стоимость ошибки

Текущее состояние

Входной символ Выходной символ Стоимость ошибки

В А С С С

2 210 1

1210

1111

В А С С С

2 210 1

1210

1111

СВССВА

330301

130031

10 0 110

СВССВА

330301

130031

10 0 110

В

2

2

В

2

2

превосходство над «родительским» автоматом Мо в применении к данной задаче. Поэтому «родитель» отбрасывается, а «потомок» Мх сохраняется для дальнейших экспериментов. Если бы /И, имел стоимость ошибки выше 0,8, он был бы отвергнут и путем мутации машины Мо был бы произведен следующий «потомок».

В любой момент времени сохранившийся к этому моменту автомат может быть использован для фактического предсказания. Как видно из табл. 2.2, автомат Мо предсказал, что очередным символом среды будет «1». Это предсказание оказалось неверным. В то же время автомат Мь как видно из табл. 2.3, правильно предсказал этот символ. Риск, связанный с каждым отдельным предсказанием, приблизительно соответствует средней стоимости ошибок при «предсказании» прошлого.

Затем Мх в свою очередь используется как «родительский» автомат для производства «потомка», который оценивается по той же предыстории. Следовательно, эволюционный процесс продолжается в ускоренном масштабе времени, подготавливая машины к фактическому предсказанию. Акты предсказания могут совершаться периодически, апериодически или по требованию. Предсказание можно делать, когда средняя ошибка «предсказания прошлого» падает ниже некоторого установленного значения после оценки заранее установленного числа «потомков» или после смены заданного числа поколений автоматов1). Конечно, в общем случае

*) См. ниже.

вероятность успеха тем выше, чем больше интервал обучения до предсказания. Аналогично чем выше скорость ЦВМ (увеличение числа оцениваемых потомков) или чем больше ее память (увеличение допустимых размеров автоматов), тем больше возможности эволюционного программирования.

Процесс продолжается в том же духе. После каждого фактического предсказания сохранившийся автомат используется для генерации нового «отпрыска». По существу, эволюционная программа реализует два процесса: 1) итерационный процесс мутаций и отбора потомков (непрерывный поиск такой логики принятия решений, которая оказалась бы наплучшей, если бы она была применена в прошлом) и 2) процесс считывания, который производит сдвиг во времени на 1 такт вперед для выполнения фактического предсказания, когда оно будет необходимо. Если окажется, что некоторые из данных окружающей среды были ошибочными, необходимо сделать лишь соответствующую коррекцию предыстории.

Цель, как уже указывалось, выражается с помощью определенной матрицы стоимостей, приписанных каждому возможному правильному и ошибочному предсказаниям следующего символа среды. Отметим, что цель не ограничивается только матрицей такого вида. Напри мер, если целью является минимизация величины ошибки предсказания каждого следующего символа, элементы матрицы стоимостей будут принимать значения ац= = \i—]\. Если требуется минимизировать среднеквадратичную ошибку предсказания, элементы матрицы будут иметь вид а^=(1—/)2. Если требуется «точное попадание», все диагональные элементы в матрице ошибок будут равны нулю, а недиагональные элементы будут одинаковы. Если правильное предсказание некоторого символа имеет большую значимость, это может быть отражено в матрице стоимостей, выражающей цель предсказания. Так, матрица стоимостей в табл. 2.4 указывает, что более важно правильное предсказание символа 0, менее важно правильное предсказание символа 1 и, наконец, наименее важно правильное предсказание символа 2. В то же время из нее следует, что предпочтительнее ошибиться, приняв нуль за единицу, чем наобо-

Таблица 2.1

Предсказанные символы

О12

ОО034034Фактические символыФактические символы1212414414442442

О

О

034

034

Фактические символы

Фактические символы

1

2

1

2

414

414

442

442

рот. Такой способ задания цели отражает относительный вес каждого возможного исхода. В рассмотренном примере не взимается дополнительный штраф за столь сложную цель. По мере сравнения символов на выходе автомата с очередными входными символами, фактически появившимися в среде, по матрице цели определяется стоимость соответствующей ошибки. Сумма соответствующих стоимостей характеризует ценность автомата с точки зрения его способности предсказывать только что предъявленную последовательность символов.

В общем случае последовательность возникших в процессе эволюции автоматов будет зависеть от сформулированной цели. Далее нет необходимости ограничивать эволюцию одной лишь неизменной целью. Если цель будет меняться по мере протекания процесса в реальном времени, последовательность сохраняемых на каждом шаге машин будет постепенно отражать эти изменения цели. Конечно, все сказанное здесь о целях, заданных в виде матрицы штрафов, в равной степени приложимо и к матрице платежей.

Эволюционное программирование оказывается еще более гибким. Например, если требуется предсказывать каждый второй символ, то для этого достаточно сравнивать выход машины с символами среды со сдвигом на два такта. Аналогично соответствующая оценка «потомков» позволяет предсказывать любой по порядку будущий символ, среднее некоторого множества буду щих

символов или, наконец, любую функцию, достаточно хорошо определенную на множестве будущих символов.

Отметим, что определенное таким образом эволюционное программирование пригодно для предсказания многомерных сред. Символы, описывающие измеряемые параметры среды, могут быть скомбинированы в новый алфавит символов, описывающих среду однозначным образом. Результаты предсказания получаются в том же алфавите, так что они могут быть интерпретированы в виде индивидуальных предсказаний по каждому параметру в отдельности. Конечно, число сймволов в алфавите такого языка быстро растет в функции числа переменных. Однако в принципе на предсказание таких сред не наложено ограничений1).

ПОИСК БОЛЕЕ ОБЩЕЙ ЦЕЛИ

Следует отметить, что задачи эволюционного программирования отнюдь не ограничиваются одним лишь предсказанием. Например, задача диагностики может быть поставлена как задача сопоставления входной переменной, получаемой из среды, с другим ее параметром, который может быть измерен с запаздыванием. В случае диагностики измеряется некоторое число параметров рассматриваемой системы, чтобы определить какой-то другой параметр, недоступный непосредственному измерению.

Отметим, что в задаче диагностики входной и выходной языки эволюционирующих машин могут быть различными. Входные символы могут быть по отдельности связаны с набором возможных стимулов, а выходные символы— с множеством альтернативных ответов. В этом случае цель заключается в оптимизации поведения системы по отношению к некоторой оценочной функции ответов. Поэтому, здесь уже не нужно делать различие между предсказанием и превращением входа в выходную реакцию машины. Эволюционная программа дает рекомендации по выбору каждого ответа, исходя из его ожидаемой ценности сточки зрения обеспечения заданной цели.

*) В гл. 4 приведены примеры применения этого метода.

В самом общем случае цель полностью определена лишь тогда, когда в ней содержится указание на относительную важность принятия решения и матрица штрафов или выплат полностью определена для каждого будущего момента. До сих пор мы молчаливо предполагали, что функция важности при поиске цели была ограничена изолированной точкой в будущем времени. Например, если требуется предсказать следующий символ, то не придается значения второму или любому следующему за ним символу в последовательности. В принципе можно выбрать и более сложное, взвешенное по важности выражение цели, при котором можно продолжать предсказание до любого будущего момента времени. Для каждого предсказания может быть указана его относительная стоимость. Как только действительная среда становится известной, оценка логики системы находится путем сочетания этих предсказаний, взвешенных по функции их относительной важности.

Отметим важность получения фактической информации о среде. Предсказание последовательностей символов представляет интерес в ситуациях, когда измерения среды могут производиться лишь в определенные моменты времени. В наиболее общем виде эволюционное программирование дает метод поиска любой хорошо определенной цели, соответствующий допустимым затратам. Каждый «потомок» оценивается по его суммарной ценности в качестве организма, причем ценность последовательности его действий в свете предшествующего опыта понижается с учетом стоимости самого его существования.

Эффективность моделирования эволюции может быть улучшена различными способами. Например, любая доступная информация, касающаяся логики внешней среды, может быть эффективно использована путем воплощения этой логики в структуре конечного автомата, который разовьет соответствующую логику при принятии решений. Такой автомат может служить в качестве исходного. Если использованная информация была в достаточной мере правильной, эволюция может потребовать меньшего числа поколений для достижения того же результата; если она была ошибочной, то это отнюдь не препятствует

решению задачи, хотя можно ожидать снижения эффективности процедуры.

Аналогичным образом эволюционный метод позволяет исследовать результаты проб в любой момент протекания процесса. Если эволюция не привела к достаточно эффективному автомату, эволюционная процедура может быть повторена с использованием в качестве исходного автомата того, который был получен на предыдущем этапе. Процедура может продолжаться таким путем до тех пор, пока не будет создан приемлемый целенаправленный организм оправданной сложности или не исчерпаются имеющиеся ресурсы.

Принцип максимальной экономии может быть непосредственно включен в эволюционную процедуру путем увеличения штрафа за сложность. Размер штрафа может зависеть от конкретных характеристик вычислительной машины, на которой моделируется эволюция. Например, штраф за сложность может иметь вид постоянного коэффициента, умноженного на число состояний оцениваемого автомата. Если память вычислительной машины сильно ограничена, может оказаться желательным использовать штраф в виде постоянной, умноженной на квадрат числа состояний, или другого подходящего выражения. В любом случае процедура должна воспрепятствовать тому, чтобы какой-либо «потомок» вышел по своим размерам за пределы возможной памяти ЭВМ. В общем случае штраф за сложность может иметь любой вид, если его значение можно непосредственно вычислить из определения автомата (см. приложение Б).

Если среда имеет в основном статистическую природу, разумно ожидать, что даже автомат небольших размеров сможет обеспечить подходящую логику решений. Такой автомат может характеризовать условные зависимости, и благодаря его малым размерам каждый его переход может иметь большую статистическую значимость. С другой стороны, может оказаться, что такой малый автомат составляет слишком упрощенное «представление» о сложной детерминированной среде. Становится очевидным, что штраф за сложность является параметром, который может быть приспособлен к широкому диапазону условий — от чисто статистических до чисто де-

терминированных сред. Экспериментатор может распоряжаться этим параметром по своему усмотрению. Однако, если его решение недостаточно обоснованно, он может наложить ненужные ограничения на процесс эволюции.

Конечно, можно разработать и процедуру, которая непрерывно оптимизировала бы штраф за сложность по мере накопления опыта. Например, такая процедура может включать сравнительную оценку пары автоматов до начала генерации каждого потомка. Усредненная по функциональному закону стоимость ошибок укажет, какой из этих автоматов наиболее удачен, а сравнение штрафов за сложность подскажет подходящий путь для его последующего улучшения. Таким образом, по мере протекания процесса эволюции программа непрерывно пересматривает свое представление о среде, которое может меняться от чисто статистического до полностью детерминированного.

В каждый момент времени эволюционная программа обеспечивает прогрессирующий поиск в пространстве конечных автоматов такого автомата, который с наибольшей вероятностью способен достигнуть заданной цели при существующих ограничениях, наложенных на технические возможности вычислительной машины. Этот поиск можно рассматривать как случайное блуждание с селекцией, как восхождение на вершину ходма в гиперпространстве конечных автоматов с дополнительной координатой, по которой измеряется средняя стоимость ошибок (риск). Опасность застрять на локальном пике можно обойти посредством многократных мутаций, где кратность мутаций есть функция разности средних рисков последовательных поколений. Таким образом, по мере приближения к вершине холма все больше внимания уделяется производству более радикальных потомков в надежде перескочить на более высокую точку, лежащую на склоне другого холма.

В общем случае подходящий выбор режима мутаций может увеличить эффективность эволюции. Например, увеличение вероятности мутации «прибавить одно состояние» обеспечивает более широкий выбор из множества олее крупных автоматов, что благоприятно сказывается

на процессе эволюции в сложных средах. На практике распределение вероятностей различных видов мутаций может быть сделано зависящим от опыта накапливаемого в самом процессе эволюции. Так, найденная на опыте большая относительная частота успеха предсказания при одном из режимов мутации, например при изменении начального состояния, может быть использована для увеличения вероятности такого вида мутаций.

Эволюционное программирование может быть использовано даже в случае нестационарной среды, так как оно обеспечивает итерационный поиск «наилучшей» логики решений. Но выбор только наилучшей логики может оказаться чрезмерно жесткой стратегией. Разумеется, все те потомки, которые при оценке по предыстории обнаруживают значительную способность к принятию решений, характеризуют в каком-то смысле окружающую среду. Почему бы не скопировать естественную эволюцию и не попробовать сохранять небольшое число наилучших потомков на каждом шаге? В общем случае наилучший «отпрыск», вероятнее всего, произведет еще более совершенного «потомка», и потому ему следует уделить больше всего внимания при мутационном воспроизведении. Потомок более низкого ранга может рассматриваться как некая гарантия против возможной нестацио- нарности среды. Распределение мутаций должно быть пропорционально нормализованным оценкам качества. Оцениваемые «отпрыски» помещают по рангам в «таблицу сохраняемых потомков», и если находится потомок, показатель качества которого равен или выше соответствующего показателя наилучшего из автоматов, говорят о «смене поколений». Все сохраняемые машины не обязательно должны лежать на склонах одною «холма», вершина которого отождествляется с наилучшим автоматом. Поэтому сохранение наилучшего потомка несет на себе «опознавательные знаки» нескольких пиков, причем относительные поисковые усилия распределены пропорционально ожидаемым новым открытиям.

Рекомбинация особей противоположного пола, по- видимому, благоприятствует естественной эволюции. Почему же не сохранить по аналогии и полезные признаки, которые уцелели у отдельных автоматов, путем комби-

нирования наилучших выживших автоматов по некоторому правилу генетики, подвергая их мутации для получения «отпрыска»? Отметим, что вовсе не обязательно ограничивать такое «спаривание» двумя наилучшими из выживших «особей». На деле наиболее очевидное правило генетики — мажоритарная логика — имеет смысл лишь при комбинировании более чем двух автоматов.

Всегда возможно построить общую диаграмму состояний, которая выражает мажоритарную логику совокупности автоматов с конечным числом состояний. Каждое состояние такого мажоритарного автомата является композицией состояний каждого из исходных автоматов Следовательно, число состояний объединенной машины, работающей по мажоритарному принципу, может быть равно произведению чисел состояний исходных автоматов. Каждый переход мажоритарного автомата описывается тем входным символом, который вызвал соответствующие переходы в исходных автоматах, и тем выходным символом, который является результатом применения мажоритарной логики к выходным символам каждого исходного автомата.

Для иллюстрации на фиг. 2.4 приведены три исходных автомата и их индивидуальные вероятности успеха pi. Начальное состояние каждого автомата указано короткой стрелкой, направленной на это состояние. Выходы этих автоматов комбинируются посредством мажоритарного элемента с весами, пропорциональными вероятностям успеха каждого автомата Результирующий автомат показан на фиг. 2.5.

Если используется только два исходных автомата, мажоритарный автомат просто сводится к лучшему из этих двух автоматов. Более интересная ситуация возникает, когда имеется тдо исходных автомата, упорядоченных так, что Р\^-р^^-р^. Если среда описывается только двумя символами, эти оценки не могут быть ниже 0,5 вследствие уже описанного ранее детерминированного метода инверсии выходных символов. Поэтому всегда справедливо соотношение Pv^pi-Vp^. Вследствие этого неравенства взвешенно-мажоритарный автомат упрощается, превращаясь просто в мажоритарный (невзве* шенный) автомат.

Фиг. 2.4. Отдельные составляющие автоматы.

Значение показателя для мажоритарного автомата рм может быть выражено в виде суммы всех возможных путей достижения успеха, т. е.

Рм = PiPzPi + PiPzto + Р\ЯА + Ч\Р<рЬ

где <7, — вероятность неудачи, гак что 0,4-^ = !. Это выражение можно упростить, приведя его к виду

Рм = Р1Рз (1 - 2pJ + р, (р2 + Рз)-

Теперь мажоритарный автомат имеет смысл только в том случае, если рм ^ Pi, т. е. если рм —pi >0. Подстановка

Фиг. 2.5. Результирующий мажоритарный автомат.

этого условия дает следующее неравенство:

РгРзО - 2pi) + pi (р2 - Рз) - Pi > 0.

Это соотношение можно выразить графически для разных конкретных значений рх и решить его относительно максимального значения рм- На фиг. 2.6 отмечены области для пары значений р2 и р3 при фиксированных рь где выполняется соотношение рм "> рх. В табл. 2.5 приведены соответствующие максимальные значения рм.

Такая же процедура может быть использована для оценки выгод от объединения через мажоритарный элемент произвольного числа исходных автоматов. Однако необходимый объем вычислений при этом быстро становится непомерно большим. Кроме того, при большом числе исходных автоматов становится целесообразным исследование поведения взвешенно-мажоритарного автомата по сравнению с простым мажоритарным автоматом. Ясно, что такое сравнение открывает новые возможности

Таблица 2.5

Максимальное значение рм для конкретных значений рх

₽1

Рм

0,6

0,648

0,7

0,784

0,9

0,972

0,99

0,9997

Например, может оказаться полезным исследовать комбинации наилучших автоматов из нескольких различных поколений в надежде найти модель тех моделей, которые до настоящего момента оказались наиболее успешными.

До сих пор предполагалось, что каждый автомат следует оценивать по всей его доступной предыстории. Очевидно, такая стратегия не всегда является наилуч- шсй. Например, если среда изменяет свои статистические свойства, может оказаться более целесообразным ограничиться вспоминанием некоторых последовательностей, чтобы повысить вероятность нахождения наилучшей логики решения для настоящего времени. В случае полного отсутствия информации о характере среды выбор конкретной длины последовательности может оказаться весьма затруднительным. Возможно, однако, применить процедуру, подобную предложенной ранее для последовательного определения подходящих значений штрафов за сложность. В каждый момент времени два или более автоматов эволюционируют на различной длине предыстории, а затем их показатели сравниваются, что дает возможность определить, какие следующие длины предыстории подлежат рассмотрению. Полную длину последовательности следует запоминать как можно дольше, с тем чтобы длина предыстории при желании могла быть расширена. Трудность этой задачи возрастает вместе с ограничениями, налагаемыми на объем памяти автомата вплоть до того момента, когда единственной

р.р.

р.

р.

Ф it г. 2.6. Зоны предпочтительного использования мажоритарнойлогики.

альтернативой становится метод скользящего интервала, т. е. сохранение фиксированной длины предыстории.

Все рассмотренные процедуры, имеющие своей целью повышение эффективности эволюции, чреваты неприятностями в случае взаимодействующей среды. Умный противник может разгадать конкретную стратегию и использовать эти данные для построения своей контрстратегии.

Значительные трудности возникают при попытке выразить принципы эволюционного программирования средствами обычной математики. Последовательность получаемых конечных автоматов зависит частично от статистического процесса мутаций, частично же от типа среды. Поэтому любое формальное представление процесса эволюции должно быть ограничено конкретным классом сред. Но сущность эволюционного программирования как раз и состоит в его гибкости, универсальности. Оно представляет собой процедуру, включающую случайный процесс генерации никогда не прекращающейся последовательности альтернативных гипотез о логике среды и принятии решений. Информация из этого источника отбирается с учетом заданной цели и среды.

Классические методы принятия решений основаны на предположении, что среда либо стационарна, либо может быть приведена к стационарному виду с помощью простых преобразований. Далее, обычно предполагают, что среда не зависит от принимаемых решений. Ни одно из этих классических допущений не является обязательным в эволюционном программировании. Его ценность связана с наследованием полезных свойств в процессе исчерпывающего поиска, что стало возможным только после появления быстродействующих цифровых вычислительных машин.

1 ЛАВА ТРЕТЬЯ

Эксперименты, по предсказанию

ЭКСПЕРИМЕНТЫ ПО ПРЕДСКАЗАНИЮ ДВОИЧНЫХ ПОСЛЕДОВАТЕЛЬНОСТЕЙ

Для доказательства гибкости эволюционного программирования была проведена серия экспериментов возрастающей трудности. Для краткости здесь будут описаны только некоторые из этих экспериментов.

Эволюционная программа, предназначенная для восприятия и предсказания среды из двух символов, была написана на языке ФОРТРАН для машины IBM 7094 (см. приложение В). Во всех этих экспериментах, если особо не оговорено, в качестве исходного выбирался один и тот же произвольный автомат с пятью состояниями, причем начальное состояние было 1 (табл. 3 1). В каждый момент времени сохранялись только три лучших автомата, которые служили отправными для воспроизведения «потомства». В этих экспериментах допускалась смена максимально пяти поколений, прежде чем выполнялось фактическое предсказание.

Первые эксперименты состояли в попытках предска зания среды, которая была образована из бесконечной случайной последовательности 101110011101.. В первых четырех экспериментах исследовалась чувствительность предсказывающих автоматов к мутационному шуму. В этих экспериментах штраф за сложность не налагался и только одна единственная мутация применялась при генерации очередного «отпрыска». Мутационный шум был равномерно распределен по пяти видам мутаций, «добавление одного состояния», «устранение одного состояния», «случайное изменение следующего состояния», «случайное изменение начальною состояния», «изменение

Таблица 3.1

Состояние

Входной символ

Следующее состояние

Выходной СИМВОЛ

1

1

2

1

1

0

1

1

2

1

3

1

2

0

2

0

3

1

4

1

3

0

б

0

4

1

б

1

4

0

3

0

5

1

1

1 ■

5

0

2

0

начального состояния на второе состояние, допускаемое автоматом на основании опыта». Последний режим мутации использовался для обеспечения возможности «сдвига по фазе». Последовательность случайных чисел, которые использовались для этих экспериментов, была взята из общепринятого источника1).

На фиг. 3.1 представлены результаты этих четырех экспериментов в виде процента правильных предсказаний в функции общего числа символов, генерированных средой. В каждом из этих экспериментов оценивалось несколько тысяч «потомков», а предсказывающие автоматы имели обычно от 8 до 10 состояний. В эксперименте 4 последовательность идеальных предсказывающих автоматов была найдена после девятнадцатого символа предыстории. Самыми слабыми оказались результаты в эксперименте 3, но даже в этом эксперименте обнаруживается отчетливая тенденция к улучшению предсказания после первых десятков итераций основных типов среды. Первый эксперимент (соответствующий случайной последовательности единиц) считается типовым. Этот эксперимент принят нами как база для сравнения.

') A Million Random Digits with 100 000 Nominal Deviates, Rand Corp., Free Press, New York, 1955.

Число символов предысторииЧисло символов предысторииПроцент правильных предснаванийПроцент правильных предсназанибПроцент правильных предснаванийПроцент правильных предсназанибФиг. 3.2. Сравнение результатов предсказания при наличии и прн отсутствии штрафа за сложность.Фиг. 3.2. Сравнение результатов предсказания при наличии и прн отсутствии штрафа за сложность.

Число символов предыстории

Число символов предыстории

Процент правильных предснаванийПроцент правильных предсназаниб

Процент правильных предснаванийПроцент правильных предсназаниб

Фиг. 3.2. Сравнение результатов предсказания при наличии и прн отсутствии штрафа за сложность.

Фиг. 3.2. Сравнение результатов предсказания при наличии и прн отсутствии штрафа за сложность.

иг. 3.1. Сравнение результатов предсказания для четырех раз-личных последовательностей случайных чисел.

шлическая среда 101110011101; штраф за сложность отсутствует; 3 автомата иа поколение; однократная мутация; 5 поколений иа предсказание.

Циклическая среда Ю11100Ш01; 3 автомата на поколение: однократная мутация:гпиияйный пяч епиинп: 5 поколений на ппеяскачание

Число символов предыстории

Ф и г. 3.3 Сравнение числа состояний у наилучших автоматов при наличии и при отсутствии штрафа за сложность.

Циклическая среда 101110011101; 3 автомата иа поколение; однократная мутация; случайный ряд единиц; 5 поколений на предсказание.

Влияние штрафа за сложность указано на фиг. 3.2. Здесь сплошная кривая — результат предсказания эксперимента 5. который идентичен эксперименту 1, за исключением того что взимается штраф в 0,01 за одно состояние. Отметим, что значительное расхождение в результатах наблюдается только на начальном этапе Преимущество от применения штрафа за сложность становится очевидным при рассмотрении фиг. 3.3, которая указывает на значительное снижение сложности эволюционировавших предсказывающих автоматов. Интересно отметить, что идеальное предсказывание такой повторяющейся среды может быть достигнуто различными автоматами с 8 состояниями (три из которых показаны на фиг. 3.4). Ограничение числа состояний может воспрепятствовать нахождению таких автоматов.

Необходимость в увеличении размеров предсказывающих автоматов вполне очевидна, и разумно ожидать, что

Фиг. 3.4. Три различных автомата с восемью состояниями ыпооптил НПО ПЛУЯаКТПЯТЛГТТЫА IIГЛV ntXHtXOIZXTlZX ППаПХГ 1Л111ЛЛ111Л1

Число символов предысторииЧисло символов предысторииПроцент правильны* предсказанииПроцент правильны* предсказанийПроцент правильны* предсказанииПроцент правильны* предсказанийФиг. 3.6. Сравнение результатов предсказаний при однократном, двукратном и трехкратном режимах мутаций.Фиг. 3.6. Сравнение результатов предсказаний при однократном, двукратном и трехкратном режимах мутаций.

Число символов предыстории

Число символов предыстории

Процент правильны* предсказанииПроцент правильны* предсказаний

Процент правильны* предсказанииПроцент правильны* предсказаний

Фиг. 3.6. Сравнение результатов предсказаний при однократном, двукратном и трехкратном режимах мутаций.

Фиг. 3.6. Сравнение результатов предсказаний при однократном, двукратном и трехкратном режимах мутаций.

и г. 3.5. Сравнение результатов предсказаний при равн >вероят-IX режимах мутаций и увеличенной вероятности режима «при-бавить одно состояние».

гклическая среда 101110011101; 3 автомата на поколение; однократная мута- я; случайный ряд единиц; 5 поколений на предсказание; штраф за сложность отсутствует.

Циклическая среда 101110011101; 3 автомата на поколение; случайный ряд еди-

Эксперимент 7(двухкратная мутация)Эксперимент 7(двухкратная мутация)УисАО символов предысторииУисАО символов предыстории^-Эксперимент 6 (трехкратная мутация ) «■■НМ^^-Эксперимент 6 (трехкратная мутация ) «■■НМ^Фиг. 3.7. Сравнение числа состояний наилучшего автоматапри однократном, двукратном и трехкратном режимах мутаций.Циклическая среда 101110311101; штраф за сложность 0,01 на одно состояние;3 автомата на поколение; случайный ряд единиц; 5 поколений на предсказание.Фиг. 3.7. Сравнение числа состояний наилучшего автоматапри однократном, двукратном и трехкратном режимах мутаций.Циклическая среда 101110311101; штраф за сложность 0,01 на одно состояние;3 автомата на поколение; случайный ряд единиц; 5 поколений на предсказание.иУииУЙ^иУииУЙ^

Эксперимент 7(двухкратная мутация)

Эксперимент 7(двухкратная мутация)

УисАО символов предыстории

УисАО символов предыстории

^-Эксперимент 6 (трехкратная мутация ) «■■НМ^

^-Эксперимент 6 (трехкратная мутация ) «■■НМ^

Фиг. 3.7. Сравнение числа состояний наилучшего автоматапри однократном, двукратном и трехкратном режимах мутаций.

Циклическая среда 101110311101; штраф за сложность 0,01 на одно состояние;

3 автомата на поколение; случайный ряд единиц; 5 поколений на предсказание.

Фиг. 3.7. Сравнение числа состояний наилучшего автоматапри однократном, двукратном и трехкратном режимах мутаций.

Циклическая среда 101110311101; штраф за сложность 0,01 на одно состояние;

3 автомата на поколение; случайный ряд единиц; 5 поколений на предсказание.

иУииУЙ^

иУииУЙ^

н^у1 uuvni

Эксперимент / (однократной мутация )

возрастание вероятности «добавления одного состояния» может улучшить эффективность предсказания. Эксперимент 6 был повторением эксперимента 1, если не считать введения мутационного шума. В этом эксперименте вероятность «добавления одного состояния» была увеличена с 0,2 до 0,3 (это увеличение сбалансировано уменьшением вероятности «устранения одного состояния»), Фиг 3.5 характеризует извлеченную при этом выгоду. Последовательность идеальных предсказывающих автоматов была найдена после испытания девятнадцати символов.

Другой путь получения автоматов увеличенных размеров состоит в использовании многократной мутации. На фиг. 3.6 представлены результаты экспериментов 1, 7 и 8. Как и следовало ожидать, при увеличении кратности мутаций наблюдается улучшение показателей.

Фиг. 3.8. Сравнение результатов предсказаний при различной длине начального запоминания.

Цикаическая среда 101110011101; 3 автомата па поколение; однократная мута ция; случайный ряд единиц; 5 поколений иа предсказание.

Размеры предсказывающих автоматов для каждого из экспериментов указаны на фиг. 3.7.

Интересно рассмотреть влияние длины начального запоминания на качество предсказания. Иа протяжении начальной опытной последовательности поведение предсказывающей системы почти случайное. Ошибки, допущенные в этой последовательности, неизбежно уменьшают величину показателя качества. Этот эффект может быть устранен, если первое предсказание делается только после испытания достаточно большого числа символов. На фиг. 3.8 приведены сравнительные характеристики предсказания для автоматов с начальным запоминанием 2 и 20 символов ( соответственно эксперименты 9 и 10).

Интересно также исследовать предсказание среды, подверженной внезапным радикальным изменениям. На фиг. 3.9 показаны результаты эксперимента 11, где среда

Ф н г 3.9. Сравнение результатов предсказаний д ,я циклической среды из 12 символов с инвертированием выходных символов. '

Инвертируемая циклическая среда; штраф за сложность отсутствует; 3 автомата на пок ление; однократная мутация; случайный ряд единиц; 5 поколений на предсказание.

состояла из последовательности 101110011101, повторенной десять раз, за которой также 10 раз следовала инвертированная последовательность 010001100010. Начальное запоминание составляло 20 символов, так что 21-й символ среды был первым предсказываемым символом. Выбор начального запоминания позволял отобрать автоматы, правильно предсказывающие 21-, 22- и 23-й символы1), прежде чем возникали ошибки. Затем показатель предсказания начинал колебаться около значения 0,9, пока не заканчивалась первая фаза предсказания. В этой точке появилась серия ошибок, и процент правильных предсказаний к 159-му символу упал до 0,814.

•) Т. е. первые три символа подряд. — Прим, перев.

После этого отобранные автоматы «адаптировались», и показатель снова начал расти.

Для того чтобы соответственным образом описать эту адаптацию, имеет смысл заново начертить кривую показателя предсказания, начиная с 141-го символа. Прерывистая кривая фиг. 3.9 описывает изменение показателя на второй фазе предсказания для автоматов, генерированных на первой фазе. Очевидно, что имеет место процесс, противоположный обучению. Показатель на второй фазе сравнивается с показателем на первой фазе, и сравнение говорит в пользу первого, если учесть, что оба автомата оцениваются по частоте правильных предсказаний, усредненной по всей последовательности. Этим объясняется быстрый рост числа состояний автоматов, как это видно из фиг. 3.10. В течение первой фазы среды число состояний автомата остается на уровне 6, в то время как во второй фазе число состояний стабилизируется в окрестности 16.

Второй уровень трудности среды представлен статистически стационарной средой, которая появляется в результате бросания асимметричной монеты с вероятностью выпадения герба 0,7. Если этот факт известен a priori, возможно правильно предсказать данную среды с асимптотической вероятностью 0,7. На фиг. 3.11 приведены результаты применения эволюционного программирования при отсутствии такой априорной информации. Показано влияние трех различных длин запоминания. Очевидно, что слишком малая выборка ухудшает свойства предсказания. Ограничение запоминания последними 13 символами (эксперимент 12) уменьшает возможность предсказания. Этот объем запоминания выбирается в соответствии с той длиной опытной последовательности, на которой достигается первый максимум показателя качества. Запоминание последних 50 символов (эксперимент 13) дает лишь ненамного худшие результаты, чем полное отсутствие ограничений длины запоминаемой последовательности, но такое ограничение значительно улучшает эффективность вычислительного процесса за счет значительного уменьшения времени, требуемого для оценки каждого автомата, особенно при больших последовательностях.

Фиг. 3.10. ЧислоемойФиг. 3.10. Числоемой

Фиг. 3.10. Число

емой

Фиг. 3.10. Число

емой

состояний наилучшего автомата для иивертиру- циклической среды из 12 символов.

Инвертируемая циклическая среда; штраф за сложность отсутствует; 3 авто-мата на поколение; однократная мутация; случайный ряд единиц; 5 поколенийиа предсказание.

Стационарная среда (р = 0,7); штраф за сложность 0,01 иа одно состояние; 3 ав-

Эксперимент 14 проводился при возрастании длины запоминания. При этом все три кривые стремятся достичь усредненного показателя 62% • Отметим, что оптимальное среднее значение показателя предсказания для этой среды составило бы 70%, но для достижения этого значения было бы необходимо использовать априорную информацию о природе среды.

Примером еще более сложной среды служит нестационарная случайная последовательность символов, которая образуется при классификации всех чисел натурального ряда на простые (представляются символом 1) и непростые (представляются символом 0). Другими словами, среда состоит из двоичной последовательности 011101010001 .., где каждый символ характеризует «простоту» чисел 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11,. . . Хотя в принципе эта детерминированная среда должна быть идеально предсказуемой, не известно ни одной конечной вычислительной процедуры для осуществления такого предсказания. По словам Харди и Райта, «вряд ли такая формула возможна, так как распределение простых чисел совсем нс такое, какого можно было бы ожидать по любой из подобных гипотез»’).

На фиг. 3.12 показаны результаты предсказаний этой нестационарной среды (эксперимент 15). После начального переходного процесса процент правильных предсказаний приближается к 78 на 115-м обучающем символе, а затем остается примерно постоянным для следующих 100 символов. 200-е предсказание выполняется автоматом с четырьмя состояниями, а 201-е— автоматом с тремя состояниями, но имеющим только два единичных выхода. Следующие два предсказания производятся автоматами с тремя состояниями, каждый из которых имеет единственный единичный выход. После этого предсказание осуществляется автоматом с одним состоянием, оба выходных символа которого являются нулями, отражая главное «изменение стратегии»). В результате показа

*) Hardy G. Н., Wright Е. М., An Introduction to the Theory of Numbers, Oxford Univ. Press, London, 1962, p. 6.

тель предсказания опять начинает расти, достигая своего асимптотического значения 81,9% после первых 719 символов обучения.

Очевидно, что такое изменение стратегии вполне оправданно, если учесть, что простые числа появляются все реже и реже по мере возрастания натурального ряда. Эти конкретные результаты были получены при штрафе за сложность 0,01 на одно состояние, отборе лучших пяти автоматов в качестве «родительских» для производства следующего поколения и возможности смены 10 поколений перед каждым предсказанием. При различных параметрах отправная точка для смены стратегии сдвигается. Фиг. 3.13 отражает изменение стратегии в терминах изменения числа состояний предсказывающих автоматов.

Для того чтобы по мере роста длины обучающей последовательности возрастала и «выручка», цель была изменена так, чтобы увеличить выплаты за предсказание редких событий. По новым правилам выплата за правильное предсказание 1 равна единице плюс число нулей, предшествовавших этой единице, а плата за правильное предсказание 0 равна единице плюс общее число единиц, предшествовавших этому нулю. Этот критерий, придающий большую значимость предсказаниям редких событий, превращается в обычный критерий при равновероятных двоичных последовательностях.

На протяжении первых 150 символов эксперимента 16 отмечено 30 правильных предсказаний простых чисел, 37 неправильных предсказаний (ошибка типа «ложная тревога») и 5 пропущенных простых чисел (ошибка типа «пропуск цели»), В интервале опытной последовательности от 150 до 547-го символа было 65 правильных и 67 неправильных предсказаний (предсказание 1, когда фактически был 0). Другими словами, из первых 35 простых чисел только 5 были пропущены, а из последующих 65 простых чисел не было пропущено ни одного. Анализ результатов указывает на то, что данный алгоритм быстро «обучается» определять, что все числа, кратные двум и трем, не простые. В какой-то степени распознавалось также, что числа, кратные 5, нс простые. Здесь снова стоит подчеркнуть, что эволюционная программа

Фиг. 3.12. Результаты предсказания простых чисел в последовательности чисел натурального ряда.

Штраф за сложность 0,01 на одно состояние; 5 автоматов на поколение, одно-кратная мутация; случайный ряд единиц; 10 поколений на предсказание

Ф и г. 3.13. Число состояний предсказывающего автомата в экспе-рименте 15.

Предсказание простых чисел: штраф за сложность 0,01 на очно состояние; 3 ав-томата на поколение; однократная мутация; случайный ряд единиц; 10 поколе-ний на предсказание.

не имела никакой информации относительно смысла понятия «простое число» или каких-либо инструкций для предпочтительного поиска единиц по сравнению с нулями.

Задачи предсказания редких событий не являются чем-то исключительным для реального мира. Поиск золотоносной жилы и предсказание катастроф составляют существенную часть нашей практической деятельности. Во многих ситуациях стоимости различных видов ошибок не одинаковы. Например, безопасность будущих астронавтов может существенно зависеть от способности предсказывать внезапные вспышки солнечной активности. Конечно, ошибочные предсказания (ложные тревоги) не обходятся даром, так как вынуждают команду космического корабля прервать свои нормальные занятия и укрыться в защищенном месте, но стоимость пропущенной вспышки радиации много выше, она может оказаться гибельной для команды и полностью сорвать экспедицию.

Значительный успех, достигнутый в предсказании, будет ли следующее целое число простым, отнюдь нс свидетельствует о легкой разрешимости традиционной математической задачи об отыскании единой формулы, определяющей все простые числа. Эволюционный подход вовсе не занимается поиском такой формулы. По существу, его главное преимущество состоит в том, что он дает возможность использовать различную логику предсказания для каждого нового символа. Таким образом, эволюционное программирование вырабатывает некоторую последовательность логик предсказания, включающую наилучшие из найденных ранее моделей в пределах допустимых расходов и объема поиска. В задаче предсказания простых чисел следует ожидать, что эти наилучшие модели будут различаться ввиду нестационар- ности среды. Единственным необходимым условием совместимости этой последовательности наилучших моделей является требование, чтобы они были получены в ходе одного и того же эволюционного процесса.

Для понижения уровня ошибок «ложной тревоги» и для общего улучшения эффективности процесса предсказания в целом могут быть использованы различные

средства. Например, может оказаться выгодным сократить длину запоминания, с тем чтобы оценка предсказания производилась по меньшему числу единиц. Возможно, что увеличение вероятности мутаций типа «добавления одного состояния» и (или) введения многократной мутации может повысить эффективность поиска. Ввиду сложности логической структуры среды может оказаться целесообразным выбирать из каждого поколения большее количество автоматов в качестве возможных «родителей» или изменять число поколений перед предсказанием. Изменение длины исходной запоминаемой последовательности также может улучшить шансы успешного предсказания, будет ли следующее целое число простым. Однако цель нашей дискуссии состояла лишь в демонстрации гибкости метода эволюционного предсказания.

Для сравнения эволюционная программа была испытана на тех же последовательностях, которые использовались Флудом *) при экспериментальных исследованиях процесса стохастического обучения. Как сообщалось, в его эксперименте каждого из 7 испытуемых просили сделать 450 последовательных двоичных выборов. После каждого выбора субъекта информировали о результатах его предсказания, причем за каждый успешный выбор он получал поощрение в 1 цент. Эксперименты с тем же субъектом повторялись еще один раз, но уже при другой среде. В табл. 3.2 приводится начало каждой испытательной последовательности, в данном случае в восьмеричной системе счисления. Все показатели предсказания определены для первых 200 решений. Сравнение показателей субъекта с показателями эволюционной программы) обнаруживает значительное расхождение только в трех случаях (субъект С, испытание 2; субъект D, испытание I; субъект Е, испытание 1). В каждом из этих

’) Flood М. М., «Stochastic Learning Theory Applied to Choice Experiments with Cats, Dogs, and Men», Behav. Sci., 1, 289— 314 (1962).

Таблица 3.2

Сравнение эффективности предсказания эволюционной программы и человека-оператора (по Флуду)

Входная последовательность

Субъект

Испытание

Показатель

субъекта

программы

5044014

A

1

0,425

0,460

2755776

A

2

0,445

0,515

0644114

В

1

0,435

0,4'0

2534756

В

2

0,455

0,435

5744204

С

1

0,445

0,505

2754356

С

2

0,420

0,510

0044304

D

1

0,435

0,560

6534356

В

2

0,545

0,505

0444014

Е

1

0,310

0,565

2715756

Е

2

0,460

0,450

0144304

F

1

0,495

0,4ь5

2515356

F

2

0,545

0,520

6574356

G

1

0,500

0,495

5444104

G

2

0,570

0,495

экспериментов преимущество оказалось на стороне программы.

В другой интересной серии экспериментов, проведенной Уолином, студентам колледжа было предложено предсказать каждый следующий символ в последовательности из 1000 двоичных символов. Каждому субъекту предъявлялась только одна последовательность, причем он в любой момент времени мог визуально наблюдать последние 8 символов и последние 8 предсказанных им значений1). Среды обозначались как TR-1, TR-2, TR-3, TR-13, TR-U1A, TR-U3 и WORD. В среде TR-1 нечетные символы были с равной вероятностью либо А, либо В, все же четные символы были А. Следовательно, наилучший показатель правильных предсказаний

') Woli и В. R., «Complex Behavior in a «Single Task», Human Factors, 5, 1—5.

составлял 0,75. Среда TR-3 имела такую же логическую структуру, однако четные символы неизменно отличались от предшествовавшего символа. Среда TR-13 была значительно более сложной. Нечетные символы генерировались так, что они с вероятностью 0 8 являлись А; четные же символы всегда были А. Но после каждых 10 символов веса изменялись на обратные. Если бы это было известно автомату, то идеальное предсказание имело бы показатель 0,9. Эта среда, однако, имеет дополнительную структуру, выражающуюся в том, что редкий символ в каждой последовательности из 10 символов занимает последовательно все возможные положения:

ВАААДДАААД, АДВАВАВАВА, ЛЛВЛЛЛЛЛЛЛ,

ВЛЛЛВЛВЛВЛ и т. д.

(здесь слова разделены запятыми только для удобства читателей, субъекту же последовательности предъявляются неразделенными). Таким образом, TR-13 — детер минированная среда, являющаяся идеально предсказуемой.

Среда TR-U1A подобна по структуре среде TR-1, но элементами ее являются не буквы, а слова (сочетания букв) Слова ДВА и ААДВ равновероятны для нечетных слов, но АВ всегда является четным словом. Это равносильно источнику, генерирующему с равной вероятностью слова АВААВ и АААВАВ. Среда TR-U3 имеет такую же структуру, как и TR-3, но состоит из слов. В ней АВ и АААВ с равной вероятностью могут быть нечетными словами, четные же слова всегда отличаются от предшествующего нечетного слова. Это равносильно равновероятной среде, состоящей из слов АВАЛАВ и АААВАВ.

Последняя среда WORD задается рекурсивно процессом, в котором за ААВ с вероятностью 7/ю следует ААААВ, а с вероятностью 3/ю— АВВ. За ААААВ в течение 3/ю времени следует ААВ, а в течение 7/щ времени - АВВВ. За АВВ всегда следует ААААВ, а за АВВВ— всегда следует ААВ. Для идеального предсказывающего автомата, располагающего полной информацией о среде, вероятность успеха предсказания в пределе достигает 93,4%.

Таблица 3.3

Сравнение эффективности предсказания эволюционной программы и человека-оператора

Начальная последовательность

Обозначение среды

О

<р

vo

О ч

S

Показатель

3

Ч

° з о g s S-SS. «§ё

к

о“

о 2 s Ч s $ я о

о О X о Ю С- О q

521212

TR-1

6

0,75

0,730

0,690

0,639

523222

TR-3

6

0,75

0,720

0,695

0,630

4000524

TR-13

6

1,0

0,730

0,700

0,575

1)5'150524

TR-U1A

5

0,875

0,865

0,830

0,725

130271

TR-U3

7

0,92

0,860

0,850

0,725

64125

WORD

24

0,934

0,845

0,760

0,540

В табл. 3.3 приведены начальная последовательность для каждого испытания (снова в восьмеричной системе), обозначения среды, число испытуемых, идеальный показатель предсказания, значение этого показателя для растущей эволюционной программы (использующей в каждый момент времени все прошлые символы данной среды), усредненный показатель для испытуемых субъектов, а также значение этого показателя для той же эволюционной программы, что и прежде, но с запоминанием только последних 10 символов. Заметьте, что эти показатели располагаются в таблице в порядке убывания. Это, по-видимому, указывает на то, что человек-оператор использует какую-то информацию из предшествующего опыта, который он имеет возможность визуально обозревать. Конечно, это не связано со специфически человеческим поведением, поскольку такие же показатели предсказания могут быть получены путем ограничения длины запоминания, соответствующего взвешивания предыстории, или с помощью какой-либо другой процедуры.

Для подкрепления этих результатов были проведены пять добавочных экспериментов со средой WORD

в условиях роста запоминаемой предыстории и при различных случайных последовательностях, вызывающих внутреннюю индукцию в автоматах. В результате средний показатель сократился до 0,827. Повторение экспериментов с этой средой при ограничении запоминания 10 символами уменьшило этот показатель до 0,525. В целом эти результаты имеют значение только в качестве иллюстрации многогранности эволюционного программирования и превосходства его показателей по сравнению с показателями человека-оператора.

ЭКСПЕРИМЕНТЫ ПО ПРЕДСКАЗАНИЮ ПОСЛЕДОВАТЕЛЬНОСТЕЙ ИЗ 8 СИМВОЛОВ

Вторая программа была написана для предсказания среды из 8 символов. Если особо не оговорено, все описанные эксперименты начинались с одного и того же произвольно выбранного автомата с пятью состояниями (фиг. 3.14). Объем запоминания мог расти, причем обучающая последовательность составляла 40 симвотов до первого предсказания. Штраф за сложность был установлен в виде произведения коэффициента 0,01 и числа состояний автомата. Однократная, двухкратная и трехкратная мутации автомата могли происходить с равной вероятностью, причем допускалось максимум 40 потомков или 10 поколений перед каждым фактическим предсказанием.

Первая группа экспериментов с 8 символами касалась предсказания среды, содержащей периодический сигнал, образованный путем повторения простой последовательности 13576420, возмущаемой возрастающим уровнем шума. Когда среда состояла только из сигналов без помех (эксперимент 1), эволюционная программа отыскивала идеальный предсказывающий автомат с одним состоянием в пределах первых восемнадцати оцененных потомков. Среда в эксперименте 2 генерировалась путем искажения того же сигнала добавлением +1 или —1 с равной вероятностью к некоторым символам; последние выбирались путем перескакивания в последовательности от последнего искаженного символа на такое число шагов вперед, которое соответствует очеред-

Фиг. 3.14. Произвольный исходный автомате входным алфавитом из восьми символов.

ному числу в таблице равномерно распределенных случайных чисел. Условно предполагалось, что прибавление к символу 7 и вычитание из 0 оставляет эти символы неизменными. Таким образом, 82,5% символов оставались неискаженными. Из фиг. 3.15 видно, что 59,3% первых 81 предсказаний оказались правильными и 6 ошибок было сделано только в последних 30 экспериментах. В течение эволюционного процесса было испытано 3241 различных потомков, причем автоматы увеличили свои размеры до 8 состояний.

Среда эксперимента 3 была получена повторным наложением такого же шума на среду эксперимента 2. В результате 28,9% символов были искажены помехой + 1 или —1, 15% —помехой ±2, а 69.6% символов остались неискаженными. Из фиг. 3 15 видно, что 39,5% из первых 81 действительных предсказаний были правильными, причем в последних 20 предсказаниях наблюдалось общее возрастание эффективности предсказания. В течение всего процесса эволюции было оценено 3236

различных потомков; при этом число состояний предсказывающего автомата возросло до 15.

Среда эксперимента 4 была получена из среды эксперимента 3 аналогичным образом. В итоге 37,0% символов оказались искаженными шумом ±1, 2,5% символов— шумом ±2 и 0,1% —шумом ±3; остальные 60,4% символов сохранились в неискаженном виде. Фиг. 3.15 показывает, что 23,5% из первых 81 предсказаний были правильными. За весь процесс эволюции было оценено 3214 вариантов, причем число состояний автомата увеличилось до 19.

Среда эксперимента 5 была образована путем искажения 50% всех символов в сигнале. В итоге 43,8% символов было искажено шумом ± 1 (эта цифра отличается от 50% в связи с принятым правилом относительно добавления к 7 и вычитания из 0), остальные 56,2% символов сохранились неискаженными. Из фиг. 3.15 видно, что 22,2% из первых 81 действительных предсказаний оказались правильными. Всего в течение эволюции было оценено 3195 потомков, причем размеры предсказывающего автомата несколько нерегулярно увеличивались до 17 состояний. По-видимому, это последнее увеличение уровня шума (от 39,67% в эксперименте 4 до 43,8% в эксперименте 5) и является причиной столь значительного ухудшения предсказания.

Фиг. 3.16 указывает степень соответствия между предсказанными и фактическими символами в этих экспериментах. Отметим, что после первых 76 предсказаний сигналы в эксперименте 5 предсказывались столь же хорошо, как и в эксперименте 4, несмотря на большее число искажаемых шумом символов. Это, возможно, объясняется тем, что в последнем эксперименте (5) абсолютные величины искажений были меньше. Своеобразная компенсация за счет меньших величин искажений в эксперименте объясняется использованием матрицы взвешенных ошибок, где роль веса играет величина разности между фактическим и предсказанным значениями. По существу, выбор матрицы преобразует номинальный масштаб символов в порядковый масштаб.

Интересно исследовать каждый из предсказывающих автоматов с точки зрения того, как они представляют

Фиг. 3.15. Эволюционное предсказание периодической среды из 8 символ, в с шумом.

Фиг. 3.16. Эволюционное предсказание периодического сигнала.

периодические свойства среды. Характеристический цикл любого автомата с конечным числом состоянии определяется так: начинаем с исходного состояния и первого символа запоминаемой последовательности, а затем подаем на его вход каждый из последовательных выходных символов; процедура повторяется до тех пор, пока не образуется периодическая последовательность. Все характеристические циклы эксперимента 2 оказались длиной в 8 символов. Первые 73 предсказания в точности соответствовали сигналам, но этот «инсайт» исчезал при дальнейших предсказаниях, в которых наблюдались ошибки на 1 или 2 символа. После 14-го. предсказания характеристический цикл оставался в виде 13576430.

Более высокий уровень шума в эксперименте 3 привел к колебаниям длины характеристических циклов вплоть до 26-го предсказания. Начиная с этого момента характеристический цикл сохранялся в виде

1357643113576430

вплоть до 70-го предсказания, что означает ошибку в 1 символ на каждые 2 цикла.

Как и ожидалось, результаты эксперимента 4 были более хаотичными, длина циклов колебалась скачками от 8 до 16 символов, сохраняясь неизменной после 73-го предсказания. Предсказания каждого из последних 24 характеристических циклов были правильными на 62,5%. В эксперименте 5 обнаружилась еще большая изменчивость характерных циклов. Большинство из них было длиной в 8 и 16 символов, отражая основную картину сигнала, хотя взаимно-однозначное соответствие сохранялось лишь в небольшой степени.

Среда в эксперименте 6 была образована путем искажения каждого символа сигнала шумом +1 или —1 с равной вероятностью. На первый взгляд улучшение предсказания, видное из фиг. 3.17, кажется удивительным, но следует учесть, что при искажении всех символов сигнала устраняется один из аспектов случайности. По существу, сигнал принял новую форму, причем предельные значения искаженного сигнала 24677531 или 02465310 имели одинаковую вероятность. В первых 81 экспериментах по предсказанию этот новый сигнал был правильно

Фиг. 3.17. Сравнение экспериментов 5 и 6.

Фиг. 3.18. Эволюционное предсказание среды с шумом.

отождествлен в 70,4% случаях. Фактически характеристический цикл последнего предсказывающего автомата имел вид 02267731102665331. Как легко видеть, последний цикл лежит на границах исходного сигнала, за исключением одного символа из каждых 17. Для сравнения на фиг. 3.17 указаны также процент правильных предсказаний среды и результаты эксперимента 5 для нового сигнала.

Естественно попытаться исследовать, как ухудшаются показатели предсказания при воздействии «белого» шума (при этом каждый искаженный символ заменялся произвольно выбранным символом из входного алфавита). В экспериментах 7 и 8 среда была образована путем наложения такого рода шума в первом случае один раз, а во втором—дважды. Как и ожидалось, показатели предсказания при этом оказались несколько хуже, чем в экспериментах 2 и 3. что видно из фиг. 3.18. На фиг. 3.19 показана степень соответствия между последовательностью предсказанных и фактических символов в тех же экспериментах. И здесь снова увеличение степени случайности шума ухудшает характеристики предсказания. Неограниченное увеличение уровня шума в педеле приводит к чисто случайной среде, которая непредсказуема. В эксперименте 9 обнаружилась потеря эффективности эволюционной программы по предсказанию такой среды.

Введение случайности всегда связано с проблемой воспроизводимости. Чтобы исследовать этот вопрос, эксперимент 2 был повторен дополнительно 9 раз; результаты приведены на фиг. 3.20. Как и ожидалось, изменчивость оказалась обратной функцией показателя эффективности.

Вторая группа экспериментов была связана с предсказанием чисто стохастических сред. В эксперименте 10 необходимо было предсказывать марковскую среду нулевого порядка '), заданную на алфавите из 8 символов. Такая среда была получена комбинированием двух нормально распределенных по 5 символам случайных величин и образования бимодального распределения. Генерировалась выборка из 269 символов, относительные ча-

*) Г. е. процесс с независимыми приращениями. — Прим, перев.

na ,Процент правильных предсказанииПроцент правильных предсказаниичнna ,Процент правильных предсказанииПроцент правильных предсказаниичн

na ,Процент правильных предсказании

Процент правильных предсказаниичн

na ,Процент правильных предсказании

Процент правильных предсказаниичн

Ф и г. 3.20. Статистика предсказаний при 10 повторениях экспери-мента 2.

стоты которых приведены в табл. 3.4. При штрафе за сложность 0,01 на одно состояние размеры предсказывающих автоматов возросли до 31 состояния. Относительная частота каждого символа в последовательности предсказанных значений соответственно отражает относительные частоты выборки. Эксперимент 11 проводился при увеличении штрафа за сложность с целью уменьшения чувствительности предсказываемой последовательности к разности частот отдельных мод распределения. При штрафе за сложность 0,1 на одно состояние автоматы увеличились в размерах только до 11 состояний, и, как видно из табл. 3.4, предсказание в этом случае больше соответствовало статистике среды.

Таблица 3.4

Символ

Теоретическое распределение

Частота появления

Частота предсказаний

эксперимент 10

эксперимент 11

0

0,0116

0,00374

0,08

0,005

1

0,06785

0,0825

0,115

0,051

2

0,3413

0,299

0,223

0,303

3

0,07925

0,1050

0,058

0,081

4

0,07925

0,0787

0,017

0,015

5

0,3413

0,348

0,521

0,520

6

0,06785

0,0637

0,033

0,015

7

0,0116

0,0187

0,025

0

В эксперименте 12 требовалось предсказать марковскую среду нулевого порядка на алфавите из 4 символов, причем произвольно выбранные вероятности символов были равны 0,1; 0,2; 0,3 и 0,4. Такая априорная информация требует постоянного предсказания одного и того же наиболее вероятного символа с асимптотической вероятностью правильного предсказания 0,4. При другом крайнем случае — совершенно случайном предсказании — ожидаемая вероятность составляет 0,25. Как показано на фиг. 3.21, для эволюционной программы значения показателя расположены между этими крайними режимами, что наглядно демонстрирует факт извлечения

и г. 3.21. Эволюционное предсказание марковской среды нулевого порядка.

и г. 3.22. Эволюционное предсказание марковской среды первого порядка.

Таблиц*1 3.5

0

1

2

3

0

0

0,8

0,1

0 1

1

0,1

0

0

0,9

2

0,9

0,1

0

0

3

0

0,1

0,8

0,1

программой информации о среде из предшествующих символов.

Марковская среда 1-го порядка в эксперименте 13 генерируется в соответствии с теоретической моделью табл. 3.5. Говоря более конкретно, после начального произвольного символа каждый следующий символ генерируется с учетом относительной частоты каждого очередного символа при заданном предшествующем, как это видно из строк матрицы, изображенной в табл. 3.5. Здесь символы верхней строки — очередные символы, следующие за предшествующим символом, указанным в левом крайнем столбце. Действительная среда имела матрицу переходов с относительными частотами, указанными в табл. 3.6. Предельные вероятности состояний среды равны 0,236; 0,241; 0.249 и 0,274 соответственно.

При использовании автоматом только той информации, что это — процесс 1-го порядка, оказалось возможным добиться 89,5% правильных предсказаний на 200 м предсказании (фиг. 3.22). Но даже без этой информации эволюционное программирование достигло такого же показателя. Анализ предсказанной последовательности показал, что к концу этого эксперимента среда правильно характеризовалась максимальными вероятностями переходов в каждой строке матрицы. Другие эксперименты, проведенные с марковскими процессами 1-го и 2-го порядков, также дали удовлетворительные результаты.

Таблица 3.6

0

1

2

3

0

0

0,822

0,071

0,107

1

0,035

0

0

0,965

2

0,915

0,085

0

0

3

0

0,077

0,862

0,061

Для генерации более сложной среды были использованы степени с основаниями 2 и 3, расположенные в порядке возрастания. Эти степени делились на 8, а остатки от такого деления служили символами последоватсть- ности, которая в результате имела вид

1234010300103001003010030100300...

Эта среда предсказывалась в эксперименте 14. К счастью, проблема упорядочивания степеней с основаниями 2 и 3 может быть упрощена путем приведения всех степеней к одному основанию. Например, степени числа 3 могут быть аппроксимированы как 21-584925. Так как 2Ж>2Г тогда и только тогда, когда х>и, задача сводится к упорядочиванию положительных целых чисел и их произведений на число 1,584925. Так как такое приближение числа 3 имеет точность 107, могут быть рассмотрены 107 степеней по основанию 3, прежде чем возникнет ошибка в упорядочивании.

Нахождение остатков этого возрастающего ряда степеней с основаниями 2 и 3 уменьшает алфавит среды до размеров, приемлемых для эволюционной программы. Так, при модуле 8 степени двойки дают остатки 2 и 4, за которыми следуют нули, тогда как степени тройки дают остатки Зи 1. Чтобы убедиться в этом, заметим, что

21 = 2 (mod 8); 22=4(mod8); 23 = 8 = 0(mod 8).

При к>3

2к = 2fe-3.2з = о . 2ft-3 (mod 8) = О (mod 8).

Аналогично 31 = 3(mod8); 32=l(mod8), так что при п четном (т. е. п = 2/г)

32й = (ЗУ = Р (mod 8) = 1 (mod 8), в то время как при п нечетном (и = 2/?+1) 32fe+. = 32fe . 3 = 1.3 (mod 8) = (mod g)

При делителе 7 (модуль 7) степени двойки имеют вид повторяющейся последовательности 2, 4, 1, 2, 4, 1, ..., тогда как степени тройки имеют вид повторяющейся последовательности 3, 2, 6, 4, 5, 1, 3, 2, 6, 4, 5, 1В этом легко убедиться, заметив, что

23 = 1 (mod 7); 2 м = (23)fe = Р = 1 (mod 7),2з&+1 = 23fe . 2 = i . 2 (mod 7) = 2 (mod 7),

в то время как

2ЗА+2 = 23й . 22 = 1.4 (m()d 7) = 4 (mod ?^

Аналогично поскольку З6 = 1 (mod 7), то

36fe = ^ = ^ (mod ?) = , (mod 7)j

36ft+! = 36fe • 3 = 3 (mod 7),

3бб+2 = 36й . 32 = 32 (mod ?) = g (mod ?) = 2 (mod 7)>

Збб+з = 36А . Зз = 2? (mod 7) = 6 (mod 7)>

36fe+4 = 36fe . 34 = 81 (mod 7) = 4 (mod 7)1

36fe+5 = 36fe . 35 = 243 (m0(J ?) = 5 (mod ?)

Поэтому для образования последовательности остатков от деления на 8 необходимо только упорядочить целые числа и их произведения на множитель 1,584925; другими словами, последовательность чисел 2, 4, за которыми следуют нули, располагается на местах, соответствующих целым числам, в то время как последовательность 3, 1, ... ставится на последовательные

позиции, соответствующие произведениям целых чисел на 1,584925. Аналогично при делителе 7 целочисленная последовательность 2, 4, 1, 2, 4, 1,... перемежается последовательностью 3, 2, 6, 4, 5, 1, 3, ..., соответствующей произведениям на множитель 1,584925. В результате получается непериодическая последовательность. Нарушение периодичности вызвано тем, что при увеличении степеней тройки (Зую2,)|-584925™) отброшенные последующие разряды числа 1,584925 ... начинают влиять на целую часть произведения и-1,584925 .. , нарушая тем самым порядок последовательности целых чисел.

После первых 300 предсказаний (эксперимент 14) процент правильных предсказаний достигал 88,7. Около 1401 различных потомков было оценено по антидиаго- нальной матрице (все недиагональные элементы имеют значение 7, а элементы на главной диагонали — значение 0). Предсказывающие автоматы имели, как правило, 6 состояний. Чтобы избежать сокращения алфавита до трех символов в последней части последовательности, степени с основаниями 2 и 3 были поделены на 7, после чего остатки их образовали последовательность 1234122641425411243122461424512143122461 ...

После первых 216 предсказаний (эксперимент 15) процент правильных предсказаний составил 56,5; он был определен после оценки 3671 потомка, которые в основном имели 21 состояние. Для последних 50 предсказаний показатель составил 78%. Этот показатель, несомненно, был значительно выше, чем могло быть при случайном предсказании. Предсказание этой последовательности, основанное на наиболее вероятных к каждому моменту времени символах, дает значение показателя всего8,5%.

Были проведены эксперименты для оценки эволюционного программирования как средства для обнаружения корреляции между переменными, с тем чтобы использовать эту корреляцию для повышения вероятности правильного предсказания одного или большего числа воспринимаемых параметров. В эксперименте 16 случайная последовательность двоичных символов предъявлялась произвольно выбранному конечному автомату М (табл. 3.7) с исходным состоянием «1». Отметим, что вы-

ходной алфавит автомата состоял из четырех символов,- Требовалось предсказать (основываясь только на ранее наблюдавшихся выходных сигналах) каждый следующий выходной символ; последний может быть предсказан лишь в той мере, в какой структура автомата М отражена в случайном выходном сигнале. Процент правильных предсказаний, как показано на фиг. 3.23, обнаруживает возрастающую устойчивость около значения 51 % после первых 152 предсказаний (при длине предыстории 20 символов).

Таблица 3.7

Автомат М

Текущее состояние Входной символ Следующее состояние Выходной символТекущее состояние Входной символ Следующее состояние Выходной символ1122334455

Текущее состояние Входной символ Следующее состояние Выходной символ

Текущее состояние Входной символ Следующее состояние Выходной символ

0101010101

351214 5321

2023113002

Это значение можно было бы значительно улучшить, если бы программа допускала одновременное использование как выходной последовательности из четырех символов, так и входной последовательности из двух символов. По существу, при такой добавочной информации показатель предсказания по мере увеличения запоминаемой предыстории асимптотически приближается к 100% ввиду детерминированного характера автомата М. Чтобы исследовать, будет ли иметь место аналогичное улучшение показателя при эволюционном методе предсказания, был проведен эксперимент 17. На каждом шаге автоматы с двумя входами и одним выходом оценивались по известной выходной последовательности из четырех символов после предшествующего обучения при одновременном показе входной и выходной последовательностей. Процент правильных предсказаний, согласно фиг. 3.23, достигал при этом 80.

В некотором смысле последовательность автоматов с двумя входами и одним выходом должна обеспечить все более точное представление преобразования, выполняемого автоматом М. Фиг. 3.24 является графическим представлением для конечного автомата, который был получен

Ф и г. 3.23. Эволюционное предсказание среды из 4 символов,задаваемой автоматом М.

Фиг. 3.24. Автомат N.

после 160 предсказаний. Состояния этого автомата /V обозначены буквами, чтобы не спутать их с состояниями автомата М, которые обозначены цифрами. Можно сравнить машины М и N следующим образом. Исследуем каждое состояние М для того, чтобы определить, имеется ли среди состояний автомата N такое, которое в каком-то смысле выполняет ту же самую функцию на той же заданной последовательности входных сигналов. (Отметим, что вход при каждом состоянии автомата N состоит из упорядоченной пары символов, из которых первый является входом М, а второй — предыдущим выходным символом М при переходе в данное состояние.)

Рассмотрим для иллюстрации состояние «1» автомата М. Поскольку выходными символами при переходе в это состояние могут быть 1 или 2, то возможные входные пары для автомата N следующие: (0, 1), (0, 2), (1, 1), (1,2). Исследование состояния В автомата N показывает, что как (0,1), так и (0,2) вызывают появление на выходе 2, что соответствует выходному состоянию «1» при получении входного символа «0». Аналогично (1, 1) и (1, 2) вызывают на выходе 0, что соответствует выходу автомата М в состоянии «1» при входном символе 1. Таким образом, можно сказать, что состояние «1» автомата М содержится в состоянии В автомата N в том смысле, что автомат N генерирует ту же реакцию при соответствующей последовательности входных сигналов. Следуя этой логике, можно показать, что состояние «3» содержится в состоянии А, а состояние «5» — в состоянии В.

При широком рассмотрении этой проблемы часто бывает важно сформулировать гипотезы относительно логических взаимосвязей между двумя или более переменными (поступающими по разным каналам). По-види- мому, эволюционное программирование дает метод для определения многопараметрических предсказывающих автоматов, которые могут служить разумным отображением наблюдаемых логических связей между параметрами.

Эксперимент 18 был проведен для проверки утверждения, что эволюционная программа действительно извлекает полезную информацию из среды в эксперименте 17 с коррелированными переменными. В эксперимен-

те 18 автоматы с двумя входами и одним выходом эволюционировали так же, как и в предыдущем случае, с той лишь разницей, что входные переменные уже не были коррелированы с выходной последовательностью автомата М, так как генерировались независимо. Процент правильных предсказаний в этом эксперименте остается ниже, чем в двух предыдущих экспериментах. Другими словами, дополнительная информация, облеченная в форму входной двоичной переменной, расстраивала систему, вызывая рассогласование, в результате чего предсказание ухудшалось.

Оказалось целесообразным разработать формальный метод, позволяющий получить выражение для множества конечных автоматов, функционально содержащихся в любом данном автомате. Таким образом оказывается возможным преобразовать любой предсказывающий автомат в набор гипотез, касающихся логики предсказаний среды. Разумно ожидать, что чем выше процент правильных предсказаний, тем больше соответствие гипотезы с логическими свойствами среды.

Чтобы сделать изложение более полным и стройным, необходимо обратиться к некоторым основным положениям теории конечных автоматов и их формального представления.

Для множества А свободная полугруппа1) на А, обозначаемая "S.A, есть множество всех конечных последовательностей элементов из А с указанием операций связи между ними. Так, если а = аха2 ... ап и Ь = — ЬХЬ2 ... Ьт — две последовательности, то ab есть последовательность аха2 ... акЬх ... Ьт. Длина /(с) последовательности «а» есть число элементов последовательности, так что /(а) =п и ЦаЬ) = п+т. Если в ЕД включена нулевая последовательность Ф с правилом аф = фа для всех а в ЕД, то соответствующая полугруппа обозначается как ЕД и называется свободной полугруппой на Л с тождественностью. Доказательство, что операция сочетания последовательностей ассоциативна, т. е.

*) Полугруппа— это непустое множество элементов Z, на ко тором определен двоичный оператор ассоциативности о. Таким об разом, для всех а. 6 и с, входящих в множество Z, ао b— тоже находится в Z, а также и (а ° 6) ос = до (6 од).

(ab) с = а^Ьс\ непосредственно очевидно; следовательно, как ЕД, так и ЕД являются полугруппами.

С каждым элементом а полугруппы ЕД связана функция левого преобразования La на себя, задаваемая равенством La^x)=ax для всех х из S. Отметим, что если S содержит тождественность Ф, то L,^x)=x. Далее, если f — любая функция, отображающая S в множество б, то композиция функции f и La, обозначаемая как khU4xV есть также функция, отображающая S на В для всех с из S и заданная равенством

(Ш(хМ([оМНН

В частности, если S содержит тождественность ф, то ЬЬф=ь

Конечный автомат задается пятеркой индексов (Д, В, Q, б, X), где А—конечное множество, называемое «входным алфавитом»; Q — конечное множество «состояний»; 7. — «функция следующего состояния», т. е. отображение ДхО в Q; б — «функция выходных состояний», отображающая ДхО в конечное множество В. Иногда некоторое определенное состояние до, являющееся членом множества Q, также включается в определение конечного автомата как «начальное состояние».

Функции 7. и б могут быть расширены до функций X и 5 соответственно, определенных на ЕДхС согласно следующему рекурсивному определению. Если Ца)=\, так что а принадлежит А, то Х(а, д) =Х(а, д) для всех д. Если Ца)=п>\, т. е. a=av ... ап хап, то X (О] ... ... ап-\апд) =к(ап, Х(щ ... ап-и д)). Аналогично если Ца) = ), то 5(й, д)=Ца, д) для всех д. Если Ца) =п>\, так что 0 = 0102 ... оп_!Оп, то 5(0] ... о„, д)=Мап- X(ai ... an_tg)). Очевидно, X (о, д)—последнее по времени состояние автомата после того, как на его вход была подана последовательность а при начальном состоянии д, а 6 (о, д) —последний выходной символ. Методом индукции можно показать, что для всех а и Ь, принадлежащих ЕД, и д, принадлежащих Q,

^ = (ab, д) = к(Ь, ^(а, д)); Ъ(аЬ, д)=Ъ^Ь, Х^а, д)).

Для каждого состояния д существует функция f7, отображающая входное множество ЕД в выходное мно-

жество В, что может быть записано как fg(tz)=6(a, у) для всех а в 5/1. Далее, для любого автомата имеется множество функций [fg], каждая из которых отображает 5Д в В. Рассмотрим отображение композиции fq о La для любого состояния q и любой входной последовательности а. Ясно, что для всех х из 5Д

fq ° La (х) = fq ^4 - 8 (х, X (a, q)WK to, q) И-

Поэтому fgoLa=fq', где q'=^a, q), и множество [fj замкнуто при композиции с множеством левых преобразований [Ра] на 5Д. Отметим, что функций может быть меньше, чем состояний, так как разные состояния могут приводить к одной и той же функции. Если число функций в точности равно числу состояний, автомат называется редуцированным

Предположим теперь, что 5Д — свободная полугруппа на конечном множестве А и [fgl^eQ] —конечное множество различных функций, отображающих 5Д в В. Пусть далее [/д]— замкнутое множество при композиции с левыми преобразованиями [LJ на 5Д, т. е. для любого q из Q и любой последовательности а справедливо равенство fq ° La=fq'. Тогда существует конечный автомат с входным алфавитом А, выходным алфавитом В и одним состоянием для каждого элемента q^Q — таким, что [fg] в точности представляет множество функций, связанных с данным автоматом.

Вернемся теперь к эксперименту, в котором автомат N, заданный в форме N= (АхВ, В, Р, XN, бд-, Ро), используется для моделирования автомата М, заданного в форме М= (Д, В, Q, Хм, 6м, 9о), и необходимо построить М из N. Прежде чем дать определение понятия включения одной машины в другую, удобно ввести некоторые дополнительные понятия.

Если М — автомат, заданный в виде (Д, В, Q, Хм, 6м, 9о), то Bq является подмножеством В, состоящим из тех элементов Ь, для которых существуют состояние q\ в Q и элементы а в А и для которых q = XMka, ЧЛ и Ь=6м^ 4\Y

Если /V — автомат, заданный в виде (АхВ, В, Р, XN, 6n, Ро), то последовательность (п0, Ьо) ... (а„, 6„)—

допустимая последовательность для машины N. если 6jv((o0, 60) -.. («г. ЬЛ, Po)=bw для всех i<n

Лемма 1. Для автомата N, определенного выше, для любого ЬоеВ и любой последовательности а0 ... ап в SA существует единственная последовательность bt ... ... bn, такая, что (п0, Ьо) ... (ап, Ьп) —допустимая последовательность для N.

Пусть 61 = блг((а0, Ьо), р0); определим методом индукции bt = 5yV ((«о» b0) ... (%_,, bt_x), pD). Тогда (o0, b0) .. . ... (an, 6n)— допустимая последовательность для автомата N. Если b'x . .. b'n~другая такая последовательность, то bx = 6W ((а0, b^, р^ = Ь'г Если bj = b' для / < I, то по индукции bt = b't для 1 ^ i ^ п, так как bx = 6V ((аи, boy .. . .. (di-v bt_xy Ро) = bi.

Для автоматов М и N, определенных выше ), q из Q включено в р^Р по отношению к Ь^В, если ^N((О, Ь), р)= Ьм\ка' Ь), q) для всех аеА. Говорят, что автомат М включен в N, если: 1) для некоторого Ьо из В q0 включено в ро по отношению к Ьо; 2) для q = = Ъм(ас ... ап, q0) при всех 1<.т</г qt-h^ao • • • ... Qi-x, уо) включено в Pi=^NUct0, boy ... (at_x, bt„vy Ро) по отношению к Ьъ где (п0, Ьо) ... (ап, Ьп) —допустимая последовательность, определенная леммой 1.

q, входящее в Q, строго включено в ро, если для всех аеА и каждого b^Bq bM^a, q)=b*^a, b), р). (Заметим, что если q строго включено в р, то оно включено в р по отношению к любому b^Bq). Аналогично автомат М строго включен в автомат N, если: 1) для некоторого ЬоеВ q0 включено в ри по отношению к Ьо; 2) когда (по, Ьо) ... (ап, Ьп)—допустимая последовательность, определенная леммой 1, то при всех l^t^n

9г=^м(Оо • .. «Е-Ь 9о) строго включено в Pi = XN((a0, бо) ••• (fii-1, 6j_ i), po)-

Теорема I. Если автомат М строго включен в N, то он включен в N.

Доказательство. Для q=qo определения включения и строгого включения идентичны. Для q — = ^m^Qo ... Qn, qo) в определении включения Ь^ входит в В. Как указано в определении строгого включения, q включено в р по отношению к любому Ь^В, а поэтому, в частности, и по отношению к Ь„.

Лемма 2. Пусть автомат М включен в N, a qo включено в ро. Если для любой последовательности Qo ... ап из 2/1 («о, б0) ••• (ол, бп)—единственная допустимая последовательность для N по лемме 1, то для 1^1‘^.п Ьм^Оо ... Qi, qo) =8jv((go> bo) ... (Qi, bi), po).

Доказательство. По лемме 1 последовательность bi ... bn должна быть последовательностью, заданной определением включения. По этому определению каждое qi включено в рг по отношению к соответствующему bi- Следовательно, 6м(оо ■•• Qt, 9o)=3jv((go> 6o)...(a„ bi), po) для всех O^i-^n.

Теорема II. Если М включен в N, то и редуцированный автомат М тоже включен в N. Эта теорема может быть получена непосредственно из теорем III и IV, поэтому ее доказательство будет дано посте изложения указанных теорем.

В рассматриваемом эксперименте задача состояла в следующем. Пусть задан автомат N. Существуют ли автомат или, возможно, автоматы, которые строго включены или просто включены в № А если да, то как найти такие автоматы? На эти вопросы отвечает следующая процедура, которая конструирует такой автомат.

Пусть Ьо — любой элемент в В; определим функцию f на 2/1 в В следующим образом1). Для любой

*) f следовало бы обозначать как fbo, так как в общем случае различный выбор 60 может привести к разным функциям Там, где это необходимо по контексту, этот индекс будет выписываться в явном виде.

последовательности а0 ... ап в НА имеем j(aQ ... ап) = = 8((g0, й0) ... (ое Ь^, р0), где (Go, й0) - (а#1 йп) — единственная допустимая по лемме 1 последовательность для йо и «о ... «и- Следующая лемма будет первым шагом получения желаемой процедуры.

Лемма 3. Множество функций {/о/,а|ае2Л} конечно.

Доказательство. Рассмотрим функцию fQLa ...о . Пусть о' ... а' — любая последовательность в S/1, а (о0, й„) ... (ап, Ь^, й^ ... «, й')-допустимая последовательность, связанная с оп ... асА. ... о'. Тогда t°La6...ankao ••• а^ = Ж-" апа'о... а^ =

= Wo’ 6о) • • • (G„- ЬЖ’ ЬоУ" ^ Ь'У Р^ =

= МК Ь»У" УV bk\ M(G0- 6о) • • • (G„, ЬпУ Ро)) =

= М(4 b»Y-AaV ^ р„Л где

РпН = ^.7 ( (Оо> Йо) . . . (Оп, Йп), р0), ^М^О’ ЖЖ ЬпУ Р^ По лемме 1 для О^а^А

bi = ^7((G0’ ^о) • • • (Gn’ ^n)(G0’ ^о) • • ■

• ' ' (Gi-P Ь1-1У Ро)= ^((“о* ^о) • • •

■ ■. (о^-р Ь'^, рп+1у

Следовательно, (o', й^) ... (с^, й^) — единственная допустимая последовательность для автомата МП+1 = (ДХВ, В, Р, XN, б^, рпИ\ связанная с й' и о' ... а'ь. Таким образом, функция f ° L полностью определена парой (йд, РпнУ’ это значит, что в множестве {f0£a | а е 2Д} существует лишь конечное число различных функций.

Предположим, что множество функций состоит из f, f0 La? t ° LO1, ...,f = Lak. Пусть Q = (<70, . Л q^ и пусть qQ соответствует f, a qt соответствует f ° Lai для 0 ^ t ^ A.

Тогда М' = (Л, В, Q, Хм, 6^, д0)—конечный автомат с 1М, (a, q^ = q., где f = La.a = f = Laf и 3^, (c, q^I f (a£a), если только не выполняется равенство f ° Lap = f; в этом случае / = 0. Далее, f, f Lap • • •, f ° Lak — функции на НА в В, связанные с состояниями М', и поэтому М'— редуцированный автомат.

Теорема III. Определенный выше автомат М' включен в автомат N.

Доказательство. Пусть q0 — начальное состояние М', соответствующее функции f; тогда для любого а в А

6M^a, q0) = f(a) по определению М' и

б^, (g, q0) = bN^a, boYpo) по определению f.

Следовательно, qo включено в ро относительно Ьо.

Пусть й0 ... ап — любая последовательность в ЕЛ и пусть (g0, Ь^ ... (ап> bп)~допустимая последовательность, связанная с ней так, что для 1 ^ z ^ п bt = 3W ( (g0, b^ .. . . .. (a,--!, bt-tY p0\ Тогда, если qi = lM^a0 ... ам, q^ и Pi ^^n ((Oi-i> bi_,Y PtY необходимо показать, что qt включено в pt по отношению к ht. Пусть к — любое целое, 1^£^/ц а а —любой элемент А. Требуется показать, что Зл/(а, q^ = bN^a, b^, р^.

Итак,

З/д (°- 9й) "

= Злк(о, ^м'као • • • °^-1> 9о) по определению qb;

= Зм' (о0 • • • Qk-i* a, q0) = f (g0 ... а^, а)

по определению М';

= 3v((g0, Ь<) ... (<^-1. ^w)(g, 6й), р) по определению f;

= 3^((а, bkY ^((gq, b.^ ... (g^, bk_xY pqU =

= ^мЦа, bkY Ph) ПО определению pk.

Теорема IV. Если M включен в N и qQ включено в Ро по отношению к ЬГ), то автомат М', определенный выше с /Ь1, является редукцией автомата М.

Доказательство. Для каждого состояния q в М имеем либо q = KM(a, q^, либо q = q0. Отсюда следует, что каждое f есть либо f , либо f ° La для некоторых аеА. Таким образом, множество функций {fj полностью определено заданием fqo, и то же касается редуцированного автомата. Автомат М', согласно лемме 3, определяется с помощью /ь^ точно таким же образом, как редуцированный автомат М определяется посредством f . Поэтому для доказательства, что М' есть редукция автомата М, достаточно доказать, что f и /6 — °Дна и та же функция.

Пусть й0 ... йп — любая последовательность в SA и (й0, 6о)...(оп, 6П)—допустимая последовательность для N. Тогда

^ ••• Qn) =

= 5и(й() - • - йп, q^ по определению f ;

= bNUaQ, b0) ... (ап, bn), р0) по лемме 2;

= fb (й0 ... йп) по определению fb.

Доказательство теоремы П. По теореме IV М'—редукция автомата М, й по теореме III он включен в N. Следовательно, хотя автомат М сам, возможно, и не будет построен по этой процедуре, автомат М', который функционально неотличим от М, может быть построен. Как отмечалось выше, даже для фиксированного начального состояния различный выбор начальных Ьо может привести к различным функциям fb, а следовательно, и к различным автоматам.

Конечный автомат может рассматриваться теперь как множество функциональных преобразований последовательности входных символов в последовательность выходных. Эти функции могут задаваться в табличной форме путем соотнесения с каждым входным символом того выходного символа и того очередного состояния, которые возникают при заданном начальном состоянии. Конечно, необходимо внести в таблицу только те функции, которые приводят к изменению пары «очередное

текущее состояние — выходной символ» при входной последовательности длиной 1. Любая функция состояния полностью определяется состоянием и связанным с ним выходным символом, поскольку foLj и f L2 при одинаковых множествах пар «выходной символ — очередное состояние» представляют собой одну и ту же функцию.

Например, если эта процедура применяется к автомату /V (фиг. 3.24), то множество включенных в него автоматов определяется следующим образом. Начинаем с состояния Л и предыдущего выхода «О»; любой входной символ переводит автомат в состояние В. В любом случае выходной символ — «1», так что функция f (более точно, fbJ определяется парами «выходной символ— очередное состояние» 1В, как показано в табл. 3.8. Если следующий входной символ будет «О», то результатом будет переход автомата в состояние Л, и на выходе появится «2». Аналогично при входном символе «1» образуется пара ОВ. Эти пары, 2Л и ОВ, соответствуют fоLo, как показано в таблице. Отметим, что эти же самые пары соответствуют и f о Lb так что эту функцию можно не вносить в таблицу. Оставшаяся часть таблицы заполняется аналогичным образом. Поскольку имеется лишь конечное множество пар «выход — очередное состояние».

Таблица 3.8

Исходное состояние А при предшествующем выходе «О»

Вход

f

foL0

foLoo

f°Loi

?°^001

f°^01C

0

1В

2A

IB

oc

ЗЛ

2B

1

IB

OB

1A

2B

0Л

3C

число различных функций f ° La будет конечным. Более того, всякий раз, когда в таблице для f -La (а — любая входная последовательность длины /г) появляются пары, которые уже имелись в таблице для f ° Ц> (Ь— последовательность длиной меньше /г), все возможные последующие значения функции ') получаются автоматически.

*) В таблице для Г ° La, — Прим, перед.

Таблица 3.9

Исходное состояние В при предшествующем выходе «3»

Вход

fi

fioLo

0

2В

2Л

2Л

1

2В

ОВ

ОВ

Табл. 3.9 генерируется тем же самым автоматом, но в предположении других входного символа и начального состояния. Отметим, что нет нужды генерировать продолжение для этой таблицы, поскольку пары для fi ° Lo и fi ° L! идентичны с парой f ° Lo табл. 3.8, так что оставшаяся часть табл. 3.9 полностью совпадает с соответствующим продолжением табл. 3.8. Иными словами, автомат, задаваемый табл. 3.8, совпадает с автоматом, определяемым по табл. 3.9, с точностью до добавочного начального состояния.

Табл. 3.10 и 3.11 получены аналогично. В последнем случае автомат имел добавочное начальное состояние, которое при входном символе «0» приводит к паре fi LOo автомата табл. 3.8, при входном же символе «1» сохраняется в прежнем виде.

Диаграмма состояний автомата М(0Л), задаваемого табл. 3.8, может быть получена путем записи соответ-

Таблица 3.10

Исходное состояние С припредшествующем выходе «1»

Входfs

О1О12В

О

1

О

1

2В

Таблица 3.11

Исходное состояние С при предшестчующем выходе «2»

Вход

fa

f,°Lo

foU

0

2А

1В

2Л

1

2С

1Л

2С

ствующего состояния для каждой композиции различных левых преобразований Lo с f0 (фиг. 3.25). Автоматы, включенные в М, образуются при начальных парах 1А, 2Д, ЗА, OB, IB, 2В, ОС и ЗС, поскольку эти пары содержатся в табл. 3.8 и автомат — сильно связанный. Начальные пары ЗВ и 1С порождают автомат, который совпадает с автоматом Й1(ОА) с точностью до добавочного состояния, которое одновременно можно считать начальным. Пара 2С также порождает автомат, включенный в М, и совпадает с ним с точностью до добавочного состояния. При начальной паре ОД следующее состояние будет 3, в то время как при входном символе «1» следующим состоянием будет начальное.

Отметим, что все еще сохраняется возможность того, что функции с одинаковыми выходными символами, но разными следующими состояниями идентичны. При таком соответствии эти функции следует сравнивать на все более длинных последовательностях, пока, наконец, либо появятся разные выходные символы на каком-то этапе, либо пары «выход — очередное состояние» совпадут. В первом случае функции различны, во втором — совпадают.

Предположим, что для автоматов М=(А, В, Q, Км, Ьм, <7о) и N= (С, D, Р, KN, 6n, Ро), как показано на фиг. 3.26, существуют такие функции h и t, для которых

6^ — t ^ д дг 0 Л.

Тогда автомат N с помощью этих функций в известном смысле может воспроизвести все, что в состоянии сделать М. Если h — гомоморфизм и t — любая функция,

Ф и г. 3.26,

отображающая D в В, то описанный выше случай сводится к задаче «Al-разбиения» автомата N (по Крону и Роудсу). Если С=АхВ, к— функция, отображающая 2/1 в множество допустимых последовательностей в2С, а t — единичная функция (отображение на себя), то автомат М включен в N. Тогда можно ввести понятие о том, что М функционально содержится в N, которое включает в себя оба случая: М включен в N и N распадается на М. Для машины с входным алфавитом А и выходной функцией б функция б определяется в следующем виде:

б (a, q) = 6(a, q) для всех а^А и

б(а0... ап, у) = б(а0 • • • ап_х, q)6(a^... ап, q') для at е А

т. е. б (с0 • • ■ On, 9) — выходная последовательность при входной последовательности ао ... ап и начальном состоянии q.

Рассмотрим следующие три класса функций:

Множество всех гомоморфизмов на входных полугруппах, где входная полугруппа — свободная полугруппа на конечном алфавите.

Множество всех левых преобразований на этих входных полугруппах.

Множество функций в виде

( б(а0 ... ап_Х1 q) при п>1

,6 (tz0 ... ап, q) — \ , ,х„

( ф (нуль-последовательность) при п = 0.

Пусть Н—множество функций, образованных из этих трех множеств посредством операций композиции и прямого произведения; т. е. Н — наименьшее множество функций, которое содержит функции множеств 1, 2 и 3 и замкнуто относительно операций композиции и произведения. Для М=(Д, В, Q, км, 6м, qo) и N=(C, D, Р, ^n, 6n, ро) М функционально содержится в N (обозначается как М<Щ, если существуют кеН и функция t, отображающая D в В, такие, что 6м = 1 ° 6х о к, где бм и 6N имеют начальные состояния q0 и ро соответственно.

Однако Н содержит множество изоморфизмов входных полугрупп; отсюда следует, что если М есть

делитель N, то М функционально содержится в N. Чтобы показать, что если М включено в N, то М функционально содержится в N, рассмотрим декартово произведение единичной функции на ЕЛ и функции Lb„ 016м. Легко видеть, что оно представляет собой отображение УА в Е(ЛхВ), что и требуется для условия «включения» автомата.

Поскольку единичная функция и функция Lb, и 16м включены в Li, функции, получаемые из них при композиции и декартовом произведении, также принадлежат Н. Поскольку единичная функция на полугруппе есть гомоморфизм и Н замкнуто относительно композиции, отношение «функционально содержится в ...» рефлексивно и транзитивно. Пусть М функционально эквивалентно N (обозначается как М ~ /V), если M<N и М<М. Тогда «~» есть отношение эквивалентности, которое разбивает множество конечных автоматов на классы эквивалентности. Отношение «<» индуцировано на классах эквивалентности в том смысле, что для любых классов эквивалентности М и N существует М в М и Л/ в N, такие, что М<Х тогда и только тогда, когда каждый автомат из М функционально содержится в каждом автомате из N.

Теорема V. Если M<N и автомат Mj получен из .М изменением начального состояния q0 на </|, то Mt<N,

Требуемая функция из Н, при которой M<N, задается композицией hoLn,r№ qi—LM (а, у0) и h^H. Так как М<М, то в результате получаем утверждение: если Mi получен из М путем изменения начального состояния, то MV<M. Поскольку в сильно связанном автомате каждое состояние может быть получено из любого другого состояния, любой автомат, отличающийся от М начальным состоянием, эквива тентен М, а следовательно, и любому производному автомату.

Теорема VI. Если heH отображает ЕЛ в ЕС, то для а в ЕЛ. где а=олай, имеем h(a) =h^aAc, т. е. h^ представляет собой квазигомоморфизм.

Для доказательства достаточно заметить, что: 1) функции в базовых классах, определяющие Н, суть ква-

зигомоморфизмы; 2) композиция квазигомоморфизмов есть квазигомоморфизм; 3) произведение квазигомоморфизмов есть квазигомоморфизм.

Если К — множество квазигомоморфизмов на входных полугруппах, то по теореме VI Н содержится в К. Нельзя ли тогда переставить местами Н и К в определении функциональной содержимости одного автомата в другом? Если это будет сделано, можно будет вывести все полученные результаты. Но, к сожалению, при этом выводятся также некоторые нежелательные результаты. Пусть, например, функция ЬеК. Рассмотрим любой автомат М^^А, В, Q, Хм, Ьм, 9о) и соответствующий автомат с одним состоянием1) N=(B, В, {р}, X, 6, р), где 6 — единичная функция. Тогда, поскольку 6М — квазигомоморфизм, М функционально содержится в N. Отсюда следует, что множество К слишком велико, чтобы обеспечить целесообразную теорию, поскольку его использование приводит к тому, что каждый автомат функционально содержится в автомате с одним состоянием.

Оглядываясь назад, можно сделать вывод, что метод «включения» позволяет переводить любой автомат в множество редуцированных автоматов, которые в него включены, последние же могут рассматриваться как разумные гипотезы о логических взаимосвязях между воспринимаемыми входными переменными.

•) Так называемый тривиальный автомат. — Прим, перед.

ГЛАВА ЧЕТВЕРТАЯ

Проблемы сокращения и анализа данных

ДИАГНОСТИКА, ОБНАРУЖЕНИЕ И РАЗЛИЧЕНИЕ

Как указано в гл. 2, эволюционное программирование применимо к задачам диагностики среды. Рассмотрим ситуацию, когда пациент ежедневно подвергается какому-то числу физиологических исследований (измерений). На основе этих измерений и прошлых диагнозов врач должен определить текущее состояние здоровья пациента. Предположим, что первый параметр может принимать два возможных значения, в то время как второй и третий — четыре значения. Каждый день состояние больного может быть описано одним из пяти символов, соответствующих этим значениям параметров. Пусть символ 0 обозначает тяжелое расстройство, могущее привести к смертельному исходу, 1 — также серьезное расстройство, но обычно не связанное со смертельной угрозой. Три остальных символа отражают менее тяжелые состояния. Так, пусть символ 2 представляет не очень серьезное расстройство, которое, однако, не может быть немедленно излечено; 3 — любое не очень серьезное расстройство, которое может быть немедленно излечено, а 4 — вполне здоровое состояние. Генерировалась фиктивная последовательность данных, охватывающая период в 3 года Хотя эти данные и не были взяты из медицинских источников, они представляют интересное упражнение для демонстрации возможностей эволюционного программирования даже при очень ограниченном алфавите.

Поскольку наша программа ограничена алфавитом из 8 символов, можно было производить эксперименты только с использованием двух из трех параметров в раз-

личных комбинациях. Первоначальной целью данной программы являлось предсказание каждого следующего символа во входной последовательности Чтобы программа могла производить требуемый диагноз, было необходимо видоизменить внутреннее сравнение так, чтобы каждый очередной входной символ заменялся на символ события (текущее состояние здоровья), сдвинутый вперед на 1 такт.

Первый эксперимент был проведен, чтобы удостовериться, что диагноз выполняется надлежащим образом. В этом эксперименте базовые данные относились лишь к таким дням, в течение которых наблюдалась некоторая активность (т. е. появление символов, отличных от нуля, для любого из наблюдаемых параметров). Чтобы гарантировать разумные размеры эволюционирующих автоматов, был введен штраф в 0,01 за каждое состояние. Входная переменная генерировалась путем комбинирования параметров 1 и 4 в указанном порядке с кодированием результатов, как показано в табл. 4 1

Таблица 4.1

Кодирование входных данных

Незакодированные

Закодированные

0 0

0

0 1

1

0 2

2

0 3

3

1 0

4

1 1

5

1 2

6

1 3

7

Таким образом, выходная переменная оказывалась частью входной переменной. Идеальное предсказание определяется по этому соответствию.

Автомат первого поколения имел 5 состояний и отличался от исходного произвольно выбранного авто-

мага с пятью состояниями. После сравнительной оценки 21 потомка лучший из автоматов имел 2 состояния. На 178-м решении наилучший автомат все еще имеет 2 состояния, но при этом логика кодирования входа становится очевидной. С этого момента лучший автомат имеет всего одно состояние, близко соответствующее коду. После первых 225 решений все выходные символы оказались правильными, за исключением одного символа, который ни разу не использовался во входных данных.

Второй эксперимент был связан с идентификацией текущего события по имеющейся предыстории параметров 1 и 2. Использовались те же условия кодирования и программирования, что и в предыдущем эксперименте, но матрица стоимостей ошибок была выбрана в чрезвычайно простом виде. Относительная стоимость каждого правильного диагноза находится по главной диагонали. Таким образом, за правильный диагноз «О» не взимается штрафа, а при правильном диагнозе «1» уплачивается единичный штраф. Меньшая значимость символов «2», «3» и «4» отражена в их весах 3, 4 и 5 соответственно. Все недиагональные члены были произвольно выбраны равными 9, чтобы в равной мере предупреждать любые ошибки. В этом эксперименте 1141 различных вариантов было оценено в процессе первых 301 принятых решений ), причем последнее из них принималось уже автоматом с 21 состоянием. В среднем 62,1% предсказаний были правильными.

Ввиду таких обнадеживающих результатов было решено более тщательно выбрать матрицу стоимостей, чтобы полнее выразить поставленную цель. Все члены на главной диагонали были положены равными 0, в то время как недиагональные члены были выбраны с учетом относительной стоимости соответствующей ошибки: любой член ij матрицы стоимостей служит мерой относительного штрафа за диагноз ситуации /, когда фактически имела место i. Например, если правильный диагноз i более важен, чем диагноз /, то, чтобы отразить предпочтительность диагноза i, член ij должен быть больше, чем член ji. В результате сумма элементов

столбца, соответствующего менее важному символу, больше суммы элементов столбца, отвечающего более важному символу. Кроме того, элементы нулевого столбца были взяты несколько большими, чтобы уменьшить число раз, когда этот символ появляется в результате диагноза. Это соответствует реальной среде, где наиболее частыми оказываются ситуации, обозначенные символом 2. Составленная по такому принципу матрица приведена в табл. 4.2.

Таблица 4.2

Матрица штрафов в эксперименте 3

Предсказанные символы

0

1

2

3

4

5

6

7

0 1 2

Фактические сим- 3 волы4

5 6 7

046 6 7999 3055599 9 1 1 0 2 3 9 9 9 2220299 9 22320 9 99 99999099 99999909 99999990

Третий эксперимен- совпадал со вторым, если не считать указанной замены матрицы стоимостей. Было оценено 1171 различных потомков в процессе выполнения 301 фактических предсказаний, последнее из которых реализовалось автоматом с девятью состояниями. В среднем 61,1% диагнозов оказались правильными Это незначительное уменьшение показателя (по сравнению с предыдущим экспериментом) можно было предвидеть в связи с более конкоетной формулировкой цели. Более содержательное истолкование этого эксперимента дает рассмотрение частот правильных и неправильных решений, скажем, за последние 100 диагнозов. Эти данные в процентах приведены в табл. 4.3, из которой следует, что в 90% случаев ситуации «0» диагноз был поставлен правильно, в то время как в 10% при этом ошибочно

Таблица 4.3

Результаты эксперимента 3 ( % )

Предсказанные символы

0

1

2

3

0

Фактические сим- 1 волы2

3

90,0010,00

59,118,213,69,1

11,131,157,80

33,3066,60

ставился диагноз «2». Ясно, что наиболее серьезная задача связана с правильным диагнозом «1». Последняя с учетом преобладающего числа ситуаций «2» (45 из последних 100) оправдывает изменение матрицы ошибок (табл. 4.4).

В этом эксперименте 1021 различных автоматов были оценены в процессе первых 301 диагнозов, причем последний диагноз ставился машиной с пятнадцатью состояниями. В среднем 66,5% этих решений оказались правильными. Результаты данного эксперимента отражены

Таблица 4.4

Матрица штрафов в эксперименте 4

Предсказанные символы

0

]

2

3

4

5

6

7

0 1

2

Фактические сим- 3 волы4

5

6

7

04667999 40555999 1 2 0 2 3 9 9 9 22202999 22 3 20999 99999099 99999909 99999990

Таблица 4.5

Результаты эксперимента 4 ( % )

Предсказанные символы

0

1

2

3

0

Фактические сим- 1 волы2

3

83,4015,60

45,518,231,80

9,08,978,82,2

0066,633,3

в табл. 4.5. Отметим, что существенное улучшение диагноза ситуаций «1», «2» и «3» приводило лишь к небольшому снижению правильного диагноза «0». Число ситуаций «2» в последних 100 оцениваемых ситуациях оставалось тем же, что и в предыдущем эксперименте.

Хотя кажется возможным дальнейшее улучшение точности диагностики, основанное на измерении параметров 1 и 2, больший интерес представляет диагноз этих же ситуаций по параметрам 1 и 3. В пятом эксперименте для выражения цели использовалась последняя из описанных здесь матриц стоимостей. В этом эксперименте было оценено 1041 различных потомков в ходе первых 301 решений, из которых последнее принималось автоматом с четырнадцатью состояниями. В среднем 65,8% диагнозов оказались правильными. Из табл. 4.6

Таблица 4.6

Результаты эксперимента 5 ( % )

Предсказанные символы

0

I

2

3

0

Фактические сим- 1 волы2

3

83,4016,60

63,64,531,80

11,124,462,32,2

66,6033,3и

видно, что результаты диагноза ситуаций 0 и 2 сравнимы с результатами предыдущего эксперимента и зна™ тельно хуже для ситуаций 1 и 3. Несмотря на то что для этого случая могла бы быть найдена несколько более подходящая матрица, разумно сделать вывод, что параметр 2 более важен, чем 3, для достижения цели, выраженной матрицей табл. 4.4.

Представляет интерес задача предсказания очередного события в каждый момент времени. Поэтому был проведен эксперимент, в котором каждая очередная ситуация предсказывалась на базе лишь предыдущей последовательности ситуаций. Всего в процессе первых 301 предсказаний было оценено 1811 потомков, причем последнее предсказание выполнялось автоматом с восемнадцатью состояниями. Из всех предсказаний 48% оказались правильными (табл. 4 7), откуда следует, что 70% наиболее важных ситуаций были предсказаны верно.

Таблица 4.7

Результаты эксперимента 6 (%)

Предсказанные сим иолы

0

1

2

3

0

Фактические сим- 1 волы2

3

70,06,723,30

72,74,622,70

40,020,040,00

00100,00

В целях сравнения для предсказания этих же данных были написаны программы, одна из которых использовала наиболее часто встречающийся символ, другая — данные о символах с наибольшей условной вероятностью первого порядка и третья — данные о символах с наибольшей условной вероятностью второго порядка. Предсказание первого типа оказалось несколько лучше остальных, достигнув 50%, однако необходимо отметить, что таковой была и частота двоек в последовательности. Ни одна из ситуации «0», «I» или «3», встречавшихся в по-

следовательности, не была предсказана правильно. Предсказание по условным вероятностям первого порядка достигало 49,3%, но при этом два из тридцати нулей в последовательности были предсказаны верно. Хотя предсказание по условным вероятностям второго порядка достигало 47,3% и обнаруживалась тенденция к предсказанию символов, отличных от двойки, лишь две из тридцати единиц в последовательности были предсказаны правильно. Очевидно, что эти обычные методы по своим возможностям остаются далеко позади эволюционного программирования.

Только что описанные эксперименты производились по сокращенной совокупности исходных данных (включавшей лишь такие дни, когда пациент был болен1)), ввиду чего нельзя было ожидать, что в этих экспериментах вскроются чисто временные зависимости в данных. Поэтому представляет интерес предсказание

Таблица 4.8

Результаты эксперимента 7 (%)

Предсказанные символы

0

1

2

3

4

0

57,1

0

14,3

0

28,6

1

0

0

100,0

0

0

Фактические 2

0

11,1

61,1

0

27,8

СИМВОЛЫ3

0

0

0

0

100,0

4

0

0

10,5

0

80,5

каждой ситуации на основе полных данных о временных изменениях комбинаций параметров 1 и 2. В эксперименте 7 в процессе первых 400 предсказаний было оценено 1311 различных потомков, причем последний из этих автоматов имел 4 состояния. Приблизительно 67,5% этих предсказаний были верными. Табл. 4.8 дает более точное представление об этих результатах.

*) Т. е. состоянию пациента соответствовал символ, отличный от «4». — Прим, перев.

Значительный процент «О», «2» и «4» был предсказан правильно. В последних 100 символах появилась только одна единица. Очевидно, что матрица стоимостей не только достаточно полно отражает относительную стоимость каждой ситуации и каждой возможной ошибки предсказания, но и обнаруживает некоторое смещение, устраняющее возможность постоянного предсказания символа «4» (соответствующего вполне здоровому состоянию), который встречается наиболее часто.

Затем был проведен сравнительный эксперимент, в котором каждый очередной символ предсказывался на базе предыстории за предыдущие дни. Первые 396 предсказаний основывались на оценке 2471 различных вариантов, последний из которых имел 21 состояние. 37,6% предсказаний оказались правильными. Более детальный анализ результатов содержится в табл. 4.9. Столь слабые результаты свидетельствуют о значении измерения косвенных параметров для повышения точности предсказания. По-видимому, использование предыстории изменения ситуаций совместно с данными по трем косвенным измеряемым параметрам должно обеспечить даже лучшее предсказание, чем в случае, когда используется либо один, либо другой класс данных в отдельности.

Таблица 4.9

Результаты эксперимента 8 ( 96 )

Предсказанные символы

0

2

2

3

4

0

Фактические2

символы$

4

42,9014,314,328,6

0000100,0

29,713,518,92,735,1

008,316,775,0

27,26,911,6044,2

Эти эксперименты рассмотрены для демонстрации гибкости эволюционного программирования как метода для диагностики и прогнозирования реальных данных.

Обратимся еще раз к двум фундаментальным проблемам информационной техники, уже рассмотренным в гл. 3. Часто возникают ситуации, когда требуется исследовать последовательность экспериментальных данных измерений, чтобы установить, имеется ли в ней какая-то характерная закономерность. С аналогичной ситуацией мы встречаемся на первом шаге криптографического анализа: «Содержится ли в данной последовательности символов некоторое сообщение?» Проблема обнаружения может быть преобразована в задачу отыскания внезапных скачков в предсказуемости данных. Стойкая непредсказуемость следующего символа вызывает подозрение, что среда носит чисто случайный характер. Постоянный высокий уровень предсказуемости указывает на наличие в среде неизменного сигнала. Напротив, изменчивость показателя предсказания свидетельствует, что последовательность данных может содержать сообщение.

Наличие способности предсказывать данные немедленно вызывает вопрос: «Кайова природа сигнала?» Ответ на этот вопрос может дать структура эволюционных предсказывающих автоматов. Каждый автомат можно рассматривать как описание либо периодических, либо стохастических свойств среды. Как указывалось выше, каждый конечный автомат для предсказания имеет собственный характеристический цикл, который можно найти, подключив на вход машины ее выход. Тогда начиная с некоторого момента последовательность выходных символов станет бесконечно повторять характеристический цикл. Если среда обладает периодическими свойствами, они должны быть обнаружены в этом характеристическом цикле.

В то же время каждый конечный автомат можно рассматривать как некую детерминированную процедуру, которая наилучшим образом типизирует статистические свойства среды. Если среда предполагается марковской 1-го порядка, каждый переход автомата должен соответствовать тем переходам среды, которые имеют наибольшую условную вероятность. Например, как отмечалось в предыдущей главе, эксперимент 11 был попыткой предсказания среды из четырех символов задаваемой с помощью произвольной матрицы переходов,

Переходы, определяемые последним из эволюционировавших автоматов, соответствуют тем переходам матрицы, которые имеют наибольшую условную вероятность для каждого входного символа. По той же причине свойства среды нулевого порядка можно обнаружить по относительной частоте выходных символов эволюционирующих предсказывающих автоматов. Условные вероят ности второго и более высоких порядков труднее оценить непосредственно по автомату. В известном смысле эта информация накоплена автоматом в силу того, что она влияла на последовательность отбиравшихся автоматов, но непосредственное считывание этой информации не всегда возможно В одном крайнем случае периодическая среда может рассматриваться как предельный случай стохастического процесса, в котором порядок процесса равен длине периода. В таких условиях автомат будет циклическим и условная зависимость очевидна. В другом крайнем случае, когда условные вероятности почти равны, оценка последних по структуре автоматов становится трудной, если не вовсе неразрешимой задачей. Конечно, если такая информация имеет особое значение, может быть написана специальная программа эволюции «расширенных» конечных автоматов, т е. таких машин, каждый переход которых задается по нескольким последним символам. Число этих символов определяет наивысший порядок условных вероятностей, которые могут быть еще выражены в явном виде

Слишком часто поиск «искусственного разума» сводится к задаче построения автоматических устройств для распознавания образов. Как видно из контекста, распознавание образов — лишь одна из способностей, указывающих на существование интеллекта. Прежде всего возникает проблема обнаружения-. «Имеется ли в данном шуме сигнал?» Затем возникает проблема различения: «Если имеется сигнал, то каков он?» После этого можно спросить «Является ли этот сигнал одним из уже известных?» В буквальном смысле это задача узнавания. В обычной ситуации проблема ставится более широко: «На какой из известных сигналов этот сигнал больше всего похож?» Это задача классификации об' разов.

РА( ПОЗНАВАНИЕ И КЛАССИФИКАЦИЯ ОБРАЗОВ

Начнем с вопроса: «Может ли эволюционная программа распознавать и классифицировать образы так. как это делает оператор средней квалификации?». Чтобы придать вопросу более конкретную форму, генерировались 16 различных временных кривых, которые естественным образом распадаются на четыре класса по признаку их сходства. Каждая кривая имела одну из 35 возможных амплитуд в каждой из 125 равноотстоящих точек времени и получалась в виде записи выпрямленной огибающей волны, которая образуется при наложении гауссова шума на 4 различных основных образца (фиг. 4.1, а — рУ

Чтобы сделать эти данные пригодными для эволюционной программы, кривые были закодированы на алфавите из 8 символов таким образом, чтобы по возможности уравнять предельные вероятности уровней. С целью повышения эффективности каждый образец начинался с символа «О» и оканчивался спустя 45 символов. Закодированные кривые приведены на фиг. 4.2, а — р. Отметим, что некоторая степень субъективного сходства сохраняется внутри членов каждой четверки.

Описанная ранее эволюционная программа для среды из 8 символов использовалась для предсказания каждого очередного символа в бесконечно повторяющейся последовательности этих кривых. При этом штраф за сложность отсутствовал, до каждого предсказания происходила смена 10 поколений и задавалась матрица стоимостей по абсолютным ошибкам. В табл. 4.10 приведена средняя вероятность ошибки в предсказании прошлого для каждого предсказывающего автомата спустя первые 50, 100, 200 и 400 предсказаний. Как видно из таблицы, наиболее интенсивное обучение имеет место на первых этапах эволюции.

Каждый из эволюционировавших автоматов является частной реализацией класса, на котором он эволюционировал. Сходство кривых может быть выведено на основании сходства этих автоматов, однако их сложность может затруднить установление такого сходства даже при наличии соответствующих наборов параметров. Бо-

Ф и г. 4.1.

Ф и г. 4.1 (окончание).

лее естественный путь выполнения сравнения состоит в предоставлении каждому автомату возможности предсказывать остальные кривые. Можно ожидать, что сходство некоторых кривых будет характеризоваться близостью их показателей предсказания. Каждый предсказывающий автомат должен иметь наивысший показатель на той кривой, на которой происходила эволюция, близкий к нему показатель для похожих кривых и очень низкий — на всех остальных кривых.

В следующей серии экспериментов один из предсказывающих автоматов, эволюционировавших в среде из кривых 1, 2 и 3, был использован для предсказания всех 16 кривых. Оценка предсказания производилась по квадратичной матрице. В табл. 4.11 приведены результаты ошибки предсказания, усредненной по 45 и 90 символам. Как и ожидалось, существует незначительное

Таблица 4.10

Средняя ошибка предсказания

Кривая

Дата запоминаемо!! последовательности

50

100

200

400

1

0,330

0,172

0,158

0,165

2

0,307

0,306

0,211

0,145

3

0,228

0,195

0,091

0,056

4

0,248

0,209

0,111

0,114

5

0,106

0,091

0,057

0,045

6

0,043

0,051

0,051

0,047

7

0,082

0,041

0,048

0,050

8

0,268

0,267

0,288

0,276

9

0,185

0,163

0,172

0,149

10

0,207

0,141

0,088

0,070

11

0,184

0,082

0,078

0,052

12

0,312

0,107

0,090

0,072

13

0,122

0,102

0,091

0,081

14

0,103

0,126

0,110

0,109

15

0,165

0,176

0,152

0,136

16

0,063

0,068

0,067

0,065

6

1

ЗакоОи^оеаная

ракэЗированнаякриЛя 2

Лакодиробанная

Да

криваg 5

закодированнаямиеая 4

Ф и г. 4.2.

Закодированная и кривая 9

в

6

4

2 О

Закодцрованная *

кривая ГО

О Ю 205040 о 10205040

В

6

4

2О

Таблица 4.11

Средняя ошибка предсказания

Кривая

Автомат 1

Автомат 2

Автомат 3

45 симв.

90 симв.

45 симв.

£0 симв.

45 симв.

90 симв.

1

0,250

0,292

4,727

5,865

12,136

12,045

2

4,727

5,315

0,023

0,427

5,159

7,787

3

4,841

4,697

4,864

4,820

0,023

0,034

4

4,500

3,629

5,659

6,000

11,159

11,238

б

2,796

3,348

5,886

5,112

5,432

8,843

6

1,091

1,539

3,136

3,933

9,068

9,551

1

1,296

1,697

3,364

3,112

11,886

11,933

8

1,432

2,753

2,318

2,292

12,091

12,506

9

3,773

4,685

5,000

5,348

4,-582

5,315

10

6,273

6,787

8,546

7,225

6,068

6,472

11

5,250

5,607

5,136

4,798

3,818

4,292

12

3,000

2,978

3,250

3,225

4,727

4,573

13

4,432

4,258

3,136

3,337

3,796

3,764

14

5,341

5,382

3,818

4,112

6,727

6,753

15

4,455

4,854

4,386

4,214

5,046

4,989

16

3,682

4,090

2,636

3,416

5,682

5,663

расхождение результатов на этих двух множествах данных. Каждый предсказывающий автомат легко узнает свою собственную кривую, но показатели по другим образцам кривых не позволяют классифицировать эти кривые надлежащим образом.

Отметим, что цель сравнения задается путем установления одинаковых стоимостей для всех правильных предсказаний и равных стоимостей за ошибки одинаковой величины. Из самонаблюдения, однако, очевидно, что человек-оператор не судит о сходстве таким образом. Средний наблюдатель склонен характеризовать каждую кривую по высоте и расположению ее пиков. При необходимости он может рассмотреть также число пиков и впадин, их относительное расположение, величину и т. д.

Результирующий автомат

Таблица 4.12

Кривая 1/1Показатель ошибкиИсходное состояниеТекущее состояниеВходной символСледующий символКривая 1/1Показатель ошибкиИсходное состояниеТекущее состояниеВходной символСледующий символ

Кривая 1/1

Показатель ошибки

Исходное состояние

Текущее состояние

Входной символ

Следующий символ

Кривая 1/1

Показатель ошибки

Исходное состояние

Текущее состояние

Входной символ

Следующий символ

1,0055

2

11111111222222223333333344444444

76543210765432107654321076543210

31321342221123421412121334123313

Выходной символ 62222210222216007722201 072222202

Таблица 4.13

Предсказанные символы

0

1

2

3

<

5

6

7

0 1 2

Фактическиез

символы4

5 6 7

78910И121314

86789101112

975678910

108645678

119753456

1210864234

1311975312

14121086420

Таблица 4.14

Предсказанные символы

0 | 1 | 2 | 3 | 4 | 5 | 67

0 1 2

Фактическиез

символы4

5 6 7

0 12 3 4 5 6 7 2 1 2 3 4 5 6 7 43234567 65434567 76543456 76543234

7 6 5 4 3 2 1 2 7 6 5 4 3 2 1 0

Чтобы гарантировать извлечение максимальной информации из кривой, в среде с кривыми 1-го класса была предусмотрена эволюция предсказывающего автомата, использовавшего антидиагональную матрицу (все диагональные члены — нули, все недиагональные члены равны 9); был введен штраф 0,01 на состояние, а длина начального запоминания (предыстория) составляла 225 символов. Полученный в результате эволюции автомат представлен в табл. 4.12. Этот автомат затем был использован для сравнительной оценки предсказания по всем закодированным кривым, причем цель предсказания придавала больший вес правильному предсказанию либо «пиков» (табл. 4.13), либо «пиков и впадин» (табл. 4.14). Результаты предсказания приведены в табл. 4.15 и 4.16 соответственно. Можно отметить некоторое сходство результатов предсказания для кривых 5, 6 и 7, но его вряд ли достаточно для классификации.

Таблица 4.15

Кривая

Оценка по

45 символам

90 символам

1

5,6136

5,6517

2

6,8182

6,8427

3

7,4773

7,4831

4

6,5455

6/854

5

6,2273

6,2584

6

6,2273

6,2472

7

6,0000

6,0225

8

7,7955

7,8652

9

7,3864

7,2921

10

7,5909

7,6087

11

7,2955

7,3034

12

7.G3..4

7,4494

13

7,6364

7,. 404

14

7,3409

7,2921

15

7.6818

7,8090

16

7 1773

7,6742

Таблица 4.16

Кривая

Оценка по

45 символам

90 символам

1

0,5909

0,6292

2

1,2727

1,3258

3

1,5682

1,5730

4

1,0909

1,1685

5

0,8636

0,8989

6

0,5682

0,5843

7

0,5455

0,5518

8

1,4773

1,5393

9

1,0682

1,0899

10

1,5000

1,5281

11

1,2727

1,2809

12

1,2500

1,1685

13

1,1135

1,1236

14

1,2955

1,3146

15

1,4773

1,5393

16

1,2727

1,3820

Имеется существенная разница между описанием данной кривой как класса и описанием данной кривой по сравнению с множеством других классов (кривых).

Данная задача относится к последнему типу. Поэтому было бы разумно использовать матрицу выплат, включающую такие характеристики кривой, как степень изменчивости, относительная высота пиков и т. д. Однако такие характеристики исключают использование методов сравнения по точкам, которым по природе чуждо восприятие «гештальта».

Итак, было проведено большое число экспериментов, из которых непосредственно следует, что распознавание образов легко достижимо для эволюционирующих автоматов; однако сам процесс классификации выполняется не так, как его выполнял бы средний человек-оператор. Очевидно, что матрица стоимостей, выражающая цель сравнения, должна включать те характеристики, кото-

рые составляют основу сходства в понимании человека. Конечно, если бы эти параметры были известны, незачем было бы создавать эволюционирующие автоматы для предсказания. Эта информация с большей эффективностью могла бы быть использована при создании эвристических программ. Но во многих ситуациях гораздо более важно обнаруживать сходство, лежащее вне распознавательных способностей человека (например, при звуковой локации или распознавании замаскированных целей). Представляется разумным попытаться использовать эволюционное программирование для решения таких задач. По-видимому, можно предположить, что основой для задания цели желательной классификации может послужить множество соответственным образом классифицированных образцов.

ГЛАВА ПЯТАЯ

Проектирование управляющих машин

УПРАВЛЕНИЕ ОБЪЕКТОМ

С НЕИЗВЕСТНЫМИ ХАРАКТЕРИСТИКАМИ

Гл. 4 была посвящена таким проблемам сокращения данных, как обнаружение (есть ли сигнал?), различение (если есть сигнал, то каков он?), распознавание (был ли такой сигнал известен прежде?) и классификация (если нет, то на какой из множества сигналов он больше всего походит?). Теперь настало время заняться более важной задачей — задачей управления (ситуация выяснена, что же следует предпринять?). По существу, все предшествующие проблемы представляли интерес лишь как предварительные шаги на пути решения задачи управления

Часто возникают ситуации, в которых желательно данную систему •) заставить действовать определенным образом. Если желательного поведения системы нельзя ожидать при ее естественном взаимодействии со средой, ставится задача манипуляции с входными параметрами объекта таким образом, чтобы добиться такого его поведения. несмотря на. свойственную ему динамику и любые внешние и внутренние возмущения Проблема становится более сложной, если мы обладаем неполной информацией о природе объекта и возмущениях. Более того, ситуация становится чрезвычайно сложной, если желательные характеристики могут быть измерены лишь в конце процесса или если критерии оценки определены лишь частично.

Этот весьма общий взгляд на задачу проектирования управляющих систем приводится здесь лишь для того.

*) Которую мы в дальнейшем будем называть объектом.

чтобы подчеркнуть ограничения, свойственные нынешнему состоянию дел в этой области. Если требуется, чтобы линейная система удовлетворяла определенным ограничениям в установившемся или переходном режиме, можно использовать традиционные методы. Имеющиеся в настоящее время методы проектирования управляющих систем пригодны лишь для некоторых классов присущих объектам нелинейностей. Мало внимания уделялось до сих пор проектированию систем управления объектами с распределенными параметрами (т. е. объектами, для описания состояния которых необходимо бесконечное число «дескрипторов»). Некоторые влияния случайных помех были детально изучены, но при проектировании эффективных систем управления приходится оперировать не со случайностями, а с их детерминированными эквивалентами в виде средних величин.

Аналитические методы расчета становятся непригодными при неполной информации об управляемых объектах. Здесь можно призвать на помощь итеративные методы, но их успех зависит от наличия соответствующих критериев оценки, по которым производится сравнение на каждом шаге итерации Проблема еще более усложняется, если характеристики объекта могут быть измерены лишь в отдельные моменты времени. В пределе задача становится неразрешимой, так как не остается времени на саморегулирование.

В целях настоящей дискуссии мы ограничимся рассмотрением дискретно работающих объектов, входные параметры и характеристики (показатель качества) которых могут быть определены на конечном алфавите символов. Параметры входа можно рассматривать совместно как одну входную переменную; показатель качества описывается последовательностью символов и представляет собой регулируемую переменную. Предполагается, что объект может находиться в одном из конечного множества различимых состояний в течение каждого преобразования. Стоимость каждого символа регулируемой величины измеряется по полностью определенной матрице стоимостей, которая в каждый момент времени соотносит действительный показатель качества с желаемым. Элементы этой матрицы могут зависеть от

времени или могут быть даже функциями стоимости предыдущего показателя качества. Приемлемым обобщенным показателем качества может быть такая характеристика, которая максимизирует стоимость на некоторой последовательности входных символов.

Предположим, что задачей является слежение за произвольным сигналом, проходящим через данный объект с неизвестными характеристиками. Эволюционная управляющая система для выполнения этой задачи поступала бы следующим образом: последовательность символов, которые последними прошли через объект М, подается на вход произвольного конечного автомата Л1ь Каждый выходной символ Mi сравнивается с соответствующим выходным символом М. Штраф за любое несоответствие находится путем обращения к матрице стоимостей ошибок, которая непосредственно выражает цель управления. Суммарный штраф, определенный на последовательности символов, включающей предысторию, выражает меру несоответствия Mi для представления М с точки зрения поставленной цели и среды.

Затем путем мутаций производится потомок автомата Мь Этот новый «отпрыск» Мг испытывается на той же самой последовательности входных символов, и тем же способом подсчитывается штраф за несоответствие его выходов. Если этот показатель оказывается меньшим или равным показателю предыдущего автомата, данный автомат сохраняется. Если нет, то он бракуется и генерируется новый потомок автомата Mi. Таким путем эволюционный процесс последовательно приводит к автоматам, являющимся все более совершенными моделями объекта М.

В любой момент времени последний из автоматов может быть исследован для определения наиболее подходящего входного символа объекта, т. е. такого символа, который при заданном текущем состоянии объекта вызывает выходной символ, дающий наименьший штраф. После установления наиболее подходящего входного символа этот символ запускается на вход объекта. Если некоторое число переходов оказывается в одинаковой степени приемлемым, производится случайный выбор

одного из них. Если дополнительные усложнения кажутся оправданными, выбирается тог переход, которым приводит к состоянию с большим выбором выходных символов или к состоянию с некоторым известным выходным символом, который является заданием в следующий момент.

В то же время наилучший из выбранных автоматов может дальше использоваться для генерации вариантов, которые затем последовательно оцениваются по предыстории. Таким образом, эволюция протекает в ускоренном масштабе времени, подготавливая выбор очередного входного сигнала для объекта. Такие управляющие решения могут приниматься периодически, апериодически или по требованию. Они могут осуществляться либо когда была достигнута определенная степень соответствия, либо после оценки определенного установленного числа потомков, либо после смены заданного числа поколений. В общем случае, разумеется, чем больше интервал между принятием управляющих решений, тем выше шансы на успех. Аналогично чем больше скорость вычислительной машины или объем памяти, тем шире возможности такого метода управления.

Как указывалось выше, эволюционный метод проявляет некоторую универсальность в отношении формулируемых целей. Например, целью системы может быть достижение минимума ошибки слежения, причем цель можно сформулировать в виде матрицы стоимостей абсолютных разностей, матрицы стоимостей квадратов ошибок или, наконец, в виде антидиагональной матрицы. Матрица стоимостей ошибок не обязательно должна быть симметричной. Цель также не обязательно должна быть инвариантна относительно времени Фактически цель можно сформулировать в виде функции относи тельного успеха прошлых характеристик системы. Многие другие свойства эволюционного программирования, о которых говорилось в гл. 2, также могут быть исполь зованы.

Чтобы продемонстрировать возможности эволюционных методов управления, был проведен ряд экспериментов. Исходным объектом служил произвольный автомат

с пятью состояниями '), и на каждом такте сохранялось три лучших автомата. Однократные, двухкратные и трехкратные режимы мутаций применялись с равной вероятностью. Цель была задана матрицей стоимостей, пропорциональных абсолютным величинам ошибок. Штраф за сложность составлял 0,05 на состояние. Отслеживаемый сигнал представлял собой равномерно распределенную последовательность, случайным образом генерируемую на 8 символах, как показано в табл. 5.1. В каждом эксперименте принималось пятьдесят управляющих решений.

Таблица 5.1

355705156767626155265227255635367342704465755742241042150715362571472015 37241041507153626721 1720140235131531407162371520137553071524152011577643 765567101053230464751651153066745021727475733053531631262002014256732344 615403743307101627524535332577220102450464134417043234406104462200747737 555567507434125114442344702121472404561636522622703445666402503466571126 213716770413421401071717710033401511431653621063564044161467523614002562 7415345660234 0 5113074407311454 17352025145005667447247014234006013645050

В первом эксперименте объект моделировался автоматом с одним состоянием, представленным в табл 5.2. Каждое управляющее решение принимается на базе последних 40 символов заданного сигнала, а пять возможных режимов мутации были выбраны равновероятными. Первое управляющее решение принималось после оценки 11 автоматов, лучший из которых имел 3 состояния. Управляющее решение, принятое этим автоматом, оказалось верным, что оправдывает его выбор для последующих решений. Хотя следующее за ним второе управляющее решение уже оказалось ошибочным, тот же самый автомат вновь сохранялся для принятия последующего решенья; это было сделано потому, что выход объекта соответствовал выходу модели Другими словами, там, где выходные символы модели не содержат правильного решения, вступает в действие критерий минимума ошибки. Следовательно, если выход объекта

') Тот же начальный автомат, который использовался в описанных выше экспериментах с 8 символами.

Таблица 5.2

Текущее состояние1Входной символ7Следующее состояние1Выходной символ0Текущее состояние1Входной символ7Следующее состояние1Выходной символ011111116543210111111112345671111111654321011111111234567

Текущее состояние1

Входной символ7

Следующее состояние1

Выходной символ0

Текущее состояние1

Входной символ7

Следующее состояние1

Выходной символ0

1111111

6543210

1111111

1234567

1111111

6543210

1111111

1234567

соответствует выходу модели, модель сохраняется как допустимая.

Третье по порядку управляющее решение оказалось снова ошибочным, но выход модели уже не соответствовал выходу объекта. Поэтому был предпринят активный поиск более адекватной модели. В ходе оценки следующих 10 потомков был найден автомат с одним состоянием, логика которого оказалась идентичной объекту. В результате все дальнейшие управляющие решения оказались правильными. Отметим, что если бы на этот объект непосредственно поступали сигналы задания (см. табл. 5.1), то все выходные сигналы были бы неверными.

В следующем эксперименте объект с одним состоянием заменялся на объект с тремя состояниями и выходными символами служили 0, 1, 2, 3 и 4 (табл. 5.3 и фиг. 5.1). Длина предыстории была увеличена до 100 последних по времени символов ввиду увеличения размеров объекта. Первые 15 управляющих решений основывались на семи различных автоматах с пятью состояниями. Следующие 5 управляющих решений основывались на двух различных автоматах с шестью состояниями.

Таблица 5.3

Текущее состояние111111112222222233333333

Входной символ765432107654321076543210

Следующее состояние233132322121331231223313

Выходной символ44130102403040 3 14421 4 133

За ними следовали 12 управляющих решении, которые принимались тремя разными автоматами с пятью состояниями. Наконец, последние 18 решений принимались автоматом с тремя состояниями, заданным в табл. 5.4. Этот автомат имеет восемь переходов, которые совпадают с переходами объекта.

Из пятидесяти управляющих решений 74% были правильны (полагая, что символ 4 регулируемой величины является непосредственной реакцией на символы 5, 6 и 7 входного сигнала задания). Налицо процесс обучения,

Текущеесостояние1111111Входнойсимвол7 6 5 4 3 2 1Следующеесостояние 2 2 3 1 2 3 1 ВыходнойТекущеесостояние1111111Входнойсимвол7 6 5 4 3 2 1Следующеесостояние 2 2 3 1 2 3 1 ВыходнойТаблица 5.412222222233333333076543210765432102 3 3 3 3 1 1 1 3 2 1 2 3 3 3 1 3Таблица 5.412222222233333333076543210765432102 3 3 3 3 1 1 1 3 2 1 2 3 3 3 1 3

Текущее

состояние1111111

Входной

символ7 6 5 4 3 2 1

Следующее

состояние 2 2 3 1 2 3 1 Выходной

Текущее

состояние1111111

Входной

символ7 6 5 4 3 2 1

Следующее

состояние 2 2 3 1 2 3 1 Выходной

Таблица 5.4

12222222233333333

07654321076543210

2 3 3 3 3 1 1 1 3 2 1 2 3 3 3 1 3

Таблица 5.4

12222222233333333

07654321076543210

2 3 3 3 3 1 1 1 3 2 1 2 3 3 3 1 3

символсимвол441301334030403344304131441301334030403344304131

символ

символ

441301334030403344304131

441301334030403344304131

Фиг. 5.2. Объект 3.

который проявляется в том, что последние 14 решений оказались правильными. Из 13 управляющих решений, которые были ошибочными, 6 отличались на единицу от правильного решения. Для сравнения заметим, что, когда на вход объекта прямо подаются сигналы задания, ошибочные решения принимаются в 41 случае из 50. Из них 70,8% символов регулируемой переменной ) отклоняются от сигнала слежения больше чем на единицу. В пределе этот объект ошибается в 79,2% случаев, когда требуется отслеживать равномерно распределенные сигналы задания.

Третий эксперимент проводился с объектом, имеющим 5 состояний (табл 5.5 и фиг. 5.2). Этот автомат выбирался произвольно, за исключением того ограничения, что каждый входной символ является выходом каждого состояния; это в принципе делает автомат полностью регулируемым. В этом эксперименте длина предыстории

Таблица 5.5

Текущее состояние

Входной символ

Следующее состояние

Выходной

символ

1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3

7654321076 5 432107654 3 210

224122 5 13241 3 5213 3 521 14 2

132457066132457006132457

Текущее состояние

Входной символ

Следующее состояние

Выходной

символ

4444444455555555

7654321076 5 4 3 210

3453321513425224

7061324562031715

Таблица 5.6

Текущее

состояние 1 1 I 1 1 1 1 1222222223 3 3 3 33 3 3

Входной символ

Следующее состояние

Выходной

символ

765432107654321076543210

3 15 2 5 3 2 1 2 2 12 3 4 4 4 1 1 12 4 3 1 4

706232451132450601034450

Текущее состояние

Входной символ

Следующее состояние

Выходной символ

1444444455555555

7654321076543210

5512335233325235

6 2 2 3 1 7 0 5 7 2 1 3 4 4 1 6

была вновь увеличена до 400 символов для обеспечения достаточных доверительных интервалов. Для экономии машинного времени вероятности режимов мутации были изменены так, что 95% времени использовался режим «изменение очередного состояния», а 5% всего времени использовался режим «изменение начального состояния». Из 50 управляющих решений 20 были правильными, а в 16 случаях ошибка не превышала единицы. Последняя из полученных в результате эволюции машин приведена в табл. 5.6 и имеет в 23 случаях из 40 совпадения выхода с выходом объекта. Для сравнения заметим, что если подавать на вход объекта сигнал слежения непосредственно, то выход будет отслеживать вход только в течение 20% общего времени работы, а в течение 24% времени совпадает с одним из символов сигнала задания. Другими словами, благодаря эволюционному программированию обеспечивается 100%-ное повышение правильного отслеживания входных случайных сигналов. Эти показатели были достигнуты на ограниченной предыстории (450 символов), в течение которой ни одна из эволюционных моделей еще не стала по-настоящему хорошей моделью объекта.

По традиции наибольшее внимание было уделено изучению линейных объектов и проектированию систем управления, минимизирующих среднеквадратичную ошибку. Хотя такие системы и представляют интерес, они составляют лишь ничтожную часть реально существующих систем управления, заслуживающих количественного исследования. Эволюционное программирование, как было показано выше, может расширить класс поддающихся исследованию систем. Конечные автоматы обеспечивают удобное представление для любого объекта, который может быть адекватно описан при помощи конечного числа различимых внутренних состояний и конечного алфавита входных и выходных символов. Даже объекты, которые изменяют свое поведение в функции времени, могут быть сделаны управляемыми при помощи итерационного поиска наилучшего формального представления объекта конечным автоматом Естественно, что задача нахождения подходящего представления становится более трудной, если на объект действуют внутрен-

ние помехи или если регулируемая величина измеряется с ошибкой; однако в принципе эти трудности не препятствуют решению проблемы методом эволюционного программирования.

Объекты обычно разделяются на линейные и нелинейные. Необходимость в таком разделении отпадает, если объект представляется в виде конечного автомата. В этом свете становится возможным связать с каждым объектом более содержательный дескриптор — степень регулируемости. Полностью регулируемый объект — это такой, который может выдать любой возможный символ при любом внутреннем состоянии. Полностью нерегулируемый объект — это тот, который имеет один-един- ственный выходной символ при каждом состоянии. Промежуточные случаи охватывают целую область — множество объектов, которые могут быть описаны с помощью среднего отношения числа различных выходных символов на состояние к общему числу символов алфавита.

До тех пор пока эволюционное программирование ограничивается представлением организмов с помощью конечных автоматов, сохраняется возможность встретиться с такими объектами или средами, которые никогда не могут быть полностью выражены логикой одного автомата. Например, двоичная последовательность 101100111000... и характеристическая функция простых чисел представляют собой последовательности, которые нельзя полностью описать одним конечным автоматом. Один конечный автомат может без ошибок предсказывать лишь периодические среды. Со случайными ошибками он может описывать среду, состоящую из периодических последовательностей, объединенных в совершенно случайные сочетания. Эти последовательности будут соответствовать различным характеристическим последовательностям автомата, которые образуются при различных парах «входной символ — начальное состояние». Ошибки будут случаться при переключении с одной последовательности на другую.

Что касается определенных выше последовательностей, то существует довольно простой автомат с конец-

ным числом состояний, который будет предсказывать такие последовательности с ошибкой, асимптотически стремящейся к 0. Для последовательности 101100П 1000 . по мере возрастания длины последовательностей нулей и единиц автомат с поглощающим состоянием (т е. таким состоянием, которое, будучи раз достигнуто, уже никогда не может быть изменено), у которого выходной символ согласован с входным, может аппроксимировать последовательность с любой степенью точности. Подобный автомат который в поглощающем состоянии всегда выдает на выходе «0», гакже может описывать характеристическую функцию простых чисел с заданной точностью при достаточно большой длине последовательности, поскольку частота появления «1» в первых и членах имеет порядок 1/logn.

Поскольку алфавит входных символов конечен, можно применить соответствующее кодирование, которое представит среду в виде целочисленной последовательности. Так мы приходим к проблеме вычислимости целочисленных функций. Если принять тезис Чёрча (согласно которому класс всех целочисленных функций, значения которых можно каким-либо способом вычислить, совпадает с классом рекурсивных функций), то рекурсивные функции оказываются представимыми в виде эволюционных автоматов. Такие функции изучались многими математиками. Мы в нашем изложении и терминологии будем следовать Дэвису1).

Для введения этих функций требуются предварительные определения и понятия. Если f и g— такие функции, что диапазон изменений g принадлежит области определения f, то композицией функций f и g будет функция, значение которой при некотором числе хравно 1kgWY В более общем виде если f — функция т переменных и gb g2, ..., gm — такие функции, что для каждого х (gi(x), ..., gm(x))—область опредетения f, то композиция функций 1 и §л, ..., gm есть функция, зна-

') Доказательство приводимых теорем и более полные выкладки см. Davis М., Computability and Unsolvability, McGraw-Hill New York. 1958. [См. также Мальцев А. И., Алгоритмы и рекурсивные функции, пзд-во «Наука», 1965. — Прим, перев.|

чения которой при данном х равны ЦйАх), g2(x), • •• .g^x)) *)•

Функция называется полной), если она определена при всех значениях аргументов. Если Цу, х)—полная функция, то минимальная форма f есть функция КЦ), значение которой для данного х есть наименьшее у, если таковое существует, для которого Цу, х) = 0. Если такого у не существует, функция для данного х не определена Например, если f(y, х) =х2+х+у2+1, то Цх) не определена для любых х, поскольку дискриминант 1 — 4 (у2 + + D всегда отрицателен при любых у и потому выражение не может быть равно нулю ни при каких вещественных значениях х.

Функция х—у есть функция, значение которой равно х — у, если х^-у, и 0, если х<у. Если Л— множество, то САЦ)—функция, значения которой равны 1, если х содержится в Л, и 0, если х не содержится в Л. СА называют характеристической функцией Л.

Частично рекурсивная функция есть любая функция, которая может быть получена путем применения конечного числа операций композиции и минимизации, начиная со следующих функций-

S (х) = х Ч 1.

ипЦхх, х2, ..., хф^ = х. для каждого п и / таких, что 1 6С Z ^ п.

х + у.

х — у.

ху.

Если частично рекурсивная функция— полная, она называется просто рекурсивной функцией. Если для некоторого множества Л в приводимый выше список добавлена характеристическая функция СА, то класс функций, получаемых из такого расширенного списка, носит название класса A-частично рекурсивных функций. Аналогично любая Д-частично рекурсивная функ-

•) Само «х» может быть л мерным вектором (л>1).

ция, которая является полной, называется А-рекурсив- ной функцией. Таким образом, для любого множества А каждая частично рекурсивная (рекурсивная) функция есть Л-частично рекурсивная (Л-рекурсивная) функция. Далее, поскольку Сф (х) = U\ (х) — U\ (х) — характеристическая функция пустого множества ф, то такая рекурсия эквивалентна ^-рекурсии.

Другим тесно связанным с рассмотренным классом функций является класс примитивных рекурсивных функций. Этот класс включает все цифровые функции, которые обычно встречаются. Подобно рекурсивным функциям, примитивные рекурсивные функции обладают свойством полноты и следующим дополнительным свойством- существует бинарная рекурсивная функция Цу, х), такая, что для любой сингулярной примитивной рекурсивной функции g(x) можно найти такое целое п, что g(x)=f(n, х). Отсюда следует, что сингулярно примитивные рекурсивные функции счетны и f дает правило их упорядочивания. Неверно, что все сингулярно рекурсивные функции могут быть таким образом получены из единственной бинарной рекурсивной функции. Чтобы убедиться в этом, предположим, что Цу, х) +1 является бинарной рекурсивной функцией; тогда g(x) = =f(x, х)+ 1 будет рекурсивной функцией, которая отлична от gy(x) = Цу, х) для каждого у.

Чтобы ввести понятие примитивной рекурсивной функции, необходимо определить операцию примитивной рекурсии. Если Цх^ и g(z, у, х) — полные функции, то функция НЦ, х), такая, что’)

Л (0, x) = f(x),h (z + 1, х) = g(z, h (z, x), x),получается из функций f и g операцией примитивнойрекурсии.

Функция примитивно рекурсивна, если она может быть получена применением конечного числа раз операций композиций примитивной рекурсии, начинающейся

') х может быть n-мерным, но у и г — одномерные переменные.

со следующих функций:

S(x) = x+1,

N(x) = 0,

{/"(хр Х2, . . ., Xj = X, для любого пи 1 ^z^n.

Если СА добавлена в этот список, то результирующий класс носит название A-примитивно рекурсивных функций. Далее, по тем же основаниям, что и выше, класс примитивно рекурсивных функций совпадает с классом ^-примитивно рекурсивных функций и для каждого множества А он содержится в классе Л-примитивно рекурсивных функций.

Функции х+у, ху и х— у легко получаются путем примитивной рекурсии из приведенных выше формул и потому являются примитивно рекурсивными функциями. Предположим далее, что к может быть получена из двух полных функций /' и g примитивной рекурсией. Тогда, если fug Д-рекурсивны (рекурсивны), то это же относится и к функции к. Следовательно, класс Д-при- митивно рекурсивных (примитивно рекурсивных) функций содержится в классе Д-рекурсивных (рекурсивных) функций. Далее, класс функций, которые получаются из конечных автоматов, содержится в классе примитивно рекурсивных функций1).

Другой класс функций составляют частично вычислимые (вычислимые) функции. Функция называется частично вычислимой, если существует машина Тьюринга, вычисляющая ее. Если функция полная, то она называется вычислимой. Далее, класс частично рекурсивных функций эквивалентен классу частично» вычислимых функций. Отсюда следует, что классы рекурсивных и вычислимых функций идентичны. Добавив в машину Тьюринга определенные команды, являющиеся эффективно ветвящимися командами и зависящими от того, имеется ли символ, принадлежащий множеству А, в момент использования команды, мы приходим к классу А-частично вычислимых функций. Этот класс эквивалентен классу Д-частично рекурсивных функций. Если ограничиться полными функциями, мы получаем

*) Доказательство этого предложения см. в приложении Г.

Л-вычислимые функции, которые в этом случае идентичны Л-рекурсивным функциям.

Если эти результаты связать с тем, что говорилось ранее, становится ясным, что должна существовать машина Тьюринга, вычисляющая бинарную функцию Цу, хя имеющую то свойство, что для каждой примитивно рекурсивной функции g(x) существует такое целое щ что g(x)=f(n, х). Следовательно, выбирая последовательность целых чисел » детерминированно или случайно, можно с помощью этой машины получить весь класс примитивно рекурсивных функций

В связи с этим возникают две проблемы. Первая касается практической целесообразности моделирования или построения такой машины. Другая связана с тем. что, даже если бы такая машина была создана, необходимо было бы разработать соответствующую схему поиска. Хотя в принципе с помощью исчерпывающего перебора можно найти любую примитивно рекурсивную функцию, такая процедура может быть практически нереализуемой. Однако уже самый факт существования такой машины — явление примечательное.

Интересно отметить, что обе упоминавшиеся выше последовательности — характеристическая последовательность простых чисел и последовательность 101100111000 . .. — могут быть точно выражены через ре- к^рсивные функции. Существование машины Тьюринга для последовательности простых чисел доказано Дэвисом). Машина для реализации последовательности 101100111000... приведена в приложении Г.

Машина Тьюринга может быть представлена) конечным множеством четверок символов, имеющих одну из следующих форм:

(^fSjS^ym\

(qtSjRq,^.

VqiSjLq^.

(qiSjq^q^-

Для интерпретации этих выражений рассмотрим машину, имеющую ленту, которую можно неограниченно продолжать в обе стороны. В каждый момент времени сканируется только одна ячейка ленты. Четыре символа формы 1 определяют, что если машина находится в состоянии Яг и сканируемый символ Sj, то на месте Sj записывается Sh и машина переходит в состояние qm. Выражение 2 означает, что если машина вновь в состоянии qt и сканируется символ Sj, то лента передвигается на одну ячейку вправо, а машина переходит в состояние qm. Выражение 3 имеет смысл, подобный выражению 2, за исключением того, что лента передвигается на одну ячейку влево.

Выражение в форме 4 относится только к тем машинам, которые вычисляют Л-вычислимые функции. Если множество А предполагается заданным, то, когда S, принадлежит к А, машина переходит в состояние Qh. в противном же случае она переходит в qm. Перед началом вычислений всегда предполагается, что машина находится в определенном состоянии, называемом начальным, и все ячейки ленты, за исключением, быть может, конечного их числа, пустые. Вычисления оканчиваются лишь тогда и в том случае, когда машина переходит в состояние q,, а сканируемый символ есть Sj, причем в машине не определена четверка символов, начинающаяся парой qtS,. Результат тогда непосредственно считывается с ленты. Если машина никогда не принимает такого состояния, вычисления продолжаются бесконечно долго. Это означает, что машина не может вычислить значение функции для данного входа на ленте, т. е. другими словами, функция, представляемая машиной, не определена для этого числа.

Поскольку такое представление легко моделируется вычислительной машиной, можно заменить в эволюционной программе конечные автоматы машинами Тьюринга. Хотя это увеличило бы множество сред, полностью представимых эволюционной программой, при этом возникает проблема, для которой не существует полного решения. Это так называемая «проблема остановки» машин Тьюринга. Можно ли предложить метод, который бы определял, когда машина Тьюринга закончит вычисления для

данного числа? К сожалению, как было показано, невозможно предложить подобную схему, которая была бы пригодна для всех машин. Вопрос о том, для каких подклассов машин такие схемы существуют, остается открытым.

Возможным шагом в решении этой проблемы было бы установление верхнего предела для числа шагов, требуемых для одного вычисления, и отклонение любой машины, превысившей этот.предел, Естественно, что такое решение автоматически исключает все рекурсивные машины, для которых определенные вычисления потребовали бы большего числа шагов, чем установлено этим пределом, и, возможно, отклонило бы даже искомую машину Стоимость этого ограничения трудно оценить1).

Во многих случаях идеальное решение является желанной, но недостижимой целью. Значительное большинство встречающихся сред может быть подходящим образом выражено в форме конечного автомата, несмотря на то что идеальное принятие решений может оказаться невозможным. Только строгое обоснование с учетом ожидаемых классов сред могло бы считаться достаточным оправданием для увеличения степени общности организма. Для гибкости и универсальности этих основных особенностей интеллекта величайшую ценность имеет как раз использование организма наиболее общего вида; однако опыт реального мира позволяет ожидать появления различных типов сред. Эта информация может быть использована в целях экономии для ограничения-их общности и тем самым универсальности до надлежащих размеров.

ПОИСК ЦЕЛЕЙ ВО ВЗАИМОДЕЙСТВУЮЩЕЙ СРЕДЕ

До некоторой степени все объекты, принимающие решения, сами подвержены воздействию внешнего мира. Это означает, что невозможно, хотя бы в принципе, реагировать на наблюдаемую среду, не оказывая на нее какого-то влияния. В предыдущей дискуссии молчаливо

*) В приложении Д приводятся дополнительные соображения по этому вопросу.

предполагалось, что влияние принимающего решения на среду пренебрежимо мало. Другими словами, канал связи между средой и наблюдателем считался по существу односторонним. Однако теперь интересно рассмотреть более общую ситуацию двухсторонней связи, когда принимающий решение организм одновременно находится под воздействием среды и сам воздействует на нее.

В своей классической работе фон Нейман рассмотрел проблему нахождения оптимальной стратегии в состязательных играх. Он предложил стратегию для игрока, который в бесконечно продолжающейся игре с нулевой суммой желает получить максимальный выигрыш при минимальном риске. Хотя значительные усилия были приложены для расширения сферы применения теории игр, остается справедливым тезис, что большинство игровых ситуаций реального мира находится за пределами того очень специального класса игр, для которых в настоящее время имеется решение. Можно надеяться, что эволюционное программирование откроет новый и отличный от прежних метод поиска стратегии для чрезвычайно широкого класса игровых ситуаций.

В качестве естественного расширения предыдущей дискуссии рассмотрим ситуацию, при которой организм существует в некоторой внешней среде. Этот организм обладает сенсорными и моторными способностями, памятью и способностью перерабатывать последовательность входных сигналов в требуемую с учетом заданной цели реакцию. Пусть организм ограничен в своей способности преобразовывать результат таких решений в соответствующую реакцию. Другими словами, физические свойства его моторной системы как бы формируют «объект», служащий для преобразования принятого решения в регулируемую переменную, т. е. в фактическую реакцию организма на воздействия среды. Ценность каждой реакции косвенно измеряется организмом через стоимости будущих символов, которые им будут восприняты. Мерой способности организма находить цель может служить кумулятивная выплата по всей последовательности символов, воспринятых до текущего момента из среды.

Основная задача организма тождественна задаче системы управления, когда требуется, чтобы неизвестный и, возможно, ограниченный объект отслеживал сигнал задания, причем стоимость ошибок отражает некоторую заданную цель. Как указывалось выше, к этой задаче можно подойти с позиций эволюционного программирования.

Более трудная ситуация возникает, если объект может изменять свою логическую структуру. В таких условиях важно иметь достаточную выборку из входных и выходных сигналов, чтобы обеспечить возможность создания адекватной модели для неизвестной логики объекта. Трудно оценить размеры такой выборки, так как они существенным образом зависят от числа символов в алфавите и степени изменчивости логики. Однако в принципе эволюционный подход сохраняет свою действенность, так как он предлагает средство для переработки доступной информации с максимальным использованием вычислительных возможностей машины.

Для генерации нужного выходного символа, который по предположению влияет на внешний объект, организм должен генерировать модель этого объекта. Значительно больше трудностей возникает, если сенсорные каналы так зашумлены1), что случайные помехи накладываются при восприятии собственного выхода объекта. Такой шум, по-видимому, ухудшает способность организма строить эффективную модель себя и тем самым оптимизировать свой показатель качества поиска цели. II здесь снова, хотя эволюционное программирование остается действенным подходом, требуемые размеры выборки также возрастают.

Еще большие трудности возникают, когда организм не может непосредственно воспринимать свою собственную реакцию, т. е. когда среда вмешивается в канал связи между регулируемой и входной переменными. Можно надеяться, что возмущение среды в этом канале связи описывается относительно простой логикой, мало меняющейся со временем. Помещение организма в за-

') Т. е. когда восприятие внутренних стиму юв для собственного объекта и собственной реакции может быть ошибочным.

шумленную среду ослабляет его способность создавать модель, объединяющую объект и среду для дальнейшего поиска цели. Реальные ситуации обычно приводят именно к таким трудностям. Среда может содержать другие организмы, которые в свою очередь реагируют на активность данного организма. Если сенсорные возможности этого организма существенно ограничены, он может рассматривать такую объединенную реакцию с помощью единственного «дескриптора» в каждый момент времени. Его задача тогда состоит в формировании адекватной модели среды в целом. Если же сенсорные органы организма имеют достаточную разрешающую способность, он может моделировать среду в более детализированном виде, избрав тем самым более подходящий путь для достижения цели).

Может оказаться, что другие организмы в среде также целенаправленны и изменяют свое поведение в зависимости от успеха данного организма. Тогда их функционирование может улучшить или ухудшить положение рассматриваемого организма, но в любом случае их конкуренция существует лишь в абсолютном смысле. Такой организм будет вовлекаться в соревнование лишь на низшем уровне; он нс может прибегнуть к таким приемам, как «блеф»), обман противника, тайный сговор и т. д., которые могли бы упрочить его позицию как в абсолютном, так и в относительном смысле. Если собственная стратегия организма оказывается выгодной некоторому другому организму, то может возникнуть естественная коалиция, но такое благоприятствующее поведение будет непреднамеренным.

Чтобы организм повысил интеллектуальный уровень своего поведения, он должен обладать внутренней способностью к раздетьному восприятию своих собственных стимулов и реакций, что позволит ему строить «модели самого себя» (их следует отличать от тех моделей

самого себя, которые построены на основе отражения собственного поведения с помощью его реакции на среду). Иначе говоря, некоторая часть должна быть выделена из организма специально для представления «самого себя» с учетом некоторой заданной цели (которая может и отличаться от цели внешнего поведения организма). Отметим, что выделение такого преобразователя информации из состава организма лишает организм способности создания полной модели самого себя в том же смысле, в каком «кошка никогда не может попробовать вкус своего собственного языка». Конечно, можно выделить часть этой моделирующей способности для моделирования остальной части; однако такое последовательное «выделение» скоро прекратится вследствие ограниченной разрешающей способности этих частей.

Для того чтобы такая модель самого себя была полезной на любом уровне, она должна сравниваться с моделью, созданной на основе отражения внешней среды. Сравнение этих различных типов моделей дает организму возможность «описывать самого себя» по отношению к внешней среде. Такое проявление «самосознания» образует основу для сознательного поведения и коммуникации на более высоком уровне, чем при «условных рефлексах».

Во многих ситуациях разумно предположить, что среда содержит по крайней мере одного интеллектуального противника, который будет изменять свои реакции таким образом, чтобы затруднить, если вовсе не исключить, управление средой. Эволюционное программирование и в этом случае предлагает путь решения, хотя при этом необходимо позаботиться об исключении «внутренних контуров»1), которые обычно допустимы для увеличения эффективности эволюции. Всегда существует опасность, что объект будет моделировать «регулятор», по крайней мере в такой степени, что он сможет обнаруживать определенные закономерности в стратегии и в результате применять противоположную стратегию. В общем случае повышение эффективности управления достигается ценой потери надежности.

Как ни странно, такое дополнительное усложнение двухстороннего канала связи может дать принимающему решения определенные преимущества. Возможность влиять на поведение среды влечет за собой возможность «запрашивать» среду, выбирая определенные стимулы и анализируя наблюдаемые реакции. Следует надеяться, что обнаружится достаточно определенная зависимость между стимулами и реакциями, так что принимающий решения сможет выбирать те действия, которые имеют большую вероятность выигрыша, избегая тех, которые могут повлечь ухудшение его позиции. Во всяком случае, чем больше известно пар «стимул — реакция», тем выше вероятность выбора таких воздействий, которые приводят к более благоприятной ситуации.

Тогда игрок в общем случае должен обладать способностью моделировать логику, которая может «объяснить» наблюдаемые реакции среды. На основе такой модели поведение среды могло бы быть сделано более предсказуемым и в каком-то смысле более благоприятным для принимающего решения игрока..

В элементарной ситуации игрок находится в окружении неизвестной детерминированной среды. В его распоряжении двухсторонний канал связи, который служит для описания условий среды с помощью конечного алфавита дескрипторов и передачи выходных символов игрока в среду, что, возможно, окажет влияние на будущее поведение среды. Установление числа символов дескрипторов обычно зависит от игрока и может быть выбрано им наилучшим образом, так чтобы оно не превышало разрешающей способности прибора, определяемой имеющимся потоком информации.

Ради простоты допустим, что принимающий решения может влиять на среду одним из двух возможных способов. Символ, посылаемый в среду, представляет собой как бы запрос после получения каждого символа дескриптора. Задача принимающего решения заключается в выборе такой последовательности символов, которая извлекает информацию о среде, достаточную для построения диаграммы состоянии, как можно более полно описывающей логику среды, благодаря чему будущее поведение среды становится более предсказуемым. Если

Ф и г. 5.3. Простейший сильносвязанный автомат.

использование каналов связи сопряжено с определенной стоимостью, интересно определить минимальную длину той «запрашивающей» последовательности, которая полностью вскрыла бы логическую структуру среды.

Предположим, что принимающий решение начинает свое исследование, зная возможное число состояний среды. Предположим далее, что среда является сильно связанной (т. е. существует некоторая последовательность символов, которая может вызвать переход среды из любого состояния в любое другое состояние). Это предположение разумно, потому что несильно связанные состояния могут появиться лишь в начальной последовательности переходов. Такие состояния никогда не могут повториться и потому не представляют интереса при предсказании поведения среды на длительный срок.

В наиболее благоприятном случае сильно связанная среда с N состояниями и алфавитом из двух символов может быть полностью диагностирована уже с помощью 2^ — 1 запросов, поскольку последний переход может быть однозначно связан с этим свойством. Так, на фиг. 5.3 приведена диаграмма N состояний среды, построенная таким образом, что каждый очередной символ запроса либо оставляет среду в исходном состоянии, либо переводит ее в следующее по порядку состояние. После 2N — 1 переходов имеется лишь один возможный переход, который сделал бы диаграмму сильносвязанной, — это возвращение в исходное состояние.

Интересно также рассмотреть логику среды, которая потребовала бы максимальной длины запрашивающей последовательности для определения ее логической структуры. (Такой случай имел бы место, если бы разум-

Ф н г. 5.4. Наиболее сложный сильносвязанный автомат.

ный противник мог строить свою стратегию после получения последовательных запросов, но не имел бы права, раз построив ее, затем ее изменять.) Как показано на фиг. 5.4, первый символ не изменяет начального состояния. Бессмысленно было бы повторять этот символ в случае детерминированной среды, поэтому игрок выбирает другой запросный символ. Если среда представляет собой сильносвязанный конечный автомат, то этот новый символ вызовет изменение состояния. Игрок, принимающий решения, теперь посылает любой из двух символов, и среда возвращается в исходное состояние. Игрок вынужден, таким образом, затратить один лишний символ (оба запроса уже были испробованы, пока среда находилась в этом состоянии), чтобы перевести среду во второе состояние. Если среда теперь снова оказывается во втором состоянии, игрок может испробовать символ, еще не использованный в этом состоянии. В случае сильносвязанной среды1) это должно вызвать переход в следующее, третье по счету, состояние. Затем игрок применяет любой из символов, и среда возвращается в первоначальное состояние. Теперь игрок должен повторить два уже известных перехода, чтобы вернуть среду в это третье состояние и дать возможность сделать оставшийся запрос, когда среда находится в этом состоянии.

Описанная выше процедура переходов среды может быть распространена и на любое число состояний. После достижения каждого нового состояния происходит

*) При входном алфавите из двух символов. — Прим, перев.

переход в исходное состояние, так что приходится повторять некоторое число известных переходов. Отметим, что возможны N переходов в начальное состояние, N переходов из первого состояния во второе, N — 1 переходов из второго состояния в третье и т. д. и, наконец, один переход из последнего состояния в любое другое состояние. Таким образом, имеется всего

N + N^N — I) + (W — 2) + ... + 1 =ДГ + ^М = -^±М.

возможных переходов. Следовательно, для любого автомата с N состояниями существует диагностическая последовательность длины I, где / лежит в пределах между (27V— 1) и (№ + 3^)/2.

Очевидно, что полезно иметь некоторый эффективный метод для построения последовательности символов минимальной длины, с тем чтобы, однажды предъявив ее среде, определить диаграмму состояний среды как конечного автомата. Каждый символ такой последовательности должен выбираться с учетом предыдущей реакции среды. Если известно число состояний среды, можно перечислить все множество рассматриваемых автоматов, но в более обычных ситуациях мы располагаем лишь информацией о том, что среда относится к классу сильносвязанных автоматов. Любой конечный автомат может быть выражен через эквивалентную диаграмму состояний и выходов (возможно, с большим числом состояний). В нашем обсуждении мы ограничиваемся рассмотрением лишь автоматов, задаваемых парами «состояния — выходы».

Пусть каждому состоянию в множестве рассматриваемых логических структур сред можно приписать определенное обозначение Тогда можно построить логическое дерево, начинающееся с состояния «не знаю». Это состояние имеет обозначение, состоящее из обозначений всех состояний рассматриваемых автоматов. Результаты применения каждого из возможных входных символов рассматриваются раздельно по каждой компоненте составного состояния. Таким образом, для каждого входного символа состояние «не знаю» выдает выходной символ и приводит к следующему состоянию. Новое со-

ставное состояние может быть образовано путем объединения тех состояний, которые для того же входного символа выдают одинаковый выход. Аналогичным образом каждое из этих составных состояний исследуется путем приложения к ним всех возможных входных символов, в результате чего образуются новые составные состояния. Эта процедура продолжается до тех пор, пока не обнаружатся ветви, оканчивающиеся на состояниях, которые отождествляются с состояниями только ОДНОГО из рассматриваемых автоматов. Если достигается пустое множество состояний, оно может быть отброшено или использовано для установления того факта, что среда не следует логике ни одного из рассматриваемых автоматов.

По определению So — конечное множество однозначно определенных состояний, относящихся к отдельным автоматам, Si включает множество состояний, которые приводят к однозначно определенным состояниям с помощью одного перехода, а также множество So. Множества S2, S3 и т д. определяются аналогично, так что за один переход из текущего множества состояний можно перейти только к тем состояниям, которые были уже включены в предшествующее множество состояний. Эта процедура продолжается до тех пор, пока в некоторое множество не будет включено исходное состояние «не знаю». (Пока S, не содержит состояния «не знаю», Si+1 будет включать S,-.) В общем случае наиболее эффективной процедурой опроса в зависимости от каждой предшествующей реакции является такая последовательность входных символов, зависящая от последней реакции среды, которая переводит текущее множество в множество следующего или еще более низких порядков независимо от реакций, пока не будет достигнуто состояние So. Таким образом, запрашивающая последовательность минимальной длины может быть найдена для каждого из рассматриваемых автоматов путем определения кратчайшего пути, ведущего от соответствующего автомата к состоянию «не знаю». Искомая последовательность входных символов приведет по этому пути от состояния «не знаю» к состоянию, полностью отвечающему определенному рассматриваемому автомату. Если реакции среды отклоняются от этого пути в какой-либо точке,

рассматриваемый автомат может быть изъят из дальнейшего процесса. Если установлено, что фактическая логика среды соответствует одному из рассматриваемых автоматов, то конечный символ запроса определит соответствующий автомат Если же такой уверенности нет, полученный по этой процедуре автомат может не полностью представлять логику среды ввиду малой длины запрашивающей последовательности символов.

Для пояснения сказанного рассмотрим следующий пример. Предположим, что логика среды соответствует одной из двух диаграмм состояний, показанных на фиг. 5.5. Как видно из фиг. 5.6, начальное состояние «не знаю» обозначено ABCDEF, причем это обозначение охватывает все состояния рассматриваемых автоматов. Входной символ «1» переводит состояние А в состояние С и вызывает на выходе «О»; тот же входной символ «I» при состоянии В вызывает на выходе символ «1» и переводит автомат в состояние Лит д. Таким образом, для рассматриваемых автоматов двумя состояниями, которые появляются в результате входа «1», будут АВЕ (что соответствует выходному символу «1») и CD (что соответствует выходному символу «О»), В этом частном примере однозначно определенные состояния обозначаются единственной буквой. Эти состояния в совокупности образуют множество So- Множество Si включает в себя So и те состояния, которые приводят к множеству So за один переход. Аналогично опредетяются множества более высоких порядков.

Как видно из рассмотренного примера, минимальная длина запрашивающей последовательности в этом случае состоит из тех символов, которым соответствуют жирные стрелки на фиг. 5.6, исходящие из состояния «не знаю». Вход «О» может вызвать реакцию «О». Этот выходной символ немедленно оканчивает запрос ввиду того, что такая среда должна описываться логикой автомата, содержащего состояние С Реакция «1» приводит к состоянию ABFE. В соответствии с логическим деревом следующий символ запроса должен быть «1». Если реакцией среды окажется «1», то следующим и последним символом запроса должен быть «I», в го время как при реакции «О» последним символом запроса является

Фиг. 5.5. Множество возможных а. гических структур среды.

Фиг. 5.6. Диагностическое дерево.

«О». В любом случае достаточно не Оолее трех входных символов, чтобы закончить диагноз. Эффективность этого метода становится все более очевидной при увеличении числа рассматриваемых автоматов.

Можно найти и другие методы для проникновения в логику взаимодействующей среды и для эффективного использования полученной при этом информации, но такие проблемы представляют значительные трудности. Эволюционное программирование, выполняемое на различных уровнях абстракции ’), может обеспечить эффективное средство для определения логической структуры неизвестных и изменяющихся взаимодействующих сред.

*) Уровни абстракции определяются в следующей главе.

ГЛАВА ШЕСТАЯ

Некоторые следствия

НАУЧНЫЙ МЕТОД КАК ЭВОЛЮЦИОННЫЙ ПРОЦЕСС

Научный метод познания — это итерационный процесс, который способствует приобретению новых знаний о природе наблюдаемой среды. Эволюционные аспекты этого процесса становятся очевидными при более детальном его рассмотрении.

Первоначально исследователь делает выбор, чтобы оценить значение неизвестного параметра среды. С точки зрения этой цели он собирает все опытные данные прошлых наблюдений (устраняя, конечно,-обнаруженные систематические ошибки). Хотя исследователь сознает тот факт, что эти данные не безошибочны, он предполагает, что они верны, и строит такую модель среды, которая согласуется с возможно большим количеством этих данных. Такой процесс обобщения называется индукцией. Индукция — это творческий этап научного метода. Возникающие при этом модели в зависимости от контекста называют по-разному: гипотезами, догадками, теориями, представлениями, правилами или языками.

Модель полезна только тогда, когда она создает основу для оценки какого-то неизвестного аспекта данных. Нахождение этой специфической оценки по модели называется дедукцией или дедуктивной конкретизацией. Для облегчения этого процесса часто целесообразно сначала произвести некоторое дедуктивное преобразование модели, т. е. перевести ее в некоторую более поддающуюся истолкованию форму, называемую «общим решением». Конечно, научный метод остается неполным до тех пор, пока не еде пана попытка подтвердить или опровергнуть справедливость такой оценки неизвестного аспекта данных путем независимого наблюдения среды.

Фиг. 6.1. Научный метод познания.

Эти логические этапы указаны на фиг 6.1. Короче говоря, научный метод состоит в выведении соответствующей модели, индуктивного вывода о конкретном неизвестном элементе и независимого измерения для подтверждения или опровержения этого вывода; эти этапы последовательно применяются ко все более широкому набору известных данных1).

Каждое измерение приносит пользу. Даже если оценка, сделанная на основе модели, не подтверждается, усилия были не напрасны, так как становится известной новая сторона данных. Это расширяет множество эмпирических фактов, которые можно считать «истинными» для последующих итераций. С увеличением размеров выборки исследователь получает возможность создать лучшую модель по отношению к данной конкретной среде. По мере роста информации о среде увеличивается вероятность того, что каждая последующая оценка будет подтверждена.

Дальнейшая и более ощутимая выгода приобретается всякий раз, когда оценка подтверждается. При таких обстоятельствах у исследователя появляются разумные основания для большего доверия к ценности данной модели в качестве верного представления среды, несмотря на то что исследователь сознает, что «истинность» мо-

*) Логические этапы научного исследования более подробно описаны в приложении Д.

дели в некоторый момент времени не гарантирует ее справедливости в другой момент. Даже одиночное подтверждение должно увеличивать относительную ценность данной конкретной модели по сравнению с дру гимн моделями, которые могли бы быть созданы на менее прочно обоснованной базе.

После каждой итерации исследователь может пересмотреть свое отношение к тем моделям, которые оказались верными в момент их применения. У него естественным образом возникает вопрос, содержит ли это множество моделей добавочную информацию о среде, отражающуюся в сходстве или направленности моделей. Имея это в виду, экспериментатор может продолжать испытание научного метода на более высоком уровне абстракции. Он может образовать модель тех моделей, которые оказались верными ранее, — модель, согласующуюся с максимально возможным числом таких успешных в прошлом моделей. Эта новая модель (обычно определяемая на алфавите символов, отличном от алфавитов моделей более низких уровней абстракции) может быть специализирована для получения другой, пока еще не испытанной модели первого уровня абстракции. Можно надеяться, что эта модель будет иметь большую вероятность успеха ввиду того, что она охватывает некоторые общие свойства среды, которые могут быть обнаружены лишь при рассмотрении всех опытных данных в целом.

Подобным же образом исследователь может переходить ко все более и более высоким уровням абстракции. Каждый новый уровень достигается путем создания модели тех моделей, которые оказались верными на предыдущем уровне абстракции. Модели непосредственно наблюдаемых данных находятся на первом уровне абстракции. Модели последовательности тех моделей, которые оказались верными на первом уровне, относятся уже ко второму уровню и т. д. Отметим, что модели более высоких уровней абстракции должны быть последовательно сведены к моделям первого уровня, чтобы испытать их истинность относительно наблюдаемых данных. В общем случае при переходе ко все более высоким уровням абстракции создаваемые модели все меньше и меньше

основываются на непосредственных наблюдениях. В результате вероятность подтверждения генерируемых моделей уменьшается. Повышение уровня абстракции дает преимущество «взгляда с высоты», но связанные с этим выгоды уменьшаются вследствие возрастания вероятности ошибки. Дополнительные усилия, затрачиваемые при работе на более высоких уровнях абстракции, компенсируются увеличением выигрыша в случае успеха. Подтверждение модели высокого уровня абстракции может устранить необходимость дорогостоящего постепенного (шаг за шагом) исследования соответствующей области среды.

Научное исследование не обязательно должно ограничиваться лишь одним уровнем абстракции. Часто для исследователя оказывается более целесообразным одновременное использование моделей нескольких уровней, причем он по мере накопления данных пересматривает относительную ценность оперирования на том или ином уровне абстракции с точки зрения ожидаемого успеха. В любой момент исследователь может обратиться к тому уровню, который имеет наибольшие шансы на немедленный успех, либо же взвесить относительную ценность различных уровней абстракции, с тем чтобы сформулировать некоторую комбинированную оценку неизвестного элемента.

Эволюционные процессы позволяют достигнуть последовательной сходимости к цели. Они существуют только в пределах некоторой зоны эффективности по отношению к заданной цели. Новые модели генерируются, оцениваются и используются для улучшения имевшихся ранее моделей только тогда, когда их оценка свидетельствует о вероятном соответствии с требованиями среды. Говоря языком биологии, вновь созданный организм, порожденный оказавшимися ранее «успешными» организмами, проверяется по отношению к среде. Только те организмы, которые превышают необходимый минимум требований для выживания, сохраняются в процессе эволюции. Такой последовательный отбор способствует сохранению вида. Каждый «организм» можно рассматривать как пробную модель, отражающую некоторые важные стороны среды. Сфера действия такого

эволюционного исследования среды зависит от природы процесса воспроизведения и от разнообразия, обусловленного естественными мутациями.

Аналогичным образом на основе общих потребностей в непрерывной борьбе с антагонистической средой формируются социальные группы Они состоят из индивидуумов, которые до сих пор оказались наиболее эффективными на индивидуальной основе. Структура этих групп отражает как характер отдельных индивидуумов, так и логику их среды1). Семья состоит из отдельных индивидуумов, городская или сельская община — из отдельных семей, государство — из отдельных общин и т. д. На каждом уровне возникает такая структура, которая отражает характер достигнутого успеха на всех более низких уровнях абстракции и свойства имеющейся среды.

Эффективность исследования методом проб и ошибок резко сокращается при увеличении размерности исследуемого пространства. Пока исследователь интересуется лишь одним аспектом среды, случайный поиск может оказаться приемлемым, но как только, он пытается обратиться к более практическим задачам, он сталкивается с таким множеством возможных вариантов, что лишь тщательно спланированные исследования по методу проб и ошибок могут иметь шансы на успех. Поэтому преимущества, извлекаемые из использования научного метода, становятся очевидными. На самой первой стадии исследования человеком неизвестной среды применение научного метода было бы роскошью; однако при увеличении масштаба и глубины исследования использование научного метода становится абсолютно необходимым.

Научный метод состоит в индукции, индуктивном выводе с последующей его независимой проверкой. Гипотезы, образованные таким образом, чтобы охватить все имеющиеся данные и некоторые дополнительные аспекты, оцениваются в отдельности по верности получаемых из них выводов. Те гипотезы, которые оказываются заслуживающими внимания, видоизменяются, расширяются

') Все среды можно считать антагонистическими в том смысле, что само течение времени стремится дезорганизовать решающую систему, угрожая тем самым ее существованию.

или комбинируются, образуя новые гипотезы, которые несут в себе как бы «наследственную целесообразность». По мере все большего и большего соответствия гипотез логике среды они обеспечивают все лучшее «понимание» среды, что выражается в улучшении целенаправленного поведения в условиях данной среды

Аналогия между естественной эволюцией и научным методом очевидна. Отдельные организмы в природе выполняют как бы роль гипотез о логических свойствах их среды. Тогда их поведение представляет собой индуктивный вывод относительно некоторых, еще не известных аспектов среды. Выживание организмов служит признаком их приемлемости. Их потомки несут в себе как наследственную целесообразность, гак и дополнительную информацию, возникшую в результате мутаций и рекомбинаций.

Эволюционный подход, описанный выше, является реализацией научного метода, в котором на гипотезы лишь наложено то ограничение, что они должны представлять собой конечные автоматы. Создание последовательных гипотез требует введения случайности, а также доминирующей логики наследственности. Существенная для интеллекта универсальность является естественным продуктом такого итеративного процесса. По существу, научный метод представляет собой существенную часть природы. Поэтому не удивительно, что его применение в явном виде принесло человечеству ощутимые преимущества, а теперь позволяет ему даже автоматизировать сам научный метод путем искусственной эволюции автоматов.

АВТОМАТИЗАЦИЯ ИНТЕЛЛЕКТА

С указанной точки зрения научный метод не был изо бретен, а был открыт. Он существовал задолго до человека и по сути дела обусловил само появление человека. Естественная эволюция может рассматриваться как реализация научного метода.

Как указывалось выше, некоторые аспекты эволюции могут быть промоделированы. Фактически такое моделирование представляет собой автоматизацию научного

метода. Последовательное создание моделей, процесс индукции, были сведены к рутинному процессу. Если «творчество» и «воображение» являются неотъемлемыми атрибутами этого процесса, то они, стало быть, также были промоделированы. Но в соответствии с определением, данным в начале нашей дискуссии, интеллект — это «способность принимающего решения устройства достигать определенной степени успеха при поиске широкого многообразия целей в'обширном диапазоне сред». Научный метод обеспечивает подходящую основу именно для такого принятия решений. В принципе природа цели и характер среды никак не ограничены. По существу, механизация научного метода создает основу для реализации искусственного интеллекта. В 1950 г. Тьюринг говорил: «Можно ожидать, что машины в конце концов будут соперничать с человеком во всех чисто интеллектуальных сферах деятельности» *).

Первая фаза в развитии вычислительной техники была связана с разработкой устройств, способных быстро и надежно выполнять большое число простых логических операций. Вторая фаза была посвящена разработке языков для эффективного программирования работы таких машин. В настоящее время вычислительная техника вступает в новую фазу своего развития, когда уже больше не будет требоваться точно указывать, как решать ту или иную задачу. Вместо этого достаточно будет точно сформулировать задачу в терминах некоторой «цели» и «допустимых затрат», а наилучшая программа будет создана самой вычислительной системой в ходе эволюционного процесса. Решение задачи может включать описание найденного алгоритма или, если потребуется, всю историю создания алгоритмов. Старое изречение, что «машина никогда не знает больше программиста», уже оказывается просто неверным.

Конечно, было бы нецелесообразно применять эволюционное программирование для решения тех задач, которые уже были решены. За универсальность всегда приходится уплачивать особую цену. Такая дополнительная оплата целесообразна лишь в тех ситуациях,

’) Тьюринг А., Может ли машина мыслить, Фнзматгнз, 1960.

когда оправдывается поиск новых методов решения — новой логики принятия решений. Здесь вполне уместно было бы коснуться некоторых вопросов экономичности эволюционного программирования. Однако, к сожалению, об этом сейчас известно еще очень мало. Программы, которые использовались для проведения описанных ранее экспериментов, по многим причинам были экономически неэффективными. Они были написаны скорее для того, чтобы продемонстрировать возможности эволюционного программирования, чем для доказательства его эффективности. По-видимому, эволюционное программирование применимо для любой вычислительной машины разумных размеров. Детали программы и соответствующая стоимость работы, как можно ожидать, будут сильно зависеть от характеристик вычислительной машины и имеющегося языка программирования. Дальнейшие исследования в этом направлении весьма желательны.

Здесь естественно возникает вопрос: «Существует ли верхний предел интеллекта?» Помимо очевидных ограничений, налагаемых свойствами сенсорного и моторного аппаратов, имеются ли какие-нибудь фундаментальные аспекты переработки информации, которые налагают ограничения на уровень интеллекта любого существа или устройства?

С точки зрения эволюционного программирования имеются, конечно, физические характеристики вычислительной машины, которые ставят предел тому, что может быть достигнуто. Так, скорость вычислений ограничивает число поколений, которые могут быть оценены за время, предоставленное для принятия решений. Размеры памяти ограничивают специфичность отдельных моделей, равно как и число моделей, которые можно хранить одновременно в любой момент времени. Конечно, можно увеличить емкость памяти, однако это обычно связано со значительным увеличением времени отыскания и выборки информации, что в свою очередь вновь ограничивает число потомков, которые могут быть оценены. Ясно, что эти факторы сильно взаимосвязаны, и наилучший компромисс между емкостью памяти и временем обращения к ней зависит от конкретной машины.

Будущие вычислительные машины, очевидно, будут быстрее нынешних. Они будут допускать параллельную переработка информации со всеми вытекающими отсюда преимуществами. Такие усовершенствованные ма шины могут представлять собой географически рассредоточенные узлы, связанные посредством центрального устройства управления. Подобная вычислительная машина сможет работать также и децентрализованным образом, так что локальная переработка информации могла бы реализоваться ею'отдельно. Центральное устройство управления использовалось бы только в задачах, которые требуют дополнительных вычислительных ресурсов или привлечения «компетенции» всей системы. В такой рассредоточенной децентрализованной системе возникнут новые физические ограничения: существенным фактором может стать время передачи информации от элемента к элементу. Поэтому общие возможности устройства для принятия решений могут быть ограничены просто условиями его физической реализации. Возможно, что большое число ныне исчезнувших с лица Земли животных вымерло именно вследствие таких внутренних «запаздываний» в передаче сигнала. Кларк высказа 1 предположение, что пределы разумности некоторого «существа» размером с галактику налагались бы скоростью света, которая вследствие своей конечности приводит к неизбежным запаздываниям в передаче сигналов1). Легко предвидеть и другие ограничения, связанные с размерами системы; слишком большие системы могут оказаться так же плохи, как и слишком малые.

Значительно больший интерес представляет рассмотрение некоторых логических ограничений, налагаемых на интеллект системы для поиска заданной цели. Как указывалось выше, разумного поведения можно ожидать только тогда, когда система имеет некоторую подходящую модель среды; степень пригодности этой модели измеряется по степени соответствия между моделью и

*) Clare А. С., From Lilliput to Brobdingnag, Playboy Magazine, 9, № 6, 102, 116—119 (1962).

средой. Поэтому разум будет ограничен, ее ап модель слишком груба и не дает достаточно детализованного описания среды или если она неполным образом отражает взаимодействия между элементами среды.

Эти положения требуют некоторого разъяснения. Сенсорные возможности организма определяют некоторую максимальную разрешающую способность как во времени, так и в отношении числа символов алфавита. Чем больше эта разрешающая способность, тем больше массив доступной информации. Скорость реакции и характер процесса моделирования накладывают добавочные ограничения на модельное представление среды. Модели могут развиваться только на заданном алфавите отношений. Недостаточность этого набора дескрипторов ограничивает точность моделирования среды. Например, сведение моделей к ограниченному классу конечных автоматов лишает нас возможности представлять среды, не относящиеся к этому классу. Но даже если модель может принимать форму любого конечного автомата, она может оказаться непригодной для хорошего представления некоторых примитивно рекурсивных сред.

Точно так же наличие моделей в виде примитивно рекурсивных автоматов не позволяет адекватно представлять более общие классы рекурсивных сред. Ограничения общности моделируемого процесса должны быть оправданы с точки зрения адекватности представления ожидаемого класса сред. В настоящее время продолжаются фундаментальные исследования для более полного описания взаимоотношений, с которыми нам приходится сталкиваться в реальном мире’).

Интеллект системы может быть, далее, ограничен параметрами ее процесса моделирования. Для каждой ситуации существуют наиболее подходящие значения кратности мутаций, весов запоминаемой последовательности, числа уровней абстракции и т. д. Кроме того, необходимо сделать разумный выбор рабочей точки, чтобы найти компромисс между требованиями эффективности

') Gunter G., Cybernetic Ontology and Transjunctional Operations, cm. Yovits M S., Jacobs G. T., Goldstein G P. (eds.), SelfOrganising Systems, Spartan Book Co., 1962, pp. 313—392.

и надежности1). Если предполагается, что среда почти независима, увеличение эффективности может оказаться оправданным. Если, однако, среда оказывается разумным противником, более целесообразно было бы пожертвовать эффективностью ради надежности. Самый умный игрок —не обязательно самый эффективный.

Только системы, отыскивающие цель, могут быть «разумными». До сих пор цели задавались приписыванием относительной стоимости (или штрафа) каждому возможному исходу при принятии решения. На более фундаментальном уровне цель решающей системы задается описанием некоторого желаемого будущего состояния более широкой системы, включающей данную систему и среду. В описанных выше экспериментах цель задавалась системе путем некоторого предписания. В этом смысле цель представляла собой желание экспериментатора, а не системы.

В связи с этим возникает несколько важных проблем. Что следует понимать под «желанием неодушевленного существа»? Как такое существо может создавать модель предпочтительного будущего состояния? Как качественное описание цели может быть переведено в количественный язык, необходимый для точных вычислений?

Чтобы оказаться пригодной, цель должна быть каким-то образом представлена внутри самого организма. «Желательность» любой конкретной цели предполагает существование способности принимать решения, с помощью которой из множества возможных моделей выбирается одна определенная как наиболее ценная. Такая «оценка ценности» модели является отражением цели более высокого уровня, которая в свою очередь должна выбираться на основе еще более высокой цели. Этого порочного круга можно избежать, придав системе способность строить «модели самой себя». Как указывалось в предыдущей главе, возможно построить машину, которая проявляла бы черты самосознания.

') Сходный компромисс необходим и при проектировании летательных аппаратов, когда рабочая точка должна быть выбрана где-то между максимальной маневренностью и абсолютной устойчи

востью самолета.

Такая машина могла бы, когда в этом возникает необходимость, описывать существенные черш своего внутреннего процесса переработки информации. Обладая такой способностью, система может проявлять естественную тенденцию к самосохранению1), что является как бы развитием ее физической инерции. Самосохранение — наивысшая цель в любой наиболее сложной иерархии подцелей, которые может иметь организм, поскольку все подцели направлены на выживание. Множество возможных будущих исходов образуется как комбинация результатов некоторого набора возможных событий. Наилучшим считается то будущее состояние, которое обеспечивает в рамках имеющейся модели наибольшие гарантии для самосохранения. Этот процесс снова является эволюционным.

Конкретность моделей на различных уровнях может быть весьма различной. На высших уровнях цель может выражать самые общие намерения. Модель «самого себя» может быть весьма неконкретной. Насколько конкретно должно быть такое представление, чтобы служить в качестве надлежащей цели или обеспечивать удовлетворительное проявление самосознания? И здесь снова ограничения непосредственно зависят от физической реализации системы с точки зрения ее возможностей по пе-

*) Против утверждения, что самосохранение есть наивысшая цель живого существа, можно выдвинуть возражения, указав на факты самоубийства и самоистязания, в которых проявляется доминирующее стремление к самоуничтожению. Однако, за исключением случаев помешательства, разумные индивидуумы проявляют по отношению к себе некоторым образом «разумное» отношение Счи тается, что мученик жертвует своей жизнью для сохранения некоторого принципа, с которым он себя отождествляет. Мученик полагает, что идеалы, которые он отстаивает, могут быть лучше всего сохранены путем принесения в жертву того, что для него имеет меньшую ценность Согласно его логике, он тоже стремится к самосохранению, но это «само » не отождествляется с его телесной субстанцией. Точно так же самоубийство совершается, когда человек воображает, что такой акт перенесет его в некое лучшее состояние, явится наказанием для другого лица, послужит какой-то другой формой возмездия. И в этом случае индивидуум поступает таким образом, чтобы сохранить то, с чем он себя отождествляет, а не свою плоть. Другие случаи, которые на первый взгляд кажутся самопожертвованием, могут быть интерпретированы аналогичным образом.

реработке информации и объема памяти. Точно так же как имеются разные степени интеллекта, существуют и различные степени самосознания.

При достаточно большой сенсорно-моторной разрешающей способности для данной системы может оказаться возможным раздельно моделировать отдельные аспекты ее среды посредством наблюдений за ее поведением Может оказаться возможным генерировать предполагаемую цель для каждого наблюдаемого существа и сравнивать ее со своей собственной целью. Распознавание элементов сходства и различия в целях создает основу для социального поведения. Любая модификация поведения взаимодействующих организмов устанавливает факт существования организации, которая сама представляет собой некий новый «организм». Чем сильнее это взаимодействие, тем прочнее организация Ее цель отражает цели ее первичных составляющих. Осознав их существование, организация может воплотиться в специфическую форму. Ее цель получает явное выражение при попытке более точного отражения взвешенных целей всех ее членов. Семья, промышленная компания, сельская или городская община, нация — все это примеры таких организаций.

Подцели этой организации должны генерироваться с учетом ее основной цели и целей всех ее членов. Демонстрация успешности поведения на уровне «стимул — реакция» прибавляет организации силы и уверенности. Вскоре для каждого члена организации становится необходимым приписывать больший вес тем личным целям, которые в максимальной степени соответствуют цели организации. Так возникает сплоченность. Члены организации уже больше не могут рассматривать себя изолированно. Существенное сходство между разумными существами (хотя бы по одному интеллекту) влечет за собой и сходство их целей. Так возникает соревнование. Возникающий при этом антагонизм может быть сглажен только при более высоком уровне социальной сплоченности.

Рассматривание других существ с точки зрения их предполагаемых целей таит в себе некоторую опасность. Ограниченный набор наблюдаемых поведений может

быть всегда объяснен с позиций любой из бесконечного множества целей (включая и случай «отсутствия цели», когда поведение организма становится чисто случайным) Выбор одной из этих целей в качестве «дескриптора» наблюдаемого организма как будто бы устраняет неопределенность ситуации, но вносит и известный риск. Часто избираемая стратегия основывается на допущении, что наблюдаемый организм имеет такую же степень интеллекта, что и его наблюдатель. Тогда ставится вопрос: «Если бы я поступал таким образом, какова бы могла быть моя цель?» Это устойчивая стратегия, но всегда имеется возможность, что наблюдаемый организм обладает более высоким интеллектом и извлечет преимущества из такого предположения, чтобы навязать выгодное для себя взаимодействие.

Еще больший риск связан с выработкой «предполагаемых целей» для внесения «рационального элемента» в наблюдаемое поведение. Отметим, что некоторая упорядоченность может быть обнаружена в любой ограниченной выборке событий даже при чисто случайной среде. Эта упорядоченность отражает собственные характеристики наблюдателя. В более общем случае среда неизвестна и может быть до некоторой степени упорядоченной. Может ли наблюдатель отделить в выборке ту часть упорядоченности, которая фактически связана со средой, от части, отражающей собственные характеристики наблюдателя? Ответ на этот вопрос зависит от способности наблюдателя к «самопознанию». Для того чтобы содержать модель самого себя, некоторая часть организма должна быть особо выделена специально для этой цели. Эта часть организма не описывается в рамках модели. Можно, конечно, снова выделить часть этой части для представления остальной части, но такое представление опять будет неполным, точно так же как «кошка не может попробовать вкус своего языка». Этот окончательный предел устанавливает также пределы степени упорядоченности, которая может быть отнесена за счет наблюдателя. Различение упорядоченности в наблюдаемой среде ухудшается еще и благодаря тому, что каждый стимул, исходящий от организма, до некоторой степени оказывает влияние на наблюдателя, изменяя тем

самым его «интерпретацию» последующих стимулов и его «модели самого себя».

Интеллект до некоторой степени «сам себя ограничивает». По мере того как разумная система для принятия решений приобретает все больший’контроль над средой, ослабляются строгие требования к оставшейся части задачи. Только новые цели или радикальное изменение среды позволяют полностью обнаружить возможности интеллекта. Наибольшее развитие интеллекта требует непрерывных упражнений с подходящими антагонистическими средами.

ГЛАВА СЕДЬМАЯ

Заключение

Теперь настало время рассмотреть основные вопросы в перспективе. Интеллект был определен нами как способность любого принимающего решения организма достигать некоторой степени успеха при поиске широкого многообразия целей в обширном многообразии сред. Универсальность была признана существенной компонентой разумного поведения. После краткого обзора бионики и эвристического программирования основное внимание было сконцентрировано на возможности моделирования эволюции как более общем средстве создания искусственного интеллекта.

Чтобы придать дискуссии более конкретный характер, разумное поведение рассматривалось как сочетание способности предсказывать среду со способностью выбора подходящих реакций с учетом предсказания и заданной цели. Проблема предсказания каждого следующего символа была далее сведена к проблеме отыскания конечного автомата, который оказался бы наилучшим для достижения этой цели в случае, если бы она существовала на всем протяжении опыта.

Такой поиск осуществляется в ускоренном масштабе времени путем моделирования эволюции, при котором конечные автоматы играют роль эволюционирующих организмов. Случайные мутации произвольного исходного автомата производят потомков. Полученные таким образом автоматы проверяются по имеющейся предыстории и оцениваются в зависимости от поставленной цели. Автомат, оказавшийся наиболее успешным, выбирается в качестве нового «родителя». Мутации и отбор

повторяются, а принимаемые решения каждый раз основываются на логике уцелевшего автомата. Эффективность эволюции может быть различными способами повышена, например введением штрафа за сложность.

Цель не обязательно должна ограничиваться предсказанием каждого следующего символа. По существу, та же самая процедура может быть использована для поиска любой хорошо определенной цели в пределах ограничений, накладываемых на допустимые расходы. Таким образом, оценка может производиться по реакциям, предсказание же становится неявной промежуточной переменной.

Ряд экспериментов по предсказанию был проведен со средой из двух и восьми символов, чтобы продемонстрировать гибкость эволюционного программирования. В частности, было обнаружено, что циклические (периодические) среды хорошо предсказуемы даже в том случае, когда «сигнал» искажается возрастающим уровнем шума. Было показано, что предсказывающие автоматы характеризуют сигнал посредством своего асимптотического циклического поведения, когда на их входы подаются их собственные выходы. Стационарные временные последовательности также предсказываются довольно успешно, особенно по сравнению с человеком.

Со значительным успехом был предсказан ряд марковских процессов. В случае произвольного марковского процесса 1-го порядка эволюционная программа достигла такого же показателя, как и оптимальная предсказывающая система, даже без априорной информации о том, что среда — стационарная марковская 1-го порядка и генерируется специальной матрицей переходов.

Эксперименты по предсказанию нестационарных сред включали задачу предсказания простых чисел в последовательности чисел натурального ряда. При введении штрафа за сложность была достигнута компромиссная точка, дальше которой уже не имело смысла предсказывать символ, отличный от нуля. Введение выплаты, пропорциональной редкости каждого предсказываемого символа, сделало задачу еще более трудной. Из первых 100 простых чисел было пропущено только 5; поведение эволюционной программы отражает постепенное пестрое-

ние определения простого числа. Отметим, что все эти эксперименты проводились с использованием одной и той же эволюционной программы.

Другие эксперименты были проведены для демонстрации возможности охарактеризовать неизвестный преобразователь с помощью эволюционной предсказывающей машины. Различные комбинации входной и выходной переменных преобразователя образовали вход для эволюционной программы. Предсказывающий автомат, который получался к концу эксперимента (произвольный автомат с 5 состояниями, заданный на 8 символах), служил представлением логики преобразователя. Это представление оказалось вполне точным, за исключением «лишнего» состояния, которое, вероятно, исчезло бы, если бы эволюционный эксперимент продолжался дольше.

Были проведены эксперименты, показывающие, что эволюционное программирование может быть использовано и для диагностики. В каждый момент времени требовалось оценивать неизмеряемый параметр на основе множества сопутствующих параметров и имеющейся предыстории. Затем сообщалось правильное решение. Для того чтобы не выйти за пределы 8 символов входного алфавита, генерировалась фиктивная выборка данных. Результаты этих экспериментов продемонстрировали значительные возможности метода эволюционного программирования не только с точки зрения правильной диагностики, но и по анализу их чувствительности. Другими словами, эти эксперименты вскрыли порядок важности воспринимаемых параметров с точки зрения их вклада в вынесение соответствующих решений.

Ряд экспериментов был проведен для исследования способности эволюционной программы к распознаванию и классификации образов. Распознавание образов оказалось легкодостижимым, но сразу обнаружилось, что классификация образов осуществляется иначе, чем это обычно свойственно человеку. Было показано, что при видоизменении цели машины так, чтобы она больше походила на цель, используемую человеком при классификации, принципы распознавания обнаружили большее сходство. Конечно, если бы эта цель была известна за-

ранее, то не имело бы смысла обращаться к эволюционному программированию, поскольку такая информация непосредственно могла бы быть использована для эвристической программы. Ценность эволюционной программы для классификации обнаруживается тогда, когда требуется отыскать некоторое существенное сходство в изображениях, которое не очевидно для глаза человека.

В другой серин экспериментов задача заключалась в управлении неизвестным объектом таким образом, чтобы он отслеживал произвольную последовательность символов. Объект мог быть линейным или нелинейным, важно было лишь, чтобы его можно было представить конечным автоматом. Эволюционная программа использовалась для нахождения последовательно улучшающихся моделей данного объекта в функции пар «вход — выход». В каждый момент времени исследовались наилучшие имеющиеся модели, чтобы определить входной символ, который заставляет объект реагировать определенным образом. Если объект не мог воссоздать всех выходных символов, его поведение отслеживало задание с максимально возможной для него точностью.

Были рассмотрены различные аспекты поиска целей в игровых ситуациях. Моделирование эволюции дает средство для подхода к общей ситуации, в которой цели игроков могут принимать произвольную форму, а игроки могут взаимодействовать через общую для них среду. Такой игрок может моделировать своего противника и таким путем может достичь требуемого контроля над ситуацией. Все описанные выше эксперименты по обнаружению, распознаванию и классификации образов, диагностике, управлению, анализу чувствительности, идентификации цели и конфликтным игровым ситуациям были выполнены с использованием одной и той же в своей основе эволюционной программы. Естественно, что это свидетельствует об универсальности эволюционной программы.

Создание искусственного интеллекта путем эволюционного моделирования приводит даже к еще более важным следствиям. Научный метод познания, например, можно рассматривать как некий эволюционный процесс, в котором вырабатывается и оценивается опреде-

ленная последовательность моделей. Научный метод представляет собой универсальную процедуру для выработки понимания характера наблюдаемой среды. Поэтому моделирование эволюционного процесса равносильно механизации научного метода. Индукция, т. е. тот процесс, который, по предположению, требует «творческого духа» и «воображения», была сведена к рутинной процедуре. Этот метод открывает путь к автоматизации интеллекта и освобождению исследователя от рутинной работы, с тем чтобы он мог заняться проблемами более высокого уровня, связанными с выбором подходящих целей и установлением новых параметров среды, которые заслуживают измерений.

Как было указано, научный метод может быть применен на различных уровнях абстракции, причем каждый более высокий уровень строится на основании тех моделей более низких уровней, которые оказались правильными. В то же время должно быть возможно создание систем, которые генерировали бы свои собственные цели в соответствии с внутренне построенными моделями «самого себя» и стремлением к самосохранению. Такие системы могут проявлять элементы самосознания в том смысле, что они могут при необходимости описывать существенные черты своего собственного преобразования информации.

При повышении сенсорно-моторной разрешающей способности появляется возможность моделировать отдельные аспекты среды, распознавать наличие сходных организмов, взаимодействовать с ними и таким образом устанавливать некую социальную организацию. Такая организация в свою очередь играет роль некоего принимающего решения «организма» по отношению к окружающей среде. Действительно, она может проявлять такое же целенаправленное поведение, которое характерно для членов этой организации. Выбор целей ее членами должен тогда сообразовываться с различными уровнями «сплоченности» всей организации в целом.

Память строится на памяти. Все, что ощущается, затем утрачивается, за исключением тех событий, которые могут быть связаны с прошлым опытом посредством идентичных факторов. Все эти события связаны общим

масштабом цен в соответствии с ценностью прежде вызванных реакций. Следовательно, без цели память слепа, и даже выживание в этом случае зависит от чистой случайности.

Из чего же состоят цели? Они состоят из факторов, которые способствуют самосохранению, самотождествен- ности организма в том смысле, в каком он сам себя воспринимает. Лишь такие организмы, которые могут эффективно моделировать самих себя, способны изменять свои подцели, чтобы обеспечить выживание. Чтобы выжить, «образ самого себя» должен точно соответствовать реальному организму и его среде.

В этом и состоит летопись жизни. Такое знание дает средство для увеличения емкости памяти, маневрирования целями и для принятия лучших решений. Еше большее значение имеет возможность создания неодушевленных механизмов, обладающих теми же качествами.

ПРИЛОЖЕНИЕ А

Предсказания для случая циклической среды

С целью упрощения будем рассматривать среду, которая в каждый момент времени может находиться лишь в одном из двух состояний. Интересно исследовать множество циклических моделей возрастающей сложности, которые человек строит для сохранения соответствия с наблюдаемыми данными в пределах своей ограниченной памяти.

От индивидуума нельзя ожидать сколько-нибудь ценного предсказания до того, как он проведет наблюдения над средой с помощью множества дескрипторных символов. Без тренировки своих способностей к наблюдению решающее устройство не сможет определить тот конкретный тип символов, которыми можно пользоваться *). При наблюдении первого символа дескриптора делается первое и наиболее естественное предположение, что существует только этот символ. Поэтому система переработки информации предскажет, что в следующем наблюдении снова появится тот же самый символ. Аналогично если в первом наблюдении обнаружилась последовательность из двух одинаковых символов дескриптора, решающая система предсказала бы, что и третий символ будет таким же, как и предыдущие. Фактически если вся предыстория состоит только из конечного числа одинаковых символов, разумно предположить, что среда неизменна, и на этой основе предсказать, что этот символ снова повторится.

') По предположению, принимающий решения имеет априорную информацию о том, что среда существует и фактически существовала задолго до начала наблюдений.

Предположим, однако, что при первом рассмотрении среды обнаруживается смена символов дескриптора; решающее устройство тогда может предсказать, ч’то в силу инерции среды повторится последний по порядку символ. Это минимальное отклонение от предположения о постоянстве среды. С другой стороны, наблюдая пару разных символов, исследователь может перейти к новому алфавиту, состоящему из возможных пар ранее наблюдавшихся символов, что эквивалентно предположению о цикличности (периодичности) среды. При таком преобразовании алфавита становится возможным вернуться к предположению, что среда инвариантна, и на этой основе предсказать, что при следующем наблюдении (при котором ожидается появление этой пары) появится первый из двух отдельных символов. (Здесь мы принимаем, что решающая система считает свои наблюдения безошибочными и поэтому не предполагает постоянства среды по отношению к любому из наблюдаемых символов.)

В случаях когда единственное наблюдение среды обнаруживает тройку переменных символов дескриптора, предсказание повторения последнего символа может быть сделано на основе либо его «недавности» (предположение об инерциальности среды), либо его большей относительной частоты. (Последнее равносильно предположению о том, что среда случайным образом взвешена, т. е. наблюдения рассматриваются как случайные выборки из конечного множества, содержащие различное число раз каждый из символов дескриптора.) То же предсказание может быть сделано на основе предположения об инвариантности среды, т. е. о неизменном повторении наблюдавшейся ранее тройки символов. Следует, однако, заметить, что, если рассматривать среду как состоящую из пар символов дескриптора, предсказанная пара будет противоположна наблюдаемой независимо от того, какая пара символов была взята за основу. Разумно требование, чтобы предсказывающая система исследовала как относительные частоты данных, которые подтверждают каждую гипотезу о природе среды, так и относительную сложность каждой гипотезы

(степень сложности ее предполагаемой логической структуры) .

Подытожим сказанное. Устройство для принятия решений может предсказывать среду на основе различных предположений относительно ее природы, например на основе предположения, что среда инвариантная, циклическая, инерционная или, наконец, «своенравная». Эти предположения перечислены здесь в порядке уменьшения наложенных на среду ограничений. В целом эти предположения охватывают весь диапазон от неизменяемой до случайной среды.

Решающее устройство может действовать на более высоком уровне абстракции только в том случае, если оно уже выполнило серию предсказаний и запомнило, насколько они оказались справедливыми. Например, если наблюдается, что использование пар символов систематически приводит к правильным предсказаниям, то целесообразно будет и дальнейшие предсказания основывать на такой интерпретации наблюдаемых данных. Аналогично если большая часть предсказаний среды оказалась ошибочной, решающее устройство может предположить, что его предсказания каким-то образом повлияли на среду, а это могло затем привести к изменению очередного состояния. На основании такого предположения оно могло бы изменить все будущие предсказанные символы на противоположные, поскольку среда может находиться только в одном из двух состояний. Следовательно, если предсказанные значения были ошибочными, противоположные им обязательно будут верными. (В этом случае решающее устройство меняет свои предыдущие гипотезы на противоположные, чтобы сделать их правильными, а затем наблюдает их согласованность с эмпирическими данными.)

Из дискуссии, проведенной в гл. 6, становится очевидным, что предсказание является лишь конкретным приложением научного метода, при котором неизвестный элемент данных оказывается в будущем. По крайней мере частично риск (ожидаемые потери), связанный с предсказанием, может быть измерен в функции сложности набора предположений, которые совместно с эмпирическими данными образуют модель среды. Только то

решающее устройство, которое запоминает предыдущие решения, может переходить последовательно ко все более и более высоким уровням абстракции, причем модель каждого уровня составлена из других моделей, оказавшихся верными на более низком уровне абстракции. Поскольку все эти предшествующие модели были созданы решающим устройством, становится очевидным, что для извлечения какой-то пользы из функционирования на более высоких уровнях абстракции существенно важен разумный выбор таких моделей.

Чтобы проиллюстрировать некоторые из этих идей, рассмотрим простой алгоритм, включающий штраф за сложность для каждой гипотезы с точки зрения «неэффективности» представления ею наблюдаемой последовательности данных. Для любой конечной последовательности наблюдаемых дескрипторных символов существует подпоследовательность, на которой может быть полностью опознана инвариантная или циклическая среда, т. е. наблюдаемая последовательность образуется при последовательном повторении подпоследовательности. В табл. А.1 приведены 16 из 32 возможных наблюдаемых последовательностей длиной в 5 символов, а также минимальные подпоследовательности, которые могли бы служить базисом для циклической среды, включающей каждую из наблюдаемых последовательностей (остальные 16 последовательностей опущены вследствие их симметрии с приведенными). В общем циклическая (периодическая) последовательность минимальной длины может быть найдена путем сравнения каждого последующего символа с первым. Если первый символ не появляется снова, последовательность «неприводима», т.е. она могла бы быть генерирована лишь той циклической средой, которая основана на этой последовательности или включает данную последовательность в качестве подпоследовательности. Если, однако, первый символ появляется повторно, подпоследовательность символов вплоть до повторяемого первого символа может быть сравнена со следующей последовательностью символов. Такое сравнение может быть выполнено, например, начиная с данного повторяемого символа, путем повторения этой исходной последовательности столько раз, сколько необходимо.

Таблица /1 /

Периодическая подпоследовательность минимальной длины для наблюдений из 5 символов

Наблюдаемая последовательность

Периодическая подпоследовательность минимальной длины

Длина моделирующей подпоследовательности

11111

1

1

11110

11110

5

11101

1101

4

11100

11100

5

поп

011

3

11010

ною

5

11001

1001

4

11000

11000

5

10111

0111

4

10110

по

3

10101

01

2

10100

10100

5

10011

ООП

4

10П10

010

3

10001

0001

4

10000

10000

5

чтобы получилась входная последовательность той же длины, что и наблюдавшаяся ранее последовательность. Если между ними будет существовать взаимно-однозначное соответствие, то найдена подпоследовательность минимальной длины. Если нет, следует продолжить последовательность до следующего по порядку символа, который совпадает с первым, и снова сравнить такую подпоследовательность с наблюдавшейся последовательностью. Такой процесс следует повторять до того момента, пока не будет найдена циклическая подпоследовательность минимальной длины. Очевидно, что для любой конечной последовательности дескрипторных символов такая процедура может потребовать только конечного числа шагов.

Например, наблюдавшаяся последовательность 1011011 сначала сравнивается с последовательностью 1010101,

так как 10 представляет собой последовательность, предшествующую первому повторению начального символа (1). Эти последовательности длины семь не тождественны, поэтому пробная последовательность 10 отбрасывается. Следующее повторение исходного символа приводит к пробной последовательности 101, с помощью которой генерируется 101101. Поскольку эта последовательность совпадает с наблюдавшейся, минимальной циклической подпоследовательностью оказывается 101.

В табл. А.2 приводятся циклические последовательности различной минимальной длины, вплоть до длины в пять единиц, для наблюдаемой последовательности. Следует отметить, что для любой последовательности длиной и, большей или равной 2^, число последовательностей минимальной длины к, которые приводят к наблюдаемой последовательности длиной п, дается формулой

5„№ = 2е-2ШГ

где г — любое целое число, отличное от к и являющееся делителем к.

Предсказание среды теперь начинается со сравнения суммарной эффективности тех моделей, которые предсказывают появление каждого из символов будущей последовательности. Такие модели являются циклическими

Таблица А.2

Число минимальных периодических подпоследовательностей для различных длин наблюдаемой последовательности

Длина наблюдаемой последовательности

Число минимальных подпоследовательностей длиной

1

1 2

1 3 1

4

5

1

2

2

2

2

3

2

2

4

4

2

2

6

6

5

2

2

6

10

12

подпоследовательностями минимальной длины, которые генерируют каждую из наблюденных последовательностей различной длины, начинающихся с последнего по времени символа и включающих этот символ. Эффективность каждой модели измеряется в терминах относительного сокращения необходимого числа символов, т. е. как дополнение до 1 отношения числа символов модели к числу символов в наблюдаемой последовательности.

Те весовые показатели моделей, которые относятся к предсказанию одного и того же символа в конкретной будущей точке, суммируются. Символ, набравший наибольшее число голосов, служит предсказанным значением. Аналогичная процедура выполняется для каждой точки будущего. Модели остаются неизменными, но так как их индивидуальные предсказания могут быть различными, это приводит к различным группировкам в каждый момент времени. Окончательное предсказание каждой будущей точки всегда определяется тем символом, который имеет наибольшее значение показателя полной эффективности, т. е. символом, образованным в результате простейшего набора гипотез, согласующихся с предполагаемыми ограничениями.

Чтобы пояснить этот алгоритм предсказания, рассмотрим конкретный пример. Пусть наблюдаемая последовательность символов дескриптора есть 11011110011. Первый столбец табл. А.З указывает все подпоследовательности этой последовательности в направлении от настоящего момента к прошлому. Второй столбец указывает подпоследовательность минимальной длины, т. е. такую последовательность, которая при неограниченном повторении включала бы в себя соответствующую наблюдавшуюся подпоследовательность первого столбца. В следующем столбце приводятся длины циклических последовательностей каждой модели среды. Затем приведены весовые показатели эффективности; как указывалось, они являются дополнением до единицы отношения длины минимальной подпоследовательности к длине последней наблюдавшейся подпоследовательности. В предпоследнем столбце указываются конкретные предсказанные значения первого следующего символа. Нако-

Таблица А.З

Эффективность предсказания с помощью моделей минимальных периодических подпоследовательностей

Последняя

Периодиче-

Длина подпосле-

Эффективность * под-

Предоказанные значения

подпоследо-

ская последовательность

дователь-

последова-

первого

второго

предыстории

минимальной длины

мальной длины

минимальной длины

щего

следующего

символа

1

1

1

0

1

1

11

1

1

1/2

1

1

011

он

3

0

0

1

ООП

ООН

4

0

0

0

10011

ООП

4

1/5

0

0

110011

ООП

4

1/3

0

0

1110011

10011

5

2/7

1

0

01110011

01110011

8

0

0

1

101110011

01110011

8

1/9

0

1

1101110011

01110011

8

1/5

0

1

Длина

периода модели

Длина последней подпоследовательности

нец, в последнем столбце указаны значения вторых по счету символов, предсказанных соответствующими моделями.

Усредненное предсказание первого будущего символа образуется путем суммирования весовых показателей тех моделей, выходы которых соответствуют данному символу. Сравнение суммарных весов по каждому символу может быть использовано не только для определения конкретного предсказанного символа, но и для указания его относительной степени достоверности. Второй по счету символ может быть предсказан аналогичным образом, т. е. суммированием тех же самых весов, но сгруппированных по-иному. Фактически предсказание любого будущего символа может выполняться аналогично, но можно ожидать, что вероятность успеха такого предсказания будет уменьшаться с увеличением статистической изменчивости среды. Для нашего

примера очередным предсказанным символом будет «О», так как суммарный показатель для нуля равен 38/45, в то время как для единицы он равен 11/14. По тем же соображениям вторым предсказанным символом тоже оказывается «О», но уже с незначительным перевесом.

Отметим, что суммирование весовых показателей по множеству подпоследовательностей различной длины, охватывающих прошлые наблюдения, придает больший вес последнему по времени наблюдению. Такое взвешивание может быть модифицировано на основе прежней информации или в результате анализа данных. Например, для каждой подпоследовательности можно подсчитать нормированное значение переменной, которое служит мерой вероятности, что данная последовательность' могла бы возникнуть при наблюдении случайной среды1). Обратная функция от величины этого показателя может быть использована для характеристики «степени инерции», присущей каждой подпоследовательности. Таким образом, можно применить один и тот же процесс предсказания к целому диапазону сред, от инвариантной до «своенравной».

Интересно исследовать некоторые фундаментальные аспекты этого алгоритма предсказания. Новый алфавит возможных дескрипторных символов генерируется из наблюдаемой последовательности таким образом, чтобы обеспечить максимум экономии. Хотя это, может быть, и не сразу очевидно, такой новый алфавит возможных дескрипторных символов взвешивается с учетом «статистической» ценности каждого символа дескриптора на основе имеющихся данных (наблюдаемой последовательности символов). Другими словами, в добавление к фактору относительной простоты рассматривается такой фактор, как правдоподобие различных моделей, независимо от их различий в длине. Чем короче модель или чем больше число повторений в выборочных данных, тем выше ценность модели' в качестве дескриптора среды и, таким образом, в качестве предсказателя ее будущего поведения. В общих словах цель состоит в отыскании экономи-

*) Dixon W. J., Massey F J., Jr., Introduction to Statistical Analysis, McGraw-Hill, New York, 1957, p. 287.

чески выгодного множества равновероятных дескрипторов для описания наблюдаемого поведения среды.-Расширение их последовательности составляет предсказание будущего поведения среды.

С точки зрения научного метода предпочтительны более простые модели, а также модели, которые часто демонстрируют свою пригодность. Такой алгоритм предсказания требует генерации предположений относительно природы источника информации, предположений, которые согласуются с наблюдениями и даже подсказываются ими. Кроме того, выгода от моделирования большей доли наблюдаемых данных должна быть как-то сбалансирована со стоимостью оперирования с таким «более полным» представлением.

По мере наблюдения новых данных может генерироваться новое множество моделей. Можно ожидать, что это новое множество будет иметь значительное сходство со своим преемником, так как оба основаны на почти одинаковой предыстории. Отсюда вытекает итерационный метод последовательного предсказания временных рядов, который использует выгоды от избыточной «наследственности». К сожалению, как уже указывалось, этот метод также ограничен классом циклических моделей.

ПРИЛОЖЕНИЕ Б

По поводу различных мер сложности

Очевидно, что недостаточно характеризовать сложность автомата при помощи числа состояний, входящих в его диаграмму состояний. Например, ясно, что автомат, диаграмма состояний которого представлена на фиг. 6.1,0, более сложен, чем автомат, описываемый фиг. Б.1,б. Следовательно, требуется некоторый способ для описания логической сложности любого данного автомата. К сожалению, логическая сложность является многомерной величиной, так что во многих случаях не существует простого способа ее упорядочивания. Аналогичная проблема возникает при сравнении числовых матриц. Легко, конечно, выписать две такие отличающиеся друг от друга матрицы, но трудно ввести для них содержательную меру порядка.

Чтобы можно было ввести содержательный штраф за сложность как полезный параметр в процедуре расчета, должна существовать некоторая единственная мера общей стоимости сложности; последняя должна быть комбинированным отображением различных аспектов сложности, выраженных через их стоимости. Первым шагом в этом направлении является выражение этих индивидуальных аспектов сложности через измеримые характеристики автоматов.

Напрашивается атомистический подход к этой проблеме, т. е. отыскание некоторого способа представления любого автомата в виде комбинации элементарных автоматов. С помощью такого разложения на компоненты должно оказаться возможным сравнивать сложность, число и степень связанности элементарных автоматов;

Фиг. Б.З. Автомат Л13 и сто простые контуры.

эти параметры образуют общее множество мер для любого автомата. Прибегнув к аналогии, предположим, что требуется измерить относительную сложность молекул различных химических соединений. Это во многих случаях чрезвычайно трудная задача, но интуитивно ясно, что молекула перекиси водорода Н2О2 более сложна, чем молекула воды Н2О, поскольку она имеет добавочный атом кислорода. Тогда по аналогии легко заключить, что молекула сульфата меди CuSO4 более сложна, чем молекула сульфата магния MgSO4, вследствие большей сложности атома меди. Подобным же образом молекулы двух разных органических веществ могут состоять из того же набора атомов и иметь одинаковую сложность с точки зрения числа связей. Наконец, могут быть даже две различные молекулы, состоящие из одинаковых атомов и имеющие одинаковое число связей и все же отличающиеся по своей конфигурации, а потому и разные по сложности. В этом последнем смысле проблема наиболее сложна, и чтобы получить дополнительную информацию, необходимо перейти к сравнению их поведения и считать, что та молекула сложнее, которая выполняет все функции другой молекулы и еще кое-что сверх того.

В результате работы Крона и Роудса по алгебраической теории машин ) оказалось возможным сделать существенный шаг на пути количественного измерения сложности автоматов. Фундаментальный результат их работы касается разложения (декомпозиции) любого конечного автомата на составляющие простые автоматы. Более точно — декомпозиция данной машины на простые элементы состоит в такой параллельно-последовательной конфигурации простых машин, которая при минимальном числе таких машин будет вести себя так же, как и данная машина; другими словами, не существует конечной последовательности входных символов, которая при-

вела бы к иной последовательности выходных символов. Как и следует ожидать, простая машина определяется как такая, которая не может быть синтезирована в виде комбинации других машин.

Чтобы установить простые машины при декомпозиции, часто полезно найти простые контуры данной машины. Контуром машины называется последовательность различных состояний 9Ь q^ . .., q„, таких, что, приложив входную последовательность t, мы получаем q—>qt+\ при i = l, 2, ..., п—1 и q„ —► qv Длина такого контура равна п, т. е. числу различных состояний в последовательности. Контур считается простым тогда и только тогда, когда длина контура выражается простым числом. Важно отметить, что простые контуры машины в общем случае не могут быть выявлены исходя из явных геометрических свойств диаграммы состояний. Контуры длиной 1 не имеют значения и потому опускаются в последующих рассуждениях.

Рассмотрим для иллюстрации конечное семейство автоматов Мп (фиг. Б.2). Для п=3 автомат сводится к элементарному циклическому автомату, изображенному на фиг. Б.З. Простые контуры этого автомата находятся путем подачи на вход символа «О», который вызывает периодический сдвиг состояний и возврат в любое начальное состояние за три перехода. Три — простое число, поэтому можно сказать, что входной символ «О» выделяет простой контур длиной 3 (который более удобно называть 3-контуром). Аналогично вход 1 позволяет распознать другой 3-контур. Легко видеть, что все контуры большей длины состоят из этих контуров и 1-контуров (петель).

Если и=4, то, как показано на фиг. Б.4, входной символ «О» производит циклическую перестановку состояний 1, 2, 3, как и в случае /г=3. Следовательно, имеется 3-контур. Аналогично входной символ «1» производит циклическую перестановку четырех состояний, выделяя, таким образом, контур длиной 4. Можно показать, что если входная последовательность t выделяет контур длиной прп^, то входная последовательность <”'выделяет контур длиной п2 (показатель степени указывает

Ф ii г. 6.5. Автомат М5 и его простые контуры.

число повторений последовательности /) •). В результате контур длиной 4 эквивалентен двум 2-контурам в разложении на простые контуры. (Эти 2-контуры выявляются при подаче входной последовательности 11, как показано на фиг. Б.4). Таким образом, простые контуры автомата имеют длину 2 и 3.

Дополнительные трудности возникают при п=5. Входной символ «1» выделяет 5-контур, а входной символ «О» выделяет 3-контур. Далее, для распознавания двух контуров длиной 2 может быть приложена входная последовательность 0111101. В общем случае можно показать, что автоматы этого семейства при п ^ 5 имеют контуры длиной р, где р— простые числа, такие, что р^п. Кроме того, это семейство принадлежит к более широкому классу групповых автоматов (машин, в которых каждая входная последовательность производит перестановку состояний). Такие автоматы могут иметь р-контуры только для тех р, которые меньше или равны числу состояний п.

Для полной характеристики данного автомата иногда полезно найти его простые контуры. Многие простые контуры соответствуют счетчикам по модулю 3 в декомпозиции автомата. До тех пор пока это справедливо, индивидуальные длины таких счетчиков образуют меру их сложности. Существуют, однако, и такие элементарные автоматы, которые не эквивалентны счетчикам ни по одному из модулей. Автомат, описанный выше (и=5; фиг. Б.5), является наименьшей из таких машин. В сущности, все члены семейства автоматов Мп при п ^ 5 попадают в этот класс. В общем случае можно показать, что если существуют только простые контуры длиной р и q^p+я^ или не .существует 2-контуров, то данный автомат может быть последовательно разложен на счетчики, модулями которых служат лишь те простые числа, которые соответствуют простым контурам. (Другими словами, если множество длин простых контуров не содержит числа 2, то автомат может быть

*) Это свойство позволяет тюбой контур разложить на простые контуры. Например, 12-контур эквивалентен наличию двух 2-контуров и одного 3-контура,

построен из счетчиков, линий задержки и элементов «И» и «ИЛИ».) Если эти условия не удовлетворяются, простые контуры все же имеют значительную ценность, поскольку они устанавливают (или хотя бы сохраняют) возможность существования более сложных простых автоматов, сложность которых можно измерить числом состояний и другими характеристиками.

Совершенно очевидно, что дополнительным аспектом сложности является минимальное число каждого типа простых автоматов в декомпозиции; помимо этого, еще большее уточнение меры сложности может быть достигнуто путем введения меры относительной сложности различных конфигураций контуров по отношению друг к другу и необходимого кодирования для связи между простыми автоматами.

ПРИЛОЖЕНИЕ В

Блок-схема эволюционной программы

Словесное описание функционирования эволюционной программы на 8 символах поясняется схемами, изображенными на фиг. ВЛ—В.З.

Для надлежащего различения каждого цикла автомата входные данные сначала записываются в память машины, а затем выдаются на печать. Исходный автомат затем проверяется на предыстории, а накопленный при этом опыт может быть использован при детерминированном задании соответствующего выхода для каждой возможной пары «вход — состояние» таким образом, чтобы достигнуть минимального показателя на предъявленной предыстории. Это делается путем определения для каждой пары «вход — состояние» того выхода, с которым связано наименьшее значение показателя ошибок на каждом переходе. Стоимости ошибок определяются из матрицы цели. Для тех пар «вход — состояние», которые не встречались на предыстории, выходной символ выбирается из наиболее часто встречавшихся. Далее подсчитывается значение показателя ошибок для испытываемого автомата при обращении к матрице цели. После этого к показателю ошибок добавляется коэффициент штрафа (если он должен учитываться).

Далее проводится испытание, чтобы установить, достаточное ли число автоматов записано в памяти. Если нет, то испытываемый автомат запоминается.

Затем подсчитывается распределение вероятностей для выбора следующего автомата, который должен быть подвергнут мутации путем использования интерва-

Фиг. В.1. Функциональная схема эволюционной программы

Фиг. В.2. Функциональная схема эволюционной программы (продолжение).

лов. При этом суммируются величины, обратные показателям ошибок1). Каждый такой обратный показатель делится на эту сумму, что дает нормированные величины. Границы интервалов подсчитываются при накоплении суммы нормированных показателей. Длина интервала, связанная с каждым автоматом, оказывается,

*) Под показателем ошибок понимается сумма частных показателей ошибок предсказания для каждой пары «вход — состояние» с учетом коэффициента штрафа (если он применяется).

Фиг. В.З. Функциональная схема эволюционной программы (окончание).

таким образом, обратно пропорциональной ее показателю ошибок

АйтомЖ, подлежащий мутации, определяется случайным числом R (0 ^ R ^1), которое попадает в пределы связанного с ним интервала. Выбранный автомат переводится в режим испытаний. Выбор режима мутаций производится аналогично; он определяется тем интервалом распределения режимов мутаций, в который попадает случайное число. После мутации выбранного автомата проверяется, требуются ли добавочные мутации. Если да, производится выбор режима мутаций, как описано выше. Если же дополнительных мутаций не требуется, управление передается той части программы, где выходные символы для каждой из пар «вход — состояние» устанавливаются детерминированно.

Следует обратить внимание на проверку условия, было ли запомнено требуемое число автоматов.

Если требуемое число автоматов записано в памяти, производится сравнение показателей') испытываемой машины с наибольшим показателем среди запомненных автоматов. Если показатель испытываемого автомата меньше или равен наибольшему показателю для записанных в памяти автоматов, то запомненный ранее автомат заменяется в памяти на испытываемый автомат.

Далее показатель испытываемого автомата сравнивается с наименьшим показателем записанных в памяти автоматов. Если он оказывается меньше или равным наименьшему показателю, говорят, что произошла смена поколений. Число поколений с момента последнего предсказания сравнивается с максимальным числом поколении на одно предсказание (это число считывается в качестве входных данных). Если достигнуто максимально допустимое число поколений на одно предсказание, требуется выполнить «фактическое предсказание». Входным символом для предсказания служит последний известный символ запомненной предыстории, а в качестве внутреннего состояния выбирается последнее по времени внутреннее состояние автомата, имеющего наименьшее значение показателя.

*) Т. ё. вероятностей ошибки предсказания. — Прим, персе.

Результаты сравнения предсказанного символа со следующим символом среды, а также другая подходящая информация выводятся на печать. Следующий тест определяет, стоит ли продолжать обработку данных. Если нет, то программа заканчивается. Однако если требуется дальнейшее предсказание, проверяется условие, требуется ли «рост запоминания» или применение «скольжения». «Рост» означает добавление последнего символа среды к запомненной предыстории с соответствующей «настройкой» показателей ошибок каждого запомненного автомата с учетом компоненты ошибки, связанной с увеличением длины последовательности. При «скотьжении» помимо указанных изменений из предыстории выбрасывается первый символ и вычитается связанная с ним компонента ошибки из общего показателя.

После завершения операций «роста» или «скольже ния» проверяется правильность последнего предсказания. Если предсказание оказалось правильным, производится передача управления к «6», т. е. к той части программы, где автомат с наименьшим значением показателей ошибок предсказывает следующий символ среды. Этот автомат используется в качестве предсказателя до тех пор, пока не произойдет ошибки в предсказании. Когда появляется ошибка в предсказании, происходит передача управления к «р», т. е. к той части программы, где подсчитывается распределение вероятностей для выбора очередного автомата для мутаций.

Обращается внимание на проверку условий в точке «ц». Если показатель ошибок испытываемого автомата выше наибольшего показателя среди запомненных машин, то испытываемый автомат не требуется сохранять, и потому он отбрасывается. Затем производится проверка условия, был ли достигнут максимум допустимого числа мутаций на одно предсказание. Если нет, то управление передается к «а», т. е. к той части программы, где выбирается автомат для мутаций. Если же максимум числа мутаций на одно предсказание уже достигнут, управление передается к «д».

Следует снова сделать замечание по поводу сравнения показателя ошибок испытываемого автомата с наи-

меньшим показателем среди запомненных автоматов. Если показатель ошибок испытываемого автомата окажется выше, производится проверка условия, не достигнут ли максимум допустимого числа мутаций. Если да, управление передается к «6», если нет — к «р».

Обратимся еще раз к операции сравнения числа поколений, прошедших с момента последнего предсказания, с максимально допустимым числом поколений на одно предсказание. Если максимум не был достигнут, проверяется, достигнут ли максимум числа мутаций на одно предсказание, и продолжается выполнение программы, как описано выше.

Конечные автоматы как примитивно рекурсивные функции

Как отмечалось выше, для того чтобы конечный автомат безошибочно предсказывал среду, среда должна быть периодической (циклической), т. е. она должна содержать конечную последовательность no^i ... а^-ь повторенную неограниченное число раз. Если мы представим эту периодическую последовательность как функцию ) целочисленного аргумента, мы получим

| ап для О^п < к I. а, для п^к, где г — остаток от деления п на к.

Следовательно, для того чтобы доказать, что функция, определяемая конечным автоматом, является примитивно рекурсивной, достаточно доказать, что периодическая функция f примитивно рекурсивная.

Как показал Дэвис1), функции х+у, ху и х—у примитивно рекурсивные. Назовем предикат Р(у, х) примитивно рекурсивным, если характеристическая функция множества значений, для которых высказывание истинно, есть примитивно рекурсивная функция. Пусть Р^у. х) — предикат, а М РЦи х)— функция, у=о

значение которой для данных х и z равно такому наи-

’) Davis М„ Computability and Unsolvability, McGraw-Hill, New York, 1958; см. также M а л ь ц e в А. И., Алгоритмы и рекурсивные функции, изд-во «Наука», 1965; Марков А. А., Теория алгоритмов. Труды Мат. ин-та АН СССР, т. 42, 1954.

меньшему у^г (если таковое существует), для которого высказывание Р (у, х) истинно Если такого у не суще.ствует, то значение этой функции принимается равным нулю. Тогда функция М Р ^у, х) примитивно рекурсив- у=о

сивная, если предикат Р^у, х) примитивно рекурсивен •).

Доказательство того, что циклическая функция f примитивно рекурсивна, вытекает из следующей! цепочки утверждений.

g(x^=a примитивно рекурсивна для всех х.

Доказательство. g(x) =5а(ДЦх)), где S" — п-кратная композиция функции S, т. е. S(x)=S(x); S2(x) =S(S*(x)), ..., S°(x) = S(S0-*(x)) Следует напомнить, что S(x)=x+1 и N^x^O для всех х.

Предикат ky + k>h примитивно рекурсивен, где к- фиксированное целое число.

Доказательство. Характеристическая функция для этого предиката имеет вид

1 -(1 -Цку + к^пП.

Функция [п/к], равная наибольшему целому -^м/к, примитивно рекурсивная.

Доказательство.

[п'к\ = М (ky + к>п\»-0

Функция Р(п, к), равная остатку от деления п на к, примитивно рекурсивная.

Доказательство

Р (/?, k) = п ~ к [/г к).

Функция |х—у\ примитивно рекурсивная.

Доказательство.

I X - у | = (х у) + (у -^ х)

С„ (х), т. е. характеристическая функция множества, содержащего в качестве единственного элемента целое число п, примитивно рекурсивная.

Доказательство.

Сп (х) = 1 - | п — х I.

Если GOfZ] ... aft_i — произвольное множество к целых чисел, то функция f(n) =аг, где г — остаток от деления п на к, примитивно рекурсивна.

Доказательство, к функций }Д6 -Сг<ку определяемых уравнением /г(х)=иг для всех х, примитивно рекурсивны. Cr(R(n, k)), будучи композицией примитивно рекурсивных функций, также примитивно рекурсивна для каждого г(0 ^г<ку Поскольку сумма или произведение примитивно рекурсивных функций примитивно рекурсивны, то функция

S-1

F^^L^CAR^n, k))r=0

тоже примитивно рекурсивна. Но Сг(Д(/г. А))=0, если rN=R(n, k), и CtR(n, ^) = 1, если r=R(n, ку, поэтому F (п) =У^п^ = ат, где г — остаток от деления п на к. Однако это выражение в точности равно HnV так что F=f и f— примитивно рекурсивна.

Машина Тьюринга, заданная таблицей Г. 1, такова, что при начальном состоянии qx она полностью описывает последовательность 101100111000..., т. е. при любом символе в сканируемой ячейке и пустых остальных ячейках ленты машина выдает полностью всю эту последовательность. В принципе машина Тьюринга представляет собой множество пятерок символов вида qtSjShRqm или q^Si-bq™, которые интерпретируются следующим образом: если машина находится в начальном состоянии qt и наблюдаемый символ есть Sj, то символ S/, печатается на ленте (если 5л — пустой символ, то происходит стирание записи); лента сдвигается на одну клетку вправо (или влево), а машина переходит в состояние qm.

По сравнению с представлением четверками символов выражение qiSjS^Rqm эквивалентно паре четверок

вида qiSjShqr и qrSkRqm- Аналогичная эквивалентность устанавливается для qiS^Lq^. Для полного представления машины Тьюринга необходимы два других типа пятерок символов: 1) qiSsSkNqm, где N обозначает, что лента не движется, и 2) qiSSkq.qn^ где управление передается состоянию qr, если S, принадлежит данному множеству А, и передается qm в противном случае.

Таблица Г.1

0

1

•

Пустой символ

91

1^92

1^92

1^92

1Л?2

92

ORqs

9з

!Rqt

94

1^95

95

0^-95

1^-96

*Lq5

9е

0^^7

lLq6

ORqe

9?

OLq,

iRqs

ORqB

98

*Rq9

^Rq«>

99

0Rq9

\Rq9

ORqs

9 ю

oRqio

^Rq .0

ORq in

*Lqu

911

^Lq 12

1^-911

912

OLy ,2

1^-913

iRqn

913

oRq^

1^-913

\Rqit

914

ORqie

*Rql5

915

OR Vis

iRq^

^Rqio

916

oRq 16

^Rqis

1^916

*Lqs

В табл. Г.1 текущее состояние приведено в крайнем столбце слева, а сканируемый символ—в верхней строке. Входы в соответствующие блоки таблицы задаются тремя последними членами пятерок.

Работа машины указывается перечислением последовательно встречающихся пятерок и описанием соответствующих операций над лентой и машиной. (Пропуск на ленте обозначается буквой Ь. * это символ, используемый в качестве маркера, а х обозначает, что на это место может быть вставлен любой символ.)

qtx\Rq2 — печатание „1“ в позиции „Г, сдвиг ленты на один шаг вправо и переход в состояние q2.

q2bORq3 — печатание „0“ в позиции „2“, сдвиг вправо и переход в состояние q3.

q3b\Rq4 —печатание „1“ в позиции „3“, сдвиг вправо и переход в состояние q4.

q4b\Rq3 —печатание „1“ в позиции „4“, сдвиг вправо и переход в состояние q5.

q5b *Lq5 — печатание * в позиции „5“, сдвиг влево и сохранение состояния q5.

?511£?6 —сохранение „1“ в позиции „4“, сдвиг влево и переход в состояние q6.

у611£у6 —сохранение „1“ в позиции „3“, сдвиг влево и сохранение состояния q6.

q600Lq7 —сохранение „0‘ в позиции „2“, сдвиг влево и переход в состояние q7.

q7\lRq8 —сохранение „1“ в позиции „1“, сдвиг вправо и переход в состояние q8.

у80 * Rq9 — замена „0“ на * в позиции „2“, сдвиг вправо и переход в состояние q9.

^gll/?y9 —сохранение „1“ в позиции „3“, сдвиг вправо, сохранение состояния q9.

^911/?(74 —сохранение „1“ в позиции „4“, сдвиг вправо, сохранение состояния q9.

q9 * ORq5 — замена * на „0“ в позиции „5“, сдвиг вправо и переход в состояние q5.

q8b * Lq3 — печатание * в позиции „6“, сдвиг влево, сохранение состояния q5.

q500Lq5 —сохранение „0“ в позиции „5“, сдвиг влево, сохранение состояния q5.

Шаги 5, 6 и 7 повторяются вновь, а шаг 8, поскольку там сейчас в позиции 2 вместо „0“ записана звездочка, заменяется на

q6 * ORq8 — замена * на „0“ в позиции „2“, сдвиг вправо и переход в состояние q8.

9811/?910 — сохранение „1“ в позиции „3“, сдвиг вправо и переход в состояние qto.

Находясь в состоянии дю, машина сохраняет все «0» и «1» на ленте без изменений, сдвигает ленту вправо и

остается в состоянии qw. Так повторяется до тех пор, пока не появится позиция «6». Поскольку в позиции «6» записана звездочка, следующим шагом будет

q\o*ORqto — звездочка в позиции „6“ заменяется на „0“, сдвиг вправо и сохранение состояния q№

К этому моменту напечатана последовательность 101100, автомат сохраняет состояние qm, а на ленте сканируется бланковая позиция «7». Фактический результат состоит в том, что автомат, используя * в качестве маркера, вслед за последовательностью единиц печатает последовательность нулей; длина ее на единицу больше длины той последовательности нулей, которая предшествует данной последовательности единиц. Следующая пятерка символов — qxob^Lqu. Состояния qw — —916 аналогичны состояниям q^ — q\o за исключением того, что теперь символ «■ связывается с символом «1», а не с «0». В результате, используя звездочку в качестве маркера, машина печатает вслед за последней по порядку последовательностью нулей последовательность единиц, длина которой на единицу больше длины предшествующей последовательности единиц. Теперь автомат находится в состоянии 9i6, а сканируемая позиция — пустая, так что подходящей пятеркой символов оказывается 9i66»L9s. После этого шага машина возвращается в состояние 95, и повторяется процедура вычисления перемежающихся последовательностей нулей! и единиц, каждая из которых увеличивается в длине на единицу но сравнению с текущей последовательностью.

Различные представления конечных автоматов

Выбор класса функций для представления организма — это лишь часть проблемы. Даже в пределах конкретного класса выбор соответствующего выражения может оказать значительное влияние на характер возможных режимов мутации. Чтобы убедиться в этом, рассмотрим некоторые наиболее распространенные формы представления конечных автоматов.

Вероятно, наиболее простой из них является диаграмма состояний. На этой диаграмме каждое состояние представляется одной из вершин. Каждый возможный переход из данного состояния при поступлении входного символа обозначается направленной ветвью, связывающей соответствующие вершины. Короткая стрелка указывает начальное состояние. Рассмотрим для примера простой троичный счетчик, который выдает на выходе «1» при появлении на входе каждой третьей единицы. Такой автомат представлен диаграммой состояний на фиг. Д.1. Здесь символ, стоящий перед косой черточкой, является входным символом, который вызывает данный переход, а символ после черточки — соответствующим выходным символом. Заметим, что имеется пять независимых и простых способов для случайной модификации диаграммы состояний: 1) замена произвольно выбираемого выходного символа другим; 2) изменение начального состояния; 3) изменение следующего состояния для произвольно выбранного перехода; 4) добавление в диаграмму состояний одного состояния с произвольными связями и 5) исключение одного про- извотьно выбираемого состояния. Правила мутации

могут включать любой или все режимы мутации (или их комбинации), поскольку результирующая диаграмма состояний при этом все еще будет представлять некоторый конечный автомат.

Для полноты изложения стоит указать и на возможность представления любого конечного автомата с помощью диаграммы «состояния — выходы». Символ, указанный у стрелки (фиг. Д. 1 и Д2), вызывает переход из состояния, связанного с хвостом стрелки, в состояние, к которому направлено ее острие. Символ справа от двоеточия является выходным символом при этом переходе. В таком представлении каждому состоянию соответствует только один выходной символ. Таким образом, обыкновенно оказывается, что представление конкретного автомата с помощью диаграммы «состояния — выходы» имеет большее число состояний, чем их содержится в обычной диаграмме состояний. На фиг Д.2 приводится эквивалентное представление для упоминавшегося выше троичного счетчика. Отметим, что начальным состоянием может быть либо А, либо Д'. Режимы мутаций для такого представления отличны от перечисленных выше, так как в этом случае уже невозможно более изменять произвольно выбранный выходной символ.

Конечные автоматы могут быть представлены также с помощью эквивалентных полугрупп. Полугруппу можно рассматривать как описание преобразований, которые, будучи приложены к множеству входных последовательностей, приводят к существенно различимым режимам работы автомата. Это относится не только к их выходам, но и к изменениям их внутренних состояний.

Чтобы найти полугруппу данного автомата, рассмотрим каждую из возможных входных последовательностей возрастающей длины при помощи результирующего конечного состояния и связанного с ним выходного символа (это относится ко всем состояниям автомата). В табл. Д.1 приводится такое представление для троичного счетчика. Сравнение характеристик поведения машины на различных последовательностях входных символов позволяет установить последовательности полугрупп эквивалентности. Таблицу нужно продолжать до

1П

тех пор, пока не б) дут найдены все возможные реакции автомата. Отметим, что входные последовательности длиной в четыре символа уже содержатся в предыдущей части приведенной таблицы. В качестве элементов полугруппы условились выбирать такие входные последовательности минимальной длины, которые дают различимые выходные последовательности.

Таблица Д.1

Характерные реакции троичного счетчика на различные входные последовательности

Входная последовательность

А

в

с

0

До

во

со

1

ВО

со

Д1

00

до

во

со

01

во

со

Д1

10

во

со

до

11

со

Д1

во

000

до

во

со

001

ВО

со

Д1

010

во

со

до

011

со

Д1

во

100

во

со

до

101

со

Д1

во

по

со

до

во

111

С1

во

со

Фиг. Д.2. Диаграмма «состояния — выходы» тро шного счетчика.

Сама полугруппа может быть тогда построена в форме таблицы, которая описывает работу автомата через преобразования всех возможных входных последовательностей, т. е. в терминах оперирования автоматом с эквивалентной! последовательностью элементов. В табл. Д.2 представлена полугруппа для троичного счетчика Реакция данного автомата на последовательность 101110 может быть найдена, если заметить, что данная последовательность состоит из частей 101 и ПО. Первая из них эквивалентна 11, так что (101) (110) =

Таблица Д.2

Полугруппа троичного счетчика

0

1

10

11

по

ш

" 0

0

1

10

11

НО

111

1

10

11

но

111

0

1

10

10

и

но

111

0

1

11

110

111

0

1

10

11

но

по

111

0

1

10

11

111

0

1

10

11

но

111

= (11) (110), что по табл. Д2 равно 10. Тогда реакция находится по табл. Д.1 в строке и столбце, соответствующим 10, т. е. реакцией является «0».

При модификации полугруппы возникает ряд фундаментальных проблем в связи с тем, что изменение режима работы для любой комбинации элементов может привести к такому режиму, который уже не описывается полугруппой ввиду возможности потери требуемой ассоциативности. Поскольку случайное изменение представления конечного автомата с помощью полугруппы в общем случае не приводит к конечному автомату, подобный способ представления не может служить удобной основой для мутаций.

Каждый конечный автомат можно выразить также каким-то числом. Такая числовая система была впервые построена в 1931 г. Геделем в его классической диссертации. Чтобы построить число Геделя для любого данного автомата, необходимо лишь связать единственное множество числовых дескрипторов с каждым из входных символов и состояний автомата. Например, число Геделя для троичного счетчика можно найти, если принять что входной символ «0» соответствует 3, входной символ «1» соответствует 5, а число состояний автомата представляется числом 21 + 5, где i—порядковый номер состояния. Таким образом, состояние А соответствует 7, состояние В соответствует 9, а состояние С—11. В табл. Д.З указана составная структура, по которой для любого конечного автомата можно написать такое

Таблица Д.3

Числа Геделя для троичного счетчика

Текущее состояние

Входной символ

Следующее состояние

Выходной символ

Число Геделя

А

0

А

0

~27 3357 73

А

1

В

0

~27 3559 73

В

0

В

0

~29 3359 73

В

1

С

0

~29 З55н73

С

0

с

0

~2Н 335 “73

с

1

л

1

~2"3557 75

число Геделя. Как видно из таблицы, число Геделя для троичного счетчика имеет вид

22733577a22735597sgS93a^33 j2736all73g2H3361173 [ [ 2' '3S577S

Если принять такой способ выражения для эволюционирующих машин, то даже для относительно простых машин определение величины чиста Геделя связано с практическими трудностями.

Конечно, выражение Геделя для любого конечного автомата можно подвергнуть мутациям, однако при этом необходимо обеспечить, чтобы такие мутации приводили к другому числу Геделя. Оказывается, что такая мутация имеет весьма малую вероятность привести к появлению потомка, который имел бы улучшенную наследственность.

Еще один способ представления конечных автоматов дает их декомпозиция на простые контуры. Согласно недавно опубликованной работе Крона и Роудса, любой конечный автомат можно представить в виде параллельно-последовательного соединения простых автоматов. Это открывает возможность для получения путем мутаций различных сочетаний из первичных элементов, образующих исходный автомат, и добавочных элементов. Троичный счетчик — не простой автомат, но он может быть разложен на параллельную композицию двух простых автоматов, начиная с полугруппы S = = (0,1,10,11,110,111}, где операции на полугруппе задаются в табл. Д.2. В терминах декомпозиции Крона — Роудса S=R2xZa, где Т?2={0, 1} и задана операция а ° с = = с, a Z3 — аддитивная группа целых чисел по модулю 3, т. е. Z3={0, 1, 2} и задана операция b = d=r, где г остаток от деления b + d на 3. Для элементов (й, 6) и (с, d) в R2XZj в этом случае имеем (й, 6) (с, d^ = (с, г).

Схема операций для R2XZ3 приведена в табт. Д.4. Сравнение показывает, что данная таблица изоморфна табл. Д.2 для S при следующих соответствиях:

(0.0)-111; (1,0) — 0; (0,1) - 1; (1,1)-10;(0,2) - 11; (1,2) - ПО.

Более того, при этом способе задания автоматов возможно определить различные режимы мутаций, но мо-

Таблица Л 4

Таблица операций для полугруппы Р^ X Za

(0,0)

(1,0)

(0.1)

(1,1)

(0,2)

(1,2)

(0,0)

(0,0)

(1,0)

(0,1)

(1,1)

(0,2)

(1,2)

(1.0)

(0,0)

(1.0)

(0,1)

(1,1)

(0,2)

(1,2)

(0,1)

(0,1)

(1,1)

(0,2)

(1,2)

(0,0)

(1,0)

(1,1)

(0,1)

(U)

(0,2)

(1,2)

(0,0)

(1,0)

(0,2)

(0,2)

(1,2)

(0,0)

(1,0)

(ОД)

(1,1)

(1,2)

(0,2)

(1,2)

(0,0)

(1,0)

(0,1)

(1,1)

жет оказаться, что проблема хранения в памяти требуемых простых автоматов и соответствующих кодов в сочетании со сложностью мутаций может сделать такой вид представления менее желательным, чем использование диаграммы состояний.

Значительное место в литературе было уделено представлению конечных автоматов в виде эквивалентных им «регулярных выражений». Регулярные выражения можно определить рекурсивно:

Любое конечное множество последовательностей— регулярное выражение.

Если Р и Q — регулярные выражения, то PUQ, Р-Q и Р*— тоже регулярные выражения; здесь P-Q— множество, состоящее из всех возможных цепочек последовательностей из Р и Q в указанном порядке, а Р* — множество, состоящее из цепочки любого конечного числа последовательностей Р и нуль-последователь- ности $. Регулярным выражением для троичного счетчика является (0*• 1-0* • 1 • 0*• 1)*.

Приведенный перечень способов представления конечных автоматов не является исчерпывающим. Например, можно начертить функциональную диаграмму троичного счетчика, включающею логические операторы. Блок-схема электронных узлов машины—другой тип представления. Еще одно представление состоит в указании принципиальных схем самих узлов. Каждую из этих форм представления можно подвергнуть случайным изменениям (мутациям) для получения потомков.

Для правильного выбора способа представления следует отметить, что все они естественным образом распадаются на несколько категорий.

Прежде всего имеется группа представлений, однозначно описывающих автомат, но не учитывающих его операционные характеристики. К ней относятся, например, числовые системы Геделя. Далее имеются способы представления, определяющие автомат (организм) по его реакциям на определенные входные последовательности. В эту категорию попадают представления в виде полугрупп и регулярных выражений. Наконец, существуют способы представления организма в терминах его внутренних свойств. Сюда относятся диаграммы состояний, диаграммы типа «состояния — выходы», блок- схемы, логические функциональные диаграммы и принципиальные схемы. Из этой группы наиболее компактное представление обеспечивают диаграммы состояний.

Выбор соответствующей категории представления должен основываться на характере эволюционного процесса, в частности на желательном механизме наследственности. Оказывается, что ио крайней мере на уровне биологической эволюции наследственность существует в виде тех латентных пар «стимул — реакция», которые передаются неизменными по наследству от отцовского организма к его отпрыску. Определенные глобальные режимы поведения строятся на уровне инстинкта, так что, коль скоро организм выбрал такую генеральную линию поведения, как борьба, бегство, поиск пищи, сои и т. д., он реагирует на стимулы уже определенным специфическим образом По существу, механизм наследственности в целом может быть представлен диаграммой состояний, в которой каждый режим поведения соответствует определенному состоянию, задаваемому переходами из этого состояния и соответствующими выходными реакциями на каждый возможный стимул.

С точки зрения этой аналогии между эволюционной программой и процессом биологической эволюции наиболее целесообразно выбрать именно диаграмму состояний в качестве средства для представления эволюционирующего организма.

Логика научного метода

Научный метод требует применения логических процессов индукции и дедукции. Различие между ними нетрудно указать. Дедуктивный вывод может быть сделан с полной достоверностью Классическим примером является следующая посылка: «Сократ — человек». Детерминированный закон: «Все люди смертны». Следовательно, «Сократ — смертен». '

Часто, однако, требуется оценить причинный фактор по данному следствию и руководящему правилу. Классическое заключение «Сократ — смертен, все люди — смертны, поэтому Сократ — человек» может оказаться и верным, но Сократ мог бы быть и лошадью. Но хотя здесь доминирует неопределенность, у принимающего решения может не оказаться лучшей стратегии, чем использовать данное правило в обратном направлении. Имеющаяся неопределенность носит существенный характер, и тем не менее процесс вывода основывается на этом в повседневной практике. Возможно, величайшая опасность при таком подходе связана с непониманием степени неопределенности, свойственной обратному заключению ’).

*) Пусть представлены улики. Предполагается, что присяжные— достаточно зрелые люди, искушенные в тонкостях человеческого поведения. Основываясь на этих «правилах» и предъявленных уликах, эти «добрые и праведные люди» должны установить наиболее вероятную причину преступления и в соответствии с этим вынести приговор о виновности или невиновности обвиняемого. Косвенные улики, как известно, часто приводили к ложным заключениям.

Индукция — это процесс обобщения, приводящий к увеличению информации по сравнению с той, которая содержится в наблюдаемых данных. Для иллюстрации рассмотрим силлогизм «Сократ — человек, Сократ — смертен, следовательно, все люди — смертны». Очевидно, что такой вывод не обязательно должен следовать из этих двух наблюдений. Результатом индукции может быть любое правило из бесконечного множества правил, которое согласуется с имеющимися данными. Исследователь должен выбрать частную модель из множества возможных моделей и проделать остальные этапы научного метода, для того чтобы подтвердить или опровергнуть справедливость этой модели.

Для того чтобы быть полезной модель должна охватывать большее число данных, чем было использовано при ее построении. К сожалению, окончательная оценка неизвестных данных должна выводиться на основе именно этой добавочной информации (в противном случае она не могла бы считаться неизвестной). Первоначальное построение модели неизвестной среды требует введения «шума», т. е. добавления информации, не имеющей преднамеренной связи с эмпирическими данными1). Однако при многократном повторении процесса индуктивного вывода необходимая добавочная информация может быть частично извлечена из набора моделей, которые оказались до сих пор успешными при оценке среды.

По существу, вся совокупность моделей, которые уже были подтверждены опытом, может способствовать генерации каждой новой модели, даже если пригодность каждой из них устанавливалась лишь по одной оцениваемой точке входных данных. Именно таким способом каждая удачная модель многократно содействует успеху исследования.

Ключ к успешному индуктивному выводу лежит в таком случае в добавлении подходящей информации,

*) Конечность решающего устройства исключает чистую случайность шума. Более того признано, что структура и организация этого устройства могут влиять как на то, что оно наблюдает, так ц на генерацию с его помощью случайных данных

которая ограничивается выбором соответствующего множества предположений относительно среды. Такие предположения, извлекаемые из оказавшихся ранее успешными моделей, обычно формулируются на языке следующего, более высокого уровня абстракции. Например, если среди множества моделей, которые были использованы для оценки среды, подтвердились только экспоненциальные модели, разумно предположить, что следующая модель должна быть тоже из этого класса. Дополнительные предположения можно было бы извлечь из тенденций, наблюдаемых в последовательности ранее проверенных моделей. Следовательно, в' каждый момент времени строится новая модель, которая представляет собой сочетание известных данных с набором предположений, характеризующих некоторые устойчивые тенденции моделей, уже подтвержденных опытом.

Однако проблема выбора множества подходящих предположений может оказаться не столь простой. Предположения, которые способствовали выработке ранее проверенных моделей, могут оказаться в какой-то степени неприемлемыми. Выбор правильного предположения тогда определяется относительным числом случаев, в которых каждое предположение входило в состав модели, оказавшейся «истинной». В реальных исследованиях степень достоверности оценки модулируется наблюдаемыми ошибками. Это приводит к еще одному смещению при оценке ценности каждого предположения. Если внешний мир инерционен, то не лучше ли приписать большую ценность предположениям подтвердившимся сравнительно недавно?

Существует, далее, вопрос выбора соответствующего числа предположений. Среда, ведущая себя относительно хорошо, будет давать стойкое подтверждение моделей, основанных на определенных предположениях. При этих условиях исследователь может счесть желательным ввести дополнительную случайность с помощью произвольных предположений, надеясь глубже проникнуть в природу среды; связанный с этим больший риск оправдывается ожидаемой при этом большей выгодой. С другой стороны, исследование некоторых сред может

повлечь за собой подтверждение сильно различающихся между собой моделей. В этом случае исследователь может испытывать необходимость уменьшить уровень неопределенности. Он может исследовать справедливость каждого.предположения в отдельности, а не всего множества в совокупности, «подсказываемого» ранее подтвержденными моделями. Исследователь может также предпочесть изучать среду с помощью простых моделей, пока последовательное подтверждение моделей не оправдает возникающее увеличение сложности.

Вообще чем проще модели, которые охватывают имеющиеся опытные (или другие подходящие) данные, тем выше их ценность. Такое широко принимаемое правило обычно оправданно, поскольку оно обеспечивает увеличение числа итераций для оценки результатов индуктивного вывода в допустимых пределах времени и энергии, благодаря чему увеличивается вероятность отыскания обоснованных моделей. В результате возможно более глубокое проникновение в область непознанного. Эта идея, разумеется, не нова. Принцип максимума экономии («бритва Оккама») *) выдержал испытание временем.

В заключение добавим, что индуктивное обобщение выполняется на основе имеющихся данных, которые представляются в виде символов, выбранных из конечного алфавита возможных дескрипторов. Эти символы затем с некоторой долей неопределенности размещаются в последовательности таким путем, чтобы по возможности подтвердить эмпирические данные и в то же время выявить легкоинтерпретируемым образом их составные компоненты. Другими словами, индукция требует добавления новой информации, но так, чтобы она минимально искажала воспринятые данные среды

') Этот принцип был предложен Уильямом Оккамом еще в XIV в.

Послесловие

Пределы сенсорных и двигательных способностей человека были значительно расширены благодаря технике. Усилия были сосредоточены на проблеме помощи человеку в исследовании окружающего мира. Созданы приборы, которые позволяют человеку производить измерения со все более высокой чувствительностью и точностью. В то же время значительные усилия были направлены на расширение двигательных способностей человека. Благодаря технике человек снабдил себя машинами, которые могут взаимодействовать со средой и многократно увеличивают его двигательные возможности Средства передвижения в самом реальном смысле представляют собой расширение моторных способностей человека.

Однако, к сожалению, относительно мало внимания было уделено повышению способности принимать решения, т. е, процессу, преобразующему воспринимаемую информацию в избранную реакцию. Недавно появившиеся быстродействующие вычислительные машины освободили человека от утомительной работы, связанной с рутинными процессами принятия решений. В настоящее время большая часть ответственности за принятие решений все еще лежит на человеке, однако, даже когда он использует вынесенные машиной решения без личной их проверки, он тем самым фактически передает часть ответственности машине. По мере увеличения сложности задач и усовершенствования вычислительных машин все большая часть ответственности возлагается на машины.

Осознание того факта, что научный метод познания является эволюционным процессом, который может быть промоделирован, открывает возможность автоматизации высших процессов умственной деятельности Преимущества такого эволюционного программирования намного превосходят те преимущества, которые дает человеку скорость и точность вычислений с помощью вычислительных машин. Тут лежит путь к открытию новых методов целенаправленного поиска даже без вмешательства человека. Моделируя среду, машина проявляет свою «творческую способность» и «воображение». Это, безусловно, есть искусственный интеллект. С его появлением становится возможным серьезно рассматривать программы, которые придавали бы машинам самосознание и в конечном счете способность выбирать свои собственные цели.

Автоматизация интеллекта таит в себе две опасности для человека. Снятие с человека ответственности за принятие решений представляет угрозу самому существованию этой способности у человека. В этом случае только последовательность чрезвычайных задач может предотвратить атрофию человеческого разума.

Вторая опасность более тонкого свойства. Взаимодействие целенаправленных систем приводит к организации, которая сама реагирует на стимулы так, чтобы в своих реакциях отражать цели ее членов. При формализованном воплощении такая организация может в искусной форме узурпировать право своих членов выбирать собственные цели. В интересах их собственного самосохранения они вынуждены тогда согласовывать свои цели с целью организации в целом. В пределе мы приходим тогда к организации, которая озабочена лишь своим собственным увековечиванием.

Anf in sen С. P., The Molecular Basis of Evolution, Wiley, New York, 1959; русский перевод: Л и ф и и с с н К., Молекулярные основы эволюции, ИЛ, 1962.

Arrow К. J., «Alternative Approches to the Theory of Choice in Risk-Taking Situations», Econometriha, 19, 404—437 (1951).

Ashby W. R„ Design for a Brain, Wiley, New York, 2nd Ed., 1960; русский перевод: Эшби У. Р., Конструкция мозга, ИЛ, 1962.

\tkinson R. С. (ed.), Studies on Mathematical Psychology, Stanford Univ. Press, Stanford, 1964.

Barker S. F., Induction and Hypothesis, Cornell Univ. Press, Ithaca, New York, 1957

Базилевский Ю. Я. (ред.), Теория математических машин.

В е 11 m a n R., Adaptive Control Processes. A Guided Tour, Princeton Univ. Press, Princeton, 1961; русский перевод: Беллман P., Процессы регулирования с адаптацией, изд-во «Наука», 1964.

Bellman R., Dynamic Programming, Princeton Univ. Press, 1957; русский перевод: Беллман P., Динамическое программирование, ИЛ, 1960.

Bionics Symposium — Living Prototypes, The Key to New Technology. USAF WADD TR 60-660, Sept. 1960."

9a В i r k h о f f G. D., Aesthetic Measure, Hervard Univ. Press, Cambridge, Mass , 1933.

Blackwell D., Girshick M. A., Theory of Games and Statistical Decisions, Wiley, New York, 1954; русский перевод: Блэкуэлл Д., Гирш и к AL, Теория игр-и статистических решений, ИЛ, 1958.

Blake D. V., Uttley А. М. (eds.), The Mechanisation of Thought Processes, Proc, of a Symposium, Nat. Phys. Lab., Nov. 24—27, 1958, Vols. I a. II, London, 1959.

В1 u m H., Times Arrow and Evolution, Princeton Univ. Press, 1951.

Bruner J. S., Goodnow J. J., Austin G. A., A Study of Thinking, Wiley, New York, 1956.

Burks A. W., Wang H., «Logic of Automata», Part I a II, J. Assoc. Comput. Machin., 4, № 2, 3 (1957)'.

Bush R. R., M о s t e 11 e r F, Stochastic Models for Learning, Wiley, New York, 1955; русский перевод: Буш P., Мостел- л e p Ф., Стохастические модели обучаемости. Физматгиз, 1962.

Carnap R., Meaning and Necessity, Univ, of Chicago Press, Chicago, 1947; русский перевод: Карнап P., Значение и необходимость, ИЛ, 1959.

Carnap R., «The Nature and Application of Inductive Logic», cm. Logical Foundation of Probability, Univ, of Chicago Press, Chicago, 1950.

17a. Carnap R., Testability and Meaning, Philosophy of Science, Whitlock’s, New Haven, 1954.

Churchman C. W., Prediction and Optimal Decision; Philosophical Issues of a Science of Values, Prentice-Hall, 1962.

Cox R. T., The Algebra of Probable Inference, John Hopkins Press, Baltimore, 1961.

Davidson P., S u p p e s P., Decision-Making and Experimental Approach, Stanford Univ. Press, Stanford, Calif., 1957.

Davis M., Computability and Unsolvability, Mc-Graw Hill, New York, 1958.

De F i n e 11 i, «Foresight: Its Logical Laws, Its Subjective Sources», cm. Kyburg H., Smokier H. (ed.), Studies in Subjective Probability, Wiley, New York, 1964.

Dekker J. С. E. (ed.) — Recursive Function Theory, Proc, of Symposia on Pure Mathem., Vol. 5. Am. Mathem. Soc., Providence, 1962.

Dobzhansky T., Evolution, Genetics, and Man, Wiley, New York, 1955.

Edwards W., «Behavioral Decision Theory», Ann. Rev. Psychol., 12, 473—498 (1961).

Edwards W., «The Theory of Decision-Making», Psychol. Bull , 51, 380—417 (1954).

F a i г С. M., The Physical Foundations of Psyche, Wesleyan Univ. Press, Middletown, Conn., 1963.

Feigenbaum E. A., Feldman J. (ed.), Computers and Thought, McGraw-Hill, New York, 1963; русский перевод: Фейгенбаум Э., Фельдман Дж., Вычислительные машины и мышление, изд-во «Мир», 1967.

Fogel L. J., Owens A. J., Walsh М. J., «Ап Evolutionary Prediction Thechnique», Intern. Conf, on Microwaves, Circuit Theory and Information Theory, IEEE, Tokyo, Sept. 7—11, 1964.

Fogel L. J., Owens A. J., Walsh M. J., Artificial Intelligence Through a Simulation of Evolution, cm. Callahan A.,

Maxfield М., Fogel L. J. (eds.), Biophysics and Cybernetics Systems, Spartan Books, 1965.

Fogel L. J., Biotechnology: Concepts and Applications, Prentice-Hall, Englewood Cliffs, 1963.

Fogel L. J., Owens A. J., Walsh M. J., «Intelligent Decision-Making through a Simulation of Evolution», IEEE Trans., Prof. Techn. Group on Human Factors in Electronics, 6, № I, 13—23.

Fogel L. J., «Levels of Intelligence Decision-Making», Human Decisions in Complex Systems, Ann. Am. Acad. Set., 89, Art. 5, 732—751; русский перевод: Фогель Л., Интеллектуальные уровни решений, сб. «Инженерная психология», изд-во «Прогресс», 1964.

Fogel L. J., Owens A. J., Walsh М. J., «On the Evolution of Artificial Intelligence», Proc, of the Fifth Nat. Symposium on Human Factors in Electronics, IEEE, San Diego, May 5—6, 1964, p. 63—76.

F о u 1 k e s J. D., A Class of Machines Which Determine the Statistical Structure of a Sequence of Characters, IRE Wescon. Conv. Rec., Part 4 (1959).

Fox J. (ed.), Mathematical Theory of Automata, Polytechnic Inst, of Brooklyn, New York, 1963.

Fraenkel-Conrat H., Design and Function at the Threshold of Life: The Viruses, Academic Press, New York, 1962.

Friedberg R. M., «А Learning Machine: Parts I and II», IBM J. Res. a. Dcvelpt., 2, № 1, 2—13 (1958); 3. № 7, 282— 287 (1959).

Furstenberg H., «Stationary Processes and Prediction Theory», Annals of Mathem. Studies, № 44, Princeton Univ. Press, 1960.

Garvin P. (ed.), Natural Language and Computer, McGraw- Hill, New York, 1963.

Gill A., Introduction to the Theory of Finite State Machines, McGraw-Hill, New York, 1962; русский перевод: Гилл A., Введение в теорию конечных автоматов, изд-во «Наука», 1966.

G i n s b u г g S., An Introduction to the Mathematical Machine Theory, Addison-Wesley, Reading, Mass., 1962.

Глушков В. M., Введение в кибернетику, Изд-во АН УССР, 1964.

HadamardJ., The Psychology of Invention in the Mathematical Field, Princeton Univ. Press, 1945; Dover PubL, New York, 1954.

H a 1 d e n e J. B. S., The Biochemistry of Genetics, Allen a. Unwin, London, 1954.

Halstead W. C., Brain and Intelligence, Univ, of Chicago Press, Chicago, 1947.

H a r r i s T. E., The Theory of Branching Processes, Prentice-

Hall, Englewood Cliffs, 1963; русский перевод: Харрис Т., «Теория ветвящихся процессов».

Н a w k i n s J. К, «Self-Organizing Systems — A Review and Commentary», Proc. IRE, 49, 1, 31—48 (1961); русский перевод: X о у к и н с Дж., «Самоорганизующиеся системы — обзор и комментарии», ТИРИ, № 49 (1961).

Н е b b D. О., The Organization of Behavior, Wiley, New York, 1949.

Hei strom C. W., The Statistical Theory of Signal Detection, Pergamon Press, New York, 1959.

Herd an G., Language as Choice and Chance, Noordhoff, Groningen, Holland, 1956.

H о w a г d R. A., Dynamic Programming and Markov Processes, M. I T. Press, Cambridge, Mass., 1960; русский перевод: Ховард P., Динамическое программирование и марковские цепи, изд-во «Сов. радио», 1964.

Н s u J. С., М е s е г v е W. Е., «Decision-Making in Adaptive Control Systems», IRE Trans, on Automatic Control, AC-7, 1, 24—32 (1962).

H u x 1 e у J., Evolution in Action, Harper a. Row, New Yoyk, 1953.

J e f f r e s s L. A., Cerebral Mechanisms in Behavior, Wiley, New York, 1951.

Jevons W. S., The Principles of Science: a Treatise on Logic and Scientific Method, 1874; Dover Publ., New York, 1958.

Kalman R. E., В u с у R. S., «New Results in Linear Filtering and Prediction Theory», J. Basic Eng., 95—108, March (1961).

Kalman R. E., «On the General Theory of Control Systems», Proc, of the First Intern. Congr. on Automatic Control., Moscow, USSR, 1960, pp. 481—492; русский перевод: К а л м э н Р., «Общая теория управляющих систем», Труды I Конгресса ИФАК, Москва, 1963.

К а 1 m a n R. Е., «А New Approach to Linear Filtering and Prediction Problems», J. Basic Eng., 34—45, March (1960)\

К e m e n у J. G., Snell J. L., Mathematical Models in Social Sciences, Ginn a. Co., Boston, 1962.

Kipin iak W., Dynamyc Optimization and Control, M. I. T. Press, Cambridge, Mass., 1961.

К lee ne S C., Introduction to Metamathematics, Van Nostrand, Princeton, 1952; русский перевод: Клини Ст., Введение в метаматематику, ИЛ, 1957.

Kneebone G. Т., Mathematical Logic and the Foundations of Mathematics, van Nostrand, London, 1963.

К о c h e n M., Galanter E. H., «The Acquisition and Utilization of Information in Problem Solving and Thinking», Inform a Control., 1, 3, 267—288 (1958).

Korner S., Conceptual Thinking: A Logical Inquiry, Dover Publ., New York, 1959,

Korner S (ed.), Observation and Interpretation, Butterworth’s Sei. Publ., London, 1957

Kyburg H. E., Jr., Nagel E. (eds.), Induction: Some Current Issues, Wesleyan Univ. Press, Middletown, Conn., 1963.

Laning J. H., Jr., Batt in P. H., Random Processes in Automatic Control, McGraw-Hill, New York, 1956; русский перевод: Л э и н и н г Дж. X., Бэтти н Р. Г., Случайные процессы в задачах автоматического управления, ИЛ, 1958.

Leblanc Н., Statistical and Inductive Probabilities, PrenticeHall, Englewood Cliffs, N. J., 1962.

69a. Lick 1i de г J. C. R., «Man-Computer Symbiosis», IRE Trans, on Human Factors in Electronics, HFE-1, № 1, 4—10 (1960).

Luce R. D ., R a i f f a H., Games and Decisions, Introduction and Critical Survey, Wiley, New York, 1957; русский перевод: Лью с Р. Д., Райфа X., Игры и решения, ИЛ, 1961.

Lyman J., Fogel L. J., см. гл. 1 в книге Handbook of Automation Computation and Control, vol. 3, Wiley, New York, 1961.

Machol R. E., Gray P. (eds.), Recent Developments in Information and Decision Processes, MacMillan, New York, 1962.

M a k К a у D. M., «On Comparing the Brain with Machines», Am. Scientist, 42, 261—268 (1954).

Magoun H. W., The Waking Brain, Thomas, Springfield, Ill., 1958; русский перевод: M э г у и X , Бодрствующий мозг, изц-во «Мир», 1965.

McCulloch W. S, Pitts W., «А Logical Calculus of Ideas Imminent in Nervous Activity», Bull. Mathem. Biophys., 5, 4, 115—134(1943); русский перевод: Ma ккал ок У.,

Питтс У., «Логическое исчисление идей, относящихся к нервной активности», сб. «Автоматы», ИЛ, 1956.

McCulloch W. S., Pitts W., «How We Know Universals® The Perception of Auditory and Visual Forms», Bull. Mathem. Biophys., 9, 127 -147 (1947).

McCulloch W. S., Models of Functional Organization of the Cerebral Cortex, Federation Proc, of the Amer. Soc. of Exper. Biol., vol. 6.

Miller G. A., Galanter E. G., Pribram К. H., Plans and the Structure of Behavior, Holt, Rinehart a. Winston, New York, 1960; русский перевод: Миллер Дж., Галантер Е., П р и б р а м К., Планы и структура поведения, изд-во «Прогресс», 1965.

Minsky М «Steps Toward Artificial Intelligence», Proc. IRE, 49, № 1, 8—30 (1961), русский перевод: Минский M., «На пути к искусственному интеллекту», ТИРИ, № 49 (1961); см. также [28], стр. 402.

Moore Е. F. (ed.), «Sequential Adachine», Selected Papers, Addison-Wesley, Reading, Mass., 1964.

Moran Р. А. Р., The Statistical Processes of Evolutionary Theory, Clarendon Press, Oxford. 19G2.

Muses C. A. (ed.), «Aspects of the Theory of Artificial Intelligence», Plenum Press, New York, 1962.

Nagel E. P., S u p p e s P., T a r s к у A. (eds.), «Logic, Methodology and Philosophy of Science», Stanford Univ. Press, Stanford, Calif., 1962; русский перевод: «Математическая логика и ее применения», сб. статей под редакцией Е. Нагеля. П Саппса и А. Тарского, изд-во «Мир», 1965.

Newell A., Shaw J. С., Simon Н. Л., A Variety of Intelligent Learning in a General Problem Solver, RAND Corp., Rep. № P 1742, July 6, 1959; русский перевод: Ньюэлл А., Саймон Дж., Шоу Дж., «Разновидность интеллектуального обучения программы GPS», сб. «Самоорганизующиеся системы», изд-во «Мир», 1964.

Newell A., Simon Н. A., «The Logic Theory Machine», IRE Trans on Inform. Theory, IT-2, № 3, 61—79 (1956).

О п a p и н А. И., Жизнь, ее природа, происхождение и развитие, М., 1960.

Ор а г in A. L, Р as у n sk i i A. G., Braunshtein А. Е., Pavlovskaya Т. Е., Clark F., Synge R. L. M. (eds.). Proceedings of the First International Symposium on the Origin of Life on the Earth, Pergamon, New York, 1959; русское издание см. Возникновение жизни на земле, М., 1959.

Pearson М. Л., The Grammar of Science, 1892, см. Meridian Books, World Publ Co., New York, 1957; русский перевод: Пирсон M. А., Грамматика науки.

Poincare Н., Science and Hypothesis, 1905, Dover Publ., New York, 1952; русский перевод с французского оригинала: Пуанкаре А., Наука и гипотеза, СПБ, 1906.

Polya G., Mathematics and Plausible Reasoning, Vols. I a. II, Princeton Univ. Press, Princeton, N. J., 1954; русский перевод: П о й я Д., Математика и правдоподобные рассуждения, ИЛ, 1957.

Popper К. R., The Logic of Scientific Discovery, Scientific Editions, New York, 1961.

Qua stler (ed.), Information Theory in Psychology, Free Press, New York, 1956.

Q nastier J , «The Complexity of Biological Computers», Trans. IRE on Electronic Computers, EC-6, 192—194 (1957).

R a i f f a H„ S h 1 a i f e r R , Applied Statistical Decision Theory, Div. of Res., Graduate School of Business Administration, Harvard Univ., Boston, 1961.

Rapaport A., «Fights, Games and Debates», Univ, of Michigan Press, Ann. Arbor, Mich., 1960.

Rashevsky N., Mathematical Biology of Social Behavior, Univ, of Chicago Press, Chicago, 1951.

Rashevsky N., Mathematical Biophysics, Univ, of Chicago Press, Chicago, 1948.

Reichenbach H., Experience and Prediction, Univ, of Chicago Press, Chicago, 1938.

Reichenbach H., The Direction of Time, Univ, of California Press, Berkeley, Calif., 1956.

99a. R e s 11 e F., Psychology of Judgment and Choice, Wiley, New York, 1961.

Richardson L. F., Statistics of Deadly Quarrels, Boxwood Press, Pittsburgh, 1960.

Rosenblueth A., Wiener N., Bigelow J., «Behavior, Purpose and Teleology», Philos, of Science, 10, 18—24 (1943).

Russel B., Human Knowledge: Its Scope and Limits, Simon a. Schuster, New York, 1948.

Russel B., Introduction to Mathematical Philosophy, 1919, Allen a. Unwin., London, 1953.

Samuel A. L., «Some Studies in Machine Learning Using the Game of Checkers», IBM J. Res. a. Deuelpt., 3, 210—229 (1959); русский перевод см. [28], стр. 33.

Savage L. J., The Foundations of Statistics, Wiley, New York, 1954.

Sass M. A., Wilkinson W. D. (eds.), Computer Augmentation of Human Reasoning, Spartan Books, Washington, 1965.

Sayre К- M., Crosson F. J. (eds.). The Modeling of Mind. Univ, of Notre Dame Press, Notre Dame, Ind., 1963.

Schrodinger E., Science and Humanism, Cambridge, Univ. Press, London, 1951.

Schrodinger E., Science Theory and Man, Dover Publ., New York, 1957.

Sebestyen G. S., Decision-Making Processes in Pattern Recognition, MacMillan, New York, 1962; русский перевод: С e- бестиан Г., Процессы принятия решений при распознавании образов, изд-во «Техника». Киев, 1965.

Siegel S., Fouraker L. Е., Bargaining and Group Decision-Making, McGraw-Hill, New York, 1960.

Simon H. A., Models of Man: Social and Rational, Wiley, New York, 1957.

Swets J. A. (ed.), Signal Detection and Recognition by Human Observers, Wiley, New York, 1964.

Solomonoff R. J, «Ап Inductive Inference Machine», IRE Сопи. Rec., 5, Part 2, 56—62 (1957).

Stromer P. R., «Adaptive or Self-Optimizing Control Systems— A Bibliography», IRE Trans, on Autom. Control, AC-4, № 1, 65—68 (1959).

Tanner W. W. P., Jr., «Theory of Recognition», J. Aconst. Soc. Am., 28, № 5, 882-888 (1956).

Tax S (ed.), The Evolution of Life, Vols. 1—3, Univ, of Chicago Press, Chicago, 1960.

Thrall R. M, Coombs С. H., Davis R L. (eds.), Decision Processes, Wiley, New York, 1954.

Tou J. T., Wilk ox R. H. (eds.), Computer and Information Sciences, Spartan Books, Washington, 1964.

Uspensky J. V., Introduction to Mathematical Probability, McGraw-Hill, New York, 1937.

Utt ley A. M., «Information, Machines and Brains», IRE Trans, on Inform. Theory, PGIT-1, 143—149 (1953).

von Foerster H. (ed.), «Cybernetics, Circular Causal, and Feedback Mechanisms», cm. Biological and Social Systems, Trans, of the Sixth. Conf., March 24—25, 1949, New York, 1950.

\on Neumann J., The Computer and the Brain, Yale Univ. Press, New Haven, 1958; русский перевод: фон Нейман Дж., «Вычислительная машина и мозг», Кибернетический сборник, вып. I, ИЛ, 1960.

von Neumann J., The General and Logical Theory of Automata, cm. Neuman J. R. (ed.), «World of Mathematics», Vol. 4, Simon a. Schuster, 1956, pp. 2070—2098; русский перевод: фон Нейман Дж., приложение к книге Тьюринг А., Может ли машина мыслить, Физматгиз, 1960.

von Neumann J. Morgenstern О., The Theory of Games and Economic Behavior, Princeton, N. J., 1944.

von Wright G. H., The Logical Problem of Induction, Blackwell, Oxford, 1957.

von Wright G. H., A Treatise on Induction and Probability, Adams a. Co., Littlefield, N. J., 1960.

Waddington D. H,, The Ethical Animal, Atheneum Pubk, New York, 1961.

Wald A., Statistical Decision Functions, Wiley, New York, 1950.

Wald A., On the Principles of Statistical Inference, Notre Dame Mathem. Lectures, № 1, Notre Dame. Univ., Notre Dame, Indiana, 1952

W e 11 n e r D. (ed.), Decisions, Values and Groups, Pergamon, New York, 1960.

Whitehead A N., The Concept of Nature, Univ, of Michigan Press, Ann Arbor, Mich., 1957.

Whit row G. J., The Natural Phylosophy of Time, Nelson, London a. Edinburgh, 1961.

Whittle P., Prediction and Regulation by Linear Least-Square Methods, Van Nostrand, Princeton, N. J., 1963.

Wiener N., Cybernetics, Wiley, New York, 1948; русский перевод: Винер H.. Кибернетика, изд-во «Сов. радио», 1958;

см. также Винер II., Новые главы кибернетики, изд-во «Сов. радио», 1963.

Wiener N., Extrapolation, Interpolation and Smoothing of the Stationary Time Series, MIT Press, Cambridge, Mass., 1949.

Wood ger J. H., Studies in the Foundations of Genetics, Henkin L, Suppes P., Tarski A. (eds), The Axiomatic Method, North-Holland Publ. Co., Amsterdam, 1959, pp 408—428.

Young J. Z., Doubt and Certainty in Science, Clarendon Press, Oxford, 1950.

Yovits M. C., Jacobi G. T., Goldstein G. D. (eds.), Self-Organizing Systems 1962, Spartan Books, Washington, 1962,

Оглавление

Предисловие редактора русского перевода5

Предисловие ...Ц

О построении книги 15

Глава первая. Введение 17

Определение интеллекта 17

Пути к искусственному интеллекту 19

Глава вторая. Эволюционное программирование...31

Предпосылки предсказания 31

Поиск более общей цели 40

Глава третья. Эксперименты по предсказанию...51

Эксперименты по предсказанию двоичных последовательностей 51

Эксперименты по предсказанию последовательностей из 8 символов 70

Глава четвертая. Проблемы сокращения и анализа данныхЮ2

Диагностика, обнаружениеиразличение . 102

Распознавание иклассификацияобразов113

I" л а в а пятая Проектирование управляющих. машин 125

Управление объектом с неизвестными характеристиками 125

Поиск целей во взаимодействующей среде142

Глава шестая. Некоторые следствия155

Научный метод как эволюционный процесс155

Автоматизация интеллекта160

Глава седьмая. Заключение170

Приложение А. Предсказания для случая циклической среды 176

Приложение Б. По поводу различных мер сложности 186

Приложение В. Блок-схема эволюционной программы 193

Приложение Г. Конечные автоматы как примитивно рекурсивные функции200

Приложение Д. Различные представления конечных автоматов 206

Приложение Е. Логика научного метода214

Послесловие218

Дитера тура220

Л. Фогель, Л. Оуэнс, М. Уолш

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТИ ЭВОЛЮЦИОННОЕ МОДЕЛИРОВАНИЕ

редактор В, Я- ФридманХудожник В. А. МедниковХудожественный редактор В. М. ВарлашинТехнический редактор Е. С. Потапенкова

Сдано в производство I9/IX 1968 г.Подписано к печати 5/1II 1969 г.

Бумага № 2 84Х lOS1^ — 3,63 бум. л.

12,18 усл. печ. л.

Уч.-изд. л. 11,17. Изд. № 20/4736 Цена I р. 08 к. Зак. 1469.

Темп чан изд-ва «Мир> 1968 г. пор. № 210.

ИЗДАТЕЛЬСТВО „МИР“Москва, 1 й Рижский пер., 2

Ленинградская типография № 2имени Евгении СоколовойГлавполиграфпромаКомитета по печатипри Совете Министров СССР.

Измайловский проспект, 29.