АКАДЕМИЯ НАУК СССР

ИНСТИТУТ ПРОБЛЕМ ПЕРЕДАЧИ ИНФОРМАЦИИ

АЛГОРИТМЫ обработки экспериментальных данных

Ответственный редактор

доктор технических наук

И.А. ОВСЕЕВИЧ

Москва ’’Наука” 1986

УДК519.25; 517.11

Сборник посвящен вопросам цифровой обработки экспериментальных данных, в частности в информационно-диагностических, кардиологических и робототехнических системах. Рассмотрены, эффективные методы кодирования, математико-статистического анализа данных и использования моделей мышления для представления знаний в человеко-машинных системах.

Для специалистов в области вычислительной обработки данных.

Ил. 66. Табл. 13. Библио гр. 172 назв.

Рецензенты: Л.Т. Кузин, Л.И. Титомир

АЛГОРИТМЫ ОБРАБОТКИ ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ

Утверждено к печати Институтом проблем передачи информации

Редактор А. А. Максимов. Редактор издательства О.М. Куликова

Художник В.Д. Епанешников. Художественный редактор Н.Н. Фильчагина

Технический редактор Н.М. Бурова. Корректор Н.И. Харламова

Набор выполнен в издательстве на наборно-печатающих автоматах

ИБ № 31557

Подписано к печати 07.08.86. Т —15605. Формат 60 X 90 1/16. Бумага офсетная № 1

Гарнитура Пресс-Роман. Печать офсетная. Усл.печ.л. 11,5

Усл.кр.-отт. 11,8. Уч.-изд.л. 13,9. Тираж 6200 экз. Тип. зак. 551. Цена 95 коп.

Ордена Трудового Красного Знамени издательство ’’Наука”

117864 ГСП-7, Москва В-485, Профсоюзная ул., д. 90

Ордена Трудового Красного Знамени 1-я типография издательства ’’Наука” 199034, Ленинград В-34, 9-я линия, 12

© Издательство ’’Наука” 1986 г.© Издательство ’’Наука” 1986 г.1502000000426 А 113-86-III

© Издательство ’’Наука” 1986 г.

© Издательство ’’Наука” 1986 г.

042 (02)^6

ПРЕДИСЛОВИЕ

Настоящий сборник затрагивает главным образом три аспекта вычислительной обработки данных: сокращение объема данных (эффективное кодирование) , статистический анализ выборочных данных и управление в робототехнических и человеко-машинных системах. Для этого круга задач, при всем разнообразий их конкретных форм, характерны рост объема и усложнение структуры обрабатываемых данных наряду с жесткими требованиями реального масштаба времени и надежности результатов. Отсюда тенденция к повышению адаптационных возможностей алгоритмов обработки — относительно характера самих данных и индивидуальных особенностей оператора (пользователя). Кроме того, практически эффективные системы отличаются, как правило, сбалансированным решением вопросов близости к теоретическому оптимуму, вычислительного удобства алгоритмов и архитектуры вычислительных средств.

Сборник отражает эти общие тенденции в развитии автоматических и интерактивных систем обработки данных. Он открывается группой статей, развивающих адаптивный метод приближения и кодирования, известный в технике передачи изображений как модуляция скорости развертки. В теории аппроксимации этот метод представлен задачами о параметрическом приближении и приближении полиномиальными кривыми. Однако лишь недавно было показано, каковы фактические адаптационные возможности приближения полиномиальными кривыми (ВТ. Поляков, Э.А.И. Айду, В.С. Нагорнов, ВТ. Трунов, 1983). Очерк истории и состояния вопроса дается в статье ВТ. Полякова, В.С/Нагорнова, развивающей метод в направлении быстрой обработки многокомпонентных сигналов. Статья Э.А.И. Айду посвящена алгоритмическим вариантам приближения полиномиальными кривыми, а статья В.С. Нагорнова — изучению экстремальных свойств таких приближений. В целом полученные по этому направлению результаты позволяют ожидать, что приближение полиномиальными кривыми займет свое место в ряду других практичных методов полиномиального приближения (сплайны, рациональная аппроксимация), пришедших на смену классическим приближениям.

Предметом двух последующих статей является статистический анализ. Выявление зависимостей по экспериментальным данным приобретает в настоящее время важную роль как средство управления в сложных технических системах и информационно-вычислительных комплексах, функционирующих в условиях случайных возмущений и лимита времени. Если для классических задач регрессионного анализа характерно малое число параметров в сравнении с объемом выборочных данных, то теперь проблемой становится многообразие характеристик объекта или явления и их избыточ-

ность при ограниченных возможностях пополнения выборки. Резко повы- | шаются требования к оперативности и надежности операций прогнозирования, классификации, диагностики. Способность же системы адаптироваться к изменению внешних условий тем выше, чем шире структурное < разнообразие прогностических моделей, проходящих проверку на соответствие выборочным данным, и чем эффективней поиск и отбор среди этих данных информативных параметров. В работе Л.Г. Малиновского описывается комплекс алгоритмов и программ для подбора статистичес-|

ких гипотез, решающий задачи структурной оптимизации моделей и выбора|

существенных параметров. Статья ВТ. Трунова посвящена теоретическому ^ изучению специфических эффектов подгонки модели к выборочным дан- 1 ным, обусловленное процедурой отбора информативных параметров в линейной регрессии.*

В вышеупомянутых статьях ВТ. Полякова, В.С. Нагорнова и Л.Г. Малиновского практичеркие результаты кодирования и статистического анализа { демонстрируются на примере обработки электрокардиосигналов. Особое внимание к электрокардиосигналам в данном сборнике подчеркивается।

двумя работами Т.А. Ракчеевой и П.М. Раевского, целиком сосредоточен-!

ными на автоматической диагностике нарушений кардиоритма.;

Две дальнейшие статьи посвящены робототехническим системам обра- I ботки данных. В работе Д.А. Белова, ГТ. Вайнштейна, Е.А. Москвиной i представлена система технического зрения для анализа сложных сцен. Не прибегая к специальным приемам освещения или. другим искусственным приемам организации сцен, упрощающим структуру данных, авторы демонстрируют быстрый и надежный алгоритм распознавания машиностроительных деталей по их контурным препаратам. Алгоритм основан на эффективной процедуре идентификации прямолинейных и криволинейных контуров, существенно совершенствующей так называемое преобразование к пространству параметров (Hough Transformation) и облегчающей, в частности, адаптацию системы к условиям восприятия сцены, в том числе к дрейфу характеристик видео датчика. В сочетании с высокой скоростью обработки это создает предпосылки для перехода в дальнейшем от статичных сцен к подвижным.

Усложнение ситуации за счет подвижности объектов непосредственно имеет в виду работа Ю.И. Крюкова, где предлагается адаптивная процедура управления перемещением исполнительного механизма (в данном случае в виде плоской многозвенной цепи), допускающая, в принципе, одновременное перемещение целевой точки. Процедура основана на минимизации некоторой функции состояния механизма методом покоординатного спуска, но предусматривает текущее оценивание координат целевой точки в ходе постепенного к ней продвижения. Важной частью работы является исследование сходимости процедуры управления; факт сходимости требует при такой постановке задачи специального доказательства, в то время как для метода покоординатного спуска сходимость очевидна.

В проблеме интерактивной обработки данных важное место занимает вопрос эффективного использования возможностей ЭВМ. В статьях В.Л. Стефанюка и Е.Ф. Алексеевой, А.В. Жржикашвили и В.Л. Стефанюка для решения этого вопроса предлагается использовать принципы обучения. В первой работе дается постановка задачи о создании для ЭВМ операцион-

ной системы, способной к динамической адаптации по отношению к конкретному пользователю, описываются основные этапы построения системы и ее макет, реализованный в виде программного комплекса на языке ЛИСП. Во второй работе вопрос эффективности интерактивных систем рассматривается с общетеоретических позиций. Здесь предложен математический аппарат, позволяющий в компактной форме описать множество различных схем представления знаний и с единых позиций рассмотреть задачи накопления и обработки данных в разнообразных человеко-машинных системах.

Сборник завершается статьей Л.Г. Малиновского, носящей методологический характер и затрагивающей дискуссионную область вокруг проблем моделирования мышления и концепций финитной математики.

И.А. ОВСЕЕВИЧ

УЖ 519.65

ПАРАМЕТРИЧЕСКОЕ ПРИБЛИЖЕНИЕ, ДИСКРЕТНОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ И МНОГОКОМПОНЕНТНЫЙ СИГНАЛ В ЗАДАЧЕ КОДИРОВАНИЯ

ЭЛЕ КТРОКАРДИОСИ ГН АЛОВ

В.Г. ПОЛЯКОВ, В.С. НАГОРНОВ

Операции типа параметрического приближения не новы для техники передачи сообщений — они встречаются уже в ранних исследованиях по сжатию спектра сигналов. Речь идет о телевизионных системах с модуляцией скорости строчной развертки [1, 2]. Этот способ кодирования тесно связан с нелинейными задачами теории аппроксимации о приближении полиномиальными кривыми. Параметрическое приближение [3] имеет своим объектом функцию одной переменной, но оперирует графиком функции как плоской кривой й предусматривает выбор для графика подходящего параметрического представления. Выбор производится из множества двухкомпонентных алгебраических полиномиальных вектор-функций; степень полиномов заранее ограничена. Годографы этих вектор-функций как раз и составляют заданное множество полиномиальных кривых.

Смысл развертки с переменной скоростью заключается в замене видеосигнала подходящим (узкополосным) параметрическим описанием его графика. На приемной стороне восстанавливается ’’каноническое” представление графика, т.е. сам сигнал. В обзорах и монографиях по цифровой обработке изображений модуляция скорости развертки упоминается как сравнительно эффективный, но не получивший распространения метод кодирования. Действительно, он не обнаруживал в такой же мере, как другие методы, тенденции к совершенствованию, к дальнейшему повышению эффективности и к продвижению в направлении быстрой обработки многомерных и многокомпонентных сообщений.

Не лучше обстояло дело с практической реализацией приближения полиномиальными кривыми. На фоне значительного распространения других специальных методов полиномиального приближения, как, например, рациональная аппроксимация, особенно показателен тот факт, что наилучшее приближение полиномиальными кривыми оставалось большей частью предметом теоретических исследований. Вролне возможно, что до последнего времени не имелось даже отдельных примеров полиномиальных кривых, в достаточной мере демонстрирующий эффект наилучшего прибли-

жения для объектов сколько-нибудь сложной конфигурации. Лишь недавно удалось показать, каковы фактические возможности полиномиальных кривых в задачах аппроксимации и сжатого описания геометрических форм [4].

В настоящей статье основное внимание уделено реализации собственно параметрического приближения — в применении к многокомпонентным сигналам. При сохранении основной идеи параметрического приближения потребовалось, однако, дать более широкое его истолкование как инструмента кодирования. В практике кодирования все разнообразие обычных полиномиальных приближений представлено чаще всего тригонометрическим приближением, причем той из его разновидностей, какую дает дискретное (быстрое) преобразование Фурье. Аналогичный интерес представляют тригонометрические версии параметрического приближения, построение которых потребовало специального внимания к вопросу о графике сигнала. При обработке же многокомпонентного сигнала (вектор-функции) на месте графика появляется его специфический многомерный аналог, называемый в дальнейшем синхрогодографом вектор-функции.

Эффективное кодирование электрокардиосигналов становится в последнее время все более насущной потребностью для вычислительной кардиографии. Это важный, но не единственный фактор, принятый в расчет при выборе практической задачи для демонстрации возможностей параметрического приближения. Требование строгой документальности исключает здесь примесь субъективности в оценке качества кодирования. Наконец, электро кардиосигналы как диагностическое средство выступают в двух формах - в виде пространственной векторкардиографической кривой и в виде вектор-функции с различным числом компонент, а потому оказываются одинаково естественным объектом как для приближения полиномиальными кривыми, так и для параметрического приближения. Процедура адаптивной параметризации прокомментирована более подробно, чем это сделано в [4], с акцентом на некоторых парадоксальных на первый взгляд и практически важных обстоятельствах применения дискретного преобразования Фурье для приближения полиномиальными кривыми. В связи с параметрическим приближением демонстрируются некоторые приемы построения синхрогодографов и практические результаты кодирования.

Электрокардиосигналы как объект кодирования. Поскольку с для вычислительной обработки кардиосигналов нет другой конечной цели, кроме медико-биологического анализа, задаче их экономного описания принадлежит вспомогательная роль. Тем не менее по кодированию электрокардиосигналов накоплен немалый материал, главным образом путем экспериментов с методами кодирования, уже апробированными на визуальных, звуковых и других сообщениях.

В практике сокращенного описания сообщений доминируют преобразование Фурье и другие быстрые ортогональные преобразования, разложение Карунена—Лоэва (метод главных компонент), а также кусочно-полиномиальное приближение (сплайн-аппроксимация). Разложение по какой- либо ортогональной (базисной) системе функций в той или иной мере концентрирует описание сигнала в начальных компонентах спектра. Разложение Карунена—Лоэва дает, как известно, лучшие из возможных спектров — в том смысле, что для конкретного источника сообщений форми-

руется наиболее подходящая (собственная) базисная система. Вскрывая и используя ограниченную изменчивость сообщений данного типа, такое преобразование, однако, требует более продолжительной вычислительной работы. В сложных случаях прибегают к дополнительной сегментации сообщения, применяя преобразование к сравнительно малым его кускам. Эффективность кусочно-полиномиального приближения, с точки зрения кодирования, еще сильнее зависит от удачной сегментации, в данном случае от числа и расположения узлов приближения. Но даже для простейшего, линейно-ломаного приближения оптимальный выбор узлов (вершин ломаной) представляет собой трудную задачу.

Все эти методы испытывались применительно к электрокардиограммам. Не всегда сокращение избыточности было самоцелью, но о качестве приближения говорит и те материалы, на которых проверялась диагностическая ценность преобразований. По диапазону частот электрокардиосигналы до некоторой степени подобны звуковым, а по форме представления — визуальным сообщениям, оставляя к тому же впечатление сравнительной простоты, регулярности и единообразия. Тем не менее достижения в сжатии телефонных и телевизионных сообщений не распространяется автоматически на электро кардиосигналы, и эксперименты подтверждают это. Причина заключена в свойствах слухового или зрительного восприятия. Не всякая деформация сигнала заметно снижает субъективную оценку речевого сообщения, полутонового или цветного изображения. Кроме того, при восприятии в реальном масштабе времени падает чувствительность к искажению маловероятных, экзотических сообщений или их фрагментов — оценка качества приобретает статистический смысл. Эти обстоятельства позволяют упростить системы кодирования. Электро кардиосигналы не допускают, разумеется, пренебрежения даже к тонким особенностям формы, причем повышенного внимания требуют как раз аномалии, т.е. менее вероятные сообщения.

Жесткие требования к верности воспроизведения, их объективный и безусловный характер делают электрокардио сигналы достаточно специфическим и трудным объектом кодирования. Дело сводится к тому, чтобы искажения, вносимые операциями кодирования — декодирования, оставались примерно на уровне инструментальных погрешностей электрокардиографической аппаратуры с цифровым выходом. Такая аппаратура заканчивает свою работу импульсно-кодовой модуляцией (ИКМ), т.е. преобразованием сигнала в последовательность квантованных отсчетов. Для каждого отсчета резервируется от 10 до 16 двоичных разрядов, что ориентирует на величину порядка 10”3 как на допустимый максимум относительной погрешности кодирования. Каждое электрическое отведение дает 1024 или даже 2048 отсчетов в секунду, что соответствует полосе частот до 500—1000 Гц. На практике частоту отсчетов выСжрают обычно по крайней мере с двойным запасом, т.е. учетверяют относительно фактической верхней границы спектра. Эта граница оценивается, следовательно, величиной 250 Гц, что вполне согласуется с имеющимися в литературе непосредственными оценками для аномальных электрокардиосигналов — до 200 гармоник при разложении в ряд Фурье на интервале кардиоцикла. В большинстве же случаев для верного воспроизведения кардиоцикла достаточно 30—40 гармсфик.

Весьма практичной была бы кодирующая система с фиксированной длиной кодового слова, определяющая кардиоцикл (или близкий к нему сегмент фиксированной протяженности) заранее стандартизованным количеством коэффициентов Фурье. Но в данной ситуации подобная система устраняла бы лишь избыточность, внесенную ИКМ, дополнительный же выигрыш пришлось бы оплачивать усложнениями, связанными с переменной длиной кодового слова. Жертвуя целостным характером описания кардиоцикла и простотой процесса сегментации, можно несколько увеличить выигрыш путем применения преобразования Фурье отдельно к QRS-комплексу и к оставшейся части кардиоцикла. Дальнейшие возможности связаны с разложением Карунена—Лоэва и сплайн-аппроксима- цией, но на подступах к их реализации сложность кодирующей системы также начинает быстро возрастать.

Попробуем представить себе информационно-вычислительную кардиологическую систему для региона с населением, к примеру, 10 млн человек, функции которой состоят в оперативной (дистанционной) диагностической работе, текущем скрининге и сборе кардиографического архива для исследований по статистике и динамике состояния сердечно-сосудистой системы населения. Пусть при помощи 10-разрядной ИКМ, 1024 отсче тов/с, для каждого жителя региона дважды в год регистрируется 12-компонентная ЭКГ продолжительностью в среднем 5 с. Тогда ежегодное пополнение архива превысит по объему 1 млн мегабайт. Отсюда видно, насколько облегчило бы эффективное кодирование задачи хранения, обработки и передачи данных в подобной системе.

Параметрическое приближение — уже при том ограничении, что кардиоцикл задается фиксированным количеством коэффициентов Фурье, - позволяет сжать указанный объем в 20 раз.

Приближение полиномиальными кривыми. Процедуры приближения, продемонстрированные в [4, 5], радикально повышают эффективность ортогональных преобразований путем надлежащей адаптации параметрического описания кривой или поверхности. Тройка векторкардиографи- ческих (ВКГ) сигналов представляет собой вектор-функцию, однозначно определяющую в параметрической форме пространственную ВКГ-кривую. В то же время у заданной кривой имеется множество параметрических представлений. Каждая вектор-функция из этого множества характеризует линию как траекторию движущейся точки, различия же зависят от изменений скорости на заданном пути. Если важна лишь форма ВКГ, то исходное ее представление можно подменить другим, более подходящим для приближения Фурье, а именно той тройкой функций, спектр которых наи- лучшим образом укладывается в заданную полосу частот. Деформация кривой определяется, таким образом, наименьшим уклонением данного оператора Фурье на множестве ее параметрических представлений.

Разложение Карунена—Лоэва согласует сообщения и базисную систему путем выбора подходящего базиса. Адаптивная параметризация — это, по существу, операция встречного согласования: базис фиксирован; для каждого сообщения выбирается подходящее описание. Резервы встречного согласования достаточно велики, причем с уменьшением допуска на деформации эффективность кодирования растет. Дальнейшие возможности заключены в комбинировании адаптивной параметризации с разложением

Карунена—Лоэва [5]. Непосредственное применение подобных процедур к электрокардиосигналам позволяет, конечно, восстановить лишь форму ВКГ-кривой, но не сами сигналы. Рассмотрим предварительно эту ограниченную задачу, а затем перейдем к операциям, распространяющим преимущества адаптивной параметризации на более общую задачу кодирования и восстановления многокомпонентной вектор-функции.

Нашим инструментом будет удобная в применении к многомерным кривым процедура приближения, уже показавшая свои высокие аппроксимативные возможности [4]. Она решает задачу путем выбора для кривой вектор-функции, имеющей общий со своим приближением модуль производной (с точностью до масштабного коэффициента).» Иными словами, выбирается представление, приближение которого не сказывается на скорости движения вдоль кривой. Деформация же кривой мала, поскольку представление с таким свойством в определенном смысле лучше других приближается данным оператором (в нашем случае оператором Фурье).

Для упрощения формального описания процедуры будем исходить из натурального параметрического представления ВКГ-кривой, т.е. вектор- функции g(s) = (^i(s), x2(s), x3(s)); 5 - нормированная длина дуги. Тройка электрокардиосигналов (fi(0> /2 (О, /з(0), взятых на интервале (О, 7) кардиоцикла, дает начальное параметрическое представление ВКГ- кривой, #(lo(O) с компонентами xm(^o(O)i т = Ь2,3. Замена представления выражается подстановкой вместо начальной параметризующей функции s = <^о(О Другой неубывающей функции s = ^) с изменением от О до Т на интервале (0, 7).

Пусть Ап - оператор (алгоритм) приближения Фурье, ставящий в соответствие функции/(f) на интервале (0, 7) тригонометрический полином и-й степени со значением Ап [Г(0» Н ПРИ данном t. Покомпонентное применение Ап к вектор-функции g(XO) дает приближающую вектор- функцию Ап kWO)^], все компоненты которой суть тригонометрические полиномы той же степени относительно переменной I. Результат приближения зависит от ф. Определяется функция ф^ (а с нею и представление ВКГ-кривой), удовлетворяющая операторному уравнению

dd= X= Xd

d

d

= X

= X

т"Ап к Ср (?));? ] d t

причем X — некоторая константа, имеющая, в частности, смысл относительного сокращения длины ВКГ-кривой в результате приближения. Уравнение можно представить в другой, равносильной форме:

и >р (?) = v (0,

где

d т;d т;d t,d t,' d

d т;

d т;

d t,

d t,

X = / — #(<Ро(О) d tX = / — #(<Ро(О) d td—а» к(^(?й;?1 d td—а» к(^(?й;?1 d t17</>(O = XJ — Ап к(м?(т));т] о dT

X = / — #(<Ро(О) d t

X = / — #(<Ро(О) d t

d

—а» к(^(?й;?1 d t

d

—а» к(^(?й;?1 d t

т d

о

откуда видно, что функция ф^) оказывается неподвижной точкой нелинейного оператора U (зависящего, в свою очередь, от линейного оператора Л„). Общий итерационный метод отыскания неподвижной точки, 11фг = = ^/+1 ’ ^ ~ 0,1,2,... — номер итерации, дает в применении к этому уравнению надежный и сравнительно быстрый алгоритм приближения.

В результате импульсно-кодовой модуляции ВКГ-кривая представлена множеством отдельных точек — по числу отсчетов, приходящихся на интервал (0, 7) данного кардиоцикла. Простая линейная интерполяция между точками дает связную кривую, готовую благодаря корректному стандарту дискретизации к адаптивному приближению. Подсчитывается ее длина L — эта константа понадобится на каждой из итераций. Первая операция — обычное приближение ВКГ-сигналов (начального представления кривой) с помощью дискретного преобразования Фурье (ДПФ). Важная особенность состоит, однако, в том, что вместо 512-точечного быстрого преобразования (БПФ) здесь достаточно 64-точечного, поскольку для приближения требуется, как показали эксперименты, не более 15 гармоник (п < 15). Следует даже особо предостеречь против многоточечного преобразования, поскольку оно не только без нужды затягивает выполнение каждой итерации, но и увеличивает их число, замедляя сходимость процесса. Начальное приближение окажется, конечно, грубым. Определяется закон движения вдоль полученной кривой, т.е. функция

& (0 = / 2 (—А„ [хт С^оСт»; т] 2 р d 7 0(m=lДат / J

в виде 64 равноотстоящих отсчётов. Последний из них (t = Т) дает длину Lx кривой, используемую для нормировки: s ~Ф1(£)~(L/Lх^Фх(0.. Вторая операция — перенос параметризации на исходную кривую, т.е. формирование функций xm(kpx(f)). Каждый отсчет указывает, на каком расстоянии по дуге кривой, считая от ее начала, следует взять соответствующие новые отсчеты функций хт(фхУ. На этом заканчивается итерация с номером / = 0; ее итог — новое расположение 64 узлов приближения на ВКГ-кривой и соответственно новые наборы из 64 равноотстоящих отсчетов для функций хт. К ним как раз и применяется БПФ на следующей итерации и т.д. Результат — 3-компонентная тригонометрическая полиномиальная вектор-функция (годограф которой — полиномиальная кривая не выше 15 порядка — достаточно точно приближает ВКГ-кривую), определенная в общей сложности не более чем 45 комплексными коэффициентами, для квантования которых достаточно 10 двоичных разрядов. Максимальный объем описания — 900 бит.

Параметрическое приближение. Обратимся теперь к основной задаче кодирования с восстановлением не только формы ВКГ, но и самой вектор- функции. Цель достигается подходящим преобразованием вектор-функции в некоторую кривую при условиях, обеспечивающих однозначное обратное преобразование кривой в вектор-функцию. Кривая такого типа, как условлено, будет называться синхрогодографом вектор-функции. Для иллюстрации простейших способов построения синхрогодографа достаточно однокомпонентной функции /(f), взятой на интервале кардиоцикла. В качестве синхрогодографа можно взять обычный график функции, отне-

Р и с. 1. График электрокардиосигнала как синхрогодограф и его начальное параметрическое представление с линейно-нарастающей (пилообразной) синхронизирующей компонентой

Р и с. 2. Синхрогодограф с синусоидальной синхронизирующей компонентой и его начально епараметрическое представление

сенный к прямоугольным координатам Хг, Х2 на плоскости [1] (рис. 1). Начальное параметрическое представление этой кривой естьХ1(^о(О) = t, ^2(^о(О)=/(О- Каким бы из представлений ни оказался задан график в результате замены i0 на другую функцию ф, восстановление сигнала не составит, очевиднЬ, труда; возвращение к начальному (’’каноническому”) представлению гарантируется заранее известной его составляющей — ’’синхронизирующей” функцией Xj^oCO) = ^

Для приближения Фурье более подошла бы, однако, замкнутая кривая. Предпочтительно поэтому выбрать раз навсегда в пару к кардиосигналу /(0 периодическую функцию с подходящим периодом, например sin(27rr/7), образуя таким образом синхрогодограф (рис. 2) с начальным параметрическим представлениемXt (^о(О) = В sin (2irt/T),x2 (loO)) = =/(0 (В - фиксированный коэффициент). \

Р и с. 3. Электро кардиосигнал, синхрогодограф в виде радиально-кругового графика и его начальное параметрическое представление

Все же в конструкции кривой ощущается некоторая искусственность — две составляющие ее параметрического представления не равноценны по отношению к исходному сигналу. Этого нельзя сказать о синхрогодографе в виде радиально-кругового графика функции /(О (рис. 3), начальное параметрическое представление которого в прежней системе координат ^ь^2 будет Xi(^o(O) = (f(0 + Qcos(2^/7V ^ = 040 + + С) sin (2тг//Т). Здесь С — константа, выбранная заранее из условия: /(0 + 0 0 при всяком t. Радиус-вектор точки графика, вращаемый с постоянной угловой скоростью, определит (независимо от представления графика) своей длиной исходный сигнал — с поправкой на константу С.

Ограничиваясь этими примерами, применим последний способ к тому же трехкомпонентному электрокардиосигналу (А(0> Л (0, /з(0)- Для вектор-функции с любым числом компонент М всегда можно построить синхрогодограф в виде кривой, заданной в пространстве М + 1 измерений. В данном случае радиально-круговой график первой компоненты будем рассматривать как плоскую проекцию 4-мерной кривой с начальным параметрическим представлением Xi(<po(O) = (fi(0 + О cos (2яг/7), х2(^о(О) = = (Л (О + С) sin (2 itt/T), ^з(^о(О) = /2(0, *4(<Ро(О) = /з(0- Дополнительные приготовления к процедуре приближения сводятся, таким образом, к определению значений 64 равноотстоящих отсчетов для первой и второй компонент этого представления.

Для вычислительных экспериментов использовались электрокардиосигналы, представленные с помощью 16-раз рядной ИКМ, со стандартом дискретизации 1024 отсчетов/с. В качестве максимума относительной ошибки принята величина 0,5 . 10"3. Численное значение допустимой

Р и с. 4. Адаптивное кодирование 3-компонентного электро кардиосигнал а с преобразованием в 4-компонентныЙ синхрогодограф. Нормальная ЭКГ; 7 гармоник. Наложение исходных и декодированных сигналов (уклонения на грани разрешающей способности чертежа)Р и с. 4. Адаптивное кодирование 3-компонентного электро кардиосигнал а с преобразованием в 4-компонентныЙ синхрогодограф. Нормальная ЭКГ; 7 гармоник. Наложение исходных и декодированных сигналов (уклонения на грани разрешающей способности чертежа)

Р и с. 4. Адаптивное кодирование 3-компонентного электро кардиосигнал а с преобразованием в 4-компонентныЙ синхрогодограф. Нормальная ЭКГ; 7 гармоник. Наложение исходных и декодированных сигналов (уклонения на грани разрешающей способности чертежа)

Р и с. 4. Адаптивное кодирование 3-компонентного электро кардиосигнал а с преобразованием в 4-компонентныЙ синхрогодограф. Нормальная ЭКГ; 7 гармоник. Наложение исходных и декодированных сигналов (уклонения на грани разрешающей способности чертежа)

погрешности кодирования — декодирования (максимума модуля уклонения, взятого по всем отсчетам и по всем компонентам электрокардиосигнала), выраженное количеством интервалов 16-разрядного квантования, составляет 0,5 • 21б~10 = 32. Об эффективности кодирования (на

примере 3-компонентных электрокардиограмм, нормальной и патологи-

ческой) можно судить по рис. 4—7, а также по

следующей сводке харак-

теристик кодирования:

Объект кодирова

ДПФ 4-ком-Количество

Объем опи

Максимум

ния

понентногогармоник

сания, бит/цикл

погрешнос

синхрогодо

ти кодиро

графа

вания

Нормальная ЭКГ, 756 X 3 отсчетов

32-точечное7

560

28,0 (788)

(рис. 4, 5) Патологическая

64-точечноеИ

880

29,3 (536)

ЭКГ, 708X3 отсчетов (рис. 6, 7)

Примечаиие. В скобках указан максимум погрешности обычного ДПФ-коди- рования при том же объеме описания

Как показали эксперименты, те же 15 гармоник создают для системы с фиксированной длиной кодового слова необходимый запас точности при кодировании 3-компонентных электрокардиосигналов. В применении к 12-компонентным сигналам такая система характеризуется следующими данными: 13-компонентный синхрогодограф (или два 7-компонентных), 64-точечное БПФ, 20—30 итераций, 16 комплексных коэффициентов Фурье на кардиоцикл для каждой из компонент, 10-р^зрядное квантование коэф-

Р и с. 5. Обычное Фурье-приближение 3-компонентного электрокардиосигнала, эквивалентное адаптивному приближению по объему описания. Наложение исходных и приближенных сигналов (нормальная ЭКГ; девять гармоник)

фициенгов. Объем описания — 580 байт/кардиоцикл; 10-кратный выигрыш в объеме описания относительно обычной системы с фиксированной длиной кодового слова;(200 • 12)/(16 • 13)> 10. Это, разумеется, лишь нижняя оценка для эффективности параметрического приближения как средства кодирования электрокардиосигналов. Неравномерный код, оптимальная сегментация и специализированные синхрогодографы дополнительно повысят выигрыш в несколько раз.

Отметим, что 30-кратное выполнение пары 64-точечных БПФ (прямого и обратного) лишь утраивает вычислительные затраты по сравнению с парой 512-точечных БПФ.

Для многокомпонентных электрокардиосигналов, в том числе для электрокардиотопограмм, возникают дальнейшие возможности в сокращении описания, связанные с двумерным преобразованием Фурье и разложением Карунена—Лоэва.

Адаптивная параметризация и конформное отображение. В заключение сделаем несколько дополнительных замечаний о связях между различными задачами и алгоритмами, предполагающими адаптивную параметризацию кривых. Вопросы выбора наилучшего в том или ином смысле параметрического представления затрагивались в таких областях, как метрическая теория функций и теория аппроксимации [3,6], кодирование изображений и геометрических форм [1, 2, 4, 5, 7—9], приближенное конформное преобразование [10—13], машинное распознавание образов [14-16]. Характерно то, что авторы этих групп работ обращались к вопросам параметризации независимо и оставались в изоляции друг от друга. Важными первоисточниками с точки зрения приложений оказываются два изобретения 30-х годов. Одно из них, уже упоминавшееся, служит прецедентом для адаптивной параметризации в целях кодирования [1]. Другое состоит в итерационном

Р и с. 6. Адаптивное кодирование 3-компонентного электро кардиосигнал а с преобразованием в 4-компонентный синхрогодограф. Наложение исходных и декодированных сигналов (патологическая ЭКГ, 11 гармоник)

алгоритме адаптивной параметризации (для нужд конформного отображения), а именно в процедуре, чередующей приближение с обновлением параметризации путем ’’сноса” параметра с приближающей кривой [10].

Начнем с кодирования и аппроксимации. Модуляция скорости строчной развертки заключает в себе, как уже отмечалось, идею параметрического приближения. Модуляция скорости следящей развертки [7, 8] точно так же соотносится с приближением полиномиальными кривыми. Имеется в виду узкополосная телевизионная система, считывающий луч которой обегает контуры или прочерчивает линии изображения. Многократный обход контура дает на приемной стороне параметрическое описание траектории луча в виде пары периодических сигналов с финитным спектром, и на экране демонстрируется не что иное, как тригонометрическая полиномиальная кривая. Прослеживание с постоянной скоростью приводит к обычному приближению, отвечающему естественному параметрическому представлению (рис. 8, а). Задача управления Скоростью сводится к выбору

Р и с. 7. Обычное Фурье-приближение 3-компонентного электрокардиосигнала, эквивалентное адаптивному приближению по объему описания. Наложение исходных и приближенных сигналов (патологическая ЭКГ, 15 гармоник)

параметра с таким расчетом, чтобы спектры сигналов лучше укладывались в заданную полосу частот и новая полиномиальная кривая того же порядка точнее воспроизводила контур. с

Имеются, конечно, особенности в том, как ставится вопрос приближения на практике. Критерии оптимизации (качества приближения функций и кривых) не достигали здесь строгого максимализма теоретических подходов к задаче [3, 6]. В аналоговых системах строчной развертки для модуляции скорости испытывались простые цепи обратной связи, противодействовавшие колебаниям модуля производной видеосигнала [2]. Примерно тот же принцип использовался в цифровых вариантах кодирования. Уже этим достигался ощутимый выигрыш в полосе частот. Идущий дальше способ управления, предложенный для систем следящей развертки [7J, состоял в поддержании на постоянном уровне модуля вектора ускорения при движении вдоль кривой. Скорость и движения вдоль контура оказывается при этом связанной с кривизной к траектории нелинейным уравнением (u(du/ds))2 + ^и2 = const; s — длина дуги. Не имеется сведений об

2. Зак. 551 I и ' О > 17

БИБл ; -НА

/7ра5лио#сенг/я5-го порядка

доидлилееноя ли порядка

Р и с. 8. Приближения правильного четырехугольника тригонометрическими полиномиальными кривыми

а — обычное квадратичное приближение, отвечающее естественному параметрическому представлению; б — наилучшее условно-квадратичное приближение ”в сред- нем” [9]; в — условно-квадратичное приближение, сохраняющее модуль производной (32-точечное ДПФ, 30 итераций) [4]; г — наилучшее квадратичное приближение образами окружности при численном конформном отображении круга на правильный четырехугольник [10]

осуществлении подобной системы передачи. Общая же цель обоих способов состояла в том, чтобы придать сигналам повышенную гладкость, а их разложениям д ряды Фурье — - ускоренную сходимость. Управление не зависит явно ■. от конкретных ограничений на полосу частот. Это примеры задачи об улучшении ”в среднем” всего множества возможных приближений полиномиальными кривыми различных порядков.

Следующий шаг был сделан в [9]. Здесь рассматривалось,в !сущности, наилучшее приближение ”в среднем”, а именно вариационная задача о выборе комплекснозначного представления плоской кривой, Фурье- коэффициенты которого убывают по модулю наиболее быстро, что привело к линейной задаче о наименьшем собственном значении для уравнения -d2iVds2 + р2(й2 — X) u = 0; u = vY^p, допускающего, однако, некоторую подстройку по отношению к полиномиальным кривым заданного порядка путем выбора подходящего значения для константы р. Этим способом были получены (по-видимому, впервые) примеры Полиномиальных кривых, стоящих достаточно близко к элементам наилучшего приближения (см. рис. 8, б, гдер = 3/2).

Наконец, та форма, какую приняла задача в [4] и в данной статье, может быть охарактеризована как наилучшее условное приближение полиномиальными кривыми заданного порядка. Пусть тем или иным способом определено расстояние r^g, Л) между вектор-функциями (или комйлекснознач- ными функциями) g и h. Тогда формально это задача о приближении [4]:

еаМ = inf ГUw\ au(v>(0); АУ«е [о, г], (1)

где Ф — множество неубывающих функций, преобразующих отрезок [0, Т] в себя (параметризующих функций). Дополнительные условия налагает оператор (алгоритм) А, диктуемый обстоятельствами или выбираемый из каких-либо практических соображений. Он ограничивает выбор полиномиальных кривых годографами функций {Л (gfa(r)); П}уеф. При передаче контура посредством следящей развертки оператор А выражал бы преобразование сигнала, осуществляемое узкополосным каналом связи. В нашем случае, когда роль оператора А играет преобразование Фурье (см. рис. 8, в), задачу (1) можно квалифицировать как условно-квадратичное приближение. Оно теряет свой условный характер при выборе, для г метрики 12, давая в этом случае квадратичное приближение =

E*n(g)= inf inf r(g(t>(O),A(O), ' hE^n ^ЕФ

где Фл — множество тригонометрических полиномиальных вектор-функ- ций, степень которых ограничена числом п.

Как видно, повлиять на результат приближения типа (1) можно двумя путями: изменением метрики (псевдометрики), определяющей уклонение г, и выбором преобразования А. Первую возможность иллюстрирует рассмотренный в [4] класс аппроксимаций, сохраняющих модуль или аргумент комплекснозначного представления кривой. Этот класс был представлен в предыдущих пунктах аппроксимацией, сохраняющей модуль производной (см. рис. 8, в). Относительно метрики L^ (а также построения алгоритмов методом Ньютона) см. [17].

Вторая возможность приводит, в частности, к задаче приближенного конформного отображения круга на заданную область [10—13]. Преобразование A =Zg^ принадлежит здесь множеству Z„ полиномиальных функций комплексного переменного, степень которых ограничена числом и. Смысл графоаналитических и численных процедур отображения может быть выражен как решение задачи о приближении

EZr^ = inf r(g(v>(5)), ZgWYei9-,9\Y 6 G [0,2я], Zg^ G Z„, (2) ^ЕФ

где g (s) служит комплекснозначным представлением границы у области. Это снова наилучшее условное приближение тригонометрическими полиномиальными кривыми с той лишь разницей, что их выбор ограничен теперь годографами функций \.ZgW к19; 5]}^ф” - образами границы единичного круга. Задача сводится к подысканию для кривой у приближенного представления из множества пар сопряженных тригонометрических полиномов степени и.

Конформное отображение стало, по-видимо му, первой связанной с выбором параметра задачей, где метод последовательных приближений выразился в чередовании операций приближения и ’’сноса” (’’наведения”) параметра с одной кривой на другую. Первая операция (выбор подходящего преобразования Z при фиксированной ^) использует операторы 2^(^), близкие к квадратическим [10-13]. Они предусматривают применение ДПФ (еще не имевшего, конечно, такого наименования) к дискретному представлению кривой у, конструирование из полученных коэффициентов ближайшей пары сопряженных спектров и обратное их преобразование для приближенной реконструкции кривой в виде набора точек на плоскости. Вторая операция (выбор новой ф при фиксированном Z) определяет, какова на самом деле метрика г, хотя критерии приближения в [1Q—13] не обсуждались. Среди вариантов второй операции обнаруживается Приближение, сохраняющее аргумент (полярный угол 6) [11]. Основное же внимание уделялось построению нового дискретного представления путем сноса каждой из полученных точек по нормали на кривую у [10, 12, 13] (см. рис. 8, г). Аналогом всей процедуры в этом варианте оказывается алгоритм сближения — наведения, описанный в [14].

Конформное преобразование круга согласно (2) сочетает в себе задачи наилучшего приближения полиномиальными кривыми и наилучшего наложения заданной пары кривых (как границ соответствующих областей) преобразованиями заданного класса. Оператор приближения Zg^ есть одновременно оператор сближения единичной окружности и заданной кривой у. При опознавании методом наложения [14] задается класс Т аффинных преобразований; алгоритм, чередующий сближение пары кривых и снос параметра по нормали (наведение), появляется как следствие выбора метрики Аз Для уклонения

^(g^ inf inf ги(г),Л[й(уЧО);г]); te^ (3) А ЕТ ^ЕФ

причем операции сближения и сноса получают, в связи с вопросами сходимости, явную интерпретацию как поочередный выбор наилучшего А при фиксированной ф и наилучшей ф при фиксированном А. Границу

канонической — в терминах конформного отображения — области заменяет теперь эталонная кривая, представленная вектор-функцией Л (5). Поскольку роли кривых поменялись в том смысле, что объектом адаптивной параметризации стал эталон, в то время как опознаваемая кривая 7 задана фиксированной вектор-функцией g(0> направление сноса меняется на обратное (заметим кстати, что в задаче (2) смена направления попросту исключила бы применение ДПФ). Множество ’’кривых сравнения” составляют годографы функций (Л [Л(ф (г)), ^^ф - аффинные образы эталона,

Не имеется сведений об осуществлении этой процедуры наложения. Результат вычислительного эксперимента приводится для упрощенного алгоритма [15]: вместо сноса параметра соответствующая операция всякий раз лишь возвращает к естественному параметрическому представлению аффинный образ эталона, полученный в результате сближения. Эта процедура, как отмечено в [15], не сходится, иначе как в случае аффинной эквивалентности кривых. Тем не менее она позволила с помощью некоторых дополнительных приемов заметно сблизить вектор-кардиограммы, предположение об аффинном сходстве которых вытекало из условий их получения.

Указанную операцию можно трактовать как ’’перенос” параметризации, в данном случае предопределенной и неизменной, с кривой 7 на образ эталона, устанавливая таким образом определенную аналогию с алгоритмом условного приближения (1), сохраняющего модуль производной. А это приводит данный обзор к его исходной точке.

Подведем некоторые итоги. Действительно, приближенное конформное отображение занимает особое место — оно служит первоисточником не только для самих задач наложения заданных кривых и приближения поли- номиальными кривыми, но также для конкретных способов их численного решения, а именно для итерационных алгоритмов квадратичного наложения и условно-квадратичного приближения.

После сопоставления всех трех задач может показаться удивительным тот факт, что практические проблемы конформного отображения, так же как и проблематика распознавания образов, связанная с отысканием наилучшего поточечного соответствия между кривыми, оставляли вне поля зрения вопрос о потенциале полиномиальных кривых как средства аппроксимации и кодирования. Но даже при объединении задач наложения и аппроксимации в рамках вычислительной электрокардиографии [16] они рассматривались с различных позиций.

Проведенный обзор обнаруживает алгоритмические аналогии во всех попарных комбинациях трех задач. Он делает также очевидным, что всякому алгоритму, предназначенному для одной из них, можно придать новую целенаправленность и пополнить им арсенал средств для решения любой другой. Пример использования такой возможности дает работа [18].

Авторы выражают признательность Л.И. Тито миру за полезное обсуждение вопросов кодирования кардиосигналов и А.В, Соболеву за предоставленный для экспериментальной работы цифровой кардиографический материал.

ЛИТЕРАТУРА

Bedford I.H., Puccle O.S. A velosity-modulation TV system//!. IEE. 1935. Vol. 75, N63.P. 63-93.

Beddoes M.P. Two channel method for compressing band-width of television signals// Proc. IEEE. 1963. Vol. 118, N 2. P. 369-374.

Сеидов Б. Некоторые вопросы теории приближения функций и множеств в Хаусдорфовой метрике//У спехи мат. наук. 1969. Т. 24, № 5 (14 9). С. 141-17 8.

Поляков ВТ., Айду ЭЛ.И., Нагорное В.С., Трунов ВТ О выборе параметрического представления при численное приближении и кодировании кривых// Пробл. передачи информ. 1984. Т. 2 0, № 3. С. 47-58.

Поляков ВТ, Айду ЭЛ.И., Нагорное В.С., Трунов ВТ Адаптивное кодирование геометрических форм с выбором параметрического представления//Шестой Международ. симпоз. по теории информ.: Тез. докл. М.; Ташкент, 1984. Ч. II. С. 137-140.

Колмогоров А.Н., Фомин С.В. Элементы теории функций и функционального анализа. М.: Наука, 1968.А96 с.

Вайнштейн ГТ. Об оптимальном управлении следящей разверткой//Докл. науч,- техн. конф, по итогам научно-исслед. работ за 1966-1967 гг. (Пбдсекция автоматики и телемеханики). М.: МЭИ, 1967. Ч. 1. С. 140-146.

Поляков ВТ., Переверзев-Орлов В.С. Электронные системы следящей развертки. М.: Энергия, 1968. 191 с.

Нагорное В.С., Поляков ВТ. К выбору параметрического представления кривых при цифровом описании и обработке плоских фигур//Цифровая обработка сигналов и ее применение. М.: Наука, 1981. С. 71-77.

Мелентьев П.В. Несколько новых методов и приемов приближенных вычислений. М.: ОНТИ, 1937.178 с.

И. Благовещенский Ю.В. О некоторых приближенных методах конформного преобразования//Сб. тр. Ин-та строит, механики. Киев: Изд-во АН УССР, 1950. № 14. С. 136-148.

Канторович Л.В., Крылов В.И. Приближенные методы высшего анализа. М.: Физматгиз, 1962. 708 с.

Фильчаков П.Ф. Приближенные методы конформных отображений. Киев: Наук, думка, 1964. 531 с. -

Пинскер И.Ш. Опознавание векторных функций и линий//Опознавание и описание линий. М.: Наука, 1972. С. 7-29.

Шакин В.В. Простые алгоритмы классификации линий//Опознавание и описание линий. М.: Наука, 1972. С. 40-46.

Шакин В.В. Вычислительная электрокардиография. М.: Наука, 1981. 167 с.

Нагорное В.С. Квадратичные приближения с выбором параметра в задачах кодирования кривых//Шестой Междунар, симпоз. по теории информ.: Тез. докл. М.: Ташкент, 1984. Ч. II. С. 124-126.

Айду ЭЛ.И.Сближение и наведение. Алгоритм среднеквадратичного приб

лижения линий// В наст. сб.

УДК 621.391.19

СБЛИЖЕНИЕ И НАВЕДЕНИЕ.

АЛГОРИТМ СРЕДНЕКВАДРАТИЧНОГО ПРИБЛИЖЕНИЯ ЛИНИИ

Э.А.И. АЙДУ

Многие объекты в задачах распознавания, обработки изображений и ь других прикладных исследованиях описываются линиями, и одним из этапов их вычислительной обработки является аппроксимация данной линии некоторой линией из заданного семейства.

Плоскую линию можно представить в декартовой системе координат как вектор-функцию х(г) =(х1(г), х2(0)» [О, 1]. При этом все вектор-функции х(^(г)), которые получены из вектор-функции х(г) непрерывным и монотонным отображением <р(г) отрезка [0,1] на себя, изображают одну и ту же линию.

Неоднозначность представления линий создает дополнительную степень свободы, которую можно использовать при их приближении и кодировании. В работах ВТ. Полякова и его сотрудников [2, 3, 5, 6] предложены различные варианты поиска наилучшего в том или ином смысле представления линий, в частности такого, которое наиболее точно приближается отрезком ряда Фурье. Продемонстрирована высокая эффективность такого подхода. В настоящей статье рассматривается несколько иной подход к решению общей задачи приближения линии, изложенный ранее в работе [4]. ■

Для построения семейства аппроксимирующих линий в работе [4] выбрана вторая линия — эталон. В отличие от первой плоской линии эталон обычно многомерная линия. За счет деформации эталона можно получить некоторое множество многомерных линий. Рассматривалась задача приближения исходной линии проекцией на плоскость предварительно преобразованного многомерного эталона. Одно из основных возможных преобразований эталона — аффинное преобразование. Для отыскания лучшего аффинного преобразования эталона предлагался итерационный метод, заключающийся в последовательном повторении следующих операций:

наведение — однозначное отображение точек заданной линии на эталон (при этом получается новое представление эталона в виде новой вектор- функции);

сближение — аффинное преобразование эталона (линейное преобразование его вектор-функции) и проецирование его на плоскость.

Излагаемая постановка задачи является развитием основных положений статьи [4]. Сначала определяется расстояние между линиями, вводится семейство аппроксимирующих линий и затем описывается алгоритм поиска ’’лучшей” линии из этого семейства. В качестве семейства аппроксимирующих линий, как и в [2,3,5], используются линии, представимые тригонометрическими полиномами заданного порядка. На нескольких примерах демонстрируется эффективность предлагаемого алгоритма среднеквадратичного приближения линии.

Среднеквадратичное расстояние между линиями. При постановке задачи приближения исходным пунктом является определение расстояния между

двумя изучаемыми объектами. Расстояние между линиями можно определить различными способами (см. [1, 7]), выбор которых диктуется рядом обстоятельств. Во-первых, это определение должно соответствовать в какой-то мере интуитивным представлениям о близости двух кривых. Во-вторых, надо учесть, какие кривые предстоит приближать, каков способ их задания. При вводе в ЭВМ реальных кривых (вектор-кардиограмм, контуров изображений), они задаются последовательностью точек. В других случаях линии могут быть заданы в виде вектор-функций, допускающих вычисление координат произвольной точки. И, наконец, необходимо стремиться к минимизации трудоемкости построения эффективного вычислительного процесса поиска наилучшего приближения к заданной линии. Среднеквадратичное।расстояние между линиями удовлетворяет всем этим требованиям.

Эвклидово расстояние между двумя произвольными точками = (х19 х2), У = (У1,^2) плоскости запишем в виде

р(х,у) = Их-д’И =((X1 -yty + (х2 -Ji)2)*,(1)

где хг, х2 (уд, У2) — декартовы координаты точки х(у). Определим линию как геометрическое место точек x(t) = (^(r), x2(r)), tE [0, 1], где Xi(f), х2(0 — действительные функции, непрерывные на отрезке [О, 1]. Будем говорить, что эта линия есть годограф вектор-функции х(0, а х^ - представление данной линии X в виде вектор-функции. Как уже упоминалось, каждой линии соответствует множество различных вектор-функций (различных представлений).

Прежде чем определить расстояние между двумя линиями на плоскости, рассмотрим некоторую реальную ситуацию. Одна из линий — X при вводе в ЭВМ задана конечной последовательностью точек Ху = (xiy,x2y),/ = 1,... ..., л, а другая — Y задана в виде вектор-функции у (Г), позволяющей вычислить декартовы координаты произвольной точки на этой линии по значению параметра t. Расстояние от одной точки Xj др линии Y естественно определить как расстояние от данной точки до ближайшей к ней точки на линии Y:

PitXbYV inf P<xby<t^= inf Их, -j(0». te[o,i]te[o,H

Тогда среднеквадратичное отклонение системы точек {Ху} от линии У:

— S 11х/-;Н'/)112) .(2)

п /=1/

Аналогично можно определить и расстояние от линии X до линии Y. Пусть теперь линия X задана неким своим представлением в виде вектор- функции х(г); тогда среднеквадратичное отклонение всех точек линии X отлинии Y

г(х(г),У) = inf (J lx(0-y(v>(r))«2dt)%,(3)

<^G Ф о

У при заданном представленииУ при заданном представлениигде Ф — множество всех отображений отрезка [0, 1] в себя. Примем величину г (х(г), У) за расстояние от линии X до1 х(0 линии X.

У при заданном представлении

У при заданном представлении

Здесь, так же, как и в примере с конечной системой точек, каждой точке на линии X соответствует ближайшая к ней точка на линии У; минимальное значение интеграла в (3) достигается при функции т = ф *(f), устанавливающей такое соответствие:

Их (О — у(^*(О)И = ^fИ х (О —у(т)И.

те [о,Ц

Покажем теперь, что задание представления х(г) в (3) эквивалентно заданию весовой функции, определяющей относительный вклад каждой точки хЕ X в интегральную сумму отклонений от лини У. Пусть s — длина дуги линии X между точками х(0) и х(Г). После замены параметра t = ф (s) в (3) получим:

s

г(х(0,У) = inf (J llxCi/zCs^-y^^fs^lPi/z^ds^,(4)

ф&Ф о

где S — длина всей линии X, при этом s1

/ ф#($)(1$=/ dt = 1. оо

Здесь ФХ$) - весовая функция, однозначно определенная по заданному представлению х(г) для X; чем выше скорость движения по линии X, тем меньший вес придается соответствующим отклонениям точек от У.

Семейство аппроксимирующих линий. Постановка задачи. Пусть И^- множество всех таких линий, которые допускают представление в виде некоторой вектор-функции /(a, b, t), каждая компонента которой есть тригонометрический полином порядка не выше m:

m

f(a,b9t) = S (akCQs2itkt + bk 8ш2я^г), ^^[0,1],(5)

k = 0

где ak = (axk) <hk), Ьк = (bxk, Ь^к) — вектора коэффициентов. Другими словами, множество всех годографов функций вида (5) есть множество Wm.

Для линии X, заданной своим представлением х(0, будем искать ближайший к ней элемент множества Wm:

r(x(0, У*) = min г(х(0, К).с (6)

Здесь У*Е Wm — элемент наилучшего приближения для линии X.Учитывая определение расстояния (3) и представление (5) для линии У Е ^выражение (6) можно переписать в таком виде:

г(х<0,У)=(?)

[1m1

/Нх(О— 2 (atсо82я£^(0 + 6fcSin2tf&i(r))ll2dq .

» Л ■0к = 0J

Таким образом, поиск элемента наилучшего приближения для заданной линии сводится к поиску минимума функционала

1m

J(a, Ь,ф) = f IIх(г) — 5 (аксоа21ткф(£) + Ьк$т21ткф(<У)11 ^-(8)

ок = о

В отличие от обычной аппроксимации функций в рассматриваемой задаче нужно найти минимум не только по совокупности коэффициентов ^ак, bkV Здесь требуется найти такую функцию <p(f) G Ф, при которой минимизация по коэффициентам дает наилучший результат.

Поставленная задача существенно нелинейна.

Алгоритм среднеквадратичного приближения линии. Для поиска элемента наилучшего приближения, определенного выражением (7), воспользуемся описанным итеративным методом сближения—наведения [4]. В данной ситуации (определены расстояние и семейство аппроксимирующих линий) этот метод заключается в следующем.

На 1-й итерации зададим произвольную параметризующую функцию ^^(О* Если нет какой-либо дополнительной информации, естественно выбрать ф^ (t) = $.

Каждая z-я итерация содержит два шага.

Сближение. При фиксированной параметризующей функции ф^-^Г) определяются коэффициенты а^, Ь^, минимизирующие функционал (8):

Да^Хь^Хф^1^)^ pin У(я, й,^*-1)).

Это обычная задача среднеквадратичного приближения функции линейной комбинацией функций 1, со82я^(,"~1)(0> ^Зя^^”^^), ^ = 1,. ..,т:

J(a^lX 6^^^-10=min /Их(г) — S (аксо82я^^-1^0+

К’М° к = 0

+ 6^$т2я^^”1\012 dr.(9)

Коэффициенты ^а^, Ь^^ определяют некоторую линию FW е Wm.

Наведение. Устанавливается новое соответствие ф ^ (г) между точками линии X и линии F^\ каждой точке x(r) ЕХ ставится в соответствие ближайшая к ней точка на линии F^. При таком соответствии достигается минимум функционала (8) при фиксированных значениях коэффициентов а^ ,Ъ^ ; к = 0,... ,т:

Да^.Ь^Хф^1^ min J 11х(т)-/^\<p(r))ll2dT,(10)

ф^Ф о

т

где f^ = S (а^ сов2я£г 4- Ь^ 8Й12я£г) — одно из представлений к = 0

линии F^ . Легко определить необходимое условие экстремума функционала (8) при заданных а^, Ь^ :

<лг(о-/<0(^<0(ох(и)

си

<•,•> — обозначение для скалярного произведения.

Условие (11) означает, что вектор (х(г) —/^(^ЧО))» соединяющий соответственные точки линий X и F^ t должен быть перпендикулярен касательной к линии F^ в соответственной^точке. Это условие используется при построении параметризующей функции фУ* (0.

Последовательность линий F^ (z = 0, 1, ...), получающаяся при проведении итераций, обладает тем свойством, что каждая последующая линия лежит ближе к аппроксимируемой линии X; последовательность 'соответствующих расстояний: r(i(r),F^),r(x(r),^^^),... ^(xCO^^), • • • монотонно убывает, ограничена снизу и, следовательно, имеет некоторый предел. Пусть последовательность F^ также имеет предел. В этом случае, как показано в [4], эта предельная линия определяет по крайней мере локальный минимум функционала (8).

В соответствии с изложенным составлен алгоритм и написана программа для ЭВМ. Предполагалось, что непрерывная замкнутая линия X задана лишь конечной упорядоченной последовательностью точек: х0, хь ... • • • >ХЬ • • • »хп» ^0 ~Хп.. .

Точка Ху = (х17-, х2у) Е X соответствует параметру =f(nt в некотором представлении х(0 линии X. При этом первый* шаг (сближение) в каждой f-й итерации сводится к вычислению коэффициентов а^, Ь^, минимизирующих дискретный аналог функционала (8):

Jia^b^At^-^V min J<a,bAtV-1^,(12)

' KM'

иm

где l(a,b,VA") = 2 Ijc/— 2 (q)ccos2irkt} + bksm2irktj)V.

1 y=l k = 0.

Значения tp~^ определяются из предыдущей (i — 1)-й итерации, а при z = 1 — tp^ = //и. Вычисленные по методу наименьших квадратов коэффициенты а^, Ь^ определяют аппроксимирующую линию F W и ее представление:'

/^(О3 2 (a^cos2itkt + b^sin2irkt").(13)

к = 0•

Второй шаг z-й итерации — наведение. Для каждой точки Ху (/ = 1,..., л) определяется новое значение параметра tp\ соответствующего ближайшей к X) точке / Qp^ ) 6 F^. Поиск ближайшей точки также осуществляется итеративно.

Пусть точке Xj после i-й подитерации соответствует точка ft =f^’(ft) G GF^, где Tj — значение параметра в представлении (13), To=tp~^. Новое значение параметра tz+1 вычисляется следующим образом (см. рис. 1):

тН1 = Ti*Q-81»(т^,(14)

где 8 — длина проекции вектора Д(т,) = (ху —/,) на касательную Ktr^ к линии Е^ в точке ff, v(tz) - скорость движения по линии Е^ в представлении (13), или, что.то же самое, модуль вектора производной функции f^ (t) в точке rz :

v(tz)= 1/^^'(т,)|,

q — некоторый множитель.

Если касательная К^т^ достаточно хорошо описывает поведение линии в интервале [tz, tz+1] , то при q = 1 этот шаг приведет к тому, что будет

выполняться необходимое условие экстремума функционала (11), т.е. вектор ошибки Д(т/+1) перпендикулярен касательной К(т1+Х), и тогда параметр т/+1 соответствует, по крайней мере локально, ближайшей к ху- точке на линии F^ . Однако, если поведение линии в окрестности [т^, т/+1 ] более сложное, вполне возможно, что расстояние (ошибка) увеличится, т.е. Д(т/+1) > Д(т/). В этом случае необходимо более ’’осторожно” двигаться в том же направлении и значение множителя q < 1 выбирается так, чтобы выполнялось условие: Д(т/+1) < Д(т/). Обычно нескольких (3—10) итераций оказывается достаточно для определения локально ближайшей точки. С учетом того, что наведение осуществляется многократно в процессе работы алгоритма, на каждой итерации достаточно 1—2 подитераций.

Примеры среднеквадратичного приближения линий. На рис. 2—4 приведены линии и среднеквадратичные приближения для них, полученные с помощью предлагаемого алгоритма (сближение—наведение). Для срав-

нения на тех же рисунках штрих-пунктиром показаны обычно получаемые приближения, построенные одношаговым алгоритмом (только сближение) при фиксированной параметризующей функции ф (г) = t и при тех же порядках аппроксимирующих тригонометрических полиномов.

В таблице приведены основные характеристики полученных приближений - порядок полинома, точность приближения, число итераций. Как видно из таблицы и из рис. 2—4, предлагаемый алгоритм позволяет значительно уменьшить среднеквадратичную ошибку. Почти точное приближение квадрата, весьма трудной для тригонометрической аппроксимации линии, достигается использованием лишь трех гармоник (1-й, 3-й, 5-й):

Порядок полинома

Среднеквадратичная ошибка

Число ите- раций

Рисунок

Обычное приближение (сближение)

Предлагаемый алгоритм (сближение-наведение)

5

3,17 • 10**

2,91 • 10‘3

80

2

3

0,104

0,0095

40

3

10

1,44

0,505

35

4,Д

Аппроксимация линии будет различной в зависимости от исходного представления ее последовательностью точек. В примерах на рис. 2—4, а линии представлены последовательностью приблизительно равноотстоящих по длине дуги точек. Как уже упоминалось, это эквивалентно равномерному распределению веса по всей длине линии. В примере 4, б вес важной для нашего восприятия части линии был увеличен, на этом участке расстояние между соседними точками в представляющей последовательности в 2 раза меньше.

Возможности алгоритма не ограничиваются плоскими линиями. Составленная программа позволяет строить приближения и для линий в пространстве, размерность которого больше двух.

ЛИТЕРАТУРА

Колмогоров А.Н., Фомин С.В. Элементы теории функций и функционального анализа. М.: Наука, 1972.115 с.

Нагорное В.С., Поляков В.Г. К выбору параметрического представления кривых при цифровом описании и обработке плоских фигур//Цифровая обработка сигналов и ее применение. М.: Наука, 1981. С. 71-77.

Нагорное В.С. Квадратичные приближения с выбором параметра в задачах кодирования кривых//Шестой Междунар, симпоз. по теории информ.: Тез. докл. М.; Ташкент, 1984. Ч. II. С. 124-126.

Пинскер И.Ш. Опознавание векторных функций и линий//Опознавание и описание линий. М.: Наука, 1972. С. 7-29.

Поляков В.Г., Айду Э.А.И., Нагорное В.С., Трунов ВТ. О выборе параметрического представления при численном приближении и кодировании кривых//Пробл. передачи информ. 1984. Т. 20, № 3. С. 47-58.

Поляков ВТ, Айду Э.А.И., Нагорное В.С.,, Трунов В.Г. Адаптивное кодирование геометрических форм с выбором параметрического представ ления//Шестой Междунар. симпоз. по теории информ.: Тез. докл. М.; Ташкент, 1984. Ч. II. С. 137-140.

Сендов Б. Некоторые вопросы теории приближения функций и множеств в хаусдорфовой метрике//Успехи мат. наук. 1969. Т. 24, № 5 (149). С. 141-178.

УДК 519.65

ФУРЬЕ-ПРИБЛИЖЕНИЕ КРИВОЙ

С АДАПТАЦИЕЙ ПАРАМЕТРИЧЕСКОГО ПРЕДСТАВЛЕНИЯ: ОБ ОДНОМ ЭКСТРЕМАЛЬНОМ СВОЙСТВЕ ПРИБЛИЖЕНИЙ, СОХРАНЯЮЩИХ НАПРАВЛЕНИЕ КАСАТЕЛЬНОЙ

В.С. НАГОРНОВ

Цель адаптивной параметризации в задачах приближения состоит, вообще говоря, в минимизации некоторого показателя, характеризующего степень деформации заданной кривой. Чаще всего экстремальные свойства таких приближений связаны с функционалами, так или иначе выражающими расстояние между параметрическими представлениями сравниваемых кривых. В настоящем сообщении показано, что один из классов приближений, введенных в [1], обладает дополнительно экстремальным свойством иного типа, а именно решает задачу о максимализации площади, охваченной результирующей кривой. В [1] задача приближения ставится как вопрос о

наименьшем уклонении заданного оператора приближения на множестве параметрических представлений кривой. В качестве средства решения задачи рассматривается выбор для плоской кривой т представлений, приближение которых как комплекснозначных функций оставляет неизменным либо модуль, либо аргумент. Нас будет интересовать здесь выбор представления, имеющего общий со своим приближением аргумент производной и удовлетворяющего таким образом уравнению

\тЬЧф(0ЦАп2(ф№ 0,(1)

где z(s) = x(s) + iy^s) - комплекснозначное представление плоской кривой с нормированной длиной дуги s в качестве параметра; $ = ^(г) — неизвестная параметризующая функция из^множества Ф неубывающих функций, отображающих отрезок [О, Т] на себя; Ап — оператор приближения, в данном случае оператор Фурье, ставящий в соответствие z^^t)) тригонометрический полином порядка п относительно переменной t со значением АпХ^ф^У) при данном t Е [О, Г], штрих обозначает производ- ную4Ю L

Покажем, что функция ф(У), удовлетворяющая (1), оказывается решением задачи о выборе параметрического представления, приближение которого дает кривую, ограничивающую экстремальную площадь, т.е. задачи об экстремуме функционала

= %(Д(^)-52Ш(2)

где Si (у) = f А„ [x(i(f)); t ] Ап [ y^<f^; t ] 'dt; о

л г

^(•р) = f А„ [х(</>(0; t] %, [y(i(O; t]dt. О

Дадим приращение e^t) аргументу ф (О так, что ф (t) *€ф(1) Е Ф. Заметим, что ф(0) = ф (7) = 0, чтобы не выйти из класса допустимых функций. Приращение функционала Si (^) представим в виде

£1(^ + еф)-Д(^) = е(^1(<р), V0 Л

где (Si (^), ф) - главная линейная часть, которая и будет нас интересовать [2]. Результат применения оператора Ап запишем в виде свертки

т

AnV^WYtV $ a<t, r)x(i(r))dr, о т

AnVy^OV, t] = J a(t, T^y^T^dT, о где

a(t, r) = sin(2H + 1) ^ ^ T" / 2 • sin ^ T^ .

В дальнейшем будем считать, что выполняются условия гладкости, необходимые для операций дифференцирования и перемены порядка интегрирования, Начнем с разложения

x(l(O + €<Н0) = х(_ф) + ех'^ОЖО + ,

У^О + еф^-уЖ + еу^ЖОН^О* ••• •. (3)

Теперь выпишем

т

§Аф + еф") = JЛп[х(<р(О + еф(О); г]Лп[у(<р(О + еф(О);гУ<И =

Q

лГГ

= ^ + 6 / (Лл[хИО); И fa;(tt ^у^ф^Х^ + 00

' т

^А,Ду(ф(О); tY4 a^t, т)x^(ф(т))ф(т)dт)dt + .... о

Изменяя порядок интегрирования и учитывая, что тт

J^U» т)x(ф(т))dт = -/а'(Г, T^x^T^di. оо

получим

$!<</> +е^) = ^(у) + е / Ят){х^(ф(т))4„[у(ф(т)); т]' — о

-^(0(т))^л[х(<р(т)); т]'Ж + ....

А

Следовательно, градиент функционала St (i) имеет вид

З’х^^х^^А^у^т)); т]’-у^(т))Ап[х&(т)У, т]'.

А

Выражение для градиента функционала S2 (ч) будет отличаться только знаком. Отсюда с учетом (2) следует ^ (0) = Si (i).

Заметим далее, что х^ (ф(0) = cos а(ф (/)), а у^ (ф (f)) = sina((p(r)), где a(^(f)) — угол наклона касательной в точке (х, у). Дифференцируя Ап [j(^(^)); П как сложную функцию, имеем

^{-4«[y(^));?D = 4сМуШУП^.

dtdsdt

(С кинематической точки зрения s = s (t) есть график движения вдоль приближающей кривой, а и С^ф^О) = ds/dt — скорость движения.)

Таким образом,

S1^ = cos а и sin а — sin ай cos а = и sin (а — а).

Итак, сохранение аргумента (а = а) является необходимым условием экстремума площади S.

Отметим и тот факт, что условие стационарности для площади годографа разностной функции 2(ф^)) - ^h[z(i(O); f] реализуется на той же самой параметризующей функции Ф^О. Это непосредственно следует из свойств оператора Ап.л

Достаточное условие экстремума функционала 8^ф) приведем для того случая, когда объектом приближения служит выпуклая кривая. Квадратичный член приращения функционала S^) (см. приложение 1) имеет довольно простой вид: т

е2(5 "i//, ф ) = — е2 / ф\Ои(ф($К(#^ cos (&-a)dt, о

где К(ф (Г)) - кривизна приближаемой кривой.

Таким образом, в частном случае выпуклых фигур (v(l(O) > О, К(ф(О) ^ 0) приближение, сохраняющее направление касательной, дает кривую, охватывающую максимальную площадь.

Найденное экстремальное свойство позволяет, в частности, реализовать приближение, сохраняющее направление касательной, с помощью вычислительной схемы Ньютона. Соответствующий итерационный алгоритм с использованием дискретного преобразования Фурье дан в приложении 2.

Приложение 1

ВЫВОД ФОРМУЛЫ ДЛЯ ВТОРОЙ ПРОИЗВОДНОЙ ПЛОЩАДИ ПРИБЛИЖЕНИЯ

Нас будет интересовать разложение

лТ

8х(ф + еф) = fAnYx(5p*€\p'); t]An[y^ + e\^yt]dt. 0

ЛЛА

Учитывая, что S (ф) = Уг (S\ (у) - S3 (^)), рассмотрим

S(V> + е*) = S(t) + е(§4^, t) + (S/2)(Stt (*)*,*)<■....(4)

Продолжим ряды (3) до членов второго порядка малости:

,2

х(<^ + е^) =хад + ех^фН (О +— х"2ад^2(0 + ... ;

,2

У (у> + еф ) =у ад + €у^ф)ф (Г) + — у ”i <фф 2 (О + ....

Т

Учитывая, что Ли[х(^); Г] = fa (t, т>х (ф (т)) dr, для приближения получим: 0

33333. Зак. 551

33

33

Лл[х(^ + еф); л =Лл[х(^); t] + е Ja(t, ^x^^OH^Odt + О

+ — J аО, т)х"2 ^(T)H2(r)dr +;

ля[^(<^ + е^); tf = лл[^(^); Г]' + efa^(t, т)у^(^(т))ф (r)dr + О

+ — /Sf(t, т)^2 (v?(T))V/2(r)dr + ... . О

Подставляя в (4) ii изменяя порядок интегрирования, получим

Т

8г(ф*€ф) = 81(^ + е f ^АпУ* -y^Anx’WWdt + О

+ ^ f^Any^-y^Anx’H^U^dt.,.. О

В выражении для 52 меняется только знак у всех членов, за исключением последнего; поэтому приращение Д$ (^^ с точностью до членов второго порядка имеет вид

Т3 Т

Д §(ф) = е / 8 sin (а - а)ф Ю& + -| / ^х”г Апу *—у^AnX^^^dt + .... ОО

Приложение 2

В приложении 1 выписывается в явном виде вторая производная функционала 8^. Воспользуемся методом Ньютона [2] для решения уравнения S* (^О = 0, т.е. поиска параметризующей функции и соответствующего приближения, сохраняющего аргумент у производной. Итерационный алгоритм с использованием дискретного преобразования Фурье выглядит следующим образом (к = 0,1, 2,... - номер итерации):

(5)(5)АрАпУ - УрАпх 4>k*lW=9kW;—, •

(5)

(5)

VАпУ VAnX

Чтобы обеспечить монотонность 9^0, слагаемое в правой части (5) необходимо умножить на коэффициент, меньший единицы.

Как показали экспериментальные исследования, приближение по методу Ньютона действительно позволяет получить в случае гладких кривых приближение, сохраняющее направление касательной, обнаруживая, однако, медленную сходимость.

ЛИТЕРАТУРА

Поляков ВТ., Айду Э.А.И., Нагорное В.С., Трунов ВТ. О выборе параметрического представления при численном приближении и кодировании кривых // Пробл. передачи информ. 1984. Т. 20, № 3. С. 47-58. \

Васильев Ф.П. Лекции по методам решения экстремальных задач, М.: Изд-во МГУ, 1974. С. 233-234.\

УЖ 519.25

СИСТЕМА АЛГОРИТМОВ

И ПРОГРАММ АНАЛИЗА ИНФОРМАТИВНОСТИ И СТРУКТУР ЗАВИСИМОСТЕЙ ИЗМЕРЕНИЙ В ЗАДАЧАХ КЛАССИФИКАЦИИ И ПРОГНОЗА

Л.Г. МАЛИНОВСКИЙ

В настоящей работе обобщены основные методологические и конструктивные особенности, положенные в основу системы алгоритмов и программ анализа структур зависимостей и информативности измерений в задачах классификации и прогноза, решаемых методами дискриминантного и регрессионного анализа [1—4]. Описаны структура бистемы программ, их назначение и методика использования. Дается краткое описание системы программ [1-3] (более подробное имеется в [5-8]) и более полное - системы программ [4].

В основе построения системы программ лежит методология, разработанная автором [9—11] и использованная для построения вероятностных и статистических моделей. В результате применения этой методологии к математике приходим к содержательной финитной математике [11], а к теории вероятностей и статистике — к содержательной теории вероятностей и статистике [10]. Содержательная теория вероятностей и статистика позволили создать и упорядочить ряд работоспособных алгоритмов анализа данных (примером чему является система алгоритмов и программ, описанная в настоящей статье), а также обосновать применимость статистических методов в таких областях, где они на первый взгляд казались неприменимыми, Иллюстрация к построению математико-статистических моделей и статистического вывода в рамках содержательного подхода дается на рис. 1. Этапы конструктивного построения математических гипотез и понятия случайной выборки 1-5 (доматематического мышления) подробно описаны в [10]. Эти этапы построены на основании результатов наблюдений и измерений частот отдельных событий (этап 2), которые в различных сериях наблюдений имеют индекс г = 1, .„, к. Серии наблюдений могут носить мысленный характер. По этим сериям наблюдений выделяется некоторый постоянный уровень Р, называемый после нормирования значений Р для всего конечного множества возможных результатов измерений вероятностью, Определение вероятности дается с помощью только такого примера, что является естественным приемом в содержательном подходе к математике. Конкретные примеры - основа всех теоретических построений. Само значение вероятностей или какие-либо соотношения для них точно не определены и являются гипотезами*, для оценки и проверки которых служит математическая статистика. Интересным моментом является конструктивное введение непрерывных функций распределения вероятностей как некоторых алгоритмов, аппроксимирующих дискретные распределения (этап 4). Далее на этапе 5 производится мысленное сопоставление полученных распределений отдельным элементам выборки, что соответствует представлению о случайном появлении данного элемента и независимости этих элементов друг от друга. На этом заканчиваются этапы построения модели

Рис. 1. Этапы построения вероятностных моделей и статистического вывода

случайной выборки. На рис. 1 выше этих этапов следуют конструктивные методы собственно математического вывода. Причем, если методы математического анализа, асимптотические разложения (предельные теоремы), метод максимума правдоподобия считаются классическими и строгими, то взаимные замены оценок и гипотетических параметров, (особенно, если это касается только части оценок), аппроксимация неизвестного распределения известным считаются нестрогими. При конструктивном, построении как асимптотические разложения, так и замены оценок с аппроксимациями

можно рассматривать как способы математической обработки с пренебрежениями. Причем, если указан способ, т.е. мы знаем, чем пренебрегли, то соответствующий результат можно рассматривать как некоторое приближение. Так, асимптотическими результатами можно пользоваться в случае конечных выборок как некоторыми приближениями. Иногда с асимптотическими разложениями (схема предельных теорем) связываются логические обоснования использования вероятностных методов, что логически необоснованно, так как имеется налицо логический круг. В основе всех этих теорем уже лежит и понятие вероятности, и понятие случайной выборки.

Отдельно обозначен на рис, 1 метод наименьших квадратов и другие конструктивные методы построения алгоритмов классификации и регрессии, основанные на интуитивном анализе выборочных точек. Эти методы получили широкое распространение в практике построения алгоритмов классификации, распознавания образов и регрессии [12—15], При этом часто используются интуитивные представления о распределениях, являющихся обобщением выборочных точек. Для исследования построенных таким образом алгоритмов используются вероятностные представления общего вида [13, 14]. Так, в [13] получены верхние оценки для вероятностей ошибок алгоритмов классификации, имеющих интуитивную основу, а в [14] доказываются вероятностные свойства оценок метода наименьших квадратов в регрессии. Таким же образом шло построение линейной дискриминантной функции Фишера и дальнейшее изучение ее свойств. Первоначально она была получена в результате максимизации оценок дисперсионных отношений [16], а затем эта функция была получена как следствие нормальных распределений в классах с равными ковариационными матрицами [17]. Подобные исследования интуитивных алгоритмов классификации нашли также широкое отражение в работе автора [9] Кроме того, в ней же и в брошюре [10] проводится мысль о том, что ряд статистических параметрических гипотез, в частности нормальный закон распределения, гипотезы, ограничивающие число параметров в этом распределении, можно использовать не столько для выяснения свойств алгоритмов, полученных из интуитивных соображений, сколько для непосредственного конструирования алгоритмов классификации и прогноза. При этом ограничения на параметры и вид функции распределения можно воспринимать не как проверяемые статистические гипотезы, а как подходящие конструктивные малопараметрические аппроксимации, С использованием такого конструктивного введения гипотез получаем широкие спектры решающих правил и функций регрессии, которые нельзя получить, например, методом наименьших квадратов. Эти приемы позволяют осуществлять поиск информативных измерений в случае задач с плохой обусловленностью.

Помимо чисто конструктивных моментов, такой подход к построению вероятностных и статистических моделей проясняет соотношение используемых математических моделей и конкретных выборок. Даже в статистических работах, имеющих прикладную направленность [13, 18], широко распространен взгляд на математико-статистические соотношения как на некоторую априорную информацию, которую кто-то йсходно сообщил. Этот подход характерен, а возмджно, оправдан в работах по теории вероятностей, где необходимо записать исходные соотношения и по ним получить дедуктивно некоторые следствия. Однако он мало эффективен для работ, имеющих прикладную направленность, где важными являются вопросы отношения теоретических выводов (математико-статистических моделей) с реальными наблюдениями. Широко распространенный в статистике взгляд на статистические’*модели как на гипотезы частично отражает именно этот момент, но такой подход также является слишком односторонним. Так, некоторые гипотезы являются удобными малопараметрическими аппроксимациями, а другие - проверяемыми гипотезами. И все они суть результаты мыслительного анализа исходной информации, а не некоторые известные априори сведения.

В реальных задачах, кроме выборки (данных наблюдений), нам не известно, как правило, ничего, а все остальное есть просто результат нашего осмысления стоящей задачи. Все конструктивно построенные математикостатистические модели можно выстроить по степени грубости приближений, причем возможная степень приближения связана с объемом выборки. Небольшие объемы выборок требуют самых грубых приближений. В работе [18, табл. 1] приведена классификация задач классификации по априорным сведениям о распределениях (классах), При содержательном подходе к статистической классификации можно констатировать, что в реальных задачах, подобные априорные сведения отсутствуют. Эти сведения служат исходными предпосылками в математическом изучении. Априорные сведения о классах можно рассматривать как степени пренебрежений и допущений в осмыслении одного и того же выборочного материала. Чем больше допущений и пренебрежений (простые статистические гипотезы, которые при нашем подходе являются аппроксимациями и результатом серии пренебрежений) , тем больше можно получить практически интересных следствий, которые можно воспринимать как первое приближение. Меньше допущений - меньше практически интересных следствий. Еще раз заметим, что подробное обсуждение применимости математико-статистических моделей дано в [10].

О системе программ. Вся система программ написана на языке Алгол. Кроме того, часть программ написана на языке ПЛ/1 и транслировалась в системе ОС ЕС. Система программ целенаправленно решает задачу анализа информативности измерений при классификации и прогнозе. Анализ ведется в рамках алгоритмов, полученных для функций нормального закона распределения Ni(n, S), где / — размер векторов; д —вектор математических ожиданий; S - ковариационная / X /-матрица. Плотность нормального распределения имеет вид

^(x^^F'/’lSJ-^expF-^x-Xy^ д,)] (1)

В этой формуле х - /-мерный вектор, / — индекс класса, z = 1, „., mt т.е. имеем различные плотности для различных классов. Утверждение о том, что плотности в классах различны (в отличие от конструктивного введения самой функции нормального закона) есть статистическая гипотеза, являющаяся одним из основных предметов исследования настоящей системы программ. В случае задачи прогноза количественных показателей, решаемой в рамках регрессионного анализа, имеем одну плотность типа (1), связывающую измерение, которое необходимо прогнозировать и измерения, по которым ведется прогноз.

Благодаря изложенному вкратце способу построения вероятностных моделей и интерпретации функции нормального закона как подходящей аппроксимирующей функции удалось обосновать, с одной стороны, универсальность полученных методов, с другой - получить ряд критериев классификации и прогноза, учитывающих структуру многомерных распределений. Учет этой структуры позволяет строить более точные классификаторы и прогностические функции в случае хорошей обусловленности задач, а также проводить классификацию и прогноз в случае плохо обусловленных задач. Ряд новых классификаторов и прогностических функций пополняет классификаторы и прогностические функции в известных методах анализа информативности измерений, таких, как методы шагового дискриминантного анализа и шаговой регрессии [19], а также ряд классификаторов, построенных в предположении традиционных гипотез дискриминантного анализа для ковариационных матриц [20], которые Для Nt (jitl S/), г = 1, .„, /и, где / - индекс класса, т - число классов, можно записать как Е/ = Л/, где Л/ - диагональная матрица, Е/ = Еу, Е t * Е/ без каких-либо дополнительных предположений, / # /. Заметим, что алгоритм шагового дискриминантного анализа строится также в предположении Е; = Еу. В систему программ включены как новые программы, разработанные автором, так и известные программы.

Структура программ классификации и прогноза качественных показателей (программы дискриминантного анализа) и методика их использования поясняется на рис, 2. На этом рисунке выделено три вида традиционных гипотез дискриминантного анализа. Кроме того, в рамках традиционных гипотез имеем три типа гипотез о структуре распределений, выявляющие те или другие особенности распределений, позволяющие получать лучшую классификацию и оперировать в случае плохой обусловленности. Это следующие типы гипотез: 1) гипотезы о факторных разложениях; 2) гипотезы об информативных подпространствах; 3) гипотезы о структуре зависимостей исходных измерений. Гипотезы 2 и 3 не являются альтернативными в том смысле, что гипотезы 2 могут быть дополнением к гипотезам 3, На этом же рисунке приведены в виде эллипсоидов распределений двух классов типы различий распределений, которые доступны анализу с использованием большого числа оцениваемых параметров и не доступны с использованием меньшего. Эти виды различий эллипсоидов распределений также пронумерованы цифрами 1-5.

В методических рекомендациях к системе программ анализ информативности рекомендуется начинать в предположении независимости измерений ^t = Ait где оценивается минимальное число параметров, переход

Анализ в предположении независимости измерений

Анализ по t и F критериям

Анализ по частоте ошибок классификации

Проверка гипотезы о независимости

Анализ согласно параметрическим критериямАнализ согласно параметрическим критериямАнализ с гипотезами о факторных разложенияхАнализ с гипотезами о факторных разложенияхАнализ по частот^ ошибок классификацииАнализ по частот^ ошибок классификацииАнализ с гипотезами об информативном подпространствеАнализ с гипотезами об информативном подпространствеПроверка Sf. = 2 уПроверка Sf. = 2 уАнализ с гипотезами о структуре зависимостейАнализ с гипотезами о структуре зависимостейАнализ в предположении S/ = ^ с гипотезами о структуре распределений

Анализ согласно параметрическим критериям

Анализ согласно параметрическим критериям

Анализ с гипотезами о факторных разложениях

Анализ с гипотезами о факторных разложениях

Анализ по частот^ ошибок классификации

Анализ по частот^ ошибок классификации

Анализ с гипотезами об информативном подпространстве

Анализ с гипотезами об информативном подпространстве

Проверка Sf. = 2 у

Проверка Sf. = 2 у

Анализ с гипотезами о структуре зависимостей

Анализ с гипотезами о структуре зависимостей

Анализ по частоте ошибок классификацииАнализ по частоте ошибок классификации

Анализ по частоте ошибок классификации

Анализ по частоте ошибок классификации

Анализ в предположении S/ ^ 2/ с гипотезами о структуре распределений

Анализ с гипотезами о факторных разложениях

Анализ с гипотезами об информативном подпространстве

Анализ с гипотезами о структуре зависимостей

Анализ по принадлежности к подпространству

Рис. 2. Структура программ классификации и прогноза качественных показателей

к большему числу оцениваемых параметров, а именно к гипотезам S/ = Sy и Тц Ф Sy, допускается после проверки соответствующей гипотезы по выборке. Реализованы как методы последовательного присоединения, так и удаления измерений. Сложности могут встретиться при реализации метода последовательного удаления, позволяющего выделять существенно многомерную информативность, В этом случае мы можем сразу натолкнуться на плохую обусловленность задачи, не позволяющую традиционными методами построить классификатор или оценить информативность исходной совокупности измерений. В этом случае необходимо использовать программы с дополнительными предположениями о структуре ковариационных матриц, хотя классификаторы с такими предположениями целесообразно использовать и в случае хорошей обусловленности.

Предположения о структуре ковариационных матриц по числу оцени-

Р и с. 3. Система программ анализа информативности измерений в задаче классификации (увеличение числа параметров гипотез)

ваемых параметров можно рассматривать и как переходные между традиционными гипотезами о ковариационных матрицах. Это обстоятельство отражено в виде схемы на рис. 3. На этом рисунке переход от гипотез о независимости исходных измерений к традиционным гипотезам 5/ = Sy, S/ ^ Sy осуществляется как в рамках гипотезы о факторных разложениях, так и в рамках предположений о структуре зависимостей исходных переменных. Эти гипотезы и вида анализа выявляют структуры распределений величин, по которым производится классификация или прогноз, безотносительно к задаче классификации или прогноза.

Виды анализа, представленные в нижней части рис. 3, основаны на гипогезах, которые привязаны непосредственно к задаче классификации, Производится сокращение числа оцениваемых параметров распределений и соответственно классификаторов в рамках модели с информативным и неинформативным подпространствами. Модель состоит из серии гипотез с различным числом информативных направлений. Как показано в [9],

гипотеза Sx = S2 эквивалентна гипотезе с одним дискриминантным направлением, вычисляемым при максимизации дисперсионного отношения (некоторого критерия информативности), Серию дискриминантных направлений можно получить при максимизации критериев информативности достаточно общего вида [9]. Переход по числу параметров от гипотезы

= S/ к2/^Е/ осуществляется именно в этом случае.

Другие алгоритмы построения информативных подпространств связаны с максимизацией оценок дисперсий и минимизацией ковариаций. Первый алгоритм связан с вычислением собственных векторов, а второй — с минимизацией оценок ковариаций в различных классах [1, 9]. Окончательно анализ информативности направлен на выявление различных видов информативности среди ^сходных измерений [5] (см. рис. 2). Сопоставлением результатов работы различных программ можно выделить различные виды информативности. Анализ структуры распределений в виде факторных и компонентных разложений, интересный сам по себе [8,19], носит в данной системе программ в отличие от системы [19] частично вспомогательный характер, позволяя более точно дифференцировать виды информативности распределений, проводить более точную классификацию (прогноз), решать плохо обусловленные задачи, тем самым выявлять большее число различных видов информативности измерений.

Аналогичную структуру имеет система программ прогноза количественных показателей (измерений), осуществляемого в рамках линейной регрессии. Благодаря использованию аппроксимационного введения функции нормального закона удается конструктивно получить более широкий спектр алгоритмов линейной регрессии по сравнению q традиционно используемым методом наименьших квадратов.

Суть этого приема заключается в следующем. Наблюдения уь хь... , ...,у„> >п> где Уi — измерение, которое необходимо прогнозировать, а х,- — Z-мерный вектор измерений, по которым необходимо проводить такой прогноз, в результате описанных ранее допущений и апрроксимаций характеризовали нормальным законом распределения

Ji,xb... ,уп,хп ~Nl+i fa, Г)=МтJi,xb... ,уп,хп ~Nl+i fa, Г)=Мт° У ^ух ^ух ^х° У ^ух ^ух ^х

Ji,xb... ,уп,хп ~Nl+i fa, Г)=Мт

Ji,xb... ,уп,хп ~Nl+i fa, Г)=Мт

° У ^ух ^ух ^х

° У ^ух ^ух ^х

где ру, дх- математические ожидания у и х; о^ - дисперсия у; Ъух — /-мерный вектор ковариаций у и х; ^х — ковариационная /X/-матрица х. Условное распределение у при фиксированном х можно записать как

р (у Iх)-nxfay + s;xs;1 (X-дх), o2y-^fyxs;1 s,x).(2)

Значение условного математического ожидания используем как линейный предиктор для у:

j^ + S^Vx-ALj.(3)

В записи (3) естественно использовать различные гипотезы и их оценки, характеризующие матрицу Хх. Частным случаем, например, является гипотеза 2\ = Лх , где Лх — диагональная матрица.

’ \

Анализ в предположении независимости измёрений

Корреляционный анализ

Анализ по качеству скользящего прогноза и контрольной выборки

Анализ со структурными предположениями о распределении

Анализ с гипотезами о факторных разложениях

Анализ с гипотезами об информативном подпространстве

Анализ с гипотезами о структуре зависимостей

Анализ при отсутствии предположений о структуре

Анализ согласно параметрическим критериям

. Анализ по качеству скользящего прогноза и контрольной выборки —Г Р и с. 4. Структура программ линейной регрессии

Структура системы программ [3, 4] поясняется на рис. 4. Как можно видеть, сравнивая рис. 2 и 4, типы структур распределений на этих рисунках совпадают с той разницей, что рис. 2 характеризует несколько распределений, рис. 4 — одно.

Анализ согласно параметрическим критериям (см. п. 3, рис. 4) включает в себя программы шаговой регрессии с последовательным присоединением и удалением измерений. Удаление производится' согласно величине F-критерия. Эти программы можно рассматривать как аналоги программы шагового регрессионного анализа [19].

Анализ с факторными разложениями и с гипотезами об информативном подпространстве является уточнением' й развитием в рамках выбранной модели программ регрессии на главных компонентах [19, 21]. Методьь вычисления главных компонент и факторов часто интерпретируют как предварительное снижение размерности признакового пространства [18]. Применительно к построению рассматриваемой системы программ этот подход не совсем точен. Методы связываются со статистическим анализом структуры распределений и уменьшением числа оцениваемых параметров распределений (размерность исходного признакового пространства, или пространства измерений, так же как и преобразованного признакового пространства, как это имеет место в анализе струк-

туры зависимостей и факторных структур, может при этом оставаться без изменений). Анализ структур для задач регрессии направлен как на построение более статистически обоснованного линейного предиктора, так и на решение задачи прогноза в случае плохой обусловленности, что позволяет выявлять, как и в случае дискриминантного анализа, более широкий спектр различных типов информативности. В случае решения задач с плохой обусловленностью анализ структуры распределения является более осмысленной статистической альтернативой широко используемому методу гребневых оценок в регрессии [14]. На рис. 4 все программы анализа информативности измерений также упорядочиваем по числу оцениваемых параметров гипотез.

Далее приводится более подробное обсуждение гипотез о структуре распределений. ГипЬтезы о структуре являются как предметом проверки по выборкам, так и (в рамках конструктивного построения гипотез) способом уменьшения числа оцениваемых параметров, необходимым для выбора другйх^ практически важных гипотез, каковыми являются гипотезы об информативности исходных измерений. Классификаторы и регрессоры, построенные с использованием гипотез о структуре, естественно дополйяют возможности программ классификации, прогнозирования и анализа информативности измерений, основанных на традиционных гипотезах дискриминантного анализа [19, 20, 23] и линейной регрессии [14, 19, 23].

Гипотезы об информативности исходных измерений. Рассмотрим различные виды линейных зависимостей информативных и неинформативных исходных измерений в задаче классификации или прогноза качественных показателей. Эти виды зависимостей запишем как соответствующие статистические гийртезы. Пусть / — общее число измерений, которые подвергаются статистическому анализу. Для простоты рассмотрим также случай двух классов, х — /-мерный вектор случайных измерений, рх (х), р2 (х) - плотности распределений в двух классах.

Если в совокупности / элементов вектора х считаются информативными к первых элементов, к < /, то гипотеза

qx (хь... ,xk) = q2 (xtxfc),(4)

где qx, Qi — плотности распределений в двух классах, неверна. Информативные и неинформативные измерения могут зависеть друг от друга. В соответствии с этим можно выделить несколько типов информативности.

Пусть для 1—к элементов х гипотезу

Г1 (хк+1xz) = r2 (xk+1,..., х,)(5)

исключить нельзя, кроме того, информативные и неинформативные элементы независимы, т.е.

Pi (*) = Qi^i...., xk)rt(xk+v ,..., х,\ / = 1,2.(6)

В выражениях (4)—(6) имеем (хъ..., хк) - ^-мерный вектор, (xfc+1,..., Xi) — l-k-мерный вектор, Р(, qi9 rt — соответствующие плотности нормальных распределений. Пример эллипсоидов распределений для такой статистической ситуации обозначен на рис. 2 вдфрой I.

Пусть I-к элементов вектора х связаны с ^-информативными элементами зависимостью

(***1.— ,x1) = Q(x1,... ,хк) + у, (7)

где у — Z-^-мерный неинформативный вектор, не зависящий от (Xi,..., х^; Q-Q-ic)Хк — матрица линейного преобразования. Если проверить для х*+1,..., X/ гипотезу (5), то она будет неверна. Однако если составить отношение правдоподобия для двух классов, то легко убедиться, что как в случае (5), (6), так и в случае (7) имеем

р2(х) 42 (Хь — ,Хк}

Таким образом, при классификации вероятность ошибки не зависит от элементов xfc+1,..., хР В случае выборочных классификаторов будем иметь увеличение вероятности ошибок. В [9] элементы xfc+1,..., х1 со свойством (7) были названы псевдоинформативными. Эллипсоиды распределений для такой ситуации на рис. 2 обозначены цифрой 2.

Для к информативных элементов имеем

(хъ,„ , хк) =G(xk+1>..., х^ + у, (9)

где у — ^-мерный информативный вектор, не зависимый от (xfc+1,..., х^, GкХ (I—£)-матрица линейного преобразования. В этом случае гипотеза о неинформативности (5) для xk+v..., xt будет справедлива, но исключение этих элементов приведет к увеличению вероятности ошибок. Имеем существенно многомерную информативность. На рис. 2 такая ситуация обозначена цифрой 3.

Как можно видеть из рис. 2, возможное разнообразие видов информативностей не ограничивается разобранными выше; так, может иметь место информативность, обусловленная различием вторых моментов. Выходя за рамки нормальной аппроксимации, можем иметь и более сложные виды различия распределений. Однако разобранные выше гипотезы представляются важными в их практическом отношении.

Так, при анализе информативности отсчетов электрокардиограмм наблюдалась в основном информативность типа 2 на рис. 2 [1—4]. Влияние различий во вторых моментах [9] было не столь существенным. о

Как указывалось, выбор информативных измерений (элементов в векторе х) осуществляется программами, в основу которых заложены различные гипотезы о структурах распределений. При выборе информативных измерений реализованы методы как последовательного присоединения, так и исключения измерений. Сопоставляя результаты, полученные для различных программ, можно более четко дифференцировать различные виды информативности измерений (различий распределений) и более глубоко проникать в природу задачи по сравнению с программами, основанными на более ограниченном традиционном спектре гипотез [19, 20].

Аналогичные виды различия информативностей измерений имеем и в случае прогноза количественных показателей, осуществляемого методами регрессионного анализа. Отличие состоит в том, что в этом слу-

чае отсутствуют виды информативностей, полученные в рамках гипотез i Zy^Sy, так как по определению используемой модели задачи имеем дело с одним распределением. Переход от модели регрессии к модели дискриминантного анализа может осуществляться при грубом квантовании ’’непрерывных” данных. Более подробно остановимся на дополнительных гипотезах о структурах распределений, порождающих практически полезные программы, дополняющие программы, полученные в рамках традиционных предположений.

Гипотезы о факторных разложениях. Как можно видеть на рис. 2—4, одной из моделей, которая может использоваться и как малопараметрическая аппроксимация в случае плохо обусловленных задач, является модель факторного разложения. Модель факторного разложения для ковариационных матриц в случае ортонормированных факторных нагрузок можно записать в виде

Zy = ByLyB^ + Лу,- (Ю)

где By — /Х^-матрица факторных нагрузок; Ly — диагональная £ХЛ-мат- рица дисперсий общих факторов; Лу — диагональная ZXZ-матрица дисперсий характерных факторов.

Изменяя к от 0 до Z-1, получим серию переходных (по числу оцениваемых параметров) гипотез от Zy = Лу к гипотезе, не накладывающей никаких ограничений на матрицы Zy, г = 1,..., th, (см. рис. 3).

Для оценки структуры факторного разложения был реализован ряд программ [2, 8], использующих как известные методы, основанные на итерационном вычислении оценок максимального правдоподобия, на вычислении оценок сверху для Лу (метод главных факторов) [19, 22], так и методы, разработанные автором. В частности, при сравнении различных алгоритмов по скорости вычисления оценок и их статистической обоснованности предпочтение отдано одному из методов вычисления главных факторов с оценкой Лу, получаемой как среднеарифметическое верхних и нижних оценок. Вычисление оценок факторных разложений, даже самое быстрое, занимает много машинного времени. В связи с этим в программах дискриминантного анализа и регрессии [1—3] использовалась упрощенная модель факторного анализа, а именно

S, = B,L,B; + п?!, (П) где а? — дисперсия характерных факторов. В работе [8] показано, что это разложение эквивалентно гипотезе компонентного анализа о равенстве дисперсии минимальных главных компонент [22], где приводится критерий, который можно, использовать для выбора числа равных дисперсий минимальных главных компонент. Этот критерий для достаточно больших объемов выборок реализован в программах [1—3]. После оценивания элементов факторного разложения построим классификаторы и регрессоры и произведем выбор информативных измерений по результатам классификации или прогноза контрольной выборки или скользящего прогноза.

Информант, согласно величине которого производится классификация вектора х при дрполнительной гипотезе Sf = Sy, можно записать как

7г (х) = ш-Bk (Lk* -s ka Ik) 6к х - - ш/ Bk(Lk* -s^1) В* m, +

(12)(12). -2 - S"k * + s £ mfx - — m,- mz,

(12)

(12)

где Ш/ - оценка д^; 6fc - оценка В (индекс i опускается, поскольку Xt = Sy = S); Lfc - оценка L + о21, вычисляемая как собственные значения матрицы S, являющейся оценкой S; s| — оценка о2. Все эти оценки имеют индекс к, характеризующий число максимальных главных компо-

нент, имеющих неравные дисперсии. Для Sf ^ Sy соответствующий информант можно записать как

й (х) = -ы Lfcf | - (х - m,)' Bki L"k( В*м (х -т,) -

- (/- *)lnst- - S "ki (х - т, )'(I - BkZ В k/ )(х -т,),(13),

где~Ь^/ — оценка Ц + о2 I; Bfc/ — оценка В;; s|/ — оценка о2. Классификация вектора х производится по максимальной величине информантов (12), (13). При проведении скользящего контроля и выбора информативных измерений необходимо заново вычислять оценки Bj^, В^, t^, ^Lki. Для вычисления собственных векторов в программах со скользящим контролем и выбором исходных измерений разработаны алгоритмы быстрого пересчета собственных векторов.

Классификацию векторов х можно проводить по принадлежности к подпространству максимальных главных компонент. Такая классификация проводится по величине с = х (I — Bki ^ki )х.

В задаче прогноза с гипотезой о факторном разложении (11) прогностическую функцию (функцию линейной регрессии) можно записать в виде

У = ту + s;x [Bk t^16; + s-k4l-Bk Bk)] (x—mx),(14)

где my, mx -. оценки цу, цх; Syx - оценка 2yx; ВкДкЙк + sk2 (I - Bk &k ) - оценка Sx* для гипотезы (И). Функцию (14) получаем из (3), заменяя там элементы соответствующими оценками и принимая во внимание гипотезу (И). Такой прием, получивший достаточно широкое распространение в дискриминантном анализе, не использовался до последнего времени в регрессионном анализе [14].

Гипотезы об информативном подпространстве. Другая модель, используемая в задачах классификации и прогноза для сокращения числа оцениваемых параметров в случае плохой обусловленности и как малопараметрическая гипотеза в случае хорошей обусловленности, связана со спецификой задач классификации и прогноза. Это модель с информативным и неинформативным подпространствами. Структура этой модели определяется тем, что строится тем или иным способом некоторая матрица линейного преобразования наблюдаемых векторов х?

ДЧД! Д^ I,(15)

где Дх - I X ^-матрица информативного подпространства; Д2 — / Х^-к) матрица неинформативного подпространства; k<L

В случае задачи классификации или прогноза качественных показателей матрица △ преобразует векторы х#у с законом ^(д,-, S,) в векторы Дх,у с законом

(2)

где д , Е одинаковы в различных классах. Так же как и в случае неинформативных или псевдоинформативных измерений, легко видеть, что отношение правдоподобия зависит только от элементов подпространства Aj •

В случае задачи регрессии с одной ковариационной матрицей Ех (3) для векторов х такЯ& имеем структуру преобразования (15) с гипотезой о неинформативности, которая связывает распределение х и у и которую можно записать как.

^△2=0. ‘ ' (17)

Для вычислений информативного подпространства можно использовать различный алгоритмы. Среди них выделим два типа: алгоритмы, которые позволяют решать задачу как в случае хорошей, так и в случае плохой обусловленности; алгоритмы, предназначенные только для решения задачи в случае хорошей обусловленности. К первому типу можно отнести:

Алгоритмы, основанные на вычислении собственных векторов и значений симметричных матриц. Программы классификации и выбора информативных измерений с этими алгоритмами для случая Е^ Sy приведены в (Г]. Для случая Еу = Sy использование этих алгоритмов эквивалентно использованию модели главных компонент. Соответствующие программы приведены в [2]. Для этого случая, а также для задачи регрессионного анализа, использование этих алгоритмов с выбором максимальных главных компонент или информативных компонент . наиболее подходит к рубрикам методов снижения размерности и регрессии на главных компонентах [18, 21]. Программы с вычислением информативных подпространств алгоритмами вычисления собственных векторов в задачах регрессии приведены в [3].

Алгоритм, основанный на минимизации оценок ковариаций [1, 9]. Этот алгоритм предназначен для задачи классификации в случае Sz ^= £у. По-видимому, он более отвечает специфике задачи классификации, чем алгоритм вычисления собственных векторов. Программы классификации с использованием этого алгоритма приведены в [1].

Алгоритмы определения структуры зависимостей. Как показано далее, эти алгоритмы можно также интерпретировать как линейные преобразования исходных векторов. Среди этих преобразований целесообразно выделение информативных и неинформативных.

Ко второму типу можно отнести алгоритмы получения линейных преобразований, минимизирующих некоторые показатели информативности. Традиционные линейные дискриминантные функции и функции линейной регрессии являются примерами таких информативных направ-

лений и, как можно видеть, связаны с обращением оценок ковариационных матриц в исходном пространстве. В случае задачи классификации с гипотезой ^1 Ф ^ возможно вычисление ряда таких направлений. Эти направления составляют основу серии переходных гипотез от Sf = = Sy к Sy ^ Sy (см. рис. 3). Наборы таких направлений целесообразно получать после вычисления информативных направлений алгоритмами 1-3 [9]. Частично программы классификации с вычислением таких направлений приведены в [1], частично— в [9].

В случае вычисления информативных направлений соответствующие информанты в задаче классификации для случая Sy = Sy можно записать как

% (х) = mjDCD'SD)1 D'x - - m,D(D'SD)-*D'm,. (18)

В этом выражении D — оценка Ai, вычисляемая с использованием различных алгоритмов. Заметим, что D'SD может быть как диагональной матрицей в том случае, если D вычисляется как собственные векторы S или как элементы линейного преобразования для гипотез со структурой зависимостей, так и недиагональной, если D вычисляется как оценка максимального правдоподобия [2].

В случае Sz Ф Sy информант для классификации и выбора информативных измерений записывается как

, (х) = - In | 0'8,01 - (х - ш,)'О (0'8,0) * О' (х -ш, ). (19)

В задаче предсказания количественных показателей линейный предиктор с вычислением информативного подпространства можно записать в виде

= ту + SyXDL-*D'(x—шх). (20)

В прогностической функции (20) имеем L как диагональную кХк- матрицу.

Методы выбора структуры зависимостей случайных величин и их использование в задачах классификации и прогноза.

Далее дается подробное описание гипотез, алгоритмов и соответствующих им программ, имеющихся в [4]. Еще раз отметим, что в связи с интерпретацией модели структуры зависимостей с помощью линейных преобразований исходных измерений, по-видимому, целесообразно имеющиеся программы классификации и регрессии дополнить программами с анализом информативности этих преобразований.

Постановка задачи. В последнее время анализ структуры зависимостей случайных величин привлекает все большее внимание исследователей [24]. В выявлении структуры зависимостей можно выделить два подхода.

Один подход связан с проверкой гипотезы о независимости одних случайных величин [25] при фиксированных других случайных величинах. Те зависимости, для которых гипотезу необходимо исключить, считаются зависимыми и образуют граф структуры зависимостей.

Другой подход связан с аппроксимацией имеющихся зависимостей некоторой фиксированной структурой (древообразной, ^-древообраз-

ной), что приводит к специфическому виду оценки ковариационной матрицы и позволяет сокращать число оцениваемых параметров [26, 27]. Последнее важно при решении задач классификации и прогноза в случаях плохой обусловленности. В настоящей работе развивается второй подход, при этом структура зависимостей определяется видом линейного преобразования системы исходных случайных величин к системе независимых случайных величин, что позволяет связать анализ структуры зависимостей с факторным, компонентным анализом и гипотезой с информативным подпространством в задачах классификации и прогноза [9].

Рассмотрим первый подход в виде проверки гипотез о независимости двух случайных^ величин., В наборе случайных величин, которые составляют /-мерный вектор х,

х = (х1,...,х/),

две случайные величины Xj и Xj можно считать независимыми, если для условного коэффициента корреляцйи Рц.Р1р ?№Рц - множество индексов 1,...,/, за исключением i-то и /-го, рц = 1,..., /—1, z+l,...,p-l,/+l,...,/, имеем Pij.p.. = 0. Условный коэффициент корреляции Рц.ру связан с элементом ои обратной ковариационной матрицы вектора х [28, 29], которую обозначим как Е"1, согласно формуле

о1' =^^^,(21)

(1 -Рц.рц^0»0»

где ои, Ojj - элементы в диагонали матрицы 5. Из формулы (21) видно, что необходимым и достаточным условием Рц.р^ = 0 является о1’ = 0. Это условие, являющееся, по сути, определением независимости Xf и ху, сформулировано в [25, теорема 1.3].

В [28] приводится также связь коэффициентов условного математического ожидания:

М (X, |хь ... , Х/_1, х<+1,... ,Xi)=iit +

+ 0/, 1 (*i - Mi) + - + ft, i-1 (xt-1 - Pt-1)+

+ ft,i*i (X<+1 -M(+1) +... + ft, i(*i - Pl),(22)

M(X; | Xi, ... , Xj_ ^Xj+i, ... , X,) = Uj +

+ ft,Y (X1 -Pl) + ... + ft J- l(Xy_ J- Pj_i) +

+ ft,j-n(Xj*i -P/+1) + - + fti(xl-Pl),(23)

с элементами обратной ковариационной матрицы в виде

@1,1 = оу1ои, ft,i = ouion •

Выражения (22), (23) используются в линейной регрессии, причем

^Z * рц” &>А>ь

Необходимым и достаточным условием Отсутствия зависимости между X/ и X} является равенство нулю элемента Д^в выражении линейной регрео-

сии. Т.е. фактически программы шагового регрессионного анализа [3,19] и результаты проверки по ним гипотезы Дг/ = 0 можно рассматривать как элемент оценки структуры зависимостей компонент вектора х.

Выявление ситуаций зависимости—независимости не исчерпывает всего спектра интересующих исследователя структурных связей. Например, могут иметь место значительные зависимости среди линейных комбинаций исходных величин и незначительные - среди самих величин. Это обстоятельство не выявляется ситуациями зависимость—независимость. Часто важно знать небольшое число независимых величин (факторов), от которых зависят исходные величины, и соотношение зависимых и независимых частей в исходных величинах. Наконец, вычисление оценки элемента обратной ковариационной матрицы требует хорошей обусловленности задачи. Все эти обстоятельства требуют построения модели структуры распределения и конкретизации вида зависимостей. Наиболее удобная конкретизация вида зависимостей — линейная. Например, используя выражения для условного математического ожидания (22), (23), можно записать линейные преобразования системы зависимых случайных величин X/, / = 1,..., / к системе независимых случайных величину в виде

J1 •*!-Д1~012(*2 - Дз) - ... - 61М - Ml),

Уз = х2-ц1 -*Pii(xi -М1)-0м(х» ~Мз)~ ■ ■ .-02i(xi-Mt),

= Х1-Щ-0п(Х1 -Mi)-...- foj- i(x i-i- щ_х),

или в. матричном виде у = В(х-д). Зная вид линейного преобразования зависимых величин к независимым, легко построить оценку ковариационной матрицы 2 и обратной Г*1. Для некоторой фиксированной структуры эти матрицы обозначаются как Ф и Ф"1. Однако использование приведенного линейного преобразования в качестве модели некоторой структуры зависимостей представляется неудачным в силу того, что оценка обратной ковариационной матрицы не содержит нулей в позициях элементов сг даже для простейших древообразных зависимостей. В силу этого были предприняты построения структур зависимостей на основании других представлений, а именно на основании разложений типа разложений Чоу [26]. Использовались линейные ортогональные преобразования типа преобразований главных компонент [9, 29, 30] и канонических разложений [31].° Все эти методы однозначно выражаются в виде линейных преобразований исходных случайных величин.

Линейные преобразования исходных случайных величин и структуры зависимостей. Задача выбора или построения структуры зависимостей является задачей подбора по имеющимся данным наиболее подходящей статистической гипотезы. При этом вид зависимости ограничивается линейными преобразованиями. Подбор такой гипотезы осложняется, с одной стороны, отсутствием исследований по выбору алгоритмов построения таких зависимостей. Так обстоит дело с разложениями Чоу [26], которые можно однозначно представить с использованием линейных преобразований зависимых случайных величин к независимым. Предлагаемый для построения древообразной структуры зависимости алгоритм Краскала [27, 32] обладает многими недостатками, в частности отсутствием влияния учтен-

ных зависимостей на неучтенные. С другой стороны, для алгоритмов ортогонализации, основанных на исключении зависимостей (алгоритмы типа канонических разложений [31] и ортогональных вращений, используемых при построении главных компонент [30]), имеем учет зависимостей и их исключение среди линейных комбинаций исходных измерений, а не среди исходных случайных величин.

Выбор гипотез и учет зависимостей проводится в рамках нормального закона распределения ^(/z, S), который описывается плотностью (1).

Разложения Чоу [26] получены на основании тождественного разложения плотности (1) в виде

р(х) = р(Х1 , . ; ., Xi) = Pl (хх>г (х2 1*1 )р3 (*3 1*2 , *1) • • •

PM-b. . ..xj,J(24)

гдер^(х^|лг^_ь.. .,^i) - условное распределение хк при фиксированных Хк-Ь-А. ‘

Если в разложении (24) предположить отсутствие некоторых зависимостей, получим выражение для р(х) с меньшим числом параметров описания. В частндм случае, когда каждая из переменных зависит только от одной из других переменных, имеем древообразную зависимость, для которой, собственно, и были получены разложения Чоу и которая была предметом изучения в [27]. Это разложение можно записать как

р(х) = Р1 (Х1 )р2 (х2 I х/(2)) . . . Р1(Х!| Хщ)),(25)

где/(0 — функция древообразной зависимости, построение которой так же, как и выбор переменной хх, вообще говоря, нетривиально и является предметом внимания настоящей работы.

Ниже для полноты понимания будут рассмотрены два частных случая разложения (25), а именно:

Р(х) = Р1(*1)р2(*2 1*1) . . .Р/(*И*1),(26)

р(х) = Pl (Х1 )р2 (х21 х,) ... p^Xt | хи_\ ).(27)

В разложении (26) имеем зависимость всех элементов в векторе от одного из них, в (27) — марковскую зависимость.

Для построения алгоритмов выбора значимых зависимостей, учета значимости оставшихся зависимостей следует сравнить распределения (24) —(27), для чего необходимо их единообразное представление. Все эти распределения, считая фиксированные значения переменных снова переменными, а также распределения, получаемые с использованием ортогональных преобразований, можно представить в виде

р(х) = (2яГ//2 I В*В' Г1/2 ехр [-^(х - д/В'^В'Г1 В(х - д) j, (28)

где В — матрица преобразования исходных элементов вектора х; Ф — ковариационная матрица исходных элементов с некоторой структурой, ограничивающей число оцениваемых параметров. В том случае если Ф не содержит ограничений на свои элементы, имее^м Ф = Е. В выражении (28) для условных распределений непосредственно из вида этих распределений получаем преобразования В и диагональную матр1^у Л = ВФВГ.

В случае разложения (24) получаем 1-ю строку в матрице В в виде Ьх = (1,0,...,0) , а z-ю в виде

Ь/ = (ф, 1,0,... ,0) , где

di = -(<41 > • • • > ом_ 1)'2;L х(29)

есть вектор-строка из / — 1 элементов; oik ковариация z-ro и ^-го элементов, к = 1,..., z — 1; Е~/_ х - ковариационная матрица z — 1 первых элементов. Для элементов Хх,..., Xz из диагональной матрицы Л = В^В* имеем

^1 = ан ,

xf = ои - (о,#1,.... Cij-iys;1.!^,!<ч<-0• (зо)

В случае разложения (24) Ф = Е.

Как частный случай представления (28) можно рассматривать гипотезу о независимости элементов в векторе х. В этом случае В = 1 — единичная матрица, Ф = Л — диагональная матрица дисперсий х.

После этих вводных замечаний получим в аналитическом виде выражения для В и Ф в разложениях (26), (27).

Рассмотрим разложение (26). В этом случае матрица В будет иметь вид

10 0

~711о ...о

-у2010.. .0

-т,-1 0 ...1

где

(31)(31)(32)(32)Ti = "i.i+i oft ,

(31)

(31)

(32)

(32)

z = l,...,7-l, матрица Л = ВФВ' представляется в виде

ан 0...0

0 а2 2 - 51 0... 0

Л =

° ^”5/_!

где

5< = аЬ-н ffi"i

I = 1,..., Z - 1 .

Получим выражение для Ф из соотношения

(33)(33)ф = в^лф'г1 •

(33)

(33)

Матрицу В”1 можно записать как

1

0

...0

ЕГ1 =

71

1

0 ..0

7z-

.10

...1

Учитывая, что (^У1 =(Я"1)\и производя перемножения в (33), полу

чим

ан

012 '

• • ou

012

O22ai2?2

• • o12Tz-1

013

01272O33...

•. Oi37z-i

°ll

ai27z-i

Ozz

Ф =

(34)

Для лучшего понимания структуры матрицы (34) получим выражение для корреляционной матрицы

R =

1 Р12Р13• • • P1Z

Р12 1Pl jP13 • • • P12P1Z

P1Z P12P1Z P13P1Z /1

где Pi, — коэффициент корреляции 1-го и i-ro элементов в векторе х, г = 2,..., /.

Обратимся теперь к разложению (27). Для этого разложения в (28) имеем

В =

1 о о

-Та 10 О

О -7210 О

О~4i-x1

(35)

Он

О

О

О О

02 2 —610О

Ozz-81-i

(36)

V

В матрицах (35), 36)

7<- аи+18-\о, = а^^, i- 1, Обратную матрицу для В получим в виде

.... Z — 1,

(37)

В-1 =

10...

7110

7172721

0

0

0 0

а матрицу

Ф =

71—7z-i т2 -71-1 ... г Ф в виде

01 1012

012023

0117172О23

•7Z-1 1

<7117172. ••

<723• •

<733

01171 -

02 272 -

0зз7з -

■• 7z-i

■• 7z-i

•7z-i

<71171 — 71-1 <72272 -7z-Г

0зз7з —7/-1 ..

"ZZ

(38)

Интересно также получить корреляционную матрицу для ф, которую

запишем в виде

1Р12Р12Р23 Р12— Р1-1Д

Р121Р23 02 3—01-1,/

R =

01201302 31 034— Pl-lJ

P12—P1-IJ P23—P1-IJ•...р^хд1

Как можно видеть по приведенным примерам матриц Ф (34), (38) в разложениях с учетом зависимостей имеем равенство числа учтенных зависимостей и числа независимых параметров в R. Остальные параметры являются функциями от независимых. Вид зависимых параметров можно получить согласно (33). Другой закономерностью являются совпадение учтенных ковариаций в Ф и Хи приближение неучтенных ковариаций в X и Ф по мере роста числа учтенных ковариаций. Последняя закономерность в построении условных разложений нормального распределения позволяет построить критерий выбора очередных значимых зависимостей (ковариаций) по величине отклонения значений ковариаций в Фи X. Можно сказать, что с ростом числа учтенных зависимостей ковариации в X будут аппроксимироваться ковариациями из Ф. Качество такой аппроксимации необходимо оценивать по некоторому статистическому критерию. В реальных ситуациях имеем оценку Ф и X, которые обозначим как Ф и S. Пренебрегая выборочными отклонениями Ф, считаем, что Ф = Ф, тогда

по разности Ф — S можно судить об отклонениях выборочных коэффициентов ковариации (корреляции) от своих гипотетических значений.

Используя в представлении условных распределений выражение (28), можно для некоторых типов зависимостей получать выражения и для гипотетической обратной ковариационной матрицы. Эти выражения получаем согласно

Ф1 =В,А1В.

Так, для простейших структур зависимостей (26), (27) с учетом обозначений (31), (32), (37) будем иметь обратные ковариационные матрицы Ф-1 в виде

ф-1 =

—71(02 2 —51) 1

-TlC^-Sl)"1 . .. 'Yl-l^Ou-S^^-1

(®2 2 — 6 J ) *0• • •0

0

~7r-i(0zz — &1-1У1

0... ^ац — б/.!)4

—71(022 -51)"10... О

(022 -51)*1 + 71(033 -д2)-1

—72(033 — $2) 1

О.0

° (оц-^.уУ1

В этих матрицах на месте отсутствия зависимостей имеем нули. В общем случае при использовании приведенных линейных преобразований равенство ov = 0 не является ни необходимым, ни достаточным условием отсутствия непосредственной линейной зависимости, что будет показано на примере, взятом из работы [25].

Пример 1. Имеем случайный вектор х = (xi,.,.,х7), у элементов которого отсутствуют следующие непосредственные связи 1,2; 13; 1,5; 1,7; 2,6; 3,4; 3,5; 4,7; 5,6. Имеем девять отсутствующих связей. Связи между элементами вектора можно представить в виде графа, приведенного на рис. 5, где отсутствующие связи обозначены штрихом. Структура обратной ковариационной матрицы Ф"1 предполагается таковой, что справедлива гипотеза

^3 =012 =015 =о17=а26=а34=а35==а47=а56=0(40)

При аппроксимационном подходе, используя представление для условных распределений (28) и способ вычисления матрицы Ф"1 согласно (39), получим ее выражение для данного примера. Условное распределение в этом случае можно записать как

Р(х) = Pi (xi) р2 (х2) р3(х3 I x^Mx/lx^xOPsCvsIx.,^) X

Хр6(х61х4, Хз, ХХ) р^Х^Хб.Хз.Хз.Х^.

Матрицы В и Л можно записать в виде

1 000 10...00 723 10.0в =714 724 01000,. Л =о 725 0 745 10 0716 0736 746 0100 7 2 7 73 7 0 75 7 76 7 11 000 10...00 723 10.0в =714 724 01000,. Л =о 725 0 745 10 0716 0736 746 0100 7 2 7 73 7 0 75 7 76 7 1Он ООО 0^2 0.ОО ООзз —810 , ООн ООО 0^2 0.ОО ООзз —810 , ОО О О О О О О7 7 —6 5О О О О О О О7 7 —6 5

1 00

0 10...0

0 723 10.0

в =

714 724 01000

,. Л =

о 725 0 745 10 0

716 0736 746 010

0 7 2 7 73 7 0 75 7 76 7 1

1 00

0 10...0

0 723 10.0

в =

714 724 01000

,. Л =

о 725 0 745 10 0

716 0736 746 010

0 7 2 7 73 7 0 75 7 76 7 1

Он ОО

О 0^2 0.О

О ООзз —810 , О

Он ОО

О 0^2 0.О

О ООзз —810 , О

О О О О О О О7 7 —6 5

О О О О О О О7 7 —6 5

сП +(а44-52) 1714+(а6б-84)"1716 ! ((^4-82) *71472 4!сП +(а44-52) 1714+(а6б-84)"1716 ! ((^4-82) *71472 4!dC^4_~^22 1_21*72 4 1ф-i =!(0Гбб - M-2726Z36’(ог44-82)"17|4+(<,66-84)'1716 7460(<'бб-84)"171б0dC^4_~^22 1_21*72 4 1ф-i =!(0Гбб - M-2726Z36’(ог44-82)"17|4+(<,66-84)'1716 7460(<'бб-84)"171б002Х + (^зз-51)"*723 ++ (O44 —63 )~* 72 4 +(^5 5-8 3 Г1 72 5 ++ (^7 7-5$ У1 72 7. (^3 3— ^1) *72 3 +(^7 7“55 7^773 7 ,(^44~~32) 1 724 +(а5 5 ~63) *725745(а5 5 —53) 172 5 +(о77 —65) 172 77s 7[ (°7 7 —55) ^72 776?;(а77 — 35) 1 72 702Х + (^зз-51)"*723 ++ (O44 —63 )~* 72 4 +(^5 5-8 3 Г1 72 5 ++ (^7 7-5$ У1 72 7. (^3 3— ^1) *72 3 +(^7 7“55 7^773 7 ,(^44~~32) 1 724 +(а5 5 ~63) *725745(а5 5 —53) 172 5 +(о77 —65) 172 77s 7[ (°7 7 —55) ^72 776?;(а77 — 35) 1 72 7

сП +(а44-52) 1714+(а6б-84)"1716 ! ((^4-82) *71472 4!

сП +(а44-52) 1714+(а6б-84)"1716 ! ((^4-82) *71472 4!

dC^4_~^22 1_21*72 4 1

ф-i =

!(0Гбб - M-2726Z36’

(ог44-82)"17|4+(<,66-84)'1716 746

0

(<'бб-84)"171б

0

dC^4_~^22 1_21*72 4 1

ф-i =

!(0Гбб - M-2726Z36’

(ог44-82)"17|4+(<,66-84)'1716 746

0

(<'бб-84)"171б

0

02Х + (^зз-51)"*723 +

+ (O44 —63 )~* 72 4 +(^5 5-8 3 Г1 72 5 +

+ (^7 7-5$ У1 72 7

. (^3 3— ^1) *72 3 +(^7 7“55 7^773 7 ,(^44~~32) 1 724 +(а5 5 ~63) *725745(а5 5 —53) 172 5 +(о77 —65) 172 77s 7

[ (°7 7 —55) ^72 776?;

(а77 — 35) 1 72 7

02Х + (^зз-51)"*723 +

+ (O44 —63 )~* 72 4 +(^5 5-8 3 Г1 72 5 +

+ (^7 7-5$ У1 72 7

. (^3 3— ^1) *72 3 +(^7 7“55 7^773 7 ,(^44~~32) 1 724 +(а5 5 ~63) *725745(а5 5 —53) 172 5 +(о77 —65) 172 77s 7

[ (°7 7 —55) ^72 776?;

(а77 — 35) 1 72 7

В этих матрицах у,, — коэффициенты функции регрессии; он, о22 — дисперсии 1-го и 2-го элементов вектора х; Оц — частные дисперсии i-го элемента, г = 3,...,7 [29]. Производя обращение диагональной

Р и с. 5. Граф структуры зависимостей

матрицы Л и перемножение матриц Л-1 и В согласно (39), получим матрицу Ф-1:

(а44-б2) 1714+(абб-54Г171б74б (О44—б2) *72 4+(Os 5—б3) !72 5 74 5ХУ.6^"^^ 1_7з_б74б| (044-32у1+(05 5-ЗзУ1715 + +(or66-54)'1746(а55 —З3) х745 (абб—54у174б О(а44-б2) 1714+(абб-54Г171б74б (О44—б2) *72 4+(Os 5—б3) !72 5 74 5ХУ.6^"^^ 1_7з_б74б| (044-32у1+(05 5-ЗзУ1715 + +(or66-54)'1746(а55 —З3) х745 (абб—54у174б О

(а44-б2) 1714+(абб-54Г171б74б (О44—б2) *72 4+(Os 5—б3) !72 5 74 5

ХУ.6^"^^ 1_7з_б74б| (044-32у1+(05 5-ЗзУ1715 + +(or66-54)'1746

(а55 —З3) х745 (абб—54у174б О

(а44-б2) 1714+(абб-54Г171б74б (О44—б2) *72 4+(Os 5—б3) !72 5 74 5

ХУ.6^"^^ 1_7з_б74б| (044-32у1+(05 5-ЗзУ1715 + +(or66-54)'1746

(а55 —З3) х745 (абб—54у174б О

(а33 —6 i )^ 72 3 + (07 7 —з 5 ) 1 72 77з 7

(Оз 3J-51 Г* +(Об 6 j34 Г1736 +(о7 7 -5 s Г17з 7

!(^66 “^V7зб746 [

[(O77— 35) *7з77б7^

(0r66-54)"1736+(O77-5s)"173 776 7

(а67 “35) !7з7

0

(о-бб-М"1?!»0

(^S 5 — $ э)^ 72 5 + + (^7 7~^б) * 72 77б7 [(а7 7 “55) *73 7 75 7[

^77“ 85) 17277б?[(^7 7”6 5) ^2 7

(^бб-54) ^36+(^7 7 — 5S) 1 737

+(а77 —35) 17з77б7(077 — 65) 17з?

(а55 — 83) *74 5

(а55-6зГ + + (а7 7 —55) 1 757

[(°7 7J~55 ) 1 75 776 7 ]

(a66 — 84) *7460

^чп- 85) 17577б7[(^77 —^5) 717

(абб— 84) 1 +(а77 — 85) 1 767

(а77 .— 65) 757

+ (а77 —8S) 17б?

(а77 — 85) *7б7(^77 ~ 5S)

Как можно видеть из этой матрицы, имеем при девяти отсутствующих зависимостях только три нуля в обратной ковариационной матрице Ф”1. Элементы, которые должны были бы быть равными нулю, обведены штриховой рамкой и представляют собой произведения элементов, обратных дисперсиям, которые не равны нулю, и коэффициентов регрессии, которые также не равны нулю при наличии соответствующих зависимостей. Таким образом, эти произведения нулю не равны. Вследствие этого при аппроксимационном подходе для проверки гипотезы об отсутствии непосредственной линейной зависимости гипотезу (40) использовать нельзя. Аппроксимационный подход эквивалентен введению модели зависимостей в виде линейных зависимостей. При этом равенство нулю элемента в обратной ковариационной матрице не является ни необходимым, ни достаточным условием. То, что это условие не является необходимым, было показано ранее, то, что оно не является достаточным, можно видеть из следующего численного примера.

Пусть имеем приведенную ранее структуру зависимостей. Можно записать линейные зависимости исходных случайных величин х,-, / = 1,...» 7 от независимых случайных величин yt ~ N^, 1), г = 1,..., 7. Нормирование дисперсий У1 не влияет на равенство нулю элементов ковариационной матрицы.

Х1=У1,

*2 = У1,

х3 = а23х2 +Уз,

х4 =a14Xi + 524х2 +>>4,

xs = 52Sx2 + Я45Х4 +у5,

х6 = fli6Xi + 53бх3 +а4вх4 +у6,

Х7 = 527Х2 + 637X5 +557X5 + 657X5 + У*^-

Выражая величины х< в правой части через Уь получим матрицу линейной зависимости вектора х от вектора у, х = Су.

Легко получить Выражение для ковариационной матрицы:

S=M(xx') = CC'’\

Для случая, когда а^- =1, ковариационную матрицу можно записать как

10 0 112 3

0 1112/26

0 12 12 3 8

2=11134511

1 2 2 4 7 718

Л

223571123

36811182356

а обратную ковариационную матрицу как

31100-10

15 0 0 01 -1

103110-1

= 00 1 3 — 1—10

00 1-121-1

-110-112-1

0 -1-10 -1 -1 1

В этой матрице имеем нули, совпадающие с гипотезой (40), также только в трех случаях. В остальных случаях равенство нулю элемента d^ не соответствует отсутствию непосредственной линейной зависимости, т. е. условие </7 = 0 не является и достаточным условием отсутствия непосредственной линейной зависимости.

Использование представления плотности для вектора х (28) дает повод для использования в алгоритмах восстановления зависимостей алгоритмов построения статистически независимых случайных величин, являющихся линейными функциями исходных зависимых случайных величин. В этих алгоритмах учитываются как зависимости среди исходных величин, так и их линейных комбинаций.

Один из алгоритмов выбора последовательности зависимостей среди исходных измерений основан на том, что для ^учтенных зависимостей будем иметь в разложении (28) матрицу В и диагональную матрицу Л в виде функций от оцениваемой матрицы X. Конструктивное построение этих функций основано на выражениях для условных распределений. По матрицам В и Л можно восстановить матрицы 4f и Ф"1. Сравнивая последовательности матриц Чгк (в реальном алгоритме имеем оценки этих матриц) с матрицей S, получим один из алгоритмов выбора очередной максимальной зависимости. Монотонность убывания величины зависимостей является интуитивным предположением и является предметом дополнительных исследований.

Другой алгоритм использует ортогональные вращения. Для этого алгоритма представление в виде произведения условных распределений не

имеет места. Однако общее разложение представимо в виде

Р^ = Рх ^х)Р1 О2) -Pi (у,),(41)

гдеух,... ,у/ — взаимно независимые линейные комбинации исходных величин, зависящие от числа учитываемых и исключаемых зависимостей, в случае учета всех / (/ — 1)/2 зависимостей — главные компоненты, составляющие 7-мерный вектор у, у = Вх, х— I -мерный вектор исходных случайных величин, В — ортогональная 1X1 -матрица, в случае учета всех зависимостей В — матрица направлений главных компонент. Если же учитывается число зависимостей /, меньшее, чем 7 (7 — 1)/2, для матрицы В/, вычисляемой по матрице S, не будет выполняться равенство В-8Й,= L, где L - диагональная матрица. В этих случаях будем иметь нули только в местах учтенных зависимостей. В алгоритме очередную максимальную зависимость выбирали согласно Ф = ^(diagBjsfi^Bj, где diagS/S^ — Л есть диагональная матрица, составленная из диагональных элементов B/SB;. Таким образом, учтядмаксимальные зависимости среди исходных величин, операцией diag (В-SB,) мы пренебрегаем остальными зависимостями. Такое пренебрежение эквивалентно принятию гипотезы о диагональности матрицы В,2В/. Для обоснованности можно использовать статистический критерий [1, 29] / ь использованном нами алгоритме обоснованность диагонализации проверялась по величинам элементов в матрице S -г 4k По-видимо- му, такое пренебрежение целесообразно проводить не только на основании разност^ S — ^ но и непосредственно по величинам зависимостей в матрице б/SB/, которая учитывает зависимости среди линейных комбинаций исходных величин.

Алгоритмы упорядочивания зависимостей по величине. Рассмотрим ряд алгоритмов, оформленных в виде программ на языке Алгол, позволяющих упорядочить зависимости ковариационной матрицы по величине, выявить значимые зависимости. При этом выявляются зависимости как среди ис- ходных величин, так и среди их линейных комбинаций. Далее описан ряд таких алгоритмов. При сравнительном анализе результатов, полученных при работе этих алгоритмов, можно выбрать значимые зависимости как среди исходных величин, так и среди их линейных комбинаций. Некоторые из алгоритмов имеют определенные недостатки, устраненные в других алгоритмах.

ffПервый алгоритм упорядочивает величины зависимостей среди исходных измерений по значению коэффициента корреляции и является естественным обобщением алгоритма Краскала [27, 32]. При этом в предлагаемом алгоритме дополнительно налагается условие выделения серий из 7—1,7 —2, ..., 1 зависимостей, 7 — порядок матрицы Е. Серии образуют (прибегая к языку теории графов; где каждая зависимость есть ветвь графа) графы, не имеющие замкнутых контуров. Последовательность , серий имеет 7 (7 — 1)/2 членов, являющихся упорядоченными зависимостями среди исходных измерений. В результате выделения первой серии получим древообразную структуру зависимостей. Выдвигается предположение о том, что при выделении двух серий имеем структуру зависимостей, в которой каждая величина может зависеть не более чем от двух других величин, т. е., согласно [27], имеем 2-древообразную структуру зависимостей. При выделении к серий имеем /г-древообразйую структуру. К недостаткам

f

f

Р и с. 6. Эллипсоиды рассеиванияР и с. 6. Эллипсоиды рассеивания

Р и с. 6. Эллипсоиды рассеивания

Р и с. 6. Эллипсоиды рассеивания

этого алгоритма следует отнести то, что при выделении очередной зависимости никак не учитываются зависимости, выделенные ранее. Кроме того, алгоритм ориентирован на выделение зависимостей только среди исходных измерений (величин), в то время как для объяснения структуры зависимостей может понадобиться изучение зависимостей среди их линейных комбинаций. Рассмотрим пример подобных зависимостей.

R =R =1Pl 2Pl 31Pl 2Pl 3Пример 2. На рис/6 приведены два эллипсоида, соответствующие двум распределениям а и Ь. Эллипсоиды расположены в трехмерном пространстве и приведены на рис. 6 в виде трех проекций и сечения по А—А. Проекции распределения а изображают вырожденное распределение в виде окружности, одинаково наклоненной к осям хь х2, х3. Если это распределение подвергнуть деформации в направлении, перпендикулярном х3, получим эллипсоид распределения Ь. Матрицу корреляций этих распределений запишем как

R =

R =

1

Pl 2

Pl 3

1

Pl 2

Pl 3

Pl 2 Pl 3

1P2 3

P2 3 1

Для распределения а имеем Pi 2 = Pi з = P2 з • Для распределения Z>| Pi 21 увеличивается, а |р13| , |р231 уменьшаются. При значительных деформациях модули этих коэффициентов корреляции будут сколь угодно малыми. Для такого распределения в случае выборочной ситуации алгоритм Краскала и алгоритмы программ 5,6 [4], основанные на выделении зависимостей среди исходных измерений, выделив зависимость по величине Pi 2, ’не заметят” зависимостей по величинам Pi 3 и р2 3.

Второй алгоритм частично лишен этого недостатка. После выделения серии из Z — 1 зависимостей эти зависимости исключаются из всех оставшихся зависимостей линейными преобразованиями исходных измерений. После выделения (/ — 1) + (Z — 2) зависимостей строятся линейные

преобразования, исключающие зависимость в найденных позициях, и т.д. Исключение производится алгоритмом, используемым в построении канонических разложений [31]. Алгоритм содержит последовательность преобразования типа одномерных регрессионных. Упрощение алгоритма по сравнению с алгоритмом, основанном на линейных преобразованиях, полученных из условных распределений, достигается за счет исключения операции обращения матриц. При этом, правда, становится невозможным построение зависимостей типа марковских.

Алгоритм Краскала и алгоритм, рассмотренный выше, выделяют структуры зависимостей с ограничением на ^-древообразность выделяемых структур, к = 1,..., I — 1. Первый алгоритм выделяет такие структуры среди исходных величин, второй — как среди исходных, так и среди их линейных комбинаций. По логике статистического исследования тип структуры зависимостей должен быть гипотезой, которая соответствует или не соответствует имеющейся статистической ситуации.

Третий и йоследующие алгоритмы учета зависимостей упорядочивают зависимости по величине без наложения требований к структуре зависимостей типа древообразности. Та или иная структура зависимостей получается как наиболее правдоподобная гипотеза. Третий алгоритм выстраивает последовательность преобразований матрицы ковариаций в виде st1) = ьхт/, sW =T2ZT2,л = tz(z_ 1)/2etz(z_ i)/2,

где Ту - есть ортогональная матрица, построенная как произведение последовательности матриц вращения (алгоритм Якоби [30].). Эти матрицы учитывают 1,2,... J (I — 1)/2 зависимостей как среди исходных измерений, так и среди их линейных комбинаций. Соответственно в матрицах Е^\ Е^2^,..., А имеем 1,2,...,/ (/ -1)/2 нулевых (исключенных) коэффициентов ковариации, а остальные коэффициенты ковариации и дисперсии получены с учетом этого исключения. А — диагональная матрица собственных значений X, a T/(/_i)/2 < — ортогональная матрица собственных векторов. В результате диагонализации матрицы X мы имеем некоторое преобразование исходных случайных величин к системе независимых случайных величин, не фигурирующих в исходном наборе.Тщ_ !) / 2 есть ортогональная матрица преобразований главных компонент. В связи с таким преобразованием не имеет смысла выделение серий из / — 1, (/ — 1) + (/ — 2),..., / (/ - 1)/2 зависимостей, фигурирующих при построении структур с условно независимыми величинами, поскольку естественно возникают зависимости среди линейных комбинаций исходных величин и в конце процесса структуры типа структуры факторного анализа и структуры главных компонент.

В алгоритмах 2 и 3 выделяли зависимости как среди исходных измерений, так и среди их линейных комбинаций. В то же время с целью более полного анализа статистической ситуации целесообразно выделять зависимости только среди исходных измерений и сравнивать результаты такого выделения с результатами выделения зависимостей и для линейных комбинаций. Учитывая недостатки алгоритма Краскала, для выделения зависимостей среди исходных измерений бьип| использованы линейные преобразования и алгоритмы, разобранные в предыдущем параграфе. Кроме того, использовали алгоритм, основанный на том, 4то в обратной ковариацион-

ной матрице S”1 в местах отсутствия зависимостей, определяемых условным коэффициентом корреляции, имеем нулевые значения.

Четвертый алгоритм основан на упорядочивании по величине корреляционных коэффициентов; при этом корреляционная матрица строится для 5-1, которая рассматривается как обычная оценка ковариационной матрицы. Этот алгоритм основан на выделении корреляционных зависимостей, связанных с элементами матрицы ЛГ1, наиболее и наименее уклоняющихся от нуля. Нуль в матрице I"1, которую мы ранее обозначали как Ф"1, является необходимым и достаточным признаком отсутствия зависимости [25]. Правда, это не относится к модельному случаю отсутствия линейных зависимостей. По матрице З-1 выделяем последовательность зависимостей, значимо отличающихся от нуля. Недостатком этого алгоритма являются невозможность определения типа зависимости в терминах линейной модели и необходимость обращения оценки ковариационной матрицы, что не позволяет оперировать в случаях плохой обусловленности.

Пятый алгоритм основан на восстановлении оценки матрицы Ф после выделения очередной максимальной зависимости.

На первом шаге выделяется максимальный элемент в корреляционной матрице Ri, построенной по оценке S. Соответственно выделенному элементу строится ковариационная матрица Ф1? учитывающая только одну эту зависимость. Линейное преобразование исходных случайных величин строится на основании алгоритма построения условных распределений. По матрице S — Ф1, где вместо Ф1 на самом деле имеем соответствующую оценку Ф!, строим матрицу R2, по которой также определяем максимальный коэффициент корреляции. Этот коэффициент соответствует второй по величине из учитываемых зависимостей. Таким образом, все зависимости упорядочиваются по величине.

Шестой алгоритм выстраивает матрицу линейных преобразований и соответствующую матрицу Ф^, используя ортогональные вращения, приводящие к нулю выделенные зависимости,

= TUdiagT^T^Tj.,

к = 1,..., Z(/rl)/2.

Естественным дополнением этого алгоритма является алгоритм 3.

Критерий оценки числа значимых зависимостей. Критерий основан на определении значимого отличия коэффициента корреляционной матрицы от нуля. Пусть г у — коэффициент корреляции /-го и /-го измерений, тогда случайная величина

t= ^rMVH^2)lVl^Vfj (42)

имеет t-распределение с л—2 степенями свободы [33]. В упорядоченном ряде зависимостей г ^\ ..., г^,..., выбираем одно такое к, для которого имеем tk > t^p tk+i < fkp> a *kp выбирается на основании требуемого уровня значимости.

Далее описаны способы получения критерия для проверки значимости очередной зависимости. Один из способов основан на том, что вАразности 5 — Ф/, где S — традиционная оценка ковариационной матрицы, Ф/ — оцен-

ка с выделенной на i-м шаге структурой^зависимостей, считаем Ф/ = Ф/, т.е. пренебрегаем выборочностью оценок Ф/. Тогда для проверки гипотезы О// = Ф/у можно использовать корреляционную матрицу R, полученную по S—Ф, и критерий (42).

Другой способ позволяет получить критерий (42) для оценки значимости отличия элементов матрицы S"1 от нуля. Заметим, что матрица X"1, оценка максимального правдоподобия которой S-1 [29], является положительно определенной. Эту матрицу можно считать ковариационной для выборки у = Ах = 2Г1 х, где х ^Nj (О, X), А = X-1.

Согласно [29], имеем

у W, (о, ATA') = Nt (О, X"1) .'

Оценку максимального правдоподобия АХА'получим в виде X^SX"1. Заменяя X"1 на оценку максимального правдоподобия S-1, получим, что S"1 есть (с учетом сделанных допущений) оценка ковариационной матрицы, вычисленная по «-мерной нормальной выборке. Для оценки равенства нулю элемента этой матрицы можно также использовать критерий (42).

Сравнение алгоритмов выбора структуры зависимостей на примере расчета ковариационных матриц электрокардиограмм (ЭКГ). На примере расчета ковариационных матриц ЭКГ также проведено сравнение описанных алгоритмов, которые можно назвать как:

алгоритм Краскала, обобщенный на случай построения ^-древообразных структур зависимостей;

алгоритм построения ^-древообразных структур зависимостей с исключением влияния учтенных зависимостей методом канонических разложений;

алгоритм построения структуры с исключением зависимостей ортогональными вращениями;

алгоритм определения структуры по оценке обратной ковариационной матрицы;

алгоритм, использующий формулы условных распределений и линейных преобразования для восстановления вида ковариационной матрицы;

алгоритм, использующий для восстановления вида ковариационной матрицы ортогональные преобразования.

Выборки представляли собой 5-мерные равноотстоящие отсчеты на , QRS — комплексе ЭКГ в отведении III. Выборки были взяты из двух классов: ЭКГ здоровых людей; ЭКГ больных инфарктом миокарда задней локализации. В выборке из каждого класса имели по 40 5-мерных векторов. Средние этих выборок иц и т2 представлены на рис. 7. Оценки ковариационных матриц 5! и 52 приведены соответственно ниже:

0,0088

0,0092

- 0,0199

- 0,0125

- 0,0036

0,0092

0,0860

0,0056

- 0,0078

- 0,0039

- 0,0199

0,0056

0,1831

0,0734

0,0046

- 0,0126

- 0,0078

0,0734

0,1068

0,0222

- 0,0036

- 0,0039

0,0046

0,0222

0,0143

0,0299

0,0465

- 0,0210

- 0,0280

- 0,0123

0,0465

0,1791

0,0096

- 0,0277

- 0,0218

- 0,0210

0,0096

0,1765

0,0804

х 0,0199

- 0,0280

- 0,0277

0,0804

0,2518

0,1006

- 0,0123

- 0,0218

0,0199

0,1006

Г 0,0776

Р и с. 7. Средние значения выборок ЭКГР и с. 7. Средние значения выборок ЭКГ

Р и с. 7. Средние значения выборок ЭКГ

Р и с. 7. Средние значения выборок ЭКГ

При 5%-ном уровне значимости критерия rkp = 2,02 были вычислены для матриц 5ь 52 значимые структуры зависимостей. Графы этих структур для алгоритмов 1 и 2 приведены на рис. 8, а, б. Алгоритм Краскала выделяет зависимости среди исходных измерений. Алгоритм 2 на первом шаге совпадает с алгоритмом Краскала и выделяет зависимости среди исходных измерений,, на втором и последующем шагах выделяет зависимости среди линейных комбинаций. На втором шаге для матрицы 51 указана выделенная значимая зависимость — сплошная линия, и две незначимые — штриховые линии. Для выделения всех значимых зависимостей в матрице 51 понадобился и третий шаг. Число значимых зависимостей для матрицы Si было больше числа зависимостей, определяющих древообразную структуру. Значимые зависимости для величин Xi, х2, Хе, *4, Xs, полученные алгоритмом 3, приведены в табл. 1.

Как можно видеть из табл. 1, общее число значимых зависимостей как в матрице 51, так и в матрице 52 больше, чем для древообразной структуры зависимостей.

Структура зависимостей, выделенных алгоритмом 4, приведена на рис. 8, в, а для алгоритмов 5 и 6 структуры зависимостей приведены на рис. 8, г. Структура зависимостей на рис. 8, г имеет древообразный характер, причем зависимости на рис. 8, г для матрицы 5 х — марковско-

Таблица!

№ зависимости

S1

1

*м х5

x4, x5

2

х3,+а^х«

хг, x^

3

х,, Ь^х3 +Ь^х, + h^\,

а^хг*а^х4,Хз

4

С^^Х, + C^X, + 63*^4 +

b<2>x, c^'x

+ с^х,, x3

5

«Vx

d(2)\,c<2)\

6

f<2)'x,$(2)'x

Пр и, м ечание. х - S-мерный вектор-столбец исходных случайных величин; d^* , е' * Ь^2\ с^, d ^\ е (2) э f/2\ g.^ — 5-мерные векторы линейных преобразований исходных величин.

65655. Зак. 551

65

65

го типа, что хорошо соответствует специфике задачи. То, что 2-й и 3-й отсчеты оказались не связанными непосредственной зависимостью, можно объяснить их попаданием на разные склоны зубцов в QRS-комплексе. Алгоритм 6 является естественным дополнением алгоритма 3, которым было получено большее число зависимостей для линейных комбинаций (см. табл. 1). Правда, необходимо сказать, что характер зависимостей для линейных комбинаций носил не столь значимый характер, как в случае, изображенном на рис. 6. Вследствие этого для аппроксимационных, практических целей в некоторых случаях, типа разобранного здесь, можно удовлетвориться результатами работы алгоритмов 5 и 6. Для алгоритма 4 было получено другое число значимых зависимостей, чем для алгоритмов 5 и 6. Это можно объяснить тем, что наличие нуля в обратной ковариационной матрице не является достаточным признаком отсутствия зависимости.

Алгоритмы 5 и 6 можно использовать в качестве аппроксимационных в случае плохой обусловленности в задачах дискриминантного анализа и регрессии. Алгоритм 5 обеспечивает ^большее число нулей в позициях учтенных зависимостей. Поэтому предпочтение при построении алгоритмов классификации и регрессии с предварительным анализом структуры

зависимостей было отдано алгоритму 5. Для целенаправленного вычисления древообразных структур зависимостей в алгоритмах классификации также использовали алгоритм Краскала (алгоритм 1).

Классификация выборок и поиск информативных измерений для древообразных структур зависимостей. Классификация обучающих и контрольных выборок, а также обучающих выборок и скользящего контроля, проводимая согласно максимальному значению информанта

^(х) = тг^‘-1х -^(х) = тг^‘-1х -—т^Ф4 nig, z=l,2,—т^Ф4 nig, z=l,2,(43)(43)

^(х) = тг^‘-1х -

^(х) = тг^‘-1х -

—т^Ф4 nig, z=l,2,

—т^Ф4 nig, z=l,2,

(43)

(43)

для древообразных структур зависимостей реализована в конкретных программах. В информанте (43) ш/ — средние значения в выборках; v 1 — оценка матрицы *-1 (39), в которой матрицы В и Л заменены своими состоятельными выборочными оценками. Для вычисления древообразной структуры реализован алгоритм Краскала. В случае скользящего контроля для каждого классифицируемого вектора xg Q - 1, ..., иь z. = 1, / = 1,..., zz2, z. = 2, пх, п^ — объемы выборок в двух классах) производится пересчет вектора т/ и матрицы Ф, для вычисления оценок которой используется матрица S,

1

"V/ = farm, -^), i = 1,2,(44)

S; =S; =Пх + И2 — 2 пх* пг — 3Пх + И2 — 2 пх* пг — 3ЛЬ1

S; =

S; =

Пх + И2 — 2 пх* пг — 3

Пх + И2 — 2 пх* пг — 3

7" п,и+и^-«"i) ^ - “/) • <45)to - и («1 + «2 - 2)j

Для каждой матрицы S/ вычисляется своя матрица^1,. Вместо информанта (43) для скользящего контроля более точно можно записать информант

(х,) = ту Ф;1 Xj --ту ^-1 ту,(46)

i= 1,2,/ = 1,..., nxJ = 1,..., л2.

В используемых программах [4], так же как и во всех программах методик [1—3], выводятся числа правильных классификаций, значение критерия оценки информативности анализируемой совокупности измерений; возможны задание совокупности измерений, по которым проводится классификация, и завись результатов классификации на магнитную ленту. Последнее позволяет сравнивать информативность различных наборов измерений и вести выбор минимального числа информативных.

Имеется программа, в которой методом последовательного исключения осуществляется, выбор информативной системы параметров. Выбор осуществляется по величине оценки вероятностей ошибок, которую, согласно [34, 35], можно записать как

Рош = J11 + <"1^^U[^(47)

\ \И1«2# LJ f

где Т)2 — расстояние Махаланобиса, записываемое как

D2 = (mt - ШгУ^1 ( mi - т2),

А

Ф — оценка матрицы с выделенной древообразной структурой зависимостей,

1/2»/ X2 \

Ф(а) = (2л) / ехр[- — I dx

*•*\ 2 /

В программе для вычисления значений Ф(а) использована процедура- функция erf(a) [36]:

Ф(а) =— 11 + erf f-7=) I.

2[\V2/J

При исключении неинформативного измерения Значение Рош (47) уменьшается. Сравнивая I значений Рош , выбираем то, которое дает наибольшее уменьшение Рош , и исключаем соответствующее измерение. Далее для системы из Z — 1 измерения проводим аналогичные вычисления. Исключения проводим до тех пор, пока каждое исключение измерения не будет приводить к увеличению Рош.

Классификация выборок и поиск информативных измерений с выбором структуры зависимостей. Реализовано восемь программ классификации с возможностью выбора по результатам классификаций из исходных измерений ряда информативных с предварительным выбором структуры зависимостей этих измерений. Четыре программы реализованы в рамках дополнительной гипотезы Ф1 = Ф2 = Ф, г/^ Фь Ф2 - ковариационные матрицы со структурой зависимостей, и четыре^ рамках Ф i ^ Ф2.

Для случая Ф1 = Ф2 = ^ информант, согласно которому производится классификация, приведен в виде (43), (46) с тем отличием, что древообразная структура зависимости получается как одна из возможных статистических гипотез. Программы реализуют контроль качества классификации с использованием контрольной выборки и скользящего контроля, а число выбираемых зависимостей либо задается, либо выбирается согласно уровню значимости f-критерия.

Для случая Фх Ф Ф2 четыре программы также содержат различные способы оценки качества классификации и способы задания числа зависимостей.

Информанты для этого случая можно записать в виде

7/ (х) = - In 1Ф,-1 - (х - т,)'^-1(х - т,),(48)

7/(*/) = -In |Фу I- ( Ху - ту)' Фу’(ху - ту),(49)

Z = 1, 2,/ = 1, ...,«! ,/ = 1,л2.

Информант (48) используется для классификации обучающей и контрольной выборок, (49) — для скользящего контроля. В случае скользящего контроля оценка mZy вычисляется согласно (44), а вычисляется по величине SZ/-:

ГntJ

Sy = (n< -1)8,-- (ху - m,)(xy - m^ .

nt - 2 Lи, -1J

Линейный прогноз и поиск информативных измерений с выбором структуры зависимостей. Построение линейной регрессии осуществляется аналогично построению регрессий с анализом структур в [3,7]. Линейную регрессионную функцию можно записать как

У = rny + S'yx Ф"1 (х - тх), где у — прогнозируемая величина для у; Sjx — вектор ковариаций у и х; Ф - матрица со структурой. В зависимости от контроля качества и определения числа зависимостей также было. составлено четыре программы.

В заключение отметим, что все рассмотренные программы написаны на языке Алгол. Тексты программ и контрольные примеры к ним приведены в отчете [4].

Критерии проверки статистических гипотез о структурах распределений и информативности измерений. Параметрические статистические критерии. В рамках традиционных гипотез дискриманантного анализа X/ = Az, Sz = ~ Sy проверка информативности исходных измерений и дополнительной информативности части измерений проводится достаточно широко и нашла отражение в имеющихся пакетах программ статистического анализа [19, 23]. Для этих целей используются t- и F-критерии. t -критерии используются в своем классическом виде для проверки гипотезы о равенстве математических ожиданий. Для выбора минимума информативных измерений в [19] используются программы шагового дискриминантного и регрессионного анализов, основанные на F-распределениях и реализующие метод последовательного присоединения измерений и последовательного удаления из совокупности уже выбранных измерений, что позволяет из-

бегать плохой обусловленности. F-критерии получены с использованием техники дисперсионного анализа в применении к задачам линейной классификации и линейного прогноза. Основы такого подхода были заложены Фишером и развиты Рао [23] Аналоги этих алгоритмов и программ имеются и в системе программ, разработанной автором [1, 3]. В этих программах реализованы методы последовательного присоединения и удаления в чистом виде. Для случаев с плохой обусловленностью имеется серия программ с ограничением числа оцениваемых параметров гипотез.

В рамках гипотез X/ = А/, X/ = Ху для выбора минимума информативных измерений [1, 3, 4] используются первые члены асимптотических разложений вероятностей ошибок [34, 35]. Минимум этих членов соответствует максимуму информативных измерений.

Асимптотические критерии, основанные на отношении максимального правдоподобия [29], используются в программах проверки гипотез X,- = А/; X/ = Ху; щ;= щ, ^ = Ху для проверки независимости и неинформативно сти блоков в гипотезе с информативным и неинформативным подпространствами (16), а также в некоторых других ситуациях [1]. Все эти критерии имеют х2 -распределения.

Критерии, основанные на отношении максимального правдоподобия и имеющие х2 -распределения, также используются [1,2] в оценке числа общих факторов и проверке гипотезы о равенстве дисперсий минимальных главных компонент [22].

Для оценки числа значимых зависимостей используется ^-критерий, проверяющий гипотезу г^ = 0, где г^ — элемент корреляционной матрицы [4,33].

Критерии, основанные на результатах классификации и прогноза. Для выбора информативных измерений и оценки информативности всей совокупности в случае нестандартных гипотез о ковариационных матрицах используются результаты классификации и прогноза, полученные для контрольной выборки или методом скользящего прогноза.

В случае задачи классификации или прогноза качественных показателей для неинформативной системы измерений для двух классов вероятность правильной классификаций контрольной выборки или скользящего контроля равна 0,5. По частоте правильных классификаций можно проверить эту гипотезу. Для проверки ее используется критерий

(а \//1 \

tA^-PAN—* ^Ni^^^ol-Y(50)

\п л п\пЧ

где ajn — частота правильных классификаций; п — общее число классифицируемых векторов; а — число правильно классифицируемых векторов. Для п > 30 вычисляется значение критерия (50). Если п < 30, то вычисляется значение вероятности

Q(h>H(51)

для биномиального распределения, в котором Р = 1 — Р = 0,5,аЛ* =а)п — частота правильных классификаций. Вероятность (51) можно записать как

п

Q=2 С/0,5”,'(52)

i= а\

где

и!

Cl i\ (п - z)!

есть биномиальный коэффициент. Если вероятность (51) невелика (меньше выбранного уровня значимости), то гипотезу о неинформативности измерений следует исключить.

Критерии (50) , (51) используются и при выборе минимума информативных измерений, при этом сравниваются результаты классификации, полученные алгоритмами с различным числом измерений, и проверяется гипотеза об одинаковой вероятности ошибок этих алгоритмов по частоте взаим-, ных ошибок. В случае одинаковой вероятности ошибок вероятность ошибок одного алгоритма относительно другого равна 0,5 [9].

В случае линейной регрессии (прогноза количественного показателя) [3] составляется выборочный коэффициент корреляции между результатами прогноза и известным прогнозом в контрольной выборке или скользящем прогнозе. Значимость этого коэффициента оценивается по величине t-критерия, проверяющего гипотезу о равенстве коэффициента корреляции нулю. Эквивалентность двух результатов прогноза для прогностических функций с различным числом исходных измерений проверяется также по величине построенного t-критерия.

Особенности математико-статистического вывода, используемые при получении статистических критериев. Следствием содержательного финитного подхода к введению математических моделей, который состоит в том, что исходными объектами являются результаты наблюдений и измерений, а все алгоритмы, связывающие эти наблюдения и измерения, получаем серией конструктивных операций аппроксимации, пренебрежения и создания понятий на основании тех же примеров (конструктивные процессы классификации в мышлении), являются следующие особенности в получении и интерпретации статистических критериев.

Асимптотические разложения рассматриваются как приближенные результаты, пригодные для использования в случае выборок сколь угодно малого объема.

В силу того что пренебрежения и аппроксимации заложены в саму основу построения математико-статистических моделей (см. рис. 1), методы математического построения статистических критериев, обозначенные на рис. 1 как неклассические, рассматриваются как вполне пригодные для получения работоспособных статистических критериев. Так, представление оценок параметров линейного преобразования D своими гипотетическими значениями А (15) позволяет работать с преобразованными векторами Dx как с нормальными (16), используя при этом для проверки статистических гипотез имеющиеся статистические критерии. Подобные приемы использовались также при получении критериев оценки гипотез факторных разложений [2,8] и в ряде других случаев.

При замене параметров D На А фактически используется сведение некоторого сложного распределения к нормальному. Подобный прием, основанный на аппроксимации нормальным распределением, Имеющим те же моменты, использовался при получении критерия классификации по принадлежности к подпространству векторов одного из классов [1,9) (см. рис. 2)

В заключение отметим, что изложенные в настоящей статье подходы к построению алгоритмов классификации, прогноза и анализа информативности измерений являются следствием содержательного математикостатистического подхода. Как можно видеть из текста статьи (даже в рамках принятых Предположений), описанная система программ не является завершенной. Выбранный подход позволяет, в принципе, упорядочить все имеющиеся и разрабатываемые алгоритмы классификации и прогноза по степени их приближения к имеющейся статистической ситуации (выборке). При этом некоторые из алгоритмов могут оказаться слишком громоздкими или неоптимальными, а другие иметь весьма узкую область применения. Так, алгоритмы, имеющие большое число оцениваемых параметров распределений, требуют больших объемов выборок, что часто нельзя требовать от реальных задач. Некоторые же из алгоритмов рассматриваемой системы программ могут работать практически в условиях любых объемов выборок.

Пример анализа информативности отсчетов электрокардиограмм (ЭКГ) . Предварительно заметим, что это исследование проводилось с использованием программ, написанных на языке ПЛ/1 и транслированных в рамках операционной системы ОС ЕС.

Выбор системы информативных измерений осуществлялся по выборке ЭКГ, представленной 38-мерными векторами — отсчетами ЭКГ на QRS- комплексе и ST-Г-интервале в отведениях III и avF, ЭКГ были взяты у людей, не страдающих сердечно-сосудистыми заболеваниями (100 ЭКГ), и у людей с инфарктом миокарда задней локализации (92 ЭКГ). Средние значения этих выборок приведены на рис. 9. Использовались методы последовательного присоединения и исключения и оценка информативности отсчетов по величине /^-критериев [19, 23]. При последовательном присоединении выбраны в качестве информативных отсчеты 2,16,29, 37 при 1%-ном уровне значимости критериев. При последовательном исключении и том же уровне значимости выбраны отсчеты 2, 16, 37. Эти результаты эквивалентны результатам, полученным с использованием программы шагового дискриминантного анализа в [19], где первоначально были бы выбраны отсчеты 2, 16, 29, 37^ а затем удален отсчет 29 как малоинформативный в выбранной совокупности из четырех отсчетов. Существенно многомерной информативности типа 3 (см. рис. 2) в выборках не оказалось. Учитывая, что отдельные отсчеты, помимо выбранный, также информативны в данных выборок электрокардиограмм, имеем дело^с информативностью типа 2

Таблица 2

№ отсчетов

Выборка

Скользящий контроль

обучающая

контрольная

Число ошибок

Все 38

18

36

27

2,16, 29, 37

23

38

24

2, 16, 37

26

36

27

37

50

57

50

2

29

40

32

Значения критериев

Все 38

0,017

- 0,617*

0,229

2,16, 29, 37

0,163

- 0,333*

- 1,461

2,16, 37

0,332

- 0,707*

0,202

♦ Значения критерия (50), имеющего нормальное распределение с нулевым математическим ожиданием и единичной дисперсией.

(см. рис. 2). Как показали исследования этих же выборок ЭКГ в [9], в них имеют место также информативности типа 4,5 (см. рис. 2), которые проявляются при использовании классификаторов, построенных в предположении Хх Ф Х2 • Однако влияние информативностей типа 4,5 на результаты классификации незначительно.

Для различных систем отсчетов с использованием линейной дискриминантной функции Фишера получены результаты классификации обучающих, контрольных выборок (100 + 89 ЭКГ) и скользящего контроля (табл. 2).

Также приведены значения критериев (50), (52), проверяющих гипотезу об одинаковой вероятности ошибок по результатам классификации, полученным согласно одному 2-му отсчету и отсчетам, указанным в табл. 2.

Зная, что критический 5%-ный уровень критерия (50) равен 1,65, а 1%-ный - 233, видим, что результаты классификации различаются незначимо. Для критерия (52) в табл, имеем величины вероятностей. Значимые различия при 5% уровне получаем при сравнении результатов классификации обучающей выборки для одного 2-го отсчета со всеми 38. Этот эффект можно отнести к смещению в результатах классификации обучающих выборок, имеющему место из-за учета большого числа параметров. Для контрольных выборок и скользящего контроля видим, что даже при достаточно мягком 5%-ном уровне результаты классификации отличаются незначимо. То обстоятельство, что согласно параметрическому критерию выбрано 3-4 отсчета, а по результатам классификации обучающих выборок и скользящего контроля один 2-й отсчет, можно объяснить двумя причинами. Во-первых, отклонением от нормальности распределений, что отмечалось при исследовании выборки , в [9]. Суть этих отклонений состоит в утяжеленности ’’хвостов” распределений. ЭКГ для этих ’’хвостов” при введении дополнительных отсчетов, информативных по параметрам нормального распределения, практически не переходят из ошибочно классифицируемых в правильно классифицируемые.

Во-вторых, тем, что F-критерий, полученный с использованием техники дисперсионного анализа, основан на мере информативности измерений ЭКГ в виде отношения дисперсий между классами к дисперсии внутри классов [23]. Для практических целей важнее иметь оценку информативности в виде оценки вероятностей ошибок. Такое неадекватное использование F-критерия, учитывая его достаточно широкое использование [19], требует дополнительных теоретических исследований.

То, что информативным практически оказался один отсчет в отведении III из 38 регистрируемых, говорит об избыточности исходной информации для классификации инфарктных ЭКГ. Практически становится под вопрос целесообразность регистрации и использования для грубой классификации заднего инфаркта jio ЭКГ отведения avF. Такой вывод интересен при массовых обследованиях населения. Кроме того, информативным оказался отсчет в области зубца Q отведения III, что хорошо согласуется с формализацией медицинского статистического опыта в виде Миннесотского кода

ЛИТЕРАТУРА

L Малиновский ЛТ. Методика анализа информативности параметров в ЭВМ. М., 1980. 368 с. Деп. в ВНТИЦ, 11.01.80, № Б811373*

Малиновский ЛТ. Методика анализа информативности параметров в ЭВМ II. М., 1983. 257 с, Деп. в ВНТИЦ, № 0283 0052159.

Малиновский ЛТ. Методика анализа информативности параметров в ЭВМ III. М., 1984. 210 с. Деп в ВНТИЦ, № 0284 0084896.

Малиновский ЛТ* Методика анализа информативности параметров в ЭВМ IV. М., 1985.185 с. Деп. в ВНТИЦ, № 0285 0081205.

Малиновский ЛТ^ Система алгоритмов и программ анализа информативности измерений (традиционные гипотезы дискриминантного анализа) I. // Кибернетика. 1984. № 6. С. 88-93.

Малиновский ЛТ* Система алгоритмов и программ анализа информативности измерений (гипотезы о подпространствах) II. // Кибернетика. 1985. № 3. С. 103-108.

Малиновский ЛТ. Прогнозирование работоспособности изделий радиоэлектроники методами многомерного статистического анализа // Надежность и контроль качества: Прил. к журн. ’’Стандарты и качество”. 1985. № 1. С. 31-38.

Малиновский ЛТ. Сравнение алгоритмов факторного анализа // Поиск зависимости и оценка погрешности. М.: Наука, 1985. С. 68-87.

Малиновский ЛТ. Классификация объектов средствами дискриминантного анализа. М.: Наука, 1979. 260 с.

Малиновский ЛТ. Построение вероятностных и статистических моделей. М., 1983. Препр. ИППИ АН СССР. 70 с.

Малцновский ЛТ. Процессы классификаций - основа построения наук о действительности // В наст. сб.

Загоруйко НТ. Методы распознавания и их применение. М.: Сов. радио. 1972. 206 с.

Вапник В.Н. Восстановление зависимостей по эмпирическим данным. М.: Наука, 1979.448 с.

Демиденко Е.З. Линейная и нелинейная регрессии. М.: Финансы и статистика, 1981. 302 с.

Лбов Г.С. Методы обработки разнотипных экспериментальных данных. Новосибирск: Наука, 1981.160 с.

Fisher R.A. The use of multiple measurement in tyxonomic problems// Ann. Eugen. 1936. VoL 7, N 2. P. 179-188.

Welch B.L. Note on discriminant functions // Biometrika. 1939. Vol. 31, N 1/2. P. 218-220.\

Айвазян С.А., Бежаева З.И., Староверов О.В. Классификация многомерных наблюдений. М.: Статистика, 1974. 240 с.

Dixon W.J. (ed.) BMDP Biomedical computer programs // Berkeley; Los Angeles: Univ. Cal. Press, 1975. 500 p.

Раудис Ш.Ю. Алгоритмы классификации и регрессии системы СОРРА-1 // Статистические проблемы управления. Вильнюс: Ин-т математики и кибернетики, 1978. Вып. 27. С. 23-39..

Андрукович П.Ф. Применение метода главных компонент в практических исследованиях. М.: Изд-во МГУ, 1973. Вып. 36.123 с.

Лоули Д, Максвелл А. Факторный анализ как статистический метод. М.: Мир, 1967.144 с.

Рао С.Р. Линейные статистические методы и их применения. М.: Наука, 1968. 547 с.

Айвазян С.А., Енюков И.С.МешалкинЛД. Прикладная статистика: Исследование зависимостей. М.: Финансы и статистика, 1985. С. 143-163.

Карапетян КА. Об одном статистическом критерии проверки гипотезы о структуре многомерных наблюдений // Многомерный статистический анализ в социальноэкономических исследованиях. М.: Наука, 19 74. С. 294-3 08.

Дуда Р., Харт П. Распознавание образов и анализ сцен. М.: Мир, 1976. С. 127-129.

Заруцкий В.И. О выделении некоторых графов связей для нормальных векторов в пространстве большой размерности // Алгоритмическое и программное обеспечение прикладного статистического анализа. М.: Наука, 1980. С. 189-208.

Кендалл МДжм Стьюарт А Статистические выводы и связи. М.: Наука, 1973. 900 с.'

Андерсон Т. Введение в многомерный статистический анализ. М.: Физматгиз, 1963.500 с. •.

Уилкинсон Дж.X. Алгебраическая проблема собственных значений. М.: Наука, 1970. 564 с.

Пугачев В.С. Теория вероятностей и математическая статистика. М.: Наука, 1979. С. 113-120.

Уилсон Р. Введение в теорию графов. М.: Мир, 1977. 207 с.

Корн Г., Корн Т. Справочник по математике. М.: Наука, 1970. С. 568-569.

Деев АД. Асимптотические разложения распределений статистик дискриминантного анализа W, М, W* // Статистические методы классификации. М.: Изд-во МГУ, 1972. Вып. 31. С. 6-51.

Заруцкий В.И. Классификация нормальных векторов простой структуры в пространстве большой размерности // Прикладной многомерный статистический анализ. М.: Наука, 1978, С. 37-51.

А геев М. И., Кривонос ЛС., Марков Ю.И. Алгоритмы (101-150). М.: ВЦ АН СССР, 1967. 116 с. -

УЖ 519.25

ВЫБОР ЛИНЕЙНОЙ МОДЕЛИ И ОЦЕНКА ЧИСЛА ИЗБЫТОЧНЫХ ПЕРЕМЕННЫХ

В.Г. ТРУНОВ

Рассмотрим задачу выбора подмножества переменных в линейной регрессии. Пусть имеется выборка Vn = { Xi, у i, Х2, у г,..., х„, уп } , составленная из п пар наблюдений за ^-мерным вектором входных переменных х^ = (хп, Х/2, • • • , */&) и скалярным откликом у<, связанных следующим уравнением:*

yt = m^4reb(1)

где m (х)— неизвестная регрессионная функция; et — независимые нор-

■75

мально-распределенные случайные величины с нулевым математическим ожиданием и конечной дисперсией о2. Будем искать представление функции регрессии т (х) в классе линейных функций Lk = {0О + 6vxx + 02х2 + + ... + вкхк }, т.е. строить линейную регрессию отклика по входным переменным, методом наименьших квадратов.

При ограниченном числе наблюдений целесообразно искать представление функции т (х) не во всем пространстве линейных функций £^, а в некотором его подмножестве, включающем лишь часть входных переменных. Получающееся при этом решение может оказаться более точным по сравнению с полным регрессионным уравнением, включающим все входные переменные [1,2].

Имеется целый ряд методов построения такой неполной регрессионной модели, отличающихся как по способам перебора различных подмножеств переменных [1 - 3], так и по критериям выбора окончательного решения или момента остановки в процессе перебора [2, 4, 5]. Если множество Lk содержит истинную регрессионную зависимость 1^(х), то представляют интерес такие рабочие характеристики метода, как вероятность выбора корректной модели, распределение числа избыточных переменных в окончательном решении, средний квадрат ошибки прогноза.

В работах [6 — 8] такие характеристики получены для нескольких критериев качества решения при рассмотрении семейства вложенных моделей. В указанных работах порядок просмотра моделей фиксирован и не зависит от выборки Vm а поиск модели сводится только к выбору момента остановки, что существенно ограничивает возможности алгоритма ’’приспособиться” к экспериментальным данным. В частности, как доказано в [7], еслидля выбора момента остановки применяется критерий Ср Мэлоуса [4]:

Ср = RSSp/d2 + 2р - и, (2)

(где RSSp — остаточная сумма квадратов для р-членной регрессионной модели; д2 - оценка дисперсии о2), то среднее число избыточных переменных в окончательном решении невелико и с ростом общего числа переменных стремится к постоянному значению.

В настоящей работе исследуются распределение числа избыточных переменных и величина среднеквадратичной погрешности прогноза в линейной модели для метода последовательного включения [1,3] при использовании обобщенного Ср критерия, предложенного в [8,9]:

C/(a) = RSS/ + ^Z оцУ» (3) где неотрицательные константы сц определяют ’’цены” на включение переменных. Метод последовательного включения состоит в том, что на каждом шаге в регрессионное уравнение включается переменная, имеющая максимальную по абсолютной величине корреляцию с остатком отклика после вычитания из него уравнения, полученного на предыдущем шаге. Для выбора ’’лучшей” модели используется критерий (3), в котором параметры оц образуют неубывающую последовательность 0< а> < а2 < . . . < о&.

Результатом применения такого алгоритму к экспериментальным дан-

} . ным Vn является линейная функция т(х), для которой критерий (3) 1 имеет минимальное значение.

! Рассмотрим случай, когда Входные переменные взаимно ортогональны. При этом шаговый метод последовательного включения приводит к тем же результатам, что и метод всех регрессий [1 ].

Построим сначала распределение числа переменных в модели при условии, что отклик не зависит от входных переменных, т.е. т (х) = const.

ии

Пусть Д? - вклад /-й переменной в регрессию Д? = ( 2 х» ytjM 2 хЛ , где без ограничения общности можно считать 2 х« = и. При сделанных предположениях значения Д 2 независимы и являются случайными величинами, имеющими центральное о2х? распределение. Использование метода последовательного включения приведет, очевидно, к тому, что на первом шаге выберется первая верхняя порядковая статистика Д2;Л из набора Д1, Д2,..., Д^. 1, Д^ ) . На втором шаге будет отобрана вторая верхняя порядковая статистика Д^_ i; ^ и т.д.

Критерий соответствия (3) можно в этом случае переписать в виде .

Q(a) = RSS0- Б (Д^.^-оЧ). / = 1

Число переменных в окончательной модели Jk определяется следующим образом:

Jk =min/: (С/(а)< С,(а) , i = 1, 2,... ,к}.(4)

Поскольку последовательность Д£ +^.^ невозрастающая, а последовательность оц неубывающая, то момент остановки совпадает с первым нарушением неравенства Д& + i -/; & > <% д2.

Чтобы вычислить условную вероятность выбора модели, включающей ровно / переменных Pr{Jfc =/} при заданном значении о2, определим сначала вероятность условия Рг {/*>/). Ее можно получить, суммируя вероятности того, что /, /+ 1,..., Л переменных превзошли порог а2 оу:

к .

Рг(А>/)=2 ф/О-Т/^"', ’.«(5)

где'

7/- 1 — Pr(Xi < Oj^Lc^ .

Аналогично (5) Рг {А >/+1} =S CkkL Д1—7/+ 1^"‘>

Отсюда вероятность остановки на /-м шаге равна:

Рг (А = j } = Pr Uk > /} - PHA > i + 1) =■

= dk 7/(1,- *tJ Ck t7/(l -- 7/+ id - 7/ + /"'l. (6)

Пользуясь этой формулой, можно оценить среднее число избыточных

переменных в модели: к

EJk= s jMJk = n. / = 1

Наиболее простой вид формула (6) приобретает при условии аг = а2 = = ... = ак = а, чему соответствует, например, критерий Ср [4]. Для случая равных.порогов получим Pr{Jfc =/} = С^ у7(1 — y)fc-7, т.е. Jk имеет биномиальное распределение. При этом среднее число избыточных переменных равно: EJk = fc у, а дисперсия DJk = к у(1 - у).

Следует подчеркнуть, что в (6) получена условная вероятность события А=/при фиксированном значении а2. Однако, если предположить, что выборочная оценка а2 достаточно близка к а2, то для вычисления yz- в (6) можно воспользоваться приближенной формулой

уу = 1 -Рг{х]< «,}.

Приведем значения среднего числа избыточных переменных (Е/®ы6) для критерия Ср при выборе наилучшего подмножества переменных. Для сравнения в третьей строке приведены величины ^Е1^ст\ полученные в [7] для задачи выбора степени полинома при параболической регрессии:

л12243648

к6121824

EJkCT1,271,761,952

^ыб 1,32 2,28 3,24 4,08

Как видим, среднее число избыточных переменных в ’’лучшем” наборе монотонно растет с ростом к, в то время как степень ’’лучшего” полинома стремится к постоянному значению.

Оценим теперь величину среднеквадратичной ошибки прогноза в предположении, что ’’цены” на включение переменных одинаковы и равны а, а дисперсия невязки а2 известна или оценивается достаточно точно по выборке. Если матрица наблюдений Xв Vn ортогональная, то средний риск является суммой среднеквадратичных потерь прогноза для каждой переменной в отдельности. Пусть для переменной / истинный регрессионный коэффициент в модели (1) равен 0;-, а его МНК оценка по выборке равна § В окончательное регрессионное уравнение (с учетом правила включения (3)) переменная / войдет с коэффициентом 6р равным:

0/, если S2 > о2 ajn

0; = л(7)

0, если 62< о2 а/п.

Средний квадрат ошибки прогноза отклика в точках обучающей выборки Ил, вносимый этой переменной, определяется формулой

I 1 ”

Rj = E - s Vx^-eni2 1л / = 17

- а у/а/п° xfaFn«>

=/ 0-^(0^+$ e^j^^t * J a-^codr, (8)

— oo- о у/а/п4 а у/а/п

где fj(t) — плотность распределения /-го выборочного регрессионного коэффициента 0,. Если ошибки в (1) распределены нормально, то £, имеет нормальное распределение с параметрами (0, сг^пу При этом

(9)

где ^(м) = (2 я)”1 2 ехр { —и 2 /2 ) — плотность стандартного нормально -

го распределения.Подставляя (9) в (8), получимго распределения.Подставляя (9) в (8), получим> (Ю)> (Ю)

го распределения.

Подставляя (9) в (8), получим

го распределения.

Подставляя (9) в (8), получим

> (Ю)

> (Ю)

где для упрощения записи приняты обозначения 52 = о2 /п,

h = ^ Ф(и) = / (2я)"1 /2 ехр { —Г2/2} dt.

На рис. 1 приведено семейство функций R(0, 5, А) для различных значений 0 . Полученные формулы позволяют оценить зависимость суммарного среднего риска от выбранной величины порога h и значений регрессионных коэффициентов. Предположим, что известно распределение истинных значений регрессионных коэффициентов 0’ = (0i, 02, •••, 0кУ тогда сум-

Рис.2Рис.2

Рис.2

Рис.2

марный средний риск как функция величины порога h имеет вид

(И)(И)к

(И)

(И)

RcptM^ s R(ebM).i = 1

На рис. 2 а приведены графики зависимости среднего риска от величины параметра h Qi = V^) для моделей

ю

У< ~вххп + 2L Qx« + eb ei^N{^,n)9

/ = 2

в которых лишь первый из десяти регрессионных коэффициентов отличен от нуля. Как видим, при этом имеется выраженный минимум среднего риска в области изменения параметра/1 от 1 до 5. Причем глубина минимума и ширина ’’области безразличия” тем больше, чем больше отношение сигнал/шум. Рис. 2,6 иллюстрирует влияние относительного числа существенных переменных т^ = к0[к в моделях вида

К ок

у<= S 6 х« + 20 Ху + в/,(12)

/=1/=fc0 + l

где к062 = 4, c^N^nY

Как видно из графиков суммарного среднего риска выбор параметра а в (3) может весьма существенно повлиять на точность получаемого решения. Причем выигрыш особенно заметен при наличии небольшого числа значимых переменных.

ЛИТЕРАТУРА

Себер Дж. Линейный регрессионный анализ. М.: Статистика, 1980.456 с.

Hocking R.R. The analysis and selection of variables in linear regression//Biometrics. 1976. Vol. 32, N 2. P. 1—49.

Малолетний ГЛ., Мельников H.H., Ханин ВМ. Об алгоритмах выбора наилучшего подмножества признаков в регрессионном^днализе// Вопросы кибернетики:

Теоретические проблемы планирования эксперимента. М.: Сов. радио, 1977. Вып. 35. С. 110-148.

Mallows C.L. Some comments on Cp// Technometrics. 1973. Vol. 15* P. 661-678.

Akaike H. A new look at the statistical model identification // IEEE Trans. Automat. Contr. 1974. Vol. 19, N 6. P. 716-723.

Орлов А,И. Оценка размерности модели в регрессии// Алгоритмическое и программное обеспечение прикладного статистического анализа. М.: Наука, 1980. С. 92- 99.

Woodroof М. On model selection and the arcsin laws// Ann. Statist. 1982. Vol/10, N4.P. 1182-1194.

Shibata R. Appro xinating efficiency of a selection procedure for the number of regression variables// Biometrika. 1984. Vol. 10. P. 43-49.

Stone CJ. Admissible selection of an accurate and parsimonious normal linear mode regression model// Ann. Statist. 1981. Vol. 9. N 3. P. 475-485.

УЖ 616.12-008.318:519.25

АНАЛИЗ СТАТИСТИЧЕСКИХ ХАРАКТЕРИСТИК ПАРАМЕТРОВ ЭКГ В ЗАДАЧАХ АВТОМАТИЗИРОВАННОЙ ДИАГНОСТИКИ СЕРДЕЧНЫХ АРИТМИЙ

Т.А. РАКЧЕЕВА, П.М. РАЕВСКИЙ

Автоматизированная диагностика нарушений ритма сердца — важный компонент систем кардиомониторинга, а также систем предварительной диагностики сердечных заболеваний — скрининговых систем [1-3], Первая из них ставит своей задачей диагностику небольшого числа потенциально опасных для жизни аритмий, вторая — обнаружение факта нарушения ритма без детальной его характеристики, В такой постановке задачи точность этих систем признается достаточной для практических целей, хотя и нуждается в дальнейшем повышении [3,4], Что же касается детальной, так сказать ’’академической”, диагностики аритмий с помощью вычислительной техники, то она, несмотря на усилия различных групп исследователей, остается неудовлетворительной. Как указано в [5], не удается достигнуть и 30% правильного диагноза. Причина этого лежит, на наш взгляд, в отсутствии адекватной классификации диагностических категорий — необходимого условия для применения любого алгоритма распознавания. В этом плане патология сердечного ритма представляется едва ли не самой сложной и запутанной областью клинической диагностики. Несмотря на то что предложено множество классификаций аритмий, в том числе и рекомендованных к применению после обсуждения на представительных совещаниях кардиологов [6, 7], они мало используются в клинике. Отчасти это обусловлено громоздкостью классификаций, неоднозначностью их исходных принципов, а отчасти отсутствием достоверных количественных данных о параметрах ЭКГ при различных диагностических категориях аритмий.

Цель настоящей работы — проанализировать, насколько распределение параметров выбранного массива электрокардиограмм со сложными и комбинированными нарушениями ритма сердца соответствует общепринятым категориям их классификации, иначе говоря, для различных принципов классификации патологии сердечного ритма проверить возможность статистического разделения конкретных диагностических единиц, а тем 6. Зак. 55181

самым и создать предпосылки для их алгоритмической диагностики. Необходимость такого предварительного изучения материала диктуется, с одной стороны, отсутствием в литературе данных подобного рода, а с другой — утвердившимся подходом к разработке алгоритмов распознавания аритмий (на наш взгляд, ограниченным) исходя из качественных визуальноклинических критериев анализа кривой ЭКГ. Примером этого направления могут служить алгоритмы, описанные в [8], и ряд других систем автоматизированной диагностики аритмий [9-11]. Эти системы, как показала их проверка в условиях клиники [12], пока дают неудовлетворительные результаты, особенно при диагностике сложных нарушений ритма сердца.

Материал и методы исследования. Материалом работы служили кривые ЭКГ, опубликованные в [13]. По каждой кривой вручную считывалась временная координата (от произвольной нулевой точки у левого края записи) начала, вершины и конца каждого зубца Р и комплекса QRS. Отмечалась также амплитуда зубцов с соответствующим знаком (”+” при направленности зубца вверх, ”—” — вниз). Всего было обработано ИЗ кривых с общим числом циклов 859. Диагностическая интерпретация каждого цикла и кривой в целом основывалась преимущественно на комментариях авторов и, частично, на самостоятельном анализе. Программы обработки данных включали в себя определение длительности зубцов и интервалов (Р, R, PR, РР, RP и RR), вычисление первой разности между этими параметрами в двух последовательных циклах, а также подсчет средних и дисперсий этих показателей по группам электрокардиограмм и отдельных циклов. Общее представление о структуре материала обработанных кривых дает табл. 1, из которой видно, что итоговое количество кривых значительно превышает их фактическое число, что свидетельствует о перекрывании категорий классификации. Из-за наличия в большинстве случаев комбинированных аритмий никакая, сколько-нибудь разумного объема классификация не может охватить всего разнообразия клинически значимой патологии нарушений ритма. В этом объективная трудность и анализа статистики, и алгоритмической диагностики данной группы заболеваний, преодолеть которую, возможно, удастся лишь с созданием исчерпывающей электрофизиологической модели нормы и патологии распространения сердечного импульса.

Результаты исследования и их обсуждение. Статистические характеристики массива данных отражены в табл. 2—5. Структура и компоновка материала в таблицах, а также группирование электрокардиограмм проводились исходя из трех (отчасти уже упоминавшихся) актуальных и для клиники, и для вычислительной диагностики задач: выявление экстрасистолии, что остается основной проблемой кардиомониторинга и скрининга заболеваний сердца;" дифференциальная диагностика сердечных блоков, важная для тактики медикаментозной терапии больных с аритмиями [14]; установление точного диагноза нарушения ритма. Эта последняя и наиболее трудная проблема может, в свою очередь, быть представлена как задача определения источника и пути распространения сердечного импульса (соответственно с разделением на предсердный и желудочковый компоненты).

В табл. 2—5 приведены средние значения среднеквадратичной ошибки т1, выраженной в % от соответствующего среднего М, некоторых параметров электрокардиограммы в группах нарушений ритма, объединенных 82

Таблица 1. Общее число ЭКГ с нарушениями ритма сердца

Группы диагностических категорий нарушений ритма сердца

Количество кривых

Синусовый ритм без блоков и ускоренного проведения

8

Синдром WPW и блокады сердца

39

Эктопический источник сердечного автоматизма

34

Миграция эктопического источника автоматизма

10

Экстрасистолия на фоне синусового или других ритмов

39

Выскальзывающие импульсы

16

Патологические формы предсердной активности - трепетание и

3

мерцание

Смена ритмов из разных источников

18

Реципрокные формы автоматизма сердца

10

Ретроградное проведение и неполный ретроградный блок

23

Итого

200

по признаку наличия или отсутствия экстрасистолии. Из табл. 2 видно, что экстрасистолия в целом сопровождается значительно большим разбросом параметров ЭКГ, чем ритмы (в том числе и аномальные) без экстрасистол. В частности, средняя ошибка длины RR, простого для автоматического измерения и клинически наиболее важного параметра электрокардиограммы, в первой группе не превышает 5% от средней его величины и только для мигрирующих ритмов оказывается несколько большей этого порога. При экстрасистол™ mRR во всех вариантах данной патолог™ больше 10% от среднего значения. Таким образом, оценка дисперс™ (или эквивалентного ей показателя /л) по небольшому числу (5—8) циклов ЭКГ может с определенностью указывать на наличие экстрасистолических ударов. При эктопических ритмах без экстрасистол™ характерный признак — нестабильность того компонента ЭКГ, который связан с источником патологического импульса. Так, при предсердной эктошш наибольший разброс дает амплитуда зубца Р при относительной стабильности других параметров. Для атриовентрикулярных ритмов ключевые признаки — дисперсия (/и) интервалов PR и RP, для желудочковых - амплитуды R и интервала РР. Последнее объясняется наличием при этих ритмах атриовентрикулярной диссоциа- щш и наложением зубца Р на комплекс QRS, что практически невозможно зафиксировать на ЭКГ. В итоге имеет место как бы выпадение Р с увеличе- нием абсолютной величины и разброса интервала РР.

Следующим (после анализа кривой ”в целом”) этапом диагностики экстрасистол™ является оценка параметров, ’’привязанных” к отдельным зубцам. Клиническая диагностика данной патолог™ [16] фактически начинается именно с этого этапа, т.е. выявления аномального импульса, определения (по морфологическим признакам зубца) его источшка и, далее (по интервалам РР и RR*), решения вопроса о характере аномальной активности, т.е. представляет ли она основной ритм, преждевреметаое сокращение (экстрасистолу) или же компенсаторный ритм в ответ на

Т а б л и ц а 2. Среднеквадратичная ошибка параметров ЭКГ при экстрасистолии, в норме и эктопических ритмах без экстрасистол.

Виды нарушений ритма

Число ЭКГ

Параметры ЭКГ

аР

PR

Синусовый ритм без блоков и ускоренного

" 8

0,89

3

проведения

Экстрасистолия отсутствует

Эктопические ритмы без экстрасистолии и25

10,96

12,41

миграции■

предсердный й нижнепредсердный ритмыЛ

атриовентрикулярный

7

19,22

4,31

12

8,86

17,83

желудочковый

6

5,54

11,04

Миграция эктопического источника

9

78,01

7,09

Группа в целом

42

23,37

9,48

'Экстрасистолия имеется

Экстрасистолия на фоне синусового ритма30

79,13

7,95

без выскальзывающих импульсов

22

65,15

5,54

с выскальзывающими импульсами

8

117,57

14,57

Экстрасистолия на фоне других аритмий

8

72,37

15,61

Группа в целом

38

77,71

9,56

Примечание. аР, aR — амплитуды зубцов Р и R

соответственно.

Таблица 3. Различия* зубцов и интервалов ЭКГ от средней по данной кривой в зависимости от характера электрической активности предсердий и желудочков

Характер электрической актив

Число

ДаР(ДаР)

ДР (ДР)

ности

циклов

М т

М т

Зубец Р

Экстраси столический

20

-1,02 ± 0,16

-0,15 ± 0,05

Выскальзывающий

8

+1,35 ± 1,03

-0,06 ± 0,07

’’Ретроградный” ЛК или желудоч

19

-2,66 ± 1,78

-0,18 ± 0,06

ковой э/с

’’Ретроградный” от выскальзы

10

-1,5 ±0,74

-0,17 ± 0,05

вающих импульсов

Суправентрикулярная экстра-

Зубец R 34

+0,06 ± 0,05

0,00 ± 0,04

систола

Желудочковая экстрасистола

32

+0,29 ± 0,08

+0,37 ± 0,05

Выскальзывающий суправен

25

-0,61 ± 0,56

-0,02 ± 0,04

трикулярный импульс Желудочковый выскальзываю-

4

-0,81 ± 0,23 .

' +0,25 ± 0,14

щий импульс

* Различия, обозначаемые в таблице Д, даны в долях единицы со знаком. Например, число —0,31 означает, что предшествующий предсердной экстрасистоле интервал РР в среднем (по 20 циклам) короче среднего в соответствующих ЭКГ на 31 ± 2%;

RP|

РР

aR

QRS

RR

1,47

1,16

2,25

3,55

1,17

Экстрасистолия отсутствует

10,43

10,21

5,57

4,20

2,06

7,54

7,23

3,12

4,35

3,20

14,30

9,70

7,08

3,75

1,65

6,50

18,13

5,39

4,94

1,50

8,94

5,24

37,48

3,29

5,93

8,47

7,41

11,79

3,88

2,71

Экстрасистолия имеется

19,58

18,71

16,49

9,54

15,51

17,92

16,97

16,35

9,47

14,38

24,15

23,51

16,89

9,76

18,65

19,02

15,69

26,08

7,26

12,38

19,46

18,108

18,51

9,07

14,86

APR М т

ARP М т

АРР’ (ARR1^ М т

АРР" (ARR" ) Мт

-0,1 ±0,06

Зубе

-0,38 ± 0,03

ц Р.

-0,31 ± 0,02

+0,23 ± 0,05

•-0,05 ± 0,07

+0,4 ± 0,25

+0,06 ± 0,16

+0,02 ± 0,09

+0,3 ±0,19

-0,4 ± 0,05

-0,13 ± 0,06

+0,14± 0,05

+1,48 ± 0,15

-0,66 ± 0,08

+0,31 ± 0,09

-0,2 ±0,1

-0,1 ±0,04

Зубец R +0,17 t 0,07-0,36 ± 0,02

+0,28 ± 0,05

-0,28 ± 0,08

-0,18 ± 0,07

-0,28 ± 0,03

+0,13 ± 0,08

+0,33 ± 0,18

-0,29 ± 0,11

+0,23 ± 0,07

+0,03 ± 0,06

+0,39 ± 0,06

+0,36 ± 0,1

+Д37 ± 0,01

+0,11 ±0,18

ДРР'(ДЯК*), £ьТРп ^ARR" ) — означают указанное различие для предшествующего и последующего интервалов соответственно.

Т а б л и ц а 4. Абсолютные значения и среднеквадратичная ошибка средней параметров ЭКГ при патологии проведения импульса

Формы патологии проведения

Число ЭКГ

Параметры ЭКГ

Р

М,с

т, (%отМ)

Синдром WPW40,0745,5

Сино-атриальный блок без выскальзываю-40,094,33

щих импульсов

Сино-атриальный блок с выскальзыва-40,0866,35

нием

Атрио-вентрикулярный блок П степени70,0945,13

Синдром слабости синусового узла60,08611,01

Межпредсердный блок30,1297,27

торможение оснЬвного. Данные по отдельным импульсам, выбранным из всего массива анализируемых кривых, сведены в табл. 3. Как видно из этой таблицы, экстрасистолические импульсы имеют ряд особенностей, отличающих их от нормы и выскальзывающих импульсов. Общим признаком любого вида экстрасистолии является в среднем более короткий предшествующий и длинный последующий интервал РР или RR. Этот признак отражает патогенез данного нарушения ритма, заключающийся в преждевременном возбуждении аномального источника импульса и последующей компенсаторной паузы, обусловленной блокадой синусового узла. Для выскальзывающих импульсов, напротив, более характерно удлинение предшествующего интервала. Это наблюдение подтверждает физиологическую трактовку феномена ’’выскальзывания” как механизма компенсации со стороны сердца в ответ на асистолию, возникшую по той или иной причине [17]. Характерно, что амплитуда R из суправентрикулярных источников и при экстрасистолии и при выскальзывании достоверно не отличается от средней по ЭКГ и, напротив, различия достоверны (Р< 0,01) при желудочковых импульсах (см. табл. 3). Здесь, таким образом, выступают на первый план признаки, характерные для анатомической локализации источника сердечной активности. Длительность предсердного комплекса при экстрасистолиях и ретроградном возбуждении предсердий оказалась меньше, нежели соответствующая средняя по ЭКГ. Насколько нам известно, эта особенность не была отмечена в литературе. Причина ее, по-видимому, лежит в одновременности распространения импульса по обоим предсердиям при экстрасистолии и возбуждении по ретроградному пути, тогда как в норме предсердия возбуждаются последовательно — сначала правое, затем левое. Длительность QRS при желудочковых экстрасистолах и выскальзывающих импульсах значительно больше средней по ЭКГ (см. табл. 3) — хорошо известный факт, обусловленный медленным распространением возбуждения по миокарду сравнительно с проводящей системой сердца. Этот параметр повсеместно используется в клинической практике для дифференциации суправентрикулярных и идиовентрикулярных ритмов [14, 18]. В системах автоматической диагностики аритмий ему также придается важ-

PR

РР

RR

М»с

т, (%отМ)

М,с

т, (%отМ)

М,с

т, (%о?М)

0,1034,580,751,470,7471,39

0,14351,24314,511,2514,22

0,40433,011,38223,421,1246,35

0,33917,140,94612,021,10113,95

0,1811,751,34815,51,25512,61

0,1924,470,7453,90,7421,41

нал роль [8, 7]. В целом, как показывают наши данные, экстрасистолия по ряду признаков существенно отличается от остальных импульсов ЭКГ. Они могут быть использованы и для автоматической диагностики самого факта экстрасистолии, и для определения ее источника.

Аномалии проведения импульсов представляют вторую (после нарушений автоматизма) большую группу сердечных аритмий. В настоящем изложении рассмотрена лишь небольшая часть этой разнообразной (и по нозологическим формам, и по сочетанию с другими нарушениями ритма) патологии. Данные по интервалам ЭКГ при ускорении проведения импульса (синдром WPW) и некоторых видах сердечных блоков представлены в табл. 4. Из таблицы видно, что, несмотря на ограниченное число наблюдений, основные закономерности, присущие патологии проведения импульса, выявляются достаточно четко. Наиболее важный дифференциальнодиагностический признак блокад и ускоренного проведения — длина интервала PR. Этот параметр меньше нормы при синдроме WPW и значительно увеличен при атриовентрикулярном блоке. Патология синусового узла и сино-атриальной зоны, как известно, не сопровождается изменениями интервала PR, [14, 16], что также подтверждает и изученная нами выборка (см. табл. 4). Характерная клиническая и электрокардиографическая особенность сино-атриальных блоков и синдрома слабости синусового узла, отличающая их от атриовентрикулярной блокады, — одновременное выпадение и предсердного и желудочкового комплексов. При AV блоках, напротив, выпадает только желудочковое сокращение. Сопоставление средних по интервалам РР и RR, а также их дисперсий дает возможность уловить этот признак при обработке кривой ”в целом”, не прибегая к анализу отдельных зубцов и интервалов. Так, из табл. 4видно, что в первом случае (патология синусового узла и сино-атриальной зоны) имеет место приблизительное равенство средних и среднеквадратичных ошибок по интервалам РР и RR* во втором случае (А К блок) интервал РР в среднем короче RR, а разброс его меньше. Наличие выскальзывающих импульсов (компенсаторная реакция нижележащих центров автоматизма в ответ на блокаду синусового узла) путает картину диагностики по кривой ”в целом”, затруд-

^мГ% отМ)<3^мГ% отМ)<33,7-73,7-7567-5,53567-5,536,47 -77,56,47 -77,5«5,4«5,4552 22 2IIIIIIS8SSIIIIIIS8SS£инг/с&0ый ритм без блоков£инг/с&0ый ритм без блоков■ Jxmunuvecxue ритмы■ Jxmunuvecxue ритмы44

^мГ% отМ)<3

^мГ% отМ)<3

3,7-7

3,7-7

567-5,53

567-5,53

6,47 -77,5

6,47 -77,5

«5,4

«5,4

5

5

2 2

2 2

IIIIIIS8SS

IIIIIIS8SS

£инг/с&0ый ритм без блоков

£инг/с&0ый ритм без блоков

■ Jxmunuvecxue ритмы

■ Jxmunuvecxue ритмы

4

4

Распределение основных групп аритмий по значениям средней и среднеквадратичной ошибки интервала RR

Т а б л и ц а 5. Характеристики отдельных импульсов Р и QRS в зависимости от источника электрической активности

Источники электрической активности

Число ком- плексов

P(QRS)

М, с

т, с

Зубец Р

Синусовый

399

0,085

0,001

Предсердный

102

0,092

0,006

Нижнепредсердный

53

0,075

0,002

Ретроградный

86

0,062

0,002

Комплекс QRS

Синусовый

332

0,08

0,002

Предсердный

123

0,076

0,002

Нижнепредсердный

50

0,081

0,003

Атриовентрикулярный

139

0,086

0,002

Желудочковый

136

0,138

0,002

** Включая случаи блока и атриовентрикулярной диссоциации.

При расположении зубца Р после R интервал PR брали с отрицательным знаком. (Данные в скобках — при наличии ретроградного зубца Р).

.^—:

няя дифференциацию двух указанных видов блоков. Здесь, очевидно, необходим анализ дополнительных признаков.

Общая картина распределения основных диагностических групп аритмий — эктопических ритмов, сердечных блоков и экстрасистолий, — по двум критериям оценки кривой ”в среднем” - длине интервала RR и его среднеквадратичной ошибки — отражена на рисунке, из которого видно, что различные формы сердечных блоков располагаются преимущественно в правой верхней зоне диаграммы, экстрасистолии — в средней, а эктопические ритмы — большей частью в левой нижней области. Последнее обусловлено высокой частотой и малой дисперсией, в среднем характерной для этих видов аритмии. Таким образом, по оценке только двух самых простых для автоматического анализа параметров кривой — среднего и его среднеквадратичной ошибки — можно провести первоначальное разбиение на основные диагностические категории нарушений ритма.

Окончательный этап диагностики аритмий — определение источника и пути распространения предсердного и желудочкового комплексов ЭКГ — наиболее труден и лишь в малой степени поддается формализации на основе анализа статистических характеристик. К тому же при использовании в качестве первичных признаков только амплитуды и длительности комплексов ЭКГ теряются важные особенности их морфологии, на которых в значительной мере и строится клиническая диагностика аритмий. Тем не менее при рассмотрении статистических характеристик импульса даже по таким ’’грубым” параметрам, как амплитуда и длительность, выявляются определенные различия источников его возникновения, которые можно использовать для автоматической диагностики. Соответствующие данные представлены в табл. 5, из которой видно, что дифференциально-диагностичес-

aP^aR)

PR

М,мм

т, мм

М,с

т, с

Зубец Р

1,15

0,04

0,156(0,270)*

0,003(0,016)

1,84

0,15

0,173

0,012

-1,35

0,1

0,141

0,009

-1,02

0,1

-0,139**

0,008

Комплекс QRS

6,74

0,38

0,156

0,003

5,76

0,7

0,17

0,009

11,09

0,61

0,138

0,008

4,92

0,85

0,209 (-0,129)

0,032(0,014)

5,08

1,07

0,507 (-0,171)

0,04(0,067)

ким признаком синусового и предсердного ритмов, отличающим их от нижнепредсердного и атриовентрикулярного, является отрицательная амплитуда зубца Р (различия средних достоверны между первыми двумя и третьей, четвертой группами). Идиовентрикулярные ритмы дифференцируются от импульсов из вышележащих центров атоматизма по длительности зубца R. Интервал PR достоверно короче при нижнепредсердных ритмах и становится отрицательным (RP) при ретроградном Р, индуцированным атриовентрикулярными и желудочковыми импульсами. Все эти признаки известны в клинике и могут быть использованы и для автоматической диагностики аритмий.

Подытоживая данные статистической обработки исходного массива электрокардиограмм, можно видеть, что некоторые признаки, выбранные на основе клинических соображений, обнаруживают существенные различия среди классифицируемых групп аритмий. Это вселяет определенную уверенность в возможности и вычислительной диагностики, тем более что электрокардиограммы, взятые нами в качестве объекта распознавания, представляют иллюстрацию наиболее сложных форм нарушений сердечного ритма.

ЛИТЕРАТУРА

\. Hulling J. Application and evaluation of automated arrhythmia monitoring in coronary care unit // Acta med. scand. Suppl. 630,1970. 90 p.

Pedersen A. Automatic detection of cardiac arrhythmias in long-term patient monitoring // Patient monitoring. Baltimore: Williams, Wilkins. 1970. P. 96-105.

Miyahara H. et al. Arrhythmia diagnosis by IBM electrocardiogram analysis program // J. Electrocardidl. 1980. Vol. 13, N 1. P. 17-24.

Nygards M.E. Accuracy of arrhythmia alarms from a computer-based arrhythmia monitoring system // Acta med. scand. 1978. Vol. 203, N 2. P. 153-159.

Валужис КЛеК., ВайнорасА. Л., ЖюжнисЖ.Е. Алгоритм анализа нарушений ритма и проводимости сердца // Теория и практика автоматизации в кардиологии. Каунас, 1980. С. 17-21.

Classification of cardiac arrhythmias and conduction disturbances // Amer. Heart J. 1979. Vol. 98, N 2. P. 263-267.

De Medina E.O.R. и др. Классификация нарушений ритма сердца и проводимости: (Сообщ. рабочей группы) [[ Кардиология. 1982. Т. 22 (12). С. 86-89.

Bonner H.W. et al. Computer of electrocardiogram: New program for diagnosis of cardiac arrhythmias // Comp. Biomed. Res. 1972. Vol. 5, N 4. P. 6 29-654.

Whiteman ER., Caceres CA. Automation of electrocardiographic diagnosis // JAMA. 1967. Vol. 200, Nil. P. 93 2-93 8.

Pordy L. Computer in the identification of cardiac arrhythmias // Geriatrics. 1971. Vol. 26, N 2. P. 162-168.

Oliwer H. Computer diagnosis of cardiac arrhythmias // Pordy L. Computer electrocardiography. N.Y., 197 7. P. 341-369.

Meyer J. et al. Evaluation of current system for computer analysis of the electrocardiogram // Ibid. P. 295-317.

Ky таковский M.C., Журавлева НБ. Аритмии и блокады сердца // Атлас электрокардиограмм. Л.: Медицина, 1983. 340 с.

Чазов Е.И., Боголюбов В.М. Нарушения ритма сердца. М.: Медицина, 1972. 228 с.

Фишер Р. Статистические методы для исследователей. М.: Госстатиздат. 1958. 267 с.

Arbeit S. W. Differential diagnosis of cardiac arrhythmias / 2-nd ed. Sidney, 1977. 180 p.

Hurst W. The heart. Part 1. Physiology of the heart. Philadelphia, 1982.1582 p.

Chung E.K. Phinciples of cardiac arrhythmias. Baltimore, 1977. 420 p.

УЖ 616.12-008.318:519.25

АЛГОРИТМИЧЕСКАЯ КЛАССИФИКАЦИЯ ' НАРУШЕНИЙ РИТМА СЕРДЦА

ПО СТАТИСТИЧЕСКИМ КРИТЕРИЯМ

П.М. РАЕВСКИЙ, Т.А. РАКЧЕЕВА

Основным этапом автоматизированной обработки электрокардиосигналов (после анализа исходных параметров зубцов и интервалов кривой) является собственно диагностика патологии сердца в ее отражении на кривой ЭКГ. Обоснования и постановка задачи алгоритмической диагностики применительно к нарушениям ритма приведены в статье [1 ].

Рассмотрим результаты распознавания группы аритмий по признаку основного патогенетического механизма — наличию смены ритма, блока, экстрасистолии, а также числу источников предсердного и желудочкового комплексов и связи между ними. В качестве чисто гипотетического эксперимента проводилась и попытка алгоритмизации тактики врача при назначении 3-блокаторов и наперстянки - двух основных видов медикаментозной терапии при аритмиях. В отличие от первой задачи, где диагностические единицы в основном толкуются однозначно, при определении показаний и противопоказаний к терапии 3-блокаторами и наперстянкой точные клинические критерии отсутствуют, и в данном случае речь идет об алгоритмической имитации действий врача, а не об установлении диагноза.

Характерной особенностью аритмий как объекта клинической диагностики является жесткая взаимообусловленность анализа первичных, качественных признаков кривой и окончательного диагноза. Наиболее удачные попытки моделировать на вычислительной машине распознавание аритмий основываются именно на этом факте, и в качестве алгоритмических средств используют сложные детерминистские зависимости в форме разветвленных ’’логических деревьев”. (Таковы, в частности, опубликованные программы [2-5]).’’Статистическое” направление в машинной ЭКГ диагностике [6] в распознавании аритмий не получило применения, поскольку даже сама формулировка диагноза этой патологии целиком основана на детерминистских критериях индивидуальных зубцов, и интервалов кривой. Мы полагаем, однако, что статистические характеристики кривой ”в целом” могут быть использованы на предварительном этапе диагностики аритмий, в частности таких, как наличие или отсутствие блока, экстрасистолии и тщ. Не являясь диагнозами в строгом, ’’академическом” смысле, эти категории вполне достаточны для целей скрининга, а в большинстве случаев и для тактики лечения. ’’Синтез” из. них диагноза аритмии в его общепринятой в клинике формулировке является дальнейшей самостоятельной задачей и, в принципе, может быть реализован также путем ’’логических деревьев”, но значительно более простых, нежели те, которые используют на входе первичные параметры зубцов и интервалов кривой.

Материал и методы исследования. Материалом для ’’обучения” при алгоритмической диагностике служили кривые ЭКГ, опубликованные в

Параметр ЭКГ

Средние

Дисперсии

Зубец Р

Зубец R

Зубец Р

Зубец R

Амплитуда

1

7

13

19

Длительность

8

14

20

Интервал PR

3

9

15

21

Интервал RP

4

10

16

22

Предыдущий РР (RR)

5

11

17

23

Последующий РР (RR)

6

12

18

24

П р и м е ч а н ие. Параметры РР (RR) (предыдущий и последующий) при оценке по кривой ”в целом” идентичны.

[7], общим числом ИЗ кривых, В качестве первого этапа оценки эффективности алгоритмов распознавания контролем служила та же обучающая выборка из ИЗ кривых. В другом варианте вычислительной диагностики половина случайно отобранных кривых использовалась для обучения, остальные служили контролем. Диагностическая структура материала, методика считывания параметров кривой, формирование из них первичных признаков для алгоритмической диагностики описаны в предыдущей статье настоящего сборника [1]. Первичными признаками для классификации служили только статистические данные по кривой в целом - средние (М) и среднеквадратичные ошибки средней (пт) амплитуд и длительностей зубцов Р и R и длины интервалов P-R, R-P, Р-Р и R-R электрокардиограммы — всего 24 параметра. Перечень их представлен в табл. 1.

В качестве алгоритмов распознавания применялись метод множественной линейной регрессии [8, 9] и так называемая вероятностная логика, основанная на использовании в качестве решающего правила модифицированной формулы условных вероятностей Байесса [10]. Этот последний алгоритм, предложенный для целей медицинской диагностики [11], к настоящему времени широко апробирован в различных областях медицины [12—14 и др,]. Точность диагностики по вероятностной логике колеблется для разных групп заболеваний от 70 до 90%, что сопоставимо с результатами врачебной, диагностики соответствующих болезней. Математические обоснования использованных нами алгоритмических подходов, а также приложение их к конкретным задачам распознавания отражены в цитированных работах [9] (множественная линейная регрессия) и [10] (вероятностная логика).

По методу вероятностной логики алгоритмическая диагностика проводилась в двух вариантах - на ’’обучающей” и контрольной выборках. В последнем случае для ’’обучения” (т.е. составления вероятностной матрицы, или, как ее чаще называют, таблицы медицинской памяти [10]) была взята половина исходного массива кривых, другая половина служила контролем. Диагностическое решение принималось по максимальной вероятности соответствующего диагноза.

Результаты исследования и их обсуждение. Результаты классификации по методу множественной линейной регрессии и по вероятностной логике отражены в табл. 2. Как видно из таблицы. в целом лучшие результаты

получены при дифференциации группы общих диагностических категорий: смены ритма, блокады и экстрасистолии. Количество ошибок при классификации по методу множественной линейной регрессии и вероятностной логике на обучающей выборке оказалось довольно близким. В последнем случае сходные результаты получены как при разбиении выборки на две части — обучающую и контрольную, так и по диагностике только на обучающем массиве (см. табл. 2,1). Метод множественной линейной регрессии, помимо итогового числа классификации, отражающего степень близости, данного случая к каждому диагностическому вектору, выделяет так называемые признаки регрессии [9], т.е. признаки, вошедшие в окончательное уравнение регрессии с наибольшим весом. По вероятностной матрице (таблице медицинской памяти) также возможно выделение наиболее информативных признаков [10]. Из табл. 2 видно, что большинство дифференциально-диагностических параметров составляют дисперсии исходных интервалов ЭКГ (признаки 13-24), тогда как средние (признаки 1-12) имеют меньшее значение. Эта закономерность прослеживается и в остальных дифференцируемых группах. С точки зрения обычной врачебной логики постановки диагноза таких нарушений ритма, как блокады и экстрасистолии, увеличение дисперсии интервалов кривой является побочным следствием реальных диагностических признаков — выпадения отдельных импульсов Р и ORS, предваряемого постепенным увеличением интервала P-R (для блокады), или уменьшения предшествуюшего исследуемому импульсу и увеличения последующего интервалов R-R (для экстрасистолии) . Таким образом, использование сугубо косвенных дифференциальнодиагностических признаков в этой довольно трудной для распознавания группе нарушений ритма позволяет получить 84—88% правильной классификации, что можно считать оправданным на предварительном этапе формирования обобщенных групп диагнозов.

Классификация показаний и противопоказаний к лекарственной терапии (см. табл. 2, II) в отличие от предыдущей задачи моделирует логику решения врача при выборе метода лечения. Последнее, в свою очередь, является итогом неформальной оценки отдельных параметров ЭКГ (преимущественно изолированных зубцов и интервалов) и конкретного диагноза аритмии, в отношении которой принята та или иная лечебная тактика. Гипотетические эксперименты подобного рода некоторыми авторами развиты в особое направление медицинской вычислительной диагностики и классификации - так называемые диагностические игры [15]. Моделирование с помощью вычислительной машины врачебных решений, по мнению цитированных авторов, позволяет гораздо точнее выяснить реальные обоснования этих решений, определить наиболее значимые исходные симптомы, которые учитываются клиницистом в постановке диагноза и назначении лечения. Наши предварительные данные показывают, что в отношении назначения 0-блокаторов метод множественной линейной регрессии может довольно точно имитировать врачебное решение (92% правильной классификации) , тогда как при установлении противопоказаний к терапии наперстянкой результаты значительно хуже (34% ошибок). По методу вероятностной логики диагностика неудовлетворительна в обеих группах лекарственной терапии (см. табл. 2, II). Следует отметить, что и в клинике, особенно при лечении препаратами наперстянки, нет единых критериев для противопоказаний к терапии при нарушениях ритма сердца [16].93

Описание классифицируемых групп

Методы алгоритмической диагностики

о § у о.

8g £ х

65

* * И а е; С X

Г) О 5 5

Метод множественной линейной регрессии

4

S3

Классифицировано

Ииформа-

правильно

ошибочно

признаки

Классифик Смена ритмаНет49

на ЭКГ

Есть64

Блокада про-Нет89

ведения,1

импульса Есть24

Экстрасис-Нет71

толия

Есть'42

Итого339

Классификация

0-блокаторы Противо- 40 показаны

Показаны 68 или не противопоказаны

ПрепаратыПротиво- 53

наперстянкипоказаны 2

Не проти-60

вопоказаны

Итого221

Классификация

Число источ-Р отсутствует 9

ников пред-1 источник

сердной актив-66

кости (зубец2 источни-

Р)ка и более38

Число источни-1 источник48

ков желудочковой актив-2 источника52

ности (комп-3 источника

neKcQRS)и более14

Связь зубцаВсеВотР56

Р и комп-Спонтан-

лекса QRSное воз-^41

никновение части R

ВсеRспон- 16 тайные

Итого339'

ация общих диагностических категорий нарушений ритма

040 (81,5)9 (18,5)

0,4513,19

20,23

154(84,4)10(15,6)

180(89,9)9(10,1)

1,0810,20

’13,14

220(83,3)4(16,7)

059(83,1)12(16,9)

23,11

13, 19

131 (75,7)11 (24,3)

284 (83,8)55 (16,2)

показаний и противопоказаний к некоторым видам лекарственной терапии нарушений ритма

037 (92,5)3 (7,5)

0,65ц,13

23,5

162(91,2)6(8,81)

039(73,6)14(26,4)

0,604,24

136(60)24(40)

174 (78,7)47 (21,3)

числа источников и характера связи зубца Р и комплекса QRS

08 (88,9)1 (11,1)

0,713,16

155(88,3)11(16,7)

1,525,14

234(89,5)4(10,5)

140(83,3)8(16,7)

1.616,19

235(68,6)16(31,4)

213,14

37(50)7(50)

144(78,4)12(21,6)

1,524,5

232(78)9(22)

28, 19

3 '9(56,3)7(43,7)

264 (78,9)75 (22,1)

Методы алгоритмической диагностики

Вероятностная логика

’’Обучающая” выборка

Контрольная выборка

Информа- тивные признаки

Классифицировано

У СП

Классифицировано

правильно

ошибочно

правильно

ошибочно

49

43

I.K

(87,8)

1ассификация общ 6 (12,2)

их диагнс

25

'стических категорий naj

22 (88,0)

>ушений ритма

3 (12)

64

60

(93,8)

4 (6,2)

32

27

(84,4)

5 (15,6)

23,17,13

16,19

89

81

(91)

8 (9)

43

40

(93)

3 (7)

24

18

(75)

6 (25)

12

10

(8.3,3)

2 (16,7)

11,3,5, 17 15,16

71

64

(90,1)

7 (9,6)

36

25

(69,4)

11 (30,6)

42

31

(73,8)

И (26,2)

21

20

(95,2)

1 (4,8)

23, 20,13

16,17

339

297

(87,6)

42 (12,4)

171

146

(85,4)

25 (14,6)

II. Классификация показаний и противопоказаний к некоторым видам лекарственной

40

30

(75)

терапии нарушений ритма

10 (25)2017 (85)

3 (15)

68

54

(79,4)

14 (20,6)

34

24

(70,6)

10 (29,4)

11,5,4

15,3

53

42

(79,2)

11 (20,8)

27

17

(63)

10 (37)

60

42

(70)

18 (30)

30

21

(70)

9 (30)

24,4

19, 20,5

221

168

(76)

53 (24)

111

79

(71,2)

32 (28,8)

9

1

III. Классификация числа источников и характера связи зубца Р (11,1)8 (88,9)51 (20)

и комплекса QRS

4 (80)

66

56

(84,8)

10 (15,2)

32

27

(84,4)

5 (15,6)

5,1,16

38

34

(89,5)

4' (10,5)

20

19

(95)

1 (5)

3,17

48

39

(81,3)

9 (18,7)

24

19

(79,2)

5 (20,8)

51

38

(70,6)

15 (29,4)

26

20

(76,9)

6 (23,1)

23,20,13

14

12

(85,7)

2 (14,3)

7

5

(71,4)

2 (28,6)

16,19

56

48

(83,3)

8 (16,7)

22

17

(60,7)

11 (39,3)

41

37

(90,2)

4 (9,8)

20

17

(85)

3 (15)

4,1,2

16

12

(75)

4 (25)

8

4

(50)

4 (50)

23,3

339

275

(81,1)

64 (18,9)

170

129

(75,9)

41 (24,1)

Диагностические категории

Число ЭКГ

Ошибки

совпадающие

несовпадающие

I

1” . .

Смена ритма (есть/

ИЗ

6 (5,3)*

13 (11,5)

4 (3,5)

нет)

Блокада проведения

ИЗ

4 (3,5)

9 (8)

10 (8,8)

импульса (есть/нет)

Экстрасистолия (есть

ИЗ

10 (8,8)

13 (11,5)

8 (7,1)

/нет)

Показания - противо-^

108

3 (2,8)

6 (5,5)

21 (19,4)

показания

к 0-блокаторам к препаратам

ИЗ

18 (15,9)

20 (17,7)

И (9,7)

наперстянки ‘

Число источников Р

ИЗ

6 (5,3)

10 (8,8)

16 (14,1)

(0-2)

” ” ORS (1-3)

ИЗ

12 (10,6)

19 (16,8)

14 (12,4)

Связь Р и QRS

ИЗ

6 (5,3)

22 (19,4

10 (8,8)

Итого

899

65 (7,2)

112 (12,4)

94 (10,4)

Примечание. I — метод множественной линейной регрессии; II — вероятностная логика (ошибки взяты только на обучающей выборке); *проценты даны от общего числа ЭКГ.

Для третьей из рассмотренных задач - определения числа источников предсердной и желудочковой активности (табл. 2) — использованные параметры кривой ”в целом” оказались менее ’’диагностичными”, чем при дифференциации общих групп нарушений ритма. Все же при классификации числа источников зубца Р в среднем получена удовлетворительная точность (86% по методу множественной линейной регрессии и 86—87% — по вероятностной логике (соответственно на обучающей и контрольной выборке)). Источники желудочковой активности и связь Ри ORS труднее поддаются классификации. Ошибки в этих последних группах составили соответственно 35 и 37% (метод множественной линейной регрессии) и 36-27 и 35—42% (вероятностная логика). Дифференциально-диагностические параметры в первой и второй группах — преимущественно дисперсии зубцов и интервалов, в третьей - значения средних (табл. 2, III).

Анализ ошибок алгоритмической диагностики, проведенный нами по каждой неправильно классифицированной кривой, показал, что основной причиной их является статистическая неоднородность исходного материала. Ошибочно отнесенные к альтернативной диагностической группе кривые по большинству исходных параметров и в самом деле ’’похожи” на эту группу, что обусловлено, очевидно, недостаточной диагностической информативностью параметров кривой ”в целом”. Данная категория ошибок оказалась сходной по обоим примененным алгоритмическим методам (табл. 3).

Однако, как показывают данные табл\ 3, большая часть ошибок не совпадала при классификации по методу Множественной линейной рег- 96

рессии и вероятностной логике. В принципе, это открывает возможность комбинирования различных алгоритмических подходов в принятии окончательного диагностического решения при дифференциации сердечных аритмий.

В ряде случаев, особенно при классификации показаний и противопоказаний к лекарственной терапии, само формирование диагностических категорий допускало неоднозначную трактовку, и, таким образом, ’’ошибочное” алгоритмическое решение могло оказаться более правильным, чем исходная врачебная интерпретация. Точная оценка доли подобных случаев весьма затруднительна, поскольку предполагает проведение независимых контрольных испытаний с участием нескольких врачей-специалистов, однако, по данным литературы, в группе сердечных аритмий она составляет не менее 10—15% всех случаев [17]. По нашим данным, спорная трактовка исходных диагностических категорий имела место по крайней мере в 18 ЭКГ в 1-й и 3-й группах (8%) и 20-25 ЭКГ (17,7%—22,1%) во 2-й группе показаний к лекарственной терапии. Здесь, таким образом, имеется еще один (помимо статистической неоднородности выборки) плохо контролируемый источник ошибок классификации.

В целом, рассматривая полученные результаты, надо иметь в виду, что задачи, сформулированные в настоящем разделе, являются начальным этапом детальной диагностики нарушений ритма, причем третья из них (определение числа источников сердечной активности) ближе всего подходит к ’’синтезу” окончательного диагноза, о котором говорилось выше, но как раз по ней не удается достигнуть удовлетворительной точности классификации. Очевидно, повышение точности диагностики аритмий, а также переход к поставновке полного диагноза в его общепринятой в клинике формулировке возможны с использованием разнообразных алгоритмических подходов, в том числе и имитирующих врачебную логику детерминистских и вероятностных методов.

ЛИТЕРАТУРА

Ракчеева ТЛ., Раевский П.М, Анализ статистических параметров ЭКГ в задачах классификации и автоматизированной диагностики нарушений ритма сердца // В наст. сб.

BonnerH.W. etal. Computer analysis of electrocardiogram. New program for diagnosis of cardiac arrhythmias // Comput. and Biomed. Res. 1973. Vol. 5, N 4. P. 629-654.

Pordy L. Computers in the identification of cardiac arrhythmias // Geriatrics. 1971. Vol. 26, N 2. P. 162-168.

Касерес Ц., Дрейфус Л. Вычислительные системы н автоматическая диагностика заболеваний сердца: Пер. с англ. М.: Мир, 1974.436 с.

Whiteman J.R., Caceres СА. Automation of electrocardiographic diagnosis // JAMA. 1967. Vol. 200, N 11. P. 93 2-93 8.

Willems J.L., Pipberger H.V. Arrhythmia detection by digital computer // Comput. and Biomed. Res. 1972. Vol. 5, N 2. P. 263-27 8.

Кушаковский M.C., Журавлева М.Б. Аритмии и блокады сердца // Атлас электрокардиограмм. Л.: Медицина, 1983. 340 с.

Трупов В.Г, Сравнение нескольких критериев остановки при построении решающего правила по ограниченной выборке // Математическая обработка методико-биологических данных. М.: Наука, 1976. С. 58-64.

Трунов В.Г. Оценка погрешности прогноза при выборе переменных в линейной регресии // Поиск зависимости и оценка погрешности. М.: Наука, 1985. С. 94-111.

Вишневский АЛ., Артоболевский И.И., Быховский МЛ. Основы решения задачи диагностики при помощи электронных* вычислительных машин // Машинная диагностика и информационный поиск в медицине. М.: Наука, 1969. С. 7-19.

Ledley R.S., Lusted L.B. Reasoning foundations of medical diagnosis // Science. 1959. Vol. 130, N 3366. P. 9- 21.

Warner J.M. Computer diagnosis of congenital heart diseases // JAMA. 1961. Vol. 171, N 4. P. 682-691.

Overall N.B., Williams H.C. Computer diagnosis of tyreoid diseases // Ann. Intern. Med. 1970.VoL75, N 3.P. 298 - 306.

Вишневский АЛ., Быховский МЛ., Костюченок Б.М., Мелик-Паишев А.Н. Диагностика основных ревматических пороков сердца с применением электронно- вычислительных машин // Машинная диагностика и информационный поиск в медицине. М.: Наука, 1969. С. 99-107.

Гельфанд И.М., Ратнер М.Я., Розенфельд М.И., Серов В.В. Проблема классификации гломерулонефрита. М.: АН СССР, Науч, совет по компл. пробл. ’’Кибернетика”. 1980. С. 15-20.

Сычев Н.М., Виноградов А.В. Хроническая недостаточность кровообращения. М.: Медицина, 1977; С. 71-105.

Meyer J. et al. Evaluation of current system for computer analysis of the electrocardiogram // Pordy L,Computer electrocardiography. N.Y., 1977. P. 295-317.

УДК 621.391.199:62-506.9

ИДЕНТИФИКАЦИЯ ГРАФИЧЕСКИХ ОБЪЕКТОВ НА ОСНОВЕ ПРЕОБРАЗОВАНИЯ К ПРОСТРАНСТВУ ПАРАМЕТРОВ

Г.Г. ВАЙНШТЕЙН, Е.А. МОСКВИНА, Д.А. БЕЛОВ

Рассмотрим новые возможности метода, известного как ’’неточечное преобразование” или ’’преобразование Хока” (Hough Thansformation). Этот метод известен более 20 лет, но особенно интенсивно он стал исследоваться последнее время, что объясняется, по-ввдимому, ростом размеров памяти у вычислительных машин и соответствующим увеличением вычислительных возможностей.Метод позволяет сопоставлять графические изображения и может быть основой распознающих алгоритмов, построенных на геометрическом сравнении входных объектов с эталонами.

Пусть графический эталон задан в виде Цх, р) = 0, где х = (хь х2) - вектор координат; р = (рь р^, ... РпЛ — вектор параметров, управляющих допустимыми изменениями эталона (например, сдвигами). Входной графический объект задан в тех же координатах и имеет вид S (х) = 0.

Требуется узнать, существует ли такое значение вектора параметров Ро, при котором эталон Т может служить достаточно хорошим приближением входного объекта S. Классический путь решения этой задачи сводится к заданию метрики, т.е. к построению некоторого функционала Д значение которого может служить мерой различия между Т и S. Функционал минимизируется по вектору параметров и сравнивается с некоторым порогом е.

Если условиеЕсли условие^^(Т7, S) < е выполняется, ответ положительный. Иско

Если условие

Если условие

мым значением р0 является значение вектора параметров, при котором достигается минимум.7 ,

Однако реализация этого, казалось бы, простого подхода на практике часто оказывается чрезвычайно трудоемкой. Прежде всего это связано с размерностью вектора параметров и с необходимостью поиска минимума сложной функции в многомерном пространстве. Далее, может оказаться весьма трудоемкой и связанная с многомерным поиском сама операция оценки функционала D при заданных Т и S.

И, наконец, следует учитывать то, что в реальных задачах всегда имеется некоторая неопределенность в отношении входного объекта. Обычно он задан с ’’помехами”, которые заключаются либо в пропадании его частей, либо в появлении ’’лишних” элементов. Эти искажения могут существенно повлиять на точность оценки.

Так, например, в задачах машинного зрения (а именно Эти задачи нас в первую очередь интересуют) входной объект появляется в результате обработки исходного полутонового телевизионного изооражения с помощью оператора выделения контурных точек. Из-за шумов в телевизионном канале часть точек пропадает и появляются ложные ’’шумовые” точки. Шумы телевизионного .сигнала в принципе неустранимы — они связаны с квантовой природой света и тепловым движением электронов в проводниках. Поэтому любые методы распознавания телевизионных изображений должны обладать достаточной помехоустойчивостью. Кроме того, эти методы должны обеспечивать быструю обработку изображения — это необходимо практически во всех применениях машинного зрения. Описанным выше классическим путем в таких задачах трудно получить хорошие результаты.

Рассмотрим теперь вариант, основанный на преобразовании к пространству параметров. Пусть входной объект задан набором точек Xi,x2, ..., х„; причем S (х/) = 0, i = 1, 2, ..., и. Каждая входная точка X/ может быть подставлена в уравнение для эталона Т(х#, р) = 0.

Тем самым определяется область в пространстве параметров (pi, р2, ..., рт). Разным входным точкам соответствуют разные области. Точка их пересечения р0, если она существует, дает искомое значение вектора параметров.

Первоначально этот метод был предложен для задачи аппроксимации прямых [1]. Пусть, например, нам нужно найти апроксимацию набора входных точек (х/, у/) уравнением у = ах + Ь.

Подставляя эти точки в уравнение, получим набор прямых Ь = у^ - - ох, в пространстве (а, Ь). Если они пересекаются в одной точке, она и задает коэффициенты аппроксимирующего уравнения. Одновременно был предложен и практический метод определения точки пересечения. Он состоит в разбиении всего пространства параметров на ячейки-счетчики (аккумуляторы). В вычислительной машине они соответствуют ячейкам памяти и сначала заполняются нулями. При появлении каждой новой прямой в пространстве параметров (а в общем случае — произвольной области) единица добавляется во все аккумуляторы, через которые проходит эта прямая (область). По окончании всей процедуры ячейка, в которой накоплено максимальное число, соответствует искомому набору параметров. Накопленное число, разумеется, должно превосходить заранее заданный порог.

Преобразование Хока фактически переводит пространство входных точек в пространство параметров (аккумуляторов) так, что каждая входная точка ’’делает вклад” в определенное подмножество аккумуляторов. В результате на множестве аккумуляторов появляются локальные максимумы, которые и определяют искомые линии.

Этот метод обладает рядом полезных качеств. Прежде всего, он рассчитан на поточечное задание входного объекта, что как раз и имеет место в системах машинного зрения, построенных на обнаружении ^онтурных точек. Далее, нет необходимости знать все эти точки сразу. Достаточно знать хотя бы одну точку, чтобы можно было начинать расчет. Это означает,

Рис. 1. Соотношение для угловРис. 1. Соотношение для углов

Рис. 1. Соотношение для углов

Рис. 1. Соотношение для углов

что процесс сопоставления входного объекта с эталоном может идти параллельно с выделением краевых точек объекта. Наконец, иногда некоторая часть расчетов может быть сделана заранее, сразу после задания эталона. Так, например, может быть рассчитана форма области, создаваемой входной точкой в пространстве параметров. Тогда при появлении конкретных точек нужно будет только вносить необходимую коррекцию.

Работа [1] касалась прямых линий и ограничивалась двухградационными изображениями. В работе [2] использовались двухградационные изображения (полученные из реальных полутоновых) и исследовалась возможность выделения аналитических кривых. В этих работах и в некоторых других, однако, не учитывался тот факт, что из реального полутонового изображения можно получить, помимо координат краевой точки, дополнительную информацию в виде градиента в этой точке. Впервые такая информация была использована в работе [3] при анализе изображений, состоящих из отрезков прямых. Затем она применялась для выделения на рентгеновских снимках окружностей [4] и парабол [5]. Работа [6] посвящена выделению в изображении деталей эллипсов при помощи преобразования Хока. Следует сразу заметить, что при выделении окружностей, парабол и эллипсов задача сокращения перебора при варьировании параметров авторами решалась при помощи различных ограничений, которые следовали из характера решаемых задач. Расширен и круг применений метода. Хороший обзор дан в работе [7]. Метод исследовался и в отечественной литературе [8]. Оригинальный и перспективный подход можно найти в работах [9,10].

Некоторые соображения по использованию преобразования Хока для анализа изображений. Если учитывается градиент, то тем самым к уравнению прямой или эллипса добавляется еще одно условие. Для любой кривой на плоскости (рис. 1) справедливо

dy / тг\ — =tgT = tgL-—I, dx \ 2/

Число одновременно рассматриваемых краевых точек

Одна

Две

пкт"2

Объем В]

ычислений

пЧт-4

к"*-1

Объем памяти

кт~3

и тем самым производная dy/dx вычисляется по углу ф. В изображении градиент определяет касательную к краю и более яркую часть изображения. Последнее относится к ’’семантике” изображения и не имеет отношения к геометрии линий, которые требуется выделить. Для однозначности направление градиента в некоторой краевой точке определяется при помощи касательной к этой точке. Таким образом, для некоторой z-й краевой точки (х^, у^ с учетом направления градиента в этой точке записываются два уравнения:

Т<хь у,, р) = О,

Приведем некоторые самые общие соображения о сложности вычислений и объеме памяти, которые потребуются при реализации преобразований Хока. Предположим, что имеется всего л краевых точек, а каждый параметр (число которых л?) имеет к различных значений (все параметры одинаковы). Если одновременно рассматривать по одной или по две краевых точки, то потребуется варьировать соответственно m — 2 или m — 4 свободных параметров. По уравнению линии Т(х,, у/, р) = 0 вычисляется и затем квантуется еще один параметр, поэтому требуется хранить массив размером m — 1 или m — 3 (см. таблицу).

Например, для прямой без учета градиента сначала варьируется 6:

X/cos0 + yi sin# = р ,

после чего считается и затем квантуется р, в результате получается таблица размером кр X кд .

Для практических задач более важно время вычислений. Сравним процедуры, в которых одновременно рассматриваются одна или две краевые точки ик?п-2 U п2кт-А или к2 U л. Отсюда следует, что для обычных задач (для ’’экзотических” к2 < л) следует учитывать одновременно большее число краевых точек. В этом случае сложность вычислений такая же (^2 л) или значительно меньше (к2 > л), чем при рассмотрении одиночных краевых точек, к тому же память требуется существенно меньшая (в к2 раз). Разумеется, это лишь грубая оценка, которая не учитывает многое, например априорную информацию о кривых на изображении.

Важным моментом является также точность в определении параметров, которая зависит от разных причин, в частности от ошибок дискретизации,

точности варьирования параметров и др. Для более мелкой дискретизации увеличивается объем вычислений и приходится решать задачи объединения близких точек.

Выделение графических элементов на изображении. Рассмотрим модель системы, способной выделять на изображении прямые, окружности и эллипсы при помощи преобразований Хока и на основании этого производить распознавание объектов. Исходным является полутоновое дискретное изображение. Из него получают двухградационное векторное изображение, которое является фактически списком краевых точек, содержащих информацию о своих координатах и градиенте. После выделения отрезков прямых на изображении соответствующие краевые точки удаляются, а оставшиеся анализируются на способность принадлежать окружности или эллипсу (эллипсам)^ Разумеется, в одних случаях удается производить распознавание на основании только прямых, в других случаях частичное распознавание прямых формирует основу для успеха в дальнейшем анализе. *

Прямые. Уравнение прямой на плоскости

xcos0 + ysin0 = р

и выражение для производной

dу *л 1 я \

= -Ctg0 = tgl^г- — |

dx\2 /

дают вместе систему

T(xf,.yf,p,0) = O,

0 = If >

которая сводится к уравнению x,cosii +yz-sin^ = р.

Это вырожденный случай, поскольку краевая точка (х^уг) дает точно точку в пространстве (р, 3). Оказывается, что работать в пространстве параметров гораздо удобнее, чем в плоскости изображения. Например, краевые точки, принадлежащие к одной прямой, дают ярко выраженный кластер в пропространстве параметров, и тем самым эта прямая восстанавливается, несмотря на ’’зашумленность” исходного изображения. Однако следует учитывать и то, что более длинные отрезки дают более сильные максимумы, которые могут ’’подавлять” более слабые.

Окружности и эллипсы. Предлагаемый метод вычислений использует параметрическое представление этих кривых.

Параметрическое представление окружности, содержащее три параметра (х0, у о, О

х = х0 + rcos t,

у +^sinf

и выражение для производной

dp/я\

= — ctgr = tgl^ ——Г

dx\2/х

с учетом известного направления градиента дают систему

Xi = х0 + rcos^i,

У<=Уо +rsinw.

Имеем один свободный параметр, и поэтому точка (х/, у^ преобразовывается в пространстве параметров в прямую. Потребуются объемы вычислений и памяти соответственно порядка пк и к2. Предварительная информация о форме и размерах, в данном случае о радиусе, позволяет резко сократить вычислительные затраты, а краевые точки, относящиеся к этой окружности, вырождаются в пространстве параметров в точку (х0, у о). Если на основании анализа выделенных прямых линий на изображении можно предположить возможное местоположение окружности (считается, что узнается известный объект) на изображении объекта, то вычислительные затраты также резко сокращаются, поскольку в этом случае параметры х0 и Уо могут принимать не все возможные значения, а только из -некоторого небольшого интервала.

Большинство краевых точек являются ’’чужими” друг для друга, т.е. они относятся к разным линиям. В пространстве параметров ’’чужие” точки дают некоторый фон, на котором выделяются (если это возможно) ’’свои” пики. Как и всякий метод, преобразование Хока имеет свои недостатки. Один из них состоит в том, что короткие линии (отрезки прямых или части окружностей) сливаются в пространстве параметров с фоном. В этой ситуации выход один — ослабить фон, что и делается, когда удаляются из рассмотрения краевые точки, соответствующие узнанным линиям.

Заметим, что (при работе в пространстве параметров) число выделяемых окружностей, если о них ничего не известно, не оказывает влияния на вычислительные затраты.

Параметрическое представление эллипса (без учета поворота 6 ), содержащее четыре параметра (х0, у о, а» Ь),

х = х0 +ДСО8Г,

у=у0+^ыпг,

и выражение для производной

dyb(я\

— =ctgr = tg[lf- —I

dxа\2/

дают систему (с учетом поворота 0 )

(х/ — xo)cos0 + (у/ - yo)sin0 = tzcos(f — 0),

-(xf - xo)sin0 + tyi -y^co%6 = Z>sin(r - 0),

aty^bt^i

для одной краевой точки (X/, yt). Если отсутствует какая-либо априорная информация, то наличие трех свободных парметров приведет к сложной вычислительной задаче: требуется порядка пк3 вычислений и к* памяти. Рассмотрение одновременно пары краевых точек значительно сокращает вычислительные затраты» требуется соответственно п2к вычислений и к2 па-

мяти. Необходимо заметить, что к моменту выделения эллипсов в изображении число краевых точек и значительно уменьшилось по сравнению с первоначальным их числом, так как уже выделены возможные прямые и окружности и соответствующие им краевые точки вычеркнуты из общего списка.

Отметим еще раз высокую помехоустойчивость анализа линий в пространстве параметров как в отношении потери истинных частей линий, так и в отношении появления ложных частей линий. Фактически каждая краевая точка ’’голосует” за все те эллипсы, которые могут через нее проходить.

Дополнительная информация о характере объектов на изображении или ограничения, основанные на самых общих свойствах кривых (эллипсов), могут значительно упростить выделение. Например, если эллипс почти полный, то можне! относительно просто вычислить его центр (х0 ,у0), группируя вместе краевые точки, имеющие близкий градиент. После нахождения центра краевые точки, не относящиеся к эллипсу, легко отбрасываются, так как для йих не выполняется, например условие г? + г2 = const,' где г i и г2 — длины взаимно перпендикулярных векторов, проведенных из центра эллипса до краевых точек. Можно предложить и другие ограничения, упрощающйе задачу выделения кривых.

Для оценки параметров линий по максимумам в пространстве параметров можно применять методы кластерного анализа и метод наименьших квадратов.

Выделение произвольных плоских объектов. Как уже отмечалось, при практической реализации преобразования Хока требования к скорости вычислений и занимаемой памяти являются решающими. Были предложения использовать для вычислений параллельные ассоциативные процессоры. Если же иметь в виду применение обычных ЭВМ, то представляется разумным подход, предложенный в работах [9, 10]. Он состоит в том, чтобы использовать в качестве первичных элементов для сопоставления не сами краевые точки, а результаты предварительной аппроксимации контуров, например, прямыми и параболами. Аппроксимация может выполняться и методами, отличными от преобразования Хока, которые основаны на связности точек, принадлежащих одному контуру.

Представляется целесообразным пойти дальше и аппроксимировать сам эталонный объект. Произвольное контурное изображение может быть хорошо аппроксимировано отрезками прямых и дугами окружностей. Эти графические элементы пригодны для аппроксимации как эталонного, так и входного изображения.

Тогда анализ должен заключаться в попарном сопоставлении этих элементов. При определенных условиях можно выдвинуть гипотезу о том, что данный элемент входного изображения и данный элемент эталона соответствуют друг другу. Для этого они, во-первых, должны оба быть либо отрезками, либо дугами одинакового радиуса. Во-вторых, длина элемента входного изображения должна быть меньше длины элемента эталона. Это связано с тем, что при выделении и аппроксимации контуров концы линий обычно теряются. Кроме того, из-за помех контур может быть выделен не полностью или может разбиться на несколько частей.

Гипотеза о соответствии позволяет выполнять привязку эталона к входному изображению, т.е. найти геометрически место для координат центра

Р и с. 2. Сопоставление отрезков

ВС - входной объект; АС и BD — положения эталона; EF - годограф

Р и с. 3. Сопоставление дуг (обозначения те же, что и на рис. 2)

и угла поворота. В идеальном случае, при равенстве длин, это точка, в реальном случае — отрезок или дуга (рис. 2,3).В трехмерном пространстве параметров (х, у, 0) каждой гипотезе соответствует некоторый ’’годограф” (или ’’гипограмма” - по терминологии работы [10]). Точка пересечения годографов определяет искомый набор параметров. Найти эту точку пересечения можно уже описанным ранее способом при помощи массива аккумуляторов (ячеек-счетчиков). Однако возможен и другой путь, связанный с сильным уменьшением числа первичных элементов сопоставления, а следовательно, и числа годографов - засчет предварительной аппроксимации. Это дает возможность осуществить перебор всех пар годографов, найти все точки пересечения для этих пар, а затем подвергнуть найденное множество точек кластерному анализу. Центр наибольшего кластера должен определять нужные нам параметры.

Объем перебора в этой задаче можно сильно сократить. Большинство пар годографов не имеют точек пересечения, и это может быть обнаружено простыми тестами.

В качестве иллюстрации рассмотрим вариант алгоритма, построенного на анализе только прямолинейных отрезков как для эталона, так и для входного изображения. Дуги из рассмотрения исключаются. Такой вариант также имеет практическую ценность для технических приложений, поскольку контуры многих промышленных деталей содержат прямолинейные отрезки (за исключением, конечно, таких деталей, как втулки и шайбы).

Алгоритм состоит из трех этапов: формирование массива годографов; анализ их попарных пересечений; поиск кластеров для точек пересечения. Первый этап выполняется в соответствии с рис. 2. Для каждого годографа находятся координаты начальной и конечной точек и угол, соответствующий ориентации эталона при совмещении рассматриваемых отрезков эталона и входного объекта.

Второй этап заключается в переборе пар годографов и поиске пересечений. Пусть рассматриваемая пара характеризуется наборами чиселх^уь х2, у2, ^,и х3, уз, х4, у*, б^ соответственно. Над ними последовательно выполняются три теста:

сопоставление углов

|0i-02l<ei;

сопоставление координат min(xi,x2) <max(x3,x4), min(x3, x4) <max(xb x2), min(yi, У2) < max(y3, yA), min(y3, у*) < тахОь y2);

проверка параллельности

x2 -*i уг -У1

< е2

ХА - Х3 У а - Уз

Здесь под 6^ и е2 подразумеваются некоторые пороги. Если хотя бы одно из этих неравенств не выполняется, то пара бракуется. Большинство пар оказываются забракованными уже при первом тесте.

Если же пара удовлетворяет всем тестам, для нее находят точку пересечения, решая сйстему уравнений

х(у2 -Ух)~У(х2 -xt)=xv О2 -Ух)-Ух(х2 -Х1)

х(У4 - Уз)-у(хА -х3) = х3 (у4 - у3)-у3 (х4 - Хз);

Для повышения точности имеет смысл предварительно оценить ориентацию первого годографа. Если |у2 - У11 >1^2 - *d и отрезок ориентирован вертикально, координаты точки пересечения задаются выражениями

°/Уз -УхИх* -х3)-<х2 -Xi)(y4 -уз)

(Xt-x^iyo-yi) Х0=+ Xj«

Уз ~Ух

В противном случае ориентация горизонтальная и целесообразно использовать другие выражения:

_ (х3(у2 -Ух)-(Ух -УзХхз-х^Хх^-х^-ХзСу^-Уз)(х2 -х^

°(У2-У1)(хА-Хз)-(у4-уз)0сг-х1)

+Ух-+Ух-О2 -п)(*о -*1)

+Ух-

+Ух-

Уо= х2 -Х2

Далее проверяется, находится ли найденная точка на самих отрезках. Ее координаты должны удовлетворять неравенствам

Ух <Уо <Уг. Уз <Уо <У4

ИЛИ

XiCxq ^х2, х3 Схо Сх4

для первого и второго случаев соответственно.

Только точки, удовлетворяющие всем этим тестам, заносятся в память. Одновременно выполняется третий этап алгоритма — кластерный анализ. В памяти хранится массив, каждая строка\соторого соответствует отдельному кластеру и содержит координаты его центра (хс, ус)9 связанный с ним

угол ориентации эталона 0си число точек в данном кластере N. При появлении каждой новой точки (х0, Уо, 0) онапоочёредно сопоставляется со всеми строками массива. Если выполняются неравенства

1*0 -ХС\<€Х) (уо -Ус\<€у, 1^0 -0С\<€б>

где €Х) €у, €0 — пороги, точка вливается в данный кластер. При этом корректируются его параметры:

N' = N + 1, её = (во + 9CN)IN';

X 'с = (х0 + x^N", Ус = (уо +Ус№*.

Если подходящего кластера не нашлось, на основе данной точки создается новый кластер. По окончании этой процедуры отыскивается строка с максимальным N. Соответствующие ей координаты и угол задают положение и ориентацию эталона, совмещенного с объектом.

Описанный алгоритм представляет интерес в связи с его гибкостью, т.е. возможностью ’’настройки” путем выбора порогов. Это качество тесно связано с помехоустойчивостью. Действительно, существует еще один вид помех на телевизионном изображении - искажения геометрической формы растра. Они особенно велики для наиболее пока распространенных передающих камер с вакуумными трубками и электронной оптикой.При поиске пересечения с помощью массива аккумуляторов искажения формы растра могут привести к ” дроблению” максимума по многим ячейкам и его подавлению шумовым фоном. Для борьбы с этим явлением применяются различные виды сглаживания и фильтрации [7,10], что увеличивает объем вычислений. В данном же варианте метода сглаживание выполняется простым увеличением порогов.

Рассмотренный вариант алгоритма послужил основой для программы, которая была реализована на ЭВМ. Программа могла выполнять сопоставление входного объекта с тремя предварительно заданными эталонами. И объект, и эталоны были представлены списками отрезков. В ходе сопоставления программа оценивала сходство, параметры сдвига и поворота эталона при его совмещении с объектом. Такие данные вычислялись для всех эталонов, что позволяло оценивать помехоустойчивость распознавания. Эксперименты показали, что при правильном выборе порогов получаются матрицы сходства, близкие к диагональным. Вместе с тем выявились и некоторые недостатки алгоритма. В частности,он не рассчитан на ситуацию, когда какой-либо годограф вырождается в точку. Такие ситуации, вообще говоря, возможны, и поэтому алгоритм требует определенных усложнений.

ЛИТЕРАТУРА

Hough Р. Method and means for recognizing complex patterns // US Patent N 3069654, Dec. 18,1962.

DudaR., HartP. Use of the Hough Transformation to detect lines and curves in pictures // Communs. ACM, 1972. Vol. 15, N 1. P. 11-15.

O'Gorman F, Clowes M. Finding picture edges through collinearity of feature points // IEEE Trans. Comput. 1976. VoL C-25, N 3. P. 449-455.

Kimme C., Ballard D., Sklansky J. Finding circles by an array of accumulators // Communs ACM. 1975. VoL 18, N 1. P. 120-122.

S.WechslerH., Sklansky J. Automatic detection of ribs in chest radiographs // Pattern. Recogn. 1977. Vol. 9, N 1. P. 21-30.

Tsuji S.t Matsumoto F. Detection of ellipses by a modified Hough Transformation // IEEE Trans. Comput. 1978. Vol. C-27, N 5. P. 777-781.

Ballard D. Generalizing the Hough Transform to Detect arbitrary shapes // Pattern. Recogn. 1981. Vol. 13.N2.P. 111-122.

Горелик С.Л., Михелевич Е.Г., Пиннов B.A.,/Пиннов Л.А.. Обработка изображений при помощи неточечных преобразований // АиТ. 1979. № 2. С. 100-109.

Шульга В.И. Алгоритм поиска объектов на контурных изображениях//Распознавание образов и автоматизация проектирования робототехнических зрительных систем. Киев: ИК АН УССР, 1982. С. 12-24.

Шульга В.И. Алгоритм обнаружения, определения положения и ориентации плоских объектов произвольной формы. Препр. ИК АН УССР. № 84-41. Киев. 1984.30 с.

J

УДК519.711.3

ПЛАНИРОВАНИЕ ПЕРЕМЕЩЕНИЙ

МНОГОЗВЕННОЙ КИНЕМАТИЧЕСКОЙ ЦЕПИ КАК ПРОЦЕСС ПОИСКА ЭКСТРЕМУМА ФУНКЦИИ В ПРОСТРАНСТВЕ СОСТОЯНИЙ СИСТЕМЫ

Ю.И. КРЮКОВ

При автоматическом управлении сложными механическими системами, в частности манипуляционными роботами [1], применимы два основных подхода: все данные об управляемой системе и условиях ее работы (кинематические и динамические параметры, исходное и целевое состояния, возможные ограничения и тд.) вводятся в ЭВМ, которая рассчитывает траекторию и необходимые управляющие воздействия, а затем в соответствии с заданной таким образом программой срабатывают исполнительные механизмы; данные о состоянии системы и об окружающей обстановке постоянно поступают в управляющее устройство, которое осуществляет текущее планирование процесса. В обоих случаях в силу сложности точного решения системы дифференциальных уравнений, описывающих управление объектом, обеспечивается лишь приближенное выполнение намеченного движения [2, 3]. Преимущество второго подхода состоит в большей устойчивости процесса к различным отклонениям от первоначального плана, это же обстоятельство позволяет использовать упрощенные вычисления и оценки.

В данной работе подробно описан адаптивный алгоритм планирования пространственных перемещений манипулятора, упоминавшийся в работах [4, 5]; он сочетает относительную простоту с возможностью компенсации погрешностей, возникающих как за счет неточности приближенного планирования, так и за счет неточности реализации планируемого движения, неизбежной в реальных механических системах. Приводится доказательство сходимости данного алгоритма.

Рассматриваемая модель манипулятора представляет собой плоскую многозвенную цепь, соединенную одним концом с неподвижным основанием. Звеньями цепи являются тонкие твердые стержни длиной Ц (i = 1,..., N где N - число звеньев цепи) • все соединения - шарнирные.

Введем декартову систему координат (х,у)с началом в точке прикрепления цепи к опоре (см. рис. 1). Положение цепи можно задать, фиксируя набор декартовых координат (х,-, у^ концов звеньев (при этом х0 =Уо = 0), т.е. 2^ величин, на которые наложено N ограничений вида (xz - Xi _ 1 )2 + (у,- - yi _ i )2 = ^ i = 1,.. ., N. Удобно также пользоваться независимыми угловыми переменными - углами Ф/, образованными направлением i-го звена от начала к концу и осью абсцисс, либо углами a t между направлениями (z - 1)-го ич-го звеньев (рис. 1); для 1-го звена естественно положить «1 = Ф j. Очевидны соотношения между этими тремя способами описания состояний цепи:

^ = 2% ;

М = 1 zi /7\

X/ = 2 lj cos Ф/ = S //cosf Sам) ;

7=17=1 V = 1/

/// 7\

У! = 5 //sin Ф/ = S //Sinl S ам1 .

7=17=1 V = 1/

Управление такой цепью осуществляется путем независимых изменений межзвенных углов at(i = 1,.. . ,7V). Эти изменения производятся дискретно, в течение интервалов времени длительности Дг — на каждом ’’такте” управления. В данной работе рассматривается задача приведения в течение М тактов (М достаточно велико) свободного конца многозвенной плоской цепи из некоторого исходного положения к целевой точке, заданной своими декартовыми координатами (хц,уц) либо ее расстоянием Лц от начала координат системы и углом ац между направлением на цель из начала координат и осью абсцисс. Для простоты дальнейших вычислений будем с самого начала считать, что хц ¥= 0,уц #= 0, хотя это й не накладывает никаких принципиальных ограничений.

Процесс построения траектории движения конца цепи к цели можно рассматривать как поиск экстремума (минимума) функции г(о), где а = («1,..., aN);r - расстояние от конца цепи (точки (xN, vJ) до целевой точки (хц,уц);при этом удобно минимизировать не г(о), а /(а):

[

N/ '\12

S /t cos( S а/|-хц +

/=1V = 1 'J

(1)(1)

(1)

(1)

Очевидно, экстремумы функций / (а) и г( а) достигаются в одних и тех же точках. В дальнейшем мы будем использовать еще одно обозначение для этой величины как функции xN и у N:

F(x№^) = (XN-хцУ + ^N ~^ц)2 •(2)

Предлагается следующий метод поиска минимума функции г (а) или

На каждом (и-м) такте работы алгоритма для конечного, N-ro звена определяется такой угол D^ его поворота, который соответствует вращению этого звена в сторону цели до положения, когда конец цепи окажется на прямой, соединяющей начало звена й целевую точку (в дальнейшем будем в обозначения всех величин, характеризующих состояние цепи и операции с ней на и-м такте, включать верхний индекс (л); при этом все остальные звенья считаются неподвижными (т.е. углы а}”'»• • • > а^х зафиксированы) . В том случае,^если конец цепи уже находится на прямой, соединяющей точки (х^г, У ^21) и (хц, ^ц),и любой поворот TV-го звена не будет приближать конец цепи к цели, полагаем D^ = 0.

Считаем, что №е звено совершило поворот на угол D^, и фиксируем новую величину межзвенного угла aN = а^ + D^. Затем для (N— 1)-го звена, жестко связанного с TV-м (угол о^ фиксирован), определяем угол поворота D^2X, соответствующий его вращению к цели до положения, когда конец цепи окажется на прямой, соединяющей начало этого звена и целевую точку; углы aj"\ . . . , а^2 также фиксированы. Затем повторяем эту процедуру для (N - 2)-го, .. . , ^-го, 1-го звеньев, считая, что при повороте ^-го звена фиксированы углы

а также углы а ("^, где? = 1,. _ . к - 1.

Полученный набор углов D ^ = ф£п^,..., D^ ) считаем текущей оценкой покоординатных расстояний (в пространстве межзвенных углов)

от исходного положения на п-м такте до положения касания, т.е. предполагаем, что цель достигается при а = (af^ + Р|^, . . . , а^+Л^) .Далее

в течение л-го такта осуществляется поворот всех звеньев цепи на углы Ьа^ = В^D.^ , где 0< 0(л) < 1; г = 1,. . . , N. Определяется новое положение цепи 5^"+1^ = (а/п+1\ о4"+1\ . . /, а^"+1\где а<"+1) = а^”) + + Да^.

Если обнаруживаем, что после этого поворота цель достигнута, считаем задачу, решенной. В противном случае с 1-го этапа описания алгоритма начинается следующий, (и + 1)-й такт его работы.

Сущность, работы этого алгоритма состоит в том, что на каждом такте происходит оценивание (с помощью однократного применения метода покоординатного спуска для каждого звена) координат целевого положения; затем система ’’сдвигается” в направлении этого положения, но проходит не весь путь до него, а только часть, причем величина этой части определяется принятым на основании некоторых дополнительных критериев временным графиком движения; на следующем такте процедура оценивания и приближение повторяются. Применение такого алгоритма обеспечивает устойчивость процесса движения к цели при наличии случайных ошибок в вычислениях, неточности работы исполнительных механизмов (трение, люфты) и возникающих по другим причинам отклонений от запланированного движения, неизбежных при работе реальных механических систем. Кроме того, данный алгоритм, предусматривающий возможность определения минимума функции для каждой координаты в отдельности (при фиксированных значениях остальных),является своего рода компромиссом между классами как чисто локальных, так и нелокальных методов поиска экстремума и свободен от некоторых недостатков, присущих этим классам.

Предлагаемый процесс поиска минимума функции f(a> можно записать

в виде:в виде:N2 t=iN2 t=iи = 1,2,...,и = 1,2,...,(3)(3)Ц sinЦ sin„(П+1) -= S /, cos( S с^). i=i/ = 1.1Nt= S Z/sin( S а<”+1>) i=i/ = 1 7„(П+1) -= S /, cos( S с^). i=i/ = 1.1Nt= S Z/sin( S а<”+1>) i=i/ = 1 7у (”) =У Nу (”) =У N

в виде:

в виде:

N

2 t=i

N

2 t=i

и = 1,2,...,

и = 1,2,...,

(3)

(3)

Ц sin

Ц sin

„(П+1) -

= S /, cos( S с^). i=i/ = 1.1

Nt

= S Z/sin( S а<”+1>) i=i/ = 1 7

„(П+1) -

= S /, cos( S с^). i=i/ = 1.1

Nt

= S Z/sin( S а<”+1>) i=i/ = 1 7

у (”) =

У N

у (”) =

У N

К^п+1Ъ< f(ctW\ (4)К^п+1Ъ< f(ctW\ (4)где р^ можно выбрать, например, в виде:

К^п+1Ъ< f(ctW\ (4)

К^п+1Ъ< f(ctW\ (4)

р^ = 1; р > 1; s = 1,2,...

pS-1

Здесь ф (ri) — функция, задающая временной график приближения к целевому положению. Она определяется из учета динамических аспектов планируемого движения; ее рассмотрение не входит в задачу данной работы. В качестве примера можно привести одну из возможных здесь формул для l(”):

100 =100 =2(2л + 1)/(М 2 - 2л) - при 0 <л <М/2, (2(М - и) - 1 ЖМ - л)2 - при М/2 < л < М.

100 =

100 =

Отметим, что во всех случаях ф(п) должна удовлетворять условию: <р(и) < 1.

Далее

, .± gW • cos6^

nW = arcctg -2—I1,(5)

g.w^i-cos^ew

'7г W rW

Nfi\1 )

2 IjSinl 2 aW + 2^ + /)<”>))-y„ Vr1

i=j*lV=iM=/ +1/1 )

(Соотношения (5) и (6) представляют формальную запись этапов 1 и 2 рассматриваемого алгоритма.)

Рассмотрим условия сходимости данного алгоритма.

Лемма 1. Для функции/( а) вида

при условии

тах(|^Ч|Л2(")1,...Ля£’)1) >0,(8)

где D. ^ (i = 1, . . . , N) определяются формулой (5), справедливо нера- венство

/($<”>+D<'”>)</(3<”)).(9)

Доказательство. В соответствии с описанием алгоритма поворот каждого звена на угол D^ (/ = 1,... , W) приближает конец цепи к цели, если D^ Ф 0. Действительно, пусть в последовательности V.N, N — 1,..., 1} номеров межзвенных углов / — первый элемент, для которого выполняется D. ^ Ф 0. Иными словами, точкаVS1.?^- конец цеци - не лежит на прямой, соединяющей точку (х/ _1,у^^ ). ^рез которую проходит ось

Ри с. 2

вращения / -го звена, и целевую точку (х„, уц), причем угол между направ- пениями из (х^ , уЦ ) на (х^, у^) ина (хц, уц) равен D. (”'.

Расстояние между точками (*/^, У,^ ) и (хц, уц) равно г}^ (см. (6)), между точками (хц, уц) и ^х^> ,у^> равно г^ ; расстояние между ^-1» У^\ ) и (х^, у^) обозначим через d7-(,1)(см. рис. 2). Эти отрезки образуют треугольник со сторонами г^\ , т^ ,dSn^. Данные величины должны удовлетворять известным неравенствам треугольника, в том числе

г^ > I ^i - «^ I •(Ю)

После поворота всех звеньев, начиная с /-го по N-e, как единого целого вокруг точки (х^рУ^^ на угол D^ все три указанные точки окажутся на одной прямой и расстояние между (х^\у^) и (\,уц) окажется равным XA^-dy^X, т.е. в силу (10) расстояние от конца цепи до целевой точки уменьшится (причем, очевидно, поворот на угол В^ обеспечит максимальное по сравнению с любым другим углом поворота уменьшение этого расстояния).

В силу условия (8), хотя бы один из углов В^ 0 =1» • • • , W) отличен от 0, поэтому в цепи на п-м такте будет повернуто по крайней мере одно звено. Следовательно, после поворотов всех звеньев на соответствующие углы D^ (причем, как следует, из описания алгоритма, ни один из этих поворотов по меньшей мере не удаляет конец цепи от цели), т.е. после того, как будут установлены новые значения углов (а£"+1) =0^ + Ву^, конец цепи приблизится к цели, иначе говоря, выполняется неравенство (9). Лемма 1 доказана.

Лемма 2. Если при некотором и = и* выполняются условия:

!)/(«(«*)) > 0,

D^ '= D^ = ... =D^**^ = 0,

то существует некоторый угол Ь^" *1 ^ 0, такой, что при замене в выражении а^"*+1' =q^”*^ +^”*^”е^ значения D^"*^ на tyn*> для всех и > и* будет неравенство: naax(|Z>^”+1l|,|Z)^”+1h,..., |2)^+1^|)>0.

Укажем здесь основные этапы доказательства леммы 2. Можно показать, что точка а^п*\ для которой выполняется условие 2 леммы 2, является стационарной точкой функции Да); причем из условия 1 следует, что эта стационарная точка соответствует такой конфигурации цепи, когда все

ее звенья лежат на прямой, проходящей через начало координат и целевую точку (Хц,уц). Все конфигурации такого рода можно разбить на 6 классов:

Ум <Уц- а)Хк:Ум < Ук, б) Як :Ум <Ук < Уц; #• Уц < Уь в) Як :уц < ук.

П.^ > Уц: а)Дк:уц < ук< ^v,

в) Як : yN < ук.

Для каждого .из этих случаев исходную TV-звенную цепь можно специальным образом представить в виде двух- или трехзвенной цепи и показать, что внесение возмущения в величину угла а^ > приводит к уходу цепи из соответствующей стационарной точки, т.е. к выполнению на последующих после л*-го тактах указанного в формулировке леммы 2 неравенства. Отсюда же следует, что все стационарные точки такого рода не являются экстремальными.

Теорема. Последовательность положений конца цепи{лг^\ ^^}при и+оо сходится к стационарной точке (хц, уц) функции F(x,y) (см. (2)), в которой Е(хд, Уц) = 0.

Доказательство. Пусть для всех п выполняется неравенство (8). Сначала докажем, что существуют значения /^”\ при которых выполняется неравенство (4).

Согласно лемме 1 и условию (7) справедливо неравенство (9). В силу непрерывности функции Ф^"\2) = f(a^ + zD^) (см. (4)) существует такая левая полуокрестность точки z =1: (1 — Л, 1), 0 < h < 1, — в которой Ф”^) < Ф^”) (1) .

Очевидно, что при всех s, удовлетворяющих условию

11пр11пр1-f 00h1-f 00h

11пр

11пр

1-f 00

h

1-f 00

h

(в дальнейшем будем для определенности выбирать минимальное из этих значений s), справедливо фМ^'О ) < Ф(0), или, что то же самое,

/(5"("+1)) < /(«<”)), и = 1,2

поскольку ^^ = ^(П) + р(гОр(»)) = /(с^"*1)), а Ф(0)=Да^"^).

Согласно (8) последовательность

(/(а00)}(in"

монотонно убывает. Кроме того, она ограничена снизу, ибо /(а^)> 0 при любом и. Таким образом, последовательность (11) имеет предел. Но Да^) = F(/^, у^), из чего следует, \то последовательность {F(x^, 114

У^)} также имеет предел. Можно показать, что в силу леммы 2 этот предел равен 0.

Пусть теперь при некотором и = п* D^1*^ =D^*^ = .. .= ^*^ = 0. Тогда согласно лемме 2 для всех п>п* снова будет выполнено неравенство (8) и применимы предыдущие рассуждения.

Наконец, справедливость утверждения lim х^ = хЦ) lim у^ = уц И-* *и-* «о

непосредственно следует из того, что F(x^\ у^) есть расстояние от точки (^\ У^Ъ до (Хц, уц) в евклидовой метрике. Теорема доказана.

Итак, доказана сходимость заданного формулами (3), (4) алгоритма поиска экстремума применительно к функции (1) и, следовательно, соответствующего алгоритма перемещений многозвенной плоской цепи.

ЛИТЕРАТУРА

Медведев В.С., Лесков АТ., Ющенко А.С Системы управления манипуляционными работами. М.: Наука, 1978.416 с.

Попов Е.П., Верещагин А.Ф., Зенкевич СЛ. Манипуляционные роботы: Динамика и алгоритмы. М.:е Наука, 1978. 398 с.

Коренев Г.В. Введение в механику человека. М.: Наука, 1977. 263 с.

Крюков Ю.И. Об адаптивных методах коррекции рассогласований при управлении многопараметрическими системами//Поиск зависимости и оценка погрешности. М.: Наука, 1985. С. 129-137.

Крюков Ю.И., Стефанюк В.Л. Об алгоритме выработки навыка в действиях манипулятора. М., 19 81.14 с. Деп. в ВИНИТИ 22.06.81, № 3004-81.

УДК 517.11

К СОЗДАНИЮ ИНТЕЛЛЕКТУАЛЬНОЙ ОПЕРАЦИОННОЙ СИСТЕМЫ

В.Л. СТЕФАНЮК, Е.Ф. АЛЕКСЕЕВА

Стремительное развитие технических показателей ЭВМ отнюдь не снимает вопрос об их эффективном использовании, поскольку нагрузка на ЭВМ также растет. Действительно, с одной стороны, пропорционально возможностям ЭВМ растет и масштаб задач, традиционно решаемых на ЭВМ, а с другой — происходит существенное расширение контингента пользователей, а следовательно, появление новых задач, среди которых, в частности, повышенные требования к универсальности и доступности ЭВМ. Для удовлетворения запросов разнообразных пользователей необходимо общение на естественном языке, привлечение больших баз знаний, автоматический синтез процедур и т.п., что само по себе требует больших вычислительных ресурсов.

Основной тезис, развиваемый в настоящей работе, состоит в том, что возможности и высокопроизводительных машин пятого поколения, и мощных персональных ЭВМ будут использоваться значительно полнее, если перейти от традиционных универсальных операционных систем (ОС) к интеллектуальным ОС, которые по существу обеспечивали бы адаптацию ЭВМ к уровню данного, конкретного пользователя.

В смысле освещенир этого тезиса, настоящая публикация носит замкнутый характер: в ней дается постановка задачи об йнтеллектуальной ОС, впервые сформулированная в [1], и приводятся этапы постепенного воплощения этой идеи, завершающегося реализацией макета интеллектуальной ОС в виде программного комплекса на языке ЛИСП.

Сразу же отметим два обстоятельства. Во-первых, интеллектуальные ОС не дублируют другие средства обеспечения ’’дружественной” реакции ЭВМ, например, в рамках так называемого интеллектуального интерфейса. Более того, они могут выступать в сочетании. Во-вторых, описываемые ниже программы имеют и самостоятельную ценность, создавая адекватную среду интерактивного программирования на языке ЛИСП. Последний факт говорит о том, чтр|сама идея подстройки под пользователя и предлагаемый ниже способ ее реализации несомненно могут быть использованы на самых разных уровнях, в частности, в экспертных системах и в других ситуациях, когда человек вступает с ЭВМ в продолжительный контакт.

ПРИНЦИПЫ ПОСТРОЕНИЯ ИНТЕЛЛЕКТУАЛЬНЫХ ОПЕРАЦИОННЫХ СИСТЕМ

Операционные системы (ОС) даже малых вычислительных машин способны предоставлять пользователю самую разнообразную вспомогательную информацию. Так, в случае рассогласования требований, предъявляемых составленной пользователем программой, с возможностями ЭВМ вычислительная машина может выдать такие сообщения (далее для конкретности все примеры даны для случая АОС вычислительной машины типа Эклипс С/ЗЗО (США) [2]):

FATAL ERROR

PROGRAM TERMINATED

CHANNEL NOT OPENED

BOUND ERROR

TERMINATED BY A SUPERIOR PROCESS

YOU HAVE SONS, DO YOU WANT TO TERMINATE?

TRYING TO RELOCATE DATA FROM IRESTART

PROGRAM SPACE LARGER THAN 32K

Кроме того, набрав команду HELP, на терминале можно увидеть некоторую полезную информацию о возможностях данной ЭВМ, а, скажем, команда HELP/V дает ту же информацию, но в развернутой форме. Команда XHELP сообщает информацию о системе диспетчеризации и тд. '

Обилие различных видов и форм представления вспомогательной информации говорит о том," что ЭВМ рассчитана на самый широкий круг пользователей, которые могут столкнуться с самыми разнообразными трудностями.

Отметим три важных обстоятельства: во-первых, объем вспомогательной информации настолько велик, что всю ее трудно представить в сжатой и обозримой форме, хотя этой цели служат десятки руководств для пользователей, программистов и операторов ЭВМ; во-вторых, операционные системы, как правило, непрерывно совершенствуются (устраняются обнаруженные ошибки, расширяется круг вычислительных возможностей), причем

публикация и рассылка новых описаний с перечнем изменений осуществляется несколько медленнее; поэтому самая последняя информация обычно хранится в самой ОС; в-третьих, реально программист в своей деятельности сталкивается лишь с небольшим подмножеством случаев из общего числа случаев, в которых ЭВМ способна дать вспомогательную информацию, и поэтому он не склонен к обстоятельному изучению перечня всех возможных сообщений и их смысла.

Возвращаясь к приведенному списку сообщений, можно отметить, что они носят разнообразный характер, начиная от мало информативного, но решительного ФАТАЛЬНАЯ ОШИБКА до весьма информативных, но понятных лишь опытному программисту, хорошо знакомому с принципами размещения и оперирования данными в конкретной ЭВМ.

Принципы построения ’’интеллектуальной” ОС. Положение будет значительно улучшено, если ЭВМ окажется в состоянии ’’следить” за пользователем, настраиваясь на его уровень подготовленности. Довольно много в этом плане достигнуто в системе программирования ИНТЕРЛИСП, предназначенной для языка программирования ЛИСП, к которому мы вернемся позже.

В общем случае такая задача может быть решена путем встраивания в ОС некоторой фиксированной сети фреймов [3] .Каждомуфрейму,соответствующему определенному представлению о степени, подготовленности данного программиста, отвечает определенное подмножество сообщений, содержащее только те сообщения, которые будут понятны данному программисту. При этом можно предусмотреть посылку некоторых специальных сообщений оператору системы или запись их в специальный файл. Можно также предусмотреть и ведение весьма ограниченного диалога с пользователем [4].

Если заранее известна квалификация программиста, то априори можно решить, каким именно фреймом руководствоваться, но более естественно допустить, чтобы ЭВМ, опираясь на наблюдаемое поведение программиста (временные задержки, характер ошибок, объем и число работающих программ и т.д.), выбирала бы наиболее подходящий фрейм. При этом гибкость системы можно увеличить, опираясь на определенные возможности формального комбинирования фреймов [5].

Отметим, что ’’интеллектуальная” ОС приведет не просто к дополнительным удобствам для программиста, но и должна, очевидно, в целом повысить эффективность использования ЭВМ, а также способствовать росту квалификации программистов. ‘

В заключение подчеркнем, что описанная во введении организация вспомогательной информации на практике доказала свою полезность и речь идет лишь о дальнейшем совершенствовании и развитии контакта человека с машиной. В следующих разделах приведен материал по обеспечению этого подготовительного этапа, а именно по созданию пакета HELP для языка ЛИСП, который в дальнейшем предполагается использовать в системе ’’интеллектуальной” ОС.

КОММЕНТИРУЮЩАЯ СИСТЕМА ДЛЯ ЯЗЫКА ЛИСП

Рассматриваются особенности построения достаточно эффективной и простой базы данных HELP дня языка ЛИСП с ассоциативной выборкой информации и с возможностью переработки статей на языке ЛИСП. Управляющая часть системы реализована в двух вариантах, отличающихся по ряду параметров. Материалы, описывающие управляющие лисповские функции и начальное содержание базы данных, могут быть получены в ИППИ АН СССР.

Характерной особенностью языка ЛИСП является единообразие типов данных (числа, атомы, списки) и методов работы с ними. С другой стороны, различные версии языка ЛИСП отличаются друг от друга имеющимися вспомогательными^ средствами (редактор, трассировка, BREAK, DWIM и т.д.) и запасом библиотечных функций [6,7].

При этом, хотя общая структура языка ЛИСП для программиста достаточно очевидна, знание указанных особенностей при практическом программировании остается чрезвычайно важным.

Поэтому благодаря разнообразию-конкретных реализаций и благодаря легкой возможности пополнения системы как вспомогательными средствами, так и новыми библиотечными функциями в случае языка ЛИСП создание на ЭВМ информационно-комментирующей системы является необходимым.

При построении на практике информационно-комментирующих систем приходится учитывать следующие факторы: объем памяти, занимаемый этой вспомогательной системой; ее ’’прозрачность” для данных, с которыми работает пользователь; удобство восприятия пользователем; удобство исправления и пополнения; транспортабельность системы.

Метод реализации системы. Прежде всего отметим, что созданная система ориентирована главным образом на реализацию языка ЛИСП, названную нами ECLISP ,дляЭВМ”Эклипс С/ЗЗО” (установленной в ИППИ АН СССР), в основе которой лежит программа ЛИСП-FI, или ’’ЛИСП на ФОРТРАНе” [8]. В этой существенно интерактивной реализации к настоящему времени имеются такие элементы, как BREAK, прерывание, сохраняющее определенные пользователем атомы и списки, структурный редактор и редактирование на экране,. которые делают диалоговый режим особенно удобным.

Основным недостатком системы является небольшой объем оперативного рабочего пространства ЛИСП. Указанные особенности учитываются при разработке двух схожих во многом методов реализации информационно- комментирующей системы. Этим методам соответствуют два пакета программ: пакет I и пакет IL Самое существенное их отличие состоит в том, что в пакете I вся информационная и контрольная часть постоянно находятся в рабочем пространстве системы ЛИСП, тогда как в пакете П в рабочем пространстве находится лишь управляющая часть, а банк данных хранится во внешней памяти (в нашем случае на диске).

Перейдем к рассмотрению этих реализаций в свете факторов, перечисленных в предыдущем разделе. ч

Объем памяти. Поскольку в пакете I бистема HELP занимает значительное место в рабочем пространстве, то он ^сходно хранится во внешней памяти и считывается в рабочую память лишь при поступлении от пользо-

вателя первого запроса. Этот режим основывается на том соображении, что если пользователем написана такая большая программа на языке ЛИСП, что вопрос объема рабочей памяти становится для него критичным, то с большой вероятностью он не будет обращаться к ЭВМ за вспомогательной информацией, являясь достаточно подготовленным программистом.

Как уже отмечалось, в случае пакета II в оперативодй памяти хранится лишь управляющая часть, состоящая из функций HEIT, HELP*, HREAD, которые будут кратко описаны позже. Информационная часть, или банк данных, состоит из совокупности файлов, хранимых на диске и вызываемых функцией HELP. Функция HELP* используется для обновления информации или для записи новой информации в базу данных. Заметим, что если отказаться от возможности изменения содержания базы данных средствами языка ЛИСП, то можно было бы вообще не загружать в процессе выборки данные в рабочее пространство, как это и делается обычно в ОС, не предполагающих никаких изменений пользователем.

Прозрачность. Важным параметром вспомогательных систем является отсутствие интерференции с теми данными, с которыми работает пользователь. Ясно, что пользователь уже не имеет возможности употреблять имена HELP, HELP* и HREAD — в случае пакета П больше никаких ограничений не возникает. В случае пакета I запрещенными оказываются еще несколько имен. Свойство прозрачности хорошо обеспечивается самой структурой языка ЛИСП, где допускаются множественные ссылки на один и тот же атом.

Удобство восприятия. Типы данных, допускаемые языком ЛИСП, в своей первоначальной форме мало пригодны для представления текстуальной информации, поэтому в обоих пакетах используется специальная форматирующая функция HREAD, превращающая список в текст по следующим правилам: внешние скобки списка всегда опускаются; если в списке фигурирует специальный символ .&, то делается перенос строки и снимаются скобки соответствующего уровня списка.

Внутренняя форма записи текста в обоих вариантах выбрана в форме обычных для языка ЛИСП списков. Этим обеспечивается возможность обработки текста обычными средствами языка ЛИСП.

Удобство исправления и пополнения. В случае пакета I одна и та же функция HELP используется и для считывания, и для занесения (или замены) информации. При обращении к этой функции вида (HELP ATOM LIST) текст LIST заносится под именем АТОМ, так что (HELP АТОМ) возвращает значение атома LIST.

В пакете П для записи (или замены) информации набирают (HELP* АТОМ), после чего комментирующая система запрашивает пользователя относительно новой информации. В обоих вариантах старый текст можно перерабатывать, используя системный структурный редактор EDIT.

Удобство обновления информации говорит о том, что пакет HELP можно было бы использовать для записи любых комментариев, которые пользователь захочет сделать относительно определяемых им функций. Именно поэтому система в целом и получила название информационно-комменти- рующей.

Важно отметить, что в пакетах приняты меры для автоматического отделения локальной комментирующей информации пользователя от общесистемной.

Транспортабельность системы. В смысле возможности переноса системы на другую ЭВМ пакет I обладает преимуществом, представляя собой совокупность стандартных операторов ЛИСП 1.5, если не считать функцию HREAD, которую можно заменить на стандартную функцию PRINT. Для пакета II существенным оказывается взаимодействие с операционной системой конкретной ЭВМ [2], поэтому управляющая часть оказывается системно зависимой.

Некоторые подробности реализации. В пакете I используются функции HELP, HELP*, HREAD, HINSERT, HREPLACE и группа вспомогательных функций Hl, НИ, STARREM, HREPLA. Непосредственно роль базы данных играет функция HELP*, в которой отдельные статьи выбираются функцией SELECTQ, что оправдано, если статей немного. Функция HELP обращается к функции HELP*, Обеспечивая в зависимости от значения своих аргументов либо считывание, либо занесение информации. Функция HREAD предназначена для форматирования списка, ее работа описана в предыдущем разделе. ‘ .

В пакете II используются три функции HELP, HELP* и HREAD. В этом варианте функция HELP служит лишь для считывания информации, тогда как HELP* Используется для изменения или пополнения банка данных, который представляет собой совокупность дисковых файлов. При считывании файла, с одной стороны, тратится время на открытие соответствующих каналов ввода-вывода и считывание с диска, но, с другой стороны, поиск файла с данным именем ведется непосредственно ОС, т.е. существенно быстрее, чем с использованием SELECTQ в пакете I. Поэтому время реакции системы остается примерно одинаковым в обоих случаях.

ГИБКОЕ ОБСЛУЖИВАНИЕ В СИСТЕМЕ ЛИСП

Широкое распространение вычислительной техники, в 'частности внедрение персональных ЭВМ, значительно расширило контингент пользователей вычислительных машин: кроме программистов-профессионалов, появились средне- и малоподготовленные программисты, а также и просто новички в программировании.

Важно отметить, что среди таких ’’новичков” оказываются и высококвалифицированные специалисты в других областях, которые по тем или иным причинам решили обратиться к ЭВМ [9]. Однако для краткости далее всех пользователи ЭВМ будем называть программистами.

В следующих разделах описываются общие принципы построения и конкретная реализация системы, призванной обеспечить гибкую реакцию со стороны вычислительной машины, зависящую от степени подготовленности, проявленной программистом в ходе работы на языке ЛИСП, присущего ему стиля программирования и т.д. Изначально вид реакции задается автоматически или опытным программистом (ниже называемым экспертом) по имеющейся у него информации о данном пользователе. В дальнейшем, однако, реакция видоизменяется с учетом накопленного опыта.

Созданная система FLEX рассчитана на программирование в системе языка ЛИСП, поэтому естественно, что п{Ш ее создании использовались многие соображения, включенные в таких модификациях, как INTERLISP, 120

Р и с. 1

BBNLISP [7]. Кроме того, были применены методы представления знаний с использованием фреймов и ряд общих идей из области экспертных систем. В целом описываемую систему можно рассматривать как прототип ’’интеллектуальной операционной системы” [1], обеспечивающей индивидуальное обслуживание различных пользователей ЭВМ, повышающей как удобство обращения с ЭВМ, так и эффективность их применения к решению практических задач.

Заметим, что проблеме гибкого подхода к пользователю в настоящее время начинает уделяться все большее внимание как за рубежом, так и в нашей стране. В частности, в работе [11] упоминаются зарубежные исследователи, обратившие внимание на вопрос индивидуализации пользователей при создании экспертных систем.

Принципы организации системы FLEX. Система FLEX представляет собой дополнительный интерфейс между пользователем-программистом и обычной системой ЛИСП, как показано на рис. 1.

Каждая команда (s-выражение) программиста сначала поступает в систему FLEX, которая с учетом предыдущей истории либо передает ее в ЛИСП на исполнение, либо предпринимает другие действия, ’’общаясь” как с программистом, так и с интерпретатором системы ЛИСП.

Ситуацией на очередном шаге процесса программирования будем называть весь набор выражений языка ЛИСП, поступивших с терминала ЭВМ, упорядоченный по времени их поступления. В системе FLEX для каждого из пользователей заранее задается экспертом некоторый набор ситуаций, называемый критическими. Если текущая ситуация не принадлежит классу критических, то FLEX просто передает очередное s-выражение пользователя на вход интерпретатора и получает на терминале результат оценки этого выражения.

Экспертом при генерации системы также задается вид реакции системы FLEX на каждую из критических ситуаций. Гибкость же поведения системы FLEX обеспечивается за счет обучения, при котором с течением времени происходит видоизменение множества ситуаций, которые для данного пользователя считаются критическими (полный набор всех возможных критических ситуаций задается экспертом заранее в ходе отдельного диалога с FLEX).

В результате обучения для данного пользователя формируется своя система FLEX (или, точнее, свое состояние системы FLEX), которая обеспечивает пользователя адекватной данному лицу системой услуг. Этот подход является более совершенным, чем априорное выделение категорий программистов, таких, как новички, опытные и т.п. Такое разбиение во многом носило бы условный характер, так как известно, например, что даже опытный программист может проявить свойства новичка, сталкиваясь с неизвестными ему возможностями, предоставляемыми ЭВМ.

Формальное описание системы FLEX, s-выражением s в языке ЛИСП, как обычно, называется либо атом, либо один список языка ЛИСП. Под

ситуацией размерности г понимаем упорядоченный непустой набор вида (si$2... sr), где Sf-s-выражение (z = 1, 2,... г ).

На множестве всех ситуаций размерности г определим классы ситуаций: {^г)- множество всех классов ситуаций размерности г. Классы введем таким образом, чтобы для каждой ситуации размерности г можно было сказать, принадлежит она данному классу или нет. Если ситуация принадлежит какому-нибудь из классов, будем называть ее критической. Приведем несколько примеров.

Пример 1. (г = 1). Зададим множество (Л'1) следующим образом: оно состоит из одного элемента Кх, и в К1 входят все s-выражения вида (CONS**), где ♦ обозначает произвольный подсписок, конкретный вид которого является несущественным.

Пример 2 (г й 2). Зададим теперь множество tK2k Пусть оно состоит из одного класса К2, такого, что пара ($i, s^EK2 тогда и только тогда, когда $! имеет вдд (DE***) и одновременно s2 имеет вид (DUMP**).

Объединим теперь все s-выражения, имеющие вид (DE***),b отдельный класс Кх, а все s -выражения, имеющие вид (DUMP**), — в класс Кг. Теперь можно сказать, что ситуация (sb s2) принадлежит классу К2 тогда и только тогда, если выполнено совместное условие

SiGК\, s2G^.

Таким образом, в нашем примере класс К2 является прямым произведением классов ^ й Кг.

Замечание 1. Классы ситуаций в системе FLEX задаются заранее экспертом и остаются неизменными в ходе всей работы системы. Множество всех классов ситуаций может пополняться экспертом в ходе отдельного диалоге с FLEX.

Замечание 2. В описываемой системе FLEX классы ситуаций размерности г (г > 1) задаются именно таким способом, который описан в примере 2, т.е. через классы К^» Кг,..., Кх, описывающие соответственно вид каждого из s-выражений sb s2,... sr.

Рассмотрим теперь, как введенные нами классы ситуаций используются при работе системы FLEX. Для этого проследим шаги программирования конкретного пользователя-программиста в процессе его работы. Пользователь системы определяется однозначно своим именем в момент начала работы с системой. Пусть моменты рабочего времени t задаются поступлением в систему от программиста одного s-выражения (таким образом, конкретная ситуация в момент времени t- к характеризуется поступлением в систему от программиста ровно к одиночных s-выражений). Пусть s^ означает s-выражение, поступившее в систему в момент времени t=k.

Опишем теперь, как реально в системе FLEX решается вопрос, не является ли конкретная ситуация критической.

В момент времени t = k проверяется принадлежность множеству классов ситуаций единичной размерности { X1) s-выражения $т и всех подвыражений s-выражения s i.

В момент времени t = 2 проверяется принадлежность множеству классов единичной размерности^1} s-выражения s2 и всех подвыражений s-выражения s2, затем проверяется принадлежность ситуации (sb s2) множеству {К2}— классов ситуаций размерности 2 (см. замечание 2);

при этом возникает две возможности: либо проверять вид s-выражений Si и s2 и всех их подвыражений, либо осуществлять проверку только для самих этих s-выражений. В системе FLEX выбран компромиссный вариант — вид подвыражений проверяется рекурсивно только для последнего s-выражения, поступившего в систему, и т.д.

Максимальная размерность заранее заданных ситуаций в системе FLEX равна 2. Это вызвано, с одной стороны, соображениями упрощения системы, с другой — тем, что достойные внимания ситуации большей размерности авторам пока не встречались. Поэтому в момент времени t = к система FLEX сначала проверяет принадлежность s-выражения sk и всех его подвыражений множеству классов ситуаций (№}; затем проверяет принадлежность ситуации ($&_!$&) множеству {#2} (причем для sk проверяется вид всех подвыражений).

В случае, если система FLEX обнаруживает критическую ситуацию, она выполняет некоторую последовательность функций языка ЛИСП, называемую реакцией на данную ситуацию (точнее, на данный класс ситуаций). На каждый класс ситуаций существует своя реакция, которая задается экспертом заранее — одновременно с заданием самих классов ситуаций. Реакция может включать в себя самые разнообразные функции: поддерживающие" диалог с программистом; исправляющие поступившие от него s-выражения; корректирующие имеющуюся информацию о данном программисте; и т.д. Часть реакции всегда направлена на программиста, а часть— на саму систему FLEX. Выполнив последовательность шагов, составляющих реакцию, система передает (или не передает) команду программиста ЛИСП-интерпретатору на выполнение (это тоже зависит от реакции).

Система FLEX обучается, настраиваясь на конкретного программиста, двумя путями:

путем получения непосредственной информации о программисте в момент первого ’’знакомства” с ним (это происходит либо в результате небольшого анкетирования самого программиста, либо в результате использования знаний о программисте, заранее занесенных в систему экспертом);

путем уточнения имеющихся данных о программисте в процессе его работы (это осуществляется посредством изменения множества классов критических ситуаций, заданного для конкретного программисту в начальный момент его работы).

Приведем некоторые пояснения. Обозначим через {Л} множество всех классов критических ситуаций, заданных экспертом априори, а через (Х}0 — множество классов критических ситуаций, заданных для конкретного пользователя перед началом его работы, т.е. в момент времени t = 0. Заметим, что, во-первых, (X) 0 С {4} и, во-вторых, множество Шо автоматически формируется для каждого программиста всякий раз перед началом его работы системой FLEX на основании информации, накопившейся о нем к данному этапу.

Пусть /Л1, ^2 ... ta^ _ те моменты времени в процессе работы данного программиста, в которые система F.LEX обнаруживает критические ситуации и выполняет последовательность функций, составляющую реак-

цию на обнаруженную ситуацию. Тогда можно сказать, что множество классов критических ситуаций ддя данного программиста зависит от времени следующим образом:

Шг = (K}f_!, если t £tai, tai ... tarl;

если tEt^, tai .. Лап, to {K)t определяется состоянием системы FLEX в момент времени t—1 (для реализованной на данном этапе версии системы FLEX можно сказать, что для конкретного программиста

{ЦСЦ^СЦ (Г =1,2,...).

Здесь (X)f означает множество классов критических ситуаций в момент времени t.

Реакция на обнаруженную критическую ситуацию тоже зависит от времени:.;)

Rt - ^(^^flex’ ^flex)’

где tEttti> ttti .. Ла ; Rt — реакция в момент времени t на класс критических ситуаций К; С flex “ состояние системы FLEX в момент времени I, при этом, в свою очередь, CpLEX = CtR^, a C°LEX однозначно задается именем программиста с учетом информации, накопленной о нем в предыдущие сеансы его работы.

КОНКРЕТНАЯ РЕАЛИЗАЦИЯ СИСТЕМЫ FLEX

Представление знаний в системе. Знания в системе FLEX содержат информацию о пользователях-программистах, о возможных ситуациях, возникающих при работе программистов, и о реакциях на эти ситуации, об устройстве самой системы FLEX. Знания о пользователях и ситуациях организованы в динамическую сеть фреймов. Существует два типа фреймов: фрейм пользователя и фрейм реакции на ситуацию.

Множество всех фреймов пользователей содержит отдельные фреймы на каждого программиста, работающего в системе FLEX, и три стандартных фрейма на типы программистов (фрейм на новичка, на среднего и на опытного программистов). Эти стандартные фреймы оказываются полезными, когда в систему входит новый пользователь, на которого еще не существует фрейма. В результате короткого анкетирования система причисляет программиста к одному из трех типов и выбирает для него соответствующий его уровню стандартный фрейм. Далее в процессе работы этого пользователя его фрейм меняется в соответствии с собственными правилами — в зависимости от поведения пользователя — и вскоре становится отличным от стандартного фрейма. (Фрейм пользователя вызывается по имени пользователя.) Примерный общий вид фрейма пользователя приведен на рис. 2. Каждый фрейм пользователя содержит административные слоты и слоты ситуаций, количество последних в системе не фиксировано. В административных слотах запоминается общая информация о пользователе, например количество сеансов работы в системе FLEX, число отказов от работы в системе FLEX, статистические данные. Слоты ситуаций содержат ссылки на подфреймы ситуаций, в которых, в свою очередь, хранится информация о поведении системы в случае, если данный пользователь по-

падет в данную критическую ситуацию, о том, сколько раз он попадал в данную ситуацию ранее, когда он попадал в нее в последний раз и т.д.

Фреймы реакций на ситуации хранятся в системе под своими именами. Когда система обнаруживает критическую ситуацию, она вызывает фрейм реакции на нее. Одной ситуации может соответствовать несколько фреймов реакций. Какие из них выбрать, если какой-либо пользователь попал в данную ситуацию? - Эту информацию система находит во фрейме пользователя. Общий вид фрейма реакции на ситуацию приведен на рис. 3.

Этот фрейм содержит семь слотов-подфреймов, которые имеют следующий смысл:

VALUE* — содержит значение фрейма, являющееся по сути реакцией на ситуацию, вызывающую этот фрейм;

OPFLG — показывает, когда фрейм реакции необходимо открыть (открытие фрейма означает, что в случае обнаружения данной ситуации система будет реагировать на нее по правилам, описанным в данной фрейме реакции);

CLFLG — показывает, когда фрейм необходимо закрыть, т.е. он перестает участвовать в формировании реакции системы;

MISC* — слот для вспомогательных действий;

ЮС* — счетчик числа обращений к фрейму;

IACCNT* — счетчик положительных и отрицательных реакций пользователя на сообщение или действие системы, позволяющий установить, насколько данному пользователю желательно участие системы;

COMMENT — комментарии к фрейму;

Заметим, что для конкретного программиста фрейм реакции на конкретную ситуацию может быть открыт как по правилам для данной ситуации, содержащимся в слоте OPFLG, так и по правилам для данного программиста, заданным заранее экспертом и содержащимся во фрейме данного программиста;

Пометка * у имени слота означает, что этот слот может использоваться экспертом и для других целей.

Рис. 3

Подслоты: VALUE — содержит значение подслота; WHEN - содержит условие: когда менять значение слота; WHAT - содержит значение: на что менять значение слота.

Фреймы обоих типов хранятся на внешних файлах и вызываются в момент необходимости (это объясняется большим объемом знаний хотя бы частично заполненной системы). Фреймы реакций на ситуацию, так же как и фрейм пользователя, постоянно меняются в процессе работы пользователя, за их динамикой следит система.

Описание составных частей системы FLEX. Система FLEX состоит из следующих частей:.

FLEX_ SYS — собственно система, обеспечивающая связь программиста с системой ЛИСП;

FLEX-INIT - подсистема, обеспечивающая начало работы (загрузка, формирование фрейма пользователя, введение в систему новых пользователей и т.д.);

FLEX- AUGM - подсистема, обеспечивающая полуавтоматическое пополнение системы FLEX новыми ситуациями.

Рассмотрим подробно каждую подсистему.

FLEX-SYS - основная задача данной подсистемы состоит в обработке критических ситуаций, возникающих при работе конкретного программиста. Как уже было сказано ранее, распознавание ситуации ведется рекурсивно, однако подсистема FLEX—SYS позволяет не обрабатывать аргументы некоторых функций (например, QUOTE, HELP). Подсистема также предоставляет возможность прервать оценивание текущего s-выражения (не вычислять его) либо исправить его и вычислить уже исправленное s-выражение. Подсистема обеспечивает защиту системных функций и переменных от любых попыток их изменения всеми программистами, кроме эксперта.

Рассмотрим, как реализовано распознавание критической ситуации. Во-первых, отметим, что распознавание можно проводить ’’просмотром

вперед”, заметив первое ’’подозрительное” s-выражение и ожидая следующих s-выражений, входящих в критическую ситуацию, и ’’просмотром назад”, увидев последнее ’’подозрительное” s-выражение и проверяя, не было ли ранее s-выражений, составляющих критическую ситуацию. Подсистема FLEX_SYS осуществляет ’’просмотр назад”.

Во-вторых, поиски более эффективной реализации распознавания крити ческих ситуаций привели к созданию новой версии системы FLEX.

В первой версии распознавание ситуаций осуществлялось общей функцией MATCH, которая сопоставляла возникшую в данный момент ситуацию со всеми возможными (предусмотренными в системе). С возрастанием общего числа ситуаций в системе ее быстродействие существенно замедлялось именно из-за возрастания времени работы функции MATCH, Возникла необходимость в другом подходе к распознаванию ситуации. В новой версии системы FLEX функция MATCH формируется автоматически для каждого отдельного программиста. Далее в процессе его работы возникающие ситуации сопоставляются функцией MATCH не со всеми имеющимися в системе ситуациями, а только с теми, которые предусмотрены для данного программиста.

Прежде чем перейти к описанию подсистемы FLEX—INIT, сделаем еще два замечания.

Работа подсистемы FLEX—SYS осуществляется посредством имеющегося в языке ECLISP специального режима MODE 3, который позволяет заменить обычный цикл

ЧТЕНИЕ - ВЫЧИСЛЕНИЕ - ПЕЧАТЬ

на цикл

SYS-ПЕЧАТЬ,

где SYS - первоначально неопределенная функция. Для системы FLEX функция SYS была определена так, чтобы в результате получился цикл

ЧТЕНИЕ- ОЦЕНИВАНИЕ ПО- - ВЫЧИСЛЕ- -ПЕЧАТЬ СТУПИВШЕГО ВЫ- НИЕ

РАЖЕНИЯ И ВЫ

ПОЛНЕНИЕ ОП

РЕДЕЛЕННЫХ ДЕЙСТВИЙ

Хотя подобные возможности имеются во многих системах, можно обойтись и простыми средствами языка ЛИСП, организуя, например, в нем бесконечный цикл:

ЧТЕНИЕВЫРА— ОЦЕНИВАНИЕ- ВЫЧИСЛЕНИЕ - ПЕЧАТЬ

ЖЕНИЯ В НЕ- ПЕРЕМЕННОЙ ПЕРЕМЕННЫХ

КОТОРУЮ ПЕ- И ВЫПОЛНЕНИЕ

РЕМЕННУЮ* ОПРЕДЕЛЕННЫХ

ДЕЙСТВИЙ

По окончании работы программиста вся необходимая информация о нем автоматически сохраняется посредством запоминания фрейма пользо-

вателя. В следующий раз перед началом работы данного программиста система сформирует все необходимые фреймы и параметры, обеспечивающие работу программиста с учетом информации о нем, накопленной за все предыдущие сеансы.

Однако для программиста существует возможность во время следующего сеанса сразу в точности восстановить состояние системы, не настраивая отдельно необходимые фреймы и параметры. Для этого в системе ECLISP существует функция SAVE, которая в точности и на любой срок запоминает состояние системы на момент вызова этой функции. Выход программиста из системы по окончании работы через функцию SAVE является полезным, когда программист не успел завершить какую-то логическую часть своего программирования. Однако в случае, когда он приступает к новой логической части работы, по ряду причин удобнее пользоваться обычным (’’нормальным”) выходом и входом в систему (например, потому что в системе не нужно при этом хранить большое количество не относящейся к делу информаций)

Основные задачи подсистемы FLEX_INIT следующие.

Подготовить работу пользователя с системой FLEX, если пользователь желает работать в контакте с этой системой. Для этого FLEX—INIT: загружает все необходимые блоки системы FLEX; формирует фрейм пользователя с учетом имеющейся о нем информации и открывает ситуации, которые необходимо учитывать для данного пользователя; формирует функцию MATCH для данного пользователя.

Организовать выход пользователя из системы FLEX в случае, если он не хочет работать в контакте с системой. Для этого FLEX—INIT: изменяет фрейм пользователя с учетом новой полученной о нем информации и запоминает его до следующего раза; изменяет (в случае необходимости) и запоминает все другие параметры системы; очищает пространство и отключает систему FLEX.

Организовать прием нового, впервые входящей в систему пользователя. Для этого FLEX—INIT: заносит имя пользователя в список всех пользователей системы; на основании небольшой анкеты формирует фрейм пользователя; готовит работу пользователя с системой FLEX (см. этап 1).

Подсистема FLEX-AUGM обеспечивает полуавтоматическое пополнение системы FLEX новыми ситуациями и учет новых пользователей. Как указывалось ранее, учет новых пользователей в системе может происходить двумя путями:

эксперт заранее заводит фрейм на нового программиста, где определяет режим его работы;

если программист самостоятельно входит в систему, то на него заводится один из трех стандартных фреймов, как это было описано ранее.

Пополнение системы FLEX новыми ситуациями происходит в результате диалога эксперта с подсистемой FLEX—AUGM. (О системе общения с экспертом см. далее.)

FLEX как экспертная система. При построении системы FLEX гибкого обслуживания программистов авторы руководствовались принципами создания экспертных систем, изложенными в работе [10].

Пользователями системы FLEX являются программисты, работающие на языке ЛИСП. Их уровень, стиль работы могут быть различными.

Как уже говорилось, система FLEX представляет собой незаполненную структуру. Ее наполнение знаниями осуществляет эксперт-программист. Область приложения системы FLEX не так проста. Поскольку формирование достаточно полного индивидуального портрета программиста невозможно без учета определенных субъективных характеристик, было бы желательно, чтобы эксперт привнес в систему еще и некоторые знания психологии программиста.

Далее, как и в большинстве экспертных систем на этапе формулирования знаний экспертом системы FLEX, так же как и в момент принятия решения системой FLEX, широко используются эвристические подходы. Что касается заполнения й пополнения системы знаниями, то в системе FLEX предусмотрена возможность непосредственного взаимодействия с системой самого эксперта, не знающего ее устройства (эта возможность обеспечивается подсистемой FLEX—AUGM). Общение происходит в результате взаимно активного диалога: новые знания в системе формируются в результате ответов эксперта на вопросы системы, однако, если эксперту что-то неясно, он может сам задать вопрос системе пополнения. Система пополнения способна напомнить эксперту форму его ответа, структуру фреймов, в которые организуются поступающие знания, смысл отдельных слотов и подслотов фрейма. Система пополнения способна также дать информацию о собственных возможностях и ограничениях.

Для экспертных систем характерно также наличие системы общения с пользователем. В системе FLEX в связи с ее спецификой эта часть развита слабо: авторам показалось нецелесообразным загружать и отвлекать программиста вещами, не относящимися к программированию. Однако необходимые минимальные возможности общения программиста с системой FLEX предусмотрены.

Действия системы — ее вопросы, сообщения, решения — могут оказаться не совсем понятными для пользователя, поэтому ему предоставляется возможность задавать системе вопросы. Вопросы могут касаться как конкретных действий системы (вопрос типа ’’почему?”), так и общего устройства самой системы — ее возможностей и ограничений (вопросы типа ’’что такое?”, ’’как работает?”...). В свою очередь, система сама может задавать пользователю вопросы с целью уточнения его желаний, выяснения его намерений, определения его уровня и т.д. о

В системе FLEX предусмотрена возможность получения информации о результатах действий системы, в частном случае в систему может поступить сообщение о реакции программиста на действия системы. Эта информация позволяет системе корректировать свои действия, все точнее настраиваясь на конкретного программиста.

Что касается неточных знаний, то они могут возникнуть в системе FLEX, например, в результате анкетирования (программист может неточно оценить либо скрыть свой уровень) либо в результате того, что фрейм пользователя был первоначально подобран неточно. Такого рода неточные знания, как уже говорилось ранее, корректируются в процессе работы программиста.

Основным для экспертных систем, помимо прочего, является наличие развитой базы знаний. В системе FLEX знания организованы во фреймы, которые динамически пополняются или изменяются в процессе работы

9. Зак. 551

пользователей. В настоящее время, как уже отмечалось, система FLEX является практически незаполненной. Однако очевидно, что настоящую ценность такая система приобретает только при наличии большого числа предусмотренных ситуаций, т.е. при наличии объемной базы знаний. Формирование этой базы знаний и является следующим этапом работы создателей системы.

Таким образом, система FLEX, по существу, является ’’оболочкой” экспертной системы, предназначенной для программистов на языке ЛИСП. Ее принципы могут быть положены в основу создания подобных систем и для других интерактивных языков программирования. Наконец, поскольку общение пользователя с операционной системой ЭВМ также носит простой интерактивный характер, то систему FLEX можно в определенном смысле считать п$#ототипом интеллектуальной операционной системы.

ЛИТЕРАТУРА

Стефанюк В.Л? Проектирование интеллектуальной операционной системы: Тез. докл. Ш-го семинара ’’Интеллектуальные банки данных”. Тбилиси. 1982. Февр. С. 7-8.

Advanced Operating System (AOS), User’s Manual 093-000122-01, DGC, 1977, p. A1-A3.

Минский M. Фреймы для представления знаний // Психология машинного зрения. М.: Мир, 1978. С. 249-339.

ММ/1 Man-machine interface // Software-Pract. and Exper. 1980. Vol. 10. P. 751- 763.

Кузин Л.Т., Дубинина ВТ. Интеллектуальная система проектирования сетей ЭВМ // Проектирование интеллектуальных систем. М.: Атомиздат, 1980. С. 12-16.

Haraldson A. Lisp-detailes, Interlisp/360—370. Uppsala Univ. 1975.151 p.

Teitelman W. Interlisp Reference Manual. Palo Alto: BBN-Xerox, 1974. 260 p.

Nordstrem M., SandewallE. Breslaw D. LISP Fl: a FORTRAN Implementation: of LISP 1.5. Uppsala Univ. 1970. 73 p.

Поспелов Г., Солодов В. Коллективная диалоговая система планирования ’’Гранит” // Представление знаний в человеко-машинных и робототехнических системах. М.: ВЦ АН СССР, 1984. С. 168-182.

Алексеева Е.Ф., Стефанюк В.Л. Экспертные системы - состояние и перспективы // Техн, кибернетика. 1984. №5. С. 153-167.

Lenat D.B. et al. Knoesphere: Building expert systems with encyclopedic knowledge. Proc. IJCAI-8,1983, p. 167-169.

УДК 517.11

ПРЕДСТАВЛЕНИЕ ЗНАНИЙ

И ОБУЧЕНИЕ В ТЕРМИНАХ ТЕОРИИ КАТЕГОРИЙ

А.В. ЖОЖИКАШВИЛИ, В.Л. СТЕФАНЮК

В статье сделана попытка дать формализацию некоторых методов, используемых в настоящее время в задачах, связанных с представлением знаний в искусственном интеллекте.

В основу этой формализации легла операция сопоставления конкретной ситуации с общим образцом. Система представления знаний, основанная на подобной операции, встречаясь с некоторой ситуацией, на которую она должна как-то отреагировать, ищет в памяти образец, под который подходит встретившаяся ситуация, и, найдя ег^, выполняет связанные с этим 130

образцом инструкции для обработки поступившей ситуации. Опыт показывает, что широкий класс систем, начиная с элементарных, использующих правила продукций типа принятых в формальных грамматиках, кончая сложными, использующими фреймы, действует подобным образом.

Рассмотрим следующий пример. Пусть система получила задание: высота треугольника равна 2, основание — 4, найти площадь треугольника. Система нашла в памяти следующее правило: если известно, что высота треугольника равна х, а основание — у, и требуется найти его площадь, то для этого следует умножить х на у л результат поделать на 2. Применив это правило, система получила искомый ответ — 4.

Несмотря на тривиальность примера, в нем содержатся все основные идеи, которые привели к созданию излагаемого далее обобщенного сопоставления с образцом. Условия задачи представляют собой то, что мы в дальнейшем будем называть ситуацией. Ситуация поступает на вход системы, и система должна определенным образом на нее отреагировать. Для этого система ищет в памяти некоторое правило, применимое в данной ситуации. Правило это состоит из двух частей: первая часть содержит условия применимости данного правила, вторая — указание, что нужно сделать. Подобные правила в дальнейшем будем называть продукциями.

Первая часть правила в точности совпадает с условием задачи, единственное различие в том, что числа 2 и 4 заменены переменными х и у. Вследствие этого правило применимо не только к данной ситуации, но и к бесконечному множеству других (например, высота треугольника —10, основание — 4, найти площадь). Для того чтобы убедиться в применимости правила к данной ситуации, следует найти такие значения переменных х и у, при подстановке которых в левую часть правила эта левая часть совпадет с заданной ситуацией. Такими значениями являются х = 2 и у = 4.

Таким образом, левую часть правила можно рассматривать как обобщенную ситуацию, которая при подстановке различных значений переменных может превратиться в ту или иную конкретную ситуацию. Такие обобщенные ситуации назовем образцами, а операцию проверки, подходит ли ситуация под образец (или, наоборот, подходит ли образец для описания данной ситуации), — операцией сопоставления ситуации с образцом. Таким образом, операция сопоставления дает ответ — подходит или не подходит — и, в случае утвердительного ответа дает побочный эффект, заключающийся в придании значений переменным х и у. В случае, если бы единственной нашей целью была проверка сопоставимости ситуации с образцом, этот побочный эффект можно было бы игнорировать, но в общем случае информация, полученная при сопоставлении, показывающая, как именно следует конкретизировать образец, чтобы получить из него заданную ситуацию, используется системой в дальнейшей работе, в нашем примере она используется второй частью продукции для нахождения площади.

Подставляя в наш образец различные пары чисел, мы будем получать различные ситуации. Иначе говоря, приведенный образец можно рассматривать как функцию ф из множества R2 пар вещественных чисел в множество ситуаций (не будем на данном этапе давать строгое определение этого множества, достаточно сказать, что оно зависит от того, какие задачи должна решать система, в частности должно содержать условие задачи из приведенного примера). Тот факт, что ситуация s подходит под образец,

означает тогда, что существует пара чисел (х, у), для которых значение Ф(х,у) равно s.

Все это приводит нас к следующему определению. Пусть 5 — некоторое множество, называемое множеством ситуаций. Образцом со значениями в множестве 5 назовем пару (X, ф), где X — некоторое множество, которое будем называть источником образца, а ф — некоторое отображение из X в S. Пусть s Е S — некоторая ситуация. Будем говорить, что, ситуация s сопоставима с образцом (X, ф), если для некоторого х из множества X имеем ^(х) = 5, иначе говоря, s лежит в образе множества X при отображении ф. Элемент х € I, найденный в процессе сопоставления, несет в себе информацию о способе сопоставления, соответствующую описанному выше побочному эффекту, этот элемент может быть использован системой в процессе обработки ситуации. Возможно, что существует несколько элементов х, удовлетворяющих равенству ф(х) = s, в этом случае мы говорим, что сопоставление может быть проведено различными способами.

Образцы могут обладать различной степенью общности. Естественно считать, что один образец является более общим, чем другой, если всякая ситуация, которая подходит под второй образец, подходит и под первый. Ранее мы рассмотрели образец ’’высота треугольника — х, основание — у”. Рассмотрим другой образец: ’’высота треугольника — 3, основание — z”. Очевидно, что первый образец является более общим, чем второй, поскольку всякая ситуация, соответствующая второму образцу, соответствует также первому. Обратное не верно, в частности второй образец не применим к условию задачи, сформулированной в примере.

Рассмотрим общий случай. Пусть (X, ф) и (У, ф) — два образца со значениями в множестве S. Возьмем произвольный элемент у Е У и рассмотрим ситуацию ф(у) Е S. Если образец (X, ф) более общий, чем (У, ф), то эта ситуация должна быть сопоставима с образцом (X, ф), иначе говоря, должен существовать элемент х Е X для которого ф(х) = ф(у). Построим отображение X- Y "* X, ставящее в соответствие каждому элементу у Е У элемент х Е X, такой, чтоФ(х) = ф(у) .Тогда <р (х Су)) = Ф(у) для всех у Е У, т.е.ф°х = = ф. Дадим в соответствии с этим следующее определение. Пусть (X, ф) и (У, ф) — два образца. Гомоморфизмом образцов будем называть отображение X* X -* У, такое, чтох° Ф = Ф, т.е. диаграмма рис. 1 коммутативна. Будем говорить, что образец (У, ф) является обобщением образца (X, ф), а образец (X, ф) — частным случаем образца (У, ф), если существует хотя бы один гомоморфизм образцов из (X ф) в (У, ф). Очевидно, что в этом случае всякая ситуация, сопоставимая с первым образцом, будет сопоставима и со вторым.

До сих пор мы не говорили о том, каким должно быть множествоюбраз- цов, какие множества могут фигурировать в качестве источников образцов, какие отображения допускаются в образцах и в качестве гомоморфизмов образцов. Сейчас трудно судить, насколько широким будет применение излагаемого формализма, поэтому не будем накладывать никаких ограничений на эти объекты. Однако всякий раз, когда теория будет применяться к конкретной задаче, следует начинать с описания того, что будет в данной задаче выступать в качестве множества ситуаций, какие отображения допускаются в качестве образцов и т.д. Из соображений математического удобства будем требовать, чтобы тождественное отображение из множества

X в себя допускалось бы в качестве гомоморфизма образца (X <^>) в себя; наложим также требование замкнутости класса гомоморфизмов относительно композиции, т.е. если X — гомоморфизм из образца (X ф) в (УФУ а д- из (Y, ф) в (Z, х) композиция доX должна быть допустимым гомоморфизмом из (X ф) в (Z, х) (требования коммутативности диаграммы, входящей в определение гомоморфизма образцов, при этом автоматически выполняются).

Все это можно сформулировать короче: для использования обобщенного сопоставления с образцом в конкретной задаче следует определить некоторую подкатегорию категории множеств и указать, какой из ее объектов будет играть роль множества ситуаций. Такой подход представляется естественным, поскольку многие вводимые далее понятия будут иметь теоретико-категорный характер [1].

До сих пор мы имели дело с двумя различными понятиями — с ситуациями и с образцами. По ряду причин, однако, удобно считать ситуацию частным случаем образца. Во-первых, это связано с тем, что ситуация в большинстве случаев имеет ту же форму, что и образец, отличаясь от последнего только отсутствием переменных. Ситуацию, следовательно, можно считать полностью конкретизированным образцом, под который подходит только он сам. Во-вторых, граница между образцом, характеризующим некоторую совокупность объектов, и ситуацией, характеризующей единичный объект, зачастую бывает условной. Представим себе, например, систему, распознающую по некоторому описанию вид животного. Для такой системы понятие ’’млекопитающее” или ’’хищник” является общим и должно определяться образцом, в то же время понятие ’’собака” представляет конкретное животное и должно быть ситуацией. Однако если мы потребуем, чтобы система различала также и породы собак, то ’’собака” станет общим понятием, конкретным будет, например, ’’бульдог”. В другом случае и это может быть недостаточным (например, если требуется узнать какую-то конкретную собаку).

Таким образом, естественно считать ситуациями образцы, которые мы по каким-то причинам не можем или не хотим конкретизировать.

Другие причины, по которым естественно рассматривать ситуацию как образец, связаны с используемым нами математическим аппаратом — теорией категорий. Дело в том, что теория категорий не рассматривает внутреннего строения объектов категории, а изучает лишь связи этого объекта с другими объектами категории, которые (связи) выражены с помощью морфизмов. Поэтому, если мы хотим придать нижеследующим формулировкам чисто категорный вид, мы должны отказаться от рассмотрения ситуаций как элементов множества S и рассматривать их как определенного вида морфизмы категории. Один из способов сделать это заключается в введении одноэлементного множества /ив сопоставлении каждому элементу s множества S отображения a : I-*S, ставящему в соответствие единственному элементу множества I элемент s. В этом случае условие сопоставимости ситуации а с образцом (X Ф) принимает следующий вид: сопоставление возможно, если существует хотя бы одно отображение Р:1 X, для которого диаграмма рис. 2 коммутативна, другими словами, если ситуация (Z, а) есть частный случай образца (X Ф) • Это хорошо согласуется с интуитивным представлением о сопоставимости. В других

случаях целесообразно вовсе не делать различия между образцом и ситуацией и считать ситуацией всякий образец, который используется для сопоставления с другим, бодее общим образцом.

Резюмируя все вышесказанное, дадим окончательное определение. Для того чтобы задать систему образцов, следует задать некоторую подкатегорию категории множеств, выделить объект 5 этой подкатегории, который будем теперь называть множеством констант. Образцом назовем пару QC, ф), где X - объект категории; ф — морфизм из Хв 5. Выделим некоторое подмножество множества образцов, элементы которого назовем ситуациями. Гомоморфизмом образцов (X, ф) и (У, ф) назовем морфизм х- X -* У категории, для которого фох=ф. Будем говорить, что ситуация сопоставима с образцом, если она является частным случаем этого образца.

В определении сказано, что категория, определяющая систему образцов, должна быть подкатегорией категории множеств. Формально это требование не является необходимым ни для самого определения, ни для последующих формулировок, и может поэтому быть опущено. Трудно представить себе задачу, кдторая вызвала бы рассмотрение категорий, не являющихся конкретными. Более того, во избежание теоретико-множественных трудностей считаем все рассматриваемые категории малыми.

В некоторых случаях удобно иметь возможность переходить от одного множества констант к другому, в этих случаях мы не будем изначально определять множество констант, оставляя возможность объявить множеством констант любой объект категории. Если S и R — два различных множества констант, можно говорить о ситуациях и образцах со значениями в SnR.

Следует сделать ряд замечаний относительно понятий обобщения и частного случая. Очевидно, что отношение ’’быть частным случаем” является предпорядком, т.е. рефлексивным и транзитивным отношением, В общем случае это отношение не является порядком, поскольку свойство антисимметричности может не выполняться, В самом деле, из существования гомоморфизмов образцов X: (X, ^) -► (У, ф^ ид: (У, ф) -> (X, ф) не следует равенство образцов (%, ф^ и (У, ф^ более того, не следует и их изоморфизм (естественно назвать изоморфизмом образцов обратимый гомоморфизм). Назовем образцы, каждый из которых является частным случаем другого, эквивалентными. Эквивалентные образцы задают одно и то же множество ситуаций в том смысле, что каждая ситуация, сопоставимая с одним из них, сопоставима и с другим. Можно сделать отношение ’’быть частным случаем” отношением порядка, если профакторизовать множество образцов^ по этому отношению эквивалентности.

До сих пор мы ограничивались рассмотрением образцов. Этого достаточно, чтобы узнать ситуацию, отнести ее к некоторому классу. Если мы хотим, чтобы система не только узнавала ситуацию, но и реагировала бы на нее, мы должны ввести в рассмотрение правила типа продукций. Как уже отмечалось, такое правило может состоять из двух частей: левой части, характеризующей условия применимости, и правой, характеризующей реакцию на поступившую ситуацию, В качестве левой части естественно рассматривать образец, Пусть R — некоторое множество реакций, доступных системе, Если продукция применима к данной ситуации, система должна выбрать один из элементов множества R в зависимости от информации, полученной в результате сопоставления ситуации с левой частью продукции. Согласно первоначальному определению ситуация понималась как элемент множества 5, образец — как отображение ф:Х->8, В случае успеха в результате сопоставления будет найден элемент х Е X, используя который, правая часть продукции должна найти соответствующий элемент г Е R, Таким образом, правая часть представляет отображение из множества X в множество /?, иначе говоря, ее можно рассматривать как образец со значением в множестве R, а всю продукцию рассматривать как пару образцов,

Поскольку в окончательном варианте определения системы образцов под ситуацией понимается не элемент множества S, а некоторый морфизм с областью значений 5, следует несколько видоизменить определение продукции. Это приведет нас к следующим определениям. Пусть в системе образцов заданы два множества констант S и R, Продукцией из S в R будем называть тройку (X, ф, ф)9 где ф — морфизм из X в 5; ф - из X в R, Таким образом ситуацию можно рассматривать как пару образцов (X, ф) и (X, ф) со значениями в S и Л соответственно, Пусть (I, а) — ситуация со значением в 5, т.е, I — некоторый объект категории, а а - морфизм из / в S, Продукция (X, ф, ф) применима к этой ситуации, если ситуация сопоставима с образцом (X, ф), т,е, если существует морфизм 0: I -> X, такой, что а = ф ° р, В этом случае будем называть морфизм ф о р :I-*R результатом применения продукции (X, ф,ф) к ситуации (I, а), Поскольку морфизм р может определяться из равенства а = ф о р неоднозначно, возможны различные применения продукции к ситуации,

В дальнейшем особое внимание будет уделено случаю, когда R = S. В этом случае система продукций может работать многократно; так как применение продукции к ситуации дает новую ситуацию из того же множества ситуаций (к ней может быть применена новая продукция и т,д.), пока не будут выполнены некоторые конечные условия, В других случаях удобно различать множества 5 и R, Например, при переводе с языка на язык естественно считать элементами-множества S фразы на первом языке, а элементами множества/? — фразы на втором языке.

Рассмотрим теперь ряд примеров, иллюстрирующих применение изложенного формализма для описания конструкций, традиционно используемых в искусственном интеллекте,

Пример 1, В ряде задач искусственного интеллекта используется схема сопоставления с образцом, которую мы будем называть классической. Суть ее заключается в следующем. Задается некоторое множество С констант и множество V переменных. Выражением называется ко-

нечная последовательность констант, образцом — конечная последовательность, состоящая из констант и переменных. Конкретизацией образца называется выражение, получающееся из него в результате подстановки вместо переменных произвольных констант (разумеется, все вхождения одной переменной в образец должны заменяться на одну и ту же константу). Выражение сопоставимо с образцом, если можно так конкретизировать образец, чтобы получилось данное выражение. Так, например, выражениеabc сопоставимо с образцомxby (здесь а, Ь, с ЕС, х, у Е V), так как при подстановке х = а, у = с образец превращается в это выражение; выражение же Ьас с приведенным образцом не сопоставимо,

Построим систему образцов, пригодную для описания изложенной схемы, Для этого в качестве объектов категории возьмем множества вида Сп, л >0, пру этом под множеством С° понимаем некоторое одноэлементное множество, которое обозначим символом Д Пусть задан образец р длины л, все переменные которого содержатся среди переменных хь ..., хт< (Определим отображение фр: С71 С1 следующим образом: ц>р (сь ..., cw) есть результат подстановки с, вместо Xf в заданное выражение, Отображения фр считаем морфизмами категории. Кроме того, для каждого выражения е длины п определим отображение ае : I С1, ставящее в соответствие единственному элементу множества I выражение е, такие морфизмы назовем ситуациями (таким образом, ситуации, формально определенные как морфизмы категории, фактически можно отождествить с выражениями). Теперь тот факт, что выражение abc сопоставимо с образцом xby, выражается в виде коммутативной диаграммы на рис. 3,

Пример 2, Другой вариант классического сопоставления с образцом получается, если разрешить подставлять на место переменной в образец произвольную последовательность констант (возможно, пустую). В этом случае выражение aba оказывается сопоставимым с образцом хау, ибо при подстановке х = ф, у = Ьа последний совпадает с первым. Для того, чтобы описать эту схему, следует несколько видоизменить построенную ранее категорию.

Обозначим символом S множество всех выражений, т.е. последовательностей элементов из С произвольной длины, В качестве объектов категории возьмем множества вида 5й, как и прежде, включим в число объектов категории одноэлементное множество 1 = 8°. Для каждого образца р, все переменные которого содержатся среди переменных хь ..., хт, определим отображение Фр:8т -►S, полагая, как и выше, что фр ($ь ..., sm) есть результат подстановки выражений $1,..., sm вместо переменных хь —, хт в образец р. Точно так же для каждого выражения $ определим отображение as;I->Se ставящее в соответствие единственному элементу множества I выражение s. Построенные отображения считаем морфизмами из Sw в S, морфизмы из 8т в 8п будем определять как прямые произведения ^i X ... X Ф$п морфизмов из 8т в 8.

Несмотря на внешнее сходство двух вариантов классического сопоставления с образцом, второй вариант с математической точки зрения является более сложным, некоторые различия двух вариантов будут отмечены ниже.

Пример 3. Второй вариант классического сопоставления с образцом может быть использован для описаний продукций, используемых обычно 136 '

в теории формальных грамматик. Типичная такая продукция имеет вид: I1 -* Z 2 и означает, что если в последовательности символов встречается подпоследовательность /1, то она может быть заменена на / 2. В переводе на язык сопоставления с образцом эта продукция принимает вид xlxy

xl2y и понимается следующим образом: если последовательность констант сопоставима с образцом xlxy, то ее следует заменить на образец xl2y, в который вместо переменных ^ и у подставлены значения, полученные ими в процессе сопоставления. На категорном языке это можно иллюстрировать диаграммой рис. 4. Здесь объект 52 вместе с морфизмами Фх1гу и ФхЦу представляет приведенную выше продукцию, морфизм а : I -* S — ситуацию (выражение), наличие морфизма 0, делающего диаграмму коммутативной, означает сопоставимость ситуации с образцом (52, ^^у), композиция фхцу представляет собой ситуацию, являющуюся результатом применения продукции к (Л а).

Пример 4. Этот пример связан с задачами, использующими исчисление предикатов.

Заданы множество элементарных констант С, множество переменных V и множество функциональных символов F (в логике различают функциональные символы и символы отношений, но для нас это сейчас несущественно). Выражение определяется рекурсивно следующими правилами: элементарная константа есть выражение, переменная есть выражение, если еь ..., еп - выражения, а / - функциональный символ, тоДе!;..., ^^выражение. Выражение, не содержащее переменных, назовем константой.

Каждое выражение можно рассматривать как образец, при этом правила сопоставления аналогичны рассмотренным в предыдущих примерах, а именно;, ситуация s сопоставима с образцом р, если в образец вместо переменных можно подставить константы (не обязательно элементарные) таким образом, что результат подстановки будет равен s, Если, например, понимать под выражением утверждение, которое верно при всех возможных значениях входящих в него переменных, то тот факт, что s сопоставимо с р, означает, что s логически следует из * р;

Построение соответствующей системы образцов аналогично приведенным в предыдущих примерах. Пусть S означает множество всех констант, В качестве объектов категории рассмотрим множества вида 5^, включив, как и в прудыдущих примерах, в число объектов множество 7 = 5°, которое будет служить источником ситуаций. Для любого выражения е, переменные которого содержатся среди переменныххх,..., хт> рассмотрим отображение фе • Sm -> S, такое, что ^е(е1э еее> еш) есть результат под-

станов ки констант-5i, .,., ет вместо переменных хъ ..., хт в выражение е. Такие отображения будем считать морфизмами из 8т в 5; морфизмы из Sm в Sn будем определять как произведения морфизмов ^tX...X^n. Ситуациями будем считать морфизмы из Z в 5 как и в предыдущих примерах; такой морфизм полностью определяется выбором элемента s G S в качестве образа единственного элемента множества/.

Пример 5. Рассмотрим еще пример несколько другого рода. Многие экспертные системы основаны на использовании систем продукций, причем типичная продукция действует следующим образом: она проверяет наличие у текущей ситуации ряда признаков и, если они присутствуют, добавляет к описанию ситуации новые признаки, которые могут быть использованы последующими продукциями. Например, в системе МИЦИН: если инфекционный тип —.1 первичная бактериемия, путь внедрения - желудочнокишечный тракт, материал для посева был отобран стерильно, то организм носит бактериальный характер.

Продукция прдворяет наличие первых трех условий в описании ситуации и, если они выполнены, добавляет к этому описанию четвертое.

Для того чтобы построить систему образцов, пригодную для описания продукций подобного рода, рассмотрим множество Р признаков и обозначим символом В (Р) множество всех подмножеств множества Р. Единственным объектом категории считаем множество В(Р). Для любого подмножества Q множества Р построим отображение Фд : В(Р) -*В (Р), определяемое следующей формулой: фд (Я) = QOR для любого R Е В^Р); подобные отображения считаем морфизмами категории. Ситуацией назовем любой морфизм из В(Р) в В(Р), т.е. понятия ’’ситуация” и ’’образец” будут в данном случае совпадать.

Рассмотрим, например, продукцию pip2 "* <7> понимаемую так: если ситуация обладает свойствами рх и р2, то она должна также обладать и свойством q. Так, если описание ситуации имеет вид (рь р2, р^ , то продукция применима и применение ее даст новое описание — (Рь р2, P3»QV На категорном языке этот факт выражется диаграммой рис. 5. Здесь пара морфизмов Ф{рх,р2) и Ф{р1,р1д^ представляет собой продукцию, морфизм Ф(р1>Рг>р^ - ситуацию, морфизм 1{рэ} — один из возможных морфизмов, делающих эту диаграмму коммутативной (таких морфизмов несколько); существование этого морфизма говорит о применимости продукции, и результатом ее применения является ситуация Ф^.р^д} ° ° ^{Р*} =<Р{р р2,р3,д}> соответствующая описанию{Р1,р2,р3, ^}.

Аппарат обобщенного сопоставления с образцом позволяет формализовать ряд понятий, встречающихся в различных задачах, связанных с представлением знаний. Рассмотрим некоторые из них, которые будут использованы в дальнейшем.

В теории частично упорядоченных множеств важную роль играют понятия точной верхней и нижней грани. Поскольку образцы упорядочены (точнее, предупорядочены) отношением ’’быть частным случаем”, можно попытаться найти соответствие этим понятиям для образцов.

Построим, например, образец, являющийся наиболее общим частным случаем пары образцов (X ф') и (X $ со значениями в S. По определению, должны существовать гомоморфизмы образцов из него в (X ф) и в (У,

Ф); более того, любой другой образец, являющийся частным случаем, как (X, ф), так и (У, ф), должен быть и его частным случаем. Все это приводит нас к следующему определению: образец (Z, х) вместе с морфизмами X : Z -* X и д : Z -* У называется наиболее общим частным случаем для пары образцов (X ф) и (У, ф), если Ф°Х = фоц= х; при этом, если (Z', X") - еще один объект и X' : Z' -*ХиЦ* :Z’ -*Y — морфизмы, для которых фо X' = V^ Д' = У\ то существует морфизм v: -Z& -t Z^. такой, что х = Хоу •

Как и в теории частично упорядоченных множеств, наиболее общий частный случай для пары образцов может не существовать. Отличие приведенного определения от принятого в теории категорий определения расслоенного произведения заключается в том, что не требуется- единственности морфизма v. Следствием этого является то, что мы не можем утверждать единственность с точностью до изоморфизма наиболее общего частного случая, можно лишь утверждать, что все такие частные случаи являются эквивалентными. Посмотрим, чему соответствует наиболее общий частный случай в разобранных примерах.

В примере 1 если пара образцов имеет хотя бы один общий частный случай, то она имеет и наиболее общий частный случай. Например, наиболее общим частным случаем пары образцов xby и хуа будет образец xba, это может быть изображено в виде коммутативной диаграммы рис. 6. Образцы ах и xb имеют единственным общим частным случаем ситуацию ab, этот частный случай, естественно, является наиболее общим. Пара, образцов ах и Ьх вовсе не имеет общих частных случаев. Можно видоизменить категорию, добавив к ней в качестве объекта пустое множество ф, тогда всякая пара образцов будет иметь наиболее общий частный случай (возможно, пустой).

Аналогичная ситуация имеет место и для примера 4: всякая пара образцов, имеющая хотя бы один общий частный случай, имеет и наиболее общий частный случай, который известен в логике как наиболее общий подстановочный частный случай, или унификатор; известен алгоритм, позволяющий по паре выражений построить их унификатор. Как и в предыдущем примере, дополнив категорию пустым множеством, получим, что наиболее общий частный случай всегда существует.

В примере 2 ситуация иная. Рассмотрим, например, образцы хау и xby и допустим, что Z — их наиболее общий частный случай. Образец I по определению есть последовательность, состоящая из переменных и констант. Если эта последовательность содержит хотя бы три константы, то

всякое выражение, являющееся частным случаем для I, имеет длину, большую чем 2, однако выражение ab, являясь частным случаем как для хау, так и для xby, должно быть частным случаем и для I, а его длина равна 2. Следовательно, в / могут входить самое большее две константы, остальными членами / должны быть переменные; Однако число констант не может быть и меньшим чем 2. В самом деле, всякий частный случай образца /, будучи также частным случаем хау, должен содержать константу а, а будучи частным случаем xby, должен содержать константу Ь, т.е. должен содержать хотя бы две константы. Таким образом, образец / должен содержать ровно две константы. Вернемся к выражению ab, являющемуся частным случаем /. Единственный способ получить выражение длины 2 из образца, содержащего две константы, — это положить в нем все переменные равными ф, следовател^о, первая из двух констант, входящих в /, есть а, а вторая — Ь. Однако, рассмотрев выражение Ьа, которое тоже является частным случаем для хау и для xby, следовательно, и для I, придем к противоположному результату: первая константа равна Ь, вторая - а. Полученное противоречие доказывает, что образцы хау и xby наиболее общего частного случая не имеют.

Будем говорить, что пара образцов рх и pi имеет ограничивающее снизу множество, если существует конечное множество образцов qx , ..., qni таких, что всякий q^ является частным случаем как рх> так и р2, ни для каких г и/, q^ не является частным случаем q, и любой образец, являющийся частным случаем рх и р^, является также частным случаем одного из q^, Если пара образцов обладает наиболее общим частным случаем, то этот частный случай один образует множество, ограничивающее снизу. В разобранном примере множество txaybz, xbyaz) является ограничивающим снизу для пары ^образцов хау и xby. Можно показать, что всякая пара образцов из примера 2 имеет ограничивающее снизу множество.

Ранее отмечалось, что наиболее общий частный случай может определяться неоднозначно. При некоторых дополнительных условиях можно утверждать, что наиболее общий частный случай, если он существует, является единственным с точностью до изоморфизма. Рассмотрим, например, категорию, все морфизмы которой являются мономорфизмами. В этом случае морфизм v из определения наиболее общего частного случая задается условием х' = Х° ^ однозначно, поэтому определение наиболее общего частного случая совпадает с определением расслоенного произведения, которое, как известно, единственно с точностью до изоморфизма.

Система, состоящая из мономорфных образцов, значительно проще, чем система, содержащая произвольные образцы. Отметим, например, что если образец (X, ф") является частным случаем образца (У, ф),и. существует морфизм х, такой, что ф^ фс% то морфизм х определяется однозначно, если 0 - мономорфизм, в частности сопоставление ситуации с мономорфным образцом может быть проведено единственным образом, соответственно применение продукции с мономорфной левой частью к ситуации может дать только один результат, если, конечно, ситуация вообще применима. (Напомним, что в общем случае применение одной и той же продукции к ситуации может дать различные результаты.)

Систему образцов из примера 1 можн<^сделать мономорфной, если потребовать, чтобы в образце фр : О71 -* О1 выражение р содержало все пере- 140

менные хг> ... хт> а не некоторые из них, как было сказано в первоначальном определении. Очевидно, что если ситуация сопоставима с образцом, то значения переменных, которые они получат при сопоставлении, определяются однозначно, это и означает мономорфность образца. (Рассмотрение образцов фр ; С™ ~>CnsB которых выражение р содержит меньше переменных, чем т, не дает ничего принципиально нового, но полезно с математической точки зрения; отказавшись от них, мы потеряем возможность рассматривать некоторые важные понятия, например прямые произведения. Наиболее основательным был бы следующий подход: разрешить рассмотрение немономорфных образцов, показав при этом, что каждый образец можно ’’без потерь” заменить на мономорфный, мы не будем этого делать, чтобы не усложнять изложение.)

Ситуация в примере 4 полностью аналогична: здесь также можно ограничиться мономорфными образцами. Пример 2 снова оказывается сложнее. Рассмотрим, например, образец хау и ситуацию aba. Ясно, что ситуация подходит под образец, но значения переменных х и у однозначно не определяются: существуют две возможные подстановки -х=ф, у = Ьа их = ab, у = ф, обе из которых сводят образец к ситуации. Поэтому применение продукции хау xbcy к ситуации aba может дать два результата: bcba и abbc, — смотря по тому, как было проведено сопоставление.

Рассмотрим одну задачу, иллюстрирующую важность понятия наиболее общего частного случая. Пусть заданы две продукции (X, ф, ф) из S в R и (У, £, т?) из R в Р. Продукции эти могут применяться последовательно: вторая к результату применения первой. Возникает естественный вопрос: нельзя ли заменить их одной? Говоря точнее, можно ли найти такую продукцию из S в Р, которая применима к ситуации а и переводит ее в ситуацию 7 в том и только том случае, когда существует ситуация /3, такая, что продукция (X, ф) применима к а и переводит ее в /3, а продукция (У, ф) применима к 0 и переводит ее в 7. В случае, когда в системе образцов существуют наиболее общие частные случаи, этот вопрос легко решается положительно. Рассмотрим следующую коммутативную диаграмму (рис. 7). Здесь (X, ф, ф) и (У, £, т?) — пара продукций, композицию которых мы будем строить. Для этого построим наиболее общий частный случай образцов (X ф) (У, $), на диаграмме он обозначен символом Z с морфизмами X и д, и покажем, что продукция (X Ф° X, 170 д) является искомрй композицией продукций. Пусть а : I -*8 произвольная ситуация. Допустим, что к а применима продукция (Z, фо X, т?о д), т.е. существует морфизм 0 :I -^Z, оставляющий диаграмму коммутативной. Рассмотрим морфизм 7 = Хо0 : : I -* X. Его существование доказывает применимость к а продукции (X ф), а ситуация фо у = фо Хор является результатом применения этой продукции. Положим 5 = до/3, В силу коммутативности диаграммы имеем фо у = go 5, откуда видно, что продукция (У, £, т?) применима к ситуации фо 7, и результатом является ситуация т?о 5 = 0о до т? — та же, что и в результате применения продукции (Z, фоХ, т?од) к а. Обратно, пусть известно, что продукция (X Ф, Ф) применима к ситуации а, т.е, существует морфизм 7 : I -* X, и пусть продукция (У, £, т?) применима к фо 7, что означает существование морфизма 5 : 7 -> У. В силу коммутативности диаграммы имеем фо у = ^ о Ь, откуда по определению наиболее общего частного случая следует существование морфизма Р : 7 Z, оставляющего диаграмму

коммутативной. Поскольку а = ф о Ло р, заключаем, что продукция (Z, Ф о Л, 17 о д) применима к а и результатом является 77 ° д о 0.

Отметим, что В случае, когда образцы (X $ и (У, £) не имеют наиболее общего частного случая, но имеют ограничивающее снизу множество, это множество порождает множество продукций из 5 в Р, которое эквивалентно паре продукций (X ф, ф) и (У, £, 77) в том смысле, что любой вывод, который может быть получен последовательным применением этих продукций, может быть получен применением одной из продукций множества.

Аналогично понятию наиболее общего частного случая может быть рассмотрено понятие наименьшего обобщения. Определение этого понятия следующее: образец (Z, х) вместе с морфизмами X : X -*Z и д : У -*Z называется наименее общим обобщением образцов (X Ф^ и (У, ф), если Ф = X ° X, ф = х ° Д и ддя любого объекта Z’ и морфизмов X' : X -* Z’ и д' : Y -^ Z' существует морфизм v ; Z -*Z\ такой, что х' = Х° ^, так что диаграмма рис. 8 коммутативна. Так же как и частный случай, обобщение может не существовать, в этом случае можно определить множество, ограничивающее сверху; с другой стороны, может существовать несколько неизоморфных наименьших обобщений, все они обязаны быть эквивалентными.

Вернемся снова к разобранным примерам. В примерах 1 и 4 всякая пара образцов имеет наименьшее обобщение. К примеру, наименьшим обобщением образцов abx и ахс будет образец аху, наименьшим обобщением образцов /(a, g (b, х), с) и f(h (н), g (z, b), с) - образец /( и, g (w, и),с).

В примере 2 наименьшее обобщение существует не всегда; так, например, пара ситуаций ab и Ьа имеет ограничивающее сверху множество {хау, xby} , но не имеет наименьшего обобщения.

Не останавливаясь на деталях, отметим, что в примере 5 наибольшим частным случаем пары образцов фQ1 и фQ2 является образец а наименьшим обобщением — образец фд^ ng2 • Таким образом, две определенные для образцов операции превращаются фактически в объединение и пересечение множеств.

Операция нахождения наименьшего обобщения может быть полезна для формирования гипотез. Так, если установлена истинность утверждений р(а, Ь) и р(а, с), где р — предикат, a, b, eV константы, естественно заме-

нить пару р(а, Ь^ и р^а, с) их наименьшим обобщением р (а, х) й предположить, что это утверждение тоже истинно; если позже будет доказано, что р(в, х), можно, обобщив р^а, х) и р^в, х), выдвинуть предположение об истинности р (у, х). Операция обобщения будет основной в описываемых ниже процессах обучения.

Оставшаяся часть работы будет посвящена вопросам, связанным с обучением и формированием понятий. Развитый аппарат обобщенного сопоставления с образцом позволяет сформулировать некоторые алгоритмы обучения в общем виде, не зависящем от конкретного типа‘данных, с которыми работает система.

Естественно рассматривать понятие как описание некоторого класса объектов, в нашем случае — ситуаций, имеющих общие черты. Такое описание позволяет, проанализировав ситуацию, определить, входит ли она в данный класс. Получив на вход ряд примеров ситуаций из заданного класса и ряд примеров ситуаций, не входящих в этот класс, система должна выработать подобное описание.

Отметим, что существует два подхода к обучающимся системам подобного рода.

Первый заключается в следующем: на вход системы подается случайная в некотором смысле последовательность ситуаций, про каждую из которых сообщается, входит ли она в заданный класс или нет; на основании этих дан&гх система должна сформировать описание класса. Второй подход заключается в специальном обучении системы с помощью тщательно подоб- * ранной последовательности обучающих примеров. Естественно, в этом случае обучение проходит быстрее. Излагаемые ниже алгоритмы в основном ориентированы на второй вариант обучения. (Впрочем, трудно провести четкую границу между двумя подходами.)

Поскольку образец характеризует некоторое множество ситуаций, именно множество ситуаций, которые с ним сопоставимы, естественно формировать понятия с помощью образцов. Рассмотрим самый простой вариант: пусть множество ситуаций, которое следует охарактеризовать, состоит из тех и только тех ситуаций, которые сопоставимы с некоторым фиксированным образцом. В этом случае задача системы заключается в том, чтобы найти этот образец. Предположим, что система образцов такова, что любая пара образцов имеет наименьшее обобщение. Будем использовать для наименьшего обобщения образцов фх и ^2 принятое в теории структур обозначение sup^, ^2) (так будем обозначать одно из обобщений, если их несколько), а для записи утверждения фх есть частный случай ^2 будем писать просто фх <ф2* Приведем простой алгоритм нахождения искомого образца. Пусть на вход системы поступает конечная последовательность «1, а2, ... ситуаций из заданного класса. Построим последовательность образцов следующим образом: фх = аь фп = sup(<p„_1# о^), л > 2. Можно утверждать следующее: в любой момент обучения фп > ат для всех т < п. Если ф — тот образец, который характеризует заданный класс ситуаций, то для любого п фп < ф. В самом деле, ^i = с^ < ф, если 1я < Ф> то по определению наименьшего обобщения имеем фп*1 г sup (фп ал+1) ^ А так как аЛ+1 < ф. Отсюда следует, что класс ситуаций, сопоставимых с фп, входит в класс ситуаций, сопоставимых с ф.

Таким образом, образец фп с ростом п становится все более общим, 143

оставаясь все время частным случаем ф, т.е. в определенном смысле приближается к нему снизу. Можно представить себе три случая. Во-первых, последовательность фп может стабилизироваться, не дойдя до ф, т.е. для некоторого и может быть Фк ~ Фп при всех к > п, но фп < ф (это означает, что ф8 < ф, но ф ^фпу Это свидетельствует о том, что обучающая последовательность выбрана плохо, поскольку все ситуации, которые должны быть частными случаями ф, фактически оказались частными случаями Фп < ф, не давая, следовательно, полного представления о классе, который следует описать. Второй случай состоит в том, что для некоторого и фп оказался эквивалентным ф, т.е. фп < ф и ф < фп. В этом случае процесс обучения закончен и фп — его результат, который, правда, отличается от ф, но описывает то же множество ситуаций. Поскольку ак ^Ф ^Фп Для любого к, получаем! фп = <Рл+1 = 1л+2 = т’е- дальнейшая работа обучающей системы не изменит результата.

Наконец, третий случай состоит в том, что последовательность фп не стабилизируется, но ‘и не доходит до ф, оставаясь все время ’’меньше”. Этот случай имеет, скорее, теоретический интерес. Для большинства систем образцов, связанных с конкретными задачами, такая ситуация невозможна. Так, например, все рассмотренные системы образцов (см. примеры 1—5) обладают следующим свойством: для любой пары образцов ф и ф, таких, что ф < ф, существует натуральное число dQp, ФУ такое, что для любой последовательности образцов фо, фх, ..., Фк» такой, что фо -Ф^Фк” ^^1*1 > > ф^, имеем КСсЦф, ФУ

Из этого условия очевидно, что: если и = d^aXs ФУ то можно построить обучающую последовательность а2, а3 ... так, что процесс обучения закончится не позже, чем через и шагов; для этого достаточно брать ап ^рп_х- Перейдем теперь к более сложным случаям. Пусть множество ситуаций, которое требуется охарактеризовать, не совпадает с множеством частных случаев ни для одного образца. Иногда бывает возможным охарактеризовать это множество с помощью нескольких образцов. Прежде чем переходить к этому, полезно отметить некоторую несимметричность операции взятия наиболее общего частного случая и операции взятия наименьшего обобщения.

Пусть (Z, х) - наиболее общий частный случай образцов (X, ф)-(У, Ф) и пусть (7, а) — произвольная ситуация (рис. 9). Допустим, (7, а) сопоставима с (Z, х), т.е. существует морфизм 8: 7 ->Z, такой, что а = = Х° 5. Взяв Р = X о5иу=до5, находим а = фо р = ф о у, т.е. (7, а) является частным случаем как для (X, ф), так и для (X, ф). Наоборот, если (7, а) — частный случай ф и ф, т.е. существуют морфизмы 0 и у, для которых а = фо р = ф о у, то по определению (Z, х) существует морфизм 5 , такой, что а = х ° 8, т.е". а — частный случай для х-

Таким образом, ситуация а является частным случаем и для ф и для ф в том и только том случае, когда а является частным случаем для их наиболее общего частного случая, следовательно, операция взятия наиболее общего частного случая соответствует в некотором смысле логической конъюнкщш.

Двойственное же утверждение (а именно а — частный случай ф или а — частный случай ф в том и только том случай, когда а — частный случай для наименьшего обобщения ф и ф) в общем случ^, вообще говоря, не верно. 144

Легко показать, что если а — частный случай ф или ф, то а — частный случай наименьшего обобщения ф и ф. Для того чтобы показать, что обратное может быть неверным, вернемся к примеру 1. Пусть множество С констант состоит из элементов а и к Рассмотрим образцы ах и xb. Существуют ровно три ситуации, являющиеся частным случаем одного из этих образцов, а именно аа, аЪ и bb, четвертая возможная ситуация Ьа не подходит ни под один. Однако не существует образца, имеющего в точности эти три частных случая. Наименьшим обобщением образцов ах и xb является образец ху, имеющий в качестве частных случаев четыре возможные ситуации.

Пусть Ф,ф — образцы. Образец х, частными случаями которого являются в точности те ситуации, которые являются частными случаями либо для Ф, либо для ф, естественно назвать дизъюнкцией образцов. Легко показать, что дизъюнкция двух образцов является также их наименьшим частным случаем. Системы образцов, в которых каждая пара образцов имеет дизъюнкцию, можно назвать дизъюнктивно замкнутыми. Ни одна из систем образцов, описанных в примерах 1—5, дизъюнктивно замкнутой не является.

Для того, чтобы получить аналог дизъюнкции в произвольных системах образцов, нужно перейти к рассмотрению пучков образцов. Пучок образцов — это конечное множество ф^,..., фп образцов со значениями в одном и том же множестве; говорят, что ситуация сопоставима с пучком или является частным случаем пучка фх -^Фп». если она сопоставима с одним из образцов пучка. Два пучка считаются эквивалентными, если с ними сопоставимы одни и те же ситуации.

Теперь можно определить операции над пучками. Дизъюнкцией пучков VPi, —, ФуЛ и { ^i , —> ФгЛ будем называть объединение { фх, ..., фт, фХ) ..., фп} или эквивалентный ему пучок. Конъюнкцией ф&ф двух образцов будем называть множество, ограничивающее снизу пару Ф, ф (т.е. конъюнкцией пары образцов является пучок); в частности, если существует наиболее общий частный случай для ф и ф, то он будет конъюнкцией. Конъюнкция пучков ^фг, ...,<рш} и {Ф1,..., фп^ есть объединение пучков вида Ф1&ф^ Очевидно, что операции дизъюнкции и конъюнкции коммутативны и ассоциативны и что выполнены тождества PiA(P2 VP3) = (Pi АР2) V (Pi АР3) и Pi V (Р2АР3) = = (PiVP2)A(Pi VP3).

Если считать, что всякий пучок Р определяет множество Р* ситуаций, содержащее те и только те ситуации, которые сопоставимы с Р, то (Р1А^)*=Л*ПР2*и(Р1 VP2)*=P!* UP?.

С помощью пучков можно охарактеризовать довольно широкий класс 1/210. Зак. 551 145

подмножество множества ситуаций. (Теоретически любое конечное множество можно представить в виде пучка, включив в этот пучок все ситуации множества; разумеется, на практике такое описание может оказаться непригодным, если множество достаточно велико.) Естественно поэтому разработать алгоритм, строящий по обучающей последовательности элементов некоторого множества пучок образцов, характеризующий это множество. Простое обобщение в этом случае не подходит. Представим себе, что заданное множество описано пучком {ах, xb) (мы снова пользуемся терминологией примера 1). Если на вход системы поступят Ситуации ас и cb, обе сопоставимые с заданным пучком, то, взяв их наименьшее обобщение, система получит образец ху, который содержит лишние ситуации (например, Ьа). Дальнейшее обобщение может только испортить дело. J

Единственный способ справиться с чрезмерным обобщением — это допустить, кроме примеров — ситуаций из заданного класса, контрпримеры — ситуации,‘не принадлежащие к заданному классу. Рассмотрим следующий алгоритм построения пучка образцов, описывающего некоторый класс ситуаций.

Исходно. пучок пуст. Первая ситуация, поступившая на вход, становится единственным элементом пучка. В дальнейшем действуем следующим образом. При поступлении очередного примера проверяем, сопоставим ли он с пучком, построенным к настоящему моменту (т.е. сопоставим ли он с одним из образцов пучка). Если да, то не делаем ничего, в этом случае пример не добавляет ничего к нашему знанию. Если нет, то добавляем новую ситуацию к пучку, а затем строим замыкание пучка относительно операции взятия наименьшего обобщения; для этого достаточно добавить к пучку наименьшее обобщение поступившей ситуации с каждым из имеющихся в нем образцов.

При поступлении контрпримера удаляем из построенного к настоящему моменту пучка все образцы, под которые подходит поступивший контрпример.

Пусть класс ситуаций, описание которого следует получить в результате обучения, задан некоторым пучком образцов (^,..., фГ) разумеется не известным в начале обучения. Целью обучения является в этом случае нахождение пучка ^, ..., <рг или эквивалентного ему. Проанализируем работу алгоритма в этом случае. Назовем образец ф правильным, если он является частным случаем одного из образцов ф^ .Пусть Фл - пучок, построенный на №м шаге работы алгоритма. Заметим, что если ф — правильный образец и ф Е ^П9 то ф Е^к для всех к > и, т.е. правильный образец, раз появившись в пучке, останется в нем до конца обучения. В самом деле, единственный случай, когда образец может быть удален из пучка Ф, это появление контрпримера, подходящего под этот образец, но контрпример не может быть частным случаем правильного образца, ибо если а — ситуация, ф — правильный образец и а < ф9 то для того фь для которого ф < фп, имеем а < фь следовательно, а не может быть контрпримером.

Назовем правильный образец ф из,пучка Ф максимальным в Ф, если в Ф нет правильного образца у , для которого ф < ф1 и ф, ф* не эквивалентны. Из этого определения следует, что всяк^1 правильный образец пучка Ф является частным случаем максимального правильного. *

Пусть Ф* означает множество максимальных правильных образцов пучка Ф. О чевидны следующие утверждения.

Всякая ситуация, сопоставимая с Ф^, сопоставима с ^i,...,<^.

Всякая ситуация, сопоставимая с Ф*, сопоставима с Ф£ для всех к > и, в частности, все примеры, поступившие на вход к моменту п, сопоставимы с Ф*.

Таким образом, пучок Ф^, оставаясь все время ’’меньше” пучка Фх,..., фГ) приближается к нему снизу, не убывая и возрастая всякий раз, когда пример a„ + t не сопоставим с Фл.

Для того чтобы рассмотреть вопросы сходимости алгоритма, заметим, что число элементов в Ф* не может быть большим, чем г. В самом деле, пусть ф \ ф п G Ф* и пусть 01 < ф(, ф м < фн для некоторого L Поскольку пучок Ф„ все время замкнут относительно взятия наименьшего обобщения, в Ф„ должен быть образец ф, являющийся наименьшим обобщением для ф’ и ф^; по определению наименьшего обобщения имеем ф < фь т.е. ф - правильный образец, что противоречит максимальности ф1 и ф. Полученное противоречие проистекает из предположения ф’ <^ ифм<Ф( » следовательно, для каждого / = 1,..., г в Ф£ может быть не более одного образца ф, такого, что Ф^Фь следовательно, общее число элементов в Ф* не превосходит г .

Всякий раз, когда на вход алгоритма поступает пример ат не являющийся частным случаем пучка Фл - i, один из образцов, входящих в Ф*, ’’возрастает”. Если ф €^% и ф < ф^ то ф ’’достигнет” фь самое большее, за d^, ф^, поскольку в Ф* — конечное невозрастающее число элементов. Ф* станет эквивалентным пучку фх,..., фг за конечное число шагов.

В Фл существуют образцы, не входящие в Ф^. Некоторые из них являются слишком сильными обобщениями и будут со временем уничтожены контрпримерами, остальные образцы, входящие в Фл но не входящие в Ф£, могут только ускорить сходимость алгоритма. Практическая проверка алгоритма показала, что он на первых шагах дает слишком сильные обобщения и затем тратит много времени, чтобы их ликвидировать.

Для того, чтобы ограничить возможность обобщений, введем некоторую характеристику образца, называемую мощностью. Мощность w^ образца Ф*. X -* S есть число, характеризующее, насколько большая часть S входит в образец ф, или, иначе, какая часть ситуаций со значениями в S является частным случаем ф. Мощность может задаваться различными способами для различных задач. Можно просто определить мощность образца со значением в S как отношение количества ситуаций, сопоставимых с этим образцом, к количеству всех ситуаций со значениями в 5, Можно давать другие определения мощности, например для образца из примера 1 можно считать мощностью отношение количества переменных в образце к длине образца. Единственным свойством мощности, которое будет существенно для нас, является следующее: если образец ф является частным случаем образца ф, что w (^) <w (ф), при этом равенство достигается только в случае эквивалентности ф и ф. Естественно также нормировать мощность, считая w (ф) = 1,если всякая ситуация является частным случаем для Ф. В этом случае очевидно, что w (i) < 1 для всех ф.

Теперь можно видоизменить алгоритм следующим образом. Введем некоторый порог W, 0<ИЧ1. Пусть пучок Ф„ содержит образцы ф’ и

фп, и пусть ^ — наименьшее обобщение этих образцов, как показано на диаграмме рис. 10. Будем добавлять образец р к пучку только в том случае, если w (X) < W и w (д) < И'. Чем меньше W, тем медленнее будет меняться множество ^п.

Другим недостатком алгоритма с точки зрения практического его использования является чрезмерное разрастание множества ^п. Действительно, построив наименьшее обобщение ф образцов ф1 и ф", мы сохраняем и сами эти образцы. Отказаться от этого нельзя, ибо обобщение ф может оказаться слишком сильным и будет уничтожено впоследствии контрпримером: однако можно некоторое время следить за образцами ф, ф' и фм и, если в течение этого времени образец ф работает нормально, и ф' и фМ) следовательно, не используются, удалять эти образцы.

Рис. 10

Авторами настоящей работы была реализована модель системы, которая располагала все входящие в Ф„ образцы в виде списка. Всякий раз, когда очередной пример а„ + t оказывался частным случаем образца ф Е ^п, этот образец перемещался в начало списка (в другом варианте — передвигался по направлению к началу), в результате неиспользуемые образцы постепенно оказывались в конце списка. Система периодически уничтожала конец списка, не давая множеству Фл слишком разрастаться.

Упорядочение образцов преследовало еще одну цель. Всякий раз, когда на вход поступала очередная ситуация, сопоставление начиналось с первых образцов в списке, тем самым образцы, использование которых чаще приводило к успеху, включались в перебор первыми, что сокращало время ответа на вопрос, входит ли ситуация в заданный класс. В изложенном алгоритме система не хранит информации о контрпримерах. Каждый контрпример служит для того, чтобы проверить правильность построенного описания, после этого он ’’забывался”. В результате система может повторять одни и те же ошибки, вновь и вновь создавая обобщения, отвергнутые на предыдущих шагах.4

Рассмотрим алгоритм, который сохраняет информацию как о примерах, так и о контрпримерах. Для простоты считаем, что класс ситуаций, для которого надо сформировать описание, задается одним пучком <р. Будем строить пару образцов Ф„ и Хи с условием Фп^Ф^Хп> так> что фп + i > > фп,Хп + 1 < Хи- Таким образом, мы будем приближаться к р сверху и снизу.

Будем действовать следующим образо\«. Исходно возьмем в качестве Фо минимальный образец в системе образце^, в качестве Хо — максималь- 148

ный, так, чтобы условие ф0 <ф<: Хо заведомо выполнялось. Всякий раз, когда на вход подается ситуация а„, полагаем фп равным наименьшему обобщению фп _ 1 и а„, при этом, если не выполнено «„ < Хи - i > система фиксирует противоречие, Контрпример ап будем, следуя Уинстону [2], обозначать термином ”почти то”, если существует ровно один образец |, такой, что | < Хи - 1,5 > Фп - 1, «и ^ £, и не существует образца т? > £, такого, что т? <Хп - 1Л^Фп - 1>ап^'П* В этом случае положим Хи = £• Используя те же методы, что и в предыдущих примерах, можно показать, что фп монотонно возрастает, Хп — монотонно убывает, и что они сойдутся за конечное число шагов.

Изложенные алгоритмы дают хорошие результаты в тех случаях, когда множество ситуаций, которое требуется описать, устроено достаточно просто. Идеальным является случай, когда оно описывается одним образцом, несколько хуже — если оно описывается пучком, состоящим из небольшого количества образцов. Однако в сложных случаях количество образцов в пучке оказывается сравнимо с количеством ситуаций в множестве. Фактически это означает, что каждую ситуацию нужно хранить отдельно, что, разумеется, неприемлемо для больших множеств.

Методы, предлагаемые далее, могут быть полезны в тех случаях, когда достаточно сложно устроенная ситуация может быть разбита на несколько более простых, которые, в свою очередь, строятся из еще более простых, и тд. Нечто похожее имеет место в лингвистике: так, фраза может быть построена из группы существительного и глагольной группы, которые, в свою очередь, могут состоять из еще более мелких объектов, и т.д.

Основным" понятием, используемым для описания некоторого множества ситуаций, будет дерево образцов, которое состоит из объекта категории, называемого корнем, и множества (возможно, пустого) поддеревьев. Если S — корень дерева, обозначим множества корней поддеревьев этого дерева символом sub (5). Считаем, что для любого объектах входящего в дерево, и для любого объекта Y Е sub (X) определен морфизм Фух : Y-*x Таким образом, (У, фух) - образец со значением в X. Пусть S — корень дерева. Ситуация a :I -* S называется сопоставимой с деревом, если существует последовательность Х0) Х, ..., ХП) где Хо = = S, Xt Е sub (Х,- _ j), sub (Хп) = ф и морфизм р:1-*Хп такой, что а = фХг х° 0 Фхг хг Фхпхп _ 1 ° Р. Например, на приведенной на рис. 11 диаграмме ситуация а сопоставима с деревом, если фх ° ф3 о р = а. Отметим* что с определенной точки зрения дерево не дает ничего нового по сравнению с пучком. Так, например, приведенное выше дерево может быть заменено пучком (рис. 12), который описывает в точности то же множество ситуаций, что и это дерево. Смысл рассмотрения деревьев заключается не только в том, что они лучше отражают внутреннее строение ситуации, но и в том, что в ряде случаев они позволяют хранить информацию в более компактной форме, как будет показано в дальнейшем.

Алгоритм, описываемый ниже, строит по последовательности обучающих примеров некоторое дерево, описывающее эти примеры. Ограничимся на этот раз только положительными примерами, разбор алгоритма обработки контрпримера усложнил бы изложение и затемнил бы основные идеи использования деревьев.

Начнем с дерева, содержащего единственный объект — множество кон-

*I*I

*

I

*

I

стант 5. При поступлении на вход ситуации (I, а) добавим ее к дереву, т.е. положим sub(3) = {7} и ф18 = а. Пусть к некоторому моменту уже построено дерево с sub (5) = (Хь ..., Х^ и пусть на вход поступила ситуация а. Если эта ситуация не сопоставима ни с одним образцом ^ = Фх^ •’ ^ ** S, добавим ее к дереву, положив sub (5) = { Х1#. . . , Хп,Ц , Ф18 = а> и для каждого фi рассмотрим наименьшее дбобщение ^ и а. Пусть (У, ф) вместе с морфизмами Л : Х^ У и д : 7-> Y — наименьшее обобщение образцов ф^ и а, как показано на диаграмме рис. 13. Если образец ф не является наибольшим элементом в множестве образцов со значениями в 3, т.е. если существуют ситуации со значением в 3, не сопоставимые с ф, удалим из sub (5) объекты Xt и I (соответственно удалим морфизмы Ф< и а) и добавим к sub (5) объект Y с морфизмом ф, присоединив к нему в качестве поддеревьев поддерево исходного дерева, начинающееся с объекта Х1? положив Фх^= ^ и дерево, состоящее из единственного объекта 7, положив ф1¥ = Д .

Если ситуация, поступившая на вход, сопоставима с одним из образцов Фь как показано на диаграмме рис. 14, то применяем алгоритм рекурсивно к поддереву, начинающемуся с объекта Х^ считая, что на вход подана ситуация (7, 0) со значением в Xj, (если окажется, что sub (Х^) = ф, то не делаем ничего; это означает, что ситуация, поступившая на вход, нам уже знакома). Рассмотрим пример работы алгоритма, используя систему образцов, описанную в примере 1. Пусть 3 = Л2. Исходное дерево состоит из единственного объекта 3. Допустим, на вход поступила ситуация аа. Эта ситуация добавляется к дереву, в результате чего оно принимает вид рис. 15, а. Пусть следующая ситуация, поступившая на вход, есть ab. Добавляя эту ситуацию к дереву и заменяя полученную пару ситуаций на их обобщение, получаем рис. 15, б. Пусть следующая ситуация, поступившая на вход, есть ас. Ситуа-

я1

?аа

Р и с. 15

ция сопоставима с образцом ох, как видно из диаграммы рис. 15, в, поэтому переходим к поддереву с корнем Л, добавляя к нему ситуацию (7, <рс). Результат изображен на диаграмме рис. 15, г. Допустим, очередная ситуация равна Ьа. Она приводит к следующему дереву на рис. 15, д. Наименьшее обобщение образцов фах и фЬа есть Фух- Этот образец является наибольшим элементом в множестве образцов со значениями в Л2, всякая ситуация со значением в Л2 является его частным случаем, поэтому он не добавляется к дереву и не заменяет образцы фах и фьа- Поступление на вход ситуации (^приводит к дереву рис. 15, е и т.д.

Отметим одну особенность описанного алгоритма: он не делает никаких обобщений и может распознать только ту ситуацию, которая поступала ранее на вход. Алгоритмы, излагаемые дальше, этим свойством обладать не будут.•

Следующим шагом в развитии алгоритма будет введение операции отождествления поддеревьев. Сущность ее заключается в следующем: система периодически (например, после каждого изменения дерева) просматривает все поддеревья с целью проверки, нет ли среди них одинаковых. Если такие находятся, они заменяются одним.°

Пусть, к примеру, дерево, построенное выше, после поступления ситуации Ъс приняло вид как на рис. 16. Обнаружив равенство двух поддеревьев, система приведет дерево к виду, как на рис. 17. Отметим, что с этого момента система начинает в процессе обучения делать самостоятельные выводы, которые позволяют ей классифицировать ситуации, ранее не поступавшие на вход, но в то же время могут привести к ошибкам. Так, если на вход системы подать ситуацию ad, то к нижнему поддереву добавится ситуация ф^, это приведет к тому, что система будет классифицировать как правильную ситуацию bd, хотя она ни разу не появлялась на входе.

В • практических системах разумно отождествлять поддеревья не только . в том случае, когда они равны, но и в том случае, когда они достаточно близки. Так, например, для отождествления объектов X й У вместо равенства множеств sub (А) и sub (У) можно требовать наличия у них доста- ■

точно большого пересечения. Это сделает систему обучения более мощной, хотя и увеличит возможность ошибок.

Вообще, как только система начинает делать выводы относительно ситуаций, которые не поступали ранее на вход, уберечься от ошибок невозможно. Для того чтобы исправлять возможные ошибки, необходима работа с контрпримерами, обсуждение ее выходит за рамки данной статьи.

Отметим интересный момент: в результате отождествления поддеревьев в дереве могут образоваться петли, т.е. оно фактически перестанет быть деревом. Рассмотрим, например, систему образцов, описанную в примере 2. Пусть дерево образцов содержит фрагмент рис. 18. Система может заметить, что дерево с корнем Lx и его поддерево с корнем £2 различаются только наличием в первом лишней стрелки; решив, что они достаточно близки, система отождествит их, что приведет к диаграмме рис. 19. Такие деревья представляют собой рекурсивные описания, возможность создавать такие описания делает использование деревьев более мощным средством, чем использование пучков. Приведенное дерево описывает, например, последовательности ab, aab и подобные.

В ряде случаев ситуацию можно разбить на составные части так, что для решения вопроса о принадлежности ситуации некоторому классу необходимо проанализировать независимо ее составные части. Рассмотрим, например, следующее описание: ситуация ху принадлежит некоторому классу ситуаций в том и только том случае, когда х G{a, b, с}, ayE {d, е, f, g}. В этом случае можно представить искомый класс как { а„ Ь, с}Х Xld, е, f, g}. Поскольку прямое произведение является категорным понятием, можно рассмотреть подобную ситуацию в общем случае. Для этого включим в дерево образцов, кроме узлов-объектов, узлы-произведения, которые обозначим символом 8, точнее , в диаграмме рис. 20 понимаем под символом 8 прямое произведение объектов ХхХ2) ..., Хп. Стрелки на этой диаграмме .обозначают проекции произведения на каждой из сомножителей. В частности, дерево, описывающее приведенный только что пример, имеет вид, показанный на рис. 21.

По определению прямого произведения для любого объекта Y и набора морфизмов ф<: Y -*Х{ существует единственный морфизм ip; Y-*8, делающий диаграмму рис. 22 коммутативной для всех /. Пусть мы имеем дерево, как на рис. 23.

Ситуация (/, а) сопоставима с ним, есри суп^ествует набор морфизмов ft: I -* Хь таких, что единственный определяемый ими морфизм 0:7 -> -► 8 удовлетворяет равенству «#>»/? = а. Каждой раз, когда в дереве создает-

Р и с. 22

Р и с. 23

Р и с. 24

ся новая вершина или видоизменяется старая, система проверяет, нельзя ли разбить ее в произведение. Для этого можно использовать тот же алгоритм, что и для обобщения. Рассмотрим пример. Пусть задано дерево, как на рис. 24. Переменным х и у умышленно приданы разные имена, для того чтобы подчеркнуть, что они отсылают нас к разным поддеревьям. Подвергнем образцы ах и by процедуре обобщения, считая символы х и у константами. В результате получим образец ми, который является наибольшим и поэтому не рассматривается.

Заменим теперь в приведенном примере букву d на букву с. Тогда система заметит, что дерево содержит два равных поддерева и отождествит

их, в результате чего мы придем к дереву, как на рис. 25. Здесь в обоих образцах переменная названа одной буквой х, так как ее значение ищется в одном и том же поддереве. Теперь процедура обобщения, примененная к ах и Ьх в предположении, что х — символ константы, даст нетривиальный результат: их, поскольку обнаружен общий символ в обобщаемых образцах. Если изобразить результат обобщения на диаграмме, получим рис. 26. Здесь нижнее дерево дает возможные значения переменной и. Вспоминая теперь, что х обозначает не константу, а переменную, т.е. ссылку на подпучок, переходим к произведению части и и части X 'ситуации (рис. 27). Отметим, что, если заменить в этом примере с на а, система построит еще более компактное описание (рис. 28).

Использование метода разложения в произведение может быть полезно, например, в лингвистике. В самом деле, правило типа < предложение) = = < группа существительного) < глагольная группа) естественно задавать в виде произведения деревьев, описывающих строение группы существительного и глагольной группы.

В заключение скажем несколько слов о более сложных задачах, связанных с обучением, л которых от системы требуется не только научиться узнавать ситуацию, но и уметь обрабатывать ее определенным образом. Такая система должна формировать на основе обучения правила продукций или нечто, аналогичное им. Поскольку разработка общих алгоритмов для таких систем находится в самой зачаточной стадии, ограничимся кратким изложением одного из возможных путей, по которому можно двигаться.

Рассмотрим два дерева образцов с корнями S и R соответственно. Потребуем, чтобы всякая концевая (т.е. не имеющая поддеревьев) вершина дерева S была бы также концевой вершино^дерева R и наоборот. Пусть

(J, a) - ситуация co значением в 5, сопоставимая с первым пучком; это означает, что для некоторой концевой вершины Хо первого деревами по-

^0^1 - Фп — 1

следовательности .Хо -> Хх -* :::>Хп = S, Xt Gsub(Xz_ х ) существует морфизм 0: Г-^Хо, такой, что а = фп_х ° ... °Фо »3-ПосколькуХо является также концевой вершиной для второго дерева, в нем существует последо- ф0 ^11■

вательность Yo = Хо -> Yx ... * Yk = R. Считаем ситуацию

Фк-1 ° — ° ^о ° Р результатом применения описанной ’’суперпродукции” к а.".

Можно построить алгоритм, формирующий подобную пару деревьев по поступающей на вход последовательности ситуаций и правильных реакций на них. Такой алгоритм действует следующим образом. Пусть на вход поступает пара (Z, a), (Z, 0), где а - ситуация; 3 — результат, который должен получиться при правильной обработке этой ситуации. Если ситуация а сопоставима с одним из образцов ^xs-X ”*5, входящих в дерево, а это означает, что существует морфизм a :1-^Х, такой, что a = Фх8<Л то применяем рекурсию, заменяя дерево S на поддерево с корнем X, а ситуацию a — на а. Точно так же поступаем в том случае, если ситуация 3 сопоставима с одним из обреазцов фук : Y -* R дерева R. В остальных случаях добавляем к каждому из деревьев новую концевую вершину Z, связанную морфизмом а с 5 и морфизмом 3 с R, И проводим в каждом из поддеревьев операции обобщения, отождествления, разложения в прямое произведение, как это было описано ранее.

Организованная таким образом система, ориентированная на перевод, получив на вход несколько английских фраз и их русских переводов, построила приводимую на рис. 29 пару деревьев.

ЛИТЕРАТУРА•

MacLane S. Categories for the working mathematician. B. etc.: Springer, 1972. 250 p.

Уинстон П, Искусственный интеллект. M.: Мир, 1980. С. 42-59.

УЖ 517.11

ПРОЦЕССЫ КЛАССИФИКАЦИИ-с

ОСНОВА ПОСТРОЕНИЯ НАУК

О ДЕЙСТВИТЕЛЬНОСТИ

Л.Г. МАЛИНОВСКИЙ

В настоящее время наблюдается повышенный интерес со стороны специалистов различных естественных наук [1] к процессам классификации. Об этом свидетельствуют школы-семинары, проходившие в Борке в 1979 г. и Пущино в 1986 г., а также семинар по теории и методологии классификации под руководством Г.Б. Бокия. В методологическом отношении можно выделить в основном два направления в подходах к процессам классификации. Эти направления разделяются в зависимости от того, что берется за основу в процессе классификации, а именно: основа — высказывания (теоретические представления), следствия — классификации действитель-

ности или основа — конкретные примеры действительности, следствия — классификации, высказывания (теоретические представления). Первое направление получило отражение, например в статье [2], другое на школах- семинарах в Борке и в Пущино было представлено статистиками и распознавателями образов, занимающимися конкретными классификациями объектов различной природы с использованием ЭВМ. В то же время методологическое осмысление второго направления было представлено недостаточно ясно. На восполнение этого пробела направлена настоящая статья. История этого вопроса и его дискуссионные моменты проявились впервые, конечно, не на упомянутых школах-семинарах, а гораздо раньше, однако в выступлениях всех специалистов по классификации на семинарах и в печати предыстория такого расхождения обойдена вниманием, а изложение ведется в духе естественнонаучных дисциплин как открытие некоторых новых научных закономерностей. Поясним, о чем идет речь.

Процессы классификации являются конкретизацией интуитивного познания и основополагающей частью мышления. В качестве наиболее распространенных мыслительных процессов процессы классификации фигурируют в виде процессов узнавания окружающих предметов; чаще всего они не включаются в число классификационных представителями первого направления. В связи с важностью этих процессов и их универсальностью специалисты различных областей знаний периодически обращают свое внимание к этим процессам или только к какой-то их части. Общепринятой точки зрения у специалистов различных наук на то, ч^о представляют собой эти процессы, как сказано выше, к настоящему моменту не существует.

В более широком историко-научном плане можно сказать, что различные конкретизации этих процессов породили различные логико-математические направления, полярным выражением которых являются теоретико-множественные и интуиционистские [3]. Имеется также много более мелких градаций, связанных с различными конструктивными приемами в построении той или иной^логико-математической системы.

Однако с появлением вычислительных машин (ЭВМ) появилась возможность моделирования этих процессов в виде процессов распознавания образов, статистической классификации, дискриминантного анализа. Сформировались определенные точки зрения на то, что представляют собой эти процессы [4]. Вследствие этого специалистам, которые не занимаются непосредственно моделированием их, небесполезно в общих чертах познакомиться с тем, что представляют собой эти процессы в виде моделей на ЭВМ. Описанию конкретной системы программ для решения задач классификации и анализа информативности системы измерений в этих задачах посвящена статья [5] .С использованием конкретизации процессов классификации, сформировавшихся при их моделировании на ЭВМ, возможно построение основ математики (некоторой логико-математической системы), которой подошло бы название ’’содержательная финитная математика”. При этом имеется в виду математика как наука о действительности. Помимо математики, на этой же основе возможно и целесообразно построение всех Наук о действительности. При этом наряду с использованием процессов классификации, которые аналогичны у всех людей (предметы обихода, примеры действительности, не вызывающие дискуссии при классификации), в теоретических построениях используются аналогии (класси-

фикации в один класс* весьма далеких внешне объектов или процессов). Плодотворность одних аналогий может быть весьма высокой, а других — сомнительной. Основой содержательного подхода к математике и другим наукам является аналогия процессов мышления и работы ЭВМ с конечной памятью. Одними из процессов мышления, допускающих моделирование на ЭВМ (по-видимому, центральных), являются процессы классификации, задаваемые конечным числом конечных обучающих примеров, что, как говорилось выше, является альтернативой теоретико-множественному подходу, где основой являются высказывание и словесные определения некоторого свойства или признака. Т.е. легко видеть, что понятие множества тесно связано с понятием класса, но основой для построения множества являются не примеры, а высказывания или некоторые признаки, задаваемые словесным определением. При чистом теоретико-множественном платонистском подходе, который получил название наивного и взят на вооружение многими математиками, возникают известные в логике и математике неприятные моменты, а именно: бессодержательные теории, логические круги, парадоксы. Понятие процесса классификации, задаваемого примерами, имеет большую универсальность по сравнению с понятием множества, так как классифицировать по примерам можно не только объекты, но и их свойства (признаки, предикаты), а также действия, производимые с этими объектами.

При построении как содержательной финитной математики, так и основ других наук в качестве основы построения необходимо брать примеры действительности и те процессы мышления, которые допускают моделирование на ЭВМ с конечной памятью, т.е. представляют собой процессы, имеющие модельные примеры. Среди этих процессов можно указать следующие.

Процессы классификации и измерения, которые в виде процессов узнавания протекают у всех людей одинаково и не приводят к дискуссионным построениям.

Процессы классификации в виде привлечения аналогий, которые могут приводить к дискуссионным построениям. Дискуссионные построения (теории) возникают в зависимости от привлечения той или иной аналогии. Такие классификации могут быть весьма плодотворными, но могут быть и весьма субъективными. Здесь весьма уместно разделение на искусственные и естественные классификации (аналогии).

Процессы аппроксимации дискретных данных непрерывными алгоритмами. .

Процессы чистого отвлечения, когда во внимание берутся одни свойства объектов и явлений и оставляются без внимания другие. Здесь весьма широкая область для дискуссионных (альтернативных) теоретических построений одного реального явления действительности. К такого рода процессам можно отнести упрощение математических выражений, которое в традиционной математике получаем при устремлении каких-либо величин к бесконечности. Такое упрощение должно являться смыслом идеализаций бесконечности (не допустимы ни потенциальная, ни актуальная бесконечность), и вне такого упрощения использование представлений о бесконечности не допускается как не имеющих конкретных примеров и не могущих быть представленными в ЭВМ с конечной памятью.

Процессы мысленного моделирования реальных процессов или их исходов.

Все алгоритмические операции, входящие в систему команд ЭВМ, необходимые для дедуктивного развития теорий.

Использование приведенных, процессов мышления при построении математических и других теоретических построений приводит к возможности формирования различных теорий одного и того же реального процесса и явления, что является основой для диалектической логики. Правильность (целесообразность) того или иного теоретического построения должна выявляться как при обсуждении того или иного пренебрежения, аналогии при сравнении с конкретными примерами, так и при сравнении с конкретными примерами следствий той или иной теории. На базе такого подхода построены основытеории вероятностей и математической статистики [6].

Заметим, что многие специалисты, занимающиеся практическими вопросами классификации, в своих теоретических построениях базируются на теоретико-множественных основаниях, используемых в построении основ теории вероятностей, впервые систематически изложенных в ранних изданиях книги А.Н. Колмогорова [7], в то время как сам А.Н. Колмогоров в более поздних своих работах стоял на методологических позициях, более близких к интуиционистским [8, 9], возможная конкретизация которых излагается в настоящей статье.

Далее дается пояснение процессов классификации как конкретизации смысла высказываний, интуиции, индуктивного рассуждения с позиций из возможного моделирования на ЭВМ и некоторых следствий из такого подхода. В возможности их моделирования состоит отличие рассматриваемого подхода к процессам классификации от предлагаемых в статье [2], которые можно отождествить с подходом, характерным для наивных теоретико-множественных представлений, выдвинутых Кантором [10] и получивших дальнейшее развитие в аксиоматических логико-математических системах теории множеств [11,12].

Для более глубокого понимания проблемы обратимся к схеме на рис. 1. На этом рисунке видно, что восприятие действительности происходит посредством классификаций и измерений. Измерения также можно рассматривать как специфический частный случай процессов классификации. Именно процессы классификации (узнавания) и измерения, согласно схеме на рис. 1, должны иметь ключевую роль в построении теоретических представлений, в сопоставлении различных теоретических представлений, которые могут быть порождены субъективными или поверхностными предпочтениями теоретика, состоящими в произвольности пренебрежений, малоплодотворности аналогий, или носить формальный характер классификации по какому-нибудь признаку. Такие классификации были присущи ранним этапам развития классификации животных и растений и вызвали к жизни размышление об искусственных и естественных классификациях [13, 14]. Заметим, что сам рис. 1, отделяющий действительность и знаковые (возможно, теоретические) системы, которые должны как-то соответствовать этой действительности, и процессы сопоставления теоретических представлений (часто конкурирующих, как это имеет место в математике) с действительностью, чужд теоретике-множественному духу (о чем будет идти речь далее). Этот же

Р и с. 1. Соотношение мышления, действительности и знаковых систем

подход имеет место и в статье [15],.где неявно противопоставляются схемы распознавания образов по примерам и теоретико-множественной классификации [2] и дается некая итеративная структура для обеих схем в построении классификаций, взятая из статьи [2] и являющаяся очень грубой аналогией процесса познания. При этом процессы классификации рассматриваются в связи с общими процессами мышления и построения теоретического знания, что само по себе правильно; однако, весь процесс построения человеческого знания гораздо сложнее. Его очень грубая схема дается на рис. 1, а использование в этих статьях итерационных аналогий нам представляется некорректным, поскольку многие естественные классификации (например, процессы узнавания мужчин и женщин, съедобных и несъедобных продуктов и др.) не изменялись на протяжении всего существования людей и их далеких предков и носили, по-вцдимому, доязыковый характер, а другие теоретические классификации (теории) существуют длительное время параллельно (различные основания математики, где до появления возможности моделирования процессов мышления на ЭВМ нельзя было привести решающих доводов в пользу того или иного подхода, или различные геологические теории возникновения Земли, биологические теории возникновения видов и т.д), где более уместна схема диалектического развития теоретических знаний.

Рис. 1 составлен в основном с целью отслеживания процесса возникновения теоретических представлений. На самом деле, все входящие и исходящие из блока мышления стрелки связаны с процессами классификации (узнавания) процессов действительности.

В настоящей статье, помимо обсуждения процессов классификации (связей, обозначенных на рисунке цифрой I), обсуждаются более глубокие этапы мышления (связи II, Па, Пб), а именно: построение логической системы (алгебры классификаций), сопоставление ее с алгеброй высказы-

ваний и логикой предикатов, что соответствует теоретико-множественному подходу, в котором за основу берутся знаковые системы, а стрелки Пб, Па перевернуты как бы наоборот. Помимо собственно процессов классификации, упомянуты и другие алгоритмические процессы, допускающие моделирование на ЭВМ с конечной памятью и специфичные для содержательного подхода к математике. Отмечаются некоторые ’’неприятности” теоретико-множественного подхода (логические парадоксы, логические круги). Кратко обсуждаются особенности логико-математической системы (содержательной математики), получаемой при таком подходе к процессам классификации.

Проводится анализ возможностей построения теорий и моделей, связанных с действительными числами, без привлечения идеализаций бесконечности.

И, наконец, в свете общего подхода к процессам классификации кратко обсуждается «общая методология, связанная с построением наук об окружающей действительности, а также вопросы обучения (написания учебников и методики преподавания наук о действительности), связи Ша, Шб. На рис. 1 связи, обозначенные стрелкой V, соответствуют в широком смысле воздействию человека на окружающую действительность; в узком смысле — классификации объектов действительности на основании выработанного правила.

Классификации и измерения. В работе [16] даются три различных типа задач классификации по результатам измерений, с которыми имеют дело статистики, а также специалисты, занимающиеся распознаванием образов. Опуская результаты математического осмысления в виде генеральных совокупностей, эти задачи можно определить как:

задачи, в которых некоторое число примеров нужно разделить на устойчивые группы (задачи классификации). В отечественной литературе эти задачи носят названия классификаций без учителя, кластеризации, таксономии. В случае наличия устойчивых групп (информативных измерений) полученную классификацию можно назвать естественной. В случае отсутствия — искусственной. Согласно рис. 1, эта классификация соответствует обучению на основании личных наблюдений (связи I);

задачи, в которых примеры разбиты на некоторое количество групп, согласно опыту людей или любым теоретическим представлениям (задачи дискриминации). Необходимо по этим примерам оценить информативность проведенных для примеров измерений. В случае, если измерения для примеров неинформативны, но классификация все же как-то проведена, то такую классификацию можно назвать искусственной. В случае информативных измерений (возможности построения устойчивой классификации) — естественной. Обращаясь к рис. 1, можно сказать, что эта задача представлена блоком Обучение и проверяет правильность и обоснованность проводимых классификаций V. Кроме того, подобные задачи возникают в задачах прогноза. В качестве примеров можно указать задачу классификации электрокардиограмм (задачи медицинской диагностики), задачи прогнозирования работоспособности интегральных схем (задачи прогноза качества промышленных изделий). Как задачи классификации, так и задачи дискриминации имеют большое число практических приложений. Bi отечественной литературе эти задачкх называют задачами класси-

фикации, дискриминантного анализа, распознавания образов. Заметим, что задачи распознавания образов, связанные с обработкой информации, поступающей непосредственно от окружающей действительности, включают в себя сложные алгоритмы переработки этой информации, которые можно отнести к измерительным алгоритмам.

Определение информативности измерений, построение критериев их выбора проводятся в рамках статистической теории. В качестве одной из работ в этом направлении можно указать работу автора этой статьи [5];

задачи разбиения, в которых по величине измерений или их функций примеры разбиваются на группы. В качестве примера приведено разбиение группы студентов на подгруппы по успеваемости [16]. В отечественной литературе встречается также название ’’ранжирование” и др.

К задачам классификации, связывающим конкретные объекты со словесным (в более формализованном виде с цифровым) описанием действительности, необходимо добавить задачу измерения, носящую по преимуществу инженерный характер. В этой задаче много общего с задачами классификации, особенно с задачами разбиения. Так, любое измерение, если опустить чисто алгоритмические преобразования, есть процесс сравнения объектов реальной действительности с некоторым эталонным объектом. Результаты измерений являются исходными в задачах 1-3, причем задача разбиения 3 сама моделирует некоторый процесс измерения. В задачах распознавания образов в том виде, как эти задачи решаются самим человеком, измерительными элементами являются органы чувств, имеющие, как и все измерения, и измерительные процессы, ограниченную разрешающую способность. В реальных измерительных процессах и системах тип прибора, технология измерения задаются примерами оперирования с реальными объектами и приборами, т.е. имеем по существу задачи дискриминации, распознавание образов.

Из анализа приведенных задач и обсуждений следуют важные методологические выводы. ' ‘ ,

Процессы классификации и близкие к ним по содержанию измерительные процессы являются связующим элементом человека (человеческого мышления) с действительностью. Особенностью этих процессов является наличие конкретных примеров действительности. Эти процессы носят принципиально невербальный характер и лежат в основе тех знаний, которые далее передавались с помощью знаковых систем в виде человеческого опыта и знаний. Вследствие этого основой построения классификаций, а за ними и всех теоретических построений следует считать конкретные примеры действительности. Корректировку теоретических построений также следует проводить по результатам сравнения полученных теоретических классификаций и классификаций по примерам.

Все объекты действительности, которые можно привести в качестве примеров, воздействуют на органы чувств и отображаются посредством измерений и классификаций в дискретные и конечные системы данных (результаты измерений).

При построении логико-математических систем в качестве неопределяемых объектов следует брать конкретные примеры и дискретные, конечные системы данных. Попытки построения финитных логико-математических систем предпринимались, в частности, Кронеккером [17] и представите-

Простые высказывания

Процессы классификации и измерения

Примеры действительности

Р и с. 2. Процессы формирования смысла простых высказываний лями интуиционистских направлений, которые, правда, в своем современном развитии и, в частности, в одном из ответвлений интуиционизма — конструктивном направлении [18] — допускали потенциальную осуществимость (потенциальную бесконечность). Попытки построения полностью финитной Теории вероятностей и математической статистики (содержательной математической статистики) предпринимаются автором этой работы [4, 6]. Такими же приемами можно построить основания всей математики. Это ‘обеспечит лучшую связь теоретических, математических построений с действительностью, что уже послужило одним из стимулов возникновения конструктивной математики [18].

В чем же отличие изложенного подхода к задачам классификации от теоретико-множественного (множество — очевидный синоним класса), частным случаем которого является работа [2]. Оно состоит в том, что берется за основу процесса классификации. В наивных логико-математических теоретико-множественных системах основой • классификации или выделения множества (класса) является наличие признака Р или некоторого высказывания, определяющего этот признак. Согласно схеме на рис. 1,.за основу берется некоторое высказывание из блока знаковой системы. Этому высказыванию могут, соответствовать классы и примеры (множества) в действительности (множества кошек, собак), а могут и не соответствовать (геометрические точки, линии). Необходимо разделять признаки, которые получаются посредством некоторого процесса измерения на объекте классификации, и признаки, которые отражают связи классифицируемых объектов с другими, даваемые определениями (словесными высказываниями) , а также конкретные примеры класса и весь класс — идеализированную бесконечную генеральную совокупность, бесконечные множества в математике. Использование признаков-связей (меронов в работе [2]) и классов в смысле совокупности объектов, удовлетворяющих некоторому признаку (мерону), приводит к известным логическим парадоксам и логическим кругам (определениям одних объектов через другие, а этих других — через первые), а также к бессодержательным математическим теориям. Такие определения названы в работе А. Пуанкаре [19] непредикативными. Автор" рекомендовал исключить их из употребления. Наличие вышеприведенных логических неприятностей дало стимул, с одной стороны, к ограничению теоретико-множественных построений некоторыми конструктивными процедурами (аксиоматематические теории множеств [12]), а с другой — к уточнению понятий интуитивной математики Кронек- кера, Пуанкаре в трудах интуиционистов [3], конструктивистов [18] и автора настоящей статьи [6].

В упрощенном варианте схему на рис. Определяющую связь процессов классификации с высказываниями и объектами действительности, можно 162

представить в виде схемы (рис. 2), которая показывает, что по примерам окружающих предметов (собак, кошек и др.), отдельных признаков предметов (острый, красный и др.), а также взаимоотношений и действий с этими предметами в мозгу человека (в частности, ребенка) производится построение простых классификаций, которым соответствуют отдельные высказывания. Высказывания являются названиями правил классификаций в мышлении.

Сопоставление алгебры классификаций с алгеброй высказываний и логикой предикатов. Алгебра высказываний и алгебра классификаций. То, что теоретико-множественные логико-математические системы существенно базируются на знаковых системах (словесных высказываниях), особенно очевидно для алгебры высказываний [20]. При этом для подчеркивания того, что в высказывания не следует вкладьюать какого-либо смысла [21], даваемого примерами действительности, в качестве истинных приводятся высказывания:

Если ’’дважды 2 равно 4”, то ’’снег бел”.

Если ’’дважды 2 равно 5”, то ’’снег бел” (1)

Если ’’дважды 2 равно 5”, то ’’снег черен”.

Истинность или ложность простых высказываний ’’дважды 2 равно 4”, ’’дважды 2 равно 5”, ’’снег бел”, ’’снег черен” считается интуитивно ясной, не требующей пояснений. Сложные же высказывания заведомо лишены конкретного содержания. Такая постановка вопроса разрывает связь высказываний с действительностью, что является следствием позиции авторов (позиция математического формализма), которую, кстати, разделяют многие математики. Эта позиция возникла как реакция на ’’неприятности”, даваемые наивным теоретико-множественным подходом, и не увенчалась успехом. Согласно этой позиции, математика — это финитное оперирование формулами, не имеющими даже теоретико-множественного содержания. При таком подходе также возникают теории, смысловое и практическое содержание которых не прослеживается (грубо говоря, равно нулю). Математика из науки о действительности превращается в абстрактное оперирование формулами и словами на манер средневековой схоластики. Сама по себе булева алгебра прекрасное достижение человеческого разума,-но коль скоро эта алгебра используется для изучения высказываний, некоторого вполне реального объекта, имеющего весьма широкое распространение, то желательно, чтобы формулы этой теории имели также некоторое содержание или просто смысл, тем более что очень нетрудно проиллюстрировать алгебру высказываний осмысленными примерами. Точнее сказать, легко привести высказывания, имеющие содержание, даваемое примерами действительности и являющееся формулами алгебры высказываний.

Для того чтобы пояснить, что понимается под смыслом или содержанием высказываний, рассмотрим достаточно общую постановку задачи классификации объекта, заданного некоторым Z-мерным вектором измерений х,в т классов, каждый из которых задан последовательностью /-мерных векторов х1д,..., х1>Л1;...; хт>1 ,. . . ,xm>nm,где лд,...,лт - размеры выборок. Каждому классу можно сопоставить некоторый информант уДх), / = 1,..., т, (информант может быть оценкой распределения вероят-

ностей или плотности вероятностей), построенный по этим последовательностям [4]. Для одного из правил классификации отнесение в z-й класс производится по максимальному значению информанта у/х). В любом случае в пространстве измерений R1 выделяется т областей R i, . . . , Rm, в каждой из Которых для вектора х принимается решение о его принадлежности к определенному классу. Для области Rt можно построить функции к,(х) = 1, если хЕ Rb и к,(х) = 0, если х ^Rj. Эти функции назовем классификациями вектора х.; В общем случае классы и соответствующие им области классификации могут как пересекаться, так и не пересекаться. Например, класс кошек, очевидно, не пересекаются с классом собак, но класс больных людей одной болезнью может пересекаться с классом больных другой болезнью. Во многих случаях область классификации может не включать всех вектЬров данного класса (ошибки классификации), но при построении булевой алгебры классификаций ошибками классификации пренебрегаем.

Сопоставляя значению ^(х) = 1 символ И (истина), а ^,(х) = 0 - символ Л (ложь), убудем иметь конструктивное определение для понятий ’’истина” и ’’ложь” в * алгебре классификаций. В алгебре высказываний понятия ’’истина” и ’’ложь” не определяются, а считаются интуитивно ясными.

Вместо ^(х), i = 1,..., т можно использовать выражения А(х), В(х\ ..., где А, В— названия соответствующих классов. Логические формулы, полученные с использованием логических связок для классификаций, например А(х)&В(х),также должны быть классификациями, т.е. выделять область, для которой имеются соответствующие обучающие примеры.

С использованием классификаций осуществляется переход от конкретных примеров к общим высказываниям. Разберем с использованием классификаций примеры сложных высказываний (1). Высказываниям ’’дважды 2 равно 4” и ’’дважды 2 равно 5” сопоставляются классификации соответствующих чисел, а также операции умножения и сравнения полученного результата с заданным числом. Реальные примеры для подобных классификаций легко построить. Затем, если для подобных классификаций будем иметь входные данные, приведенные в высказываниях, то нетрудно убедиться, что первое высказывание истинно, а второе ложно.

Считая классификацию смыслом (содержанием) высказывания, последние можно разделить на осмысленные и бессмысленные (содержательные и бессодержательные). Для осмысленных высказываний имеются соответствующие примеры, по которым можно построить классификацию, для бессмысленных (бессодержательных) таковых примеров нет. Логические формулы, связывающие классификации, соответствующие осмысленным высказываниям, отражают объективные законы (связи) в окружающей действительности.

С использованием понятия классификаций простое высказывание ’’снег * белый”, которое считается истинным, можно при помощи простых классификаций снега Л(х) и белого цвета В(х) представить в виде сложной классификации Л (х)->В(х), где х — классифицируемый вектор описания. Т.е. более точно, имея в виду классификации, высказывание ’’снег белый” можно записать как ’’если имеем снег, то\он будет белого цвета”. Логическая связка обозначает характер связи классификаций снега и белого

цвета (некоторый закон природы). Очевидно, что это высказывание не является истинным всегда, а только в условиях определенной освещенности. Согласно определению классификации, если имеем Л(х) = 1, то считается, что х — снег, если Л (х) = 0, то х — не снег. Соответственно, если В(х) = 1, то х имеет белый цвет, если В(х) = 0, то х имеет не белый цвет. Как известно [20], значения приведенной логической функции (логического следования) представляются в виде таблицы истинности.

№

Л(х)

В(х)Л(х)-В(х)

1

1

1

1

2

0

1

1

3

1

0

0

4

0

0

1

которую для

рассмотренного примера

с использованием классификаций

можно проинтерпретировать как отражение объективных закономерностей природы: 1) белый цвет сопутствует снегу, что отражено в классификации, равной 1; 2) белый цвет сопутствует и другим объектам, и классификация, равная 1, для таких объектов также имеет место; 3) если мы имеем снег, то не белым он быть не может, и такой ситуации всегда соответствует классификация, равная 0; 4) не снег может быть не белым — соответствующая классификация может принимать значение 1.

Таким образом, истина простых высказываний, входящих в сложные высказывания (1), имеет различный смысл. В первой части этих высказываний она совпадает с определением истины для соответствующих классификаций, во второй части под истиной подразумевается некоторый закон природы, выполняющийся при определенных условиях. Высказывание ’’снег белый” для ночного времени, очевидно, неверно. Т.е. цвет снега зависит от освещенности и для некоторого конкретного случая приведенное высказывание может быть ложным. Сами сложные высказывания (1) не имеют соответствующих классификаций согласно определению бессмысленны. Бессмысленными можно назвать и математические теории, не имеющие соответствующего реального предмета исследований.

Логика предикатов и алгебра классификаций, В приведенном ранее примере классификация В(х), соответствующая признаку белого цвета, по существу, соответствует некоторому предикату (свойству). Т.е. согласно рассмотренному примеру можно видеть, что предикату можно сопоставить некоторую классификацию, выделяющую объекты с данным свойством. Однако основным признаком логики предикатов являются выражения с кванторами, которые записываются в виде

V хА(х), Я хА (х) , (2) гдеV х,Ях — кванторы всеобщности и существования, а Л(х) — предикат, определяющий некоторое свойство Л. При этом подразумевается, что высказывания (2) истинны, хотя в нашей интерпретации истинности эти высказывания, скорее всего, должны отражать некоторый закон природы. Напомним, что согласно определению истинность — это классификация, равная 1 для некоторого конкретного х.

Предикат в виде классификации интерпретируется однозначно, при

этом не изменяется даже его формальная запись. С кванторами дело обстоит сложнее. Приведенные выражения являются формальной записью следующих словесных выражений: ’’Для всякого х имеет место свойство Л”, ’’существует х, для которого имеет место свойство Л” ;при этом считается, что объекты принадлежат некоторому множеству Q [20]. Но поскольку мы считаем, что имеют смысл лишь высказывания относительно объектов, для которых существуют конкретные примеры, то и элементы множества, к которому принадлежит х, считаются представимыми примерами. По этим примерам можно составить классификацию., где символ Q, обозначающий множество, использован в качестве символа соответствующей классификации, выделяющей из всех произвольных векторов описаний х векторы класса Q, где Q — название класса, множества, а не совокупность всех ^го элементов. С учетом этого замечания смысл высказываний (2) (соответствующие классификации) можно записать в виде

Q(x) = 1 , 6(х) & Л (х) , Q(x) V Л (х) , (3)

т.е. формулы (3) Определяют некоторый закон природы при условии истинности классификации 0(х). Видно, что смысл формул логики предикатов записывается в виде формул булевой алгебры классификаций. При этом смысл выражений (2) более точно передается словами ’’Для любого элемента класса Q имеем свойство Л”, ’’Могут иметь место элементы Q, для которых выполняется свойство Л,либо не выполняется свойство Л”. Слово ’’все” для некоторых классов смысла не имеет, так как некоторые классы могут быть идеализациями и не иметь соответствующих классификаций (примеров). С использованием классификаций можно конструировать общие высказывания, не привлекая идеализаций бесконечных совокупностей (множеств), которые приводят к серьезным неприятностям в теоретике-множественной логике [19]. Истинность в формулах (2) имеет двоякую интерпретацию либо как логический закон, либо как истинные высказывания для конкретного х*.В этом отношении можно провести аналогию со смыслом теорем о существовании в классических и интуиционистских направлениях. Для классических теоретико-множественных направлений истинность высказывания (теоремы) о существовании понимается в смысле существования логического закона, или, как мы называли, закона природы. Для конструктивного направления [22] высказывание с квантором Я х более точно передается формулой 6(х*) V Л(х*) = 1, т.е. ближе к определению истинности в алгебре классификаций.

При использовании вместо понятия множества соответствующих классификаций, определяющих элементы множества, класса, парадокс Рассела становится бессмысленным. Классификация, выделяющая множества, не являющиеся элементами самих себя, очевидно, не является множеством, а множества всех множеств просто нет (нет примеров для соответствующей классификации). Можно также сформулировать достаточно общий принцип построения теории, описывающей реальные явления. Во избежание неработающих, громоздких построений и формул необходимо четко разграничивать, какие интуитивно ясные элементы взять в качестве исходных, а какие записывать в виде формул.

Отсутствие примеров для построения классификации идеализаций

бесконечности, с одной стороны, и то, что для этих идеализаций имеется много нашедших практическое применение математических результатов — с другой, заставляет вести поиск примеров, по которым можно понять смысл этих идеализаций. Смысл высказываний ’’бесконечная совокупность”, ’’бесконечное множество” состоит в специфическом пренебрежении отдельными свойствами конечных совокупностей и упрощении математических выражений. Вне такого упрощения применение подобных идеализаций не оправдано.

Классификации и измерения в основаниях математики и построении математических теорий. Особенность математики в отличие от описательных наук состоит в том, что она имеет дело не только с процессами классификаций по примерам и логикой классификаций, но и с результатами измерений, заданными в виде чисел. При оперировании с числами возникли различные алгоритмы, имеющие свои аналоги в виде действий с примерами реальной действительности, процессами пренебрежения, отвлечения и упрощения математических выражений. Помимо этого, имеют место алгоритмические процессы аппроксимации непрерывным вычислительным алгоритмом дискретных данных и операции мысленного моделирования. Все эти процессы использованы автором настоящей работы при построении основ теории вероятностей и статистики [6].

Помимо этого, при создании теорий действительности, трудно доступной или недоступной непосредственному наблюдению, привлекаются аналогии, которые также можно отождествить с процессами классификации. Здесь, правда, уместно провести границу между естественными и искусственными аналогиями. Так, например, аналогия процессов мышления с работой ЭВМ с конечной памятью представляется автору настоящей статьи естественной и плодотворной. Можно считать плодотворными многие аналогии классической механики макроскопических тел и атомной физики. Не очень плодотворной представляется автору, и не только ему одному [23], аналогия между теорией игр и экономическим поведением [24].

Рассмотрим связь математических моделей с реальными объектами и процессами мышления, представимыми в виде алгоритмов в ЭВМ, допускающими представление в виде примеров.

Непосредственно наблюдаемыми (интуитивно ясными) объектами являются.

Результаты измерений реальных объектов. Эти результаты в силу ограниченной разрешающей способности измерительных приборов являются данными , принимающими значения в точках конечной дискретной совокупности, имеющей верхний и нижний предел. Если число, полученное в результате измерения, а Ф 0, то для него имеем

Д < 1д К^ , (4) где Д — определяет точность измерений (для реальных чисел); Nx — граница диапазона измерения.

Одним из частных случаев результатов измерений можно считать результаты, полученные в процессе классификации, принимающие значения 0 и 1 и рассмотренные ранее.

Другим частным случаем результатов измерений являются целые чис-

ла. Легко видеть связь конкретных операций над реальными объектами с алгоритмами сложения, вычитания и умножения целых чисел (операциями арифметики), Финитное построение аксиом (свойств) арифметики на базе интуитивных рассмотрений (примеров) приведено в книге Гильберта и Бернайса [17]. При этом говорить о всех целых числах (о множестве целых чисел) смысла не имеет (все целые числа не имеют классификации или примера и не могут быть представлены в ЭВМ с конечной памятью), а можно говорить только о некоторой классификации, выделяющей целые числа из всех других реальных объектов, построенной по примерам конкретных целых чисел,

Помимо двоичных и целых данных интуитивно ясными, представимыми в виде примеров, можно считать результаты измерений в виде реальных чисел. Принтом необходимо оговориться, что эти числа получены не при помощи алгоритма деления (аксиоматически), а в результате интуитивно ясного измерительного процесса. Полученные числовые данные также удовлетворяют ограничению (4) и располагаются в узлах конечной решетки.

Перечисленные результаты измерений и классификаций исчерпывают все возможное разнообразие числовых данных, получаемых в результате измерений от реальных объектов.

Конкретные представления чисел (записи на бумаге, числа в ЭВМ и т.д.), для которых также имеем

8<|а|<^, (5)

где 5 — точность представления чисел; TV2 — граница диапазона представления чисел. Как правило, имеем

8 < Д, * (6)

а также tV2 > Nx» Величины 8 и N2 могут быть известны, как, например, для чисел ЭВМ, или не известны, например для записей чисел на бумаге. Кроме того, так же как и для интервала (4), числа внутри интервала (5) изменяются дискретно, причем шаг дискретизации связан как с точностью измерений Д, так и с точностью представления 8.

Алгоритмы (и их алгебраическая запись} для конкретных представлений чисел. С использованием алгоритмов преобразования чисел можно записывать числовые модели для реальных объектов и процессов. При этом результат протекания реального процесса или отдельные характеристики объекта можно получать в виде результата вычисления, не проводя требующих существенно больших затрат экспериментов.

Представления реальных чисел уже связаны с использованием тех или иных алгоритмов над целыми числами. Имеются в виду позиционные системы представления чисел с двоичным, десятичным или любым другим основанием. Для некоторого способа представления реальных чисел можно записать алгебраические выражения для алгоритмов, с помощью которых моделируются конкретные измерения или реальные

процессы. При этом мы имеет в виду не абстрактные алгоритмы сложения, вычитания, умножения, деления и алгоритмы, которые неявно фигурируют при определении действительных чисел, а алгоритмы реальные, конечные, связанные с округлением чисел в ЭВМ или с округлением, которое мы проводим при реальных вычислениях на бумаге.

Пусть а, в, х — числа, полученные в результате измерений, тогда для реальных систем чисел в ЭВМ со свойством (5), используя алгоритмы, необходимые для моделирования реальных объектов, можно записать модели в виде алгебраических формул

\х - а/Ь\< &, |х - V#2 + 62| < А, |х-яа2|<Д, (7)

где a/b, V^2 + £2, ля2 служат обозначениями соответствующих алгоритмов, работа которых заканчивается при выполнении неравенств (7). В реальных ситуациях, например в ситуации с ЭВМ, реализация приведенных алгоритмов не является тривиальной задачей, тем более что в алгоритмах неявно имеем операции округления, связанные с (5). Согласно неравенствам (7) результаты вычисления хП) полученные в ЭВМ для измеренных а и Ь, вполне пригодны для использования. Индекс п показывает, что для реальных вычислений результаты работы алгоритмов зависят от числа производимых вычислительных операций, характеризуемого некоторым целым числам п. Вместо (7) для т >п можно записать

l^-(0ml<6«’ |xn-(V^+^")ml<5„. I^„-V2I<5„,

где хп, 8 , (а/Ь)т, (у/а^+г) 9 irm — результаты работы алгоритмов спит операциями. Для хп)&п) лт можно записать традиционные выражения пределов:

lim х = х, lim 8 = 0, lim я = я. (9) И~>°о д-*оо т-*оо

Эти записи неявно используют соответствующие алгоритмы получения хт ^т» а также явно представление о потенциальной бесконечности чисел пит. При содержательном (финитном) подходе к математике с записями пределов мы не связываем никаких представлений о бесконечных последовательностях (символ 00 используется как признак операции пренебрежения), а ограничиваемся возможностью достижений практически необходимой точности вычисления этих чисел и операций пренебрежения этой точностью, записанной далее, которую неявно можно подразумевать при определении пределов.

Заметим, что запись и определение пределов при содержательном подходе к математике считается допустимым (имеющим смысл) приемом только для математических моделей с соответствующими вычислитель^ ными алгоритмами. Для измерений параметров реальных объектов х

с точностью △„, соответствующих в математических моделях обозначениям хт х, А, с условиями (4), налагаемыми измерительным процессом, записи пределов в виде

lim £ = х, lim А = О — П П

(где и определяет увеличение точности измерений) часто смысла не имеют. С увеличением точности изменяется качественный характер измеряемых объектов. Так, например, реальная окружность перестает быть окружностью, для живых объектов измеряемые постоянные величины, например рост человека, с увеличением точности могут оказаться величинами переменными.

Алгебраическая запись математических моделей с упрощением выражений. Удобства оперирования с точными равенствами вызвали, по мнению автора, идеализации в виде вещественных чисел, которые при теоретикомножественном подходе воспринимается как числа с бесконечным количеством значащих цифр и для которых вместо (7), (8) имеем

х = а/b, х = >/ а2 *Ь2, х = на2. (10)

При этом выход за пределы интуитивно ясных финитных методов оправ- дывается необходимостью оперирования с действительными числами [17], а не с более простыми формулами, получение которых возможно в рамках содержательных финитных методов в отличие от формального финитноаксиоматического подхода, не вкладывающего в формулы никакого содержания. При конструктивном построении математики действительные числа строятся с привлечением потенциальной бесконечности [18]. Формулы (10) более удобны для проведения алгебраических преобразований по сравнению с (7), (8). Далее покажем, что никакой необходимости выхода за пределы финитных методов с привлечением актуальной или потенциальной бесконечностей нет. Удобства оперирования с формулами, не содержащими записей типа операций округления и условий останова алгоритма, можно добиться чисто финитными методами логической эквивалентности этих формул и формул с операциями пренебрежения погрешностями вычислений. Последние являются финитными операциями мышления типа чистого отвлечения [18] и легко допускают моделирование на ЭВМ с конечном памятью. Т.е. при содержательном подходе к математике смысл идеализаций вещественных чисел состоит в пренебрежении величинами 6, 6П, принципиальное уменьшение которых в рассмотренных выше алгоритмах гарантировано существованием предела, а в случае (6) эти величины измерительно воспринимаются как нули. Заметим, что само понятие существования различно в различных логико-математических системах. Финитный содержательный признак существования предела дан Коши [25], а содержательный подход к определению предела (определению существования) дается формулами, приведенными ниже. Определение предела, связанное с постулированием существования вещественного числа, сами вещественные числа и тем более совокупность всех вещественных чисел конкретных примеров не имеют и при содержательном подходе к основаниям математики должны быть исключены из употребления как не ^соответствующие каким-либо объектам реальной действительности, в том числе и реальным процессам мышления в рамках его аналогии с работой ЪВМ с конечной памятью. 170

Представления о существовании вещественных чисел в виде чисел с бесконечным количеством значащих цифр или систем с бесконечным числом геометрических точек, связанные с упомянутыми идеализациями, обусловлены, по-видимому, спецификой некритического человеческого восприятия графических фигур, когда человек не задумывается об ограниченной разрешающей способности глаза, дисперсности бумажного носителя, а пренебрежения не носят такого явного характера, как в случае с цифровым описанием реальных явлений и проводимыми вычислениями. При содержательном подходе к введению моделей, использующих традиционные идеализации числовых систем, необходимо в качестве интуитивно ясных объектов, служащих для определения или построения таких моделей, ограничиться конечными сетками чисел, конкретными вычислительными алгоритмами со свойствами сходимости, допускающими проверку согласно некоторому критерию типа критерия Коши, а также формулами, в которых пренебрегли конечной точностью представления чисел, поскольку выполнение условия (6) гарантирует практическую пригодность проводимых алгебраических преобразований и вычислений. Формулы (10) можно записать, используя логическую эквивалентность и операцию пренебрежения погрешностью вычислений, которые в отличие от представлений, связанных с бесконечностью, можно считать интуитивно ясной конкретизацией процесса мышления:

Операция пренебрежения величиной 8п физически обоснована, если 5„ < Д. Таким образом, в содержательной математике отсутствуют вещественные числа. Вместо этого имеем удобную формульную запись, полученную с помощью операции пренебрежения, записанной символом Пр. Алгеб- раически операция пренебрежения является подстановкой вместо деличины &п ее значения 6п = 0, что соответствует измерительному восприятию при 5„ < Д. Заметим, что при проведении алгебраических выкладок удобно не обращать внимания и на ограничения диапазона представления чисел сверху (5), что также является актом отвлечения.

Пренебрежимо малые числа и величины. Основываясь на ограниченной способности восприятия реальных объектов (4), а также на том, что вычислительные средства, имеющие свои ограничения, позволяют проводить вычисления для моделей реальных объектов с гораздо более широким диапазоном чисел, можно сформулировать понятие пренебрежимо малого числа. Число назовем пренебрежимо малым, если оно значительно меньше погрешности измерений. Число, обратное пренебрежимо малому, назовем пренебрежимо большим. Т.е. понятие пренебрежимо малых и больших чисел основано на том, что легко записать на бумаге или представить в ЭВМ числа,

значительно меньшие или большие чисел, получаемых в результате реальных измерений. Например, если результат измерения 1 интерпретировать как измерение реального объекта, примерно одинаковой величины с эталоном, то диапазон изменения реальных объектов может лежать в пределах 1,25—2,80 (измеряем рост людей в метрах). Числа 10“5,105 можно назвать пренебрежимо малым и большим числами. В других измерениях реальных объектов эти диапазоны будут сдвигаться, но существо дела при этом изменяться не будет. Во избежание недоразумений считаем, что пренебрежимо малые числа значительно меньше 1, а пренебрежимо большие — больше 1.

Для алгоритмов, описывающих реальные процессы, можно сформулировать принцип реальной вычислимости, который состоит в том, что, сделав достаточно большое (реально осуществимое) число операций, можно достичь пренебрежикюй точности в вычислении значений, описывающих реальные объекты, т.е. превзойти величину погрешности, имеющей место при измерениях реальных объектов. Этот принцип является конкретизацией смысла абстракции потенциальной осуществимости [22] (потенциальной бесконечности) в рамках содержательного подхода к математике.

При исследовании математических моделей можно варьировать значения чисел. Варьируемые числа назовем величинами.

Для моделей реальных объектов, содержащих достаточно небольшое число алгоритмических операций, свойства бесконечно малых величин [25] записываются как свойства пренебрежимо малых величин.

Сумма нескольких пренебрежимо малых величин есть также величина пренебрежимо малая.

Произведение величины, описывающей реальные объекты, на величину пренебрежимо малую есть величина пренебрежимо малая.

Если пренебрежимо* малые величины связаны алгоритмической зависимостью, их можно сравнивать. Обозначим независимую пренебрежимо малую величину через 6, функции от этой величины (ее алгоритмические преобразования) обозначим через Л (6), /2(6). Сравнение производим при помощи операции деления.

Если отношение двух пренебрежимо малых величин имеет порядок измерений реальных объектов, то эти величины имеют один порядок малости. Пусть у = Л (6) //2 (5) имеет порядок величин реальных объектов, тогда отношение между fx (6) и /2 (5) можно записать в виде

л^ = оа2^у

Если отношение двух пренебрежимо малых величин у = /1 (6) / /2 (5) - величина пренебрежимо малая, то ft (6) имеет больший порядок малости по сравнению с /2 (5), что можно записать как

л ^ = 0(/2^;-

При исследовании математических моделей всеми величинами более высокого порядка малости в операциях суммирования можно пренебрегать.

С использованием пренебрежимо малых величин, так же как и с использованием бесконечно малых, можно получать выражения производных функций, задаваемых вычислительными алгоритмами.

Производную функции /(х) можно определить как

/'(х)/'(х)/(х + dx) - = ПР —

/'(х)

/'(х)

O(dx)dX

где dx — величина пренебрежимо малая; Пр — операция пренебрежения O(dx)

величинами, имеющими порядок малости больший или равный dx.

Рассмотрим для примера функцию у=хп.

(х + dx) п - хп

У = ПР -; =

O(dx)dx

х" + nxn-v&x + —^—х""2 (dx)2 + ... + (dx)" ~хп

= Пр ——= их”-1

О( dx)^Х

Таким образом, для значений л, которые могут встретиться в реальных ситуациях, получили выражение производной.

Может показаться, что оговорка про реальные ситуации ограничивает общность полученного выражения производной. Однако эта оговорка не является ограничением в связи с тем, что уже достаточно больше и из диапазона конкретных представлений чисел приводят к пренебрежимо малым и большим значениям функции и производной, которые не имеют смысла в реально воспринимаемых объектах, а говорить о существовании бесконечного натурального ряда в рамках содержательного подхода нельзя из-за отсутствия конкретных примеров и классификаций. В то же время реальные ситуации связаны с областью чисел, встречающихся в человеческой практике, т.е. с областью, необходимой для изучения объектов действительности.

С использованием пренебрежимо малых величин можно сформулировать понятие непрерывной функции (вычислительного алгоритма).

Функция /(х) называется непрерывной, если

Пр Дх + 6) = ДПр(х + 8)) = Г(х).

0(6)6

Для функций многих переменных соответственно имеем

Пр /(Xi + 8b ...,хп + 8л) =/(Пр(х1 + 81)Пр(хл + 8Я)) =

0(8,),..., о(бл)6.8„

= /(X,,...,XR).

Легко видеть, что операции сложения, вычитания, умножения и деления дают функции, обладающие свойством непрерывности:

Пр ((Xi + Sj) ± (х2 + 82)) = х, + х2,

О(б,),<?(8,)

Пр (^i + 81) (х2 +82) = Пр (Х1Х2 + б!Х2 + 0(6,), 0(6,)0(8.),0(6,)

+ 82х1 + 8182) =XiX2,

х^а, /х, бхХг-бгХхХ хг

ocsj/ocsj *2 + 82 □(sj, o(62) V2 x2(x2*b^j х2

Любая реальная функция, содержащая конечное и достаточно небольшое число перечисленных операций «(за исключением точек, в которых знаменатель обращается в нуль), является непрерывной функцией.

В рамках противопоставления логико-математических систем в зависимости от того, что берется за основу их построения — высказывания или конкретные примеры действительности, дается классификация логикоматематических систем по степени использования в них идеализации бесконечности. Логическое отрицание конечности в виде бесконечности можно рассматривать не более, чем словесную конструкцию, и противопоставлять ей приведенные вьпА интуитивно ясные математические объекты. Согласно этому делению на рис. 3 представлены три варианта логико-математических систем. Наибольшую свободу в смысле использования идеализаций бесконечности имеют- системы с теоретико-множественными представлениями в чистом виде. Эти представления, взятые на вооружение многими математиками, позволяют получать наибольшее количество ’’математических” результатов, среди которых высок удельный вес бессодержательных результатов. Эти математики не только не интересуются основаниями, но и содержательной стороной своей науки. Строго говоря, эти представления даже логико-математической системой назвать нельзя, поскольку используется наивный теоретико-множественный вариант, допускающий не только бессодержательные результаты, но и парадоксы. Попытка освободиться от парадоксов с использованием аксиоматического метода (непосредственной записи формул-аксиом без достаточного анализа их содержания), сводящего теорётико-множественные представления к некоторой формальной системе, оказалась несостоятельной [26]. Ограничение использования идеализации актуальной бесконечности (без учета особенностей процессов мышления в виде процессов классификации) в конструктивной математике привело к весьма сложным конструктивным построениям интуитивно ясных математических объектов и результатов. Использование конструктивной математики для изучения объектов действительности затруднено. Направление номинализма, основанное на конкретных объектах, также не привело к успеху, поскольку в установлении законов действительности всегда имеют место процессы мышления, в частности процессы классификации, изучение и конкретизация которых стали возможными с появлением ЭВМ и алгоритмов, моделирующих эти процессы.

Переход от примеров к математическим моделям в рамках содержательной математики (более подробный по сравнению с рис. 2) изображен на рис. 4. Особенностью перечисленных на рис. 4 мыслительных процессов являются их конечность и возможность моделирования на ЭВМ с конечной памятью. Эта специфика алгоритмов мышления, которые, возможно, не ограничиваются перечисленными на рис. 4, должна учитываться при построении содержательной математики. Сам переход к финитным построениям в отличие от перехода на рис. 3 близок к модели мышления, изображенной на рис. 1 и принятой для описания и ^формулирования любых наук об окружающей нас действительности. Таким образом, содержательная

Рис. 3. Классификация логико-математических систем и формирование финитной математики с использованием аксиоматического метода

Р и с. 4. Формирование содержательной финитной математики с использованием принципиальной возможности моделирования мышления на ЭВМ с конечной памятью

финитная математика с использованием процессов, моделирующих мышление, позволяет проследить путь от измерений и классификаций реальных объектов к описывающим их формулам. Такой путь дает содержательную интерпретацию этих формул как приближений, описывающих действительность. Приближенный характер формул виден как при построении формул с действительными числами, так и при построении моделей теории вероятности и статистики [5, 6],

В отличие от содержательного подхода наивный теоретико-множественный подход, принятый большинством математиков, не занимающихся специально основаниями математики (этот подход можно назвать также плато- нистским), непосредственно отождествляет элементы формул с некоторой системой идеальных объектов (бесконечными числами, Множествами). Такое отождествление не позволяет прослеживать связи реальных объектов и их математических описаний. В стороне остается содержательная ценность математических результатов. При содержательном подходе математические результаты, полученные в рамках наивных теоретико-множественных (платонистских) концедций, по их содержательной ценности можно разделить на три группы (I, II, III), как это сделано на рис. 5. Уровни оценки их обозначены цифрой 1. Например для статистики наиболее высокую содержательную ценность имеют результаты, формулирующие и позволяющие вскрывать новые статистические закономерности (группа I). Следую-

Рис. 5. Оценка математических результатов при содержательном и теоретико-множественном подходах

щие по ценности -^ результаты, позволяющие получать более высокую точность решения в рамках известной математической модели, часто превышающую уровень приближения, имеющийся при введении самой модели (группа II). В третью группу попадают результаты, которые в рамках содержательной финитной математики нельзя сформулировать (результаты, не имеющие реального смыслового содержания). О некоторых из таких результатов сказано в [6]. Необходимо отметить, что в отсутствие содержательной оценки при теоретико-множественном или формальном подходе содержательная ценность всех результатов как бы одинакова (уровень, обозначенный на рис. 5 цифрой 2). При распространенной оценке математических работ по их красоте, изяществу или неожиданности (фактически по длине дедуктивных выводов и степени противоречия их с интуицией) большую ценность приобретают результаты из групп II и III. Эта мера ценности обозначена на рис: 5 цифрой 3.

Построение и преподавание знаний на основе классификаций и примеров. Большинство человеческих знаний носит непосредственно эмпирический характер и описывается процессами классификации в чистом виде. Так происходит обучение ребенка, когда ему показывают тот или иной предмет или действие с произнесением названия этого предмета (действия). Большинство таких знаний вообще носит доязыковый характер. Так, различение съедобных и несъедобных предметов (грибов, ягод) и многие другие классификации, очевидно, были необходимыми предкам человека. Подобные различия производят практически все животные. Обучение такой'классификации у животных производится либо родителями, либо заложено генетически в виде инстинктов. У людей не является предметом дискуссии узнавание, использование и назначение предметов обихода. Любой нормальный человек не путает деньги с газетной бумагой, предметы одежды и т.д.

Казалось бы, что на уровне почти очевидных соотношений выступают законы для объектов традиционного изучения математики (счет, геометрия, механика). Однако, за исключением счета, в изучении геометрии и механики имеют место особенности человеческого мышления, в первую очередь особенности, связанные с процессами классификации, более точно, с альтернативой того, что берется за основу в процессах классификации, а именно: 1) высказывания, теоретико-множественные представления; 176 К

примеры, классификации, измерения. О том, что счет и аксиомы арифметики (свойства) можно построить с использованием финитных представлений, говорилось ранее [17]. Геометрия в основе также имеет совершенно ясные примеры (чертежи, реальные точки и линии, измерения отрезков и углов геометрических фигур); однако геометрические идеализации точек, линий, вещественных чисел можно связывать либо с финитными пренебрежениями, проведенными в предыдущем параграфе, либо с трансфинитными представлениями действительных чисел и множеств, построение которых, как можно видеть, является предметом дискуссии. Эти дискуссионные моменты, являющиеся развитием представлений Г. Кантора и Д. Гильберта [10, 27], к сожалению, вошли в школьные учебники в виде бесспорных истин [28]. Автор имеет в виду представление геометрических фигур в виде бесконечного множества точек (подразумевается реально существующая актуальная бесконечность), теоретико-множественные операции совмещения для бесконечных множеств (конгруэнтность фигур, операция параллельного переноса как вектора и т.д.). В плане классификации логикоматематических систем такие представления классифицировались как наивные теоретико-множественные. Эти представления, помимо своей необоснованности в плане аналогии мышления и ЭВМ с конечной памятью, допускают бессодержательные результаты, логические круги и парадоксы, о чем говорилось ранее. При изучении геометрии как науки об окружающей действительности теоретико-множественные представления приводят к большему количеству математических результатов по сравнению с основаниями, базирующимися непосредственно на интуитивно ясных операциях измерения отрезков и углов. По-видимому, как следствие известной критики [29] этих моментов в школьных программах, которую можно классифицировать как наивную интуиционистскую (этот взгляд был присущ таким великим предшественникам современных интуиционистов и конструктивистов, как Кронеккер, Пуанкаре, да и вообще большинству математиков прошлого, которые занимались практическими приложениями математики), произошло частичное изменение школьных программ по геометрии [30]. Учебник Погорелова [30] основан на интуитивно ясных понятиях измерений отрезков и углов и значительно проще учебника [28]. Причем эта простота достигается как бы за счет некоторой потери математической строгости, поскольку уточнения понятия действительного числа, неявно используемого в учебнике [30], возможны не только на теоретико-множественных основаниях, что фактически сделано в учебнике [28], но и на содержательном уровне, даваемом настоящей статьей. Автор настоящей статьи считает, что основания содержательной геометрии, построенные на результатах измерений, графических фигурах, в которых пренебрегли размерами реальных точек и толщинами реальных линий, как это было сделано в предыдущем разделе, еще предстоит построить, при этом такая геометрия в целом будет ближе к геометрии [30], чем к теоретико-множественной геометрии [28].

Целесообразно, по-видимому, в школьные курсы по информатике включить элементы содержательной логики и финитного мышления.

В неменьшей степени, теоретико-множественный дух затронул механику [31]. Имеется в виду курс механики в школьном учебнике физики. Например, первый закон Ньютона формулируется в виде:

’’Существуют такие системы отсчета, относительно которых поступательно движущиеся тела сохраняют свою скорость постоянной, если на них не действуют другие тела или действие других тел компенсируется”.

Достаточно трудно узнать в этой формулировке первый закон (постулат) Ньютона, который в оригинале [32] выглядит как:

’’Всякое тело продолжает удерживаться в своем состоянии покоя или равномерного и прямолинейного движения, пока и поскольку оно не понуждается приложенными силами изменить это состояние”.

Заметим, что А.Н. Крылов в виду важности основных законов движения в переводе труда И. Ньютона приводит их подлинную формулировку также на латыни.

В более старом учебнике [33] приводится первый постулат (закон) Ньютона в слегка измененном по смыслу виде, а именно:

’’Если на тело не действуют другие тела, то оно сохраняет состояние покоя или прямолинейного равномерного движения”.

Этот закон (постулат) получен в результате осмысления опытов Галилеем и Ньютоном при мысленном исключении влияния сил трения, повсеместно действующих в условиях Земли. В чистом виде действие этого постулата наблюдать нельзя, но он получен в результате мысленного отвлечения и позволяет проводить теоретические расчеты многих реальных задач именно в условиях Земли. В законе ничего не говорится о системе отсчета. Это на первый взгляд упущение было исправлено в учебнике Ландсберга [34]: ’’Если на тело не действуют никакие другие тела, то оно сохраняет состояние покоя или равномерного прямолинейного движения относительно Земли”.

Эти пеоеформировки первого постулата Ньютона содержат два ухудшающих с позиции содержательной математики момента. Во-первых, действие силы заменяется действием тела. Сила как вектор может действовать в одном направлении и не действовать в другом, что позволяет решать задачи в условиях земного притяжения. Действие тела менее точно (поскольку могут оказывать действие поля, газообразные вещества), чем действие идеализации в виде силы (от действия полей, газов и тел к силе имеется переход, содержащий ряд мыслительных процессов, требующих своего уточнения в рамках процесса обучения). Во-вторых, введение в явном виде системы отсчета — Земли — сделало этот постулат формально неверным (Земля не является инерциальной системой отсчета). По-видимому, это обстоятельство привело к попытке сформулировать этот постулат (формально правильно) в учебнике [31] в виде постулата о существовании инерциальных систем, что сделало его совсем непонятным для учеников. Понятие существования является предметом дискуссии между различными логико-математическими направлениями. В интуиционистском направлении необходимо указать предмет существования (например, Землю), и тогда постулат в таком виде ничего, кроме неясности, в себе не несет. В теорети-

ко-множественной системе можно доказать существование, что в учебнике физики для постулата неприемлемо (нужно тогда иметь другие постулаты). Кроме того, далее в этом же учебнике дается определение инерциальной системы через почти классический первый постулат Ньютона, который в нем не содержится. При этом получили формально правильное высказывание, но исчезла система исходных интуитивно ясных объектов, на основании которых должны строиться системы постулатов. Кроме того, в определениях имеем почти логический круг. Думается, что большинство школьников да и взрослых ничего не поймут при прочтении такой переформулировки первого постулата Ньютона. Другими словами, при переходё от примеров к первому постулату Ньютона его формулировка, данная Галилеем и Ньютоном, возникает, естественно, в результате интуитивно ясных пренебрежений. При построении же формально непротиворечивого высказывания (доказана несостоятельность программы построения формально непротиворечивых теорий) возникают непонятные, туманные формулировки, а весь этот подход имеет под собой более чем зыбкие основания. При содержательном подходе — от примеров к общим высказываниям и законам (постулатам) в формулировке, данной Ньютоном, этот закон следует воспринимать как соотношение (свойство математической модели), позволяющее теоретически рассчитывать траектории летящих предметов (например, традиционные задачи о брошенном камне), правильное при расчетах лишь в первом приближении. Во втором приближении следует внести поправки на вращение Земли, на трение, а при скоростях, близких скорости света, достижимых в настоящее время лишь элементарными частицами, необходимо вообще пользоваться постулатами специальной теории относительности (более сложными моделями) .

В изучении реальных явлений, которые не поддаются описанию детерминированными соотношениями, адекватным аппаратом являются теория вероятностей и математическая статистика. Возникающие при их применении проблемы также связаны с теоретико-множественными представлениями в их основаниях и достаточно подробно обсуждаются в брошюре [6] автора настоящей статьи. При статистическом изучении реальных объектов, естественно, возникает серия возможных различных конкурирующих или неразличимых на данных экспериментах гипотез (статистических моделей, объясняющих экспериментальные данные).

Статистический метод относится к точным математическим0 методам изучения таких областей, которые являются традиционными предметами изучения экономики, биологии, геологии, технологии, имеющими преиму щественно, описательный характер.

Серии альтернативных теоретических представлений, возникших в результате привлечения тех или иных аналогий, использования различных упрощений, имеют место в объяснении происхождения и развития Земли, жизни, биологических видов, социальных систем. Совершенствование этих представлений происходит по мере накопления конкретных данных, причем в отсутствие этих данных многие представления могут длительное время существовать одновременно.

Например, в теории эволюции видов, которая не является предметом дискуссии, само возникновение видов является дискуссионным моментом, где, насколько может судить автор, имеется несколько конкурирующих представлении о происхождении видов от одного вида — прародителя (теория Дарвина) — до происхождения каждого вида от своего прародителя — микроорганизма (теория Ламарка) [36]. Промежуточной теорией является теория Бэра [37], допускающего общего предка видов в рамках семейства.

Серия альтернативных гипотетических представлений имеет место в объяснении происхождения Земли и т.д.

Примерно так же обстоит дело с социальными и моральными системами. Правда, здесь имеется более богатый опытный материал в виде исторических фактор и примеров, а также примеров жизни людей на протяжении ряда поколений. Необходимость единых моральных установок в рамках одной популяции очевидна. Оправдание существования моральных ограничений можно найти в примерах жизни, развития и гибели тех или иных популяций с различными моральными системами. Те или иные моральные установки также должны быть предметом дискуссии с целью выбрать такую, которая в максимальной степени способствовала бы развитию и процветанию данного общества с учетом интересов человеческой популяции в целом. Решающее слово в таком выборе должны иметь примеры и статистические данные.

Сходную ситуацию имеем при изучении экономики. Здесь также имеем серию рецептурных схем, которые тесно переплетаются с моральными установками общества и возникают на базе тех или иных представлений о более высоком уровне развития экономики (более высоком уровне производительности труда). Реш^ощее слово в конкретном выборе экономических мероприятий в совокупности с моральными установками должно принадлежать конкретным примерам функционирования экономики и конкретным экономическим достижениям (конкретным статистическим данным).

В заключение отметим, что различие между теоретико-множественным подходом к классификации, основанном на определениях, признаках, и классификацией на основании примеров имеет много общего с различным подходом к основному вопросу философии о первичности материи или сознания. Проведение в науке линии, основанной на примерах, аналогично проведению последовательно материалистической линии. При этом подспорьем в проведении этой линии является возможность моделирования мышления и, в частности, процессов классификации, распознавания образов на ЭВМ.

ЛИТЕРАТУРА

Розова С.С. Философское осмысление классификационной проблемы // Вопр. философии. 1980. № 8. С. 163-165.

Мейен С.В., Шрейдер Ю.А. Методологические аспекты теории классификации // Вопр. философии. 1976. № 12. С. 67-79.

Рейтинг А. Интуиционизм. М.: Мир, 1965. 200 с.

Малиновский Л.Г. Классификация объектов средствами дискриминантного анализа. М.: Наука, 1979. 260 с.\

Малиновский Л.Г» Система алгоритмов и программ анализа информативности и структур зависимостей измерений в задачах классификации и прогноза // В наст. сб.

Малиновский ЛТ. Построение вероятностных и статистических моделей. М.: ИППИ АН СССР. 1983. Препр. 70 с.

Колмогоров А.Н. Основные понятия теории вероятностей. М.: Наука, 1974. 120 с.

Колмогоров А.Н. Три подхода к определению понятия ’’количество информации” // Пробл. передачи информ. 1965. Т 1, № 1. С. 3-11.

Колмогоров А.Н. К логическим основам теории информации и теории вероятностей // Пробл. передачи информ. 1969. Т. 5, № 3. С. 3-7.

Кантор Г. Труды по теории множеств. М.: Наука, 1985. 430 с.

Проблемы Гильберта. М.: Наука, 1969. С. 67-82,

Ван Хао, Мак-Нотон Р. Аксиоматические системы теории множеств. М.: Изд-во иностр, лит. 1963. 53 с.

Бэр К.М. Об искусственной и естественной классификации животных и растений // Анналы биологии. М.: МОИП, 1959. Т. 1. С. 367-383.

Любищев А.А. Критерии реальности в таксономии // Информационные вопросы семиотики, лингвистики и автоматического перевода. М.: ВИНИТИ, 1971. Вып. 1. С. 67-82.

Кожара В.Л. Классификационная проблема. Борок. М„ 1984. 42 с. Деп. в ВИНИТИ. №7149 -84.

Кендалл МДж, Стьюарт А. Многомерный статистический анализ и временные ряды. М.: Наука, 1976. С. 437-473.

Гильберт Д., Бернайс П. Основания математики: Логические исчисления и формализация арифметики. М.: Наука, 1982. С. 21-119.

Шанин Н.А. О критике классической математики. Конструктивные вещественные числа и конструктивные функциональные пространства // Тр. Математ. ин-та им. В.А. Стеклова. М., 1962. Т. LXVH. С. 284-294.

Пуанкаре А. Наука и метод // Пуанкаре А. О науке. М.: Наука, 1983. С. 283- 403.

Новиков П.С. Элементы математической логики. М.: Наука, 1973.400 с.

Гильберт Д„ Аккерман В. Основы теоретической логики. М.: Изд-во иностр, лит., 1947. 306 с.

Марков А.А., Нагорный Н.М. Теория алгорифмов. М.: Наука, 1984. 432 с.

Вентцель Е.С. Методологические особенности прикладной математики на современном этапе // Математики о математике. М.: Знание, 1982. С. 37-55.

Нейман Дж.фон, Моргенштерн О. Теория игр и экономическое поведение. М.: Наука, 1970. 707 с.

Смирнов В.И. Курс высшей математики. М.: Физматгиз, 1961. Т. 1. 478 с.

Клайн М. Математика: Утрата определенности. М.: Мир, 1984. С. 300-322.

TL Гильберт Д. Основания геометрии. М.; Л.: ОГИЗ, 1948. 492 с.

Колмогоров А.Н., Семенович А.Ф., Черкасов Р.С. Геометрия: (Учеб, пособие для 6-8 классов средней шк.). М.: Просвещение, 1979. 382 с.

Понтрягин Л.С. О математике и качестве ее преподавания // Коммунист. 1980. №14. С. 99-112.

Погорелов А.В. Геометрия: (Учеб, для 6-10 классов средней шк.). М.: Просвещение, 1982. 287 с.

Кикоин И.К, Кикоин А.К. Физика: (Учеб, для 8 класса). М.: Просвещение, 1977. С. 71-75.

Ньютон И. Математические начала натуральной философии. Пг.: Тип. М.М. Стасюлевича, 1915. Кн. 1. 276 с.

Перышкин А.В., Крауклис В.В. Курс физики: Учеб, для 8 класса средней шк. М.: Гос. учебно-педагог. изд-во Мин-ва просвещения РСФСР, 1955. С. 57-94.

Ландсберг Г.С. Элементарный учебник физиюиМ.: Наука, 1971. Т. 1. С. 83-158.

Никитина Е.П., Фрейдлина В.Д., Ярхо А.В. Коллекций определений термина ’’статистика”. М.: Изд-во МГУ, 1972.45 с.

Дарвин Ч. Происхождение видов. М.: Гос. изд-во с.-х. лит., 1952. 484 с.

Бэр КМ. О развитии жизни на Земле: О сродстве животных // Анналы биологии. М.: МОИП, 1959. С. 383-405.

УЖ 519.65

Поляков ВТ., Нагорнов В.С. Параметрическое приближение, дискретное преобразование Фурье и многокомпонентный сигнал в задаче кодирования электрокардиосигналов // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Описывается адаптивный метод тригонометрического приближения и кодирования вектор-функций, оперирующий многомерным аналогом графика сигнала (’’синхрогодографом” вектор-функции) и предусматривающий численное решение задачи о наименьшем уклонении оператора Фурье на множестве параметрических представлений синхрогодографа. Декодирование сводится к обратному преобразованию синхрогодографа в вектор-функцию. Метод прилагается к электрокардиосигналам, представленным с помощью 16-разрядной импульсно-кодовой модуляции, со стандартом дискретизации 1024 отсчетов/с. Дается очерк истории вопроса, устанавливающий связи метода с некоторыми'идеями 30-х годов относительно кодирования изображений и численного конформного отображения.

Ил. 8. Табл. L Библиогр. 18 назв.

УЖ 621.391.19 ‘ -

Айду Э.А.И. Сближение и наведение. Алгоритм среднеквадратичного приближения линйи // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Рассматривается задача среднеквадратичного приближения плоской или пространственной линии при помощи тригонометрических полиномов. Вводятся расстояние между линиями, семейство аппроксимирующих линий и предлагается алгоритм поиска линии из этого семейства наиболее точно (в смысле введенного расстояния) приближающий данную линию. На конкретных примерах демонстрируется высокая эффективность использования предлагаемого алгоритма.

Ил. 4. Табл. 1. Библиогр. 7 назв.

УЖ 519.65

НагорновВ.С. Фурье-приближение кривой с адаптацией параметрического представления: об. одном экстремальном свойстве приближений, сохраняющих направление касательной // Алгоритмы обработки экспериментальных данных. М,: Наука, 1986.

Показано, что выбор в качестве параметрического описания плоской кривой комплекснозначной функции, имеющей общий со своим Фурье- приближением аргумент производной, дает как результат приближения кривую, охватывающую экстремальную площадь.

Библиогр. 2 назв.

УЖ 519.25

Мадиновский Л.Г. Система алгоритмов и программ анализа информативности и структур зависимостей измерений в задачах классификации и прогноза // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Описана система алгоритмов и программ, позволяющая выявлять различные виды информативностей в задачах классификации и прогноза, решаемых методами дискриминантного и регрессионного анализа. Особое внимание уделяется анализу структур зависимостей, позволяющему решать эти задачи в случае плохой обусловленности. Проведено сравнение нескольких алгоритмов выбора значимых структур зависимостей измерений. Работа программ иллюстрируется примером анализа информативности и структуры зависимости отсчетов электрокардиограмм (ЭКГ) в задаче классификации инфарктных ЭКГ.

Ил. 9. Табл. 2. Библиогр. 36 назв.

Уда 519.25

Трунов В.Г. Выбор линейной модели и оценка числа избыточных переменных // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Рассматривается задача выбора подмножества переменных в линейной регрессии. Изучаются вопросы оценки среднего риска и числа избыточных переменных в зависимости от выбора критерия остановки.

Ил. 2. Библиогр. 9 назв.

УДК 616.12-008.318:519.25

Ракчеева Т.А., Раевский П.М. Анализ статистических характеристик параметров ЭКГ в задачах автоматизированной диагностики сердечных аритмий // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

В статье приводятся результаты статистической обработки массива электрокардиограмм, содержащих сложные для диагностики нарушения ритма. Обработка проводилась как по электрокардиограмме в целом, так и по отдельным циклам, отражающим источник и характер возникновения сердечного импульса. Выявлены некоторые зависимости, представляющие интерес для клиники, а также для разработки алгоритмов вычислительной диагностики аритмий.

Ил. 1. Табл. 5. Библиогр. 18 назв.

УДК 616.12-008.318:519.25

Раев с к и й П.М., Ракчеева Т.А. Алгоритмическая классификация нарушений ритма сердца по статистическим критериям // Алгоритмы обработки экспериментальных данных. М.:'Наука, 1986.

Статья посвящена алгоритмической классификации сложных видов сердечных аритмий. Рассматриваются три задачи такой классификации — определение: наличия или отсутствия на ЭКГ смены ритма, блокады или экстрасистолии; показаний к лекарственной терапии; числа источников предсердной и желудочковой активности и связи между ними. В качестве алгоритмов классификации были применены метод множественной линейной регрессии и вероятностная логика. Приведены сравнительные результаты.

Табл. 3. Библиогр. 17 назв.

УДК 621.391.199:62-506.9-

Вайнштейн Г .Г., Москвина Е.А., Белов Д.А. Идентификация графических объектов иа основе преобразования к пространству параметров // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Рассматривается метод сопоставления графических изображений, известный также, . как ”неточечное преобразование” или ’’преобразование 0 Хока”. Обсуждаются его преимущества перед методами, основанными на задании метрики. Даются оценки объема вычислений и необходимой памяти для разных случаев его применения. Описаны варианты этого метода, предназначенные для выделения на изображении прямых, окружностей, эллипсов и произвольных плоских объектов.

Ил. 3. Табл. 1. Библиогр. 10 назв.

УДК 519.711.3

Крюков Ю.И. Планирование перемещений многозвенной кинетиматической цепи как процесс поиска экстремума функции в пространстве состояний системы // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

На примере плоской многозвенной цепи рассматривается алгоритм планирования пространственных перемещений манипулятора, основанный на текущем оценивании целевого положения системы. Алгоритм сочетает относительную простоту с возможностью компенсации погрешностей, возникающих как

за счет неточности приближенного планирования, так и за счет отклонений реального движения от планируемого. Приводится доказательство сходимости данного алгоритма.

Ил. 2. Библиогр. 5 назв.

УЖ 517.11

Стефанюк В. Л., АлексееваЕ.Ф, К созданию интеллектуальной операционной системы // Алгоритмы обработки экспериментальных данных. М;: Наука, 1986.

Описаны недостатки, присущие развитым операционным системам ЭВМ, пытающимся едиными средствами удовлетворить запросы самого широкого спектра пользователей. Предлагается альтернативный принцип организации ’’интеллектуальной” операционной системы, в основе которой лежит сеть фреймов, обеспечивающая способность подстраиваться под уровень подготовленности или другие особенности, свойственные каждому конкретному программисту. Он реализован в системе, обеспечивающей гибкое обслуживание программиста, работающего на языке ЛИСП в интерактивном режиме, которую можно рассматривать также как простую модель операционной системы.

Ил. 3. Библиогр; 11 назв.

УЖ 517.11 /

Жожикашвили А.В,, Стефанюк В.Л. Представление знаний и обучение в терминах теории категорий // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986.

Предлагается использование нового для области искусственного интеллекта аппарата теории категорий для абстрактного описания систем работы со знаниями. Вводится понятие системы образов как некоторой подкатегории категории множеств с выделенным объектом 5 и образцом как парой (X, ф), где X - объект категории, ф - морфизм из X в S, Затем вводится понятие наиболее общего частного случая и наименьшего обобщения образцов, которые позволяют рассматривать некоторые схемы обучения при поступлении новой информации и многие другие задачи искусственного интеллекта с единой точки зрения.

Ил. 29. Библиогр. 2 назв.

УЖ 517.11

Малиновский Л.Г, Процессы классификации - основа построения наук о действительности // Алгоритмы обработки экспериментальных данных. М.: Наука, 1986,

Процессы классификации, задаваемые конкретными примерами и допускающие моделирование на ЭВМ с конечной памятью, рассматриваются как альтернатива математическим множеством. С использованием этих процессов, а также других конструктивных процессов мышления, допускающих такое же моделирование, строятся основания содержательной финитной математики. Проводится мысль о целесообразности использования предлагаемого подхода в построении других наук о действительности, а также при написании школьных учебников.

Ил. 5. Библиогр. 37 назв.

СОДЕРЖАНИЕ

Предисловие 3

В. Г. Поляков, В. С. Нагорное. Параметрическое приближение, дискретное преобразование Фурье и многокомпонентный сигнал в задаче кодирования электрокардиосигналов 6

Э. А. И. Айду. Сближение и наведение. Алгоритм среднеквадратичного приближения линии 23

В. С. Нагорное. Фурье-приближение кривой с адаптацией параметрического представления: об одном экстремальном свойстве приближений, сохраняющих направление касательной 30

Л. Г. Малиновский. Система алгоритмов и программ анализа информативности и структур зависимостей измерений в задачах классификации и прогноза 35

В. Г. Трунов. Выбор линейной модели и оценка числа избыточных переменных 75

Т. А. Ракчеева, П. М. Раевский. Анализ статистических характеристик параметров ЭКГ в задачах автоматизированной диагностики сердечных аритмий 81

П. М. Раевский, Т. А. Ракчеева. Алгоритмическая классификация нарушений ритма сердца по статистическим критериям 91

Г. Г. Вайнштейн, Е. А. Москвина, Д. А. Белов. Идентификация графических объектов на основе преобразования к пространству параметров 98

Ю. И. Крюков. Планирование перемещений многозвенной кинематической цепи как процесс поиска экстремума функции в пространстве состояний системы 108

В. Л. Стефанюк, Е. Ф. Алексеева. К созданию интеллектуальной операционной системы 115

А. В. Жожикашвили, В. Л. Стефанюк. Представление знаний и обучение в терминах теории категорий 130

Л. Г. Малиновский. Процессы классификации — основа построения наук о действительности 155