Книга
← К списку книгЗагрузка разделов…
активнаАктивные записи участвуют в каталоге и синках. Неактивная книга скрыта, но не удалена из базы.
Книга
ПРЕДИСЛОВИЕ
Техническая диагностика — молодая наука, возникшая в последние два десятилетия в связи с потребностями современной техники. Все возрастающее значение сложных и дорогостоящих технических систем, особенно в машиностроении и радиоэлектронике, требования безопасности, безотказности и долговечности делают весьма важной оценку состояния системы, ее надежности. Техническая диагностика — наука о распознавании состояния технической системы, включающая широкий круг проблем, связанных с получением и оценкой диагностической информации.
Книга посвящена главным образом теоретическим, основам технической диагностики. Изучение общих методов распознавания и математической теории диагностики дает возможность более обоснованного выбора конкретных способов диагностики и соответствующих им правил решения. При изложении теории диагностики особых требований к математической подготовке инженеров не предъявляется, хотя некоторые моменты могут показаться трудными при первоначальном ознакомлении. Математизация инженерных знаний является неизбежным процессом, связанным с развитием техники, однако следует всегда помнить, что цель расчета не число, а понимание.
Изложение математических вопросов теории диагностики дано на инженерном уровне строгости, что позволяет во многих случаях сделать изложение более простым и ясным. Инженерные вопросы технической
диагностики кратко рассмотрены в первой и последней главах. Более подробный разбор вопросов технического обеспечения требует отдельного рассмотрения.
Книга ориентирована на проблемы диагностики механических систем (двигателей, машин и т. д.), поэтому теоретические проблемы, связанные с автоматизированным контролем и поиском неисправностей, структурой диагностического процесса и диагностических тестов, весьма важных для радиоэлектронных устройств, в книге опущены. Указанный пробел восполняется весьма обширной литературой по технической диагностике, в которой разбираются вопросы контроле- способности.
Глава 1
ОСНОВЫ
ТЕХНИЧЕСКОЙ
ДИАГНОСТИКИ
Вводные замечания. Эта глава является вводной. В ней кратко излагаются основные направления и задачи технической диагностики.
В отличие от обычного изложения, задачи технической диагностики рассматриваются в широком плане и связываются с общей проблемой распознавания.
ОСНОВНЫЕ НАПРАВЛЕНИЯ ТЕХНИЧЕСКОЙ ДИАГНОСТИКИ
Определения. Термин «диагностика» происходит от греческого слова «диагнозис», что означает распознавание, определение.
В процессе диагностики устанавливается диагноз, т. е. определяется состояние больного (медицинская диагностика) или состояние технической системы (техническая диагностика).
Технической диагностикой называется наука о распознавании состояния технической системы.
Цели технической диагностики. Рассмотрим кратко основное содержание технической диагностики. Техническая диагностика изучает методы получения и оценки диагностической информации, диагностические модели и алгоритмы принятия решений. Целью технической диагностики является повышение надежности и ресурса технических, систем.
Как известно, наиболее важным показателем надежности является отсутствие отказов во время функционирования (работы) технической системы. Отказ авиационного двигателя в полетных условиях, судовых механизмов во время плавания корабля, энергетических установок в работе под нагрузкой может привести к тяжелым последствиям.
Техническая диагностика благодаря раннему обнаружению Дефектов и неисправностей позволяет устранить подобные отказы в процессе технического обслуживания, что повышает надежность и эффективность эксплуатации, а также дает возможность эксплуатации технических систем ответственного назначения по состоянию.
В практике ресурс таких систем определяется по наиболее «слабым» экземплярам изделий. При эксплуатации по состоянию каждый экземпляр эксплуатируется до предельного состояния в соответствии с рекомендациями системы технической диагностики. Эксплуатация по техническому состоянию может принести выгоду, эквивалентную стоимости 30% общего парка машин.
Основные задачи технической диагностики. Техническая диагностика решает обширный круг задач, многие из которых являются смежными с задачами других научных дисциплин. Основной задачей технической диагностики является распознавание состояния технической системы в условиях ограниченной информации.
Техническую диагностику иногда называют безразборной диагностикой, т. е. диагностикой, осуществляемой без разборки изделия. Анализ состояния проводится в условиях эксплуатации, при которых получение информации крайне затруднено. Часто не представляется возможным по имеющейся информации сделать однозначное заключение и приходится использовать статистические методы.
Теоретическим фундаментом для решения основной задачи технической диагностики следует считать общую теорию распознавания образцов. Эта теория, составляющая важный раздел технической кибернетики, занимается распознаванием образов любой природы (геометрических, звуковых и т. п.), машинным распознаванием речи, печатного и рукописного текстов и т. д. Техническая диагностика изучает алгоритмы распознавания применительно к задачам диагностики, которые обычно могут рассматриваться как задачи классификации.
Алгоритмы распознавания в технической диагностике частично основываются на диагностических моделях, устанавливающих связь между состояниями технической системы и их отображениями в пространстве диагностических сигналов. Важной частью проблемы распознавания являются правила принятия решений (решающие правила).
Решение диагностической задачи (отнесение изделия к исправным или неисправным) всегда связано с риском ложной тревоги или пропуска цели. Для принятия обоснованного решения целесообразно привлекать методы теории статистических решений, разработанные впервые в радиолокации.
Решение задач технической диагностики всегда связано с про* гнозированием надежности на ближайший период эксплуатации (до следующего технического осмотра). Здесь решения должны основываться на моделях отказов, изучаемых в теории надежности.
Вторым важным направлением технической диагностики является теория контролеспособности. Контролеспособностью называется свойство изделия обеспечивать достоверную оценку его 6
технического состояния и раннее обнаружение неисправностей и отказов. Контролеспособность создается конструкцией изделия и принятой системой технической диагностики.
Крупной задачей теории контролеспособности является изучение средств и методов получения диагностической информации. В сложных технических системах используется автоматизированный контроль 'состояния, которым предусматривается обработка диагностической информации и формирование управляющих сигналов. Методы проектирования автоматизированных систем контроля составляют одно из направлений теории контролеспособности. Наконец, очень важные задачи теории контролеспособности связаны с разработкой алгоритмов поиска неисправностей, разработкой диагностических тестов, минимизацией процесса установления диагноза.
В связи с тем, что техническая диагностика развивалась первоначально только для радиоэлектронных систем, многие авторы отождествляют теорию технической диагностики с теорией контролеспособности (поиском и контролем неисправностей), что, конечно, ограничивает область приложения технической диагностики. •
Структура технической диагностики. На рис. 1 показана структура технической диагностики. Она характеризуется двумя взаимопроникающими и взаимосвязанными направлениями: теорией распознавания и теорией контролеспособности. Теория распознавания содержит разделы, связанные с построением алгоритмов распознавания, решающих правил и диагностических моделей. Теория контролеспособности включает разработку средств и методов получения диагностической информации, автоматизированный контроль и поиск неисправностей. Техническую диагностику следует рассматривать как раздел общей теории надежности.
Рис. 1. Структура технической диагностики
ПОСТАНОВКА ЗАДАЧ ТЕХНИЧЕСКОЙ ДИАГНОСТИКИ
Вводные замечания. Пусть требуется определить состояние шлицевого соединения валов редуктора в эксплуатационных условиях. При большом износе шлицев появляются перекосы и усталостные разрушения. Непосредственный осмотр шлицев невозможен, так как требует разборки редуктора, т. е. прекращения эксплуатации. Неисправность шлицевого соединения может повлиять на спектр колебаний корпуса редуктора, акустические колебания, содержание железа в масле и другие параметры.
Задача технической диагностики состоит в определении степени износа шлицев (глубины разрушенного поверхностного слоя) по данным измерений ряда косвенных параметров. Как указывалось, одной из важных особенностей технической диагностики является распознавание в условиях ограниченной информации, когда требуется руководствоваться определенными приемами и правилами для принятия обоснованного решения.
Состояние системы описывается совокупностью (множеством) определяющих ее параметров (признаков). Разумеется, что множество определяющих параметров (признаков) может быть различным, в первую очередь, в связи с самой задачей распознавания. Например, для распознавания состояния шлицевого соединения двигателя достаточна некоторая группа параметров, но она должна быть дополнена, если проводится диагностика и других деталей.
Распознавание состояния системы — отнесение состояния системы к одному из возможных классов (диагнозов). Число диагнозов (классов, типичных состояний, эталонов) зависит от особенностей задачи и целей исследования.
Часто требуется провести выбор одного из двух диагнозов (дифференциальная диагностика или дихотомия); например, «исправное состояние» и «неисправное состояние». В других случаях необходимо более подробно охарактеризовать неисправное состояние, например повышенный износ шлицев, возрастание вибраций лопаток и т. п. В большинстве задач технической диагностики диагнозы (классы) устанавливаются заранее, и в этих условиях задачу распознавания часто называют задачей классификации.
Так как техническая диагностика связана с обработкой большого объема информации, то принятие решений (распознавание) часто осуществляется с помощью электронных вычислительных машин (ЭВМ).
Совокупность последовательных действий в процессе распознавания называется алгоритмом распознавания. Существенной частью процесса распознавания является выбор параметров, описывающих состояние системы. Они должны быть достаточно информативны (см. гл. 8), чтобы при выбранном числе диагнозов процесс разделения (распознавания) мог быть осуществлен.
Математическая постановка задачи. В задачах диагностики состояние системы часто описывается с помощью комплекса признаков
К-№> ^,..., к^ (2.1)
где к^ — признак^ имеющий т^ разрядов.
Пусть, например, признак к^ представляет собой трехразрядный признак (т^ = 3), характеризующий величину температуры газа за турбиной: пониженная, нормальная, повышенная. Каждый разряд (интервал,) признака kj обозначается к^, например повышенная температура за турбиной к^. Фактически наблюдаемое состояние соответствует определенной реализации признака, что отмечается верхним индексом *. Например, при повышенной температуре реализация признака к* = кр3.
В общем случае каждый экземпляр системы соответствует некоторой реализации комплекса признаков:
К*Цк*, к^..., кр.» к^. (2.2)
Во многих алгоритмах распознавания удобно характеризовать систему параметрами Ху, образующими v-мерный вектор или точку в v-мерном пространстве:
х= (хь х2,. • •. хр..xv). (2.3)
В большинстве случаев параметры х{ имеют непрерывное распределение. Например, пусть х} — параметр, выражающий температуру за турбиной. Предположим, что соответствие между параметром х, (°C) и трехразрядным признаком к, таково:
< 450 к;1 ' 450—550 к.-2
>500 Kj;i
В данном случае с помощью признака к; получается дискретное описание, тогда как параметр х, дает непрерывное описание. Отметим, что при непрерывном описании обычно требуется значительно больший объем предварительной информации, но описание получается более точным. Если, однако, известны статистические законы распределения параметра, то необходимый объем предварительной информации сокращается.
Из предыдущего ясно, что принципиальных отличий при описании системы с помощью признаков или параметров нет, и в дальнейшем будут использованы оба вида описания.
Как указывалось, в задачах технической, диагностики. возможные состояния системы — диагнозы D; — считаются известными.
Существуют два основных подхода к задаче распознавания: вероятностный и детерминистский. Постановка задачи при вероятностных методах распознавания такова. Имеется система, которая находится в одном из п случайных состояний D;. Из-
9
вестна совокупность признаков (параметров), каждый из которых с определенной вероятностью характеризует состояние системы. Требуется построить решающее правило, с помощью которого предъявленная (диагностируемая) совокупность признаков была бы отнесена к одному из возможных состояний (диагнозов). Желательно также оценить достоверность принятого решения и степень риска ошибочного решения.
При детерминистских методах распознавания удобно формулировать задачу на геометрическом языке. Если система характеризуется v-мерным вектором X, то любое состояние системы представляет собой точку в v-мерном пространстве параметров (признаков). Предполагается, что диагноз D[ соответствует некоторой области рассматриваемого пространства признаков. Требуется найти решающее правило, в соответствии с которым предъявленный вектор X* (диагностируемый объект) будет отнесен к определенной области диагноза. Таким образом задача сводится к разделению пространства признаков на области диагнозов.
При детерминистском подходе области диагнозов обычно считаются «непересекающимися», т. е. вероятность одного диагноза (в область которого попадает точка) равна единице, вероятность других равна нулю. Подобным образом предполагается, что и каждый признак либо встречается при данном диагнозе, либо отсутствует.
Вероятностный и детерминистский подходы не имеют принципиальных различий. Более общими являются вероятностные методы, но они часто требуют и значительно большего объема предварительной информации. Детерминистские подходы более кратко описывают существенные стороны процесса распознавания, меньше зависят от избыточной, малоценной информации, больше соответствуют логике мышления человека.
В последующих главах излагаются основные алгоритмы распознавания в задачах технической диагностики.
к)
Глава 2
СТАТИСТИЧЕСКИЕ
МЕТОДЫ
РАСПОЗНАВАНИЯ
Вводные замечания. Основное преимущество статистических методов распознавания состоит в возможности одновременного учета признаков различной физической природы, так как они характеризуются безразмерными величинами — вероятностями их появления при различных состояниях системы. В этой главе содержится подробное изложение метода Байеса и метода последовательного анализа. Теория статистических решений, составляющая особый раздел статистических методов, рассматривается в следующей главе.
МЕТОД БАЙЕСА
Среди методов технической диагностики метод, основанный на обобщенной формуле Байеса, занимает особое место благодаря простоте и эффективности.
Разумеется, метод Байеса имеет недостатки: большой объем предварительной информации, «угнетение» редко встречающихся диагнозов и др. Однако в случаях, когда объем статистических данных позволяет применить метод Байеса, его целесообразно использовать как один из наиболее надежных и эффективных методов.
Основы метода. Метод основан на простой формуле Байеса, [19, 22]. Если имеется диагноз Di и простой признак А;, встречающийся при этом диагнозе, то вероятность совместного появления событий (наличие у объекта состояния Di и признака k}) р ф^к) = Р (Dz) Р (kjlD.) = Р (kJ Р фак.У (3.1) Из этого равенства вытекает формула Байеса (см. гл. 11)
Р ф£/к^ =-- Р (DJ Р(р/'^~. (3.2)
Очень важно определить точный смысл всех входящих в эту формулу величин.
P (Dt)— вероятность диагноза Dt, определяемая по статистическим данным (априорная вероятность диагноза). Так, если предварительно обследовано N объектов и у М( объектов имелось состояние Dis то
P(Di)^ NJN. (3.3)
Р (kjIDi) — вероятность появления признака к^ у объектов с состоянием Die Если среди М( объектов, имеющих диагноз DL, у Ntj проявился признак к^ то
(3.4)
Р (kj) — вероятность появления признака к} во всех объектах независимо от состояния (диагноза) объекта. Пусть из общего числа N объектов признак к} был обнаружен у Nj объектов, тогда P(kj) = NJ./N. (3.5)
Для установления диагноза специальное вычисление Р (kj) не требуется. Как будет ясно из дальнейшего, значения Р (D') и Р (kj/Di), известные для всех возможных состояний, определяют величину Р (kj).
В равенстве (3.2) Р (Difkj) — вероятность диагноза Di после того, как стало известно наличие у рассматриваемого объекта признака к; (апостериорная вероятность диагноза).
Обобщенная формула Байеса. Эта формула относится к случаю, когда обследование проводится по комплексу признаков К. включающему признаки къ Л2, ..., Aw Каждый из признаков kj имеет т} разрядов (kiU kj2, ..., kjs, ..., kjm). В результате обследования становится известной реализация признака
к* - kjs (3.6)
и всего комплекса признаков К*. Индекс *, как и раньше, означает конкретное значение (реализацию) признака. Формула Байеса для комплекса признаков имеет вид
р (DifK*) = Р (Di) Р (K*fD^fP (К*) (1- 1, 2, .. ., п), (3.7) где Р (Di/K*) — вероятность диагноза D( после того, как стали известны результаты обследования по комплексу признаков К, Р (О,) — предварительная вероятность диагноза D( (по предшествующей статистике).
Формула (3.7) относится к любому из п возможных состояний (диагнозов) системы. Предполагается, что система находится только в одном из указанных состояний и потому
^P(D$)=1. (3.8) S=1
В практических задачах нередко допускается возможность существования нескольких состояний Аъ .... Аг. причем некоторые из них могут встретиться в комбинации друг с другом. Тогда в качестве различных диагнозов D( следует рассматривать отдельные состояния Dx = А1, .... Dr = Аг и их комбинации Рг+1 = Ах ^ А%, ... и т. п. ■
Перейдем к определению Р ^K*!DtY Если комплекс признаков состоит из v признаков, то
P^lDt^PWlD^P^IkxD^.. .P^fkY. .k^DiY (3.9) где к*; = kjs — разряд признака, выявившийся в результате обследования. Для диагностически независимых признаков
Р ^СФ^ = Р (МФ<) Р №0^ ...Р ^Ф^.(3.10)
В большинстве практических задач, особенно при большом числе признаков, можно принимать условие независимости признаков даже при наличии существенных корреляционных связей между ними.
Вероятность появления комплекса признаков К*
п
Р(К*)='21Рф$)Р(К*/П$).(3.11)
5=1
Обобщенная формула Байеса может быть записана так:
Р ф^К*) = Р (Di) Р (№й ,(3.12)
5 Р (Ds) Р (K*/Ds) 5=1
где Р (K*lDi) определяется равенством (3.9) или (3.10). Из соотношения (3.12) вытекает
Vww.(3.13)
что, разумеется, и должно быть, так как один из диагнозов обязательно реализуется, а реализация одновременно двух диагнозов невозможна.
Следует обратить внимание на то, что знаменатель формулы Байеса для всех диагнозов одинаков. Это позволяет сначала определить вероятности совместного появления i-ro диагноза и данной реализации комплекса признаков
Р ф^*) = Р ф^ Р <К*ФЬ(3.14)
и затем апостериорную вероятность диагноза
р Ф^К*) = Р ф^)^ Рф8К*).(3.15)
Отметим, что иногда целесообразно использовать предварительное логарифмирование формулы (3.12), так как выражение (3.10) содержит произведения малых величин.
Если реализация некоторого комплекса признаков К* является детерминирующей для диагноза Z)p, то этот комплекс не встречается при других диагнозах:
P(/<*/Ds) = {P(/<*/Ds) = {О при s ^ р; ^ О при s = р.О при s ^ р; ^ О при s = р.
P(/<*/Ds) = {
P(/<*/Ds) = {
О при s ^ р; ^ О при s = р.
О при s ^ р; ^ О при s = р.
(3.16)(3.16)Тогда, в силу равенства (3.12)( 0 при s + р;
(3.16)
(3.16)
v s 7( 1 при S = р.
Таким образом, детерминистская логика установления диагноза является частным случаем вероятностной логики. Формула Байеса может использоваться и в том случае, когда часть признаков имеет дискретное распределение, а другая' часть — непрерывное. Для непрерывного распределения используются плотности распределения. Однако в расчетном плане указанное различие признаков несущественно, если задание непрерывной кривой осуществляется с помощью совокупности дискретных значений.
Диагностическая матрица. Для определения вероятности диагнозов по методу Байеса необходимо составить диагностическую матрицу (табл. 1), которая формируется на основе предварительного статистического материала. В этой таблице содержатся вероятности разрядов признаков при различных диагнозах. Если
Таблица 1
Диагностическая матрица в методе Байеса
Диагноз Di
Признак kj
p ^Dn
kt
*2
ka
сГ
CL.
сГ
CL.
CL
сГ
CL
CL
сГ
CL
CL
5
cl
CL
Di
0,8
0,2
0
0,1
о,1
0,6
0,2
0,2
0,8
0,3
d2
0,1
0,7
0,2
0
0
0,3
0,7
0,1
0,9
0,1
признаки двухразрядные (простые признаки «да—нет»), то в таблице достаточно указать вероятность появления признака р (kJBiY Вероятность отсутствия признака Р (kjIBi) = 1 — - AWY
Однако более удобно использовать единообразную форму, полагая, например, для двухразрядного признака Р (kjIBi) = = Р ^iDiY Р Ш = Р ^D£Y
Отметим, что У, P(kis/Bi) = 1, где т, — число разрядов при- 5=1
знака к;. Сумма вероятностей всех возможных реализаций признака равна единице.
В диагностическую матрицу включены априорные вероятности диагнозов. Процесс обучения в методе. Байеса состоит в формировании диагностической матрицы. Важно предусмотреть возможность уточнения таблицы в процессе диагностики. Для этого в памяти ЭВМ следует хранить не только значения Р (kjjBtY но и следующие величины: N — общее число объектов, использованных для составления диагностической матрицы; N^ — число объектов с диагнозом Вл Мц — число объектов с диагнозом Вь обследованных по признаку к;. Если поступает новый объект с диагнозом В^ то проводится корректировка прежних априорных вероятностей диагнозов следующим образом:
JV + 1 = Р ^^ N -V 1 ’ г"= 1 ’ 2, • • •, «; < ¥= р;
М , ,(3.17)
+ 1 _ D/n X N I•
N + 1 Р (D^ N + 1 N + 1 ’1'
Далее вводятся поправки к вероятностям признаков. Пусть у нового объекта с диагнозом В№ выявлен разряд г признака к]. Тогда для дальнейшей диагностики принимаются новые значения вероятности интервалов признака к, при диагнозе В^;
pUyW =pUyW =(3.18)(3.18)
pUyW =
pUyW =
(3.18)
(3.18)
Условные вероятности признаков при других диагнозах корректировки не требуют.
Пример. Поясним метод Байеса. Пусть при наблюдении за газотурбинным Двигателем проверяются два признака: кх — повышение температуры газа за. турбиной более.чем на 50°£ и k2 — увеличение времени выхода на-максимальную частоту вращения более чем на 5 с. Предположим, что для данного типа двигателей появление этих признаков связано либо с неисправностью топливного регулятора (состояние D^, либо с увеличением радиального зазора в турбине (со-
При нормальном состоянии двигателя (состояние D3) признак кх не наблюдается, а признак к2 наблюдается в 5% случаев. На основании статистических данных известно, что 80% двигателей вырабатывают ресурс в нормальном состоянии, 5% двигателей имеют состояние DT и 15% — состояние D2. Известно также, что признак кг встречается при состоянии DT в 20%, а при состоянии £)2 в 40% случаев; признак ^2 при состоянии Dt встречается в 30%, а при состоянии £)3 — в 50% случаев. Сведем эти данные в диагностическую таблицу (табл. 2).
Найдем сначала вероятности состояний двигателя, когда обнаружены оба признака кх и &2. Для этого, считая признаки независимыми, применим формулу (3.12).
Вероятность состояния
0,05-0,2-0,3
Р- 0,05-0,2-0,3 + 0,15-0,4-0,5 + 0,8-0-0,05
Аналогично получим Р ф2!кхк^ = 0,91; Р ф^кхк2) = 0.
Определим вероятность состояний двигателя, если обследование показало, что повышение температуры не наблюдается (признак кх отсутствует), но увеличивается время выхода на максимальную частоту вращения (признак к2 наблюдается). Отсутствие признака кг есть признак наличия кх (противоположное событие), причем Р (kJDt) = 1 — Р (kJDi).
Для расчета применяют также формулу (3.12), но значение Р (kJDi) в диагностической таблице заменяют на Р (k^D;). В этом случае Р ф^к^^ = = 0,05-0,8-0,3=
0,05-0,8-0,3 + 0,15-0,6-0,5 + 0,8-1 -0,05’
и аналогично Р ф21кхк^ = 0,46; Р ф3!кхк^ = 0,41. Вычислим вероятности состояний в том случае, когда оба признака отсутствуют. Аналогично предыдущему получим
Р ФхПкк^ = 0,05-0,8-0,7 + 0,15-0,6-0,5 + 0,8-1 -0,15 = °’03:
Р ф»/^ = 0,05; Р ф^к^ = 0,92.
Отметим, что вероятности состояний Dt и D2 отличны от нуля, так как рассматриваемые признаки не являются для них детерминирующими. Из проведенных расчетов можно установить, что при наличии признаков кх и к2 в двигателе с вероятностью 0,91 имеется состояние Dv т. е. увеличение радиального зазора. При отсутствии обоих признаков наиболее вероятно нормальное состояние (вероятность 0,92). При отсутствии признака кх и наличии признака к2 вероятности состояний D2 и D3 примерно одинаковы (0,46 и 0,41) и для уточнения состояния двигателя требуется проведение дополнительных обследований
Т абл и ц а 2
Вероятности- признаков и априорные вероятностисостояний
Di
Р (Й!/°.)
р (к2Фд
р Фд
Di d2
0,2
0,4
0,0
0,3
0,5
0,05
0,05
0,15
0,80
Решающее правило — правило, в соответствии с которым принимается решение о диагнозе. В метод^Байеса объект с комплексом признаков К* относится к диагнозу с наибольшей (апостериорной) вероятностью
K*^Db если P<DJK^>P Ф,1К^ (/ - 1, 2,..., п; Ир). (3.19)
Символ С, применяемый в функциональном анализе, означает принадлежность множеству. Условие (3.19) указывает, что объект, обладающий данной реализацией комплекса признаков К* или, короче, реализация К* принадлежит диагнозу (состоянию) Di. Правило (3.19) обычно^ уточняется введением порогового значения для вероятности диагноза:
Р^ИС^Ри(3.20)
где Pt — заранее выбранный уровень распознавания для диагноза В(. При этом вероятность ближайшего конкурирующего диагноза не выше 1 — Pt. Обычно принимается Pt >> 0,9. При условии
PkPm<Pt(3.21)
решение о диагнозе ж^ладнкмаегед (отказ от распознавания) и требуется поступление дополнительной информации.
Процесс принятия решения в методе Байеса при расчете на ЭВМ происходит достаточно быстро. Например, постановка диагноза для 24 состояний при 80 многоразрядных признаках занимает на ЭВМ с быстродействием 10—20 тысяч операций в секунду всего несколько минут.
Как указывалось, методу Байеса присущи некоторые недостатки, например погрешности при распознавании редких диагнозов. При практических расчетах целесообразно провести диагностику и для случая равновероятностных диагнозов, положив P(D^= Мп.(3.22)
Тогда наибольшим значением апостериорной вероятности будет обладать диагноз Di, для которого Р ^К*/О() максимальна:
K*^Db если P^ID^P^ID^ (/= 1, 2,..., п; 1 + j).
(3.23)
Иными словами, устанавливается диагноз Di, если данная совокупность признаков чаще встречается при диагнозе Db чем при Других диагнозах. Такое решающее правило соответствует методу максимального правдоподобия. Из предыдущего вытекает, что этот метод является частным случаем метода Байеса при одинаковых априорных вероятностях диагнозов. В методе максимального правдоподобия «частые» и «редкие» диагнозы равноправны.
Для надежности распознавания условие (3.23) должно быть дополнено пороговым значением
P(K*lDt}^Pb(3.24)
где Pi — заранее выбранный уровень распознавания для диагноза Dle
МЕТОД ПОСЛЕДОВАТЕЛЬНОГО АНАЛИЗА
Метод последовательного анализа, предложенный Вальдом, применяется для дифференциальной диагностики (распознавания двух состояний). В отличие от метода Байеса, число обследований заранее не устанавливается, их проводится столько, сколько необходимо для принятия решения с определенной степенью риска.
Основы метода. При использовании метода Байеса для распознавания состояний Dx и D^ следует составить отношение (для независимых признаков)
(4.1)(4.2)(4.3)(4.1)(4.2)(4.3)Р ф2/К*) Р ф^ р (^г) • • • р XJD^ Р (DY^ Р (Da ' Р^lDx) •
(4.1)
(4.2)
(4.3)
(4.1)
(4.2)
(4.3)
Если
РЦЭ^К*) или
Р (ЩО^ р (X^D^р (D1)
p(M/Dx) ' Р ^/Dt)р (De) ’
то принимается решение К* ^ D2-
В методе последовательного анализа рассматриваемые отношения вероятностей признаков (отношения правдоподобия} составляются не сразу, а в последовательном порядке; поэтому, как правило, требуется меньшее число обследований. Поясним сущность метода на следующем примере.
Пример. Пусть при диагнозе D^ простой признак кх встречается с вероятностью Р (kJDJ и отсутствует с вероятностью Р (k^D^), для диагноза D^ соответственно Р (kJD2) и Р (k^D^. Если у объекта К* наблюдается признак кх и при диагнозе D2 он встречается значительно чаще, чем при Dv то можно сделать вывод в пользу диагноза £)2*
где А — верхняя граница принятия решения,
18
В противоположном случае, когда признак кх значительно чаще встречается при диагнозе Dv принимается решение в пользу диагноза DpВ противоположном случае, когда признак кх значительно чаще встречается при диагнозе Dv принимается решение в пользу диагноза Dpр (№) при Р№г)р (№) при Р№г)K*£DVK*£DV(4.5)(4.5)где В — нижняя граница принятия решения. Если отношение вероятностей, которое часто называется отношением правдоподобия,где В — нижняя граница принятия решения. Если отношение вероятностей, которое часто называется отношением правдоподобия,В<В<P_№iL/ А Р Уч/Р^P_№iL/ А Р Уч/Р^(4.6)(4.6)
В противоположном случае, когда признак кх значительно чаще встречается при диагнозе Dv принимается решение в пользу диагноза Dp
В противоположном случае, когда признак кх значительно чаще встречается при диагнозе Dv принимается решение в пользу диагноза Dp
р (№) при Р№г)
р (№) при Р№г)
K*£DV
K*£DV
(4.5)
(4.5)
где В — нижняя граница принятия решения. Если отношение вероятностей, которое часто называется отношением правдоподобия,
где В — нижняя граница принятия решения. Если отношение вероятностей, которое часто называется отношением правдоподобия,
В<
В<
P_№iL/ А Р Уч/Р^
P_№iL/ А Р Уч/Р^
(4.6)
(4.6)
то для решения требуется поступление дополнительной информации. Тогда проводится обследование по признаку к2 и пусть, например, у диагностируемого объекта этот признак отсутствует.
Составляется произведение двух отношений правдоподобия и
приприр Уч/р^Р ^Р^р Уч/р^Р ^Р^Р ^ЮдP№i) ,Р ^ЮдP№i) ,> Л К*£Ра> Л К*£Ра(4.7)(4.7)
при
при
р Уч/р^
Р ^Р^
р Уч/р^
Р ^Р^
Р ^Юд
P№i) ,
Р ^Юд
P№i) ,
> Л К*£Ра
> Л К*£Ра
(4.7)
(4.7)
принимается решение об отнесении объекта к диагнозу D2. Подобным образом учитывается нижняя граница принятия решения. Если признаки зависимые, то используется отношение Р (k2/k1D2)/P (Z^/^i^i)» в котором учитывается вероятность отсутствия признака к2, при условии, что признак kt имеется. Дополнительные обследования проводятся до тех пор, пока при выбранных границах А и В можно принять определенное решение.
Часто оказывается удобным рассматривать не отношение правдоподобия, а натуральный логарифм этого отношения. Тогда условие (4.7) будет таким:
In (Р (K/DJ/P (к^)) + In (Р ^(D^IP ф2Ю^ > In Л.
Подобная форма применяется при нормальном распределении количественных признаков.
Общая процедура метода. Будем для краткости считать, что признаки являются независимыми. Пусть проведено v — 1 обследований, которые еще не дали возможности принятия решения,
r = 1, 2,..., V- 1,r = 1, 2,..., V- 1,(4.8)(4.8)(4-9)(4-9)в . P3gJDiLд
r = 1, 2,..., V- 1,
r = 1, 2,..., V- 1,
(4.8)
(4.8)
(4-9)
(4-9)
- Р (k*/D}) 1 р ^^о^ Л
но после v-ro обследования
Р UW р «/у2) . д
P^/D.) ' * 'p^/Dj
Тогда принимается решение об отнесении объекта к диагнозу D4: К* £ D4. Если после v-ro обследования
(4.Ю)(4.Ю)Р (Ц/Р^ р «/^г) R
(4.Ю)
(4.Ю)
Р У№ ' ‘ ‘ Р ^/D^
то объект относится к диагнозу Dv Для сокращения объема обследований следует вначале проводить обследование по наиболее информативным признакам (см. гл. 7, 8).
Рис. 2. Применение последовательного анализа для оценки состояния двигателя по результатам тензометрирования
Отметим, что метод пригоден и для непрерывно распределенных диагностических параметров, хъ х^ но вместо вероятностей признаков в отношения (4.8), (4.9) и (4.10) входят плотности
вероятностей параметров.
Связь границ принятия решения с вероятностями ошибок пер
вого и второго рода При распознавании могут быть ошибки двоякого рода. Ошибка относящаяся к диагнозу Dt (принимается решение о наличии диагноза D^ когда в действительности объект принадлежит диагнозу DJ, называется ошибкой первого рода. Ошибка, относящаяся к диагнозу Z)2 (принимается решение в пользу диагноза Dx> когда справедлив диагноз Z)2), называется ошибкой второго рода.
Считая состояние Dt исправным, а состояние D^ дефектным, легко понять, что ошибка первого рода является «ложной тревогой», а ошибка второго рода «пропуском дефекта».
> А.> А.Обозначим вероятность ошибки первого рода а, второго рода р. Допустим, что имеются условия (4.8) и (4.9) и принимается решение в пользу диагноза D^. Вероятность того, что это решение будет справедливым, равна 1 — р. Вероятность принадлежности объекта с данной реализацией признаков к диагнозу Вг составляет а. С другой стороны, в силу соотношения (4.9), вероятность диагноза D^ по крайней мере, в А раз больше, чем диагноза Du т. е.
> А.
> А.
(4.Н)
Подобным образом можно получить и следующую оценку:
В>В>РР1 — а '1 — а '(4-12)(4-12)
В>
В>
Р
Р
1 — а '
1 — а '
(4-12)
(4-12)
В практических расчетах часто принимают а = 0 = 0,05 или а = 0 = 0,10.
Пример. В исправном газотурбинном двигателе среднее значение переменного напряжения составляет xlt в дефектном двигателе это значение существенно выше х2, но дисперсии практически мало отличаются of = о| — ^.Диагностика осуществляется с помощью измерения переменных напряжений в лопатках. Закон распределения напряжений но отдельным лопаткам принимается нормальным.
Сначала проводится измерение в первой лопатке и составляется отношение
1 г/ ~ \2 /“ \21
_ е 202;,
"TT^dA) (лп-^)2
_2о2
После проведения n-го обследования (т. е. измерения напряжений в лопатках 1, 2, .... п) логарифм отношения
Xi)2 —Xi)2 —/ (Х(1)/^2) • • • / ^(И)/^) _1г/„
Xi)2 —
Xi)2 —
f (xw/D,) . . . f (x^lD,)2о2 ZjK m
z = l
-kxm-x^\ = — -A-kxm-x^\ = — -AX2 + X1X2 + X1(4.13)(4.13)
-kxm-x^\ = — -A
-kxm-x^\ = — -A
X2 + X1
X2 + X1
(4.13)
(4.13)
Если для решения об исправном или неисправном состоянии двигателя нет достаточных оснований, то отношение (4.13) лежит в пределах
ппх2 —Х1о2х2 —Х1о2*2 + *1*2 + *122пп1п А.1п А.
п
п
х2 —Х1о2
х2 —Х1о2
*2 + *1
*2 + *1
2
2
п
п
1п А.
1п А.
Из последнего условия вытекает
п
(4.14)(4.14)Ь2 -|- ап.
(4.14)
(4.14)
где
Ь.Ь.о2о2InInРРх2 — Xiх2 — Xi1 — а1 — а^2 -^2 -о2о2х2 — Xiх2 — XiIn—; а —аIn—; а —аХ2 + Х1Х2 + Х122
Ь.
Ь.
о2
о2
In
In
Р
Р
х2 — Xi
х2 — Xi
1 — а
1 — а
^2 -
^2 -
о2
о2
х2 — Xi
х2 — Xi
In—; а —
а
In—; а —
а
Х2 + Х1
Х2 + Х1
2
2
Условие (4.14) при различном числе испытаний п соответствует области между .п
двумя параллельными линиями (рис. 2). Если ^ хц^ находится внутри линий, ис- z=l
пытания продолжаются, если она выходит из «коридора», то принимается решение о диагнозе.
Отметим, что Ьг < 0, так какОтметим, что Ьг < 0, так как< 1. Ширина «коридора» тем больше,
Отметим, что Ьг < 0, так как
Отметим, что Ьг < 0, так как
чем меньше величины аир, чем меньше разность средних значений и чем выше дисперсия. Все эти обстоятельства с очевидностью соответствуют интуитивным представлениям о процессе распознавания. Из рис. 2 видно, что после испытания восьмой лопатки было принято решение о неисправном состоянии двигателя. Отметим, что такая же процедура может использоваться для анализа напряжений в различные моменты времени.
Глава 3
МЕТОДЫ СТАТИСТИЧЕСКИХ РЕШЕНИЙ
Вводные замечания. Рассматриваемые в этой главе методы также относятся к статистическим. Однако они отличаются от изложенных в гл. 2 правилами принятия решения. В методах статистических решений решающее правило выбирается исходя из некоторых условий оптимальности, например из условия минимума риска. Возникшие в математической статистике как методы проверки статистических гипотез (работы Неймана и Пирсона), рассматриваемые методы нашли широкое применение в радиолокации (обнаружение сигналов на фоне помех), радиотехнике, общей теории связи и других областях. Методы статистических решений успешно используются в задачах технической диагностики [10, 24]. Ниже излагаются основы теории статистических решений, более подробное изложение можно найти в работах [15, 60, 62].
Рассмотрим сначала процесс распознавания при наличии одного диагностического параметра.
СТАТИСТИЧЕСКИЕ РЕШЕНИЯ
ДЛЯ ОДНОГО ДИАГНОСТИЧЕСКОГО ПАРАМЕТРА
Правило решения. Пусть производится диагностика состояния газотурбинного двигателя по содержанию железа в масле (параметр х). Задача состоит в выборе значения х0 параметра х таким образом, что при ^х > х0 следует принимать решение о снятии двигателя с эксплуатации, а при х < х^ допускать дальнейшую работу.
Так как состояние системы характеризуется одним параметром, то система имеет одномерное пространство признаков. Разделение производится на два класса (дифференциальная диагностика или дихотомия). Условимся считать: Dy — исправное состояние и D2 — наличие дефекта. Тогда указанное правило решения состоит в следующем:
при х<х0 x^D^ при х>х0 x^D2.(5.1)
рис. 3- Статистические распределения плотности вероятности диагностического параметра X для исправного р1 и дефектного D^ состояний
fU/DOfU/DOСодержание железа в масле неоднозначно характеризует состояние подшипника (в масло попадают железные частицы от других трущихся деталей: шестерен, шлиц и т. д.). В зависимости от ряда факторов распределение х для дефектных и исправных подшипников показано на рис. 3. Существенно, что области исправного Вг и дефектного D ^ состояний пересекаются и потому принципиально невозможно выбрать значение х0, при котором правило (5.1) не давало бы ошибочных решений. Задача состоит в том, чтобы выбор х^ был в некотором смысле оптимальным, например давал наименьшее число ошибочных решений.
fU/DO
fU/DO
Рассмотрим сначала возможные ошибки при принятии решения.
Ложная тревога и пропуск цели (дефекта). Эти встречавшиеся ранее термины явно связаны с радиолокационной техникой, но они легко интерпретируются в задачах диагностики.
Ложной тревогой называется случай, когда принимается решение о наличии дефекта, но в действительности система находится в исправном состоянии (вместо Dx принимается Z)2).
Пропуск цели (дефекта) — принятие решения об исправном состоянии, тогда как система содержит дефект (вместо D^ принимается D^.
В теории контроля эти ошибки называются риском поставщика и риском заказчика. Очевидно, что эти даоякого рода ощибки могут иметь различные последствия или различнее цецы*
Обозначим Hfj (i, j = 1,2) возможные решения по правилу (5.1) (первый нижний индекс соответствует индексу принятого диагноза, второй — индексу действительного состояния). Тогда //12 — пропуск дефекта и //21 — ложная тревога фг — исправное состояние, D^ — дефектное состояние); Нг1 и ^22— правильные решения.
Рассмотрим вероятность ложной тревоги Р (Н^ при использовании правила (5.1) (случай, когда при х > х0 объект является исправным, но по правилу (5.1) рассматривается как дефектный). Площадь под кривой плотности вероятности исправного состояния, соответствующая х > х0, выражает условную вероятность ситуации' х > х0 для исправных изделий
(5.2)(5.2)P(x>x6/D^= J f^xiD^dx.
(5.2)
(5.2)
Вероятность ложной тревоги равна вероятности произведения двух событий: наличие исправного состояния и значения х > х0. Тогда
Р (Я21) = Р (Da Р (х > Xo/DJ ^P^f (x/Dt) dx,(5.3)
*0
где Рг = P (D^ —априорная вероятность диагноза Dx (считается известной на основании предварительных статистических данных). Подобным образом находится вероятность пропуска дефекта
X»
(5.4)(5.4)РкН1^ = Рфг>Р^<ХоЮ^ = Рг J HxlD^dx.
(5.4)
(5.4)
Средний риск. Вероятность принятия ошибочного решения слагается из вероятностей ложной тревоги и пропуска дефекта. Если приписать «цены» этим ошибкам, то получим выражение для среднего риска
R = C2J\ J / (x/DJ dx + СиРа j / (х/О2) dx. (5.5) Х0 —ОО
Разумеется, цена ошибки имеет условное значение, но она должна учесть предполагаемые последствия ложной тревоги и пропуска дефекта. В задачах надежности стоимость пропуска дефекта обычно существенно больше стоимости ложной тревоги (С12 Э* С21). Иногда вводится цена правильных решений Нг1 и ^22, которая для сравнения со стоимостью потерь (ошибок) принимается отрицательной. В общем случае средний риск (ожидаемая величина потери) выражается равенством
R СпР 1 J f (х!Dy) dx -|- С2\Р 1 J f (х!D^ dx -J— оо Хо
+ С1ара j f <хф^ dx 4- C2J\ j f (x/D2) dx. (5.6) — 00 X0 "
Величина x, предъявляемая для распознавания, является случайной и потому равенства (5.5) и (5.6) представляют собой среднее значение (математическое ожидание) риска.
Метод минимального риска. Найдем граничное значение х() в правиле (5.1) из условия минимума среднего риска. Дифферец- 24
рис. 4. Точки экстремума среднего риска ошибочных решенийрис. 4. Точки экстремума среднего риска ошибочных решений
рис. 4. Точки экстремума среднего риска ошибочных решений
рис. 4. Точки экстремума среднего риска ошибочных решений
пируя (5.6) по х0 и приравнивая производную нулю, получим сначала условие экстремума
= CnPJ (Xq/Dj) — VJ (Xq/Dj) -|- C12PJ ^xjD2^ —
--С22/^2М:(5.7)
ИЛИ1
/ Uq/D^ _ (C12C22) P2/С Q\
f№)(C^-C^P, *
Это условие часто определяет два значения х01 из которых одно соответствует минимуму, второе — максимуму риска (рис. 4). Соотношение (5.8) является необходимым, но недостаточным условием минимума. Для существования минимума R в точке х — х0 вторая производная должна быть положительной , 2 ■ > > 0, что приводит к следующему условию относительно производных плотностей распределений:
Г (^р/^1)(с12 — с22) р2/г qx
Г№ (С^-Сн)?! *
Если распределения f(x/DV) и f(x/D2) являются, как обычно, одномодальными (т. е. содержат не более одной точки максимума), то при
^1 *\-^0-^2(5.10)
условие (5.9) выполняется. Действительно, в правой части равенства стоит положительная величина, а при х > xL производная /' (x/Dj) < 0, тогда как при х < х2 значение /' {x/D^ > 0. Для «двугорбых» распределений (рис. 5) условие (5.9) должно проверяться в каждой точке экстремума.
Рис. 5. Точки экстремума для двугорбых распределений
В дальнейшем под х0 будем понимать граничное значение диагностического параметра, обеспечивающее по правилу (5.1) минимум среднего риска. Будем также считать распределения / (xlD^ и / (x/D2) одномодальными («одногорбыми») (см. рис. 3). Из условия (5.8) следует, что решение об отнесении объекта х к состоянию Dx или D^ можно связать с величиной отношения правдоподобия. Напомним, что отношение плотностей вероятностей распределения х при двух состояниях называется отношением правдоподобия.
В соответствии с правилом (5.1) по методу минимального риска принимается следующее решение о состоянии объекта, имеющего данное значение параметра х\
x^Dvx^Dvеслиесли/ ^xjD-^(С12 — С22) Pj .f (x/D2)(С21 Cn) Px ’/ ^xjD-^(С12 — С22) Pj .f (x/D2)(С21 Cn) Px ’(5.11)(5.11)x^D2ix^D2iеслиесли/ (x/D^/ (C12C22) P2/ (x/£>2)(C21Cn) P!/ (x/D^/ (C12C22) P2/ (x/£>2)(C21Cn) P!(5.12)(5.12)
x^Dv
x^Dv
если
если
/ ^xjD-^(С12 — С22) Pj .
f (x/D2)(С21 Cn) Px ’
/ ^xjD-^(С12 — С22) Pj .
f (x/D2)(С21 Cn) Px ’
(5.11)
(5.11)
x^D2i
x^D2i
если
если
/ (x/D^/ (C12C22) P2
/ (x/£>2)(C21Cn) P!
/ (x/D^/ (C12C22) P2
/ (x/£>2)(C21Cn) P!
(5.12)
(5.12)
Эти условия вытекают из соотношений (5.1) и (5.8).
Условие (5.11) соответствует х < х0, условие (5.12) х > х^. Величина & = представляет собой пороговое значение для отношения правдоподобия. Напомним, что диагноз Dx соответствует исправному состоянию, D2 — дефектному состоянию объекта; С21 — цена ложной тревоги, С12 — цена пропуска цели (первые индекс — принятое состояние, второй — действительное); Сн < О, С22 < 0 — цены правильных решений (условные выигрыши). В большинстве практических задач условные выигрыши (доощрения) для правильных решений не вводятся и тогда
X = C12P2/C21PV (5.13)
Существенно, что правило решения (5.1) выражается теперь с помощью отношения правдоподобия и для принятия решения даже не требуется определение критического значения параметра х0. Это справедливо при некоторых ограничениях, например, для достаточно плавных («одногорбых») распределений.
Часто оказывается удобным рассматривать не отношение правдоподобия, а логарифм этого отношения. Это не изменяет результата, так как логарифмическая функция возрастает монотонно вместе со своим аргументом. Расчет для нормального и некоторых других распределений при использовании логарифма отношения правдоподобия оказывается несколько проще. Условие минимума риска можно получить из других соображений, которые окажутся важными в дальнейшем.
Запишем выражение для R в такой форме:
R = СцР1 f f (^/^l) + (^*21 — ^11)^1 У/(-^/^1)^ + — ооХо
С^Р2 У / (^7^2)(^22^12) Р2 J / (-V^2) •(5* 1 4)
— еох0
Или, учитывая очевидные равенства J / (x/DJ dx = 1, j / {x!D^ dx= V получим
(5.15)(5.15)R = СцР1 + ^12^2 + У [(^2i — Cu) PJ (x/D^ —
(5.15)
(5.15)
— (С12 — С22) р j (-^7^2)1 ^*
Так как первые два слагаемые постоянные, то зависимость R от х0 определяется величиной интеграла. При малых х0 (см. рис. 3) подынтегральное выражение положительно (распределение/ (x/D^ лежит левее / (x/D^, при больших х оно отрицательно. Для того чтобы выбрать х0) соответствующее минимальному значению R, следует начать интегрирование с сечения х = х0, в котором подынтегральное выражение отрицательно при х > х0. Изменение знака подынтегрального выражения происходит в сечении х0, причем (С21 — Сн) Рг (Xq/DJ — (С12 — — ^22) PJ (^0^2) = 0, или
f (xq/Dj) (С12 С22) Р2/к 1 с\
/(^2) (С21-Си)Рг *
Правило решения остается прежним [уравнение (5.1)] и остаются в силе условия (5.8).'
Пример. Рассмотрим случай, когда параметр х имеет нормальное распределение при исправном Dv и неисправном £)2 состояниях. Рассеяние параметра (величина среднеквадратичного отклонения) принимается одинаковым.
В рассматриваемом случае плотности распределений
_ (x—XtV fix/D.)^* е 202;
о К2л
_ (х-х2у
HxlDj) =1 е 202.
а К2л
Внося эти соотношения в равенство (5.8), получаем после логарифмирования
In=1_ [Or Гх - ; ) Ф хЧ - In -fcl^A.
f kxe!D^ 2a2 12 0 ( 2 1J + 121 “(C21 - Cn) P, *
Из этого уравнения
" х °2 А р2 , ,С12 — С22 \
*0^-9- Ai + *2) — =— In -А- + In —^^ ).
zХ2— %1 XС21—/
При х < Хо х ^ DT; при х > Хо х £ D^.
Метод минимального числа ошибочных решений. Вероятность ошибочного решения для решающего правила (5.1)
Рош = Pi Р ^XiD^ dx + ^ J / ДО^ dx.(5.17)
Х0ОО
Из условия экстремума этой вероятности получаем -^--PJWD.HPJWD^^O,(5.18)
Условие минимума дает
-^- = - PJ' ф/DJ + Р/ (x0/D2) > 0(5.19)
или
г WD^/r ^XJD^ < Р^.(5.20)
Как указывалось, для одномодальных распределений при условии (5.10) неравенство (5.20) выполняется и минимум вероятности ошибочного решения получается из соотношения (5.18): f (^o/^i)/Z (А/^2) = Р^Р1>(5.21)
где, как и раньше, Рх = Р фф Р2 = Р ф2) — априорные вероятности диагнозов.
Решение х £ Dx принимается при
f(x!D1)lf(xlDi)>PilPl(5.22)
и х £ D2 при
ЦхффКхФ^ХР^Рх.(5.23)
Очевидно, что соотношения (5.21)—(5.23) являются частным случаем условия минимального риска, если стоимости решений одинаковы. Условие выбора граничного значения (5.21) часто называется условием Зигер та—Котельникова (условием идеального наблюдателя). К этому условию приводит также метод Байеса (см. гл. 2). Действительно, вероятности диагнозов DT и D^ для данного значения х (апостериорные вероятности) Р (Djx) = = PMf (xlDJIf (х); Р ф2/х) = Р ф2\Г (xlD2)lf <х\ Решение х ^ Dt принимается при Р ф^х) > Р ф2/х) или /(х/£)1)//(х/£)2)>Р2/Р1,(5.24)
что совпадает с равенством (5.22).
28
В задачах надежности рассматриваемый метод часто дает «неосторожные решения», так как последствия ошибочных решений существенно различаются между собой. Обычно цена пропуска дефекта существенно выше цены ложной тревоги. Если указанные стоимости приблизительно одинаковы (для дефектов с ограниченными последствиями, для некоторых задач контроля и др.), то применение метода вполне оправдано.
Метод минимакса предназначен для ситуации, когда отсутствуют предварительные статистические сведения о вероятности диагнозов Dx и D^. Рассматривается «наихудший случай», т. е. наименее благоприятные значения Рх и Р2, приводящие к наибольшему значению (максимуму) риска.
Будем считать, что величина риска зависит теперь от х0 и Рх (вероятность второго диагноза Р ^ = 1 —Р^. Из соотношения (5.6) вытекает
R (*о, ^i) СпР 1 | / (xfD^ dx ~р С.ХР 1 J / (^/^i) йх -|~
—ООХе ,
+ С12(1-Р1) j f(x/Z)2) dx + С22 (1 -PJ J HxjD^dx. (5.25) — 00X9
Для нахождения экстремума приравняем нулю частные производные по х0 и Рг. Условие
-0<526>
дает
f (^*12^*22) О Pl)/с оу\
~ кСй1-С^Рг *
Из соотношения
= 0(5-28>
получаем
C2i J f (x/D^ dx + Cu J / (xjD^ dx •-=
X9—00
= C12 j / (x/O2) dx 4- C22 J / (x/D2) dx.(5.29)
— ООX»
Теперь требуется определить значения х0 и Plt удовлетворяющие уравнениям (5.27) и (5.29). Если х5 и Р\ являются корнями указанных уравнений, то точка R (х$, Pi) является экстремальной.
Можно показать для одномодальных распределений, что величина риска становится минимаксной (т. е. минимальной среди максимальных значений, вызванных «неблагоприятной» величиной Р^. Отметим, что при Рх = 0 и Рг = 1 риск принятия ошибочного решения отсутствует, так как ситуация не имеет неопределенности. При Рх = 0 (все изделия неисправны) из условия (5.8) вытекает х0 —> — <х> и все объекты действительно признаются неисправными; при Рх = 1 и Р2 = 0 х0 —> оо ив соответствии с имеющейся ситуацией все объекты классифицируются как исправные.
Для промежуточных значений 0 < Рх < 1 риск возрастает и при Pi = Pi становится максимальным. Рассматриваемым методом выбирают величину х0 таким образом, чтобы при наименее благоприятных значениях Pi потери, связанные с ошибочными решениями, были бы минимальными.
Рассмотрим процедуру решения уравнений (5.27) и (5.29). Сначала из уравнения (5.29) найдем значение Хо, что можно сделать следующим образом. Представим уравнение (5.29) в виде Ф (х0) = 0,(5.30)
где
Ф (х#)= (^21 ^и) J f (^-/^1)— (^12 — ^22) J f (х/О2) dx-\-Cu С22.
X#—ео
(5.31)
Последнее равенство можно записать с помощью функций распределения
Ф (хо)= (Cgi Сц) [1 — F (x0/Z)1)](С12 — С22) F (x0/D2) -[* Сп С22;
F (x^D^ = j fix/D^dx; F(x0/D2) = ] f(x/D2)dx.(5.32)
Уравнение (5.30) решаем по методу Ньютона, связывающему исходные х0 (П_ц и последующие х0 („) приближения:
Xo(n) =Xo(n_,)--^^L.(5.33)
Значение производной
■^~ = — (С21 — Си) / (Хо (п—i)/Di) — (С12 — С22) f (хо (п—ц/Пг).(5.34)
В качестве первого приближения можно принять Хо <i> = (xj 4+ х2)/2, где хг, х2 — средние значения х для распределения f (x/Di) и f (xlD^. При достаточной близости xow и х0(П_1) принимаем Хо = хо(п). Далее из равенства (5.27) находим наименее 30
рис. 6. Определение граничного значения диагностического параметра по методу минимаксарис. 6. Определение граничного значения диагностического параметра по методу минимакса
рис. 6. Определение граничного значения диагностического параметра по методу минимакса
рис. 6. Определение граничного значения диагностического параметра по методу минимакса
благоприятное значение вероятностей исправного Pi и неисправного Р^ состояний
(5.35)(5.35)с12и22. П* 1 р*
(5.35)
(5.35)
^12— ^22 + (^21— ^и)/ (Хо/^1)// (Хо/^2) ’21
Величину риска определяем по равенству (5.25) при значениях х0 = xj, Pi = PL Отметим некоторые случаи, в которых решение становится достаточно наглядным. Положим, что условные выигрыши отсутствуют Сы = С22 = 0, а цены ошибок одинаковы С12 = С21. Тогда из уравнения (5.29) вытекает соXq
j / (x/Di) dx = j fix/D^dx или F (х0/Рг) + F (x0/D2) = 1, где Xo—°0
F (xq/DJ и F (x0/Z)2)— соответствующие функции распределения. Последнее соотношение показывает равенство условных вероятностей ошибочных решений.
На рис. 6 для этого случая площади Рлт и РГеД равны. В общем случае
j / (x/DJ dx
(5.36)(5.36)Рл. т _ 4 _ С]2 _ цена пропуска дефекта
(5.36)
(5.36)
Рп. д х5~ C2i — иена ложной тревоги "
J / (х/О2) dx
Зависимость (5.36) выражает равенство условных рисков ошибочных решений. С помощью функций распределения она записывается в виде
(5.37)(5.37)LrZ^oA) = С12
(5.37)
(5.37)
Р (xq/D2) C2i
Метод Неймана—Пирсона. Как уже указывалось, оценки стоимости ошибок часто неизвестны и их достоверное определение связано с большими трудностями. Вместе с тем ясно, что во всех случаях желательно при определенном (допустимом) уровне одной из ошибок минимизировать значение другой. Здесь центр проблемы переносится на обоснованный выбор допустимого уровня
ошибок. с._помощью предыдущего, опыта или интуитивных соображений.
По методу Неймана—Пирсона минимизируется вероятность пропуска цели при заданном допустимом уровне вероятности ложной тревоги. Таким образом, вероятность ложной тревоги
Pt J ЦхШ^йх< Л,(5.38)
где А — заданный допустимый уровень вероятности ложной тревоги; Рг — вероятность исправного состояния.
Отметим, что обычно условие (5.38) относят к условной вероятности ложной тревоги (множитель Рг отсутствует). В задачах технической диагностики значения Рг и Р^ в большинстве случаев известны по статистическим данным.
Из рис. 3 видно, что увеличение ошибки ложной тревоги (сечение х0 перемещается влево) величина ошибки пропуска дефекта уменьшается. Ее наименьшее значение будет соответствовать знаку равенства в условии (5.38):
Рх J f (x/DJ dx = Л.(5.39)
Теперь условие (5.38) однозначно определяет величину х0 и значение риска [уравнение (5.6)1.
Остановимся на выборе значения А — допустимого уровня ложной тревоги (риска поставщика).
Пример. При эксплуатации было установлено, что у 2—3% двигателей встречаются поломки в результате повышенных динамических нагрузок при увеличенном фланЦе шестерни редуктора. В дефектных редукторах наблюдается повышенная виброперегрузка при частоте, соответствующей частоте зацепления. Было проведено измерение вибраций всего парка двигателей и назначена норма, при повышении которой двигатель направляется на разборку и дефектацию. При выборе нормы исходили из двух соображений: число снимаемых с эксплуатации двигателей должно существенно превышать ожидаемое число дефектных двигателей; принимаемое значение ложной тревоги не должно нарушать нормальную эксплуатацию или приводить к чрезмерным экономическим потерям. Этим условиям удовлетворяла норма, приводящая к снятию с эксплуатации примерно 10% двигателей.
В практических задачах можно принимать
А - кР^(5.40)
где к — коэффициент избыточности, зависящий от разрешающей способности диагностических средств, опасности дефекта, экономических затрат и других обстоятельств.
При дефектах с ограниченными последствиями можно принимать к = 1~3. При опасных дефектах к = Зч-Ю. Для редко встречающихся (Р2 <0,01), но крайне опасных дефектов коэффициент избыточности может достигать и больших значений. 32
В задачах технической диагностики можно использовать и другой подход: определять граничное значение х0, исходя- из вубранной вероятности пропуска дефекта. В этом случае
х«
(5.41)(5.41)Рг J / №) dx = В,
(5.41)
(5.41)
где В — заданное значение вероятности пропуска дефекта.
1kN ’1kN ’Трудно указать общие правила для назначения величины В, она должна выбираться с учетом указанных ранее соображений. Если дефект крайне нежелателен даже ча единичном изделии, можно принимать
1
kN ’
1
kN ’
(5.42)
где N — общее число изделий, находящихся в эксплуатации; к — коэффициент избыточности (1 с к < 10). Во всех случаях, для реализации принципа невозможности маловероятных событий, величина В должна быть малой (В < 0,01). В методе Неймана—Пирсона граничное значение х0 находится из уравнения (5.39) или (5.41).
При практическом решении подобных уравнений целесообразно использовать метод Ньютона [соотношение (5.33)1, полагая, например,
Ф (х0) = Pi J f (x^Di) dx — Л; Ср' (х0) = — Р^ ^D^.(5.43)
Метод наибольшего правдоподобия можно рассматривать как частный случай метода минимального риска. Правило решения принимается следующим:
кли Ш; '1'<5-44>
x£D„ если У5Ж <1,
где х — значение параметра для диагностируемого объекта. Граничное значение находится из условия
(5.45)(5.45)f(x0/D1) = /(x0/D2).
(5.45)
(5.45)
Сопоставляя условия (5.8) и (5.45), легко установить, что они совпадают, если положить
(5.46)(5.46)lgi2 - С22) Р2 ^21-Cn)
(5.46)
(5.46)
И. А. Биргер
Рис. 7. Плотности распределения содержания железа в граммах на 1 т масла для исправных DT и неисправных D2 двигателей (номера линий соответствуют табл. 3)
В большинстве практических случаев используется условие (5.13), и тогда для метода наибольшего правдоподобия следует считать
(5.47)(5.47)^12^2 1
(5.47)
(5.47)
С21Р1
Для задач надежности вероятность неисправного состояния обычно представляет собой малую величину, но цена пропуска дефекта значительно больше цены ложной тревоги (С12 ^21)* Тогда условие (5.47) дает решение, не требующее знания точных значений стоимости ошибок и качественно отражающее указанные обстоятельства ф2 ^ ^ь С12 > С21).
Пример. Диагностика состоянияПример. Диагностика состояниятрансмиссии газотурбинного двигателя
Пример. Диагностика состояния
Пример. Диагностика состояния
осуществляется по содержанию железа в масле. Для исправного состояния среднее значение составляет хг = 5 (5 г железа на 1 т масла) и среднеквадратичное отклонение ах = 2. При наличии дефекта подшипников и других деталей (неисправное состояние) эти значения равны х2 = 12, а2 = 3. Распределения предполагаются нормальными.
Требуется определить предельное содержание железа в масле, выше которого двигатель подлежит снятию с эксплуатации и разборке (во избежание опасных последствий). По статистическим данным, неисправное состояние трансмиссий наблюдается у 10% двигателей. Проведем решение различными методами.
Метод минимального риска. Примем, что отношение стоимостей пропуска цели и ложной тревоги -^-- = 20, и откажемся от «вознаграждения» правильных решений (Сп = С22 = 0). Из условия (5.8) получаем= 20-^- = 2,22.
Плотности распределения f (xq/D^ =— е 22;
2 И л (х—12)2
f (x0/D2) = —е 2 31 . Внося эти значения в предыдущее равенство, по- 3 V 2л
лучаем после логарифмирования
(^о —5)2 , (х0-12)2 _ 1и 2-2,22
8183
Это уравнение имеет положительный корень Хо = 7,456. На рис. 7 даны плотности распределения f^x/D^) и f(x/D2) и граничное значение хо.
По методу минимального числа ошибочных решений уравнение для определения Хо будет таким:
(х0-5)2 , (х0-12)2/ 21 \
8Г 18\ 3 9 / ‘
Положительный корень этого уравнения хо — 9,79.
Метод минимакса. Граничное значение хо вычисляется из уравнения (5.32):
С21 [1 —^ (хо/^1)1 — С1йР (х0/£>2) = 0.
Для нормального распределения функции распределения выражаются с помощью функций Лапласа
Г(х0А) = ^ + ф(^^-);
Г(хоА)=4+Ф(^^-)’
X и .
1 Г^Ы*
Расчет проводится по формуле (5.33). Первое приближение
*о (1) = & + ^)/2 - (5 + 12)/2 = 8,5.
Второе приближение
Х0 (2) = Х0 (1) ~ Ф (Х0 (1))/ф' (Х0 (1));
Ф (хо (1)) = ^21 [1 — ^ (х0 (l)/^)] " ^12^ (Хо (l)/^)’ ф' (х0 (1))~ ^21^ (х0 (1)/^1) ~ ^12^ (х0 (1)/^2)‘
Значения С21 = 1, С12 = 20. Расчеты дают х0 (2> = 6,79. При расчете использовались таблицы для нормального распределения. Последующие приближения дали: х0 (3) = 5,91; х0 (4) = 5,72; х0 (5) = 5,71. При С21 = 1, С12 = 1 получено х0 (1) = 8,5; хо (2) = 7>79; хо (3) = 7,80. Значения наиболее неблагоприятных вероятностей состояний при Ха = 5,71 Pt = 0,61; Pt = 0,39; при х* = 7,80 Р* = = 0,93; Р* = 0,07.
По методу Неймана—Пирсона принимаем А = кР2. Считая последствия дефекта ограниченными (для контроля состояния трансмиссии используются также показания вибродатчиков), принимаем к = 1, что дает А = 0,1. Полагая первое приближение ^q (i) = (^i + х2)/2 = 8,5, находим второе приближение по формулам (5.33) и (5.43)
Plf (х0 (1)/^1)
Расчеты дают следующие значения приближений: х0 ^ = 6,85; х0 ^ = 7,36; х0 (4) = 7,43; х0 (5) = 7,43. По методу наибольшего правдоподобия граничное значение находим из условия (5.45), что дает хо = 8,14.
Результаты расчета показаны на рис. 8 и сведены в табл. 3. Для каждого из граничных значений вычислены вероятности ложной тревоги и пропуска дефекта по формулам (5.3) и (5.4) при Рг = 0,90 иР2= 0,10 и величина риска по соотноШению (5.5) при указанных значениях вероятностей состояний и при = 20.
Результаты расчета по методам статистических решений
№ п/п
Метод
Граничное значение
Вероятность ложной тревоги
Вероятность пропуска дефекта
Средний риск
1
Метод минимального риска
7,46
0,0984
0,0065
0,229
2
Метод минимального числа ошибок
9,79
0,0074
0,0229
0,467
3
Метод минимакса
-^=20 с 21
5,71
0,3235
0,0018
0,360
4
С12 _ ।
С21 "
7,80
0,0727
0,0081
0,234
5
Метод Неймана—Пирсона
7,44
0,1000
0,0064
0,230
6
Метод наибольшего правдоподобия
8,14
0,0524
0,0098
0,249
Из сопоставления видно, что метод минимального числа ошибок дает неприемле
мое решение, так как цены ошибок существенно различны. Граничное значение по этому методу приводит к значительной вероятности пропуска дефекта. Метод
минимакса в основномминимакса в основном= 20 ) требует очень большого съема дви-
минимакса в основном
минимакса в основном
\ g21/
гателей с эксплуатации (примерно 32%), так как исходит из наименее благоприятного случая (вероятность неисправного состояния Р2 — 0,39). Применение ме
тода может быть оправданным, если отсутствуют даже косвенные оценки вероятности неисправного состояния. В рассматриваемом примере удовлетворительные результаты получаются по методу минимального риска.
СТАТИСТИЧЕСКИЕ РЕШЕНИЯ ПРИ НАЛИЧИИ ЗОНЫ НЕОПРЕДЕЛЕННОСТИ И ДРУГИЕ ОБОБЩЕНИЯ
Правило решения при наличии зоны неопределенности. В некоторых случаях, когда требуется высокая надежность распознавания (большая стоимость ошибок пропуска цели и ложной тревоги), целесообразно ввести зону неопределенности (зону отказа от распознавания). Правило решения будет следующим (рис. 8): при х < ха x^Dt; при х>х6 х£О2; при ха<_х<_хь (6.1) отказ от распознавания.
Разумеется, отказ от распознавания является нежелательным событием. Он свидетельствует, что имеющейся информации недостаточно для принятия решения и нужны дополнительные сведения.
рис. 8. Статистические решения при наличии зоны неопределенности
WD;)WD;)Определение среднего риска. Величина среднего риска при наличии зоны отказа от распознавания может быть выражена следующим равенством (см. § 5):
WD;)
WD;)
R = CVJ\ J f (x/DJ dx + СмРг J / (xfDx) dx + ~°°xb
xa*
4~ C|2^2 J f W^^) dx -J- V2 J f (x/D^ dx -f- — 00x^
Xb
(6.2)(6.2)+ Co j VP J (x/DJ + PJ (x/D2)J dx,
(6.2)
(6.2)
где Co — цена отказа от распознавания.
Отметим, что Со > 0, иначе задача теряет смысл («вознаграждение» за отказ от распознавания). Точно так же Сы с О, С22 < О, так как правильные решения не должны «штрафоваться».
Метод минимального риска при наличии зоны неопределенности. Определим границы области принятия решения, исходя из минимума среднего риска. Дифференцируя выражения (6.2) по хц и хь и приравнивая производные нулю, найдем
dR
~дха = ^11^1/ (Хо/^1) + CMPJ kxJ^2) —
- со VPJ (XJD^ + PJ (x./D^;(6.3)
дхь ^21^1/ (Xb/Dl) — £22^2/ (^/^2) 4“
+ Со[Л/(х6/Д1) + Р2/(хй/Р2)].
(6-4)
Из этих
уравнений получаем
2 (^/DJ ( (Ха/О2)
(^12 Ср) Р2 . (Со-Сп)?! ’
(6.5)
HxbiD^
/ (.хь/D^ ~ '
(Ср С22) Р2
(6.6)
(С21-С0)Рх 1
Равенства (6.5) и (6.6), выражающие необходимые условия экстре» мума, могут существовать, если их правые части положительны. Для этого необходимо, чтобы
^12 > ^о» ^21 > Со» (6.7) т. е. стоимость ошибок должна быть больше стоимости отказа от распознавания. Если не поощрять правильные решения (Сы = О, С22 = 0) и не платить за отказ от распознавания (Со = О), то область неопределенности будет занимать всю область изменения параметра.
Для существования минимума функции двух переменных /? кХт xb) ДОЛЖНО быть
(6.8) 3x2 gz2 \ QXq ЭХ() ) / ' /
Вследствие равенства нулю смешанной производной, условия минимума таковы:
/ (Xg/Oi) (Cj2 Ср) Р2 .ie п\
(Ср-Cn) Рх ’
f (ХЬ/Р^ / (Со С22) Рр/с , А\
Г (хьЮ^ (Сг1-^Рг •^•1и-’
Можно показать для «одногорбых» распределений, что при условии
Xi < хо < Л'6 < х2(6.11)
условия (6.9) и (6.10) выполняются и соотношения (6.5) и (6.6) дают значения ха и хь, соответствующие минимуму риска.
Метод Неймана—Пирсона при наличии зоны неопределимости. Естественное обобщение метода состоит в том, что ха и хь определяются из условий:
оэха
Рг ^(x/D^dx-A ; Pz \ f (x/D2) dx = В,(6.12)
хь-°0
где А и В — вероятности ложной тревоги и пропуска дефекта.
Наличие зоны неопределенности дает возможность обеспечить заданные уровни ошибок за счет отказа от распознавания в «сомнительных» случаях. Правило принятия решения (6.1) может быть выражено через отношения правдоподобия:
Р {(W < (Со-С^Рг X^U1*
ППИ (Х/^1)(^0^22) ^2 у Г Г) .1
"Р” Т№>Тс^с5Т1 x^d-<6ЛЗ)
при £”-£j й < "wSr < (S^TT ""“р от р=="°=«™™"”-
Рассмотрим случай, когда параметр х распределен по нормальному закону при диагнозах Dx (исправное состояние) и О2 (неисправное состояние), причем среднеквадратичное отклонение в обоих случаях одинаково.
Плотности распределений
(Г-Л'1)2(Г-Л'1)2е 202е 202<х-хгу<х-хгу2а22а2
(Г-Л'1)2
(Г-Л'1)2
е 202
е 202
<х-хгу
<х-хгу
2а2
2а2
В силу соотношений (6.5) и (6.6) будем иметь
--^[2;.й-^ + Я-л^п£ + 1п^§;
ln7W-+
Из последних равенств находим
= 4" (^ + ^) -^^-[in ^ + In^c^ ]:
хь — "2~ (^i + х2)=хь — "2~ (^i + х2)=О2О2+ 1п-^^+ 1п-^^
хь — "2~ (^i + х2)=
хь — "2~ (^i + х2)=
О2
О2
+ 1п-^^
+ 1п-^^
При Сп = С22 = 0 и Со —> О получаем ха —♦ —оо, хь —> сю, т. е. зона неопределенности занимает всю область изменения параметра.
Статистические решения для нескольких состояний. Выше были рассмотрены случаи, когда статистические решения принимались Для различения двух состояний (дихотомия). Принципиально такая процедура позволяет провести разделение на п состояний, каждый раз объединяя результаты для состояния D, и D^. Здесь П0Д О, понимаются любые состояния, соответствующие условию «не D^. Однако в некоторых случаях представляет интерес рассмотреть вопрос и в прямой постановке — статистические решения для классификации п состояний. Рассмотрим, как и раньше, системы с одним диагностическим параметром х. Вначале остановимся на случае, когда проводится разделение на три состояния (рис. 9). Правило решения состоит в следующем:
(6-14)(6-14)при —оо<х<хх x^Dx; при хх<,х<_х4 x^D2\ при х2Сх<^сю x^D3.
(6-14)
(6-14)
Рис. 9. Метод статистических решений для трех состояний
Средний риск
ztztxt
R = C11P1 J / ^x]D^ dx 4~ C12P2 J / (x/D^ dx 4~ C^P^ J ^xlD^dx-V — co—co—co
Z2Z2Z2
4" ^21^i J f C^/^i) dx -|- C22P2 J f ^!D^ dx 4~ C^Pз J / W^^ dx 4~ ZtXtZi
cocooo
“b^jP^I f (x/Dj) dx -(- C22P2 J f ^xjD^ dx -[- С^Р3 J fix/D^dx. (6.15) ч
Величины Cij (i, j = 1, 2, 3) представляют собой элементы «платежной матрицы». Индекс I соответствует принимаемой гипотезе о состоянии объекта, индекс / — действительному состоянию. Например, С12 выражает стоимость штрафа в случае, когда по принятому правилу считается состояние Ьъ тогда в действительности объект (изделие, машина) находится в состоянии О2. Величины Си < 0, так как они представляют собой поощрения за правильные решения. Три первых слагаемых равенства (6.15) относятся к области первого состояния и т. д.
Рассмотрим метод минимального риска. В этом методе граничные значения хх и х2 определяются из условия минимума R. Необходимые условия минимума (экстремума)
-^- = 0; -^- = 0 (616) дхг ’ дх2 х
приводят к следующим равенствам:
(Си С21) PJ (x^Di) 4~ (Ci2С22) PJ (xjD^ 4*(6.17)
+ (С1з — с23) р з/ (^i/^з)= 0;
(C2i — С31) Р J (х2/Di) 4" (^22 С32) P2f {х2/D^) 4-
4~ (С23 — Сдз) P3f (x2/D3) = 0.(6.18)
Из уравнения (6.17) находим значение хъ из уравнения (6.18)— х2. Для отыскания корней может быть использован метод Ньютона.
40
Для того чтобы значения хг и х2, удовлетворяющие уравнениям (6.17) и (6.18), соответствовали минимуму, необходимо й достаточно выполнение следующих условий:
^->0; -^>0,(619)
ЧТО дает
(Clt — C2i) PJ' (x^D^ 4" (^12 " ^22) Pj Vxi!D^ г
+ (С13-С23) W*^(6.20)
(C21 — ^31) Р1V kX^D\l Г (^22£*32) Pj кХ^^^ +
+ (^23 — ^зз) Pj (^2/^3) > 0.(6.21)
Если распределения t^xID^, f(x!D^ и f (x/D^ являются одномодальными («одногорбыми»), то последние условия выполняются при
X} <4 Х^ <\ %2» -^2 <4 Х2 < Х3>(6.22)
где %!, х2> х3 — средние значения соответствующих распределений.
Статистические решения для многомерных распределений. Выше рассматривались случаи, когда состояние системы (изделия) характеризовалось одним параметром х и соответствующим (одномерным) распределением. Рассмотрим теперь системы, состояния которых описываются несколькими диагностическими параметрами. Будем считать, что система может иметь только два состояния — исправное Dt и неисправное D 2. Состояние системы характеризуется диагностическими параметрами хъ х2> ..., хп или вектором х;
х {хь х2,..., х^.(6.23)
Статистическое распределение диагностических параметров для состояния Dx
f (x/DJ = f (xv x2,..., хпЮгу(6.24)
Если параметры xu x2, ..., x„ статистически независимы, то (см. гл. 11)
f №) = f (x^D^ f (xjD.) ...f (xJD,).(6.25)
Плотность распределения диагностических параметров для второго состояния
f(x/D2) = f(X1, х2,..., XJD.Y(6.26)
На рис. 10 показаны статистические распределения для двух Диагностических параметров. Правило решения принимается бедующим:
если x^Sv то x^Dv;
если x^S$, то x^Da.(6.27)
41
f(x/Ti)
Д\
Рис. 10. Статистические распределения для двух диагностических параметров
Правило означает, что если точка, соответствующая вектору х, находится в области S1? то объект относится к состоянию Dv и аналогично для области S2. Перейдем к определению среднего риска. Обобщая соотношение (6.7), получим
R — С^Рiff (-^/^i)4" С21Р iff (-^/^i) ^лг
Sis2
+ С1гР2 J f WD^ dx + C22P2 J f ^D^ dx.(6.28)
S,s2
В равенстве (6.28) интегралы распространяются на многомерные области, причем под dx понимается элемент площади
dx = dxx dx2... dxn.(6.29)
Учитывая, что плотности распределения для всей области удовлетворяют равенствам
j f (x/Dx) dx = 1; J / (x/D^ dx = 1,(6.30)
ss
где S = Sx + S2 — область изменения параметров х1? ..., хп, представим равенство (6.28) в форме (5.15):
R ™ ^ii^i 4~ ^12^2 4- [ [(C2i Сп) РLf (x/Dy) — st
- (С12 - С22) Pj №^ dx.(6.31)
Рассмотрим теперь метод минимального риска. Если граничная линия L близка к центру первого распределения, то / (x/Dy) 5> ^ft.x/D^ и подынтегральное выражение положительно.
Выберем положение границы L так чтобы вдоль границы подынтегральное выражение обратилось в нуль:
(С21 - С^ PJ (x/DJ - (С12 - С22) Р^хЮ^ - 0.(6.32)
Последнее уравнение представляет собой уравнение границы областей Sx и S2. Теперь область S2 выбрана таким образом, что интеграл в равенстве (6.31) будет иметь наибольшее по величине отрицательное значение. Это утверждение справедливо во всяком случае для достаточно плавных («одногорбых») распределений. Для таких распределений подынтегральное выражение в равенстве (6.31) отрицательно во всех точках области (это условие является достаточным, но не необходимым).
При указанном выборе граничной линии величина R будет минимальной. В результате правило (6.27) можно представить в такой форме:
И(^12^22) ^2 ven-331
ПРИ Тет->-(^с^РГ x^°v(6-33)
пои _Z_W51L /^^Рг x^D(6 34)
Пр<Ь-34)
Условия (6.33) и (6.34) являются непосредственным обобщением условий (6.13) для одномерного случая. Существенно, что при многомерном распределении разделение (классификация) состояний по методу минимального риска может быть проведено по отношению правдоподобия, причем знание граничной линии областей не требуется. Условия (6.33) и (6.34) дают простое правило принятия решения при произвольном числе диагностических параметров..
Рассмотрим случай, когда параметры xz независимы и имеют нормальное распределение. Тогда, в соответствии с равенством (6.25)
п(D)2
/№) = П;
“ °, (1) V 2л
„_(2))2
^"^ ~П7; ', ^,е ”'и 'I6-35’
.=1(2) V
гДе Х{ (1), Xi (2) — средние значения i-ro диагностического параметра для состояний Ьг и D2; Oi (i), о( (2> — их среднеквадратичные отклонения.
Логарифмируя условие (6.33), получим
при hl Z^iL>inb. In ^-fr x^.(6.36)
Используя соотношения (6.35), найдем
пп+ In -fa--^22 - У InС21 сп+ In -fa--^22 - У InС21 сп1=11=1°i (2)°i (1)°i (2)°i (1)-K^DV-K^DV(6.37)(6.37)
п
п
+ In -fa--^22 - У In
С21 сп
+ In -fa--^22 - У In
С21 сп
1=1
1=1
°i (2)
°i (1)
°i (2)
°i (1)
-K^DV
-K^DV
(6.37)
(6.37)
При изменении знака неравенства объект относится к состоянию D2. Если среднеквадратичные отклонения t-ro диагностического параметра для двух состояний одинаковы о, (i) = о, (2) = = Qi, то правило решения упрощается:
при У "" '<2)а2 ' (1) [4" (1) Х‘ <2)) —
_L In ^-2-^22X^D1.(6 38)
ПРИ У ' <2)^2 ‘ <0 [4" (Xi (1) + Xi (2)) — Xi J < In ^- +
+ Ж fr"^(6139)
Правило классификации отражает физический смысл задачи: важной оказывается разность между значением параметра объекта и средним значением; если средние значения параметров для двух состояний совпадают, то соответствующая координата не влияет на классификацию; при уменьшении среднеквадратичного отклонения (рассеяния) диагностическое значение параметра возрастает.
Обобщение результатов для одномерных систем на многомерные системы. В § 5 и частично в настоящем параграфе рассматривались различные варианты метода статистических решений для одномерных систем (систем с одним диагностическим параметром).
Приведенные решения [например, соотношения (6.38) и (6.39)1 относились к системам с п диагностическими параметрами (многомерные системы). Можно указать простое общее правило обобщения результатов для одномерных систем на системы многомерные. Оно состоит в том, что одномерные плотности распределения f^x/D^ и f(x!D2) заменяются многомерными / (x/Di) и / (x/D2), а граничные точки — граничными линиями, одномерные области интегрирования —многомерными [уравнения (5.11),
и соотношения (6.33), (6.34)1. Например, для метода минимального риска при наличии зоны неопределенности будем иметь
f (X/Di) / (Си бр) Р2 _ г> .
при )(х/о2)(Ср-Сц)?! ^^^
(6.40)(6.40)/ WD^ (Ср-С22) Р2 п при f(x/D2) > (C21-Ce)Pt ^^^2-
(6.40)
(6.40)
Если указанные неравенства не выполняются, то происходит отказ от распознавания.
Наиболее просто обобщаются на многомерные системы методы минимального риска и его частные случаи (метод минимального числа ошибочных решений, метод наибольшего правдоподобия). В случаях, когда в методе статистического решения требуется определение границ области принятия решения, расчетная сторона задачи существенно осложняется (методы Неймана—Пирсона и минимакса).
Глава 4
МЕТОДЫ РАЗДЕЛЕНИЯ В ПРОСТРАНСТВЕ ПРИЗНАКОВ
Вводные замечания. Одними из наиболее важных методов диагностики являются методы разделения в пространстве признаков. Эти методы основаны на естественной «гипотезе компактности», в соответствии с которой точки, отображающие одно и то же состояние (диагноз), группируются в одной области пространства признаков.
Ниже излагаются линейные методы разделения, метод потенциальных функций и метод стохастической аппроксимации. Метрические методы разделения в пространстве признаков обсуждаются в гл. 5.
§ 7. ЛИНЕЙНЫЕ МЕТОДЫ РАЗДЕЛЕНИЯ
Пространство признаков. Как уже указывалось, каждая конкретная система (объект) может быть охарактеризована вектором х в многомерном пространстве признаков:
X — {Хр Х2, . . ., Хдг}. (7.1)
Компоненты вектора х могут быть дискретными или непрерывными величинами. Дискретные величины обычно выражают разряды (интервалы) диагностических признаков (количественных или качественных), непрерывные величины —диагностические параметры системы (температуру, давление, вибрационные перегрузки и т. п.).
Часто оказывается удобным представить объект как точку многомерного пространства (конец вектора х). Если система описывается с помощью простых (двухразрядных) признаков, то компоненты вектора выражаются двоичными числами. Тогда, естественно, каждый из объектов в пространстве простых признаков является одной из вершин единичного М-мерного куба. Например, в трехмерном пространстве объект х (ОН) изображается точкой, показанной на рис. 11.
рис. Н. Пространство простых двухразрядных признаков
Во многих случаях удобно использовать трехразрядные признаки, принимая
'1 наличие признака;
д; — 1 отсутствие признака;
О не обследовано.
Пространство признаков располагается по граням и вершинам Л^-мерного куба, сторона которого равна двум. Если точка (вектор) х относится к объекту (системе) с диагнозом D(, то это записывается так:
х^.(7.2)
Равенство (7.2) одновременно означает, что точка (объект) х относится к области диагноза Dt в пространстве признаков.
Областью диагноза Dt называется множество точек пространства признаков (объектов), обладающих состоянием (диагнозом) Dt. Обычно,* такие области заполняют достаточно компактно часть пространства признаков. Условие компактности состоит в том, что число граничных точек мало по сравнению с общим числом точек области.
Дискриминантные и разделяющие функции. Пусть в пространстве признаков (параметров) содержатся точки, принадлежащие п различным диагнозам (состояниям) Dx, ...,Dn._
Дискриминантными функциями для этих диагнозов будем называть скалярные функции f( (х) (t = 1,2, ..., я), удовлетворяющие условию
fi^> fjW при x£D{.(7.3
(/= 1, 2,..n; j + i)
Таким образом, функция Д- (х) принимает для точек диагноза D, наибольшие значения по сравнению со всеми другими Дискриминантными функциями. Обозначение Д (л:) в краткой форме указывает зависимость функции от всех координат пространства хъ ..., xN; ft (х) = ft (xn х2, ..., xN). Пример линейной дискриминантной функции для i-ro диагноза
(X) = Хг1Хг 4~ Х12Х2 4* " " ' 4” "XiN^N 4" Xj, N+l,(7.4)
гДе Х^, ..., ХЛ W+1— «весовые» коэффициенты.
Если диагнозы DL и Dj в пространстве признаков имеют общую границу, то уравнение разделяющей поверхности будет таким:
=(7.5)
47
Рис. 12. Разделяющая поверхность и разделяющий слой в пространстве признаков
Существенное практическое значение имеет разделение на два диагноза (состояния) Dx и D^ (например, исправное и неисправное). Этот случай часто называется дихотомией или дифференциальной диагностикой.
(7.6)(7.6)При распознавании двух состояний в качестве разделяющей функции можно принять разность соответствующих дискриминантных функций
(7.6)
(7.6)
С помощью разделяющей функции можно указать следующее решающее правило*.
(7.7)(7.7)Цх)>0 при x^Dx\ f(x)<0 при x^D2.
(7.7)
(7.7)
Уравнение разделяющей поверхности f (х) = 0.
Для повышения надежности распознавания применяют «пороги чувствительности», и тогда решающее правило формулируется следующим образом:
при f(x) > е x^Dx\ при / (л) с — ex £ D2;
(7.8)(7.8)при — е < / (х) < е отказ от распознавания.
(7.8)
(7.8)
В этих соотношениях 8 — достаточно малая положительная величина. При отказе от распознавания для принятия решения требуется поступление дополнительной информации.
В рассматриваемом случае [условия (7.8) ] имеется разделяющий слой (рис. 12), толщина которого зависит от выбранных значений порогов. Отметим, что поверхности, разделяющие области диагнозов в пространстве признаков, могут быть различными, так как выбор дискриминантных функций не является однозначным.
Линейные разделяющие функции. Один из важнейших классов разделяющих функций связан с линейными дискриминантными функциями. Тогда разделяющая функция при распознавании двух классов
/ (х) = /1 (X) — /2 (-*0 “ ^1-^1 + ^2-^2 Г * * * + ^N^N + ^V+l> (79)
(/=1, 2,...^+1). (7.10)
Величины Х;. называются весовыми коэффициентами. Методы распознавания с помощью линейных разделяющих функций называются линейными методами разделения. Диагнозы, для которых возможно такое распознавание, считаются линейно-разделимыми. 48
Весовые коэффициенты Ху. образуют весовой вектор с числом компонентов N + 1:
Х = {Xi, Х2,. . ., Хдг, Xyv+i} -(7.11)
Для удобства геометрической интерпретации дополним вектор х еще одним компонентом
xw+1=l-(7.12)
Тогда дополненный вектор признаков
X*=\xv хг,.. .,xN, х^.(7.13)
Разделяющую функцию при диагностике на два состояния можно представить в виде скалярного произведения
Цх^Х-х*.(7.14)
Условия разделения {решающее правило)
f (х*) = к -х* > 0 при х* £ Of,
(7.15)
Пх^К-х^СО при х*^Пг.
Разделяющая поверхность является плоскостью в (N + 1)-мерном пространстве или гиперплоскостью. Уравнение разделяющей гиперплоскости
/ (^*) == ^-1^1 4" ^-2^2 + ■ ' ■ 4“ ^W+l^W+l = 0.(7.16)
Уравнение (7.16) означает, что весовой вектор X перпендикулярен разделяющей гиперплоскости (рис. 13). В дополненном пространстве признаков разделяющая гиперплоскость всегда проходит через начало координат.
признаков разделяющая функция f (х*) = Хх* = xt — 2х3. Весовой вектор имеет составляющие Х(1, —2), условия разделения остаются прежними.Разделение в пространстве признаков и дополненном пространстве признаков для этого примера показано на рис. 14.рис. 13. Весовой вектор и разде- ляющая плоскостьх2 1Разделяющаяплоскость \ jM=Kx=0 сП)/о49признаков разделяющая функция f (х*) = Хх* = xt — 2х3. Весовой вектор имеет составляющие Х(1, —2), условия разделения остаются прежними.Разделение в пространстве признаков и дополненном пространстве признаков для этого примера показано на рис. 14.рис. 13. Весовой вектор и разде- ляющая плоскостьх2 1Разделяющаяплоскость \ jM=Kx=0 сП)/о49Пример. Пусть система определяется одним параметром и разделяющая функция в пространстве признаков f (х) — ху — 2. В соответствии с условием (7.7) при хх > 2 точки принадлежат диагнозу Dv при хх < 2 — диагнозу D2.В дополненном пространствеПример. Пусть система определяется одним параметром и разделяющая функция в пространстве признаков f (х) — ху — 2. В соответствии с условием (7.7) при хх > 2 точки принадлежат диагнозу Dv при хх < 2 — диагнозу D2.В дополненном пространстве
признаков разделяющая функция f (х*) = Хх* = xt — 2х3. Весовой вектор имеет составляющие Х(1, —2), условия разделения остаются прежними.
Разделение в пространстве признаков и дополненном пространстве признаков для этого примера показано на рис. 14.
рис. 13. Весовой вектор и разде- ляющая плоскость
х2 1Разделяющая
плоскость \ jM=Kx=0 сП)
/о
49
признаков разделяющая функция f (х*) = Хх* = xt — 2х3. Весовой вектор имеет составляющие Х(1, —2), условия разделения остаются прежними.
Разделение в пространстве признаков и дополненном пространстве признаков для этого примера показано на рис. 14.
рис. 13. Весовой вектор и разде- ляющая плоскость
х2 1Разделяющая
плоскость \ jM=Kx=0 сП)
/о
49
Пример. Пусть система определяется одним параметром и разделяющая функция в пространстве признаков f (х) — ху — 2. В соответствии с условием (7.7) при хх > 2 точки принадлежат диагнозу Dv при хх < 2 — диагнозу D2.
В дополненном пространстве
Пример. Пусть система определяется одним параметром и разделяющая функция в пространстве признаков f (х) — ху — 2. В соответствии с условием (7.7) при хх > 2 точки принадлежат диагнозу Dv при хх < 2 — диагнозу D2.
В дополненном пространстве
Рис. 14. Разделение в пространстве признаков (а) и дополненном пространстве признаков (6)
Линейная разделяющая функция в дополненном пространстве признаков имеет простой геометрический смысл f (xj = Хх^ = = h, где h — проекции вектора х* на направление весового вектора X, что вытекает из смысла скалярного произведения. Абсолютная величина h равна расстоянию точки х* до разделяющей плоскости Хх* = 0. Значение h положительно, если точка х* находится в полупространстве, векторы точек которого дают положительную проекцию на вектор X.
Нахождение разделяющей гиперплоскости. Разделяющая гиперплоскость проходит через начало координат (в дополненном пространстве признаков) и нормальна весовому вектору X. Следовательно, вектор X однозначно определяет положение разделяющей плоскости в пространстве признаков и задача сводится к нахождению вектора X. Рассмотрим процедуру определения весового вектора с помощью обучающей последовательности [38]. Под обу- чающей последовательностью понимается совокупность образцов с известным диагнозом (совокупность «верифицированных образцов»). Эта последовательность используется для «обучения», в данном случае — нахождения весового вектора (разделяющей гиперплоскости).
Пусть в пространстве признаков имеются две области диагнозов Dx и D 2. Они изображены для трехмерного пространства признаков на рис. 15. Разделяющая плоскость должна удовлетворять условиям (7.15), которые можно упростить, если ввести в рассмотрение объединенную область диагнозов Di и DV- D = DiU^2, где D% — область диагноза D^ симметрично отображенная относительно начала координат (рис. 16). Знак U означает объединение множеств. Область D1 получается из D^ если знак у векторов х £ D изменить на противоположный. Отметим, что области Di и D^ могут иметь общие точки. Теперь разделяющая функция вместо соотношений (7.15) будет удовлетворять условию
/ (*♦) = Хх* > 0 при x^^DxUD^. (7.17) 50
Рис. 15. Области диагнозов в пространстве признаков
Рис. 16. Объединенная область диагнозов
Следовательно, объединенная область D должна располагаться по одну сторону от разделяющей гиперплоскости (7.16) или, что равносильно, гиперплоскость не должна пересекать объединенную область диагноза.
В дальнейшем придется часто рассматривать векторы в дополненном пространстве (xN+1 = 1) признаков и для простоты опустим индекс * у вектора х. Уравнение гиперплоскости запишем так:
(7.18)(7.18)^х^ = ^-х = 0.
(7.18)
(7.18)
При определении вектора X применяется процедура последовательных приближений. Для обучения предъявляется первый образец х^ , относительно которого диагноз известен. В качестве первого приближения для вектора X принимается
k(D = лг(1), если хт ^Db
или Х(1) = — X(i), если х(1) £О2-(7.19)
На рис. 17 показан случай, когда первый образец принадлежит области D^. Разделяющая плоскость для первого приближения описывается уравнением
(7.20)(7.20)Х(1) х = 0,
(7.20)
(7.20)
т- е. разделяющая плоскость перпендикулярна вектору первой точки. Далее предъявляется второй образец, описываемый вектором х^ • На рис. 17 этот образец относится к диагнозу Dv Сначала проверяется правильность предыдущего приближения Для разделяющей плоскости. Если выполняется условие Х^х^ > > 0, то весовой вектор не требует корректировки и во втором приближении принимается Х(2) — Х(1).
чай показан на рис. 17), точай показан на рис. 17), тоРис. 17. Процедура построения разделяющей плоскости
чай показан на рис. 17), то
чай показан на рис. 17), то
Случай, когда во втором приближении не требуется внесения поправки, показан на рис. 17. Далее предъявляется третий образец Х(3) и проводится проверка предыдущего значения весового вектора. Если Х(2) -Хед > 0, то исправления вектора не требуется и принимается Х(з> = Х(2> (точки лг(1), л(2), Х(3) лежат по одну сторону от разделяющей плоскости). Если 'кедх^ <0 (этот слу- условие разделения (7.17) Х-х>0
не выполняется и требуется скорректировать весовой вектор. Принимают теперь Х(3) = Х(2) + х(3) и далее переходят к показу следующего образца. В общем виде описанную процедуру можно
представить так:
(7.21)(7.21)^(П-И) Х(„) -|- Гп + 1 X(rtJ-l) .
(7.21)
(7.21)
при Х^ 11) € ^1 rn I 1при Х^ 11) € ^1 rn I 1при л:(„+1) £ D2 гп ипри л:(„+1) £ D2 гп и0, если X^-x^m) >0, 1, если Х(п).Х(пЧ I, <0;— 1, если X^-x^+i) >0;0, если Х^-дс^ц <0.0, если X^-x^m) >0, 1, если Х(п).Х(пЧ I, <0;— 1, если X^-x^+i) >0;0, если Х^-дс^ц <0.(7.22)(7.23)(7.22)(7.23)В последнем равенстве:
при Х^ 11) € ^1 rn I 1
при Х^ 11) € ^1 rn I 1
при л:(„+1) £ D2 гп и
при л:(„+1) £ D2 гп и
0, если X^-x^m) >0, 1, если Х(п).Х(пЧ I, <0;
— 1, если X^-x^+i) >0;
0, если Х^-дс^ц <0.
0, если X^-x^m) >0, 1, если Х(п).Х(пЧ I, <0;
— 1, если X^-x^+i) >0;
0, если Х^-дс^ц <0.
(7.22)
(7.23)
(7.22)
(7.23)
Иными словами, при неправильных ответах к вектору Х№ добавляется вектор точки, относительно которой была совершена ошибка. Равенства (7.22) и (7.23) можно записать в более компактной форме, если воспользоваться разделяющей функцией
(7.24)(7.24)Цх) = ^х
(7.24)
(7.24)
и п-м приближением для нее
fwW =К(пГх.(7.25)
Тогда
r»+i -= [sign/(*(Л-| 1.) — sign /<„> (xtn > d)]/2,(7.26)
где
sign фsign ф1 при ф — 1 при ф1 при ф — 1 при ф(7.27)(7.27)
sign ф
sign ф
1 при ф — 1 при ф
1 при ф — 1 при ф
(7.27)
(7.27)
Например, если показывается п + 1-й образец, принадлежащий диагнозу Dr. х(п^ ^Du f (х^цлй >0 и
/(zi) (л^м 1)) ~ ^w ‘^м* 11) / б, (7.28) то из равенства (7.26) находим r,l+1 = (1 — 1)/2 = 0, что и соответствует первой строчке формулы (7.22).
Если ДСщ+пЕ^г', / (Хщ^ о) < 0, то при Kwx(n+D > 0; f(n) (лг(п^1)) > 0 получаем rni; = (— 1 — 1)/2 = —1, что совпадает с равенством (7.23).
Теорема о сходимости алгоритма обучения за конечное число шагов. Ранее рассматривалась процедура построения весового вектора (7.21), при которой после очередного показа образца из обучающей последовательности весовой вектор оставался прежним или «исправлялся». Покажем теперь, что построенный процесс последовательных приближений приводит к определению весового вектора за конечное число исправлений. Сформулируем следующую теорему, принадлежащую Розенблатту и Новикову [3, 38, 51 ].
/(л) = 1-х/(л) = 1-хе, если х £ Dx;— е, если х £ D2,е, если х £ Dx;— е, если х £ D2,Пусть для диагнозов DtuD2 существует строго разделяющая функция
/(л) = 1-х
/(л) = 1-х
е, если х £ Dx;
— е, если х £ D2,
е, если х £ Dx;
— е, если х £ D2,
(7.29)
I а: | < D.I а: | < D.где е — положительное число и вектор признаков х ограничен по величине
I а: | < D.
I а: | < D.
(7.30)
Тогда после конечного числа исправлений весовой вектор, получаемый из равенства (7.21), осуществляет разделение (7.29). Для доказательства рассмотрим векторы образцов, входящие в объединенную область диагноза D; векторам x^D^ будем приписывать обратный знак, D=DX\^D*.
Отмечая такие векторы верхним индексом 0, получим для /-го образца
^(у) = хиъ если хкп ^Ог;
(7.31)(7.31)^Ч^ — Хц^ если хкп ^О2.
(7.31)
(7.31)
Далее условимся рассматривать только такие образцы, которые приводят к исправлению весового вектора. Если произошло т исправлений, то соответствующий весовой вектор
^(w) = Х°^ -|- Х°^4' ^ту(7.32)
Обозначим нижнюю границу разделяющей функции
min(Z.x)-=a>8.(7.33)
53
Умножая скалярно обе части равенства (7.32) на вектор X, получим X- Х(/«) — X-X(i) -]- Х*Х(2) -|- • • • -j- X-X(m)-
По условию (7.33)
X-X(m)>/mz.(7.34)
Так как величина скалярного произведения
|X-X(m)|c|X||X(m)|,(7.35)
то находим
Ы^^ТГ^ТГГ(7.36)
Условие (7.35), очевидное для обычного скалярного произведения, справедливо для многомерного пространства в силу неравенства Коши—Буняковского. Соотношение (7.36) указывает нижнюю границу длины вектора. Найдем теперь его верхнюю границу. Из условия (7.30) вытекает
I ^(т) | I -^(1) | -И | -^(2) | + • • • 4" I ^(т) | <4 mb.(7.37)
Однако можно получить существенно лучшую оценку, если учесть процесс образования Х(т). Пусть получен весовой вектор для /-го шага, тогда
4+D = Ч) + 4+D и = 0, 1, 2. ...)(7.38)
ИЛИ
X(/+i) -Xq'+d = | X(/+i) |2 = | Х(/) |2 2Х(/)X(j+i) 4- 14+0 Г
Рассматриваются векторы, приводящие к «исправлению», Х(/) • 4+0 < И потому |Х(/+1)|2— | Х(/) |2 с | ЛГ(/4-1) |2 (/ = 0,1, 2, ...). Отсюда получаем (|Х(0)| = 0)]Х(1) |2 < | л?(1) |2, | Х(2) |2 < с | -4) |2 +1 Х(2> |2, и далее | X(m) |2 с | .4) |2 +1 -4) |2 + • • • +1 ^(тч |2- По соотношению (7.30) |Х(;) |2 с Ьг, и тогда
| Х(т) |2 с mb2.(7.39)
Теперь из неравенств (7.36) и (7.39) вытекает
™<\^\2<mb2.(7.40)
Отсюда получается следующая оценка для числа «исправлений»:
Итак, если возможно разделение диагнозов DT и D^ с помощью линейной разделяющей функции (7.29), то процедура (7.21) осуществляет это разделение за конечное число исправлений. Пред-
положение о возможности разделения является весьма существенным. После т исправлений предполагается, что получено значение Х^ = X и, следовательно, для любого объекта из обучающей последовательности
X(/n) •-V " X • х > 0.
В действительности, надо снова проверить все точки обучающей последовательности, так как в процессе построения Х(т) их согласие с промежуточными значениями весового вектора могло нарушиться. Если диагнозы линейно неразделимы, то циклы, содержащие ограниченное число т исправлений, будут повторяться; при возможности разделения точное значение X будет найдено не более чем за т исправлений (при однократном последовательном переборе точек обучающей последовательности).
Обобщенный алгоритм нахождения разделяющей гиперплоскости. Рассмотрим теперь обобщенный алгоритм нахождения весового вектора с помощью показа образцов из обучающей последовательности. Будем считать, что векторы объектов х принадлежат объединенной области диагнозов, т. е.
х° — х, если x^Dx\
х° =—х, если x^D2.(7.42)
Используемая ранее процедура [равенство (7.21)] для векторов объединенной области имеет вид
Х(п+1) — Х(и)-|-^+1в^(«-*-1) ’(7-43)
где
1, если Х(/г)-Х(Лм) < 0;
Гп+1 =о п(7-44)
(0, если Х(л)-x^+i) > 0.
В обобщенном алгоритме используется прежняя процедура нахождения вектора X, но выбор скалярного корректирующего множителя г подчинен другим условиям. Пусть построены вектор Х(л) и соответствующая разделяющая плоскость, но образец Лфг+D распознается неправильно: Х^х^п^ < 0.
Проведем корректировку вектора Х(л) так, чтобы новое положение разделяющей плоскости давало правильное распознавание объекта x°^iv Тогда по соотношению (7.43)
Х(п+1) • Х(П М) “ Х(Л) е Х^п 4-1) 4~ Гп-Н |х(л+1) | >0 (7.45)
или
^+1^+1Л(п) x(n-l-l)„012Л(п+1) IЛ(п) x(n-l-l)„012Л(п+1) IlX(n+D IlX(n+D I(7.46)(7.46)
^+1
^+1
Л(п) x(n-l-l)„012
Л(п+1) I
Л(п) x(n-l-l)„012
Л(п+1) I
lX(n+D I
lX(n+D I
(7.46)
(7.46)
Если же объект A^-i-i) распознается достоверно, то корректировки вектора Xw не требуется и следует положить гп+1 = 0. Примем обобщенный алгоритм нахождения весового вектора в такой формеЕсли же объект A^-i-i) распознается достоверно, то корректировки вектора Xw не требуется и следует положить гп+1 = 0. Примем обобщенный алгоритм нахождения весового вектора в такой форме^(п И) — ^(п) "И ^пд-\Х^п 1-1)?^(п И) — ^(п) "И ^пд-\Х^п 1-1)?(7.47)(7.47)гдегде| ^(»)‘Х”п4 I) I,0, ,,—:—q[2—, е<.ли А(„)-x^+j; < U,| ^(»)‘Х”п4 I) I,0, ,,—:—q[2—, е<.ли А(„)-x^+j; < U,ГпАЛГпАЛ(7.48)(7.48)0,0,еСЛИ ^(п) *«^(п-|-1)0.еСЛИ ^(п) *«^(п-|-1)0.
Если же объект A^-i-i) распознается достоверно, то корректировки вектора Xw не требуется и следует положить гп+1 = 0. Примем обобщенный алгоритм нахождения весового вектора в такой форме
Если же объект A^-i-i) распознается достоверно, то корректировки вектора Xw не требуется и следует положить гп+1 = 0. Примем обобщенный алгоритм нахождения весового вектора в такой форме
^(п И) — ^(п) "И ^пд-\Х^п 1-1)?
^(п И) — ^(п) "И ^пд-\Х^п 1-1)?
(7.47)
(7.47)
где
где
| ^(»)‘Х”п4 I) I,0, ,,
—:—q[2—, е<.ли А(„)-x^+j; < U,
| ^(»)‘Х”п4 I) I,0, ,,
—:—q[2—, е<.ли А(„)-x^+j; < U,
ГпАЛ
ГпАЛ
(7.48)
(7.48)
0,
0,
еСЛИ ^(п) *«^(п-|-1)0.
еСЛИ ^(п) *«^(п-|-1)0.
Здесь сп+1 — скалярный множитель, соответствующий (п + 1)-му приближению. Если положить
G24-I —•G24-I —•(7.49)(7.49)1^+1) I2 , | ^(П)"Х(п+1)|
G24-I —•
G24-I —•
(7.49)
(7.49)
то получается указанный ранее алгоритм. Установим достаточное условие, обеспечивающее приближение к точному решению в процессе последовательных приближений. Пусть X представляет собой точное значение весового (разделяющего) вектора
Х-х°>0 для всех ^Dx (J ^2- (7.50)
Вычитая из обеих частей равенства (7.47) вектор X и умножая скалярно обе части равенства на себя, получим
I X(n+i) — X || Х(П) — X | -{-2гп-и (Х(п) — X) • Х(Лц-1) -|-
+ fn+i ^(п 11) |2.(7.51)
Последнее соотношение представим так:
|Х(„+1) -Х|2 = |Х(„) -Х|2 + Л.(7.52)
Очевидно, что при Л <0 |Х(л+1) —Х| <|Х(Л) — Х| и при возрастании п (увеличении числа исправлений) процесс сходится к точному значению Х(л) —> X. Таким образом, достаточное условие сходимости
(7.53)(7.53)Л <0.
(7.53)
(7.53)
Остается выяснить, при каких условиях справедливо последнее неравенство. Достаточно рассмотреть случай, когда Х(Л)-Х(Л^1) < < 0, так как в противном случае (X<n+i) = Х(Л)) «исправление» не происходит. Учитывая верхнюю строчку неравенства (7.48), соотношения (7.51) hJ(7.52), найдем
Д _ О/. I ^('П'^пИ) | м u „0। „2| ^ziV^n+l) Р
Л — 2Сп^Х . 02(Х(Л)Х)Х(п4-1)СП-|-1. о |2
I -Цп-Н) II Х(п+П I
или
Л 9„| X(n)x(n+D | j „О/92\ |+)*(«+!) Г
А = 2Сп^\: ^ ю- Л’Х(п+1) \ZCn м — сп\ J j—Q |2•
(7.54)
Первый член равенства(7.54)всегда отрицателен по условию (7.50). Второй член становится отрицательным, если
о <<?„+! <2.(7.55)
Последнее условие составляет достаточное условие сходимости процесса. Обычно выбирается постоянное значение сг1+1 = с и при условии (7.55) получается сходящийся алгоритм.
Как и ранее, предположение о возможности линейного разделения является весьма существенным. Эвристические условия такого разделения рассмотрены ниже.
Разделение при наличии нескольких диагнозов (состояний).
В этом случае разделение на п диагнозов осуществляется с помощью линейных дискриминантных функций
W^Vx.(7.56)
По отношению к остальным функциям должно выполняться условие
h (х) > /у (х) для x^D( (/ = 1, 2, 3, .. ., п; j + I).(7.57)
Допустим, что в к-м приближении определены весовые векторы Xt-(Л) и предъявляется (fe + 1)-й образец х^.^, принадлежащий диагнозу Die При этом могут возникнуть две ситуации. Если
К (k) ‘X^+d >> Ху (/,.)-х^+о (/=1,2, ...^п; Mi),(7.58)
то весовые векторы не требуют корректировки и принимается
Ху (/г + 1) — Ху (/г)(/=1,2, . . . , Zl).
Если некоторые дискриминантные функции /s (х) обнаружили значения большие, чем Д (х/т.е./^х(М^))>Д (x(Hi)), х(/г+1) С D( (s = 1, 2, . . ., п\ s i), то принимается
(/г+1) = X/ (^) 4* ^(^+1) > ^S (/г +1) — Xs (^) — Х(^+1).(7.59)
Таким образом, «усиливается» весовой вектор, соответствующий i-й разделяющей функции и «ослабляются» другие весовые векторы, нарушившие условие (7.57).
(7.60)(7.60), Приближенный метод построения разделяющей гиперплоскости. Рассмотрим снова разделение на два диагноза линейной разделяющей функцией (7.14) f(x) — Хх.
(7.60)
(7.60)
Рис. 18. Приближенный способ построения разделяющей плоскости (в в двухмерном пространстве признаков)
Ранее разбиралась процедура нахождения весового вектора X с помощью последовательного показа образцов, принадлежащих состояниям (диагнозам) Dx и D^. Укажем теперь прямой способ приближенного определения весового вектора. Пусть в обучающей последовательности для первого диагноза
ааР (О»Р (О»1 ^2«2 = "др S W •^З р=11 ^2«2 = "др S W •^З р=1Di содержится Мг образцов и соответственно для второго диагноза D^ — М^ образцов. Введем «средние векторы» или эталоны для диагнозов Dx и О2:
а
а
Р (О»
Р (О»
1 ^2
«2 = "др S W •
^З р=1
1 ^2
«2 = "др S W •
^З р=1
(7.61)
(7.62)
Проведем разделяющую плоскость через середину отрезка, соединяющего концы средних векторов — эталонов (рис. 18), и перпендикулярно этому отрезку (вектору а2— а^.
Вектор, проходящий через середину отрезка, a» = aiA- + (#2 — ax)/2 = («х + л2)/2. Если вектор х лежит в разделяющей плоскости, то скалярное произведение (а2 — а^х — а0) = 0 или
(а2 — а^х — ка» — «1) («2 + «1)/2 = °- (7-63) Уравнение (7.63) в У-мерном пространстве признаков имеет вид t (x) = (a2i — «и) ^1 + ‘'' + ka2N — Qin) xn + 1 («1 — «D/2 = 0.
(7-64)
Сопоставляя с уравнением (7.16) для разделяющей плоскости в дополненном пространстве признаков, получим значения составляющих весового вектора
A.j = а2—Qi, .. ., = O2N — Qin> ^n+i — (ai— "5)/2. (7.65)
Указанные значения могут быть выбраны как первые приближения, и относительно плоскости (7.64) должны быть проверены все точки обучающей последовательности; при необходимости вносят исправления в соответствии с изложенными ранее алгоритмами.
Задача линейного разделения как задача линейного программирования. Математическая постановка задачи определения весового вектора по данным обучающей последовательности (выборки) 58
представляется следующим образом. Имеется система строгих неравенств
( Xi^L^ 4~ * * * 4* Х^х^ 4- Xjv-i-i ^>0 (s = 1, . . ., Mj);(7.66)
(Xi-xjp 4~ • • • + XNx^ -j- Xy+i <0 (p = 1, .. ., M2).(7.67)
Составляющие вектора признаков с верхним индексом (1) относятся к диагнозу (состоянию) Dx, составляющие с индексом (2) — к диагнозу D2. Требуется найти N + 1 неизвестных значений Хь . . ., XN+b удовлетворяющих Мг + М2 неравенствам (7.66) и (7.67). Подразумевается, что объем обучающей выборки больше размерности пространства признаков:
ЛМ-М2>^ + 1,(7.68)
так как иначе существует бесчисленное множество тривиальных решений.
Математические методы более приспособлены для решения нестрогих неравенств и удобно ввести разделяющий слой е. Для сведения, к задачам линейного программирования, в которых линейные неравенства представляют собой ограничения для линейной минимизируемой функции, система неравенств (7.66) и (7.67) записывается так:
( М*^ + • • • + ^N^Ns 4“ ^4-1 — 8 4~ ^ ^ 0 (s = 1, . . ., Alj);
{/ох(7.69)
I А'Ар 4“ * * * 4~ ^n^n^ 4~ ^лн-14-6 — ^ о (р = 1, ..., М2),
где v — дополнительная неизвестная величина. Очевидно, что при достаточно большом значении и неравенства (7.69) будут удовлетворены, однако требуется найти такое решение, которое минимизирует^значение и. Подобная задача решается методами линейного программирования [23].
Теорема о линейном разделении. Рассмотрим условия, при которых^ возможно разделение двух областей диагнозов с помощью линейной разделяющей функции (гиперплоскости). Эти условия относятся к структуре и взаимному расположению областей диагнозов (рис. 19).
Рис. 19. Условия линейной разделимости двух областей диагнозов
В практических задачах области диагнозов характеризуются обучающими последовательностями, т. е. некоторым числом объектов с заранее установленным диагнозом. В связи с этим выполнение условий линейной разделимости проверяется по обучающей выборке. Однако формулируемые ниже условия, естественно, относятся ко всей области диагноза. Так как условия разделения носят детерминистский характер:
при f(х) = X-x>0 x^Dx\
при f (х) = X-x<0 x^D^ (7.70)
то подобное разделение возможно, если области диагнозов не пересекаются. Так как условия (7.70) представляют собой строгие неравенства, то не допускается возможность касания областей. Ограничимся также рассмотрением односвязных областей диагнозов, которые характеризуются тем, что замкнутая поверхность внутри области с помощью непрерывного деформирования может быть стянута в любую точку области. Если внутри области диагноза имеется полость или область состоит из двух замкнутых подобластей, то она не является односвязной. Достаточное условие линейной разделимости двух непересекающихся областей диагноза состоит в следующем: области диагноза должны быть выпуклыми областями (рис. 19, а\ Напомним, что область называется выпуклой, если отрезок прямой, соединяющий две произвольные точки области, не^выходит за ее пределы. Указанное условие можно ослабить, относя требование выпуклости только к части поверхности области, более «близкой» к другой области.
Теорема о линейном разделении содержит необходимое и достаточное условие линейной разделимости. Эта теорема формулируется следующим образом: линейное разделение областей возможно, если существует хотя бы одно направление, проекции областей на которое не перекрываются. Проекцией области на направление называется геометрическое место проекций всех точек области на данное направление.
Необходимость условия вытекает из следующих соображений. Допустим, что разделяющая плоскость существует (рис. 19, б). Тогда направление, нормальное гиперплоскости, и представляет собой направление, относительно которого проекции областей диагнозов не перекрываются. Последнее вытекает из того, что условия (7.70) являются строгими неравенствами. Достаточность условий доказывается возможностью построения разделительной плоскости, если существует указанное направление. Для этого достаточно построить нормальную гиперплоскость, проходящую через точку прямой между проекциями областей диагнозов.
Если существует не одно, а несколько или бесчисленное множество направлений, для которых проекции областей диагноза не перекрываются, то задача линейного разделения имеет соответствующее число решений. Во многих случаях линейное разделе- 60
ние невозможно (рис. 19, в). Дальнейшее обобщение решающих правил состоит в использовании кусочно-линейных дискриминантных функций.
Кусочно-линейные дискриминантные функции. Ранее рассматривались линейные дискриминантные функции (7.3)
которые принимали наибольшие значения в области i-ro диагноза. В общем случае вводится семейство таких функций для i-ro диагноза:
=(s==1m)>(7 72)
причем в качестве дискриминантной функции принимается
(х) = max ^^ -^ (s = 1, . .., ту(7.73)
Более подробно структура кусочно-линейных решающих функций рассматривается в гл. 5 в связи с метрическими методами распознавания. Естественно, что кусочно-линейные функции позволяют построить разделяющие поверхности практически во всех случаях, когда односвязные области диагнозов не пересекаются.
РАЗДЕЛЕНИЕ В ДИАГНОСТИЧЕСКОМ ПРОСТРАНСТВЕ
Ранее рассматривались линейные разделяющие функции. Во многих случаях можно получить эффективное разделение (распознавание), используя разделяющие функции более сложного вида.
Разделяющая функция общего вида и диагностическое пространство. Рассматривается распознавание образов двух классов (диагнозов D л и D^ с помощью разделяющей функции общего вида
v
Цх) = '^1Х1ч>1(х), (8.1) i=i
причем
при /(х)>0 x^Dx\ при f(x)<0 х GD2, (8.2) где х — вектор, изображающий объект в пространстве признаков. В равенстве (8.1) скалярные функции векторного аргумента <pz (х) выбираются заранее, коэффициенты Xt подлежат определению. Введем в рассмотрение диагностическое пространство размерности v, координаты точек которого
г, = Ф,(^) (i= 1, 2, .. ., v). (8.3) В обычном пространстве признаков объект характеризуется вектором х {хх, х2> • • •> xN) или «расширенным» вектором х (хъ ха. • . ., xN, 1). В диагностическом пространстве объект описывается вектором г = {zn z2, . . ., zv). Равенство (8.3) устанав-
Рис. 20. Разделение в пространстве признаков и диагностическом пространствеРис. 20. Разделение в пространстве признаков и диагностическом пространстве5)5)
Рис. 20. Разделение в пространстве признаков и диагностическом пространстве
Рис. 20. Разделение в пространстве признаков и диагностическом пространстве
5)
5)
ливает преобразование пространства признаков в диагностическое пространство. Такое преобразование целесообразно, если позволяет более просто осуществить разделение областей диагнозов.
Пусть, например, объект характеризуется тремя бинарными (простыми) признаками хг, х2, х3; в трехмерном пространстве признаков каждый из объектов соответствует одной из вершин трехмерного единичного куба (рис. 20, а). Выберем пространство одномерным, полагая
^1 = ^1 “И “h ^з* (8.4)
Тогда вершины куба отобразятся в четыре точки прямой zx (рис. 20, б). Если точки, отмеченные треугольником, относятся к диагнозу D2, а кружком — диагнозу Du то разделяющая функция в диагностическом пространстве имеет очень простой вид, например
f feWi — 3/2. (8.5)
Отметим, что равенство (8.3) устанавливает однозначное преобразование точек пространства признаков в точки диагностического пространства. Обратное преобразование, как ясно из приведенного примера, может быть не однозначным. Основная идея рассматриваемого метода — преобразование пространства признаков в другое пространство, в котором возможно осуществить линейное разделение диагнозов (классов).
Отметим, что при достаточно большой размерности диагностического пространства такое разделение принципиально возможно, но для эффективности практической реализации важно найти преобразования (8.3) с конечным и небольшим числом членов ряда (8.1). Напомним, что размерность диагностического пространства соответствует числу членов ряда (8.1).
Для достаточно «гладких» разделяющих функций этот ряд содержит конечное число членов; в других задачах диагностическое пространство будет бесконечномерным, и тогда для^сходящихся рядов, так как только в этом случае функция f(x) сохраняет смысл, 62
^ — > 0 при i —> оо. Разделяющая функция в диагностическом пространстве
HzW-z,(8.6)
где весовой вектор
Х={^, ^2М(8.7)
и вектор z -= {<Pi W, <р2 (лг), ..., g>v (jc)\ = <р (х).(8.8)
Если возможно представление разделяющей функции в виде ряда (8.1), то существует также линейное разделение в диагностическом пространстве.
Построение разделяющей функции. Разделяющая функция будет построена, если определены коэффициенты X,. Эти коэффициенты могут быть найдены в процессе обучения с помощью показа образцов из обучающей последовательности. Наиболее простой способ — использование алгоритмов для линейной разделяющей функции в диагностическом пространстве. Эти алгоритмы были указаны в предыдущем параграфе.
После первого образца x(i; или в диагностическом пространстве образца г<1) разделяющая функция в диагностическом пространстве
/х ( ^(0 -<при zw ^Dv,
(z) = ( ~
I —zw -z при zw £D2,
соответственно в пространстве признаков
fw W =fw W =Ф(ЛГ(1))-Ф(ЛГ)= s <Pf(^(i))<PiW x(l) ^Dx;Z=1Ф(ЛГ(1))-Ф(ЛГ)= s <Pf(^(i))<PiW x(l) ^Dx;Z=1—ф(*(1>)-ф(х) =—ф(*(1>)-ф(х) =VLv<(•*(!))<P<W -V(i) €^a-VLv<(•*(!))<P<W -V(i) €^a-(8.10)(8.10)
fw W =
fw W =
Ф(ЛГ(1))-Ф(ЛГ)= s <Pf(^(i))<PiW x(l) ^Dx;
Z=1
Ф(ЛГ(1))-Ф(ЛГ)= s <Pf(^(i))<PiW x(l) ^Dx;
Z=1
—ф(*(1>)-ф(х) =
—ф(*(1>)-ф(х) =
V
Lv<(•*(!))<P<W -V(i) €^a-
V
Lv<(•*(!))<P<W -V(i) €^a-
(8.10)
(8.10)
Для (п-Ц)-го приближения разделяющей функции можно записать
Л»Ф1) (^) = /w(A:) + r(„+i> ^Ф,(лГ(п+1))ф< W (п = 0, 1,2, . ..), (8.11) где при jc^^Dx
/0, если f(„)(x(„+i))>0;
'”+1 = ,, , X / л(8.12)
(1, если f(n) (л;(п-ц)) < 0.''
При ЛГ(„+!) ^D2 принимается
(-1, если fw(x(„+i))>0;
^+1= п , .. _п(8.13)
I 0, если f(n)(x(„+i))<0.v '
Отметим, что /(0) (х) = 0, а значения /(1} (х) определяются равенством (8.10). Для коэффициентов разложения Xz (компонентов весового вектора) в равенстве (8.1) получаем следующие значения в процессе последовательных приближений:
X/ (п4-1) = Xz (и) Ч~ ^п+1ф4 (Х(П-|-1)),(8-14)
причем при /г = 0 Xi (0) = 0. Если существует линейное разделение в диагностическом пространстве (при конечном значении v) или представление (8.1) в пространстве признаков, то указанная процедура приводит к (конечному) вектору X. Из условия существования конечного вектора следует
lim Y Xz < оо.(8.15)
V->oo 4 = 1
Это ограничение существенно для бесконечномерного диагностического пространства (у = ос).
Выбор функций ср, (х). Функции ф/ (х) должны обеспечивать возможность представления в виде ряда (8.1) достаточно широкого класса функций, так как сама разделяющая функция заранее неизвестна. Естественно, что для разделяющих функций сложного вида число членов ряда (8.1) должно возрастать и в пределе диагностическое пространство будет бесконечным:
fW = £ Vp ,(•*).(8.16)
4 = 1
В силу условия (8.15) Xz —> 0 при i —>оо. Для функций скалярного аргумента х разложение (8.16) заведомо возможно для всех практически встречающихся функций
fW^^iW.(8.17)
4 = 1
В этом случаев качестве функций {ф, (х)} может быть выбрана какая-либо полная система ортогональных функций (например, разложение в ряд Фурье и т. п.). Для скалярных функций векторного аргумента возможно разложение по ортогональным функциям более сложной структуры. Однако в практических задачах использование ортогональных функций не обязательно, так как ряд (8.1) всегда должен иметь конечное число членов. Один из простейших способов образования функций ф, (х) выражается равенством
ф/ (-^) " a\t^i Г ^i^i * * * Ч~ ^mi^i •(8.18)
Если в правой части равенства (8.18) оставить только первый член, получаем обычную линейную разделяющую функцию. Можно использовать размерность диагностического пространства v большую, чем размерность пространства признаков N. Тогда первая группа признаков представляет функции вида (8.18), вторая
группа содержит попарные комбинации двух признаков х,+ху, %i — Xj, х£ Xj и их степени и т. п. Возможен и другой подход к выбору «координатных» функций, если принять
NN
ф1 (лг) = ^ aljXj, VzW — Ъ а2/Х/, /=•М
N N
Фа (•*) = Е X a^jXk(8.19)
/=1 к=Л
При удачном выборе функций ф/ (х) размерность диагностического пространства может оказаться небольшой.
Использование диагностических комплексов (симптомов). Один из важных способов преобразования пространства признаков в диагностическое пространство — использование логических функций. Очень часто диагностическое значение имеет не наличие или отсутствие какого-либо признака, а появление или непоявление некоторого комплекса признаков. Предположим, объект характеризуется тремя простыми признаками хъ х^ х3, причем наличию признаков соответствует 1, отсутствию— 1 (0 означает отсутствие обследования).
Предположим, для диагноза Dx характерно наличие первого или второго признака и отсутствие третьего. Тогда можно выбрать одномерное диагностическое пространство (см. гл. 6)
z = ф (л) = (хт V *2) Л-^з-(8.20)
Разделяющая функция в этом случае будет чрезвычайно простой: при г > О^х^и при^г <0 х^Ой. При использовании диагностических комплексов диагностическое пространство обычно описывается простыми (бинарными) признаками (наличие, или отсутствие комплексов). В алгоритме обучения распознавания образов «Кора» используются комплексы простых признаков типа (8.20) — конъюнкции нескольких признаков.
С помощью перебора различных конъюнкций (заранее выбранной размерности) для признаков объектов (примеров), входящих в обучающие последовательности, находят диагностически ценные комплексы признаков. Диагностически ценным считается признак, которым обладают некоторые объекты одного класса и ни один из объектов другого класса. Более ценным признается комплекс, который встречается в большем числе объектов обучающей последовательности данного класса (см. гл. 8).
Если отобрано v наиболее значимых признаков, то можно построить линейную разделяющую функцию
!^=^гь(8.21)
где X, = 1 — для признаков первого состояния и X, = —1 — Для признаков второго состояния. Эта разделяющая функция
3 И. А. Бирге р65
относит объект к одному из двух состояний в зависимости от числа признаков данного состояния, которыми обладает объект. Если он имеет признаков первого состояния больше, чем второго, то объект относится к первому состоянию.
Аналогично при / (г) > 0 г ^ Dx; при / (г) < 0 г С ^2- Таким образом, алгоритм «Кора» может быть отнесен к алгоритмам с линейной разделяющей функцией в диагностическом пространстве.
Метод трубок, предложенный в работе [2], дает некоторые правила, с помощью которых можно образовать диагностически ценные комплексы признаков. Объект описывается простыми признаками хъ х2> . . ., хп и представляет собой одну из вершин n-мерного единичного куба, 1 —наличие признака, 0 — отсутствие признака. Различаются два состояния D х и D2. Для образования характерного для каждого состояния комплекса признаков используются объекты из обучающих последовательностей.
Если х° — некоторый объект (точка в пространстве признаков), то трубкой Т (л^, . . ., xs; х°; г) с центром в точке х° и радиусом г называется множество точек, для которых расстояние до центра
ps(x, х°)= ^ |^-х»|сг. (8.22)
Признаки считаются существенными, если частота их появления
о < б0 или а > бх. (8.23)
В практических расчетах можно принимать б0 = 0,3 и бц = 0,7.
Процесс распознавания состоит в построении трубок для элементов (объектов) обучающих последовательностей D^ и D^. Для построения трубок Т используется итерационный алгоритм. Выбирается произвольный элемент из обучающей последовательности, например Z)?, находится радиус трубки г такой, для которого разность v \Di П Г] — v \Ds Q Т] становится наибольшей (v [Л]— число объектов, входящих в множество Л). В трубке сохраняются только существенные признаки. Таким образом, в трубку могут входить объекты, имеющие комплекс определенных признаков, находящийся в «окрестности» центра трубки.
Трубка называется чистой, если в нее входят некоторые из объектов данного состояния и не входят объекты другого состояния. Предъявленный для распознавания объект относится к состоянию Dx, если он входит в трубки состояния Dx и не входит в трубки состояния D 2. Отметим, что используемый метод оценки существенности признаков [условие (8.23) ] можно улучшить, если сопоставить частоты появления признаков при двух состояниях (см. гл. 8). Существенными следует признать признаки, частоты встречаемости которых для двух состояний заметно различаются.
В заключение отметим, что в настоящее время достаточно эффективные общие процедуры отыскания диагностически ценных комплексов отсутствуют, однако часто инженерные и интуитивные соображения,"особенно в задачах технической и медицинской диагностики, помогают^найти диагностически ценные комплексы и существенно снизить размерность диагностического пространства. Отметим также методы теории подобия, позволяющие образовывать безразмерные комплексы признаков.
МЕТОД ПОТЕНЦИАЛЬНЫХ ФУНКЦИЙ
И МЕТОД ПОТЕНЦИАЛОВ
Метод потенциальных функций [3] является развитием идеи преобразования пространства признаков. В настоящее время метод потенциальных.^функций можно считать одним из наиболее раз^>аботанных и математически обоснованных методов распоз: навания' образов (классов, диагнозов, состояний). Метод потенциалов основывается на тех же первоначальных представлениях, что и метод потенциальных функций, но построение алгоритма распознавания проводится другим путем.
Основы метода потенциальных функций и метода потенциалов. В качестве дискриминантных функций ft (х) для диагноза Di в пространстве признаков в рассматриваемых методах выбираются функции, имеющие наибольшее значение для точек этой области и убывающие по мере удаления от нее. Подобным свойством обладает потенциал точечного заряда, что и дало название методам.
Если ввести расстояние между произвольной точкой х пространства признаков и некоторой характерной точкой хь принадлежащей диагнозу Dt)
р(х, хЕ) = \х — хД,(9.1)
то следует считать, что дискриминантная функция h (х) должна быть убывающей функцией этого расстояния:
№ММ(9.2)
Так как р зависит от л: и хи то можно записать
fi(x) = К(х, х^,(9.3)
где К {х, х,) — потенциальная функция х, в которую входит хг как параметр. Точка х в многомерном пространстве признаков описывает состояние объекта.
Метод потенциальных функций развит для разделения на два состояния (дифференциальная диагностика, дихотомия). В указанном случае разделяющая функция
f (-v) = к (л) — f2 (х) = К (х, х^ — К (х, хг).(9.4)
Основное свойство разделяющей функции:
/(•*)> О, если x^D^, Цх)<.0,_если x£D2.(9.5)
3*67
Диагнозы (классы) Dv и D2 считаются непересекающимися, т. е. точка х может входить только в один из указанных классов. Если известна потенциальная функция К ^х, у), которую условно можно рассматривать как «потенциал» в точке х от источника в точке у, то при соответствующем выборе точек хг и х2 можно построить разделяющую функцию f (х). Потенциальная функция зависит от расстояния между точками:
/< (АГ, у) =/< (| ЛР — у I).(9.6)
Приведем несколько возможных выражений для потенциальной функции, учитывающих условия ограниченности функции при х = у:
tf(x,y) = e-°'*->|m;(9.7)
К (л, у) =! ,(9.8)
^т > 0; а > 0)
1
где | х —- у | = j У (xz — у^ I — расстояние между точками х и у.
Метод потенциальных функций. Опишем наиболее простой алгоритм построения разделяющей функции / (х) на основе потенциальной функции К (а:, у) с помощью показа образцов из обучающей последовательности. После показа первого образца Х(Д) принимается
fw (*) = Ifw (*) = IK(x,xw), если х(1) ^Dx;
fw (*) = I
fw (*) = I
—К^х, x(d), если лг(1) £О2.1 ‘ '
Далее показывается второй образец Хед и возможны следующие ситуации:
при Хед ^Di Гед (Хед) > 0;
при Хед £Di Гед (Хед) < 0;
при Хед £D2 Гед (Хед) > 0;
при Хед ^Ds Гед (Хед) < 0.
Для случаев а) и г) поправки не требуется; в случае б) принимается Гед (х) =/(1)(лг) + К (х, Хед); наконец, в случае в) Гед W = Гед <Х) — К (X, Хед).
Построение дальнейших приближений очевидно.
Допустим, что потенциальная функция может быть представлена рядом
К {х, 9)=^ а,ф( ^х) ф, (у),(9.10)
4=1
где {ф, (х)} — некоторая система функций; az — числовые коэффициенты.Рассмотрим преобразование пространства признаков л: в диагностическое пространство, причем координаты точки в этом пространствегде {ф, (х)} — некоторая система функций; az — числовые коэффициенты.Рассмотрим преобразование пространства признаков л: в диагностическое пространство, причем координаты точки в этом пространствеzt = а(ф,- (л:),zt = а(ф,- (л:),(9.И)(9.И)где а, определяются как коэффициенты ряда (9.10). Тогда первое приближение для разделяющей функции в диагностическом пространстве в соответствии с равенствами (9.9)—(9.11) будет таким:где а, определяются как коэффициенты ряда (9.10). Тогда первое приближение для разделяющей функции в диагностическом пространстве в соответствии с равенствами (9.9)—(9.11) будет таким:( г-г^, если zw £DV \—Z-ZW, если zw PD2( г-г^, если zw £DV \—Z-ZW, если zw PD2(9.12)(9.12)илиилиf(D W =f(D W =S а?фДлг)ф,(лг(1)), если д^ц ^ОйS а?фДлг)ф,(лг(1)), если д^ц ^Ой(9.13)(9.13)— 2 а<ф1(^)ф1(л:(1)), если xw ^D2.— 2 а<ф1(^)ф1(л:(1)), если xw ^D2.Будем предполагать, что разделяющая функция может быть разложена в ряд по функциям ф, (л:):Будем предполагать, что разделяющая функция может быть разложена в ряд по функциям ф, (л:):f W = ^^ W = S^7 Zi’f W = ^^ W = S^7 Zi’(9.14)(9.14)
где {ф, (х)} — некоторая система функций; az — числовые коэффициенты.
Рассмотрим преобразование пространства признаков л: в диагностическое пространство, причем координаты точки в этом пространстве
где {ф, (х)} — некоторая система функций; az — числовые коэффициенты.
Рассмотрим преобразование пространства признаков л: в диагностическое пространство, причем координаты точки в этом пространстве
zt = а(ф,- (л:),
zt = а(ф,- (л:),
(9.И)
(9.И)
где а, определяются как коэффициенты ряда (9.10). Тогда первое приближение для разделяющей функции в диагностическом пространстве в соответствии с равенствами (9.9)—(9.11) будет таким:
где а, определяются как коэффициенты ряда (9.10). Тогда первое приближение для разделяющей функции в диагностическом пространстве в соответствии с равенствами (9.9)—(9.11) будет таким:
( г-г^, если zw £DV \—Z-ZW, если zw PD2
( г-г^, если zw £DV \—Z-ZW, если zw PD2
(9.12)
(9.12)
или
или
f(D W =
f(D W =
S а?фДлг)ф,(лг(1)), если д^ц ^Ой
S а?фДлг)ф,(лг(1)), если д^ц ^Ой
(9.13)
(9.13)
— 2 а<ф1(^)ф1(л:(1)), если xw ^D2.
— 2 а<ф1(^)ф1(л:(1)), если xw ^D2.
Будем предполагать, что разделяющая функция может быть разложена в ряд по функциям ф, (л:):
Будем предполагать, что разделяющая функция может быть разложена в ряд по функциям ф, (л:):
f W = ^^ W = S^7 Zi’
f W = ^^ W = S^7 Zi’
(9.14)
(9.14)
где Xz — коэффициенты разложения.
Для практического применения метода знания коэффициентов Xz не требуется, однако возможность представления разделяющей функции в форме (9.14) является основной гипотезой метода потенциальных функций. Эта гипотеза эквивалентна предположению о возможности линейного разделения в диагностическом пространстве. Если такое разделение возможно, то существует (конечный) весовой вектор и потому должны существовать следующие ограничения:
(9.15)
(9.16)(9.16)az + 0 (t = 1, 2, 3, ...).
(9.16)
(9.16)
Основное преимущество метода потенциальных функций состоит в том, что для построения алгоритма распознавания не требуется знания (или подбора) функций ф, (л;), а достаточно выбрать К (л:, у) [ура/нения (9.7), (9.8)].
Алгоритмы распознавания в методе потенциальных функций. В общем виде рекуррентная процедура построения разделяющей функции
/(х)>0 при x^Dv\ /(л:)<0 при x^D^ (9.17) дается следующим равенством:
Лл+D (л;) = <7„+i/(п) (л:)+ гп+, К (л:, x(n+i)), (9.18) где qn*n тп*х—некоторые числовые последовательности, причем в практически реализованных процессах <7„+1 = 1.
Величина г„+1 может быть задана в виде
г„+1 -=у„+1 [signf^+i)) -signf(„)(.t(^^ (9.19) где / (х) — точное значение разделяющей функции, a f^ (х) — ее п-е приближение; уп+1— числовой коэффициент («стягивающий множитель»), причем
5т„ = оо. (9.20) Л—1
Смысл условия (9.20) состоит в том, что величина у„ не должна убывать слишком быстро с тем, чтобы влияние обучающей последовательности сказывалось в большей степени. Кроме указанного соотношения, последовательность у„ должна удовлетворять од
ному из следующих условий:
Y„ = const;(9.21)
Нту„ = 0;(9.22)
5?«<оо.(9.23)
л=1
Например, в рассмотренном ранее алгоритме [равенство (7.26)1 уп = 1/2 (п= 1, 2, 3, . . .),(9.24)
что удовлетворяло соотношениям (9.20), (9.21).
Можно принять
yn=l/Ai,(9.25)
что соответствует условиям (9.20), (9.22) и (9.23). Постоянные значения уп обеспечивают более быструю сходимость, убывающие значения способствуют увеличению помехоустойчивости алгоритма. Если существует представление (9.14), то процедуры (9.18), (9.19) являются сходящимися.
Аналогично теореме о конечном числе исправлений, приведем* ной в § 7, при построении разделяющей функции справедлива следующая оценка числа исправлений [3]:
где sup VК (л:, х) — верхняя граница потенциальных функций для всех х\ inf ] / (аг) [ — нижняя граница разделяющей функции f (л). Из оценки (9.26) следует, что число исправлений уменьшается, если точки диагнозов в большей степени удалены от разделяющей поверхности (при этом возрастает величина inf | f (лг)|).
Выше указывался общий алгоритм построения разделяющей функции [уравнение (9.18)1. Для сопоставления с обычными рекуррентными процедурами нахождения весового вектора X запишем алгоритм (9.18) в другой форме. Учитывая, что f^i (л) =
= 2^(п)ф<(л0 = ^(«)'Ф W> получим в силу соотношения (9.10) и (9.18) (при qn = 1)
к (n+D = ^i (п) + Vn+1 [sign f (л:(п+1)) — sign fw (A(n+i,)] afo (*(n+i)).
(9.27)
Применение метода потенциальных функций для распознавания нескольких диагнозов. Для распознавания п состояний системы (диагнозов Dx, D^, . . ., Dn) используется п дискриминантных функций fj (х), причем
hW>fjW при x^Dt (/= 1, 2, ..., га; i + iy(9.28)
Укажем алгоритм построения дискриминантных функций с помощью показа образцов из обучающей последовательности. Алгоритм строится на основе потенциальной функции К (л:, у). Допустим, что в ^-м приближении определены все функции ft ^ (л:) и показывается (^ + 1)-й образец, принадлежащий диагнозу Die Если для х^ал^ выполняется условие
ft (k) (лг^-н)) > fj (k) (л^+о) U = 1, 2, ..., п; j + i),(9.29)
то дискриминантные функции остаются прежними
fi (^+1 (лО = fj (k) (х).
В том случае, если одна или несколько дискриминантных функций не удовлетворяют условию (9.28), например
fs (к) (Х(кА-1)) > fi (/?) (^(НИ) При Х^ 1) С ^и(9.30)
то производится корректировка функций. Принимается
Ь^-нАх^ fiW(x)^-К^л, л^+^У(9.31)
fs (ft+i, (х) = fs (k) (л) — К (л, л^ о).(9.32)
71
В результате усиливается потенциал функции у (а:) и ослабляется потенциал функции fs (а:). Подобная корректировка проводится для всех функций, нарушивших условие (9.28).
Замечание о выборе потенциальной функции. Потенциальные функции могут быть представлены формулами (9.7) и (9.8). Потенциальная функция принимается зависящей от расстояния
К и. у) = к (р ^, у)). (9.33)
Некоторые дальнейшие обобщения связаны с введением обобщенного расстояния
- Nv^x,^= L I - yi lv- Nv^x,^= L I - yi lv' V' V(9.34)(9.34)
- Nv^x,^= L I - yi lv
- Nv^x,^= L I - yi lv
' V
' V
(9.34)
(9.34)
При v = 1 обобщенное расстояние представляет собой расстояние по Хеммингу, при v = 2 — расстояние в евклидовом пространстве, при v —> оо расстояние определяется наибольшей разностью компонент векторов
Р ^» У) = max \xi ~ til I (lct<W).(9.35)
Более подробно эти вопросы рассматриваются в гл. 5. Выражения для потенциальной функции будут такими:
К(х, у) = е-°р"1*’ У>;(9.36)
К (х, у) =5.(9.37)
Они удовлетворяют условию конечности потенциальной функции в точке х = у:
К(х, х^<М.(9.38)
Формулы (9.36) и (9.37) содержат три положительные константы а, п, v, которые выбирают на основании опыта практической реализации алгоритма.
Метод потенциалов. В этом методе [6] для построения дискриминантных функций также используются потенциальные функции К (х, у). Однако они получаются не в результате последовательной (рекуррентной) процедуры, как в методе потенциальных функций, а строятся на основе имеющейся предварительной информации. Алгоритм построения является не самообучающимся, как в методе потенциальных функций, а заранее выбранным, детерминированным. Однако простота метода делает его привлекательным для практических приложений.
Пусть имеется обучающая последовательность, содержащая т( образцов, принадлежащих диагнозу Dt (t = 1, 2, . . ., nV Такая ситуация характерна для большинства задач технической и медицинской диагностики. Если xt представляет собой эталон-
ный вектор диагноза D( (типичный случай), то дискриминантными функциями могут быть соответствующие потенциальные функции
(9.39)(9.39)h W = к (х, Xi\
(9.39)
(9.39)
В качестве эталонного образца можно принять средний образец
(9.40)
По физическому смыслу /, (х) представляет собой потенциал в точке х от источника (заряда) в точке х( . Все дискриминантные функции положительны, так как потенциальные функции удовлетворяют условию К (х, у) > 0. Очевидно, К ^Хь х^ "> К (х(, х^ (i, / =1,2, . . ., п; i + j), так как К (х, у) — убывающая функция расстояния.
Другой метод образования дискриминантных функций состоит в использовании среднего значения потенциальной функции
(9.41)(9.41)fiW = -^-.^K(x, х^).
(9.41)
(9.41)
где К (х, x.<s)) — потенциальная функция для образца, принадлежащего диагнозу Di.
Алгоритм распознавания является обычным при использовании дискриминантных функций. Предъявленный для распознавания объект
(9.42)(9.42)х £ Di, если fi (х) > fj (х) (/=1,2,..., п; j 4= i).
(9.42)
(9.42)
Очевидно, уверенность в правильной классификации будет больше, если функция /, (х) существенно превышает остальные. Введем меру качества (надежности) процесса распознавания
(9.43)(9.43)h W = ti W / L h W-
(9.43)
(9.43)
(9.44)(9.44)В практических задачах решение о принадлежности объекта х к диагнозу D( можно принимать, если
(9.44)
(9.44)
№)>£о,
где £0 — выбранный уровень качества. Если условие (9.44) не выполняется, то для принятия решения требуется дополнительная информация.
МЕТОД СТОХАСТИЧЕСКОЙ АППРОКСИМАЦИИ
Этот метод, развитый Я. 3. Цыпкиным 162, 63] применительно к проблеме распознавания и ряду смежных проблем, позволяет оптимизировать процесс разделения в пространстве признаков.
Постановка задачи. Ранее было показано, что разделение на два состояния (класса, диагноза) в пространстве признаков может быть сведено к построению разделяющей функции f ^ и использованию правила решения
х^Оъ если /(л)>0; л:^/)2, если Цх)<0.(Ю.1)
В общем виде разделяющая функция v
fW = Е(Ю.2)
z = l
где X— весовой вектор; ф (фх (х), . . ., cpv (х))— вектор-функция. Построение разделяющей функции сводится к нахождению или выбору класса функций {ф,- (х)} и определению коэффициентов разложения Xz. Таким образом, одним из методов решения задачи • । распознавания является метод аппроксимации.
1 Будем считать, что класс функций ]cpz (х)} выбран надлежащим образом (см. § 8) и задача состоит в определении коэффициентов Xz. Ранее были указаны рекуррентные процедуры для определения X. Воспользуемся теперь общими методами аппроксимации, обеспечивающими минимум погрешности и, следовательно, оптимизирующими процесс распознавания. Разделяющую^фуцкцию в соответствии с равенством (10.2) будем обозначать^^л:, Х)р подчеркивая зависимость от вектора X. Если /* (х) — точное значение разделяющей функции, то погрешность аппроксимации можно определить как квадратичную погрешность
J(X) = J (/*(л)-/(л, X)]2<t*,(10.3)
x^D
nex^D означает, что интегрирование проводится по всей области изменения х, a dx — элемент области. Однако в реальных задачах различные значения х (объекты, имеющие набор признак ков х) имеют разную вероятность появления и потому более эффективным критерием точности будет среднеквадратичная погрешность
Л*) = J u*W-f^AWpWdx,(10.4)
x^D
где р (х) — плотность совместного распределения параметров хь х2, . . ., xN. В дальнейшем погрешность будем записывать в более общей форме:
J(X)= J F^xA^p^dx,(10.5)
x^D
Где F (л:, X) — функция потерь или штрафная функция. Можно принять
F (х, X) = Ф [f* (х) - / (х, X)],(10.6)
где Ф (и) — положительная, монотонно возрастающая функция разности точного и приближенного решений, обращающаяся в нуль при их совпадении.
В частном случае, когда
Ф^-и2,(10.7)
функционалы (10.4) и (10.5) совпадают. В общем случае функция потерь должна обращаться в нуль при совпадении точного и приближенного решений и быть положительной при их несовпадении:
[ 0 при /* = f;
F(х, Х) = ф(fj) = р '(Ю.8)
Можно усилить требования к функции потерь, считая, что она должна быть выпуклой (функцией с положительной кривизной). Построение разделяющей функции, минимизирующей погрешность приближенного решения, является оптимизацией процесса разделения в пространстве признаков. Однако применение метода минимальной погрешности в его классической форме встречает серьезные затруднения. Часть из них связана с тем, что плотность распределения р (л:) обычно неизвестна и имеются только отдельные значения х^^ входящие в обучающую последовательность.
В такой ситуации оказывается целесообразным применение метода стохастической аппроксимации.
Основы метода стохастической аппроксимации. Рассмотрим функционал, представляющий собой среднее значение (математическое ожидание) некоторой случайной функции, зависящей от х = (хь х2, . . ., xN) и вектора коэффициентов X = (Хь Х2, . . ., X/v):
J^ = ^ F(x,^p(x)dx=Mx\F(xA^,(10.9)
x^D
где Мх [ ] — знак математического ожидания (усреднения по пространству признаков х), р (х) — плотность вероятности значений х в данной точке пространства. Предположим сначала, что величина р (х) является заданной и тогда условия экстремума функционала (10.9) будут такими:
Эти условия можно записать в векторной форме
gradJ(X)= (^^-, ^-, ...,^^-) = 0.(10.10)
v 7\ dXt ’ дХ2dXN /v 1
Условие равенства нулю градиента функционала дает систему уравнений для определения значения вектора X, при котором J (X) достигает экстремума. Для пространства большой размерности часто более эффективным является применение итеративных методов (методов последовательных приближений). Представим равенство (10.10) в эквивалентной форме
X = X — || у|| grad J (X), (10.11) где || у || — матрица скалярных коэффициентов, детерминант которой отличен от нуля:
Ун • • • • Yw
(10.12)
YwiY^^
Форма записи (10.11) дает естественный алгоритм последовательных приближений
Чн-О = ^w — hlln+igradJ (X(n)).(10.13)
В последнем равенстве
gradJ(X) = J gradx/7^, fyp(x)dx = Л4Х [gradx F (л:, X)]. (10.14) x^D
Алгоритм последовательных приближений (10.13) можно обобщить на случай, когда среднее значение (математическое ожидание) grad^/7 ^х, X) неизвестно, но известны отдельные его реализации. Они используются как оценки среднего значения, что приводит к следующей процедуре:
Wd = Х(л) -h||n+i grad^FfA^+D, X(n)).(10.15)
В этом алгоритме для построения (п + 1)-го приближения вектора X необходимо знать предыдущее значение X и значение (реализацию) х на (п + 1)-м шаге. При некоторых условиях, накладываемых на матрицу «стягивающих коэффициентов» || у || и grad F, алгоритм (10.15) является сходящимся. В дальнейшем ограничимся рассмотрением случая, когда матрица стягивающих коэффициентов пропорциональна единичной матрице:
10 0о
hUi = т«+1hUi = т«+1(10.16)(10.17)(10.16)(10.17)0 10
hUi = т«+1
hUi = т«+1
(10.16)
(10.17)
(10.16)
(10.17)
0 0 0 1
В этом случае равенство (10.15) будет таким:
X(n+i) = X(rt) — уп+1 gradxF(A:(n+i), ^wY
где y,,+ 1—скалярный множитель.
В некоторых случаях для улучшения сходимости итеративного процесса может оказаться целесообразным использование сложной итерации [62].
Основной принцип сложной итерации состоит в том, что последующее приближение зависит не от одного, а от нескольких предыдущих приближений. При сложной ите] ации алгоритм в общем виде будет таким:
^(п+1) “ X || ai ||п—s^(п—s)X llv|^4-i--s X
s=0s—О
X gratis F (|| аг ||n+i-s^/i+i-> 1 ib—^(n—s))-(10.18)
где Ца^, ||a2|| и ||a3||— матрицы, осуществляющие линейное преобразование векторов.
В используемых алгоритмах матрицы имеют диагональ шй вид, причем сумма матриц равна единичной матрице* f 1Ы|п-$+£Ы1«+1-5 + 21Ы1^(10.19)
s=0s=0s=0
В наиболее простом случае они представляют собой матрицы осреднения за несколько предыдущих шагов
|| 01 ||п—s = r _|_ J ^’ II а2 ||л+1—s = || «3 ||n—s = / _|_ f ^’
где Е — единичная матрица размерности N.
Условия сходимости алгоритма последовательных приближений. Рассмотрим кратко условия сходимости алгоритма (10.17) при возрастании п (числа приближений или числа показов образцов из обучающей последовательности). Если процесс последовательных приближений сходится, то
Иш | ^(п-ю —| = 0(10.20)
П->со
и тогда из соотношения (10.17) следует необходимое условие сходимости
Нт у„+1 gradxF(Ar(„+i)X(n)) = O.(10.21)
П->оо
В общем случае экстремум функционала достигается при равенстве нулю среднего значения градиента, а не его отдельных значений, и потому из условия (10.21) вытекает
limy„ = 0.(10.22)
П-> оо
Во многих случаях, например при отсутствии существенных помех, значение grad^F при возрастании п стабилизируется и отдельные реализации мало отличаются от среднего значения. Тогда
limgradx^^n+D, Х(л)) = 0(10.23)
П-> оо
И Y„ может быть постоянной
Тп = Т(10.24)
или стремящейся к постоянной величине.
Достаточные условия сходимости при выборе «плавных» функций F (х, X) состоят в следующем [3, 63]:
Y„>0;(10.25)
^Тл—00!(10.26)
£тп<оо.(10.27)
Примером, когда выполняются все эти условия, является
Y„= Ш(10.28)
Поясним смысл приведенных условий. Величина уп должна быть положительной, чтобы осуществлялась коррекция вектора по знаку grad F. Второе условие связано с тем, что слишком быстрое уменьшение у может привести к тому, что только начало обучающей последовательности окажет влияние на окончательный результат. Наконец, условие (10.27) должно устранить возможное влияние погрешностей, шумов, которые налагаются и в том случае, когда вектор достаточно близок к точному значению. Отметим, что сходимость процесса рассматривается в вероятностном смысле (сходимость по вероятности):
ИшР[|Х(п) — Х|<е] = 1.
П-Х»
Связь с процедурой Роббинса—Монро. Системой уравнений регрессии называется система следующих уравнений:
МДОДл, Х)] = 0 (i= 1, 2, ..., т).(10.29)
Так как вектор х = (хъ х2, . .., х^) имеет случайные значения, то уравнения (10.29) нельзя решить относительно X (Хъ Х2, . . ., Хт). Для случая, когда известны отдельные реализации величины х, т. е. значения x(i), х<2> . . ., Роббинс и Монро [3, 13, 63] предложили рекуррентную процедуру для определения вектора X. Составляющие вектора
^•i (л+о == X, (п) -|- ул-f- 1G, (Х(п+- 1)Х(л>).(10.30)
Достаточные условия сходимости процесса даются соотношениями (10.25)—(10.27) (при некоторых ограничениях относительно функций Gt (х, X), обеспечивающих их плавность). Условия экстремума (минимума) функционала J (X) (т. е. минимума погрешности приближения разделяющей функции к точному значению) имеют вид [уравнения (10.10) и (10.14)1
gradJ(X) = Mjgradxf^, X)] = 0.(10.31)
78
Сопоставляя равенства (10.15) и (10.30), находим, что при условии
^^- = — Gz (а:, X)(10.32)
процедура Роббинса—Монро совпадает с процедурой определения весового вектора X в методе стохастической аппроксимации.
Структура алгоритма нахождения «весового вектора». Приближенное значение разделяющей функции
/(х) = Х.<р(л);(10.33)
функция потерь считается зависящей от разности точного и приближенного решений
Г(л:, Х) = Ф(^(.*)-Х-<р(х)).(10.34)
Градиент по X функции потерь
grad^F = — Ф' (/*(л:) — Х.<р(х))ф(х),(10.35)
где Ф' («) = -^производная функции Ф.
Например, i-я составляющая grad^F
- ф' (Г (*) - ^-ф W) Ф/(10.36)
В соответствии с алгоритмом (10.17) будем иметь
^(п+ 1) — ^(п) 4" Yn+ 1Ф' Vf* (^(/1+ о) — ^(п)ф (^(пЧ-1)) ф (-^(п+ 1))-(10.37)
В более общем случае, используя соотношение (10.8), получим следующий алгоритм:
Х(„4 1) = x(rt) — Yn+^radxipt^^n+i,), /(^(„+1), X(n))J.(10.38)
Выбор функций потерь связан с существенными трудностями, так как в процессе обучения точное значение разделяющей функции f* (х) обычно неизвестно. Знак функции /* (х) всегда известен (принадлежность объекта обучающей последовательности к состоянию Dx или D^. Например, для естественной функции потерь в виде квадратичной погрешности
Ф (и) — н2/2 = (/* (х) — Х<р (х))2/2(10.39)
получается алгоритм
Х(п+1) = Х№ I- у„ (1 [/* (Х(„+ о) - Х(п)ф (xw. 1))] <р (х(„ и 1)),(10.40)
который не может быть реализован в тех случаях, когда значение функции f* (л:(„_ц)) неизвестно.
Алгоритм (10.40) является частным случаем алгоритма (10.37). Подобные алгоритмы могут использоваться в тех методах распознавания, в которых определяется значение разделяющей функции
79
(алгоритмы персептронов). Перейдем к более общей функции потерь. Построим алгоритм, выбирая функцию потерь следующим образом:
У (/*,/) = (sign sign/*) А(10.41)
Если знаки приближенной функции разделения f и точной f* совпадают, т. е. погрешности распознавания отсутствуют, то функция потерь обращается в нуль. Если указанные знаки не совпадают, то, как легко проверить, функция потерь всегда положительна. Таким образом,
[О /* = р,
W,h = \2m ^^(Ю.42)
Принимая значение f (х) из соотношения (10.33), находим
Т = (sign (Ц>) — sign /* (х)) X - q> (лг)
и
gradk Y = (sign (Хф) — sign /* (х)) <р (х).
Теперь из равенства (10.38) вытекает
1) = ^-w + Тл н [sign г Рш -
— sign (Х(п)ф (х^па- о))] ф ^w о).(10.43)
Этот алгоритм соответствует методу потенциальных функций (см. § 9). Метод стохастической аппроксимации позволил установить вид функции потерь [уравнение (10.41) ], по отношению к которой минимизируется процесс разделения (распознавания) в методе потенциальных функций. Разумеется, что только предварительное знание процедуры метода потенциальных функций позволило принять функцию потерь в виде (10.41).
Более общая структура алгоритмов метода стохастической аппроксимации. Рассматриваемое ранее условие оптимальности состояло в достижении минимума потерь
J(X)= J F(xA)p(x)dx(10.44)
x^D
для различных реализаций комплексов признаков х. Это условие недостаточно полно отражает процесс рапознавания, так как не учитывает состояния объектов, различную стоимость ошибочных решений. Введем вторую (дискретную) переменную у, описывающую состояние объекта, и будем считать
у =у =у, для состояния D.;
у =
у =
п(10-45)
у2 для состояния и2.
Часто принимают ух = 1, у^ = —I, §0
Как и раньше, будем использовать правило решения (10.1) и разделяющую функцию (10.2). Искомый весовой вектор X определим из условия минимума функционала
/(^) = JJ (аг, у, X)/7 (л:, _у) dAT dy,(10.46)
х. y^D
где интеграл распространяется на всю область изменения переменных, плотность вероятности по у представляет собой дельтафункцию. Функционал (10.46) можно записать в другой (эквивалентной) форме
2
/W=S ^ Р^уАА^Шх/у^х.(10.47)
1=1 л^О
Существенно, что функция потерь F (х, у, X) считается зависящей от состояния объекта.
Процедура нахождения весового вектора X сохраняет прежний вид, так как изменение относится только к расширению области осреднения
X(n+i) — Х(п) — Yn+i gradx F (-V(„|. ц, У(«н)> Х(П>).(10.48)
В зависимости от выбора функции потерь или штрафной функции F (х, у, X) могут быть получены различные алгоритмы нахождения весового вектора. Выберем, например, функцию потерь следующим образом:
'0 при y = yXi Х-ф>0;
(10.49)(10.49)0 при у = у2, Х-<р<0;С21 (|Хф| — Хф) при у = ух, Х-ф<0;/МЧИ-Ч) при у = у2, Х.ф>0.
(10.49)
(10.49)
В этом равенстве С21— стоимость ошибки первого рода (вместо действительного состояния Dx алгоритм указывает состояние D2); С12— стоимость ошибки второго рода. Если DT—исправное состояние, £>2 — наличие дефекта, то ошибка первого рода означает ложную тревогу, ошибка второго рода — пропуск дефекта.
Функция (10.49) обращается в нуль, если разделяющая функция f = Х ф дает правильное решение. При ошибочном решении потери оказываются пропорциональными величине разделяющей функции:
0
0
— правильные решения
F (х, у, X) =
I
2С21|/|
2С12|Л
(10.50)
— ошибочные решения.
Из соотношения (10.49) получаем
0при у = уъ Х.<р>0;0при у = у2, Х ф < 0;2С21<р (л)при у = уъ Х-ф<0;2С12ц>(л)при у -^ у^ Х-ф>0.0при у = уъ Х.<р>0;0при у = у2, Х ф < 0;2С21<р (л)при у = уъ Х-ф<0;2С12ц>(л)при у -^ у^ Х-ф>0.gradxFU, у, X) =gradxFU, у, X) =(10.51)(10.51)
0
при у = уъ Х.<р>0;
0
при у = у2, Х ф < 0;
2С21<р (л)
при у = уъ Х-ф<0;
2С12ц>(л)
при у -^ у^ Х-ф>0.
0
при у = уъ Х.<р>0;
0
при у = у2, Х ф < 0;
2С21<р (л)
при у = уъ Х-ф<0;
2С12ц>(л)
при у -^ у^ Х-ф>0.
gradxFU, у, X) =
gradxFU, у, X) =
(10.51)
(10.51)
Напомним, что i-я составляющая градиента соответствует функции ср( (л).
Для построения весового вектора используется процедура (10.48), причем для (п + 1)-го образца (лС(„ ц>, yoi^o)
gradxF^^+i), y(n+i), ^w) =
0приу(п+ i) = yi,Чо-’Н-Х о)>0;
0приу^+1) = У2,Хоо-фХл+пХ0;
~ —2С21<рприу(пИХ = ух,Ч-ф^^Х0;
2С12фприг/(„_ц) = г/2,Х(п).ф(Х(„+1))>0.
Если считать стоимости ошибок одинаковыми С21 = С12 = L то приведенная процедура соответствует методу потенциальных функций.
Глава 5
МЕТРИЧЕСКИЕ
МЕТОДЫ РАСПОЗНАВАНИЯ
Вводные замечания. В большинстве методов распознавания делается естественное предположение, что изображения объектов одного класса (образа) более близки друг другу, чем изображения разных классов. Метрические методы основаны на количественной оценке этой близости. В качестве изображения объекта принимается точка в пространстве признаков, мерой близости считается расстояние между точками.
§ И. МЕТРИКА ПРОСТРАНСТВА ПРИЗНАКОВ
Координаты пространства. Как известно, в пространстве признаков объект характеризуется М-мерным вектором
х = (хь х2,..., xnY(11.1)
Координаты пространства Xj могут быть непрерывными или дискретными величинами. В последнем случае Xj представляет признак к^ имеющий несколько диагностических разрядов. Часто используется кодирование признаков в бинарном коде. Тогда координата Xi выражается двоичным числом и может иметь значения: х$1 = 0, х/2 = 1- При использовании унитарного (двоичного) кода возможные значения таковы: х^ =—1, х^ = 1.
(И.2)(И.2)В диагностическом пространстве объект описывается вектором, ' размерность которого может отличаться от размерности вектора в пространстве признаков. В качестве координат диагностического пространства принимаются функции
(И.2)
(И.2)
zi Ф/ W-
В дальнейшем для простоты рассматриваются метрические методы в пространстве признаков, но все результаты легко переносятся на диагностическое пространство.
Ёвклидово расстояние между точками. Обычное расстояние между точками х и а пространства признаков
/ (х, а) = | х - а | = V(%! - а^ ^h (^ — амУ =
{
м1 2
Х^.-^ ■(,L3>
Равенство (11.3) устанавливает метрику евклидова пространства, причем основные метрические свойства этого пространства выражаются условиями:
/(а, ») = /(», а); Ца, 6) > 0; Ца.а^й;
l^a.c^lka.bVVlkb.cY(11.4)
В задачах распознавания часто удобно в качестве меры расстояния принимать квадрат расстояния
N
I2 (л:, а) = S (х/ — а]У-(Н-5)
Величина I2 тесно связана с многомерным нормальным распределением, более проста для вычислений, а неравенство
/1>/2(И.6)
влечет за собой более сильное неравенство
^>ll(Н.7)
Обобщенное расстояние порядка v
1
(
АГ\ V
£|xz-a,|v).(1L8)
Как уже отмечалось, при v = 2 Z<V) совпадает с обычным расстоянием [равенство (11.3) ], при v = 1 величина Z(i) представляет собой расстояние по Хеммингу. При v —» оо lw = max I х, — аЛ т. е. расстояние равно наибольшему отклонению по какой-либо из координат.
Пусть в трехмерном пространстве даны следующие разности составляющих векторов х и а: хг — «1 = —1; х2— а2 = 3; х3 — «з = —2. Обобщенное расстояние Z(V) = (| — 1 |v + 13 |v +
+ | —2 |v) v . Значения 1^ при различных v следующие:
v 1 2 3 4 5 10 оо
lw 6,00 3,74 3,30 3,14 3,08 3,00 3,00
Если пространство признаков состоит из N двухразрядных простых признаков (в бинарном коде 0 и 1), то Z(V) = VNH, где NH — 84
число не совпадающих разрядов в Л^-разряДных двоичных числах, представляющих векторы объектов. Обобщенное расстояние удовлетворяет метрическим свойствам (11.4) евклидова пространства.
Диагностическая мера расстояния. Иногда оказывается целесообразным использовать в качестве диагностической меры расстояния некоторую степень расстояния
L = 1^ (х, а) = ( 2 I xj — “i Н •(11-9)
1/
В дальнейшем будем часто использовать квадратичное (евклидово) расстояние (v = 2) и вторую степень расстояния. Тогда диагностическая мера расстояния между точками х и а
N
L = P=^lx:-a^.(11.10)
Метрика в неизотропном пространстве признаков. Предыдущие определения расстояния соответствовали однородному, изотропному пространству признаков, координаты которого имеют общую единицу измерений. Такое пространство однородных признаков используется в ряде задач распознавания Например, для акустической диагностики в качестве признаков могут применяться амплитуды соответствующих гармоник и т. п.
Диагностика с помощью признаков в двоичном коде соответствует использованию изотропного, однородного пространства признаков. Однако во многих задачах диагностики пространство признаков является анизотропным, т. е. единицы измерения в различных направлениях различны. Координатам Ху могут соответствовать параметры различной физической природы (например, %! — температура, х2— давление и т. п.).
Если ввести весовые коэффициенты Х$ по координате /, то квад рат расстояния между точками х и а
N
(11.11)
С помощью компонентов весового вектора
Х2,..., Xyv)(Н.12)
можно учесть различную диагностическую ценность признаков, придавая большее значение наиболее значимым признакам. Так как для диагностики важен относительный вес, то можно использовать условие нормирования в виде
N
S\=l.(11.13)
Введение весовых коэффициентов деформирует пространство признаков. Если поставить условие, чтобы при подобных дефор-
85
Мациях сохранился объем областей диагнозов, то усЛовйе нормирования можно принять таким:
N
Х^..^ = ГЦ = 1.(11.14)
/-1
Обобщенная метрика пространства признаков. Соотношение (11.11) устанавливает «неравноправие» отдельных координат в пространстве признаков, но оно не учитывает роль координаты Xj для диагноза Die Диагностическое значение признаков различно для различных диагнозов и расстояние точки х до точки аь принадлежащей диагнозу D(.
(11.15)
Часто оказывается целесообразным принять
Хц-ЦОф(1М6)
где Gij — среднеквадратичное отклонение признака (параметра) Xj для образцов с диагнозом Di. Величина X;- в этом случае имеет ясный физический смысл: чем меньше рассеяние признака по объектам, тем больше его диагностическое значение. В более общем случае можно положить
^-си?ои,(11.17)
где безразмерный коэффициент Сц характеризует диагностическую ценность признака. В гл. 8 будут даны зависимости, определяющие ценность признака (или параметра) для диагноза.
Для дискретного параметра (признака) х^ имеющего rrij дискретных значений (xzl, х. 9, . . , ), можно принять [формула (20.2) ]'
см = 7В, (х^ ^УР <xis!D^ log2 (Р (х^/Р (х/$)).(11.18)
S=1
Для непрерывно распределенных признаков х, вероятность дискретных значений заменяется плотностью вероятности, суммирование— интегрированием по области значений xje В тех случаях, ; когда отсутствуют статистические сведения, величины си могут 1 быть назначены на основании экспертной оценки пт. п. В практи- ’ ческих задачах величины %;- подбирают с учетом опыта диагностики, причем принимают те значения, которые обеспечивают наибольшее число правильных ответов.
Условия нормирования при обобщенной метрике:
N
£ Xif= 1 (i= 1, 2,..., и)(11.19)
или
N
П Хи — 1 (z- 1, 2,.. п).(11.20)
Метрика, устанавливаемая равенством (11.15), весьма своеобразна. Она изменяется не только для различных направлений, но и для различных диагнозов.
Замечание о классификации пространства признаков. В зависимости от используемой метрики, будем различать три вида пространства признаков.
Неизотропное, неоднородное пространство соответствует метрике общего вида (Xz/ + 1). Если для всех диагнозов
Хч = Xt (i 1, 2,..., nV(11.21)
то пространство называется однородным, неизотропным. Наконец, при
Хц — Х^Х (i = 1, 2,. . ., п; j^ 1, 2,..., N)(11.22)
пространство считается однородным и изотропным.
ДИАГНОСТИКА ПО РАССТОЯНИЮ В ПРОСТРАНСТВЕ ПРИЗНАКОВ
Рассматриваемые методы подразделяются на две группы: диагностика по расстоянию до эталона и по расстоянию до множества.
Разберем сначала распознавание по методу эталонов.
Выбор эталона. В методе эталонов отнесение предъявленного для распознавания объекта к одному из п диагнозов (состояний) совершается по наименьшему расстоянию до эталона. В качестве эталона для диагноза D( принимается типичный объект, имеющий диагноз D( (рис. 21). Наиболее естественный выбор эталона состоит в использовании средних значений параметров в области диагноза. Если известны М( объектов с диагнозом Z)z, то в качестве эталона диагноза Di можно принять
-1
= =<12J)
где а^ — объект с диагнозом (состоянием) D{ (объект с верифицированным диагнозом). Равенство (12.1) определяет эталон как центр тяжести области диагноза. Координаты вектора а*
87
Рис. 21. Диагностика по расстоянию до эта» лона
равны средним значениям координат векторов, входящих в обучающую последовател ьность.
Алгоритм распознавания. Допустим, что в пространстве признаков используется диагностическая мера расстояния L и предъявлен для диагностики объект х. Для отнесения объекта х к одному из п диагнозов определяются расстояния L до эта
лонных точек а?, #2, .. м ап Объект х относят к диагнозу Db если мера расстояния между точками х, а* минимальна:
(12.2)(12.2)(12.3)(12.3)если Lt = min, то x^Dt
(12.2)
(12.2)
(12.3)
(12.3)
или в другой форме
х ^Db если Lt<<Lk (к = 1, 2,..., п; к + 1).
В некоторых случаях условие (12.3) принимается в более строгой форме
(12.4)(12.4)Lk — Lt > е,
(12.4)
(12.4)
где е — порог распознавания (е > 0).
Например, если в качестве диагностической меры принимается N
квадрат расстояния L, = /?= ^Х® (х{ — а*,)2, то объект х отно
сят к диагнозу Dz ^x^D^ при условии
(12.5)(12.5)/!</£ (^= 1,2,...,п; к + ^.
(12.5)
(12.5)
Если вводится дополнительный порог распознавания в виде некоторой области, окружающей точку эталона, то условия (12.2), (12.3), (12.5) являются только необходимыми.
Дополнительным необходимым условием принимается следующее:
(12.6)(12.6)x^D], если |л: — а*|<Р/,
(12.6)
(12.6)
где р, — радиус сферы, в которую должна входить точка для отнесения этой точки к диагнозу. Это условие используется для изотропного, однородного пространства признаков.
Для неизотропного и неоднородного пространства признаков соответствующее ограничение
^<x,-a:j<^\
88
где 6!}’, 61/* — границы области принятия решения для диагноза D, и координаты х;. Условие (12.7) определяет W-мерный параллелепипед, внутри которого должна находиться точка х для принятия решения x^Di. Эти области для различных диагнозов могут перекрываться. Их введение позволяет исключить случаи, когда расстояние Lz минимально, но точка х настолько удалена от области D,, что решение х £ О,- неправдоподобно.
Если точка х выходит из области (12.7), то происходит отказ от распознавания, что нежелательно. В связи с этим границы (12.7) не следует выбирать слишком узкими, однако расширение области диагноза уменьшает надежность распознавания. В практических задачах область (12.7) принимается такой, чтобы она с некоторым запасом включала все точки обучающей последовательности, принадлежащие диагнозу D^
Надежность распознавания. Очевидно, что надежность распознавания будет тем выше, чем меньше расстояние L, по сравнению с другими расстояниями. Это можно охарактеризовать коэффициентом распознавания
.(12.8)
У 1/^з S=1
Величина £z играет роль, сходную с вероятностью диагноза так как
п
У&=1.(12.9)
1=1
Распознавание в соответствии с условиями (12.2) или (12.3) признается надежным, если
^•>L(12.10)
где 5о — заранее выбранный уровень распознавания.
При диагностике с порогами распознавания характерным является коэффициент помех
rii = W,(12.11)
где L*—диагональ граничной области диагноза Dz. Например, N
при квадратичной мере расстояния Lt = У Vq {х^ — aqf\ Ц =
= У Vq (6^* — б))’)2. Чем больше коэффициент помех, тем ближе /=1
к предельной, граничной области располагается объект, предъявленный для распознавания.
Пример. Рассмотрим распознавание в пространстве простых признаков, кодируемых двоичными числами. Пусть имеется три эталона диагнозов в десятимерном пространстве 04 = (1011100011), а2 = (0100110100), а3 = (1011011111).
Для распознавания предъявлен объект х = (0100010100). В качестве меры расстояния примем сначала расстояние первого порядка (формула (11.8) при v = 1 (расстояние по Хеммингу). Это расстояние равно числу несовпадающих разрядов в двоичном коде
к — ^(1) С*, #1) — 9; /2 = ^(i) Iх» аз) — 1> ^з — ^(1) (х> #з) = 7.
Коэффициенты распознавания
1
^=—— =0,09; g2 = —!— =0,80; ?3 =
-д- + 1+—-у+1 + —
79 ' 1 * 779 ' 1 * 7= 0,11.= 0,11.
7
9 ' 1 * 7
7
9 ' 1 * 7
= 0,11.
= 0,11.
Предъявленный объект следует отнести к диагнозу D2 при уровне распознавания go = 0,8. Для сравнения используем теперь квадратичную меру расстояния, т. е. величины l^ l^ II. Тогда получим
1
91
i= 0,01; g2= —;т—= 0,97; g3 =
“92 h 1 + “72“”92 h + “72“
cos ^i =cos ^i =xat| х | | az | *xat| х | | az | *(12.13)(12.13)
cos ^i =
cos ^i =
xat
| х | | az | *
xat
| х | | az | *
(12.13)
(12.13)
рис. 22. Диагностика по угловому расстоянию
где a.j и а,у — среднее значение и среднеквадратичное отклонение координаты Xj объектов с диагнозом Di. Оценку а*; и а(/- можно проводить на 8—10 образцах с установленным диагнозом. Для указанных величин можно использовать интервальные оценки (см. гл. 11).
Диагностика по угловому расстоянию. Близость вектора х к эталонному вектору at можно охарактеризовать с помощью угла между векторами (рис. 22). Более удобно ввести в рассмотрение косинус угла между векторами, определяя его с помощью скалярного произведения
Как видно из равенства (12.13), преобразования масштаба не влияют на угол между векторами. Скалярное произведение и норма векторов определяются также, как в обычном евклидовом пространстве:
N xat = xxalx Нн xNaiN = 2 *zaz/.
В развернутом виде равенство (12.13) будет таким:
(12.14)(12.14)
(12.14)
(12.14)
'N
Если векторы хи^ ортогональны (yz = л/2), то ^ Х;йч = 0.
„/=1
При диагностике по угловому расстоянию принимается решение х £ Db если угол между векторами х и а; наименьший или
cosy, = max.(12.15)
Диагностика по угловому расстоянию (cos у,) связана с корреляционными методами распознавания.
Диагностика по расстоянию до множества. В этом методе оценивается расстояние не от одной точки — эталона, а расстояния от точки х (объекта, предъявленного для распознавания) до всех
(12.18)(12.18)
(12.18)
(12.18)
Рис. 23. Определение расстояния до множества
точек множества с данным диагнозом. Расстояние до множества оценивается как среднее расстояние, но возможны и другие способы этой оценки. Использование рассматриваемого метода предполагает, что для каждого диагноза имеется группа образцов (объек
тов) с установленным диагнозом.
Пусть для диагноза D( группа содержит М( образцов. Допустим, что выбрана диагностическая мера расстояния, и тогда расстояние от точки х до точки а^ (рис. 23), входящей в группу верифицированных образцов (при квадратичной мере),
N
L^ = Д ^/ (Xj - а^)2.(12.16)
Можно определить среднее расстояние от точки х до точек обучающей последовательности, принадлежащей диагнозу Dt\
MiMi N
(12-17)
При использовании обобщенной диагностической меры расстояния
Алгоритм распознавания по методу среднего расстояния.
Процедура диагностики остается такой же, как при определении расстояния до эталона. Принимается решение
x^Dn если LL<<Lk (^ = 1, 2,..., п\ к + i),(12.19)
(12.20)(12.20)или, что эквивалентно, х Dh если Lt = min.
(12.20)
(12.20)
Возможно использование «порогов распознавания», как это было указано ранее.
Сравнение с методом расстояний до эталонов. Рассмотрим метод минимума среднего расстояния при квадратичной диагностической мере расстояния (р = 2). Введем «средний вектор» (эталон) диагноза Dt по обучающей последовательности
a^ = i-^a^(12-21)
1 s=L
и запишем среднее расстояние
1 Mi N
L^T^i^ ^i ^ - <) - И’ - а*)12-(12-22)
1 S=1 /=1
После преобразований находим
Wм( N
Lt - £ ^ (х, - a*-)2 + A, £ £ %2Ч (^> - a*)2.(12.23)
/=I1 5=1 /=1
Первый член равенства (12.23) соответствует расстоянию до эталона, второй дает положительную добавку, и потому среднее расстояние всегда больше расстояния до среднего элемента. Преобразуя второй член равенства (12.23), получим
(12.24)(12.24)(12.25)(12.25)NN
(12.24)
(12.24)
(12.25)
(12.25)
/—1У”1
где
1 Mi
°ч — "м? L ( и ~ н) • 5=1
(12.26)(12.26)Величина Оц представляет собой среднеквадратичное отклонение признака х, для диагноза Du определенное по обучающей группе. Если выбрать весовые коэффициенты в виде
(12.26)
(12.26)
Ьц = l/oiz,
что во многих случаях оказывается целесообразным, то из равенства (12.24) находим
V3 <х!-аиУ
Lt = У 2+ N.(12.27)
Принимая в качестве новой меры расстояния L* = L^ — N, получим, что алгоритм распознавания совпадает с алгоритмом по расстоянию до эталона. Этот результат, разумеется, связан с выбором квадратичной диагностической. меры расстояния. При других условиях совпадения рассматриваемых методов не происходит, но результаты получаются практически близкими.
(12.28)(12.28)Метод минимального расстояния до множества. Ранее использовалось «среднее расстояние» до точек диагноза. Возьмем теперь в качестве расстояния до множества минимальное расстояние среди всех расстояний от точки л: до точек, входящих в группу диагноза Т)^
(12.28)
(12.28)
Lt = min L^-
Алгоритм распознавания состоит в следующем. Определяется расстояние от точки х (объекта, предъявленного для диагностики) до всех точек, входящих в область данного диагноза (точки обучающей группы) и «запоминается» минимальное расстояние. Принимается решение
х С^, если Lt = min / min L^X (к = 1, 2,..., n; к 4 t),(12.29)
или
Lt<Lk (k = 1, 2,..., n; к + i),(12.30)
где Lk = min L^ — минимальное расстояние до точек с диаг-
нозом Dk.
Таким образом, решение здесь принимается по близости к прецеденту, а- не ко всей совокупности случаев с данным диагнозом.
СВЯЗЬ МЕТРИЧЕСКИХ МЕТОДОВ
С ДРУГИМИ МЕТОДАМИ РАСПОЗНАВАНИЯ
Метрические методы и методы дискриминантных функций.
В гл. 4 рассматривались методы, основанные на использовании дискриминантных функций f{ (xY Принималось решение
x£Dh если h (х) — fk{x)X> ® (k = I, 2,..., tv, k 4= I).(13.1)
Таким образом, дискриминантная функция Д- (л:) имеет значения большие, чем остальные функции, для всех точек х, входящих в область диагноза Dt.
Метрические методы определения минимального расстояния дают очевидную возможность следующего выбора дискриминантных функций
t^x^MLfJ^x^MU.(13.2)
Условие (13.1) примет такой вид:
ilW-ttW = 4--4r = AiEnk->ti.(13.3)
Однако выражения (13.2) для дискриминантных функций не единственные. Можно выбрать
= IM = -Lk,(13.4)
что приводит к более простой структуре дискриминантной функции.
рис. 24. Геометрическая иллюстрация для разделяющей функции f (х) =
Рассмотрим теперь метод минимального расстояния до эталона при использовании квадратичной диагностической меры расстояния
Li | х — al |2- (х - al) <х - а*).
(13.5)
Дискриминантная функция в соответствии с равенством (13.4) к ^х)=- Lt=2x-а*—\ al |2-1 x |2.(13.6)
Так как величина |x|2 одинакова для всех дискриминантных функций, то можно принять в окончательном виде hlx) = x.al-\ai\^.(13.7)
Для диагностики двух состояний Dt и Dk разделяющая функция f (х) = h (х) - fk (х) = x\al - а£Ж «1 |2/2 - I «к 12/2.(13.8)
Пусть для простоты точки эталонов расположены на сфере одного радиуса |aj = |aj. Тогда
Цх) = х-^а* — ак).(13.9)
Для геометрической иллюстрации приведем двухмерное пространство признаков (рис. 24). Легко видеть, что для всех точек ак, расположенных вне дуги заштрихованного сектора, симметричного относительно вектора х, скалярное произведение Цх) = х —ак)> О,(13.10)
так как векторы х и al —ак образуют острый угол (разделяющая функция относит х к диагнозу D^. Если эталонная точка диагноза ак расположена в пределах дуги АВ, значение / (х) < 0, так как точка х ближе к точке ак, чем к al.
На основании равенства (13.8) можно заключить, что метод минимального расстояния до эталона при квадратичной мере расстояния приводит к линейной разделяющей функции [см. равенства (7.9)1:
t (х) = X^j -|- Х2х2 ~|- • • * “г L^x^ -|- Xw+1,(13.11)
где А^-мерный весовой вектор
L = al — ak,(13.12)
а весовой коэффициент
Ж = -(]«’12-|«*Г)/2.(13.13)
В гл. 4 излагался метод, который давал возможность определения весового вектора путем показа образцов из обучающей последо-
вательности. В метрических методах процесс обучения состоит в формировании множества (группы) образцов с установленным диагнозом и определении эталонного (среднего) вектора для них.
Рассмотрим теперь связь метода минимального расстояния до множества и метода дискриминантных функций. Если точка а^ — одна из точек, входящих в область диагноза/)^ то дискриминантная функция, соответствующая минимальному расстоянию до этой точки,
//s) (л) = — L^ = х-а^ - | а^ |2/2.(13.14)
В качестве дискриминантной функции для диагноза D, следует выбрать
h(x) = max (a:^s) — | e!s) |2/2),(13.15)
t. e. функцию fj (x), имеющую наибольшее значение по сравнению с остальными функциями. Равенство (13.15) приводит к кусочнолинейным дискриминантным функциям.
Метрические методы и методы максимального правдоподобия. В методах статистических решений для диагностики с помощью логарифма отношения правдоподобия используется следующее правило:
ПрИ ^-ЩЙ)- >1пб X^Di’ ПрИ ln fw^ <1ПбХ^Ръ (13Л6)
где In 6 — логарифмический порог распознавания. При условии, что все параметры объекта xv х2, ..., xN) составляющие вектор х,
f(x/D;) = expf(x/D;) = expнезависимы и распределены по нормальному закону
f(x/D;) = exp
f(x/D;) = exp
(13.17)
при Inпри InfWDf) tWD^fWDf) tWD^В соответствии с условием (13.16)
при In
при In
fWDf) tWD^
fWDf) tWD^
(13.18)(13.19)(13.18)(13.19)In 6 x^D{.
(13.18)
(13.19)
(13.18)
(13.19)
Последнее соотношение можно записать так:
при Lk — Lz>21n6 x^Db
где
Таким образом, метод максимального правдоподобия совпадает с методом эталонов, если используется квадратичная мера расстояния и весовые коэффициенты Хц = 1/о,;. Порог распознавания в методе эталонов е = 2 In 6 [см. условие (12.4)1.
Глава 6
ЛОГИЧЕСКИЕ МЕТОДЫ РАСПОЗНАВАНИЯ
И РАСПОЗНАВАНИЕ КРИВЫХ
Вводные замечания. Эта глава заключает изложение методов распознавания и содержит краткие сведения по двум дополнительным проблемам: применение математической логики в диагностике состояний и использование методов распознавания для идентификации кривых. Первая проблема является весьма важной в задачах контролеспособности, вторая — имеет существенное значение при реализации ресурсов по состоянию.
ЛОГИЧЕСКИЕ МЕТОДЫ РАСПОЗНАВАНИЯ
Общие замечания. Логические методы основаны на установлении логических связей между признаками и состояниями объектов, поэтому будут рассмотрены только простые (качественные) признаки, для которых возможны лишь два значения (например О и 1). Точно также и состояния технической системы (диагнозы) в рассматриваемых методах могут иметь только два значения (наличие и отсутствие). Два значения признака или состояния системы могут быть выражены любыми двумя символами («да» — «нет», «ложь» — «истина», 0—1).
Переменные величины или функции, принимающие только два значения (0 и 1), называются логическими или булевскими. Исследованием таких переменных и функций занимается математическая логика, имеющая обширные приложения во многих технических проблемах (релейные системы, теория ЭВМ и автоматов и др.). Применительно к задачам распознавания (диагностике) методы математической логики стали использоваться после работ Р. Ледл^ [36]. Детерминистское описание с помощью двоичных переменных, характерное для логических методов распознавания, является приближенной моделью реальной ситуации. Однако во многих задачах логические методы пригодны для начальных этапов распознавания. Весьма перспективны методы математической логики для второго направления технической диагностики — поиска и локализации неисправностей технических систем.
97974 И. А. Биргер
97
97
Основные понятия алгебры логики. Напомним вкратце некоторые необходимые сведения из булевой алгебры. Логической величиной (или высказыванием) называется величина, которая может принимать только одно из двух значений: 0 или 1, «ложь» или «истина». Логические переменные обычно обозначаются заглавными буквами латинского алфавита.
Логической суммой двух логических переменных А и В (или дизъюнкцией^ называют логическую величину С:
(14.1)(14.1)л v в=с,
(14.1)
(14.1)
где V — знак логического сложения (дизъюнкции). Часто для логического сложения используется также знак +.
Величина С является истинной (С = 1), если истинно хотя бы одно из высказываний Л и В или оба вместе. Таким образом, для дизъюнкции
1 V1 = 1 о V 1 = 11 VO=1ov о = о1 V1 = 1 о V 1 = 11 VO=1ov о = о1 + 1 = 10+1 = 1 1+0=10 + 0 = 01 + 1 = 10+1 = 1 1+0=10 + 0 = 0(14.2)(14.2)
1 V1 = 1 о V 1 = 1
1 VO=1ov о = о
1 V1 = 1 о V 1 = 1
1 VO=1ov о = о
1 + 1 = 1
0+1 = 1 1+0=1
0 + 0 = 0
1 + 1 = 1
0+1 = 1 1+0=1
0 + 0 = 0
(14.2)
(14.2)
Логическое суммирование при словесном выражении соответствует союзу «или». Слово «или» может служить и обозначением операции дизъюнкции.
Логическим произведением двух логических величин Л и В (или конъюнкцией^ называют логическую величину С:
ЛДВ = С,(14.3)
где Д — знак логического умножения (конъюнкции).
Для логического умножения используются и обычные знаки умножения •, X. Величина С является истинной только в том случае, когда истинными оказываются высказывания Л и В. Таким образом, для конъюнкции
1Д1=11X1=1
ОД 1 = 00x1 = 0
1Д0 = 01x0 = 0(14-4)
0Д0 = 00x0=0
Логическое произведение в словесном выражении соответствует союзу «и». Слово «и» может служить и обозначением операции конъюнкции.
В булевой алгебре часто используется операция отрицания высказывания Л. Она обозначается Л и читается «не Л». Естественно, что истинность и ложность высказываний Л и Л противоположны.
Операции «и», «или», и «не» (конъюнкция, дизъюнкция, отрицание) позволяют составить различные комбинации выска-
зываний, которые называются булевскими функциями и сами, разумеется, являются логическими величинами. Простейшие, наиболее употребительные булевские функции получили название операций импликации и эквивалентности. Импликация двух высказываний обозначается следующим образом:
А-В,(14.5)
где —♦— знак импликации (иногда используется знак zd). Соотношение (14.5) читается так: «Д влечет В» или «если А, то В».
Импликация (следование) представляет собой операцию, результат которой С является логической величиной:
(Д->В) = С.(14.6)
Импликация может быть выражена с помощью двух основных операций в такой форме:
А — В = А\/В.(14.7)
Таким образом, импликация представляет собой простейшую булевскую функцию высказываний Д и В. Если импликация [высказывание (14.5)] является истинной, то при истинном А должно быть истинным В (Д влечет В). Если А оказывается ложным, то при истинности импликации высказывание В может быть как истинным, так и ложным. Отметим, что из условия (14.5) не следует условие В —♦ А, т. е. высказывания Д и В — неравноправны.
Рассмотрим еще эквивалентность (или тождественность) двух высказываний, обозначаемую так:
Д = В,(14.8)
где = знак эквивалентности.
Условие (14.8) представляет собой логическую величину С: (Д = В) = С,(14.9)
которую можно выразить с помощью элементарных операций С = А ДВ\/ А ДВ = А-В + А-В.(14.10)
Следовательно, если эквивалентность истинна (С = 1), то величины Д и В обе или истинны, или ложны. Истинность опе- рацийприведена в табл. 4.
Таблнца 4
Таблица истинности логических операций
А
в
AV В
А ^B
А -> В
А = В
0
0
0
0
1
1
1
0
1
0
0
0
0
1
1
0
1
0
1
1
1
1
J
1
Отметим еще некоторые простейшие булевские выражения, которые остаются истинными, независимо от истинности или ложности входящих в них высказываний. Например, С = Л V ^. С = (Л V ^4) V В. Такие выражения называются тавтологиями.
Булевские функции. Булевской функцией называется логиче- кая величина, значение которой зависит от других логических величин:
E = f(A, В, С... .у(14.11)
В этом равенстве Е является булевской функцией логических переменных А, В, С, ... . Как и для обычных функций, функциональная зависимость f выражает последовательность операций, совершаемых над переменными. Примерами булевских функций могут служить выражения
Е=А\уВДС, F = A^B^C.(14.12)
В дальнейшем рассматриваются булевские функции, включающие операции «или», «и» и «не». Во многих случаях для сокращения записи и наглядности используется операция импликации. Например, выражение
Р = А\/ В KCV D(14.13)
записывается в виде
F=(A-^B) MC->Dy.(14.14)
Пример. Составить булевскую функцию для следующих технических сведений о признаках и состояниях системы.
При диагнозе D2 появляется признак kv
Если имеется диагноз Dt и отсутствует диагноз D2, то должен обнаруживаться признак к2.
Если появляется признак кх или к2 или оба вместе, то может быть диагноз Dt или £)2 или оба вместе._
Первое условие записывается в виде Z)2 -► ^i, второе — Dt А £)2 -► ^2» третье — kY\y к2^ DX\J D2.
Так как эти условия справедливы одновременно, то булевская функция высказываний F = ф2^ kJ А фг A D2-^ k2) A (^i \/ к2 Dx \у D2\
В практических задачах часто приходится упрощать выражение булевских функций, пользуясь следующими правилами.
Правила абсорбции*.
А-уА-А; А-А^А.(14.15)
Правила коммутативности*.
А-уВ — В^А\ А-В-В-А.(14.16)
Правила ассоциативности*.
(Л 4- В) + С = А 4- (В 4- С) = А + В + С;(14.17)
^А-Вус = А\В*С^ — А-В-С.(14.18)
100
Правило дистрибутивности умножения относительно сложения
Д.(В + С) = Л-В + А-С.(14.19)
Правило дистрибутивности сложения относительно умножения
Д + В.С = (Л + В).(Л + С).Г(14.20)
Этого правила нет в обычной алгебре.
Правила отрицания (правила Моргана):
Л7В = Л + В;.(14.21)
А^В = А-В.'(14.22)
Правила поглощения:
A-В А-А-В = А; (Л + В).(Л + В) = Л;
Л + Л-В = Л; Л-(Л + В) = Л.(14.23)
Базис булевской функции и изображающие числа. Для задач диагностики целесообразно ввести некоторые понятия, связанные с булевскими функциями [36, 42].
Базисом булевской функции будем называть совокупность всех возможных значений ее аргументов (область задания функции). Если булевская функция содержит п логических переменных, то базис состоит из 2" чисел (0 или 1). Записать базис можно разными способами, но условимся придерживаться правил, которые поясним примерами. Для функции трех аргументов f (Л, В, С) нормальный базис запишем в такой форме:
А01010101
(14.24)(14.24)В00И00И
(14.24)
(14.24)
С00001111
Аргументы идут в порядке следования, в первой строке имеются перестановки чисел 0 и 1, во второй — перестановки пар чисел, в третьей — четверок чисел. Число одинаковых цифр в перестановке равно 2‘-1, где i — номер строки. Каждую строку базиса можно рассматривать как двоичное число, которое называется изображающим числом аргумента и обозначается знаком фф. Каждый столбец базиса также представляет собой двоичное число, равное номеру столбца (от 0 до 7).
Изображающее число переменной А в базисе (Л, В, С)
#Л = 01010101.
Для изображающих чисел справедливы операции «и», «или» и «не», совершаемые поразрядно. Например,
# Л А #В = (01010101) Д (00110011) = 09010001;
#Л у#В= (01010101) V (00110011) = 01110111.
Изображающее число булевской функции образуется с помощью соответствующих операций над изображающими числами аргументов. Например, если
£ = Л V-8 Д С = Л + В-С,(14.25)
то, учитывая (14.24), найдем
#£ = 01010101 V (00110011)-(00001111) = 01010101 +
+ 00000011 =01010111.
Операция отрицания («не») для изображающего числа означает замену 0 на 1 и наоборот. Например, если #Л 01010101, то #Л 10101010. Метод изображающих чисел удобно использовать для проверки тождественности булевских функций.
Например, выражение (14.25) в силу равенства (14.20) можно записать так:
Е = А V В Д С = (Л + В)-(Л + С).
Для изображающих чисел получим
#£= 44 (Л + В)-#(Л + С) = (011101 И)(01011111) = 01010111.
Проверим методом изображающих чисел тождества (14.23), представляющие собой функции Л и В, базис которых
#Л0101
#В0011.
Далее имеем
#(Л-В) + #(Л-В) = 0001 #0100 = 0101 =#Л;
#Л + #(Л-В)= 0101 +0001 =0101 =# Л;
# (Л+ В)-# (Л + В) = 0111-1101 =0101=# Л;
#Л.#(Л + В) = 010Ь0111 = 0101 = #Л,
что и доказывает соотношения (14.23).
Использование булевских функций для построения диагностических устройств. Диагностические устройства представляют собой приборы, моделирующие связи признаков и состояний. Они позволяют автоматически вводить двоичные признаки включением тумблеров и получать сведения о возможных состояниях системы, например, с помощью световых сигналов (загорания лампочек). Связь признаков и состояний систем выражается булевской функцией, которую будем называть булевской диагностической функцией.
Диагностические устройства можно рассматривать как реализацию условий истинности булевской диагностической функции. Разберем этот вопрос подробнее.
102
Пусть имеются простые (двоичные) признаки kv k3, k3 с помощью которых различаются состояния системы. Наличие признака обозначается числом 1, отсутствие признака числом 0. Таким образом,
(14.26)(14.26){ 1 — наличие признака;
(14.26)
(14.26)
^ ~ | 0 — отсутствие признака.
D3, ..., причем наличие состояния соответствует числуD3, ..., причем наличие состояния соответствует числуЧасто наличие или отсутствие признака к( будем обозначать следующим образом: наличие признака к, (к, = 1); отсутствие признака к, (к, = 0). Состояния системы обозначаются Dv D3, " 1 и от-
D3, ..., причем наличие состояния соответствует числу
D3, ..., причем наличие состояния соответствует числу
сутствие числу 0:
(14.27)(14.27)( 1 — наличие i-ro состояния;
(14.27)
(14.27)
А = л•
( 0 — отсутствие t-го состояния.
два со- системыдва со- системыРассмотрим в качестве примера систему, имеющую стояния: исправное Ог и неисправное О2. Пусть состояние
два со- системы
два со- системы
в рассматриваемом случае описывается четырьмя признаками А, А> А и А, причем неисправное состояние возникает при наборе признаков, указанных в табл. 5.
Во всех остальных случаях система находится в исправном состоянии фг = 1). Булевская диагностическая функция
(14.28)(14.28)F = (А V А V W .А) V (АV А V А V ^ А
(14.28)
(14.28)
<(AVAVAVA) = ^iA52.
нуль при указанных в таблиценуль при указанных в таблицеВыражение в первой скобке соответствует первой строке таблицы. Оно составлено в виде логической суммы событий, противоположных тем, которые указаны в первой строке. Естественно, что скобка обращается в нуль только в том случае, когда появляется набор признаков, содержащихся в первой строке таблицы. Но неисправность возникает в случае, если реализуется любой из трех наборов признаков, т. е. любая из строк таблицы. Поэтому выражения, соответствующие трем наборам признаков, соединены знаком логического умножения (конъюнкции). Так как любая
нуль при указанных в таблице
нуль при указанных в таблице
^1
^2
^3
64
1 1 0
0
1
0
0 0
0
0
0
1
ТаблицабТаблицабПример таблицы неисправностейПример таблицы неисправностейчасть равенства обращается в наборах признаков, а во всех остальных случаях равна 1, то условие истинности F (Е=1) соответствует исправному состоянию системы и отсутствию неисправного состояния(Т) х A D 2). Булевская диагностическая функция легко реализуется в диагностических устройствах С помощью логических элементов типа «или» и «и».
Таблицаб
Таблицаб
Пример таблицы неисправностей
Пример таблицы неисправностей
Использование булевских функций для задач распознавания. Метод сокращенного базиса. Задача распознавания при использовании булевских функций формулируется следующим образом: известны логические связи признаков и состояний в виде булевской диагностической функции F (^х, й2, ..., &m, Dv D2i ..., Dn) и задана булевская функция признаков G (къ ..., kty Требуется найти такую булевскую функцию состояний (диагнозов) f (D19 ..., Dn^ для которой выполняется условие
G—>f (14.29) при
(14.30)(14.30)F (&£, k2l..., kfnl Dy, D2, ..., D^ — 1.
(14.30)
(14.30)
Иными словами, по функции признаков следует определить функцию состояний при условии истинности диагностической функции.
Пример. Пусть в случае двух признаков и двух состояний логические связи таковы:
При состоянии Dy появляется признак kv
Обнаружение признака к2 свидетельствует об отсутствии состояния Dv
При состоянии £)2 появляются оба признака.
На основании этих сведений булевская диагностическая функция
F ^ку, *2, Dy, D2) = фу -> ^) Л (^2 -> 5J Л (Г>2 -> ^i Л к2у(14.31)
Пусть при обследовании обнаружено наличие признака ку и отсутствие признака к2. Тогда булевская функция признаков
G = ky^2.(14.32)
Требуется найти булевскую функцию состояний.
Воспользуемся общим методом отыскания булевской функции состояния —
методом 'Сокращенного базиса.
Для этого сначала выписываем полный базис
номер столбца
. .0123
4567
891011
12 13 14
15
. .0101
0101
01 0 1
010
1
к»
. . ООН
ООН
00 1 1
001
1
Di
. .0000
1111
00 0 0
1 1 1
1
D»
. .0000
0000
11 1 1
1 1 1
1
Далее находим изображающее
число для
булевской
диагностической функции
£\ —* ку = Dy \/ ку
. . 1111
0101
1111
0101
^2 —* ^1 ~ к2\/ Dy
. . 1111
1100
1111
1100
D2 V (^i Л ^2)
. . 1111
1111
0001
0001
#£ 1111010000010000
В изображающем числе для функции F, полученном в соответствии с формулой (14.31), единицы стоят в столбцах, отражающих возможные (непротиворечащие F) сочетания признаков и диагнозов. По булевской функции признаков G кг = 1; к2 = 0. Такое сочетание признаков при F = 1 имеется только в столбцах 1 и 5, для которых £)1=0,D2=0hD1= 1, D2 = 0. Столбцы 9 и 13, имеющие сочетание кг = 1, к2 = 0 [равенства (14.32)], исключаются из рассмотрения, так как в соответствующих столбцах F = 0 [они противоречат диагностической функции, т. е. условиям (14.31)]. Таким образом, булевская функция диагнозов (столбцы 1 и 5)
f = № Л 52) V Фх Л 52) = D2. (14.33)
Преобразование равенства (14.33) можно получить из формул поглощения (14.23), но его легко найти с помощью изображающих чисел. Так как рассмотрение относится к двум булевским величинам, то базис
Pi 0101
Р2 ООН.
Далее находим
#В1 Л 52 1000
#РХ ЛР20100 # Фх ^ р2) V Фх Л 52) 1100 = #52.
Наличие признака кх и отсутствие признака к2 приводит к отрицанию диагноза Р2 и не позволяет вывести заключение о состоянии Dv
Рассмотренный пример позволяет достаточно ясно наметить процедуру отыскания булевской функции состояний.
Логические методы позволяют выявить состояния, не противоречащие имеющимся техническим сведениям о связях состояний и признаков. К числу логических методов распознавания могут быть отнесены методы теории графов [25, 37], лингвистические и другие методы, которые здесь не рассматриваются.
В общем случае функциям G и F не противоречат несколько возможных состояний, поэтому имеющихся сведений недостаточно для однозначного решения. В подобной ситуации для выбора решения используется метод Байеса или другие методы распознавания.
§ 15. РАСПОЗНАВАНИЕ КРИВЫХ
Вводные замечания. Постановка задачи. Во многих случаях информация о состоянии системы (машины) содержится в виде записи значений диагностического параметра или его отклонений от нормального или первоначального уровня в различные моменты времени. Результаты представляются в виде непрерывных функций х (кривых) или совокупности дискретных значений \х ф)\. Принципиальной разницы между этими двумя видами информации нет и, ограничиваясь некоторой максимальной частотой периодической составляющей, можно указать шаг квантования, при котором за период наблюдения Т непрерывная и дискретная формы записи эквивалентны. В других случаях дискретное представление можно рассматривать как приближенное.
Разберем сначала непрерывную запись диагностического параметра в виде кривой х (/) (например, запись вибраций по времени). Наличие неисправности может проявиться в росте отдельных периодических составляющих в спектральном составе, в существенном изменении значений диагностического " параметра и т. п. Анализируя протекание кривой х ф, можно во многих случаях сделать важные заключения о техническом состоянии системы (машины). Установление соответствия между состоянием
Рис. 25. Обнаружение систематических отклонений по выборочным даннымРис. 25. Обнаружение систематических отклонений по выборочным данным
Рис. 25. Обнаружение систематических отклонений по выборочным данным
Рис. 25. Обнаружение систематических отклонений по выборочным данным
системы и протеканием отображающих функций х (t) будем называть распознаванием (идентификацией) кривых.
Для технической диагностики представляет интерес решение двух основных вопросов.
Являются ли наблюдаемые во время эксплуатации изменения кривой х (I) следствием случайных, несущественных изменений в системе или они вызваны более серьезными причинами.
Если отличия в протекании кривой являются значительными, то с какими из возможных состояний системы они связаны. При непрерывном слежении за параметрами системы вторая задача решается после первой, при выборочном наблюдении или анализе указанные задачи независимы.
Основная идея методов распознавания кривых состоит в отображении бесконечного многообразия значений функции в конечномерное пространство признаков.
Различные методы распознавания отличаются выбором системы признаков и способами разделения состояний в пространстве признаков.
Обнаружение неслучайных отклонений по методу средних. Предположим, что ведется непрерывное наблюдение за параметром х и анализируются данные за два периода к и I (рис. 25). Сопоставляются совокупность пк значений параметра х (выборка {%4) и совокупность nz значений за другой отрезок времени (выборка {%/}). Тем самым поведение кривой на двух участках описывается конечным числом признаков — ординатами кривой. Обычно эти ординаты выбирают в виде последовательных, равноотстоящих по времени значений х (t). Существует довольно большое число способов оценки различия двух выборок. Одним из наиболее простых и эффективных является метод средних, в соответствии с которым определяется среднее значение и среднеквадратичное отклонение каждой из выборок:
_пк_ п1
хк —2 Хк^’^^Ъ хнп>(15Л)
1 = 11=1
.пк_I п1-х
& =^7]£^xkw - xkf;si = ——р (xt (0 - xtY-(15.2)
1=1/=1
Далее оценивается достоверность различия с помощью критерия Стьюдента
171274•(15.3)
|/nA + «z —2 X ПА + П/ /
Различие признается существенным (неслучайным), если
UI>U«>-Pa)>(15.4)
где /с (п, Рд) — коэффициент Стьюдента для числа степеней свободы
n = nk-\-nt — 2(15.5)
и доверительной вероятности Рд. Значения коэффициента Стьюдента указаны в [19, 66].
Для оценки различия выборок иногда используется простой критерий Фишера (отношение дисперсий)
Р = §Ш.(15.6)
Однако его применение эффективно только в случаях, когда отличие выборок сказывается в нестабильности диагностического параметра при почти неизменном среднем значении.
Оценка неслучайных отклонений по контрольным уровням. В практических задачах для оценки неслучайных отклонений при непрерывной записи параметров часто используются заранее назначаемые контрольные уровни. В сущности, большинство сигнализирующих устройств диагностического назначения выдают сигналы о достижении определенного (опасного) уровня. Достижение предельного уровня при единичном выбросе еще не служит достаточно обоснованным свидетельством^опасного состояния, так как возможны случайные помехи.
Часто для повышения достоверности оценкиуиспользуется предупредительный уровень (отклонение Дт на рис/26) и предельный уровень (отклонение Д2). Например, при достижении параметром х (t) отклонения Дт сверх нормального уровня х0 загорается сигнальная лампочка, после превышения х0 4-Д2 происходит автоматическое отключение системы. Уровни Дх и Д2 определяются на основании специальных испытаний и анализа послед-
Рис. 26. Оценка отклонений по предельным уровням0 -^Lг107Рис. 26. Оценка отклонений по предельным уровням0 -^Lг107
Рис. 26. Оценка отклонений по предельным уровням
0 -
^L
г
107
Рис. 26. Оценка отклонений по предельным уровням
0 -
^L
г
107
ствий дефектов. Если учесть случайную нестабильность параметра, то следует принимать
^1 кз9х» ^2 ^^xi(15.7)
где ох — среднеквадратичное отклонение параметра.
При контроле технологических процессов производства часто принимают
^ = 2; &2 = 3.(15.8)
Ограничение по контрольным уровням является более грубым, чем ограничение по методу средних, так как часто параметр не достигает предельного уровня, но его отклонения свидетельствуют о возникновении неисправности.
Оценка текущего значения параметра. В практических случаях возникает задача оценки текущего значения измеряемого параметра х (/). Требуется определить, является ли значение х \tn) одним из возможных, случайных отклонений или его нельзя согласовать с предыдущим течением процесса. Рассмотрим совокупность п предыдущих значений параметра (рис. 27) в моменты времени /0, tXl ..., tn-1 и обозначим их х0, х^ ..., xn_v Предположим, что xL удовлетворяют нормальному распределению и воспользуемся для оценки толерантными коэффициентами [66].
Тогда при степени значимости q и с доверительной вероятностью Рд
X (tn) < к + к (п, q, Р^) Sn,(15.9)
1
где хп = -Ц5 х(1;У, s„ = [—Ц-S IMO -^12| •
Величина К (п, q, Рд) представляет собой односторонний толерантный коэффициент, значения которого резко возрастают при малом объеме выборки. В связи с этим для эффективной оценки текущего значения х (/) необходимо знать не менее десяти его прежних значений.
Если условие (15.9) нарушено, то значение х (Q для принятых степени значимости и доверительной вероятности не может быть согласовано с предыдущими значениями и свидетельствует о воздействии на процесс источника возмущения.
Общая задача распознавания кривых, метод признаков. Выше рассматривались отклонения в протекании кривой х (/) и выяс-
Рис. 27. Оценка наибольшего отклонения
Рис. 28. Разложение функции в ряд Фурье
нялся их характер. Метод признаков предназначен для решения более общей задачи распознавания — установления связи между поведением кривой и состоянием системы.
Пусть имеется некоторое число состояний системы D( и предполагается, что каждому состоянию соответствует определенный класс кривых x^t). Предъявляется для распознавания кривая х (/) за период времени Т и требуется отнести ее к одному из указанных классов. Для того чтобы свести эту задачу к изученной ранее проблеме распознавания, необходимо охарактеризовать все рассматриваемые кривые в единой системе признаков, т. е. отобразить кривые в конечно-мерном пространстве признаков. Формирование пространства признаков представляет собой наиболее специфическую часть проблемы распознавания кривых.
Формирование признаков с помощью разложения в ряд по ортогональным функциям. В качестве признаков кривой х (/) на участке #0 < t < ^1 можно принять коэффициенты разложения функции в ряд Фурье. Не ограничивая общности, будем считать = 0 и 1г = Т, где Т — длина участка по времени (рис. 28). На указанном участке функция
*(о=4а»+ 2^со5(^т) + ^м^-^), (15J0) к=1^=1
где коэффициенты Фурье т
ак = ~ Jx (0 cos (^^-) dt (^ = 0, 1, 2,...),(15.11)
о
т *
bfc = ^ \ х ^ s'm (fe ^"^ dt О^’2’3’---)-(15Л2)
о
В соответствии с равенством (15.11) функция х (/) на участке протяженностью Т представлена в виде разложения в ряд по ортогональным функциям
Рис. 29. Кусочно-постоянные косинусные (а) и синусные (б) функцииРис. 29. Кусочно-постоянные косинусные (а) и синусные (б) функции
Рис. 29. Кусочно-постоянные косинусные (а) и синусные (б) функции
Рис. 29. Кусочно-постоянные косинусные (а) и синусные (б) функции
Напомним, что система функций {ф,- (/)} называется ортогональной на участке (О, 7), если т
|<р;(0фИ0^ = 0 (i + k).(15.14)
о
Функция х (/) представлена в виде суммы элементарных периодических кривых (тригонометрических функций). Обычно некоторое число первых членов разложения дает удовлетворительное представление о поведении функции х (/). Ограничиваясь наибольшей гармоникой (например к с 10), можно охарактеризовать кривую х (t) с помощью п признаков n = 2^+ 1,
причем признаками становятся величины а0, ап Ьг, ..., ак, Ьк.
Разложение в ряд по тригонометрическим функциям (ряд Фурье) является наиболее употребительным. Применяются также разложения по полиномам Эрмита, Лежандра, Чебышева и др. Для решения диагностических задач представляет интерес разложение в ряд по ортогональным кусочно-линейным функциям.
Рассмотрим ортогональную систему, представляющую собой «спрямляющие» функции для обычных тригонометрических функций. Наиболее простая аппроксимация получается с помощью кусочно-постоянных функций (рис. 29).
Будем называть косинусными и синусными функциями первой гармоники следующие функции:
cos0cos02л/"Г2л/"Г(15.15)(15.15)
cos0
cos0
2л/"Г
2л/"Г
(15.15)
(15.15)
-т”а 2л/sin0 — =-т”а 2л/sin0 — =11т .2 ’т .2 ’T2T2(15.16)(15.16)
-т”а 2л/
sin0 — =
-т”а 2л/
sin0 — =
1
1
т .
2 ’
т .
2 ’
T
2
T
2
(15.16)
(15.16)
Эти функции можно записать в более компактной форме:
cos0 ^- = sign (cos -^- ^, sin0cos0 ^- = sign (cos -^- ^, sin02л/Т"2л/Т"signsign(sin^- /).(sin^- /).
cos0 ^- = sign (cos -^- ^, sin0
cos0 ^- = sign (cos -^- ^, sin0
2л/Т"
2л/Т"
sign
sign
(sin^- /).
(sin^- /).
Аналогично определяются функции для второй гармоники к = 2.
Диагностический параметр х (t) выражается теперь модифицированным рядом Фурье
х(О = «о+2а^°(^^) + Е^°^^)’(15Л7)
к=16=1
где
т
ц6 = 2-1 х (/) cos” (£-^-) d/ (£ = 0, 1,2, 3, ...);(15.18)
о
т
Ьк = 4р\ xktw fvk^at (£=1,2,3,...).(15.19)
о
-п /, 2л/ \ —п / 2л/ \
Функции cos0 ( к —— \, sin0 (-у ) удовлетворяют условиям ортогональности. Отметим, что cos0 (0) = 1. Естественно, что ряд (15.17) пригоден только для функции х (/), но не дает приближения для производной ^^-. Вычисления по формулам (15.18) и (15.19) очень просты, так как содержат интегралы от функции х ^ на различных этапах времени^ Например, т
^о = у J x^dt\ о
(15.20)
Такие вычисления легко реализуются в простейших приборных схемах и могут осуществляться в процессе диагностического наблюдения. Более точное описание дает система кусочно-линейных косинусных и синусных функций
(15.21)(15.21)/ . 2л/ \ т- / . 2л/ \ COS(£-y-L 81П(£ —),
(15.21)
(15.21)
график которых приведен на рис. 30. Модифицированный ряд Фурье для таких функций
х(/) = ^а0+ jb a^cos ^£ ™) + ^ £&зШ f£-^-),(15.22)
к=\к=1
где'
т
^ = 44 x^oosk^dt (£ = 0,1,2,...);(15.23)
о
т
ь^^^ X<t^k^dt (£=1,2,3,...).(15.24)
о
Система функций (15.21) —ортогональна, cos (0) = 1.
Модифицированный ряд Фурье (15.21) дает описание функции dx
х (t) и ее первой производной -^- (/), но не пригоден для представления старших производных.
cos(k^L)7cos(k^L)7Рис. 30. Кусочно-линейные косинусные (а) и синусные (б) функцииРис. 30. Кусочно-линейные косинусные (а) и синусные (б) функцииОО
cos(k^L)
7
cos(k^L)
7
Рис. 30. Кусочно-линейные косинусные (а) и синусные (б) функции
Рис. 30. Кусочно-линейные косинусные (а) и синусные (б) функции
О
О
Рис. 31. Характерные элементы функции х (/) (электрокардиограммы)Рис. 31. Характерные элементы функции х (/) (электрокардиограммы)
Рис. 31. Характерные элементы функции х (/) (электрокардиограммы)
Рис. 31. Характерные элементы функции х (/) (электрокардиограммы)
Формирование признаков по методу элементов. В качестве признаков могут быть использованы характерные элементы кривой х (t): точки минимума, максимума и др. Значительный опыт распознавания кривых по методу элементов имеется в медицинской диагностике. На рис. 31 изображена электрокардиограмма, в которой типичными элементами считаются зубцы (экстремальные точки) Р, Q, R, S, связанные со стадиями сердечной деятельности. Диагностическое значение имеют ординаты и абсциссы характерных элементов, их взаимное положение и другие параметры.
В задачах технической диагностики в качестве элементов часто используется значение амплитуды колебаний с некоторой частотой. В этом случае проводится предварительный анализ спектра частот колебаний, возникающих при различных неисправностях и отказах. В работе [451 указаны значения частот колебаний (гармоник), которые возбуждаются при типичных неисправностях.
Распознавание кривых по комплексу признаков. Если кривая на некотором участке представлена комплексом диагностических параметров (признаков) хъ х2, ..., хп, то процесс распознавания осуществляется статистическими методами, методами разделения в пространстве признаков, метрическими и др. Задача распознавания облегчается тем, что обычно признаки х( являются физически однородными параметрами (параметрами с одинаковой размерностью).
Сглаживание кривых. Во многих случаях кривая изменения диагностического параметра существенно искажается за счет неизбежных ошибок измерений. Это свойственно параметрам, записываемым вручную по показаниям стрелочных приборов или при недостаточной точности измерений и т. п. В таких случаях целесообразно проводить анализ предварительно сглаженных кривых. Существуют два основных метода сглаживания: метод наименьших квадратов и метод преобразования. По методу наименьших квадратов кривая х (Z) на участке от tx до /2 заменяется полиномом
х(t) ^а0 + aLt р а^Р [-•••, (15.25) где а0) alt ... — параметры, подлежащие определению. Не рекомендуется применять полиномы степени выше третьей, что делает аппроксимацию слишком «жесткой», лучше уменьшить длину участка, в пределах которого осуществляется аппроксимация. В таком случае кривая х (/) заменяется полигональной кривой из отрезков прямых или парабол (метод сплайнов).
Допустим на рассматриваемом участке содержится N экспериментальных точек Ху, соответствующих моментам времени /у, и требуется подобрать значения параметров а0, аи а^ (аппроксимация дугами парабол). Эти параметры можно определить из условия минимума среднеквадратичной погрешности между полиномом (15.25) и «полем экспериментальных значений»
(15.26)(15.26)(15.27)(15.27)N
(15.26)
(15.26)
(15.27)
(15.27)
2 [ху — (<z0 + a^j 4- а2фр = min.
Из условий
— = о- — = 0 — да0 ’ даг ’ да%
получаем систему трех линейных уравнений относительно неизвестных параметров.
Для случая линейной аппроксимации х (О = а0 4- аг1 система
будет такой:
NN
(15.28)(15.28)a0N + flj S ty = 2 ха /=1/=1
(15.28)
(15.28)
NNN
ао S 4" til ^/ — S xjtj.
i=l/=1/=1
Ее решение имеет вид
N
У xjtj xt
«i =—^;(15.29)
J- V /2 _ 42
t = -ту У tj, х = -и- У Xj — средние значения t, и х} дляt = -ту У tj, х = -и- У Xj — средние значения t, и х} дляOq = x — a J,(15.30)
t = -ту У tj, х = -и- У Xj — средние значения t, и х} для
t = -ту У tj, х = -и- У Xj — средние значения t, и х} для
где
поля экспериментальных точек. Отметим, что аппроксимирующая прямая проходит через «центр тяжести» экспериментальных точек [уравнение (15.30)1.
Второй метод состоит в преобразовании исходных значений х, в другие «сглаженные» значения х,.
Часто применяется метод скользящего среднего. По этому методу величина х, представляет собой среднее нескольких значений, непосредственно примыкающих к измерению при tji
xj — 2л | 1 ^xi—n 4" Xj—vt—v> + • • • 4* xj 4" * * • 4" Xj+n—14" Xj+nY
(15.31)
Например, при п = 1
Ху = — (Ху_х 4- Xj -|- Ху+1);(15.32)
при п = 2
Xj = -у- (^;-2 + Xj.! 4“ Xj 4" Xj+1 4- Xj^.(15.33)
Практически осреднение проводится не более чем для 10 соседних значений параметра.
Естественно, что в начале и конце общего интервала времени для п точек сглаженные значения по формуле (15.31) не могут быть получены. Это обстоятельство либо не принимается во внимание, либо кривая сглаженных значений по касательной экстраполируется на граничные точки.
Применяется способ повторного сглаживания, в результате которого находятся значения Xj. Это эквивалентно тому, что в равенство (15.31) значения xf входят с другими весовыми коэффициентами. Например, при п = 1
xj = “3" (x/-i + xj + x/+i) — ~у xj-2 +
+ -у xj~i + “у xj + "у xj+i + "у xi*^(15.34)
Сопоставляя с формулой (15.33), находим, что по мере удаления от Xj весовые коэффициенты уменьшаются, что характерно для процесса релаксационного сглаживания. Сумма весовых коэффициентов при релаксационном сглаживании всегда равна единице. Последнее очевидно, если применить формулу (34) для параметра, имеющего постоянное значение. Одна из простых процедур релаксационного сглаживания может быть получена по формуле х$ = aXj 4- (1 — a) Xj_u(15.35)
где параметр релаксации 0 <а < 1. При а = 1 сглаживания не происходит, при а = 0 сглаженная функция получает постоянное значение. В практических задачах используется 0,1 < < а < 0,5.
На величине Xj по равенству (15.35) сказываются все предыдущие значения параметров с весовыми коэффициентами. Применяя соотношение (15.35) для начального и последующих значений, будем иметь
х0 = х0,
Хг = ахх4-(1 — a) v0,
ха= ax24* a(l — a)*i4~ 0 a)2*o> • • ••
Можно заметить, что весовые коэффициенты, за исключением последнего, убывают по закону геометрической прогрессии со знаменателем q = 1 — а. Однако запоминания предыдущих значений параметра в расчетной процедуре не требуется, достаточно хранить только предыдущее сглаженное значение, что упрощает машинную реализацию алгоритма.
Выбор метода сглаживания и весовых^коэффициентов определяется особенностями поведения кривой х (/), характером случайных отклонений, задачами диагностики и осуществляется на основании практического опыта. Метод сглаживания должен исключить случайные погрешности, но сохранить общую тенденцию изменения параметра.
Глава 7
ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ
Вводные замечания. В технической диагностике, особенно при построении оптимальных диагностических процессов, широко используется теория информации. Возникшая как математическая теория связи в трудах Винера и Шеннона, теория информации получила применение и в других областях науки как общая теория связи статистических систем.
d" диагностике такими системами являются система состояний (диагнозов) и связанная с ней система признаков.
Центральное место в теории информации занимает понятие энтропии системы.
ЭНТРОПИЯ СИСТЕМЫ
Определение энтропии. Энтропия характеризует степень неопределенности системы. Пусть рассматривается система Л, которая может иметь п случайных состояний Ац, Л2, ..., Ап с вероятностями Р Hi), Р (Л2), ..., Р (А„). Если одно из состояний системы обязательно реализуется, а два состояния одновременно невозможны (полная группа несовместных событий), то
(16.1)(16.1)2m)=i.
(16.1)
(16.1)
1=1
Именно такие системы и рассматриваются в дальнейшем.
Степень^„неопределенности системы зависит от числа п, возможных _ состояний. Например, при бросании игрального кубика их может быть шесть, при бросании монеты — только два. Степень неопределенности, вообще говоря, возрастает с увеличением п. Однако не только число возможных состояний определяет энтропию системы. Например, если система имеет шесть возможных состояний с вероятностями Р (Лт) = 0,95; Р (Л 2) = Р (Л3) = = Р (Л4) = Р (Л6) = Р (Л в) = 0,01, то с большой достоверностью можно утверждать априори (заранее, до проведения опыта, обследования), что она находится в состоянии Лх; неопределенность
такой системы невелика. Если же Р (Лх) = 1, а вероятности остальных состояний равны нулю, то система вовсе не обладает неопределенностью — энтропия такой системы равна нулю.
В теории информации энтропия (степень неопределенности) системы А, имеющей п возможных состояний с вероятностями Р^), Р (А^Р(Л„),
пп
Н^-^Р (Л,) log -^ = - 2 р (Л,) logP (Л().(16.2)
Можно показать [19, 34, 58, 65], что при выполнении некоторых достаточно общих требований (непрерывности, неубывания энтропии при возрастании числа состояний, аддитивности) определение энтропии согласно равенству (16.2) является единственным.
Величина Н (Л), введенная Шенноном, называется энтропией системы. Обозначение Н (Л) показывает, что энтропия относится к системе Л, и его не следует понимать как обычное обозначение функциональной зависимости.
Так как вероятности состояний системы 0 с Р (Л,) с 1, то энтропия представляет существенно положительную величину.
В формуле (16.2) логарифм может быть взят при любом основании — изменение основания приводит только к появлению множителя, т. е. к изменению единицы измерения.
Исходя из соображений физической наглядности, будем вычислять энтропию системы с помощью двоичных логарифмов, тогда
п
н (Л) = - 2 PW log2 Р (Л,).(16.3)
1=1
Целесообразность использования двоичных логарифмов легко понять, вычисляя энтропию системы, имеющей два равновероятных состояния. В этом случае Р (Л л) = Р (Л 2) = 0,5 и по формуле (16.3) находим
Н (Л) = -Р (Л,) log2 Р (Л) - р (Л2) log2 Р (Л2) =
= --2-log2—--2-log2^-=l-
Таким образом, в качестве единицы энтропии (при выборе двоичных логарифмов) принимается степень неопределенности системы, имеющей два возможных, равновероятных состояния. Эта единица измерения называется двоичной-единицей, или бдюм.^Название бит происходит от английских слов binary digit — двоичная единица (взяты две начальные и конечная буквы).
Если принять при вычислении энтропии обычные десятичные логарифмы, то в качестве единицы использовалась бы неопределенность системы, имеющей 10 равновероятных состояний (десятичная единица).
Не следует, однако, думать, что введенная величина энтропии полностью характеризует неопределенность систем различной физической природы. Она учитывает только вероятности состояний и их число, но не отражает таких существенных свойств, как относительная ^ценность jBa^o^cib) состояний, их близость, что может иметь серьезное значение для оценки неопределенности системы. Но во многих задачах, где существенны именно статистические свойства систем, использование энтропии как меры неопределенности вполне оправдано и целесообразно.
Можно ввести также понятие «неопределенности» отдельного состояния системы
Я(Д,) = 1оё(1/Р(Д;)).(16.4)
Подобное определение использовалось Хартли (1928 г.) задолго до возникновения теории информации.
Энтропия системы представляет собой среднее значение энтропий отдельных состояний:
Н(А) = £ Р^Н^.(16.5)
t=i
Последнее равенство можно записать так:
Н(А) = (Я(Д.)) = (—log2 Р (Д,)),(16.6)
рассматривая энтропию как математическое ожидание случайной величины Н (Д,) = — log2P (Д,). Такое определение подчеркивает вероятностный характер понятия энтропии.
Основные свойства энтропии. Покажем, прежде всего, что если система А имеет одно из возможных состояний Д6 с вероятностью Р (Дд) = 1, то энтропия такой системы
Я(Д) = 0.(16.7)
В самом деле, в сумме (16.3) будет слагаемое Р (Д^) log2P (Д^) = = 0, так как Р (Д^) = 1. Другие слагаемые имеют неопределенное значение типа 0-со, но можно показать, что
lim Р(Д)^2Р(Д,) = 0.
р (Л,)->.о
В справедливости последнего равенства легко убедиться на следующем примере. Пусть Р (Д,) = 1/2"*, где т — большое число. Тогда
lim Р (Д;) log2 Р (Д() = lim (l/2m) log2(l/2m) =
Р(Л^->0т->оо
= —lim (m/2m) = 0.
т-><»
Условие (16.7) для рассматриваемой системы очевидно также из физических соображений, так как в системе нет никакой неопределенности. Вычислим энтропию системы, имеющей п равновероятных состояний. Вероятность каждого состояния Р ^А^1!^ По формуле для энтропии системы находим
Н(А) = — £ Р(А^оё2Р(А^ = п-^-\о^п = \о^п.(16.8)
1=1п
Энтропия системы с одинаковыми вероятностями состояний равна логарифму числа состояний. Очевидно, что с увеличением числа состояний энтропия возрастает, но гораздо медленнее, чем число состояний. Важное свойство энтропии состоите следующем. Если система А имеет п возможных состояний, то энтропия будет максимальной в том случае, когда все состояния равновероятны.
Для доказательства найдем экстремум функции
Н = - 5 Pt log2 Pt(16.9)
при условии
п
2^=1.(16.10)
1=1
В равенствах (16.9) и (16.10) для краткости приняты обозначения Р (Xz) = Ph Н (Д) = Н, которые иногда будут применяться в дальнейшем.
В соответствии с методом Лагранжа ищем экстремум функции п,( п\
п переменных Pt Ф — — У, Р£ log2 Pi + ^ S Л- — 1 ), гДе ^ — i=l\i=l)
неопределенный множитель.
Из условия -^7 = 0 (i = 1, 2, ..., п) получаем систему п уравнений
log2 Pt = X - log2 е (t= 1, 2, ...,п\(16.11)
Величина X может быть найдена из условия (16.10), но этого не требуется, так как из равенства (16.11) вытекает, что все Pi одинаковы и, следовательно, экстремум Н достигается при Pi = = 1/п. НХ 02фе
Так как< 0 (t = 1, 2, ..., п), то точка экстре
мума соответствует максимуму Н. Из доказанного свойства вытекает следующая важная оценка энтропии произвольной системы: Я(Д)<1оё2п,(16.12)
где п — число возможных состояний системы. 120
Рис. 32. Зависимость энтропии бинарной системы от вероятности первого состояния
Примеры определения энтропии различных систем. Пусть имеется система с двумя возможными состояниями (бинарная система). Вероятность первого состояния равна Р, второго 1 — Р. Энтропия бинарной системы Н = —Р log2 Р — — (1 — Р) log2 (1 — Р). Она достигает максимума при Р --- 0,5, при этом //тах — = 1 бит. Зависимость Н от Р показана на рис. 32.
Разберем систему, состоящую из п элементов,, каждый из которых может иметь tn состояний. Требуется определить максимально возможную энтропию системы. Для решения следует найти число возможных состояний системы N. Если каждый элемент может иметь т состояний и состояния одного элемента произвольно сочетаются с состояниями других, то при двух элементах могут образоваться пгт = т2 различных состояний. В общем случае, при п элементах число состояний системы
(16.13)(16.13)N = тп.
(16.13)
(16.13)
Для иллюстрации на рис. 33 приведены различные состояния системы из трех элементов, каждый из которых имеет два возможных состояния (общее число состояний равно восьми).
Так как система имеет N состояний, то максимально возможная энтропия системы
#шах = log2 N = log2 тп --= п log2 m-(16.14)
Элемент
Состояние элемента
1
V
д
2
3
Код состояния элемента
1
О
Состояния системы и их коды
V ь
^. О'
///
д ь
он
V L
110
д ь
0^0
V '
3 О'
101
△
001
V х
100
д
3 сь
ООО
Рис. 33. Состояние системы из трех элементов (п=3), каждый из которых имеет два состояния (/п = 2)
Рис. 34. Система с непрерывным распределением состояний [состояние определяется температурой Т с плотностью распреления / (Г)]
Величина Нтах достигается при равной вероятности всех комбинаций (состояний).
Энтропия системы, имеющей непрерывное распределение состояний. Предположим, что в качестве системы рассматривается температура объекта, принимающая непрерывный ряд случайных значений в интервале от а до b (непрерывное распределение состояний) (рис. 34). Непрерывное распределение может быть заменено дискретным, если разбить область изменения на п одинаковых интервалов \Т. Тогда энтропия системы
п
Н = -^Р(Г^\о&Р(Т^(16.15)
i=i
где Р (Th — вероятность температуры объекта в интервале со средним значением Ть
Так как
P(Th-f(Th^T,(16.16)
где / (Т,) — плотность распределения температуры при Т = = Т и то
п
н = -^кт,ит\о&г(ть^ = 1=1
пп
= -^t (Th log2 f(Th Д7 - log2 Д7 2 f (Th дг.
1=11=1
Перейдя к пределу при п —> оо, найдем выражение для энтропии системы с непрерывным распределением параметров
ь
н--^^ iog2f (7)ат - log2 ДТ.(16.17)
a
При выводе формулы (16.17) учитывалось следующее равенство:
пь
lim2f(7,)AT=J/(7)dT=l,(16.18)/
вытекающее из определения плотности вероятности.
Отметим принципиальную особенность определения энтропии непрерывной системы: она зависит от шага квантования ДТ.
Выбор шага квантования обусловлен требуемой точностью при аппроксимации непрерывного распределения ступенчатым (дискретным) распределением, но само существование шага квантования связано с физической сущностью непрерывного процесса. Достаточно отметить, что любое измерение является дискретным и квантование осуществляется уже в процессе измерения. В равенстве (16.17) величину log2 \Т можно рассматривать как начало отсчета энтропии и для многих задач оно оказывается несущественным.
В общем случае система с непрерывным распределением состояний характеризуется параметром х, изменяющимся в пределах —сю < х < оо, и тогда
// =— J f (х) log2 f (х) dx — log2 Ах.(16.19)
Последнее равенство можно записать в форме математического ожидания
Н- (-logj(x)) - log2 Ах,(16.20)
где (х) — математическое ожидание случайной величины х.
Энтропия системы, состояния которой (значения х) подчинены закону нормального распределения. Пусть плотность распределения х (рис. 35, а)
f(x) = —U-e"^.(16.21)
о И 2л
Внося значение / (х) в формулу (16.20), найдем
н = (log2 (о /2л)) + \-^^-/ log2e — log2 Ах.
Так как ((х — х)2) = о2, то
И = log2 (о /2л ) -{- -у- log2 е — log2 Ах = log2-^^-.(16.22)
Существенно, что энтропия не зависит от среднего значения параметра х и определяется отношением о/Ах.
Рис. 35. Системы с непрерывным распределением состоянийРис. 35. Системы с непрерывным распределением состоянийXX
Рис. 35. Системы с непрерывным распределением состояний
Рис. 35. Системы с непрерывным распределением состояний
X
X
Можно показать, что при заданной дисперсии состояний о распределение по нормальному закону дает максимальное значение энтропии. Таким образом, если / (х) удовлетворяет уравнению (16.21), то величина Н [формула (16.19)1 имеет максимум при двух дополнительных условиях:
j (х — х)2 f (х) dx = о2; | f (х) dx = 1.
Рассмотрим теперь энтропию непрерывной системы с равно
вероятными состояниями на участке а <. х < b (рис. 35, б). В этом случае
fW =fW =1 b— а1 b— аа < х < bа < х < bО х<а; х>б.О х<а; х>б.(16.23)(16.23)
fW =
fW =
1 b— а
1 b— а
а < х < b
а < х < b
О х<а; х>б.
О х<а; х>б.
(16.23)
(16.23)
Из формулы (16.19) получаем ь
Н = J yzr^logz^ — a)dx — log2 Ах= log-^^.(16.24)
а
Покажем, что рассматриваемое равновероятностное распределение обладает наибольшей энтропией. Требуется отыскать экстремум функции Н =— J / (%) log2 (/ (х) Ах) dx при условии
j/(x)dx=l.(16.25)
Для решения этой задачи, называемой в вариационном исчислении изопериметрической, составляется функция F = = —/ W 1°§2 (/ (х) А*) + М to, гДе ^ — неопределенный множитель Лагранжа.
Из условия экстремума
— = —log2 (f (х) Ах) — log2e + % = О,
откуда
(16.26)(16.26)log2 f (х) = —log2 е + % — log2 Ах.
(16.26)
(16.26)
Из последнего равенства вытекает, что величина / (х) не зависит от х и является постоянной. Если параметр х может принимать значения только на отрезке а < х < Ь, то из условия (16.25) следует равенство (16.23). Вывод о том, что наибольшая энтропия свойственна равновероятностному распределению по всем возможным значениям параметра, согласуется с аналогичным 124
(16.27)(16.27)выводом для дискретных систем. Возникает вопрос: если параметр х может принимать любые значения —оо—<х<оо, то какое распределение является самым «невыгодным» для распознавания? Естественно, что таким распределением (при одинаковом шаге квантования) будет распределение с наибольшей энтропией. В соответствии с равенством (16.26) таким распределением оказывается равновероятностное на бесконечном отрезке b — — а = I —> оо. Для него плотность вероятности
(16.27)
(16.27)
2 I22 I2но дисперсия распределения
2 I2
2 I2
(16.28)
Такое распределение не встречается в реальных процессах. Если считать дисперсию ограниченной, то возможный интервал изменения при равновероятностном распределении также будет ограниченным
(16.29)(16.29)/ = 6-а = /12о.
(16.29)
(16.29)
Как указывалось, для распределений с заданной величиной о наибольшее значение энтропии будет иметь нормальное распределение. Если Нх—энтропия нормального распредеделения, Я2— энтропия равновероятностного на отрезке I = b — а распределения, то в силу соотношений (16.22), (16.24) и (16.29) для одинаковых значений а и шага квантования Ах
//1 — Я2 = log2o]/2ne — log2oy 12 = log2 j/-^->0.
ЭНТРОПИЯ сложной СИСТЕМЫ
Определение энтропии сложной системы. Во многих случаях целесообразно рассматривать сложную систему, состоящую из нескольких отдельных систем. Допустим, что в качестве системы рассматривается зазор между втулкой и валиком. Втулка (система Д) может иметь п групп размеров (состояния Аг, ..., Д„) с вероятностями Р (Д^, ..., Р (Д„); соответственно валик (система В) имеет т групп размеров (состояния Ви ..., Вт) с вероятностями Р (BJ, ..., Р (Вт). Зазор между втулкой и валиком — объединенная система С = АВ — определяется сочетанием состояний систем А и В •
Система АВ может находиться в одном из следующих т п возможных состояний:
т столбцов
А^п АгВ^ ..., АхВт
п строкп строкАДь А^В^ ..., А2ВтАДь А^В^ ..., А2Вт
п строк
п строк
АДь А^В^ ..., А2Вт
АДь А^В^ ..., А2Вт
АпВ^ АпВ^ ..., АпВт
Состояние AtBi означает, что проведено сочленение втулки размером At с валиком размером Вр Приведенная матрица отображает все возможные сочетания размеров. Для вычисления энтропии системы АВ следует составить сумму произведений вероятностей состояний на их логарифмы:
н (АВ) = - Д Д Р W log2 Р (АЩ.(17.1)
Рассмотрим сначала случай, когда системы А и В независимы, т. е. реализация одного из состояний системы А не влияет на вероятность возможного состояния системы В и наоборот.
В этом случае
P(AiBj) = P(Ai)P(Bj).(17.2)
Энтропия сложной (объединенной) системы в соответствии с равенствами (17.1) и (17.2)
Н (АВ) = - Д Д Р (At) Р (В,) log2 [Р (А^ Р (В,)] =
= - 2 £ P(A)P(B/)[log2PHz) + log2P(B/)].(17.3)
Рассмотрим первую сумму
til? (А^ Р (В •) log2 Р (Ai) = Р (Аг) log2 Р (А.) § Р (В,) +
‘=1 /=1т/=1
+ Р (Л2) 1°§2 Р (-^г) Р (Pj) "
Так как для каждой из систем (втулка или валик находятся в одной группе по размерам и не могут одновременно входить в две группы)
5в(Ла=1,(17.4)
t=l
lp(Bj)=\,(17.5)
/-1
то 2 S P(Ai)P(Bi)\o^P(Ai) = 2 Р(Л,)1о8гР(Л;).
z=i /=i',=i
Применяя подобные вычисления для второй суммы, найдем из соотношения (17.3)
Н (АВ) = -%Р W log3 Р (Ai) -^Р (В,) log2 P (Bj) или
H (АВ) = Н (Л) + Н (В).(17.6)
Энтропия сложной системы, объединяющей две статистически независимые системы, равна сумме энтропий этих систем. Так как энтропия системы неотрицательная величина, то при объединении систем энтропия возрастает или остается прежней.
Энтропия сложной системы, объединяющей две статистически зависимые системы. Теперь вероятность того или иного состояния системы В будет зависеть от состояния, в котором находится система А. Так как зависимость систем — свойство взаимное, то подобное утверждение относится и к системе А. В рассматриваемом примере это означает, что при сборке для сохранения постоянства зазора втулки больших размеров сочетаются с валиками больших размеров, а не с валиками произвольных размеров, как в предыдущем случае. Такая сборка называется селективной.
Энтропия системы, как и раньше, определяется равенством (17.1), но вместо соотношения (17.2) будем иметь
Р (AtBj) = Р (А.) Р (Bj/Aj) = Р (Bj) Р (At!Bj).(\ТЛ)
В соответствии с зависимостями (17.1) и (17.7) п т
Н (АВ) = - 2 2 Р (Al)P(Bi!Al) [log2 Р (Л,) + log2 Р (Bj/A{)]. (17.8) 1=1 /=1
Первая сумма
птп
^ 2 P(Al)P(BJlAi)\o&P(At) = 2 P(^)log2P(^),(17.9)
i=i /=i*(=i
так как
f P(Bj/A£)=\.(1/.Ю)
Равенство (17.10) является следствием того, что вне зависимости от реализации того или иного состояния А( одно (и только одно!) из состояний Ву обязательно реализуется Ч
1 В приведенном примере это означает, что для сочетания с втулкой из класса А^ отобраны валики, которые могут, вообще говоря, относиться к различным классам By. Величина Р (BjlAi) характеризует вероятность принадлежности валика из этой совокупности к классу By. Так как валик не может одновременно принадлежать двум разным классам по размерам и обязательно входит в один из классов, то выполняется условие (17.10).
Вторую сумму представим в следующем виде:
2 2^ (А) р (В^) log2 Р IBjlA^ = Р (А) 2 Р (Bj/Aj х
i=i /=i''/=1'
X log2 Р (В^А^ -|- Р (А) ^ Р kBjlA^ log2 Р (Bj/A2)=
(17.11)(17.11)= 2 Р<А) [ 2 P(BZ/A)iog2/’(A/A) •
(17.11)
(17.11)
i=i L/=i '' J
Величина
- 2 P Ц^А^ log2 P ^Ai) = H (B/Ai) (17.12) представляет собой энтропию системы В при условии, что система Л находится в состоянии А(. Тогда равенство (17.11) можно записать в следующей форме:
2 р {А-^ Н (В/А;) = Н (В/Л), (17.13)
где Н (В/Л) — условная энтропия системы В относительно системы А. Величина Н (В/А) в соответствии с равенством (17.13) представляет собой среднее (ожидаемое) значение энтропии системы В при различных возможных реализациях системы А. Учитывая соотношения (17.9) и (17.13), получаем важное равенство
Н{АВ) = Н (Л) + Я (В/Л).(17.14)
Очевидно, что если использовать вторую форму представления вероятности совместного события [соотношение (17.7)1, то получим следующую зависимость:
Н {АВ) = Н{В)А-Н {А, В).(17.15)
Условная энтропия. Рассмотрим более подробно понятие условной энтропии. В соответствии с равенствами (17.12) и (17.13) средняя условная энтропия системы В относительно системы А Н(В/А) = 2 Р (А^Н (В/А^ - 2 2 Р(Л(.)Р(В//Л(.)1оё2Р(В//Л1), i=i/=1 /=1
(17.16) где Н (В?А^ — частная условная энтропия. Условная энтропия характеризует статистическую связь системы Л и В. Если такая связь отсутствует, т. е. P^BjlAi) = Р (В^ (i = 1, 2, ..., п), то из соотношений (17.4) и (17.16) получаем
Н (В/At) = Н (В/А) = Н (В).(17.17)
В этом случае условная энтропия системы совпадает с ее независимой энтропией и соотношения (17.6) и (17.14) становятся одинаковыми. Противоположный случай — наличие детерми-
нированной связи состояний систем А и В. Это означает, что условная вероятность может иметь только два значения
Р iBjlA^ = 1 или 0 (/ = 1, 2, ..., m; t = 1, 2, ..., п).
Так как для обоих значений Р ф;1А^ log2 Р Ц^А^ = О, то для систем с детерминированной связью
Д(В/Л) = 0.(17.18)
В общем случае для произвольной связи систем условная энтропия лежит в пределах
О < Н (BjA) < Н (В).(17.19)
Левая граница этого неравенства очевидна, так как энтропия, в силу соотношения (17.16), не может быть отрицательной. Составим разность т
н (В) -Н(В/А)(В,) 10g2Р {В^ +
п т
+ 2 2 pnap(B/Maiog2p(B/Mz).(17.20)
Учитывая равенство пп
Р ^ = s Р № = § р <Л) Р Wо7-21)
запишем соотношение (17.20) в таком виде:
Н (В) — Н (В/А) = 2 2 P^P^/A^og, ;;в”.(17.22)
-=i ,=i'
Теперь оценим величину логарифма, используя известное неравенство
1пх<х-1.(17.23)
Кривые у = In хи у = х — 1 показаны на рис. 36. Из условия (17.23)
вытекает log2 — > log2 [е (1 — х)]. Или, обозначая —D ьх ■ = — ,
XгX
P(Bj/Ai) ,Р(В;) х'
получим log2 —р^р > (1 — р ^ ^) 1°бге- Далее будем иметь
Р (Pj/^i) log2 РрВ^ ^ lP lBjiAi) — Р W 1о& е и, суммируя по /, найдем
т
1291292 B(B^jlog2^^ > 0.(17.24)
129
129
Рис. 36. Графическая интерпретация неравенства /п х С х — 1
Н (В) - Н (В/А) > О, что и доказываетН (В) - Н (В/А) > О, что и доказывает(17.25) неравенство(17.25) неравенствоЕсли все положительные слагаемые умножить на Р (Az) и просуммировать, то получим
Н (В) - Н (В/А) > О, что и доказывает
Н (В) - Н (В/А) > О, что и доказывает
(17.25) неравенство
(17.25) неравенство
(17.19).
Отметим, что частная условная энтропия Н (В/А^ может быть боль
ше Н (В), но среднее значение Н (BIA) всегда удовлетворяет неравенству (17.25). Аналогичными свойствами обладает условная энтропия системы А относительно системы В
т
н (Л/В) = ^Р (В^ Н(А/В;) =
(17.26)(17.26)т п
(17.26)
(17.26)
= - Д 2 Р Щ Р (А^) log2 Р (AjB^.
При условии статистической независимости систем Л и В
(17.27)(17.28)(17.27)(17.28)Н (А/В) = Н (Л).
(17.27)
(17.28)
(17.27)
(17.28)
В общем случае
О > Н (А/В) < Н (Л).
Выражения для условной энтропии часто будут использоваться в такой форме:
п т
Н(В/А) = -
-^^Р (AtBj) log2 Р (Bj/Ai);(17.29)
.=i /=i
Н(А/В) = -
п т
-'L^P (A^i) log2 Р (AjBj).(17.30)
z=l /=1
Из таких зависимостей вытекает
(17.31)(17.31)Н (А/В) - Н (В/Л) = - Д Д Р (AtBj) log2 (Р (А^/Р (В,)].
(17.31)
(17.31)
Отметим, что при Н (Л) + Н (В) условные энтропии Н (А/В) 4= 4= Н (В/А), что следует из соотношений (17.14) и (17.15).
Энтропия комплекса систем. В дальнейшем придется иметь дело со сложными системами, объединяющими комплексы отдельных систем. Для выявления структуры энтропии в этом случае 130
рассмотрим комплекс, состоящий из трех систем. В соответствии с общим определением энтропии
Н (АВС) = -^^^Р (AiBjC.) log2 Р (А^.Ск).(17.32)
,=i /=i 6=i
Представляя Р (А^Сь) = Р (4,) Р (В^С^А,), получим
Н (АВС) = Н (А)-\-Н (ВС/А),(17.33)
где
Н (ВС/А) = ^Р (4,) Н (ВС/А,) =
1=1
= - £ £ £ Р (Ai) р (BjCk/A^ log2 Р (BjCk/A,).(17.34)
1=1 /=1 к=1JJ
Если учесть равенство Р (В^С^А^ = Р (В^А^ Р (C^AiBj), то
Н (ВС/А) = Н (В/А) + Н (С/АВ),(17.35)
где
Н (С/АВ) = £ £ P(Ai)P(Bi/Al)H(CklAiBi) = i=i /=1
= £ £ £ P(Al)P(Bi/Ai)P(Ck/AlBi)\o&P(CklAiBi). (17.36) (=1 /=16=1
Из соотношений (17.33) и (17.35) вытекает
Н (АВС) = Н (4) + Н (В/А) + Н (С/АВ).(17.37)
Таким образом, структура выражения для энтропии совпадает со структурой формул для вероятности совместного появления событий. При вычислении энтропии логарифм условной вероятности события суммируется по всем состояниям системы. Например,
Н(С/АВ) = - 5 £ £ P(AiBiCk)\o^P(Ck/AiBi),
Z=1 /=1 fc=l
Н(АВ/С) = - £ £ £ P(AlBiCk)\o^P(AiBi/Ck), t=l /=1 £=1
Н (4) = - £ £ £ Р (A^jCk) 10g2 Р (4J = - £ Р (Ai) log2 Р (4Z). i=i /=i 6=ii=i
В соответствии со сказанным выражение для Н(АВС) можно записать и в других эквивалентных видах.
6*
ИЗМЕРЕНИЕ ИНФОРМАЦИИ
Определение количества информации. Для того чтобы пояснить понятие информации, рассмотрим следующий пример. Допустим, что в данное время объект имеет равные вероятности быть в исправном и неисправном состоянии. Если поступает сообщение от датчика температуры, что изменение температуры меньше 40° С, то объект с вероятностью 60% находится в исправном состоянии; при поступлении сообщения от датчика давления, что давление больше 0,15 МПа, можно гарантировать (с вероятностью единица!) исправное состояние объекта. Какое из этих сообщений несет больше информации? Очевидно, второе, так как оно полностью устраняет неопределенность состояния объекта.
Подобные соображения позволяют определить величину информации как разность неопределенностей (энтропий) системы до и после получения информации. Если начальная энтропия системы равна Н (Л), а после получения информации она составляет Н* (Л), то внесенная информация
J=H(A)-H^A).(18.1)
В приведенном примере начальная энтропия системы Н (Л) = = — (-|-log2-^- + 4"*°®24") После получения сообщения от датчика давления вероятности состояния стали 1 и 0 и энтропия HJA) = — (1 log2l + 0*log20) = 0. Внесенная информация J = = Н (Л) — Н* (Л) = 1 бит.
Очень часто информация относительно системы А получается с помощью наблюдения за другой, связанной с ней системой В, Обычно эта вторая система (система сигналов) дает информацию о состоянии основной системы. Среднюю величину этой информации, или информативность системы В относительно системы Л, можно определить из равенства
Ja(B)-H(A)-H(A/B).(18.2)
В правой части последнего соотношения содержится разность первоначальной энтропии системы Л и ее энтропии после того, как стало известным состояние системы сигналов В. Так как системы А и В являются связанными, то, в свою очередь, знание состояния системы А изменит априорную вероятность состояний системы В. Например, если известно, что объект находится в неисправном состоянии, то вероятность поступления тех или иных сигналов также изменится.
Средняя информация, содержащаяся в системе А относительно системы В,7
JB (Д) = Н (В) - Н (В, А).(18.3)
В силу соотношений (17.14) и (17.15)
Ja^ = 3b<AY .(18.4)
Равенство (18.4) выражает важное свойство взаимности информации.
Так как Н (А(В) = Н (АВ) — Н (В), то из формулы (18.2) вытекает важное соотношение
Ja(B) = H(A)-)-H(B) — H(AB).(18.5)
Принимая во внимание зависимость (17.1), получим пп
Ja(B) = -^P (Ai) log2 Р (Ai) -^Р (Bj) log2 P (Bj) + Z = 1/=1
n m
+ '£1'21P(AiBi)\o^P(AiBi).(18.6)
z=i /=i'
Если учесть равенства tn
P(Al) = ^P(AiBi);(18.7)
n
P(Bj)=^P(AiBj),(18.8)
TO1 n tn
Ja(B)=- s 2 P(AiBi)\og2P(Ai) - t=l /=11
n tnntn
-S S P(AiBi)\o^P(Bi)A- 2 2 P(AiBi)\o^P(AiBi).
t=l /=1Z=1/=1
В окончательном виде получаем симметричную формулу для информации, которую несет система сигналов В относительно состояния системы А*.
п тР (А В }
1а (В) - у V Р (Л,В,) log 1 у;(18.9)
1=1 1=1'
Если системы А и В независимы, то Р (AiB^ = Р (Л,) Р (ВЛ и тогда из соотношения (18.9) вытекает JА (В) = JB (А) = 0.
С физической точки зрения этот результат очевиден: наблюдение над одной из систем не может дать информации относительно другой, если между состояниями этих систем нет связи.
В. некоторых случаях формулу (18.9) удобно использовать в одном из следующих видов:
п т
Ja (В) = ^ 2 р (А,) Р ф;1А^ log2 [Р kBjlA^lP (В,.)];(18.10)
z=d /=1п т
Ja (В) = s s Р (В^ Р (А,^) log2 [Р (А^В^Р (Л,)].(18.11)
1=1 /=1
Информация относительно состояния системы. Величина JА (В) представляет собой ожидаемое значение информации, содержащееся в системе В относительно всех состояний системы А. Если Jа. (В) — средняя информация, содержащаяся в системе В относительно состояния^Л^, то естественно считать
/л (В) = ^ Р (Л,) ^ (В).(18.12)
/=1
Сопоставляя равенства (18.10) и (18.12), можно записать
Ja, W=^P ^А^ log2 [Р (Ву/Л,)/Р (В,)](18.13)
или в эквивалентной форме т
Ja, (В) =^Р (В^А,) log2 [Р (Л^В^/Р (ЛаЬ(18.14)
Отметим, наконец, и такую форму, часто более удобную для вычислений:
/Л (В)- 2 Р(В,/Л) loga7r^SL.(18.15)
В силу условия (17.24) величина Ja. (В) > 0. Соотношения (18.13) и (18.14) представляют ожидаемое (среднее) значение информации, которую может дать система В относительно состояния Аь Из связи систем Л и В следует, что каждое из состояний системы В может содержать информацию относительно какого- либо состояния системы А (и наоборот, так как информативная связь является взаимной). Например, повышенные показатели датчика температуры делают более вероятным неисправное состояние объекта.
Можно назвать информацией, которую дает состояние Bj относительно состояния А^ следующую величину:7
JA.^B^togAP^A^P^^
р (Д .р А
= log, \Р^!В^Р ИО] = ^р^р'^г^ал^
Тогда Ja( (В) представляет собой усреднение этой информации по всем состояниям системы В при условии, что эта информация относится к состоянию Л,:
т
Ja^^PIB^Ja^.(18.17)
Последнее равенство следует из соотношений (18.14) и (18.16).
Величину J a. (Bj) назовем элементарной информацией состояния В; о состоянии At. Она явилась последним звеном при постепенном расчленении общего понятия о взаимной информации систем. Величины Jа. (В) и J А (В) являются усреднением элементарной информации. Вместе с тем элементарная информация имеет ясный физический смысл. Пусть, для определенности, система В представляет собой систему сигналов (признаков), связанных с состояниями системы А. Тогда, если сигнал Bf встречается одинаково часто при наличии состояния А( и при любых других состояниях системы А, т. е. Р ф^А^ = Р ф^ то, очевидно, такой сигнал не несет информации о состоянии At. Из формулы (18.16) в этом случае вытекает J а( (5/) = 0. Если априорная вероятность состояния А^ равна Р (Xz), а после получения сигнала В^ она изменилась и стала Р ф^В^ то знание состояния В$ дает некоторую информацию относительно Af.
JAj. ф^ - 10g2 IP WB^IP ИЛ.(18.18)
Но вероятность состояния А^ после получения сигнала может стать больше или меньше первоначальной (априорной) вероятности в зависимости от характера связи этих состояний. Например, повышенные температуры могут уменьшать вероятность исправного состояния объекта.
Таким образом, J al Ф^ может быть как положительной, так и отрицательной величиной, тогда как JA. ф) и JА (В) всегда положительны или равны нулю. Элементарная информация J а{ ф^ становится отрицательной, если вероятность состояния At после получения сигнала Bj уменьшается.
В равенстве (18.12) величина JA ф) представлялась как результат усреднения по информации, содержащейся в системе В относительно каждого из состояний системы А. Но можно провести усреднение другим путем, вводя понятие об информации, которой обладает состояние Bf относительно системы А. Тогда можно записать т
(18.19)
где в силу равенства (18.11) п
ja (ВД = 2 Р ^ВД log2 [Р (А^Р (А)](18.20)
1=1
или
JА (В/) = £ В <А^ log2 Р W^P (А^ Р (В,).(18.21)
Отметим, что в общем случае
Ja^ + Ja^BY(18.22)
Правило перестановки. Выше рассматривалась информация, содержащаяся в системе В или ее отдельных состояниях относительно системы А. Так как система А и В статистически зависимые, то знание состояний системы А дает информацию относительно системы В. Исходя из равенств (18.4) аналогично (18.19) запишем
JB(A)=tlP(Ai)JB(AiY(18.23)
i=i
где JB (4f) — информация, которой обладает состояние А, относительно системы В.
Из сопоставления равенств (18.12) и (18.23) следует
JiMWAilBy(18.24)
Легко проследить и другие подобные зависимости, вытекающие из свойства взаимности информации. Имеет место следующее правило перестановки:
Ш = Ш>(18.25)
где a"Y (3 — либо системы, либо отдельные состояния систем.
Следствием этого правила являются соотношения (18.4) и (18.23). Можно указать [см. зависимость (18.16)1, что JA. ф^ = = JB. (А). Отметим, что неравенство (18.22) не противоречит условию (18.24), так как содержит перестановку различных элементов.
Пример вычисления количества информации. Пусть проводится диагностика состояния подшипника по определению содержания частиц железа в масле. Исследование проведено на 100 двигателях, среди которых 64 имели исправное состояние подшипника (состояние Л^, а остальные 36 — неисправное (состояние Л2). Были рассмотрены три состояния, различающиеся содержанием железа в г/т масла (табл. 6).
Таблицаб
Распределение двигателей в зависимости отсодержания железа в масле
Содержание железа, г/т
Состояние системы измерений
Состояние Л1
Состояние
Л, у
<4
В1
40
0
4—8
в»
20
6
>8
В»
4
30
Таблица?
Вероятности Р [А[В]) в соответствии с табл. 6
Ai
В1
р Ид
В1
В»
в»
^1 Л2 Р(В0
0,40 0
0,40
0,20
0,06
0,26
0,04
0,30
0,34
0,64
0,36
Значения вероятностей Р (AtB^, Р (А^ и Р (Bj), полученные на основании табл. 6, приведены в табл. 7. Например, из 100 двигателей 40 характеризовались принадлежностью к состояниям Аг и Вг одновременно (исправные двигатели с содержанием железа в 1 т масла 4 г), тогда Р (Лт, В^ = 0,4. Среди 100 двигателей (исправных и неисправных) состояние В^ имели 34, и потому Р (В3) = 0,34.
Вычислим среднюю информацию о состоянии подшипников двигателя (система Л), которая содержится в исследовании масла (система В). По формуле (18.9) находим
Р (Л (В А1 гП.40
За № = 2 2 Р (А^} 10g2p№p;= W [о,40 1g ^_ +
,=1 /=1*
■*■0,20 Ig 0,64-0,26+ 0,0418 0,64-0,34 + °lg 0,36-0,40 +0,06 lg 0,36-0,26 +
+».“18ожта]-“^
Найдем величину информации относительно исправного состояния подшипника, которая содержится в исследовании масла:
, ,dx1 г 0,40 ,0,40,
•Ц. (6) 2j р log2 Р (Л,) Р (ВЛ 1g 2 [ 0,64 g 0,64-0,40 +
/=1
0,200,200,040,041 _
0,64 8 0,64-0,26 + 0,64 8 0,64-0,34 J *
При вычислении использовалась формула Р (Bj/A^ = Р ^АХВ^!Р (Л^. Подобная информация относительно неисправного состояния
S
P (Ап/ВА 1 Г ОО
Р (BjlA2) log, р ^^ р = -^- ^ -^- 1g 0 36.0)40 4 /=1
0,06 j _M6_ ^30. t _о,зр_-1= 7
0,36 8 0,36-0,26 Т 0,36 8 0,36-0,34J ’
Выясним значение информации относительно состояния подшипника двигателя, которая образуется после того, как становится известным содержание железа в масле.
Если содержание железа в 1 т масла < 4 г (состояние В^, то используя формулу (18.21), найдем
2
1=1
Г 0,40 .0,400 .01 _
1g 2 L 0,40 8 0,64-0,40 + 0,40 8 0,36-0,40 J “ °’М‘
Подобным образом находим 2
= 1 Г 0,20 .0,200,06 .0,06 1.
1g 2 L 0,26 8 0,64-0,26"*" 0,26 8 0,36-0,26J ’ ’
2
1=1
= 1 Г 0,040,040,300,30 185
” 1g2 L 0,34 g 0,64-0,34 + 0,34 g 0,36-0,34J ’ '
Естественно, что наибольшей информацией обладают состояния Вг и В3.
В заключение вычислим величину информации, содержащейся в состоянии Bj относительно состояния Л,-:
Р (А^Л
JAi - TgT Ig p (Ai) P (В,) *
Эти значения приведены в табл. 8. Как видно из таблицы, наибольшее значение имеет J д^ (В^, что соответствует интуитивным представлениям о ценности информации (при содержании железа в 1 т масла < 4 г можно с большой уверен" ностью утверждать, что подшипники двигателя не могут находиться в неисправном состоянии).
Заключительное замечание. В теории информации предполагается, что значения вероятностей состояний систем точно известны. В действительности, эти вероятности определяются на основании статистических данных, и потому представляют собой случайные величины. Только при бесконечно большом объеме выборок их значения можно считать точными.
Приводимые расчетные соотношения относятся к средним значениям, интервальные оценки могут быть установлены с помощью общих методов математической статистики.
Т абл и ц а 8
Значения информации ]д. (Bj) по данным табл. 7
^1
Bl
в.
В,
Ai
А^
0,64
0,26
—0,64
-Z2,45
1,29
Глава 8
ДИАГНОСТИЧЕСКАЯ ЦЕННОСТЬ ПРИЗНАКОВ
Вводные замечания. В технической диагностике очень важное значение имеет описание объекта в системе признаков, обладающих большой диагностической ценностью. Использование неинформативных признаков не только оказывается бесполезным, но и снижает эффективность самого процесса диагностики, создавая помехи при распознавании.
Количественное определение диагностической ценности признаков и комплексов признаков может быть проведено на основе теории информации. Главный принцип, используемый в дальнейшем изложении, состоит в следующем: диагностическад^ценность признака определяется информацией, которая вносится^призна- ком в систему состояний. '
ПРОСТЫЕ И СЛОЖНЫЕ ПРИЗНАКИ И ИХ ДИАГНОСТИЧЕСКИЕ ВЕСА
Простые и сложные признаки. Пусть имеется система D, которая находится в одном из п возможных состояний D, (i = 1, 2, . . ., п). Условимся теперь называть эту систему «системой диагнозов», а каждое из состояний — диагнозом. В большинстве случаев непрерывные различные состояния системы представляются Совокупностью эталонов (диагнозов), причем выбор числа диагнозов часто определяется задачами исследования. Распознавание состояний системы D осуществляется путем наблюдения за другой, связанной с ней системой, — системой признаков.
Будем называть простым признаком результат обследования, который может быть выражен одним из двух символов или двоичным числом (например, 1 и 0; «да» и «нет»; + и — и т. п.).
С точки зрения теории информации простой признак можно рассматрирать как систему, имеющую одно из двух возможных состояний.) Если к] — простой признак, то два его состояния будем обозначать: kj — наличие признака; к; — отсутствие признака. Простой признак может означать наличие или отсутствие
Измеряемого параметра в ойределейном интервале; ой может иметь и качественный характер (например, положительный или отрицательный результат испытания и т. п.).
Для целей диагностики область возможных значений измеряемого параметра часто разбивается на интервалы и характерным является наличие параметра в данном интервале. В связи с этим результат количественного обследования может рассматриваться как признак, принимающий несколько возможных состояний.
Условимся называть сложным признаком (разряда т) результат наблюдения (обследования), который может быть выражен одним из т символов. Если, как обычно, в качестве символов избрать цифры, то сложный признак (разряда /и) может быть выражен /тг-разрядным числом (например, сложный признак 8-го разряда выражается восьмиричным числом). Сложный признак может быть связан и с обследованием качественного характера, если оценка содержит несколько градаций [например, шум (увеличенный, нормальный, слабый) — трехразрядный признак]. Разряды признака часто будем называть диагностическими интервалами.
Разберем некоторые признаки.
Одноразрядный признак (т = 1) имеет только одно возможное состояние. Такой признак не несет какой-либо диагностической информации и его следует исключить из рассмотрения.
Двухразрядный признак (т = 2) обладает двумя возможными состояниями. Состояния двухразрядного признака kj можно обозначить к$1 и к^. Пусть, например, признак kj относится к измерению параметра х, для которого установлено два диагностических интервала: х с 10 и х > 10. Тогда kjx соответствует х с 10, а к^ обозначает х > 10.
Эти состояния альтернативны, так как реализуется только одно из них. Очевидно, что двухразрядный признак может быть заменен простым признаком kj, если положить к^ = к} и к^ = = кр Этот простой признак можно сформулировать так: пониженное значение параметра х.
Трехразрядный признак (т = 3) имеет три возможные значения: kiu kj2, к^. Пусть, например, для параметра „к приняты три диагностических интервала: <5; 5—15; >15. Тогда для гфизнака к$, характеризующего этот параметр, возможны три значения:
^/1 ^/2 ^/3 , * ?v . , х < 5 5<х<15 х>15 '
т-разрядный признак kj имеет т возможных состояний: kjU
Диагностические веса признаков. Если в результате обследования выявлено, что признак kj имеет для данного объекта значение kjs, то это значение будем называть реализацией признака kj. Обозначая ее к*, будем иметь к* = kis.
В качестве диагностического веса реализации признака к, для диагноза Dt примем
Zd, = Zd^ = log2^, (19.1)
где P Фi/kjS) — вероятность диагноза Dt при условии, что признак kj получил значение kjS\ Р ф^ — априорная вероятность диагноза.
Величина ZD. ^k^ встречалась в ряде работ по теории информации. А. А. Харкевич [61 ] называет эту величину ценностью информации. С точки зрения теории информации величина ZDl (k^ представляет собой информацию о состоянии D^ которой обладает состояние признака kjS (см. гл. 7)._, . -
Если вероятность состояния D^ после того, как стало известно, что признак kj имеет реализацию в интервале s, увеличилась [Р (Di/kjS) > Р ф^ ], то ZD. (kj^ > 0, т. е. диагностический вес данного интервала признака для данного диагноза положителен. Если наличие параметра в интервале s не изменяет вероятности диагноза, то ZD. (kjs) = 0, так как Р ф^.) = Р ф^.
Наконец, диагностический вес интервала s признака kj по отношению к диагнозу Dt может быть отрицательным (отрицание диагноза). Диагностический вес наличия признака kj в интервале s можно записать в виде, более удобном для конкретных вычислений:
Z°i (kls) = log2 р ^^ , (19.2) где Р (kjS/Di) — вероятность появления интервала s признака kj для объектов с диагнозом Df, Р (k/s) — вероятность появления этого интервала у всех объектов с различными диагнозами.
Эквивалентность равенств (19.1) и (19.2) вытекает из следующего тождества:
Р (k/s) Р (Djkls) = Р (Dt) Р (k,^) = Р кк^-
Пример. Пусть на основании статистических данных получены следующие данные о вибрационной перегрузке для исправного Ьг и неисправного D^ состояний объекта (табл. 9).
Т абли ц а 9
Вероятности появления перегрузок, %
D
<l,5g
(1,5 ~ 2,5) g
> 2,5g
р lDd
Di
60
30
10
80
D.
0
30
70
20
Р (kjs)
48
30
22
Из таблицы следует, например, что 10% исправных двигателей имеют перегрузку свыше 2,5 g.
На основании статистических данных 80% объектов имеют исправное состояние (для рассматриваемого ресурса) и 20% — неисправное. Величина перегрузки составляет признак к$1 имеющий три интервала. Например, Р (&;3) = Р фЛ X X Р (k^/D^ + Р Р (k]3/D2) = 0,8 0,1 + 0,2-0,7 = 0,22.1
Диагностические веса интервалов признака будут такими:
Р (fc/iA) 0 6Р
Zdx (^ = log,, log,= 0,32; ZD1 = log,=
0,3Р (^/зА)01
=1о^ ^=0: z^ ^ =10ga -Нм" = ,og2 W=-1 ’14:
г^ ^ =10^ Т^Г = *082-^ = —; zD. im = log,-
.о,3„ _ ., ,, P (kj9ID^ o,7, „
~ °ga 0,3 — °’ ^ ^'^ — Oga P (kj3) — Og2 "6^22* ~ ,67■
Отметим, что диагностический вес второго интервала равен нулю. Это ясно из физических соображений: из условия, что вибрационная перегрузка находится в пределах от 1,5 до 2,5g, нельзя сделать вывод о состоянии объекта.
Диагностический вес первого интервала для неисправного состояния равен —оо, что отрицает (по статистическим данным) возможность неисправного состояния.
Связь диагностических весов реализаций простого признака.
Простой признак kj может иметь две реализации: kjX = kj\ kj4 = = kj. В связи с этим можно говорить о наличии или отсутствии признака kj. Диагностический вес наличия признака к] для диагноза Dt
ZD( (k,) = log, [P (kjtD^P (kj)}.(19.3)
Диагностический вес отсутствия признака
2dz (kj) = log, [P (kj/D^/P (kj)}.(19.4)
Так как существуют очевидные соотношения
Р (к,) = 1 — Р (к,);(19.5)
P(kj/Dl)=i-P(ki!Di),(19.6)
то
zD[(kj) log, x_p^ log, v_p^ •(19.7)
Из формулы (19.7) вытекает, что ZD( (kj) и Zd. (kj) всегда имеют разные знаки.
Отметим, что если признак kj является случайным для данного диагноза [Р (kj/D;) = Р (kj)}, то оба диагностических веса равны нулю.
142
Условный и независимый диагностические веса. Равенства (19.1) и (19.2) определяют независимый диагностический вес данной реализации признака для диагноза D,. Он характерен для ситуации, в которой обследование по признаку к; проводится первым или когда результаты обследования по другим признакам еще неизвестны (например, при одновременном обследовании по нескольким признакам). Он также характерен для случая, когда вероятность появления данной реализации признака не зависит от результатов предыдущих обследований.
Однако известно, что диагностическое значение реализации признака во многих случаях зависит от того, какие реализации признаков получились в предыдущих обследованиях. Бывает, что сам по себе признак не имеет существенного значения, но его появление после некоторого другого позволяет однозначно поставить диагноз (установить состояние системы).
Пусть проводится обследование сначала по признаку къ а затем по признаку ка. При обследовании объекта по признаку кх была получена реализация kls, и требуется определить диагностический вес реализации &2р признака кг для диагноза Dt. В соответствии с определением диагностического веса
Zd: (^2p/^ls) = 1°§2 [^ (^2p/^i^ls)/^ (^2p/^ls)b(19.8)
Формула (19.8) определяет условный диагностический вес реализации признака. Независимый диагностический вес этой реализации
^ot (^гр)= 1°§2 [^ kkiplDblP (^2р)1-(19.9)
Если признаки кх пк2 являются независимыми для всей совокупности объектов с различными диагнозами
РЦ^-Р^М(19.Ю)
и условно независимыми для объектов с диагнозом D, P^D^-P^D^,(19.11)
то условный и независимый диагностические веса реализации совпадают.'
Пример определения условного и независимого диагностического веса. Рассматривается обследование по двум простым признакам kt и к2. Для получе. ния статистических данных выбрано по 15 объектов с диагнозами D1hD2 (табл. 10). Считаем, что приводится последовательное обследование (сначала по признаку kv затем по признаку к2У
Из табл. 10 устанавливаем:
Р ^D^ = 3/10; Р ^/D^ = 4/6;
Р ^D^ = 4/5; Р ^/D^ = 7/9;
Р ^/D^ = 7/10; Р (£2/£>Л) = 2/6;
Р ^/D^) = 1/5; Р (^/^1) = 2/9.
Таблица 10
Значения признаков ку и к2 для объектов с состояниями Dy и D2
go
Di
D»
co
<v g'S
Di
D»
^i
k4
ki
кг
ki
кг
ki
кг
1
1
1 <
0
1
9
1
1
0
1
2
0
1
0
1
10
0
1
0
1
3
1
0
1
1
11
0
0
0
1
4
1
0
0
1
12
1
0
0
0
5
1
0
1
1
13
1
0
1
1
6
1
1
0
0
14
0
1
0
1
7
1
0
1
0
15
0
1
1
1
8
1
0
1
0
Например, величина Р (,k2!Dyky) подсчитывается следующим образом. Из 15 объектов с состоянием Dy признак кл встретился у 10; из этих 10 объектов признак к2 наблюдался в трех случаях. Для того чтобы найти частоту появления признаков для всей совокупности объектов, необходимо знать вероятности состояний Dy и Ь2. Предположим, что Р фу) = 0,6; Р ф2) = 0,4. Тогда
34
Р (Mi) = Р №) Р №уку) + Р ф2) Р (k2/D2ky) = 0,6+ 0,4- 0,45.
Аналогично Р (к2/ку) = 0,79; Р (к2/кг) = 0,55; Р (k2/ky) = 0,21.
Условный диагностический вес реализаций признака к2.
го, <М.) -1-8. Р»™ - 1-8. -^ — ода
го, w - i-g. P"W - 1-е. ^g- - ода
^<W-'«. Р^ -1-8.-^-0.02;
Zo,(W -1-8.-1-8,-ет- -0,02.
Подобным образом находим Zdy (к2/ку) = 0,35;7п1(к2/к1) = —0,70;
Zd2 (Mi) = -0,72; ZD^ (к2/ку) = 0,08.
Для определения независимого диагностического веса реализаций признака к2 находим
р (W) = ^; р № = 41 и Р (kt) = Р ф^ Р (k^Dr) +
711
+ Р ф2) Р (к2ф2) = 0,6 -^ + 0,4 -^ - 0,06.
Независимый диагностический вес реализаций признака к2;
Zd, (kJ = log,= 3,03; Zd^ W = log, P^^ = 3,68;
Zdx (kJ = log,^^ = -0,82; ZDa (kJ = log, P ^^ = - 1,82.
P (^,)P ^
Диагностический вес реализации комплекса признаков. Рассмотрим диагностический вес реализаций комплекса признаков К, состоящего из признака кг с реализациями kls и признака к^ с реализациями &2р. Возможны два варианта проведения обследования по комплексу признаков: последовательный и параллельный.
При последовательном (поэтапном) обследовании сначала по признаку Ах и затем по признаку к2будем иметь диагностические
веса реализаций для диагноза Df.
ZDi ^ = bg2 VP №)/Р (^,)];(19.12)
ZD( (k^) = log2 [P k^p/DiMP (k2p/kls)].(19.13)
Диагностический вес комплекса признаков при поэтапном обследовании
ZDi (klsk2p) = ZD. ^ + ZD. ^М.(19.14)
При параллельном (одновременном) обследовании по комплексу признаков кх и к2 диагностический вес реализации
Zot (^i$^2p)= 1°§2 [Р (k^k^p)/D()/P (^is^2p)l •(19.15)
Учитывая равенства
Р (Мгр/Я.) = Р <kjD^ Р V^D^^;(19.16)
PtW-P^PtM^).(19.17)
получим, что соотношения (19.15) и (19.14) совпадают..
Диагностический вес реализации комплекса признаков не зависит от порядка проведения обследования. Аналогичные результаты справедливы и для двух (или нескольких) комплексов признаков.-
Если проводится обследование по комплексу признаков К^ после проведения обследования по комплексу/f(T|), то диагностический вес реализации комплекса KW для диагноза О,-
Zd^K^IK^- VogdPVK^iDiK^VPVK^IKW (19.18)
Диагностический вес реализации двух комплексов
ZDi кК^К^ = ZD. {К^) + ZD. kK^UW
не зависит от порядка обследования по двум комплексам.
Отметим, что понятие диагностического веса реализации признака применимо только по отношению к данному диагнозу, как степень его подтверждения или отрицания. Усреднение диагностического веса по всем реализациям признака и по всем диагнозам приводит к понятию информативной или диагностической ценности обследования.
§ 20. ДИАГНОСТИЧЕСКАЯ ЦЕННОСТЬ ОБСЛЕДОВАНИЯ
Частная диагностическая ценность обследования. Диагностический вес той или иной реализации признака еще не дает представления о диагностической ценности обследования по данному признаку. Например, при обследовании по простому признаку может оказаться, что его наличие не имеет диагностического веса, тогда как его отсутствие чрезвычайно важно для установления диагноза.
Условимся считать диагностической ценностью обследования по признаку kj для диагноза D( величину информации, вносимую всеми реализациями признака kj в установление диагноза D;. Для m-разрядного признака
т
ZDi (А/) =^Р ФцЮу ZD. ф,.у.(20.1)
S=1
Диагностическая ценность обследования учитывает все возможные реализации признака и представляет собой математическое ожидание величины информации, вносимой отдельными реализациями. Так как величина ZD. (kj) относится только к одному диагнозу Di, то будем называть ее частной диагностической ценностью обследования по признаку kj.
Следует также отметить, что ZDl (kj) определяет независимую диагностическую ценность обследования. Она характерна для случая, когда обследование проводится первым или когда результаты других обследований неизвестны. Величина ZD. (kj) может быть записана в трех эквивалентных формах:
т
ZDl Фу = ^ Р ФфО() 10g2 [P ффОуф (A/s)];(20.2)
Zot ФУ = Д P Ф^ФУ log2 [Pфук^Р (Z)z)];(20.3)
m
ZDl фу = £ P ффОу log2 [P фф^Р фу P ф,.уу(20.4)
1 s=l
Диагностическая ценность обследования для простого признака
ZD. фу = Р фуоу log2 [Р фуоуф фу] +
+ Р фу Dy log2 [Р фуОуф фу] = Р фу Dy loga [Р фуоуф фу] +
+ И - р ФУОУА log2 V-p^'(20-5)
Рис. 37. Зависимость диагностической ценности простого признака от Р kkjlD^ и Р Ц^
Если признак к, является случайным для диагноза Db Р V^D^
т. е. п ,. х = 1, то обсле- Р кк^
дование по такому признаку не имеет диагностической ценности (Zd{ (kj)=O). Зависимость диагностической ценности простого признака от Р {kJDi) и Р (kj) показана на рис. 37.
Наибольшую диагностическую ценность имеют обследования по признакам, ко-
ад)ад)/ 0,2 0^ 0,6 0,8 1,0 /P(kj)/ 0,2 0^ 0,6 0,8 1,0 /P(kj)торые часто встречаются при
ад)
ад)
/ 0,2 0^ 0,6 0,8 1,0 /P(kj)
/ 0,2 0^ 0,6 0,8 1,0 /P(kj)
данном диагнозе, а вообще редко и, наоборот, по признакам, встречающимся при данном ,диагнозе редко, а вообще — часто. При совпадении Р ^kjD^ и Р ^к^ обследование не имеет никакой диагностической ценности. Эти выводы совпадают с интуитив
ными правилами, используемыми на практике, но теперь эти правила получают точную количественную оценку.
Диагностическая ценность обследования вычисляется в единицах информации (двоичных единицах или битах) и не может быть отрицательной величиной. Последнее понятно из логических соображений: информация, полученная при обследовании, не может «ухудшить» процесс распознавания действительного со. стояния.
Выбор величины диагностических интервалов. Величина ZDi (к^ может быть использована не только для оценки эффективности обследования, но и для целесообразного выбора величины диагностических интервалов (числа разрядов). Очевидно, что для упрощения анализа удобно уменьшать число диагностических интервалов, однако это может привести к уменьшению диагностической ценности обследования.
Пример. Пусть измеряется параметр х, возможные значения которого лежат в пределах О С хС 1. Обследование большого числа объектов показало, что все значения х в указанном диапазоне равновероятны, но для объектов с диагнозом Dt они лежат в пределах от 0,5 до 0,75 .Требуется найти целесообразное разбиение диапазона х на равные диагностические интервалы, причем результаты обследования должны обладать наибольшей диагностической ценностью для установления диагноза.
Рассмотрим несколько способов. Пусть диапазон х разбивается на два интервала: 0—0,5 и 0,5—1. Если обследование по параметру х образует признак кх, то наличие х в первом интервале составляет признак кп, во втором интервале к1й.
Легко видеть, что Р (&п) = 0,5; Р (^U/Di) = 0; Р (&12) = 0,5; Р (^12/^i) = 12
По формуле (20.2) находим Zdx (Яч) = ^ Р ^is!D^ log2 [Р ^Юг)1Р (^1S)] = = 0 + 1 log2 (1/0,5) = 1.5-1
При разбиении на четыре диагностических интервала (0—0,25; 0,25—0,5;
4
0,5-0,75; 0,75-1) получаем ZD1 (^) = £ Р (^is/^i) log2 [Р Цг^О^Р (М1= = 0 + 0+1 log2 (1/0,25) +0 = 2.5-1
При разбиении на восемь интервалов (0—0,125; 0,125—0,25 и т. д.) найдем
8
ZD1 (»i) = 2 Р ^is/D^ log2 [Р (fels/D1)/P (MJ - S=1
= 0 + 0 + 0 + 0 + 0,5 log2 (0,5/0,125) + 0,5 log2 (0,5/0,125) + 0 + 0 = 2.
В рассмотренном примере диагностическая ценность обследования возросла вдвое при переходе от двух диагностических интервалов к четырем, а дальнейшее увеличение уже не привело к возрастанию ZD1 (&J. Этот результат имеет общий характер. С увеличением числа диагностических интервалов диагностическая ценность признака возрастает или остается прежней, но анализ результатов становится более трудоемким. Следует иметь в виду, что увеличение числа диагностических интервалов часто требует привлечения дополнительного статистического материала для получения необходимой достоверности значения вероятностей интервалов.
Общая диагностическая ценность обследования. Известно, что обследование, обладающее небольшой диагностической ценностью для одного диагноза, может иметь значительную ценность для другого. Введем понятие общей диагностической ценности обследования по признаку kj для всей системы диагнозов D, определив ее как количество информации, вносимое обследованием в систему диагнозов:
п
п т
= ^^Р (Da Р (k^D.) log2 [Р (к^/Р (k^].(20.6)
1=1 S=1
Величина ZD (kj) представляет собой ожидаемое (среднее) значение информации, которое может быть внесено обследованием в установление неизвестного заранее диагноза, принадлежащего рассматриваемой системе (совокупности) диагнозов. В другой форме
п тР (D k }
z- = 5 S р'(20'7)
Внесенная информация, как известно, равна разности энтропий системы диагнозов
Zokk^H^-H^Dlk^(20.8)
где
п
НДО — V ф^ log2 Р ф^ -(20.9)
i=i
первоначальная (априорная) энтропия диагнозов;
т
н ф!к^ = £ Р (kjs) Н ДО/5) -(20.10)
ожидаемое значение энтропии диагнозов после проведения обследования по признаку к,;
п
Нф1к^ = -^Рф11к,фо^ф11к^-(20.11)
1=1
энтропия системы диагнозов после реализации kjs признака kj.
В некоторых случаях представляет интерес определение диагностической ценности реализации признака для всей системы диагнозов. Представляя равенство (20.7) в виде
т
Zd^ = %P(kJS)ZD(kis),(20.12)
получаем
ZD (М = £ Р Ф^а) log2 [Р Ф^/Р Ф^.(20.13)
1=1
Казалось бы, что возможно и другое определение диагностической ценности реализации признака
' ZD(^ = tf(P)-tf^ пп
= -^Р ф^ log2 Р ф^ + 2 Р ф^) log2 Р ф^),(20.14)
/=11=1
которое дает для всех реализаций, обладающих диагностической ценностью Р ф^к^ 4= Р ф^, вообще говоря, несколько иной результат. В силу равенств (20.8), (20.10), (20.12) среднее значение ZD (kj^ и Zd (kjs) одинаково:
тт
2 Р (к^ ZD (kjs) = £ Р (kjs) ZD (kjs) = ZD (ki).(20.15)
S=1s=l
Однако величина ZD (kjs) не является строго положительной и ее использование может привести к противоречиям. Отметим, что формула (20.6) диагностической ценности обследования для всей системы диагнозов может быть использована и для оптимального выбора числа разрядов признака.
§ 21. ДИАГНОСТИЧЕСКАЯ ЦЕННОСТЬ ОДНОВРЕМЕННОГО ОБСЛЕДОВАНИЯ ПО КОМПЛЕКСУ ПРИЗНАКОВ
Общая диагностическая ценность. Рассмотрим сначала случай, когда комплекс признаков К состоит из двух признаков кх и#2, имеющих т^ и пц разрядов. Будем сначала считать, что результаты обследования по признаку к х заранее неизвестны и требуется определить диагностическую ценность одновременного обследования по признакам кг и к2-
Диагностическая ценность обследования по этому комплексу признаков для всей системы диагнозов измеряется количеством информации, вносимой системами кг и к^ в систему D;
ZD <kLk2) = H(D) — H (D/MJ,(21.1)
где H (D) — априорная энтропия системы диагнозов; Н (Dlk^^ — ожидаемая энтропия системы диагнозов после обследования по признакам кг и k^
Учитывая равенства
Н фкук^ = — Д Д Д Р ф^^) log2 Р ф^к^ = Нф)^
+ Н (fejD) + Н (kjDkJ = Н (^) + Н (fc^ + Н (D/k^), (21.2) получим
ZD IW = H(D^H (kJ + Н ^к^ - Н (Dk^.(21.3)
Далее найдем
Zd (kxkj = - £ Р ф^ log2 Р ф^ -^Р (к^ log2 Р-
1=1S=1
X X (^is) Р (^2p/^is) log2 P (^2p/^is) ~F s=l p=l
+ X X X (^i^ls^2p) 1°§2 P (^Z^ls^2p) = X X X (^Z^ls^2p) X
Z=1 S=1 p=li=l s^l p=l
P ^D(kisk^
x 0g2^W^(M^j*(2 *4)
Полученное равенство можно представить в следующем виде:
ZD (W - ZD (^) + ZD Wk^,(21.5)
где
Zd (кй = Е £ Р Ф1к1»> log2 [Р VkJD^P (&1S)J -(21.6)
t=l S=1
диагностическая ценность обследования по признаку kv»
Zz>(W=E Б ^Рф1к15к^\о^Р^О1МР(к2рИ- (21.7)
1 = 1 s=l р=1
ожидаемая диагностическая ценность обследования по признаку к2 при условии, что обследование по признаку кх проведено, но конкретная реализация неизвестна.
Равенство (21.5) означает, что для средних (ожидаемых) значений диагностических ценностей порядок проведения обследований безразличен. Установим следующее важное равенство: ZD (k^k^ = Н (D/kJ - Н (D/(kLk2)(21.8)
Если представить зависимость (21.7) в виде
п тг пг2
Z-d ^Ю = 2 S S р (DiW log2 4тЖГ (21 -9) t=l s=l р=11 1
и учесть соотношения
п mt т2
* S Xl S ^ (£\As^2p) 1°§2 Р Ф^^^^ "
1=1 s=l р=1
тг т2
= 2 S P^WA^(21.10)
s=l р=1
п mt т2
- S S S /W^/WU-
/=1 s=l р=1
ГП!
= ^Р (М Н (D/kls) = Н WkiY(21-11)
S=1
то из равенства (21.9) вытекает формула (21.8).
Отметим, что Н (Dlk^ представляет собой ожидаемое значение энтропии системы диагнозов после проведения обследования по признаку Л t, причем знания конкретной реализации признака кг не требуется. Величина 7[Дкг1к^ выражает разность «средних» значений энтропии системы после обследования по признаку кг и после обследования по комплексу признаков кх и к^.
Если к равенству (21.8) добавить известную зависимость
ZD (kJ = Н (D) - Н (D/kJ,(21.12)
то условие (21.5) переходит в (21.1).
Частная диагностическая ценность. Определим частную диагностическую ценность обследования по комплексу признаков кх и #2 для диагноза Dt. Представим равенство (21.4) в такой форме: zd (kxkj =^Р (Di) ZD. (кТкг).(21.13)
1=1
В соответствии с этим равенством частная диагностическая ценность
2О, (».»,) - 2 § Р tw^10g- ^XT’ ■<2U4)
S=1 p=l
Подобно соотношению (21.5)
(21.15)(21.16)(21.15)(21.16)^jDj (^1^2) “ ^D^ (^) Н- ^Di ^^^^^ где
(21.15)
(21.16)
(21.15)
(21.16)
^(^) = 2 P^iJDhXo&XP^ID^lP^
*S=1
Zot Wkv> = ^^Р kk^D^ log2 [Р k^DM/P кк^М. (21.17) s=l р=1
Как и раньше, будем считать признаки ку и й2 независимыми при
Рк^к^-Ркк^(21.18)
и условно независимыми для диагноза Di при
Р k^D^) = Р kk^lDiY(21.19)
Если признаки кх и к2 удовлетворяют условиям (21.18) и (21.19) одновременно (диагностически независимые признаки), то 2вДкг1кО = 2вДк^(21.20)
и тогда
ZDi кк^) = ZDt кк^ + ZD. кк»У(21.21)
Отметим, что условия (21.18) и (21.19) для полной системы диагнозов не являются независимыми в силу тождества
Р (^ls^2p) = Р (^ls) Р (^2p/^ls) Xl Р к^д Р k^ls^lpfDi) ~ 1=1
= X Р kDi) р kki№ Р kk^Dik^).(21.22)
1=1
В связи с этим для общей диагностической ценности комплекса признаков условие, подобное (21.21), справедливо только в некоторых частных случаях, например если Р k^^D^ = Р кк^» т. е. если признак к^ не имеет диагностического веса.
Общий случай. Выше рассматривался комплекс двух признаков. Для комплекса v признаков
ZD кк) = ZD kkik2.. ,к^ = п т, т,
- S 2 22р<°А....^>1=6р5^-^т-
t=l s=l р=1а=1
— Z,D (A?1) 4* ^D {k^l^li 4~ ^D U^kxk^ 4“ ‘ ’ ’ 4“ 2*D (^v/^1* • ‘^V-l)*
(21.23)
Аналогичные соотношения справедливы и для частной диагностической ценности комплекса признаков
^о - (^1^2 • • • к^ " Zj Zj * * * ^ (^is^2p • • • k^fD^ X
s=l р=1а=1
X 10g2 VP №Лр- • .MD^P (KJ^. • -Mb(21.24)
ДИАГНОСТИЧЕСКАЯ ЦЕННОСТЬ
ПРИ ПОСЛЕДОВАТЕЛЬНОМ ПРОВЕДЕНИИ ОБСЛЕДОВАНИЯ
Общая диагностическая ценность. Рассмотрим диагностическую ценность обследования по признаку к 2 при условии, что результаты обследования по признаку кх известны (признак кг получил реализацию к^. Диагностическая ценность такого обследования с учетом всех возможных реализаций признака кх определялась по формуле (21.8), которую можно записать в виде тг
ZD (^2/61) = 2 Р ^ ZD W.(22.1)
S=1
где условная диагностическая ценность обследования к2 в соответствии с равенствами (21.10), (21.11)
ZD (Ы1з) = Н (D/^ls) - Н (ЩкхМ(22.2)
В последнем соотношении п
Н (D/^ls) = - £ Р (DM log2 Р (DM;(22.3)
<=i
п тг
Н (D/klsk2) = - 2 2 Р (кМ Р ФДМ log2 Р (DJkM = Z=1 р=1
= Д Р (WН (D/кМ-(22.4)
В другой форме уравнение (22.2) будет таким:
Zn(k2lk\^ = 2 S Р (Dikip/kis) log2 [Р (Djkx^lP (DМй = 4=1 р=1
= 5 S Р (Dik2lM log2 [^ (k^D^/P (kMV(22.5)
1=1 Р=1
Частная диагностическая ценность. Теперь можно записать выражение для частной условной диагностической ценности обследования по признаку к2 для диагноза D,. Представляя равенство (22.5) в виде
ZD (кМ =iiP Wx^ ZD. (k2/kxs),(22.6)
r=l1
найдем
^D; (^V^ls) = ^1 ^ (^2p/^i^ls) 1°§2 [^ (^p/^i^ls)/^* (^2p/^ls)b(22.7)
p=l
Если признаки k2 иЛх диагностически независимы (для дан* ной реализации признака к* = k\s^
Р (&2p/^ls) = Р (&2р)> Р (^2p/^i^ls) ~ Р (^2р/^1')>
ТО
ZdAM^-Zd^Y(22.8)
Общий случай. Подобные результаты легко обобщаются в случае, когда обследование проводится после того, как стали известны результаты обследования по комплексу признаков К, включающему признаки кг и кг. Для нового обследования по признаку к3 будем иметь
ZD (kdK») = Б 2 Р Ф(каг1к15к^ log2 [Р ф^О^к^Р ^3rlkxsk2^Y /=1 Г=1
(22.9) т»
^Dt М®з!К^ = ^ Р (^3,/Di^ls^2p) 1°§2 [^ k^rl^i^Xs^^lP (^3r^ls^2p)L
(22.10)
где к^к^ = К* — реализация комплекса признаков К.
Если проведено обследование по комплексу признаков К№ и требуется выбрать новый комплекс признаков для одновременного обследования Kw с наибольшей диагностической ценностью, то следует исходить из величины
ZD (^/К^) = ZD <J$xlK^ + Z.d ММ +
+ • • • + ZD (kjK^kiki... ^_i).(22.11)
Пример определения диагностических весов признаков и диагностической ценности обследования. Исследуются три различных состояния объекта (диагнозы Dv D2, Z)3) с помощью обследования по девяти простым (двухразрядным) признакам. Из 36 обследованных объектов в первом состоянии оказалось 10, во втором 12, в третьем 14; результаты обследования по признакам указаны в табл. 11. Отметим, что первый диагноз характеризуется наличием не менее двух заштрихованных квадратов (единиц) в первой строке и не менее двух белых квадратов (нулей) в остальных строках и т. п. Частота встречаемости признака принимается в качестве его вероятности. Например, для первого признака (наличие признака < отсутствие £х):
Р (W = -^ = 0,800; Р IMD^ = А = 0,250; Р (W) = -^ = 0,357;
Р (&1) = 5 = °-444'
Статистические данные
СО о к
СО
Признак kj
Геометрические иллюстрации
kt
кг
кг
^4
кг
кв
кг
кв
к»
Di
1
2
3
4
5
6
7
8
9
10
1 1 1 0 1
1 1
1 0
1
1 1 0 1
1 1
1 0
1 1
1 0 1
1 1
1 0
1 1
1
1 0
1 0
1
0 1
0 0
0
0 1
0 0
0 1
0 0
1 0
0 0 0
1 0 0 0
1 0
1
0 0 0
1 0 0 0
1 0
1
0 1
0 0
0 1
0 0
1 0
1 0
1 0
1 0
1 0 0 0
— £2.
JL_LJL
7 8 9
N,N,
d4
1 2
3 4
5 6
7 8 9
10 11 12
0 0 0
1 0 0 0
1 0
1 0 0
0 1 0
0 0
1 0 0
1 0 0
1
1
0 1
0 1
0 1
0 0
0 1
0
0 1 1
1 0
1 1
1 1
1 0
1
1 0
1
1 1
1 0
1 1
1 1
1
1 1 0 1
1 1
1 1 0
1 1
1
0 0
1 0 0 0
1 0 0
1 1 0
1 0 0
1 0
1 0
1 0 0 0 0
0 1 0 0
1 0 0 0
1 0 0
1
N,
N)
to
хЖ
Ши
d8
1 2
3 4
5
6
7 8
9
10 11
12
13 14
1 0
1 0 1 0
1 0 0 0 0 0 0
1
0 1
0 0
0 1
0 0
1 0 0
1 0 0
0 0
0 1
0 0 0
1 0
1 1 0
1 0
0 0
1 0 0 0
1 0 0
1 1 0
1 0
1 0 0
1 0
1 0
1 0 0 0
1 0 0
0 1 0 0
1 0 0 0
1 0 0 0 0
1
1
0 1
1 1
1 0
1 1
1 1
0 1
1
1 1
1 0
1 1
1 1 0 1
1 1
1 0
0
1 1
1 0
1
1
1
1
1
1 1
0
1
——
to
Далее определяется независимый диагностический вес реализаций признаков по формуле (19.1) и независимая диагностическая ценность обследования по равенству (20.3).
Результаты расчета приведены в табл. 12. Отметим, что для диагноза DT наибольшую диагностическую ценность имеет обследование по признакам 1, 2, 3; для диагноза D2 — по признакам 4, 5, 6 и для диагноза D3 — по признакам 7, 8, 9. Для всей системы диагнозов значения диагностических ценностей обследований изменяются не столь значительно. В табл. 13 указаны значения условной диагностической ценности обследований после проведения обследования по первому признаку. Из таблицы видно существенное изменение диагностической ценности обследовании в связи с тон иди иной реализацией первого признака.
MtMtТаблица 12
Mt
Mt
Вероятности, диагностические веса реализаций и диагностические ценности различных признаков
Признак к!
Диагноз D^
₽ <кь
ZD(kj)
Dt
D»
D3
Р (DJ =0,278
Р (D2) =0,333
Р (D3) = 0,389
•йГ'
N
1*7
«еГ*
о»
•еГ'
N
N
Q,
N
Q N
N
1
0,800
0,848
—1,475
0,383
0,250
—0,830
0,443
0,117
0,357
—0,315
0,210
0,023
0,444
0,154
2
0,800
0,848
—1,475
0,383
0,333
—0,415
0,263
0,037
0,286
—0,635
0,362
0,017
0,444
0,149
3
0,800
0,678
—1,322
0,278
0,417
—0,263
0,222
0,020
0,357
—0,486
0,363
0,059
0,500
0,107
4
0,400
—0,322
0,263
0,029
0,750
0,585
—1,000
0,189
0,357
—0,486
0,363
0,059
0,500
0,094
5
0,300
—0,737
0,486
0,119
0,833
0,737
—1,585
0,350
0,357
—0,486
0,363
0,059
0,500
0,173
6
0,300
—0,654
0,408
0,089
0,833
0,820
—1,653
0,408
0,286
—0,723
0,437
0,106
0,473
0,179
7
0,300
—0,737
0,486
0,119
0,333
—0,585
0,415
0,082
0,786
0,652
—1,225
0,251
0,500
0,158
8
0,300
—0,737
0,486
0,119
0,333
—0,585
0,415
0,082
0,786
0,652
—1,225
0,251
0,500
0,158
9
0,400
—0,400
0,346
0,047
0,333
—0,662
0,498
0,111
0,786
0,575
—1,141
0,208
0,528
0,141
Условные диагностические ценности обследованияТаблица 13
Признак
*/
Диагноз D^
ZD (к11кг)
ZD W
Di
D2
D»
ZDt X х V4/ki)
ZDtX x (*//*i)
zDt X x
ZD, X x (^/Л)
ZD,X X (*//*i)
Zd, X X ^iM
2
0,420
1,000
0,678
0,009
0,678
0,009
0,606
0,284
3
0,420
0,737
0,678
0,006
0,678
0,006
0,606
0,209
4
0,011
0,863
0,830
0,136
0,077
0,041
0,310
0,301
5
0,051
0,029
1,415
0,102
0,103
0,071
0,526
0,070
6
0,109
0,000
1,193
0,235
0,004
0,235
0,430
0,170
7
0,109
0,007
0,033
0,137
0,398
0,163
0,196
0,111
8
0,189
0,000
0,082
0,235
0,278
0,235
0,188
0,170
ПОСТРОЕНИЕ ОПТИМАЛЬНОГО
ДИАГНОСТИЧЕСКОГО ПРОЦЕССА
Необходимый объем информации. В задачах диагностики чрезвычайно существенным оказывается выбор наиболее информативных признаков для описания объекта. Во многих случаях это связано с трудностью получения самой информации (число датчиков, характеризующих рабочий процесс машины, по необходимости весьма ограничено). В других случаях имеют значение время и стоимость диагностического обследования и т. п.
С теоретической точки зрения процесс диагностического обследования можно представить следующим образом. Имеется система, которая может находиться с некоторой вероятностью в одном из состояний, заранее неизвестном. Если априорные вероятности состояний Р (Di) могут быть получены из статистических данных, то энтропия системы
п
H(D) = -^P (Dt) log2 Р (Dt).(23.1)
1=1
В результате полного диагностического обследования по комплексу признаков К состояние системы становится известным (например, выясняется, что система находится в состоянии Dx, тогда Р (D,) = 1, Р (Dt) = О (i = 2, . . ., п). После проведения полного диагностического обследования энтропия (неопределенность) системы
H(D/K) = 0.(23.2)
Внесенная информация, содержащаяся в диагностическом обследовании, или диагностическая ценность обследования
Jd (К) = ZD (К) = H(D) — H (DiК) = Н (D).(23.3)
В действительности, условие (23.2) удается выполнить далеко не всегда. Во многих случаях распознавание носит статистический характер и необходимо знать, что вероятность одного из состояний достаточно высока [например, P(DJ = 0,95]. Для подобных ситуаций «остаточная» энтропия системы Н (D/K)+ + 0.
В практических случаях необходимая диагностическая ценность обследования
ZD (К) = № (D),(23.4)
где |—коэффициент полноты обследования, 0 < | < 1.
Коэффициент £ зависит от надежности распознавания и для реальных диагностических процессов должен быть близок единице. Если априорные вероятности состояний системы неизвестны, то всегда можно дать верхнюю оценку энтропии системы
Н (D) с log2 п,(23.5)
где п — число состояний системы.
Из условия (23.4) вытекает, что объем информации, которую необходимо получить при диагностическом обследовании, является заданным и требуется построить оптимальный процесс его накопления.и
Условия оптимальности. При построении диагностического процесса следует учесть сложность получения соответствующей информации. Назовем коэффициентом оптимальности диагностического обследования по признаку kj для диагноза Di величину Хц = 7в.^1сЧ1(23.6)
где ZD. (kj) — диагностическая ценность обследования по признаку к; для диагноза D,. В общем случае Zot (kj) определяется с учетом результатов предыдущих обследований; Сц — коэффициент сложности обследования по признаку к} для диагноза D,, характеризующий трудоемкость и стоимость обследования, его достоверность, длительность и другие факторы. Предполагается, что Сц не зависит от проведенных ранее обследований.
Коэффициент оптимальности обследования для всей системы диагнозов
пIn■
Xj=^P (DJ ZD. (kj) 2 P (D{) C4 = ZD. (kj)/Cj.(23.7)
1=1I 1=1
При вычислении X/ проводится осреднение информации и сложности обследования по всем диагнозам.
Пусть проводится обследование по комплексу признаков кг и кг. Коэффициент оптимальности при одновременном обследовании
X = \ZD (kJ + ZD (kJkJMlCj. + С2].(23.8)
При обследовании по признаку к^ после того, как известны результаты обследования по признаку klt
X = \ZD (кЪ + Zd (k2lkX)\l(Cx + С2].(23.9)
Если коэффициенты оптимальности первого и второго обследования Хх = ZD (kiYCv Х2 = Zq (k2/kls)/Cit то коэффициент оптимальности для комплекса признаков имеет промежуточное значение:'
(Xi> X2)mln с X с (Хх, Х2)шах.(23.10)
Подобный результат справедлив для обследования по произвольному комплексу признаков. Если проведено обследование по комплексу v признаков с коэффициентом оптимальности X(v) и добавляется обследование по (v + 1)-му признаку с коэффициентом оптимальности Xv+1, то для суммарного обследования коэффициент оптимальности возрастает при Xv+1>X<v) и уменьшается при Xv+1 <X(V>.
Для обследования по комплексу К из v признаков коэффициент оптимальности
(23.11)(23.11)x^^ZdCk^)! 5 су, I 7=1
(23.11)
(23.11)
где Zd {К^} — диагностическая ценность обследования по ком* плексу признаков.
Если обследования имеют одинаковую сложность Ci = = С 2 = * * * ~ Cv = С о, то
(23.12)(23.12)X = ZD(K(v))/(vCo).
(23.12)
(23.12)
Коэффициент оптимальности будет наибольшим, если необходимая величина диагностической ценности получается при наименьшем числе отдельных обследований. В общем случае оптимальный диагностический процесс должен обеспечить получение наибольшего значения коэффициента оптимальности всего обследования (условие оптимальности диагностического обследования).
Построение оптимального процесса. Если были проведены испытания в последовательном порядке по признакам ка. k^ то для оптимального плана процесса должна быть максимальной величина
1 =1 =(23.13)(23.13)С« + Ср + Су + • • •С« + Ср + Су + • • •2» (М + Zp ^к*^ + ZD (к^к^) + 1 • ‘
1 =
1 =
(23.13)
(23.13)
С« + Ср + Су + • • •
С« + Ср + Су + • • •
где ka, ftp — реализации признаков &а, йр (значения признаков, полученные в результате испытания).
Однако при построении оптимального процесса имеются принципиальные трудности: реализации признаков заранее неизвестны и решение задачи на каждом этапе имеет вероятностный характер. Выбор диагностического комплекса из общего числа признаков и первоначальный план обследования намечаются из условия максимума:
х =х =(23.14)(23.14)Са + Ср + Су + • • •Са + Ср + Су + • • •^o(^g)+^D(^g/^a)+^o[^y/(^a^g)]+" ■
х =
х =
(23.14)
(23.14)
Са + Ср + Су + • • •
Са + Ср + Су + • • •
В числитель этого выражения входят математические ожидания диагностических ценностей обследований. Первым в планируемой очередности проводится обследование по признаку с наибольшим частным коэффициентом оптимальности и т. д.
Условие максимума (23.11) остается в силе для комплекса одновременных обследований, когда результаты отдельных обследований становятся известными лишь после проведения всего комплекса или когда требуется заранее наметить состав этого комплекса.
План дальнейших обследований, составленный после получения результатов первого, должен исходить из максимума
(23.15)(23.15)А = ZD (^p/^g) + ZD [^/(^р)] Н
(23.15)
(23.15)
Ср + Су + • • •
и т. д. Очевидно, что построение такого процесса требует рассмотрения очень большого числа вариантов, что затрудняет его использование.
В практических задачах может быть использовано построение процесса, близкого к оптимальному с «предсказанием» на несколько шагов. Например, для наиболее простого одношагового процесса в качестве первого обследования принимается обследование с наибольшим коэффициентом оптимальности
X-Zo^/C».(23.16)
Вторым назначается обследование, дающее максимум
X = ZD^/fe^C^.(23.17)
И т. д.
Для двухшагового процесса соответственно исходим из величин
(23.18)(23.18)(23.19)(23.19)_ ZD (^g) + ZD (^а/^р) . Cg + Cp ’
(23.18)
(23.18)
(23.19)
(23.19)
М^/О + ^ХМCp + Cv
Двухшаговый процесс по сравнению с одношаговым позволяет более обоснованно выбрать очередность обследований, ибо он учитывает не только ценность изолированного обследования, но и прогнозируемую эффективность его сочетания с последующим. Если в результате первых обследований установлено, что наиболее вероятным является диагноз Di и дальнейшие обследования необходимы для подтверждения диагноза, то при определении коэффициентов оптимальности целесообразно исходить из диагностических ценностей для данного диагноза (или группы диагнозов).
Глава 9
ВВЕДЕНИЕ В АНАЛИЗ СЛУЧАЙНЫХ ПРОЦЕССОВ
Вводные замечания. Во многих случаях информация о состоянии машины поступает в виде случайной функции, т. е. функции, значения которой в различные моменты времени заранее неизвестны. Подобная ситуация характерна, в первую очередь, для задач вибрационной и акустической диагностики [40, 45].
При вибрационной диагностике проводится запись динамических смещений или скоростей с помощью вибродатчиков, установленных на корпусе машины. Вибросмещения корпуса представляют собой случайные колебания, состоящие из множества отдельных колебаний со случайными амплитудами и частотами. Это связано с тем, что вибрации появляются в результате наложения большого числа разнообразных динамических воздействий, возникающих в элементах машины (собственные и вынужденные колебания, соударения, воздействия рабочей и внешней среды и т. п.). Среди воздействий, носящих хаотический, случайный характер могут быть и «полезные сигналы», несущие диагностическую информацию о конкретном дефекте. При акустической диагностике записывается шум, вызываемый движением и колебаниями частей машины и воздействием рабочего процесса на окружающую атмосферу (например, выхлопных газов, реактивной струи и т. п.). Так же как и в задачах вибрационной диагностики, акустические колебания представляют собой случайный процесс, содержащий диагностическую информацию.
При анализе случайных процессов в технической диагностике используются два основных метода.
Первый метод состоит в изучении общей структуры случайного процесса. Изменение статистических характеристик случайного процесса связывается с появлением неисправностей или других отклонений от нормального состояния машины. Достаточно напомнить, что опытный механик по изменению шума двигателя часто может определить возникновение дефекта.
Второй метод — выделение полезного сигнала на фоне помех — состоит в изучении отдельных составляющих случайного
1611616 И. А. Биргер
161
161
процесса (например, выявление ошибок зацепления в зубьях шестерен по появлению периодических импульсов с частотой соударений и т. п.).
Два указанных направления дополняют друг друга и базируются на теории случайных процессов. Рассмотрим вкратце основные сведения из математической теории случайных процессов, необходимые для решения задач технической диагностики.
§ 24. СТАТИСТИЧЕСКИЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ФУНКЦИЙ
Общие сведения. Случайной функцией называется функция, значения которой при каждом значении аргумента имеет случайное распределение. В дальнейшем, за редким исключением, рассматриваются случайные функции времени t. Допустим, что требуется определить вибросмещения корпуса двигателя (в плоскости опоры) как показатель состояния двигателя. Для каждого двигателя, например /-го, вибродатчиком записывается колебательное смещение х, $ (при определенной частоте вращения и за определенное время).
Очевидно, что кривые xt $ будут отличаться друг от друга даже в однородной партии двигателей из-за случайных отклонений. Вместе с тем функции х£ (0 имеют общие черты, и поэтому для данной партии двигателей удобно рассматривать вибросмещение как случайный процесс, представляемый одной случайной функцией х (/)• Тогда каждая функция xL (/) является конкретным проявлением (реализацией) случайной функции, а совокупность всех возможных реализаций образует случайную функцию х (О-
Нельзя указать заранее, какую именно реализацию, какие значения получит случайная функция х ^, но можно установить некоторые общие свойства случайной функции. Например, можно определить среднее значение (математическое ожидание) случайной функции и с определенной вероятностью полосу, в которой окажутся реализации случайной функции (рис. 38). Случайная функция является количественным описанием случайного процесса, порождающего случайное поведение во времени / пара
метра х. Случайная функция представляет собой математическую модель случайного процесса. Часто термины «случайная функция» и «случайный процесс» считают совпадающими, отождествляя математическую модель и
Рис. 38. Случайная функция
Рис. 39. Распределение случайной Рис. 40. Одномерная плотность функции в различные моменты вре- распределения и среднее значе- мени ние случайной функции
само явление. Изучение физических механизмов случайных процессов обычно невозможно или нецелесообразно и потому в дальнейшем используется статистическая модель процесса в виде случайной функции. Статистические характеристики случайного процесса (случайной функции) выявляются с помощью наблюдения за ее конкретными реализациями.
Плотность распределения случайных функций и среднее значение. Будем рассматривать непрерывные случайные функции. В каждый момент времени случайная функция представляет собой случайную величину, имеющую непрерывное распределение. Плотность распределения случайной функции в данный момент времени будем обозначать f (х; I). В такой записи отмечается, что время t рассматривается как параметр. Плотность распределения позволяет определить среднее значение (математическое ожидание) случайной функции
x^ = <.x^'> = mxW= J xf (х; t) dx. (24.1)
Среднему значению случайной функции можно дать статистическую оценку с помощью наблюдений за различными реализациями случайной функции. На рис. 39 показаны экспериментально определенные реализации случайной функции х ^. Среднее значение в момент времени tY
(24.2)
Совокупность средних значений в различные моменты времени образует х (f). Существенно, что среднее значение случайной функции (х (0) не является случайной функцией. Если известна плотность распределения случайной функции в каждом сечении, то х (0 = тх (t) — детерминированная функция времени. На рис. 40 показаны плотность распределения и среднее значение
6» 163
Рис. 41. Различное поведение случайных функций при одинаковых средних значениях
случайной функции. В каждом сечении можно найти дисперсию случайной функции
Dx^ = J к(0 — х^Цх; t) dx,(24.3)
и среднеквадратичное отклонение
oUO = /0)-(24.4)
Величина ох (/) практически определяет границы полосы случайной функции, они отстоят от среднего значения х $ не далее (3-5) а. (О-
Двухмерная плотность распределения. Плотность распределения / (х; 0 позволяет найти среднее значение случайной функции и ее дисперсию, но не содержит информации о поведении случайного процесса.
На рис. 41 показаны две случайные функции, обладающие одинаковыми средними значениями, но одна из них описывает плавный процесс (рис. 41, а), а вторая — сильно перемешанный (рис. 41, бу Значения случайной функции при времени tv и t2 обозначим
x(ti) = x1\ х(/2) = х2(24.5)
и будем рассматривать их как связанные случайные величины. Для совокупности двух случайных величин (см. гл. 11) можно ввести плотность совместного распределения
/2 (^i. х2; 0, /2).(24.6)
Величина f2 называется двухмерной плотностью распределения случайной функции. Она показывает, насколько связаны между собой значения случайной функции при двух различных моментах времени. Количественная оценка этой связи дается с помощью автокорреляционной функции..
164
Автокорреляционная функция. Корреляционная функция или корреляционный момент для значений случайной функции в момент времени tx и /2
Кх (К, tO = f j (xi — *1) (*2 — ^2) /2 (*i> ^; ^1. ^2) d-Ч dx2. (24.7)
Величины хг и х2 относятся к одной и той же реализации процесса, а интегрирование (суммирование) проводится по множеству реализаций. Если рассматриваются значения одной и той же случайной функции, но в различные моменты времени, то функция Кх Uv ^2) называется автокорреляционной или просто корреляционной? Если значения tt и t2 совпадают, то корреляционная функция становится равной дисперсии случайной функции:
Kx(tv ^1)= j f (Ч — x02h(xn х2; it, t^cb^dx^
- J (^1 - V/to; /1) dx-L = Dx (t{) = or? (6).(24.8)
Из определения корреляционной функции вытекает свойство симметрии
.Мк, t^-Kx^ /1).(24.9)
Часто оказывается удобным воспользоваться нормированной автокорреляционной функцией
рх (^ to = J^toti .(24.10)
rx V 1» 2/ Ох Ох (уV /
Величина рЛ (tv tO представляет собой коэффициент корреляции для значений случайной функции в сечениях tx и t2. В соответствии с равенством (24.8)
Рх(<ь ^) = Рх(^ У=1.(24.11)
Так как всегда
1КЛ/1. ^«^(^(У,(24.12)
то
|Px(/i, У|<1-(24.13)
Нормированная автокорреляционная функция также обладает свойством симметрии:
Рх(<1, tO = Px(t^ to.(24.14)
Если к случайной функции х (0 добавляется неслучайная (детерминированная) функция <р (0. то величины Кх (tv t0> Рх (^i, ^2)1 ах (tO, ох (t0 остаются без изменения. Последнее вытекает из 165
равенства_(24.6), так как одна и та же величина ср (/) прибавляется к х (t) и х (О* В связи с этим к любой случайной функции можно добавить детерминированную так, что математическое ожидание случайной функции окажется равным нулю, а корреляционная функция и дисперсия останутся прежними. Для этого достаточно положить ср (/) = —х (/). Случайные функции с нулевым математическим ожиданием (средним значением)
х^ = х^-х^ (24.15)
называют центрированными или флуктуационными.
Если случайная функция умножается на детерминированную, то для
х* (/) = ср (/) %(/)(24.16)
получим
Кх* (/1, t^ = ср (/1) ф (/2) Кх /2);(24.17)
рИ^ь ^) = Рх(/ь /2).(24.18)
Из последнего соотношения вытекает, что нормированная автокорреляционная функция не зависит от масштаба измерений, даже переменного во времени.
Пример. Измеряемый параметр представляет собой детерминированную функцию времени, на которую накладываются колебания со случайными амплитудами, но с постоянной частотой х (/) = Ф (/) + и cos (со/) + и sin (со/), где и, и — случайные величины, не зависящие от времени, с известными плотностями распределений. Требуется определить статистические характеристики (среднее значение и корреляционную функцию) случайной функции х (/).
Среднее значение случайной функции х (/) = ср (/) + и cos (со/) + v sin (со/).
Автокорреляционная функция [равенство (23.6)] Кх (/i, У = J J №—и) X
X cos (со/х) + (у — и) sin (co/J] [(^ — и) cos (со/2) + (и — и) sin (со/2)] / (и, у) dudv, где f (и, и) — совместная плотность распределения случайных величин и и и.
Далее находим Кх (/р /2) = ^ cos (со/т) cos (со/2) + о2 sin (со/0 sin (со/2) + + Киу [cos (co/j) sin (со/2) + sin (со/х) cos (со/2)], где Кии = j j (и — и) (и — и) X X f (и, v) du du — корреляционный момент случайных величин и и и.
Для независимых случайных амплитуд и и v Кх (/р /2) = о2 cos (со/^ X X cos (со/2) + о2 sin (co/J sin (со/2).
Наконец, если ои= Оу = о, то Кх (^р /2) = q2 cos [w (^2 — У1 = °2 cos (сот), где т = /2 — 1г — разность сечений по времени.
Для независимых случайных амплитуд и и v с одинаковыми среднеквадратичными отклонениями автокорреляционная функция является гармонической функцией расстояния по времени. Нормированная автокорреляционная функция для независимых и и и
а^ cos (со^) cos (со/2) + Оу sin (co/j) sin (co/2)
Px (/p /2)—r-—'
\ [°2 COS2 (to^) + a2 sin2 (co^)] [o2 cos2 (<o/2) + °u sin2^^)]
При Gu = Oy = о px (/lt /2) = cos (cot).
Автокорреляционная функция характеризует главным образом тесноту линейной связи значений случайной функции в двух сечениях. Если значения х (t^ и х (/2) независимы (процесс с сильным перемешиванием), то корреляционная функция обращается в нуль. Обратное утверждение имеет ограниченную силу. Из условия Кх (G» Q = 0 вытекает, что линейная связь между величинами х (^ и х (/2) отсутствует или что х (0 представляет собой детерминированную функцию. При наличии линейной связи X (/2) = «о + «Iх (^1) или
х2 = а0-|-а1х1(24.19)
найдем следующее значение корреляционной функции:
Кх^ъ ^)= f j Ui — *1) (х2 — х2) f2 (xb x2; 0, /2) dxi dx2 = aio* (0).
(24.20)
При линейной связи значение корреляционной функции будет наибольшим, что вытекает из неравенства (24.12), которое в данном случае превращается в равенство. Еще более показательным становится величина нормированной автокорреляционной функции при условии (24.19)
Ух,°х11 °1 | °х.Ух,°х11 °1 | °х./ 1 й1 I — । ^/ 1 й1 I — । ^(24.21)(24.21)
Ух,°х11 °1 | °х.
Ух,°х11 °1 | °х.
/ 1 й1 I — । ^
/ 1 й1 I — । ^
(24.21)
(24.21)
При линейной связи значений случайной функции в двух сечениях | рх (^i> ^2) I = 1- Можно говорить о положительной и отрицательной корреляции. Если большим значениям х (^) соответствуют большие значения х (i2), то корреляция положительна и наоборот.
Взаимная корреляционная функция и корреляционное отношение. В практических задачах часто оказывается необходимым установить наличие или отсутствие связи двух случайных процессов (например, пульсации давления в потоке газа и переменных напряжений в конструкции). Если х (0 и у (0 — две случайные функции и рассматриваются их значения в моменты времени 1г и /2, то взаимный корреляционный момент
^xyfti., У = J J М:(Ух (0)1 [У (УУ (^г)1 fi (х> У» ^ъ ^i)dxdy,
(24.22)
где f2 (х, у; tv /2) — плотность вероятности совместного распределения случайных величин х (t^ и у (<2). В частном случае мо-
Рис. 42. Определение корреляционного отношения
менты времени могут быть одинаковыми. Существенно, что величины х и у относятся к одной и той же реализации двумерного случайного процесса, к одному объекту (пульсация
и напряжения в корпусе данного двигателя). Величина Кху (^ь U называется взаимной корреляционной функцией. Нормированная функция взаимной кор
реляции
(24.23)(24.23)9ху (^Ь ^2) Кху (^1> Ш^Х (^1) ^у (^2)]*
(24.23)
(24.23)
При наличии линейной связи у (/2) = aQ-Vaxx Vt^ нормированная функция
(1 ах > 0;
MV2) = |_ ! Д1<0
Важной характеристикой зависимости случайных функций у (О и х (0 является корреляционное отношение. Если ух— среднее значение у при данном х (рис. 42), то корреляционное отношение у (^ к х (1^
Чд/х №, 4) = -5-Чд/х №, 4) = -5-' ОО2f (5х^ — y№f(x; t^dx' ОО2f (5х^ — y№f(x; t^dx°д °у°д °у(24.24)(24.24)1
Чд/х №, 4) = -5-
Чд/х №, 4) = -5-
' ОО2
f (5х^ — y№f(x; t^dx
' ОО2
f (5х^ — y№f(x; t^dx
°д °у
°д °у
(24.24)
(24.24)
где f (х; t^ — плотность распределения случайной величины х (/J; у (/2), Сд—среднее значение и среднеквадратичное отклонение случайной величины у YQ. По физическому смыслу Оу представляет собой среднеквадратичное отклонение для случая, когда у (t^ является функцией х (t^, т. е. при наличии строгой корреляции между указанными величинами. В этом случае Оу=ау и
/2)= 1.(24.25)
Например, при наличии линейной связи у (/2) = а0 + агх (G) получим ух = а0 + Qix (G); у = а0 Л-агх (t^; ау = | аг | ах и равенства (24.23) и (24.24) совпадают.
Аналогичным образом определяется корреляционное отношение х к у:
Пг/Д^. ^) = y"l 1 Cxy^-xWHy; tydy Ох —ОО
При линейной связи х (tj) и у (<2) т\х,д (/ь t^ = 1, что совпадает с равенством (24.25).
§ 25. СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
Общие замечания. Стационарными случайными процессами называются установившиеся процессы, для которых начало отсчета времени несущественно. Подобные процессы: часто встречаются в задачах технической диагностики и соответствуют стадии постепенного развития дефекта (различного рода установившиеся колебания, стационарные шумы и т. п.). Наиболее ярким необходимым признаком стационарности процесса является постоянство его статистических характеристик (среднего значения и среднеквадратичного отклонения) в любой момент времени. Пусть рассматриваемый процесс описывается стационарной случайной функцией х (/). В каждый момент времени t (т. е. в каждом сечении функции) среднее значение функции х (О и среднеквадратичное отклонение постоянны:
х(0 = const;
ах (t) = const.
(25.1)(25.2)(25.1)(25.2)Эти условия накладывают существенные ограничения на вид случайной функции. Например, простейшая случайная функция (гармонические колебания со случайной амплитудой и постоянной частотой со)
(25.1)
(25.2)
(25.1)
(25.2)
(25.3)(25.3)х (/) = и cos со/
(25.3)
(25.3)
не удовлетворяет условиям стационарности.
На рис. 43 показаны реализации элементарной случайной функции (25.3). Из графиков видно, что средние значения и среднеквадратичные отклонения в различных сечениях функции (например, tx и /2) не являются постоянными и, следовательно, сама функция не является стационарной.
Рассмотрим случайную функцию
(25.4)(25.4)В равенстве (25.4) и, случайная (детерминированная) играют важную роль в теории стационарных процессов. Математическое ожидание х (t) = = и cos (tot) + v sin (tot) будет постоянно лишь при условии « = 0, ^=0,(25.5)Рис. 43. Элементарная случайная функция х (t) = и cos (со/)В равенстве (25.4) и, случайная (детерминированная) играют важную роль в теории стационарных процессов. Математическое ожидание х (t) = = и cos (tot) + v sin (tot) будет постоянно лишь при условии « = 0, ^=0,(25.5)Рис. 43. Элементарная случайная функция х (t) = и cos (со/)о — случайныео — случайныеамплитуды; со — не- частота. Функции такого типаамплитуды; со — не- частота. Функции такого типах (/) = и cos tot -|- у sin tot.
(25.4)
(25.4)
В равенстве (25.4) и, случайная (детерминированная) играют важную роль в теории стационарных процессов. Математическое ожидание х (t) = = и cos (tot) + v sin (tot) будет постоянно лишь при условии « = 0, ^=0,(25.5)
Рис. 43. Элементарная случайная функция х (t) = и cos (со/)
В равенстве (25.4) и, случайная (детерминированная) играют важную роль в теории стационарных процессов. Математическое ожидание х (t) = = и cos (tot) + v sin (tot) будет постоянно лишь при условии « = 0, ^=0,(25.5)
Рис. 43. Элементарная случайная функция х (t) = и cos (со/)
о — случайные
о — случайные
амплитуды; со — не- частота. Функции такого типа
амплитуды; со — не- частота. Функции такого типа
т. е. амплитуды случайных колебаний должны иметь среднее значение, равное нулю. Среднеквадратичное отклонение
Ох (t) = Оц COS2 (tot) + О2 Sin2 (tot) + Кио Sin (tot) COS (tot), где Kuo — корреляционный момент случайных величин и и и. ох будет постоянно только в случае, если
аи = оо = а;(25.6)
Лио = 0.(25.7)
Условия (25.1) и (25.2) являются необходимыми, но недостаточными условиями стационарности. Не нарушая общности, можно изучать центрированный (флуктуационный) случайный процесс x0(t) = x(t) — x(t),(25.8)
и потому условие (25.1) несущественно.
Условие (25.2) является следствием более сильного (необходимого и достаточного) условия стационарности Ч Оно состоит в том, что автокорреляционная функция процесса Кх (ti, t^ должна зависеть только от разности времени наблюдений:
КДк, Ц) = КДЦ-к)(25.9)
или
КДк к) = Кх(х),(25.10)
где t = 4-/v(25.11)
Ранее было показано [формула (24.7)], что корреляционная функция для одного и того же момента времени
Kx(h, tx) = Kx(t, t) = o2(t).
Для стационарного случайного процесса согласно равенству (25.9)
о2 (t) = Kx(t, t) = Кх (0) = const.(25.12)
Таким образом, условие (25.2) выступает как следствие равенства (25.10).
Для функции (25.4) автокорреляционная функция при условиях (25.6) и (25.7)
Кх (ti, tz) = (т2 cos (®6) cos (co/2) + о» sin (®ti) sin (co/2) =
= о2 [cos (tot^ cos (tot2) -|- sin (co^) sin (co/2)] = o2 cos (сот). (25.13)
Рассматриваются условия стационарности в широком смысле, для которых существенны лишь первые две плотности вероятности.
170
Так как соотношение (25.10) выполняется, то случайная функция х (t) = и cos tot 4- v sin tot(25.14)
является стационарной при
u = v = 0; au = an = a; Кии = 0.(25.15)
Случайные величины и и и должны быть некоррелированными случайными величинами с одинаковыми дисперсиями и нулевыми математическими ожиданиями.
Случайные функции вида (25.14) при условиях (25.15) называются элементарными случайными функциями стационарного (флуктуационного) процесса. Произвольный стационарный процесс можно представить в виде суммы или последовательности элементарных процессов (25.14) подобно разложению функции в ряд Фурье. Для дальнейшего удобно напомнить необходимые сведения из обычной теории рядов Фурье.
Ряды Фурье и интеграл Фурье. Любая функция, необязательно периодическая, с несущественными для практики ограничениями, разлагается в ряд Фурье. Функция ф (/) на отрезке 0 с t ^ Т может быть представлена рядом Фурье
Ф (/) = а0!2 + ^ ak cos (&Q/) + У bk sin tk^t^(25.16)
к=1k=l
где т
ак = ^г J ф (/) cos (k^t) dt.(25.17)
о
т
Ьк = 4 J<P(Osin(^O^ 6 = 0, 1,2,...(25.18)
о
—коэффициенты Фурье;
л
£2 = -укруговая частота колебаний, соответствующая периоду Т (рис. 44).
Если функция является периодической функцией с периодом Т, т. е.
Ф(/ + П = <Р(0,(25.19)
ЯПЯП_ а)б")- 'Рис. 44. Разложение функции в ряд Фурье в интервалах (0, Г) (а) и (—Т, Т) (б)171_ а)б")- 'Рис. 44. Разложение функции в ряд Фурье в интервалах (0, Г) (а) и (—Т, Т) (б)171то ряд (25.16) дает выражение ф (/) для любого момента времени.
ЯП
ЯП
_ а)б")- '
Рис. 44. Разложение функции в ряд Фурье в интервалах (0, Г) (а) и (—Т, Т) (б)
171
_ а)б")- '
Рис. 44. Разложение функции в ряд Фурье в интервалах (0, Г) (а) и (—Т, Т) (б)
171
В случае, когда Т представляет собой участок непериодической кривой, ряд Фурье совпадает с функцией ср (/) только на этом участке. Часто используют представление функции <р (/) на участке, симметричном относительно некоторого начального сечения, условно принимаемого за начало координат (рис. 44, б).
Разложение сохраняет форму (25.16) и в этом случае, но коэффициенты Фурье будут такими:
тт
Й|6=Т j ф (0 cos (&Q/) d/; ^ = 4" J q> (/) sin (^Q/) d/;
—т—T
(25.20)(25.20)Q = -^; 6 = 0, 1, 2,....
(25.20)
(25.20)
Существенно, что значения круговой частоты в равенствах (25.17), (25.18) и (25.20) различны.
Ряд Фурье можно представить в комплексной форме. Учитывая формулу Эйлера е,а = cos а + i sin а, i = V— 1, придем к следующим соотношениям:
(
^Л .. &Л \ /
, e T — e T )l 2.(25.21)
Внося эти зависимости в ряд (25.16), находим
ф (о = 4" °® + 5 4"-ib^etkai + 24-^+ib^ *~ikat-
»=iA=i
(25.22)
Имея в виду разложение на участке (—Т, Т), получим с помощью равенств (25.20)
т
4" (°*—^=4" Iф ^[cos (^ ~1 sin ^^dt
-Т
т
= ^Р ^e^kQtdt-,(25.23)
—т
Т.
4* (а6 + ibk^ = 4г J ф ^ (cos ^Q^ + 1 sin ^ttt^ dt =
—T
T
=4" |фема/^-(25-24)
— T
Обозначим ск = (а6 — i^)/2. Коэффициент соответствующий отрицательному значению к, с_к = (аА + ib^ll. Теперь ряд Фурье можно записать в очень компактной форме
Ф (0 = 2 с^ (25.25)
где т
ек-4г \W^-№tdt\ Q = ^r; к = 0, ± 1, ±2,....(25.26)
—т
Если требуется получить представление функции ф (/) на бесконечно большом интервале времени, то ряд Фурье (25.25) переходит в интеграл Фурье.
Рассмотрим сумму ряда при Т—> оо. Величина £2 становится очень малой, но круговая частота колебаний
co = ^Q, ^ —0, ± 1, ±2,..., ±оо(25.27)
пробегает все значения—оо<о<оо дискретным образом (шаг квантования Асо = -^- = £2). При Т —оо (Q —>0) можно считать, что величина со распределяется непрерывно, причем
Асо = п/Т = £2. (25.28)
Учитывая равенства (25.20), в которых переменную интегрирования обозначим теперь т, запишем ряд Фурье (25.16) в таком виде:
ТООТ
Ф (0 = -^ j Ф (т) dT + -~- ^ Асо cos(coZ) J ф (т) cos (сот) dT +
—тS— т
т'
+ sin (со/) J ф (т) sin (сот) du •. —т-
При Т —> оо этот ряд переходит в интеграл Фурье, а первый член ряда исчезает:
т
(25.29)(25.29)lim [ ф (т) dT = 0, т->°о 1 _jT
(25.29)
(25.29)
так как предполагается, что интеграл функции ф (/) является конечным. Переходя в остальных членах от суммирования к интегрированию, найдем следующее выражение интеграла Фурье:
ф (/) = — J dm - cos (со/) j ф (т) cos (сот) dT -|- 0,00
(25.30)(25.30)+ sin (со/) [ ф (т) sin (сот) dx
(25.30)
(25.30)
В другой, более компактной форме равенство (25.30) можно записать так:
Ф(^) = -^-|^со | <р (т) cos [го (/ — т)] dr.(25.31)
0—со
Важное значение имеет представление интеграла Фурье в комплексной форме. В силу отношений (25.25)—(25.28) будем иметь
ООт
—2 幑 ^®J^We-'^dt.
k = — ОО Т
Переходя к пределу при Т —> сю, получим
(25.32)(25.32)Ф (/) = -^- J ettot dro J ф (/) е_'ш/ dt.
(25.32)
(25.32)
Последнее равенство выражает ряд Фурье в комплексной форме. Разумеется, величина © имеет физический смысл круговой частоты колебаний только при положительных значениях; распространение интегрирования на область отрицательных го является удобным математическим приемом «симметризации». Если изменить во втором интеграле равенства (25.32) обозначение переменной интегрирования, что не влияет на величину интеграла, то можно записать
Ф (Z) = -^- J dm J ф (т) eito (,-г> dr =
= "2^- J dto j ф (т) cos [го (/ — t)] dr 4-
(25.33)(25.33)4 i j Ф (t) sin m (Z — t) dr
(25.33)
(25.33)
Уравнения (25.32) и (25.33) эквивалентны.
Зависимость (25.32) приводит к понятию интегрального преобразования функции. Интегральным преобразованием Фурье для функции ф (Z) называют функцию
(25.34)(25.34)(25.35)(25.35)Ф (<о) = j ф(/) e~itot dt.
(25.34)
(25.34)
(25.35)
(25.35)
Тогда равенство (25.32) можно записать так:
Tt^"^ J е;ш'ф(ю) dto-
Оно выражает обратное преобразование Фурье (нахождение оригинала по изображению). При решении линейных дифференциальных уравнений изображение неизвестной функции находится чрезвычайно просто и задача сводится к отысканию оригинала по изображению. Интегральные преобразования Фурье и Лапласа играют большую роль в современных математических методах. Перейдем теперь к представлению стационарных случайных функций с помощью рядов Фурье.
Спектральное представление стационарной случайной функции. Рассмотрим сначала стационарную случайную функцию, которую можно представить с помощью разложения
_ N
x(t) = x (/) + 2 [«a cos (ti)kt) + ук sin (®А/)],(25.36)
к=О
где ик) о^ — некоррелированные случайные величины с нулевыми средними значениями ик = vk = 0 и попарно одинаковыми среднеквадратичными отклонениями
о„а = Ог,» = о6;(25.37)
х (I) — среднее значение случайной функции; юк — постоянные числа, характеризующие гармонический состав процесса (круговые частоты периодических функций):
tok = h^- к=\, ^....N,(25.38)
где Т — интервал времени, в пределах которого осуществляется разложение.
В дальнейшем, не нарушая общности, будем рассматривать только флуктуационную часть процесса
х0 (#) = %(/) — % (<),(25.39)
и тогда
хо W = 2 1»а cos (со60 + ук sin ((0^)].(25.40)
^=0
Распределение случайных величин ик и v^ можно найти статистическим путем, разлагая в ряд Фурье различные реализации процесса.
Соотношение (25.40) можно записать в такой форме:
N
х»^ = 2 Л6СО8(<ОЙ/— ф»),(25.41)
А=0
где
^А = V и2и + и|, ср* = arctg ^и^.(25.42)
175
Wf (i)2 Wj k)u <0<u
a)^)
Рис. 45. Спектры функций: a — дискретный; б — непрерывный
В равенстве (25.41) случайными являются амплитуда и фаза колебаний. Вследствие того, что процесс является стационарным и его статистические характеристики не зависят от времени, то случайная величина ср^ должна иметь равномерное распределение в интервале 0 с ср^ с 2л. Отсчет времени, а следовательно, и фазы колебаний для описания стационарного процесса несущественны.
Дисперсия амплитуды
^[4^ = 201,(25.43)
что вытекает из соотношений (25.37) и (25.42).
Равенства (25.40) и (25.41) представляют случайные функции в виде гармонических случайных функций со случайными, некоррелированными амплитудами и фазами и детерминированными частотами. Для такого процесса автокорреляционная функция [см. уравнение (25.13) ] Кх (G, ^2) = Кх (^2 — *i) = Кх (т) = N
= У Ok [COS (<Х>^^1) COS ((0*f2) + Sin (^l) Sin (й)^2)] ИЛИ в другой фор- к=0
ме, в виде спектрального разложения, N
КД^=1^ о! cos (со^т).(25.44)
^=0
Для обычных (детерминированных) функций представление в виде суммы гармонических составляющих составляет спектральное разложение функции. Спектром детерминированной функции называется распределение амплитуды элементарных гармонических колебаний в зависимости от частоты.
На рис. 45 показан дискретный спектр функции, имеющий в своем составе конечное число гармоник с частотами (Оц, <о2,.. ., toN. Такой спектр характерен для собственных колебаний упругих конструкций. В большинстве практических задач (пульсации, акустические колебания, вынужденные колебания конструкций) спектр имеет непрерывный характер, иногда с дискретными выбросами. Естественно, что для случайной функции спектральное представление не дает зависимости между амплитудой 176
и частотой колебаний, так как сама амплитуда в равенстве (25.40) представляет собой случайную величину.
Но спектральное представление для автокорреляционной функции [равенство (25.44) ] имеет все черты обычного спектрального разложения. Оно дает детерминированную связь дисперсии и частоты для элементарной гармонической случайной функции.
Спектром стационарной случайной функции называется зависимость дисперсии (или половины квадрата среднеквадратичной амплитуды) от частоты соответствующей гармоники. Именно автокорреляционная функция [уравнение (25.44) 1 однозначно определяет спектр стационарной случайной : функции (зависимость о! от tof.). Спектральное представление (25.44) относилось к случайной функции с конечным числом элементарных гармонических функций с частотами соА.
Рассмотрим теперь более общий случай, когда число состояний N —♦ оо, а круговые частоты
ю& = -^й£ = 0,1,2,...,(25.45)
где Т — полупериод представления функции х ^ (интервал времени —Т < t<_ TY
Равенство (25.44) будет справедливо при N —» оо, и тогда
Кх (т) = 2 cos (юАт).(25.46)
6=0
Последнее отношение представляет собой разложение четной функции в ряд Фурье. Свойство четности автокорреляционной функции
КХ^ = КД-Х>(25.47)
вытекает из условия симметрии (см. § 24) Кх ^и t^ = Кх (^2, ^i)- Для стационарных процессов будем иметь Кх (h — G) = Кх (^— —/2), откуда и получается условие четности.
В силу отношений (25.20) т
Об = 4" J Кх (т) cos (®*т) dx, k = 1, 2, 3,...
—т т
Оо = 2^ J M^dx...(25.48)
-т
Далее из условия четности т
оХ = у- j Кх (т) cos (со^т) dr, к = 1, 2, 3,.. о
т
Со = 4- [ Кх (т) dx.(25.49)
о
Разложение (25.46) справедливо для любой функции Кх (т) с несущественными для практики ограничениями. Из равенства (25.46) при т = 0 получаем важное следствие
Кх (0) = о2 = S al(25.50)
Дисперсия стационарной случайной функции равна сумме дисперсии составляющих гармоник в спектральном разложении:
х0 (0 = S 1«б cos (a>kt) + vk sin (®ft/)].(25.51)
6=0
По мере возрастания к дисперсия случайных величин ик и и6 должна стремиться к нулю (процессы с конечной энергией), так как иначе ряд (25.50) не будет сходящимся, а энергия процесса будет бесконечной. Из равенства (25.46) следует, что наибольшее значение коэффициент корреляции имеет при т = 0: Кх (0) > > I Кх (т) |.
Стационарная случайная функция с непрерывным спектром. Спектральная плотность. Во многих случаях спектры реальных систем включают настолько много частот, что их можно считать непрерывными (сплошными). Непрерывным спектром^обладают акустические вибрации, вибрации корпусов, шумы и т. п. При непрерывном спектре вместо дискретных значений дисперсий вводится плотность дисперсии. Сохраняя пока представление случайной функции х (0 на отрезке времени от 0 до Т, введем спектральную плотность, соответствующую ^-й гармонике, следующим образом:
Sx Ы = 4/Дсо,(25.52)
где
Асо = л/Т.(25.53)
Теперь из равенства (25.49) вытекает т
Sx (®б) = 2/л J Кх (т) cos (со^т) с/т.(25.54)
о
Соответственно для автокорреляционной функции из формулы (25.46) получим
Кх(х)= ^ Sj(co6) cos(coat) Асо.(22.55)
6=0
Перейдем к представлению случайной функции на неограниченном интервале времени. Для этого надо рассмотреть соотношения (25.54) и (25.55) при Т —> сю. При возрастании Т можно считать величину а>к изменяющейся непрерывно, так как
Асо = л/Т —► 0.
178
Величина al также стремится к нуЛю, а плоФносТь дйсйерсйй имеет предел
(25.56)(25.56)lim Sj (©*) = Sx (со).
(25.56)
(25.56)
Т ^ 0°
Теперь из равенства (25.54) получаем
Sx (со) = -^-1 Кх (т) cos (сот) dx.(25.57)
о
В соотношении (25.55) можно перейти от суммирования к интегрированию, и тогда
(25.58)(25.58)Кх (т) = J ^ (со) cos (сот) dto. о
(25.58)
(25.58)
Дисперсия случайной функции с непрерывным спектром
а2 = Кх^= jsx(<o)dto. о
Взаимные формулы (25.57) и (25.58) — основные в спектральной теории стационарных случайных процессов, носят название формул Винера—Хинчина. Они устанавливают однозначную зависимость между автокорреляционной функцией и спектральной плотностью (плотностью распределения дисперсий амплитуд колебаний по частоте). Представление стационарной случайной функции на неограниченном интервале времени имеет вид
х0 (О = J Iм (ю)cos (®0 + у (ю) sin (®01 d<».(25.59)
о
Оно получается из соотношения (25.40), если учесть, что роль переменной 1г поручается to и N —» со.
Спектральное представление в комплексной форме. Такое представление оказывается более удобным для теоретического анализа, так как действия с показательной функцией удобнее, чем с соответствующими тригонометрическими функциями. Пользуясь соотношением (25.21), можно записать уравнение (25.59) в такой форме:
х0 (/) = J z (го) е‘‘ш< dto,(25.60)
где
Z(to) =Z(to) =[ц (со) — iv (to)]/2«• > 0;
Z(to) =
Z(to) =
[и (— to) -j- /и (— to)]/2 to -< 0.
Рис. 46. Спектральные плотности для обычного Sx (со) и комплексного S* (со) представлений
Вывод соотношения (25.60) аналогичен переходу от обычного ряда Фурье к ряду Фурье в комплексной форме. Круговая частота со в равенстве (25.60) пробегает не только положительные, но и отрицательные значения. Последние имеют чисто математический смысл и появляются в результате «зеркального отображения» процесса в область отрицательных значений со. Можно показать, что в связи с этим спектральная плотность при комплексном представлении уменьшается вдвое (рис. 46):
S; = S;/2.(25.61)
Найдем теперь связь спектральной плотности S* (со) с автокорреляционной функцией Кх (т). В силу четности Кх (т) из равенства (25.57) вытекает
Sx (<о) = -^- J Кх (т) cos (сот) dv, 0 = -^- J Кх (т) sin (ют) dr.
Умножая второе равенство на i и вычитая из предыдущего, найдем
82 (со) = Sx (со)/2 = j Кх (т) е-‘^ dr.(25.62)
Из формулы (25.58) следует•
Кх (т) = 2 j S’ (со) cos (сот) dto.(25.63)
о
Но функция S* (со) четная (см. рис. 46), и поэтому
(т) = j S* (со) cos (сот) dm.
В силу четности 0 = J S* (со) sin (сот) dot.
Из последних равенств получаем
Кх (т) = J S: (со) е'^ с/со.(25.64)
(25.65)(25.65)Дисперсия случайной функцииа2= Кх (0) = j S; (<о) dm = J Sx (co) dm.— ООо
(25.65)
(25.65)
Для реальных процессов дисперсия ограничена, и потому спектральная плотность Sv (со) должна убывать с увеличением со
так, чтобы интеграл J Sx (со) dto оставался конечным,
о
Рассмотрим примеры определения автокорреляционной функции и спектральной плотности.
Пример 1. Белый шум — случайный процесс с равномерным распределением спектральной плотности по всем частотам. Термин «белый шум» используется по аналогии с белым светом, имеющим однородный спектральный состав. Подобные процессы изучались впервые в радиотехнических задачах, в связи с проблемой помех (шума). Рассмотрим процесс с постоянной спектральной плотностью Sx (со) на участке от (Oj до со2 (рис. 47). Из условия (25.65) следует, что плотность
Sx (со) —Sx (со) —0о2со2 — (0100о2со2 — (0100 < со < top
Sx (со) —
Sx (со) —
0
о2
со2 — (01
0
0
о2
со2 — (01
0
(01 < со < со2;
со2 < со < оо,
где а2 — дисперсия процесса (постоянная по времени). Теперь из равенства (25.58) получаем
(Т) = J ^-<0, C0S (WT) dto =tsin (“*T) ~ Sin (<°1T)1
(01
или
При ©j = 0 автокорреляционная функция q2
Kx = "тоГ sin ^2^‘
На рис. 48, а показан график этой функции.
При (о2 -> оо автокорреляционная функция имеет вид, показанный на рис. 48, б. Только в начале координат Кх (0) = о2, а во всех других точках Кх СО -* 0. Это означает, что при неограниченном белом шуме отсутствует корреляция между значениями случайной функции в два различных момента времени.
О aitш2О aitш2Рис. 47. Спектральная плотность белого шума
О aitш2
О aitш2
Рис. 48. Автокорреляционная функция белого шумаРис. 48. Автокорреляционная функция белого шума
Рис. 48. Автокорреляционная функция белого шума
Рис. 48. Автокорреляционная функция белого шума
Рассмотрим теперь корреляционную функцию для спектра при сох -> со2. В этом случае непрерывный спектр превращается в дискретный с одной линией при co = со2. Из равенства (25.66) находим для этого случая Кх (т) = = a2 cos (со2т). Таким образом, для колебаний только с одной частотой (при случайных амплитуде и фазе) корреляционная функция представляет собой незатухающую косинусоиду.
Пример 2. Известна автокорреляционная функция процесса /G(t)= о2е—^*т*. Эта четная функция убывает по мере возрастания т и может быть использована для аппроксимации автокорреляционных функций реальных процессов. Требуется найти спектральную плотность, соответствующую заданной корреляционной функции.
В рассматриваемом примере значительно удобнее воспользоваться комплексным представлением для спектральной плотности [уравнение (25.62)], что дает
S*(^ = ^- [ е-«»т-х I т | d
2я *00
Наличие |т| заставляет разбить интегрирование на два участка, и тогда
$>) =$>) =о22ло22л■ 000J eXt-«OTdT+|е-—ООо■ 000J eXt-«OTdT+|е-—ООо(zcdt+Xt) dT(zcdt+Xt) dTо2 Xл X2 + со2 ’о2 Xл X2 + со2 ’
$>) =
$>) =
о2
2л
о2
2л
■ 000
J eXt-«OTdT+|е-
—ООо
■ 000
J eXt-«OTdT+|е-
—ООо
(zcdt+Xt) dT
(zcdt+Xt) dT
о2 X
л X2 + со2 ’
о2 X
л X2 + со2 ’
где о2 — дисперсия случайной функции х (/).
Свойство эргодичности стационарного случайного процесса. Рассмотренные ранее статистические характеристики относились к осреднению по различным реализациям. Например, среднее значение случайной функции х (t) = тх = J xf (х; /) dx. Возникает вопрос: в какой мере среднее значение по времени для одной и той же реализации соответствует среднему значению по различным реализациям? Обозначим среднее значение по времени для стационарной случайной функции х (О
х
т, (Г) = у- J х (t) dt, о
где Т — время осреднения.
182
Процесс называется эргодическим, если для достаточно большого времени осреднения значения тх и тх (Т) совпадают, т. е. Нш тх (Т) = тх.(25.68)
Т->со
Таким образом, для эргодических процессов осреднение по различным реализациям и по времени дает одинаковые результаты.
Пример. Нагрузка на крыло самолета в неспокойной атмосфере представляет собой случайную функцию. Для того, чтобы определить среднее значение перегрузки тх (обычно перегрузка находится в пределах от 0 до 10g) в данный момент времени, надо собрать сведения о достаточно большом числе самолетов в различных районах страны и вычислить среднее значение перегрузки.
При осреднении по времени измеряют перегрузки на одном самолете. Если время осреднения достаточно велико и самолет летает во всех районах страны, то есть основания считать, что исследования одного самолета будут достаточно представительны для всего парка подобных самолетов. Это равносильно утверждению, что перегрузку крыла самолета можно рассматривать как эргодический случайный процесс.
Условия эргодичности могут относиться не только к среднему значению, но и к статистическим характеристикам второго порядка (дисперсии и корреляционному моменту). В более широком смысле свойство эргодичности позволяет судить о всех свойствах случайной функции х (0 по достаточно продолжительному наблюдению одной реализации.
Не следует считать, что все стационарные функции являются эргодическими. Пусть, например, к стационарной функции добавляется обычная случайная величина (от времени не зависящая) х*(0 = х(04-и.(25.69)
Тогда среднее значение и корреляционный момент (считая значения х (0 и о некоррелированными)
Зс*^ = тх-^и;(25.70)
К At, / + т) = ^(т) + о*.(25.71)
Таким образом, функция х* (0 является стационарной, х* (0 = = const, Кх» (t, / + т) = ф (т), но, как легко выяснить, не является эргодичной. Рассмотрим две различные реализации случайной функции (рис. 49). Осредняя по времени реализации, соответствующие различным значениям Uj и и% случайной величины о, нельзя получить одинаковый результат и тем более результат, совпадающий со средним значением по многим реализациям.
Как установить, что данный стационарный процесс является эргодическим?
Укажем важнейший достаточный признак эргодичности
НтК,(т) = 0.(25.72)
Т->со
X*(t) I
t
Рис. 49. Две различные реализации случайной функции х* (/) = х (0 + v
Автокорреляционная функция эргодичного процесса стремится к нулю при увеличении времени корреляции. Условие (25.72) является достаточным для эргодичности процесса по отношению к среднему значению (математическому ожиданию), а для нормально распределенных случайных функций и для корреляционного момента. Из сопоставления соотношений (25.71) и (25.72) видно, что процесс (25.69) не является эргодическим. Как указывалось, наличие составляющей в виде случайной величины, не зависящей от времени, лишает процесс эргодичности.
Отметим, что эргодичностью могут обладать только стационарные процессы, так как иначе осреднение по времени на длительном промежутке теряет смысл. В практических задачах об эргодичности процесса, т. е. о том, насколько одна долго наблюдаемая реализация представительна для всего класса реализаций, часто судят на основании опыта и физических соображений.
При выполнении условий эргодичности среднее значение находят из равенства (25.67), а автокорреляционную функцию по соотношению
Т-Т
Кх(т) = f [х(0 — mJ [х(/ + т) — mx] dt, (25.73)
где Т — время наблюдения процесса; Т — т — время осреднения (рассматриваются одновременно значения t и t + т).
Величина Т выбирается настолько большой, чтобы результат не зависел от времени осреднения. Если по мере увеличения Т значения пгх и Кх (т) не стабилизируются, то процесс не является эргодическим.
Глава 10
ПРИКЛАДНЫЕ ВОПРОСЫ
ТЕХНИЧЕСКОЙ
ДИАГНОСТИКИ
Вводные замечания. В механических системах (двигатели, насосы и т. п.) основное назначение технической диагностики — повышение надежности и ресурса изделий с помощью раннего обнаружения дефектов и оптимизации процессов технического обслуживания. Техническая диагностика сложных систем представляет собой систему, которая должна иметь информационное, техническое и математическое обеспечение.
Информационное обеспечение включает способы получения диагностической информации, ее хранение и систематизацию. Информационное обеспечение содержит необходимый массив восполняемых технических сведений (обучающие последовательности и др.).
Техническое обеспечение представляет собой совокупность устройств получения и обработки информации (диагностические приборы, датчики, сигнализаторы и т. п.). Важную часть технического обеспечения современных систем диагностики составляют ЭВМ, устройства типа «аналог—код» и др.
Математическое обеспечение содержит алгоритмы и программы распознавания.
Техническая диагностика как система включает также и коллектив специалистов, ответственных за принятие решений.
В настоящее время системный подход к задачам технической диагностики находится в начальной стадии развития. Большинство опубликованных результатов относится только к отдельным элементам системы.
В настоящей главе обсуждаются вопросы контролеспособности изделий, получение диагностической информации и приводятся некоторые практические примеры технической диагностики.
КОНТРОЛ ЕСПОСОБНОСТЬ
И ПОЛУЧЕНИЕ ДИАГНОСТИЧЕСКОЙ ИНФОРМАЦИИ
Контролеспособностью называется свойство изделия, заключающееся в его приспособленности к раннему обнаружению и предупреждению отказов и неисправностей. Под ранним обнаруже-
нием понимается выявление дефекта или неисправности в начальной стадии, при которой еще не проявляются отрицательные последствия для надежности или работоспособности изделия.
Контролеспособность в первую очередь зависит от качества и объема диагностической информации, которая может быть получена при эксплуатации изделия и его техническом обслуживании, а также при специальных диагностических испытаниях (диагностических тестах).
Важное значение контролеспособность имеет для радиоэлектронных систем, ^для которых теория автоматического контроля и поиска неисправностей составляет самостоятельный раздел технической диагностики [1, 39, 521.
Дальнейшее рассмотрение относится к механическим системам.
Основные виды диагностической информации. Большая часть информации о поведении системы имеет диагностическую ценность, так как она отражает состояние системы. Состав и состояние сред, взаимодействующих с изделием (воздух, вода, масло, топливо, продукты сгорания и др.), рабочие параметры процесса (частота вращения, температура, давление и т. п.), вибрация, акустическое и тепловое излучения и т. д. содержат диагностическую информацию. Во многих случаях весьма полезным оказывается непосредственное визуальное наблюдение состояния элементов машины с помощью оптических трубок (бороскопов), позволяющее обнаружить наличие трещин, перегрева, коробления и т. п.
К основным видам диагностической информации относятся: спектр вибрации элементов конструкции; спектр акустических колебаний; значение параметров, характеризующих функционирование системы; состояние соприкасающихся сред; визуальные наблюдения; данные дефектоскопии.
Диагностическое значение имеют не только величины параметров в данный момент времени, но и их изменение во времени (кинетика информативных параметров).
Измерение вибраций. В процессе работы элементы машины получают перемещения, изменяющиеся во времени (вибрационные перемещения). Причинами возникновения вибрационных перемещений могут быть циклические процессы при работе машины (вращение роторов, периодические нагрузки и т. п.), собственные колебания элементов конструкции и др.
В общем случае каждая точка конструкции имеет пространственное смещение, которое представляет собой геометрическую сумму трех компонентов смещений и (f), v (/), си (/). В каждый момент времени вибросмещения могут быть представлены в виде наложения элементарных гармонических колебаний с различной частотой и амплитудой. Обычно в задачах технической диагностики измеряется частота до 30 000 Гц (чаще до 10 000 Гц), виброускорения до 1000 м/с2.
U(t)
/7/7УУPP
/7
/7
У
У
P
P
Рис. 50. Структурная схема измерений:
Д — датчик; 77 — преобразователь; У — усилитель; Р — регистратор
Достаточно общая структурная схема измерений показана на рис. 50. Она применяется, в частности, для измерений вибраций.
Датчик D преобразует неэлектрические величины (механические перемещения, давления и т. п.) в электрический сигнал. Преобразователь П осуществляет первичные преобразования сигнала (фильтрацию и т. п.). Усилитель У и регистратор Р усиливают и регистрируют сигнал на магнитную или бумажную ленты. Цепь измерения может заканчиваться регистратором, но в современных системах сигнал поступает дальше для обработки и анализа в ЭВМ.
В качестве датчиков вибраций используются индукционные и пьезометрические. Последние являются более эффективными, так как имеют небольшие размеры и массу, обладают высокой вибропрочностью и термостойкостью (до 500° С). Вибродатчики закрепляют на детали с помощью фланца или ввертывают в резьбовое отверстие.
Конструктивная схема пьезометрического датчика показана на рис. 51. Корпус датчика / содержит два пьезоэлемента 6, разделенных токосъемной пластиной 3. Пьезоэлемент обладает
тем свойством, что под влиянием механического напряжения в нем
вырабатывается разность потенциалов.
Давление на поверхности пьезоэлемента создается инерционной массой 2, которая поджимается упругим элементом 7. Датчик закрепляется с помощью резьбового хвостовика 5, сигнал
поступает к проводнику 4.
Для устранения динамических погрешностей первая собственная частота датчика должна превышать измеряемую частоту в 4—6 раз.
Измерение акустических колебаний. Вибрация элементов машин, [происходящая в результате рабочего процесса, собственных колебаний, соударений и т. п., вызывает колебания окружающей среды (воздуха), т. е. служит источником акустических колебаний. В не-
Рис. 51. Схема пьезометрического датчика
которых машинах, например в авиационных двигателях, мощным источником акустических колебаний (шума) является струя выходящих газов из реактивного сопла, акустическое излучение лопаток компрессора и др.
Акустические колебания характеризуются широким непрерывным спектром с отдельными дискретными составляющими. Акустические колебания представляют стохастический процесс, амплитуды и частоты которого носят случайный характер.
Состав спектра, его амплитудно-частотная характеристика (в вероятностном или детерминистском аспекте) имеет большое диагностическое значение для состояния машин. Известно, что опытные механики часто могут «на слух» определить характер неисправности двигателя, турбины и т. п.
Естественно, что измерение акустических колебаний, их спектральный анализ повышает ценность акустической диагностики. Для измерения используются микрофоны, основанные на электрических или пьезоэлектрических эффектах с диапазоном частот измерения от 5 до 100 кГц (частота «слышимого» звука 20 кГц).
Основной трудностью при использовании виброакустических методов является выделение полезного сигнала на фоне помех. Для обнаружения сигналов, несущих диагностическую информацию, используются фильтры.
В последние время установлено, что при появлении трещины образуется интенсивное акустическое излучение с частотой порядка от 50 до 500 кГц. Это явление может быть использовано для обнаружения трещин.
Измерение постоянных и переменных деформаций и усилий. Диагностическую ценность имеют измерения постоянных и переменных деформаций в элементах конструкций в рабочих условиях. Для измерений используются тензорезисторы в виде петлевого участка тонкой проволоки с диаметром 0,025—0,050 мм (проволочные тензометры). При растяжении уменьшается поперечное сечение проволоки и возрастает омическое сопротивление, что и регистрируется с помощью потенциометрической схемы. Сопротивление тензорезисторов обычно составляет — 100 Ом.
Тензорезисторы наклеивают на деталь и закрепляют с помощью бумажной ленты, фольги или цемента. При измерении постоянных деформаций тензорезисторы используют до 400° С, так как при более высокой температуре весьма трудно компенсировать температурные погрешности.
При измерении переменных напряжений тензорезисторы могут работать при температуре до 900° С. Точность измерения деформаций составляет 1—5%, величина наибольшей деформации зависит от механических свойств проволоки (при постоянной деформации она составляет несколько процентов, при переменной деформации —0,1%).
Измерения параметров процесса. Эти измерения относятся к давлению, температуре, частоте вращения и другим параметрам. 188
Давление в различных полостях машин замеряется с помощью манометров с манометрическими трубками, сильфонами и т. д. Для регистрации быстроизменяющихся процессов применяются датчики давления, использующие пьезоэлектрические, индуктивные и тензорезисторные элементы.
Температура в области от —200 до 700° С измеряется термометрами сопротивления. Их действие основано на зависимости омического сопротивления от температуры. Для измерения температуры до 1600° С используются термоэлектрические пирометры, датчиками которых являются термопары. Регистрация показания температур осуществляется с помощью устройств типа милливольтметров с записью на самописец или в цифровом виде. Для диагностических целей используются также оптические и другие пирометры, регистрирующие излучение нагретых элементов конструкции, в том числе быстровращающихся.
Частота вращения замеряется индукционными и фотоэлектрическими тахометрами. Наибольшее распространение получили индукционные тахометры, обладающие высокой точностью измерений и надежностью при длительной эксплуатации. В качестве датчика в индукционном тахометре используется вращающийся ротор миниатюрного генератора переменного тока, запись сигнала производится специальными вольтметрами или электронными частотомерами.
Регистрация состояния соприкасающихся сред. Весьма важную диагностическую информацию несет масло, которое используется для смазывания и охлаждения трущихся поверхностей (подшипников, шестерен и т. д.). Диагностический контроль осуществляется по наличию стружки и содержанию железа в масле. Используются специальные приборы — сигнализаторы стружки, которые выдают сигнал при наличии в масле металлических частиц. Металлические частицы в выхлопных газах могут быть замечены с помощью датчиков, воспринимающих ионизацию среды. Диагностическое значение имеет анализ химического состава выхлопных газов и других продуктов выхлопа.
Визуальные наблюдения осуществляются с помощью оптических трубок (бороскопов). Для возможности визуального наблюдения конструкция должна иметь соответствующие полости (лючки и т. п.), позволяющие проводить осмотр. Применяются оптические трубки, дающие увеличение в два-три и более крат, с диаметром поля зрения 3—20 мм. Используются оптические трубки с внутренними зеркалами, позволяющие передать изображение по криволинейному каналу. В последние годы для этой цели используются световоды, выполненные на основе волоконной оптики. Принципиальная схема бороскопа показана на рис. 52.
С помощью визуального наблюдения обнаруживают повреждения и разрушения поверхности, коробление, трещины, перегрев, износ и т. п.
Рис. 52. Схема бороскопа:
/—рабочие лопатки, подлежащие осмотру; 2 — трубка бороскопа; 3 — окуляр; 4 — глаз наблюдателя; 5 — стекловолоконный кабель; 6 — источник света; 7 — корпус компрессора
Данные дефектоскопии. В последние годы методы дефектоскопии (обнаружения дефектов) получили широкое применение в процессе производства и ремонта. Использование методов дефектоскопии в эксплуатационных условиях чрезвычайно затруднено, так как в большинстве случаев требует частичной или полной разработки изделия. Однако некоторые методы дефектоскопии могут быть использованы в эксплуатационных условиях.
Для обнаружения трещин используется токовихревой метод, основанный на возбуждении и измерении вторичных электромагнитных полей вихревых токов. С помощью специального датчика обнаруживаются поверхностные трещины и другие дефекты (рис. 53). Широко применяется ультразвуковой метод, при котором специальным излучателем вводятся ультразвуковые колебания, после отражения улавливаемые приемным устройством.
Рис. 53. Схема токовихревого датчика:
/ — рукоятка; 2 — феррит; 3 — катушка; 4 — лопатка; 5 — дефект; 6 — генератор высокой частоты; 7 — усилитель; 8 — детектор; 9 — измерительный прибор; 10 — след дефекта; 11 — осциллограф
Трещины, раковины рассеивают колебания и уменьшают интенсивность отраженного сигнала.
Находят применение методы"рентгенографии с помощью изотопного источника излучения. Такой источник вводится во внутренние полости, и на фотопленке, расположенной за просвечиваемой деталью, получается рентгеновское изображение. По снимку можно обнаружить наличие трещин, обрывов, сколов и т. п. Они в меньшей степени поглощают излучение и потому проявляются на пленке в виде затемненных зон.
В некоторых случаях могут быть использованы методы цветной или люминесцентной дефектоскопии. При цветной дефектоскопии детали покрывают краской, проникающей в трещины и поры. Далее слой основной краски смывается и деталь покрывается другой адсорбирующей краской, на которой в виде штрихов и пятен выступает хорошо заметная основная краска, оставшаяся в трещинах. При люминесцентном методе основная краска обладает свойством флюоресценции при облучении ультрафиолетовыми лучами ртутно-кварцевых ламп. После удаления основной краски (вещества) некоторые частицы остаются в трещинах и при ультрафиолетовом свете дают четкое свечение на темном фоне поверхности детали. Указанные методы позволяют выявить трещины глубиной порядка 0,01—0,10 мм.
ПРИМЕРЫ ТЕХНИЧЕСКОЙ ДИАГНОСТИКИ
Ниже приводятся некоторые примеры технической диагностики в различных областях машиностроения. Широкое практическое внедрение методов технической диагностики только начинается, однако первые результаты свидетельствуют о возможностях существенного повышения надежности и ресурса машин с помощью диагностики. г
Техническая диагностика авиационных двигателей. В процессе эксплуатации современных пассажирских двигателей контролируется 20—40 параметров, причем показания приборов имеют три уровня информации: индикация в кабине летчика; регистрация на борту самолета; наземные проверки.
В кабину летчика выводятся показания важнейших параметров (например, уровня вибрации двигателей), сведения о которых необходимы для правильного пилотирования самолета. Во всех случаях, когда значения параметров достигают предельно допустимых, используется дополнительная сигнализация (световая или звуковая). Значительное количество информации регистрируется на борту самолета с помощью специальных записывающих устройств с последующим хранением информации на магнитных лентах.
Ряд диагностических признаков выявляется при наземной проверке (визуальные осмотры, проверка фильтров и т. п.).
На американском двигателе CF-6 контролируются приблизительно 40 параметров, среди которых: температура газа за турбиной; температура за компрессором; частоты вращения компрессора и вентилятора; давление за вентилятором и компрессором; вибрация в зонах вентилятора, компрессора и на корпусах подшипников.
Регистрируются количество и температура масла, показания детекторов стружки в откачивающей магистрали, перепад давления на маслофильтре, сигнализатор минимального давления масла. Контролируются параметры топливной системы, системы запуска, отбора воздуха и других систем.
Большинство параметров записываются 1—2 раза за полет (давление, уровень вибрации, частота вращения) и далее направляются в диагностический центр для анализа. В результате анализа и сопоставления с предыдущими показаниями принимается решение о продолжении нормальной эксплуатации, либо о дополнительном осмотре, замене детали, узла или снятии двигателя с эксплуатации. В диагностическом центре решение принимается группой специалистов, анализирующих поступающую информацию. Для выработки решений могут использоваться ЭВМ, что способствует принятию более обоснованных решений.
Применение счетчиков ресурса. Эквивалентные испытания авиационных двигателей показали, что наибольшие повреждения, особенно деталей горячей части, происходят при работе на наиболее тяжелом (взлетном) режиме. При эксплуатации процент использования тяжелых режимов в двигателях гражданской авиации различен, он зависит от продолжительности полета и других условий. В некоторых американских авиакомпаниях на двигателях устанавливается счетчик ресурса, учитывающий суммарную длительность наработки на тяжелых режимах и число полетных циклов.
Техническая диагностика судовых механизмов. В Канаде на 100 типах механизмов и электромашин кораблей систематически используется анализатор вибраций [33]. Обнаруживаются повреждения, вызванные неуравновешенностью, расцентровкой и изгибом валов, неисправности шестерен и подшипников. Состояние определяется с помощью ЭВМ, которая сопоставляет уровень вибраций с прежними значениями и нормами.
На основании статистических сведений получены данные, показывающие зависимость среднего срока службы механизма от уровня вибрации, позволяющие своевременно производить профилактические работы и замены.
Указывается, что диагностическая система дает 2 млн. долларов экономии; число неисправностей, обнаруживаемых в процессе непосредственной эксплуатации, снизилось на 45%. Подробный анализ технического состояния судовых механизмов и применение диагностических методов содержится в книге [45]. В числе судовых механизмов рассматриваются паровые и газовые
турбины, дизели, насосы, компрессоры и др. Основное внимание уделяется вопросам акустической диагностики.
Техническая диагностика поршневых двигателей. Поршневые двигатели (автомобильные, тракторные, стационарные и транспортные дизели) имеют широкое применение. Эксплуатация автомобильных и тракторных двигателей носит массовый характер. Определение технического состояния двигателя без разборки позволяет повысить его надежность и улучшить техническое обслуживание. Следует учесть, что трудоемкость ремонта двигателей массового производства превосходит трудоемкость изготовления в 5—10 раз. Проведение профилактических работ и ремонта «по состоянию» дает значительный экономический эффект. Диагностика осуществляется с помощью передвижных станций, оснащенных виброакустической аппаратурой. Вопросы вибрационной и акустической диагностики поршневых двигателей рассматриваются в работах [40, 451. В работе [21] описывается диагностический прибор, основанный на использовании логических методов диагноза (см. гл. 6). Этот прибор, построенный по схеме диодной матрицы, позволяет различать 33 неисправности двигателя по 53 признакам. В качестве признаков используются, например, «белый дым», «низкая компрессия», «повышенный расход масла», «стук в момент пуска» и т. п. Диагностика поршневых двигателей с помощью построения топологических моделей рассматривается в работе [25].
7 И. А. Биргер
Глава 11
СВЕДЕНИЯ ИЗ ТЕОРИИ ВЕРОЯТНОСТИ
Вводные замечания. Эта глава носит вспомогательный характер. Для понимания ряда разделов книги требуется знание основных понятий теории вероятности х. Ниже дается краткое изложение, рассчитанное на быстрое восстановление или восполнение необходимых сведений.
ОСНОВНЫЕ ПОНЯТИЯ
Теория вероятности изучает закономерности часто повторяющихся случайных явлений.
Вероятность события. Одним из важнейших понятий теории вероятности является понятие вероятности события. Событием называется любое явление, которое можно определить как свершившееся или несвершившееся. Каждое событие должно иметь четкое разграничение указанных двух состояний. Очевидно, что реальность наступления различных событий различна и на основании практического опыта можно указать как достоверные, так и невозможные события.
Вероятностью события А называется число Р (Л), характеризующее возможность появления события. Принято считать вероятность достоверного события равной единице, вероятность невозможного события равной нулю.
Вероятность случайного события
0<Р(Л)<1.(28.1)
Строгое введение меры вероятности события требует специальной аксиоматики, основанной на теории множеств. Для инженерных приложений достаточно ограничиться следующим определением:
Р (Л) = т/п,(28.2)
где т — число испытаний, при которых событие А появилось; п — общее число проведенных испытаний.
В теории вероятности показывается, что определенная таким образом статистическая вероятность события при увеличении числа опытов приближается к истинной вероятности события (точнее, вероятность их отличия становится равной нулю).
В некоторых случаях значение Р (Л) можно предсказать на основе правдоподобных соображений. Для иллюстрации трудно избежать примера с подбрасыванием монеты, при котором вероятность выпадения «герба» (событие А) Р (Л) = = 0,5. Статистическая вероятность появления «герба» может быть и больше и меньше 0,5, но при увеличении числа испытаний она стремится к этому значению.
Традиционное название «теория вероятностей» менее соответствует современному словоупотреблению.
а)6)в)а)6)в)Рис. 55. Схема мишеней для иллюстрации вероятности события А и вероятности суммы событий Л и ВРис. 55. Схема мишеней для иллюстрации вероятности события А и вероятности суммы событий Л и В
а)6)в)
а)6)в)
Рис. 55. Схема мишеней для иллюстрации вероятности события А и вероятности суммы событий Л и В
Рис. 55. Схема мишеней для иллюстрации вероятности события А и вероятности суммы событий Л и В
Рис. 54. Замыкание цепи (событие С) при различном положении контактов (события Л и В)
При теоретическом анализе вероятность события часто определяют как отношение числа т случаев, благоприятных для появления события, к общему числу п возможных случаев.
Логическая сумма и логическое произведение событий. Группы, событий. Для анализа вероятности сложных событий полезно ввести понятие логической суммы (дизъюнкции) и логического произведения (конъюнкции) событий.
Суммой событий Л и В называют событие
С=А\/В*(28.3)
причем V — знак логического суммирования (дизъюнкции).
Событие С считается происшедшим, если произошло хотя бы одно из событий А и В или оба вместе.
Произведением событий Л и В является событие
С = А А В.(28.4)
Событие С считается свершившимся, если произошли каждое из событий Л и В.
Иллюстрацией к понятию суммы и произведения событий может служить параллельное (рис. 54, а) и последовательное (рис. 54, б) соединение двух контактов.
Совокупность нескольких событий называется группой событий. Полная группа событий — совокупность событий, хотя бы одно из которых должно произойти. Например, событие А и противоположное событие А (отсутствие события А) составляют полную группу событий.
Группа событий считается несовместной, если любые два события этой группы не могут произойти одновременно. Например, если признак (измеряемый параметр) разбит на три диагностических интервала, а события Av Л2, Л3 означают появление признака в соответствующем интервале, то указанные события — несовместные. События Л и Л всегда образуют полную группу несовместных событий.
Вероятность суммы событий. Разберем вопрос с помощью геометрической иллюстрации (рис. 55, а). Представим себе, что летящая частица с одинаковой
Рис. 56. Схема мишеней для суммы трех событийРис. 56. Схема мишеней для суммы трех событийРис. 57. Схема мишеней для произведения событийРис. 57. Схема мишеней для произведения событий
Рис. 56. Схема мишеней для суммы трех событий
Рис. 56. Схема мишеней для суммы трех событий
Рис. 57. Схема мишеней для произведения событий
Рис. 57. Схема мишеней для произведения событий
вероятностью может попасть в любую точку прямоугольного поля, но не может миновать его (движение частицы в прямоугольной трубе). Какова вероятность того, что частица попадает в мишень А (событие Л)?
Очевидно, эта вероятность
P(A)=Sa/S,(28.5)
где Вл и S — площадь мишени и поля соответственно. Рассмотрим теперь вероятность суммы событий Р (А V В). Событие А V В осуществится, если частица попадет в мишень А, либо в мишень В, либо в обе мишени вместе. Иными словами, она должна оказаться в области, где имеется штриховка. Из простых соображений следует
Р (Л V В) = Р (Л) + Р (В) — Р (Л А'В),(28.6)
где Р (Л А В) — вероятность совместного появления событий Л и В (область пересечения кругов А и В, рис. 55, б). Если события Л и В несовместные, то
Р (Л V В) = Р (Л) + Р (В).(28.7)
На рис. 55 несовместные события относятся к случаю, когда мишени Л и В не пересекаются (случай в\ Исходя из геометрических соображений (рис. 56), можно установить следующую формулу для трех событий:
В (Л V В V О = В (Л) + Р (В) + Р (С) — В (Л А В) —
- Р (В А С) - Р (С А Л) + Р (Л А'В А С).(28.8)
Появление последнего слагаемого связано с тем, что в первых трех членах площадь Л А В А С входит два лишних раза, но вычитается в каждом из трех следующих. Если события Л, В и С несовместные (мишени не пересекаются), то
Р (Л V В v О = Р (Л) + Р (В) + Р (С).(28.9)
Отметим, что если события Л, В и С образуют полную группу событий, т. е. хотя бы одно из них обязательно осуществится, то
Р (А у В V0 = 1-(28.10)
Для полной группы несовместных событий из условий (28.8) и (28.9) следует
Р (Л) + Р (В) + Р (С) = 1.(28.11)
В частности, для суммы вероятностей противоположных событий
В(Л)+В(Л) = 1.(28.12)
Вероятность совместного появления событий (вероятность произведения событий). В соответствии с геометрической иллюстрацией (рис. 57) вероятность совместного появления событий А и В (попадания частицы в мишени А и В одновременно)
Р (Л л В) = SA^B/S,(28.13)
где SA/4B — площадь области перекрытия мишеней; S — общая площадь поля (вылетающая частица может с одинаковой вероятностью попасть в любую точку поля).
Формула (28.13) указывает прямой способ вычисления вероятности совместного появлений событий: число случаев, в которых проявились оба события, относится к общему числу возможных случаев.
Очень важно найти связь вероятности сложного события с вероятностями составляющих его событий. Разделим и умножим правую часть равенства (28.13) на величину $л — площадь мишени А. Тогда
Р И А В) = (Sa/S) (SA^B/SA).(28.14)
Отношение S^/S = Р (А) представляет собой вероятность события А. Второе отношение обозначим
Р (В/А) = SA/4B(SA.(28.15)
В отличие от равенства (28.13) площадь области Л А В, благоприятной для одновременного появления событий А и В, относится не ко всей площади S, а только к площади 5,4, гДе должно обязательно реализоваться событие А. Это означает, что прямоугольный канал, в котором лежит частица, заменяется каналом с сечением 5,4 и событие А обязательно происходит, но событие В может происходить или не происходить. Вероятность события В при этом определяется отношением (28.15). Величина Р (В/А) называется условной вероятностью события В (при условии, что событие А произошло).
Из последних равенств получаем одну из наиболее часто применяемых формул теории вероятности
Р (Л А В) = Р (Л) Р (В/А).(28.16)
Подобным образом (разделив и умножив правую часть равенства (28.13) на Sb) находим
Р (А А В) = Р (В) Р (А/В).(28.17)
В теории вероятности более приняты сокращенные обозначения логического произведения событий в виде обычного алгебраического произведения, тогда равенства (28.16) и (28.17) запишут так:
Р (АВ) — Р (А) Р (В/А) = Р (В) Р (А/В).(28.18)
Понятие условной вероятности приводит к весьма важному условию независимости событий.
Событие В считается независящим от события Л, если
Р (В/А) ^Р(В).(28.19)
Рассмотрим геометрическую иллюстрацию условной вероятности по схеме мишеней. Если мишени Л и В представляют собой два круга, то события Л и В всегда являются зависимыми. Например, при расположении мишеней, показанных на рис. 58, а, условная вероятность Р (В/А) = 0,25. Если мишень В выходит из круга мишени Л, то
Р (В/А) = 0,
т. е. если известно, что частица попала в мишень Л, то она не может одновременно пробить мишень В. В каком случае попадания в мишени Л и В будут независимыми
Рис. 58. Зависимые и независимые событияРис. 58. Зависимые и независимые событияоооооооооооООО ор-*^о ОООо о о^е • е о о-QoX• • • • • Ло оocf еееееееЪооАееееееефо>о de eeeeeetoодде е е е е е % к о"бо \ее е е е^о о оооо oS*e-1) оооооооооооооооооооооооооООО ор-*^о ОООо о о^е • е о о-QoX• • • • • Ло оocf еееееееЪооАееееееефо>о de eeeeeetoодде е е е е е % к о"бо \ее е е е^о о оооо oS*e-1) ооооооооооооооAAВВАл ВАл В
Рис. 58. Зависимые и независимые события
Рис. 58. Зависимые и независимые события
ооооооооооо
ООО ор-*^о ООО
о о о^е • е о о
-QoX• • • • • Ло о
ocf еееееееЪо
оАееееееефо
>о de eeeeeeto
одде е е е е е % к о
"бо \ее е е е^о о о
ооо oS*e-1) ооо
ооооооооооо
ооооооооооо
ООО ор-*^о ООО
о о о^е • е о о
-QoX• • • • • Ло о
ocf еееееееЪо
оАееееееефо
>о de eeeeeeto
одде е е е е е % к о
"бо \ее е е е^о о о
ооо oS*e-1) ооо
ооооооооооо
A
A
В
В
Ал В
Ал В
событиями? Это будет в том случае, когда мишень В представляет собой совокупность равномерно распределенных кружков. На рис. 58, б части мишени В, попавшие в круг мишени Л, отмечены черным цветом. Легко увидеть, что условие (28.19) соблюдается. События Л и В являются независимыми, совместными.
Таким образом, несовместные события всегда зависимые, тогда как совместные события могут быть зависимыми или независимыми. Для независимых событий
Р (АВ) = Р (А) Р (В).(28.20)
Из соотношений (28.17) и (28.19) вытекает условие Р (А/В) = Р (Л), т. е. независимость событий — понятие взаимное. Для группы из трех событий
Р (АВС) = Р (Л) Р (В/Л) Р (С!АВ) = Р (В) Р (A/В) Р (С/ВА) =
= Р (С) Р (А/С) Р (В/АС);(28.21)
для независимых событий
Р (АВС) = р (А) Р (В) Р (С).(28.22)
Пример 1. Вероятность безотказной работы авиационного двигателя во время полета составляет Р = 0,99. Какова вероятность того, что на двухмоторном самолете не произойдет одновременный отказ обоих двигателей? Обозначим: безотказная работа первого двигателя — событие Л, второго двигателя — событие В. Тогда безотказная работа одного из двигателей или обоих вместе есть сумма событий Л V S. Вероятность отсутствия одновременного отказа двигателей (сумма событий Л и В) [формула (28.6)] Р (А \/ В) = 0,99 + 0,99 — 0,99-0,99 = 0,9999 (принимается условие независимости отказов).
вторая — рассчитана на напряжениевторая — рассчитана на напряжениеПример 2. Определение надежности при последовательном и параллельном соединении элементов. Для системы питания предложено две схемы, использующие аккумуляторы с напряжением 4 В (рис. 59). В первой схеме применяется последовательное соединение элементов, дающее напряжение 12 В (рис. 59, а), 4 В (рис. 59, б). Вероятность безотказной работы элемента Р = 0,9; принимается, что отказ одного из аккумуляторов не влияет на работоспособность другого.
вторая — рассчитана на напряжение
вторая — рассчитана на напряжение
Схема с последовательным соединением. Если обозначить работоспособное состояние элементов событиями Av Л2, Л3, то работоспособное состояние всей
Рис. 59. Последовательное и параллельное соединение элементов
системы питания А = AY b\ А2 f\ Л3. Вероятность безотказной работы при условии независимости событий Р (А) = Р (Л^ Р (Л2) Р (Л3) = 0,9-0,9-0,9 = 0,729.
Схема с параллельным соединением. В этой схеме предусмотрено резервирование. Работоспособное состояние системы будет в том случае, если хотя бы один из элементов будет работоспособным. Таким образом Л = Л,\/^2\/ ^з- С помощью равенства (28.8) находим Р (Л) = Р (Лх) + Р (Л2) + Р Из) — — Р (Лх А Л2) - Р (Л2 А Л3) - Р (Л3 А Лх) + Р (Лх А Л2 А Л3) = 0,9 + + 0,9 + 0,9 — 0,81 — 0,81 — 0,81 + 0,729 = 0,999.
Этот результат можно получить проще, если вычислить вероятность противоположного события — отказ всех элементов одновременно. Тогда А = Лх А А Л2АЛ3 и для независимых событий Р (А)=Р (Лх) Р (Л2) Р (Л3) = (1— 0,9)3 = = 0,001. В соответствии с этим Р (Л) = 1 — Р(Л) = 1—0,001 = 0,999. Из рассмотренного примера видно, что надежность параллельного соединения элементов существенно выше. Разумеется, что другие характеристики системы (например, масса, компактность и т. д.) в первой системе могут оказаться значительно лучше, чем во второй, и решение конструктора должно основываться на учете всех многообразных факторов.
Формула Байеса. Эта формула имеет важное значение для проблем диагностики. Пусть событие А связано с одним из событий Bv В2> ..., Вп, образующих полную группу несовместных событий. Для определенности будем считать, что А — появление признака (например, появление стружки в масле), a Bv В2, ...» Вп — неисправность соответствующих узлов машины. Принимается, что при этом признаке один из узлов машины является неисправным, а одновременный отказ двух узлов маловероятен и исключается из рассмотрения. На основании опыта эксплуатации известна вероятность отказа отдельных узлов: Р (В^, Р (В2), ..., Р (Вп). Задачу можно сформулировать таким образом: произошло событие А (появление стружки). Какова вероятность, что причиной появления стружки является неисправность узла В;?
Предполагается, что частота встречаемости (вероятность) признака А при неисправностях отдельных узлов Р (A/Bi) известна из опыта. Вероятность одновременного появления признака А и состояния В/
Р (Д А В^ = Р (Л) Р (Bi/А) = Р (Bi) Р (A/Bi). (28.23) Из этого равенства находим вероятность состояния Bi (неисправность узла Bi) Р (Bi/А) = Р (Bi) Р (A/Bi)/P (А). (28.24) Искомая вероятность найдена, но остается выяснить величину Р (А) — вероятность появления признака А. Так как признак появляется только вместе с неисправностью какого-либо узла, то это событие представляет собой логическую сумму отдельных событий:
А = (Л А В^ v (А А В2) V • • V (А А Вп). (28.25)
В соответствии со сделанным предположением должно реализоваться только одно из возможных событий, и потому Р (А) = Р (А Л В^ + Р (А А В2) + • • + А- Р (A N Вп) йли
п
Р (Л) =2 P^PVMBjY (28.26)
Последнее равенство иногда называют формулой полной вероятности события А, происходящего вместе с полной группой независимых событий. Формула полной вероятности является фундаментальной во многих вопросах теории вероятности. Она выражает следующий принцип: если система имеет несколько возможных несовместных путей перехода в другое состояние, то вероятность перехода равна сумме вероятностей осуществления каждого из них. Несовместные пути — это пути, которые не могут реализоваться одновременно.
Из соотношений (28.24) и (28*26) вытекает формула Байеса
Р (Bi/A) = —пР ^BiVP ^/S1)—.(28.27)
2 Р (В,) Р (A/Bj)
Вероятность состояния В^ после появления признака А, т. е. величину Р (В^А), часто называют апостериорной [в отличие от априорной вероятности Р Отметим, что
£P(BZM) = 1,(28.28)
z=l,
что непосредственно следует из равенства (28.27). Из формулы Байеса получается, что для двух состояний В^ и В/ отношение апостериорных вероятностей
_Р(^Ж_ = ZM Z^M_(98 9Q\
Р у^/А) Р (Bt) Р (А/в^ •'
Если при состоянии В^ признак А встречается чаще, чем при состоянии В/, т. е. Р ^А!В^ > Р ^А!В^, то вероятность этого состояния после получения информации о появлений признака А увеличивается.
Пример. Применение формулы Байеса. Известно, что 90% шарикоподшипников изделия вырабатывает ресурс в исправном состоянии. Признак А — повышение температуры масла выше нормальной на 30° С — встречается у исправных подшипников только в 5% случаев. Требуется определить вероятность исправного состояния подшипника при появлении признака А. Назовем: исправное состояние В1Э неисправное В2. Известно, что Р (В^ = 0,9; Р (В2) = 1 — Р (Вг)= = 0,1. Вероятности Р (А/В^ = 0,05; Р ^А]В^ = 0,95. По формуле (28.27)
Р (В /А} =Р^РкА^=0,9.0,05=
р (В^ р (Л/В^ + р (Вг) р ^А/в^0,9-0,05 4- 0,1-0,95’
Вероятность исправного состояния подшипника понизилась с 0,9 до 0,32.
§ 29. РАСПРЕДЕЛЕНИЕ СЛУЧАЙНЫХ ВЕЛИЧИН
Случайные и детерминированные величины. Случайной называют величину которая в результате испытания может принять одно из возможных значений, заранее неизвестное (например, время безотказной работы машины). Случайным величинам противопоставляются величины детерминированные, значение которых предопределяется начальными условиями. Например, ускорение, получаемое телом при действии известной силы, можно рассматривать как определенную, детерминированную величину.
Но принципиальной разницы между случайными и детерминированными величинами нет. В том же примере, если учесть возможность действия других сил (сил сопротивления воздуха, сил трения), неизбежные неточности измерения сил, массы и другие факторы, то ускорение тела можно признать величиной случайной. Отнесение физической величины к случайным или детерминированным зависит от задач исследования, требуемой точности, возможности учета второстепенных факторов и других обстоятельств и определяется соображениями целесообразности.
Рис. 60. Распределение дискретной случайной величины
Случайные величины подразделяются на дискретные (принимающие отдельные значения) и непрерывные. Число дефектных деталей в партии изделий—дискретная случайная величина, возможные значения которой 0, 1, 2, ... Время безотказной работы изделия — непрерывная случайная величина. Между дискретными и случайными непрерывными величинами также нет принципиального отличия. Уже при измерении непрерывной случайной величины производится ее дискретизация. Например, время безотказной работы измеряется в часах или других единицах времени в зависимости от ресурса изделия. При большом числе возможных значений описание случайной дискретной величины как непрерывной часто более удобно для анализа.
Распределение дискретных случайных величин. Закон распределения указывает возможные значения дискретной случайной величины и их вероятности:
Возможные значения . . . Xi ^ х2 хг Вероятности Р/ Рг Р2 Рг
Закон распределения может быть задан также в виде диаграммы (рис. 60).
Отметим важное свойство любого распределения:
fpz=l.(29.1)
1=1
Это свойство становится понятным, если учесть, что вероятность значения Х( есть относительная доля общего числа случаев, приходящаяся на данное значение параметра.
Величина Р/ обозначает вероятность значения случайной величины xt*. Иногда используют другие равнозначные записи:
Pi = р (Xi) = Вер (X = xi) = Р(Х = xi).(29.2)
Во многих технических задачах нет необходимости учитывать все особенности распределения, достаточно знать некоторые обобщенные его характеристики. Такими важнейшими характеристиками являются среднее значение и среднеквадратичное отклонение.
Среднее значение дискретной случайной величины и математическое ожидание. Среднее значение случайной величины представляет собой обычное среднее всех значений, полученных во время испытаний. Пусть дискретная случайная величина х (например, число отказов за время испытаний) имела значение хх в тх испытаниях, х2 в т2 испытаниях и, наконец, значение хг в тг испытаниях. Тогда среднее значение (среднее число отказов)
г
У, Xtm,
хп == _SL_(29.3)
^1 ~Н ^2 ~Н * * * "Н ГПГ^?
где п = V mi — общее число проведенных испытаний.
Равенство (29.2) можно представить в таком виде:Равенство (29.2) можно представить в таком виде:(29.4)(29.4)
Равенство (29.2) можно представить в таком виде:
Равенство (29.2) можно представить в таком виде:
(29.4)
(29.4)
где Р* = —статистическая вероятность значения случайной величины х.
1 п
При п-^оо Р* -*Pt.
Конечно, величины mf и Р* в конкретном эксперименте являются случайными, так как они получены на основании исследования части изделий, выбранных из общей совокупности. Эта общая совокупность большого числа однородных изделий (теоретически бесконечная) называется генеральной, а партия п испытуемых изделий — выборкой (объема п) из генеральной совокупности.
В теории вероятности чрезвычайно большую роль играет понятие математического ожидания (среднего значения для генеральной совокупности).
Математическим ожиданием случайной величины х, имеющей возможные значения xv х2, ..., хТ с вероятностями Pv Р2, .... РГ называют
(*) = х = ^ xtPt.(29.5)
1=1
Пример 1. Простейшая статистическая модель — бросание игрального кубика, на гранях которого нанесены цифры 1, 2, 3, 4, 5 и 6 или соответствующее число точек («очков»). Требуется найти математическое ожидание числа очков при бросании кубика.,
Число очков — случайная величина X — имеет возможные значения хг = = 1, х2 = 2, х3 = 3, х6 = 4, х5 = 5, хв = 6 с одинаковыми вероятностями. Ожидаемое среднее значение (математическое ожидание)
6
<«>=2/А = 1т + 24+3т + 4т + 5-5-+6Т-3'5,
Если бросить кубик п раз (п — большое число) и записать сумму очков при всех бросаниях, обозначив ее а, то
Этот результат читатель легко проверит «экспериментально», если пожелает провести несложный опыт.
Отметим, кстати, что среднее значение случайной величины, принимающей целые значения, может быть дробным. 1
Возможные значения случайной величины х; и их вероятности Pi не являются величинами случайными. Это относится также к математическому ожиданию случайной величины и, вообще, ко всем характеристикам распределения. Их значения определяются физической природой случайной величины (например, в рассматриваемом примере вывод о равной вероятности всех возможных значений сделан из физических соображений). С другой стороны, числовые характеристики распределения, полученные по данным выборки, являются случайными, приближающимися к истинным (неслучайным) при увеличении объема выборки (п -> оо).
Среднеквадратичное отклонение дискретной случайной величины. Второй важнейшей числовой характеристикой распределения является среднеквадратичное отклонение.
При проведении экспериментальных исследований среднеквадратичное отклонение вычисляется следующим образом. Если значение Х[ наблюдалось 202
в тг случаях, значение х2 в т2 случаях и т. д., то среднеквадратичное отклонение определяется по формуле
Охп = jA-f 1(^1 — ^n)2 Mi Н+ (хг — х„)2 т, =
= |/-^-f (xz-z„)2mz,(29.6)
где хп — среднее значение случайной величины [см. формулу (29.3)]; п — общее число наблюдений. При определении ах рассматриваются отклонения случайной величины от среднего значения. Так как признается важной только величина отклонения, а не его знак, то составляется сумма квадратов всех отклонений и относится к общему числу испытаний.
Среднеквадратичное отклонение имеет размерность величины х и представляет собой характерное отклонение, которое часто называют стандартом. Чем больше величина ох, тем выше рассеяние результатов относительно среднего значения.
Равенство (29.6) можно записать в таком виде:
”xn = V S(29'7)
”Z = 1
где Р* =-^статистическая вероятность значения х. случайной величины X (т. е. приближенное значение вероятности).
При анализе теоретического распределения случайной величины среднеквадратичное отклонение
1/ £ to-<*»2Pz>(29.8)
1=1
где (х) — математическое ожидание случайной величины х (ожидаемое среднее значение); Р/ — вероятность значения хь При большом числе наблюдений п хп -> (х) = х, Р* Р{ и равенства (29.7) и (29.8) совпадают. В дальнейшем для простоты записи величина (х) часто обозначается (х) = х.
Формулы (29.7) и (29.8) используются иногда в несколько преобразованном г _гг
виде. Если учесть, что У (х. — x^Pt — У (х2 — 2х(х + х2) Р. = ^ х2Р. — х2, 1=1г=1
то можно записать
°Х=(29.9)
ИЛИ
«x = V W — х2.(29.10)
В некоторых случаях для среднеквадратичного отклонения будет использоваться такое обозначение: ах = о [х].
Пример 2. Найти среднеквадратичное отклонение для случайной величины в примере 1. В рассматриваемом примере х = 3,5 и
G, = У (I - 3,5)2 4” + (2 - 3.5)2 4 + (3’35>2 4" +
+(4 - 3,5)2 4" + (5 - 3-5)24" +(6 - 3,5)2 4" = 1,71 •
<Х><Х>Рис. 61. Механическая интерпретация характеристик распределения
<Х>
<Х>
Дисперсия случайной величины. Для теоретического анализа часто оказывается удобным понятие дисперсии случайной величины х
°х = а1х=Ъ ^i-x^Pi.
Можно записать последнее равенство так:
Dx “ °х “ ((xt *П
(29.11)(29.11)(29.12)(29.12)Дисперсия представляет собой математическое ожидание квадрата отклонения случайной величины.
(29.11)
(29.11)
(29.12)
(29.12)
Механическая интерпретация основных характеристик распределения. На невесомом стержне в точках, соответствующих возможным значениям случайной величины х, помещены точечные массы, численно равные Pv Р2, ..., Рг (рис. 61), _ г
Мхдулс^ центра тяжести такой системы х = ^ x^Pi представляет собой ма4 = 1
тематическое ожидание. Момент инерции системы «масс» относительно оси, проходящей через центр тяжести, равен дисперсии J — DXi величина ох соответствует радиусу инерции i = VJIm, так как «суммарная масса» равна единице m = = £ pt=\.
4=1
Распределение непрерывных случайных величин. Плотность распределения. Непрерывная случайная величина может иметь любое значение в некоторой области а С х С Ь. Область с бесконечными границами — оо < х < оо часто рассматривается как общий случай. Однако не все участки области возможных значений одинаково вероятны при реализации случайной величины. Например, если случайная величина х представляет временное сопротивление малоуглеродистой стали, определяемое при приемочном контроле, то вероятность нахождения х в пределах 300 < х С 350 МПа значительно выше, чем на участке 500 С х С 550 МПа.
Если вероятность обнаружения х в пределах участка Дх составляет ДР, то плотность вероятности или плотность распределения / (х) = Иш ДР/Дх.
Ах->0
Вероятность того, что случайная величина окажется в интервале Дх, равна / (х) Дх. Плотность вероятности можно рассматривать как обычную плотность распределения «нагрузки» (вероятность появления случайной величины на единице длины в рассматриваемом сечении х).
Плотность распределения или плотность вероятности f (х) имеет размерность величины 1/х.
Вероятность появления непрерывной случайной величины х на участке а С х С b
[?
(29.14)(29.14)Подобно равенству (29.1) j Hx)dx = 1.
(29.14)
(29.14)
так как вполне достоверно, что —оо < х < оо.
Функция распределения. Пусть X — случайная величина (часто случайные величины обозначаются заглавными латинскими буквами X, У, Z, а их конкретные значения х, у, z).
Вероятность условия X < х зависит от выбранного значения х, т. е. является функцией х
(29.15)(29.15)Вер (X < х) = Р (X < х) = F (х).
(29.15)
(29.15)
Функция F (х) называется функцией распределения. Для непрерывной случайной величины из уравнения (29.13)
х
(29.16)(29.16)г И = J f (х) dX,
(29.16)
(29.16)
так как при этом —оо < X < х и условие (29.15) выполняется. Более строго равенство (29.16) следует записать так:
X
(29.17)(29.17)F(x)= J t^dX.
(29.17)
(29.17)
Здесь X — значение (текущее) случайной величины (переменная интегрирования), причем —оо < X С х. В большинстве прикладных вопросов запись в форме (29.16) не вызывает недоразумений, но в теоретических выводах часто необходимо различать обозначения переменного предела интегрирования и переменной интегрирования.
(29.18)(29.18)Из соотношения (29.16) вытекает важная зависимость
(29.18)
(29.18)
Отметим также и другие следствия равенства (29.16):
F (— оо) — 0; F (оо) — 1.(29.19)
На рис. 62 даны графики плотности распределения и функции распределения.
Заданной величине вероятности, например Р = 0,9, соответствует абсцисса хр, так что Р (х < хр) = F (хр) = Р. Величина хр называется квантилем
роятности Р = 6,5, называется медианой рас-роятности Р = 6,5, называется медианой рас-вероятности Р. Например, если известны квантили xOtl и x0t9, то Р (xOtl С хС С хо.э) — F (хо,э) — F (яо,1) = 0,9 — 0,1 = 0,8. Квантиль, соответствующий ве-
роятности Р = 6,5, называется медианой рас-
роятности Р = 6,5, называется медианой рас-
J f(x)dx=0,5.J f(x)dx=0,5.две равные частидве равные частипределения (рис. 62). Медиана распределения х=х0,5 делит кривую плотности распределения на *0.500
J f(x)dx=0,5.
J f(x)dx=0,5.
две равные части
две равные части
-°° *0.5
Среднее значение, математическое ожидание и среднеквадратичное отклонение непрерывной случайной величины. На основании статистиче-
Рис. 62. Плотность распределения и функция распределения непрерывной случайной величины
Рис. 63. Распределение с равномерной плотностью на участке а С х С b
ских сведений плотность распределения } (х) находится следующим образом. Область изменения параметра разбивается на малые участки Д/ и подсчитывается число объектов mi на каждом участке. Тогда статистическая плотность распределения
.*ДР/ _ mi1Д/ Д//г ’.*ДР/ _ mi1Д/ Д//г ’(29.20)(29.20)где п — общее число объектов.
.*ДР/ _ mi
1Д/ Д//г ’
.*ДР/ _ mi
1Д/ Д//г ’
(29.20)
(29.20)
В областях, где объектов не оказалось (т/ = 0) плотность распределения принимается равной нулю.
Среднее значение непрерывной случайной величины, аналогично равенству [(29.3):
(29.21)(29.21)хп = J хр (х) dx.
(29.21)
(29.21)
Математическое ожидание (х) определяется таким же образом, но используется истинное (теоретическое) значение плотности вероятности. Среднеквадратичное отклонение непрерывной случайной величины на основании данных наблюдений
On И =On И =j (х-хДЧ^j (х-хДЧ^(29.22)(29.22)1
On И =
On И =
j (х-хДЧ^
j (х-хДЧ^
(29.22)
(29.22)
Для теоретического распределения (или для выборки бесконечного объема) среднеквадратичное отклонение
а [х] =а [х] =1 j (х—ЧЧ (х) dx1 j (х—ЧЧ (х) dx(29.23)(29.23)
а [х] =
а [х] =
1 j (х—ЧЧ (х) dx
1 j (х—ЧЧ (х) dx
(29.23)
(29.23)
Пример 3. Определить функцию распределения, математическое ожидание и среднеквадратичное отклонение для распределения случайной величины по закону равномерной плотности. Плотность распределения (для закона равномерной плотности рис. 63) выражается равенством
/ (х) =/ (х) =01/(6-а)001/(6-а)0хс а;
/ (х) =
/ (х) =
0
1/(6-а)0
0
1/(6-а)0
а< х < Ь;\х^Ь.
X
Функция распределения F (х) = j f(x)dx.
После интегрирования находим
х С а;
(х — а)/(Ь — а) а< х< Ь;(х — а)/(Ь — а) а< х< Ь;
(х — а)/(Ь — а) а< х< Ь;
(х — а)/(Ь — а) а< х< Ь;
11х^Ь.
1
1
Из соотношения (29.21) получаем
f г х .( xdx а 4- b
-ооа
Среднеквадратичное отклонение
1
г ОО2
^ (х — х)2/ (х) dx -
b / a+bу 2!
f V 2 J _ f kb-a^ 1 2 b-a
J b-a *12 j 2/3 *
Укажем некоторые свойства математического ожидания и среднеквадратичного отклонения, справедливые как для непрерывных, так и для дискретных случайных величин.
Математическое ожидание постоянной величины равно ей самой (с) = с. Это вполне понятно, так как постоянную величину можно рассматривать как случайную, имеющую одно возможное значение с вероятностью Р = 1. •
Математическое ожидание произведения постоянной и случайной величин (сх) = с (х), т. е. постоянный множитель может быть вынесен из-под знака математического ожидания.
Среднеквадратичное отклонение постоянной величины
о [с] = 0.(29.24)
Среднеквадратичное отклонение при линейном преобразовании случайной величины
a tex + а] = | с | а [х].(29,25)
Прибавление постоянной величины к случайной не изменяет среднеквадратичного отклонения.
Моментные характеристики распределений. Различают начальные и центральные моменты распределения. Начальный момент порядка k
ть = J хЦ (х) dx = (х^),(29.26)
для дискретных распределений
тк=^1^р1 = ^*(29.27)
Центральный момент порядка k
Мк = J (х — х)* f (х) dx = ((х — х)^,(29.28)
для дискретных распределений
Мк = 2 to - > Pl = ^х-’х»,(29.29)
1=1
Для дальнейшего наиболее существенными будут центральные моменты непрерывных случайных величин. Центральный момент нулевого порядка
Л40=1.(29.30)
Центральный момент первого порядка
Мх = | (х — х) f (х) dx = 0.(29.31)
Центральный момент второго порядка (дисперсия)
Л12 = J (х — x)2f (x)dx = D = ca.(29.32)
Имеют значения центральные моменты третьего и четвертого порядков. Безразмерная величина
л = -^-(20.33)
называется асимметрией распределения. Распределение с различной асимметрией показано на рис. 64. Величину
(29.34)(29.34)^3 = 5
(29.34)
(29.34)
»4
принято называть эксцессом распределения. Он характеризует «острую» (Е > 0) или «сглаженную» (Е < 0) вершину распределения (рис. 65) по сравнению с некоторым эталонным распределением (Е = 0), в качестве которого принимается нормальное распределение (см. следующие параграфы).
Рис. 65. Различные эксцессы распределения 208Рис. 65. Различные эксцессы распределения 208
Рис. 65. Различные эксцессы распределения 208
Рис. 65. Различные эксцессы распределения 208
§ 30. МНОГОМЕРНЫЕ РАСПРЕДЕЛЕНИЯ И ФУНКЦИИ СЛУЧАЙНЫХ ВЕЛИЧИН
^Функция распределения и плотность вероятности двучмерной случайной величины. Рассмотрим совместное распределение двух (непрерывных) случайных величин Хх и Х2; будем считать их компонентами вектора X (Х1Э Х2).
Существенно, что величины Xj и Х2 относятся к одному случайному событию (например, значения двух параметров системы в данный момент времени).
Функция распределения F (Хп Х2) есть вероятность одновременного выполнения условия
(30.1)(30.1)Р № < ^i А Х2 < х2) =-= F (х!, х2).
(30.1)
(30.1)
Реализация случайной величины —точка А (вектор X) с координатами Хх и Х2 (рис. 66). Условие (30.1) означает, что точка А попадает в заштрихованную область (—оо < Хг < хг> —оо < Х2 < х2).
Если вероятность попадания в элемент области равна f (Хь Х2) dXt dX2, где / (Хь Х2) — плотность вероятности, то
Xt Хг
(30.2)(30.2)fto.x,)=J J UXVX^ dXxdX2.
(30.2)
(30.2)
Здесь *! и х2 — конкретные числовые значения случайных величин Хг и Х2.
В равенстве (30.2) переменные интегрирования Хг и Х2 пробегают значения от —оо до хг и от —оо до х2 соответственно.
Дифференцируя соотношение (30.2) по хъ находим
9Fd^ = / ^vX^dX.-
Снова дифференцируя, но теперь по х2, получаем важное соотношение
d^F (хп х2)дхгдх2d^F (хп х2)дхгдх2= Н*1. ^з)1= Н*1. ^з)1(30.3)(30.3)
d^F (хп х2)дхгдх2
d^F (хп х2)дхгдх2
= Н*1. ^з)1
= Н*1. ^з)1
(30.3)
(30.3)
По физическому смыслу плотности распределенияПо физическому смыслу плотности распределения/ (хь Х2) dx! dx2 = Р (хг < Хг < хг + dxx А х2 < Х2 < х2 + dx2).(30.4)/ (хь Х2) dx! dx2 = Р (хг < Хг < хг + dxx А х2 < Х2 < х2 + dx2).(30.4)На рис. 67 показана область dS, вероятность попадания в которую выражает равенство (30.4).Плотность совместного распределения выражается обычно куполообразной поверхностью (рис. 68). ОчевидноF (оо, оо) = J J / (Хъ Х^ dX, dX^X,(30.5)Рис. 66. Возможные значения двухмерной случайной величины хНа рис. 67 показана область dS, вероятность попадания в которую выражает равенство (30.4).Плотность совместного распределения выражается обычно куполообразной поверхностью (рис. 68). ОчевидноF (оо, оо) = J J / (Хъ Х^ dX, dX^X,(30.5)Рис. 66. Возможные значения двухмерной случайной величины х8 И. А. Биргер8 И. А. Биргер209209
По физическому смыслу плотности распределения
По физическому смыслу плотности распределения
/ (хь Х2) dx! dx2 = Р (хг < Хг < хг + dxx А х2 < Х2 < х2 + dx2).(30.4)
/ (хь Х2) dx! dx2 = Р (хг < Хг < хг + dxx А х2 < Х2 < х2 + dx2).(30.4)
На рис. 67 показана область dS, вероятность попадания в которую выражает равенство (30.4).
Плотность совместного распределения выражается обычно куполообразной поверхностью (рис. 68). Очевидно
F (оо, оо) = J J / (Хъ Х^ dX, dX^X,
(30.5)
Рис. 66. Возможные значения двухмерной случайной величины х
На рис. 67 показана область dS, вероятность попадания в которую выражает равенство (30.4).
Плотность совместного распределения выражается обычно куполообразной поверхностью (рис. 68). Очевидно
F (оо, оо) = J J / (Хъ Х^ dX, dX^X,
(30.5)
Рис. 66. Возможные значения двухмерной случайной величины х
8 И. А. Биргер
8 И. А. Биргер
209
209
Рис. 67. Определение плотности вероятности двухмерной случайной величиныРис. 67. Определение плотности вероятности двухмерной случайной величиныРис. 68. Плотность распределения двухмерной случайной величиныРис. 68. Плотность распределения двухмерной случайной величины
Рис. 67. Определение плотности вероятности двухмерной случайной величины
Рис. 67. Определение плотности вероятности двухмерной случайной величины
Рис. 68. Плотность распределения двухмерной случайной величины
Рис. 68. Плотность распределения двухмерной случайной величины
так как условия —оо < Хт < оо, —оо < Х2 <оо являются достоверными. Вероятность попадания вектора X в область S
Р (Х£ S) = j Jif (Х^ Х2) dXt dX2,(30.6)
где интеграл берется по площади области S. Например, если S есть прямоугольная область а <: Хт С b, c^X2^d, то Р (а С Хт С b, с С Х2 С d) = = jJ f (Х1( Х2) dXt dX2.
а с
Рассмотрим связь между плотностью совместного распределения и плотностями отдельных (частных) распределений. Плотность распределения случайной величины Хг может быть выражена следующим образом:
fi (*i) = J f (*i. *а) dX2.(30.7)
Случайная величина Хх при Хг = хг оказывается в полосе (хь хг + dx^ при различных значениях Х2. Если провести суммирование по всем значениям Х2 [формула (30.7)], то получим плотность вероятности /х (xj. Аналогично
fa (*а) = j f (*i, x2) dXv(30.8)
Условная плотность распределения и независимость непрерывных случайных величин. Равенство (30.4) выражает вероятность сложного события (произведение двух событий — одновременное попадание случайного вектора X в полосы dxx и dx2 (рис. 67)].
Можно записать вероятность такого события
Р (хх < Хх < хх + dxt Л х2 < Х2 < х2 + dx2) =
= Р (хх < Хх < хг -|- dxY^ Р (х2 < Х2 < х2 + dx2lxr < Xt < хг -|- dx^.(30.9)
Первый множитель в этом равенстве — вероятность обнаружения X в полосе dxx
Р (Xj Х^ х^ -J- dx^) = fi (-^i) dx^e(30.10)
210
Второй множитель — вероятность попадания в полосу dx2 при условии, что Xi = xv Это условная плотность вероятности непрерывной случайной величины Х2, которую будем обозначать следующим образом:
Р (*2 < х2 < *2 + ^2/^1 < *1 < xi + dxi) = / (^2/^1) ^2-(30.11)
Теперь из соотношений (30.9)—(30.11) и равенства (30.4) получаем важный результат
/ (xn х2) = ft (xj / (х2/хх).(30.12
Точно так же
f(^1^2)=f2tof№).(30.13)
Последние равенства аналогичны зависимостям для случайных событий (см. § 28). Случайные величины Хг и Х2 (компоненты вектора X) явдяются независимыми, если
/ (хх/х2) = ft (хх); / (х2/хх) = (х2).(30.14)
Для независимых непрерывных случайных величин плотность распределения (или закон распределения) одной случайной величины не зависит от закона распределения другой. Для таких величин плотность совместного распределения
f(*i, ^Wi^to-(30.15)
Подобное соотношение справедливо и для функции распределения
F (^i> ^2) ~ ^i (*i) Р2 (*2) •(30.16)
Условие независимости двух случайных величин практически проверяется с помощью вычисления момента корреляции. Момент корреляции случайных величин Хг и Х2
^12= J j to — *1) to — х2) f (хх, х2) dxi dx2.(30.17)
Для независимых случайных величин корреляционный момент обращается в нуль, что вытекает из условия (30.15)
^12 = I J to—*1) h to) to^12 = I J to—*1) h to) toj (x2 — x2) /2 (x2) dx2 I = 0.j (x2 — x2) /2 (x2) dx2 I = 0.(30.18)(30.18)
^12 = I J to—*1) h to) to
^12 = I J to—*1) h to) to
j (x2 — x2) /2 (x2) dx2 I = 0.
j (x2 — x2) /2 (x2) dx2 I = 0.
(30.18)
(30.18)
Многомерное распределение. Предыдущие результаты естественно обобщаются на случайный вектор X в n-мерном пространстве. Функция распределения в этом случае
f to, х2;f to, х2;хпJ / (^1. Х2,хпJ / (^1. Х2,Х„) dXx dX2... dXn,Х„) dXx dX2... dXn,(30.19)(30.19)где Х( пробегает значения от —оо до Х{ (< = 1, 2, ..., п\ Плотность распределениягде Х( пробегает значения от —оо до Х{ (< = 1, 2, ..., п\ Плотность распределенияt (*1> х2, . . . , хп) —t (*1> х2, . . . , хп) —dnF fa, х2, . . . , хп)дхгдх2 . . . дхпdnF fa, х2, . . . , хп)дхгдх2 . . . дхп(30.20)(30.20)8*8*211211
f to, х2;
f to, х2;
хп
J / (^1. Х2,
хп
J / (^1. Х2,
Х„) dXx dX2... dXn,
Х„) dXx dX2... dXn,
(30.19)
(30.19)
где Х( пробегает значения от —оо до Х{ (< = 1, 2, ..., п\ Плотность распределения
где Х( пробегает значения от —оо до Х{ (< = 1, 2, ..., п\ Плотность распределения
t (*1> х2, . . . , хп) —
t (*1> х2, . . . , хп) —
dnF fa, х2, . . . , хп)дхгдх2 . . . дхп
dnF fa, х2, . . . , хп)дхгдх2 . . . дхп
(30.20)
(30.20)
8*
8*
211
211
Плотность частного распределения некоторого числа случайных величин, например первых к величин [см. равенство (30.7)],
/ (*1, ^2> • • • > хк^ — J • • • J f (^i, *2> • • • > хк> Xk^X^ ^Х^^ dXn. (30.21)
п—к раз
Для независимых случайных величин
/ (д^, х2, . . . , хп) = Д (хг) /2 (ха) • • • fn (хп) = ПЛ (Х{).(30.22)
z = l
Корреляционный момент (или момент ковариации) двух компонентов случайного вектора
Kt; = J J ^ ~~Х^ ^ — Хк^ ^ ^‘^ dXi dXk‘(30.23)
В этом равенстве f (xi, х^ — плотность совместного распределения случайных величин Х( и Х^.
Если учесть зависимость (30.21), то равенство (30.23) можно записать в более общей форме
Кц = | . . . J (х, — х,) (хА — х6) f (xv х2, . . . , х„) dxY dx2 . . . dxn. (30.24)
п раз
Величины Kij образуют корреляционную матрицу порядка п X п.
Сумма и произведение случайных величин, статистические характеристики.
В практических задачах часто встречаются случайные величины, зависящие от других случайных величин. Например, напряжение в опасном сечении детали представляет собой сумму статических и переменных напряжений, каждое из которых зависит от многих случайных факторов и является величиной случайной и т. п. -
Рассмотрим сначала математическое ожидание и среднеквадратичное отклонение для суммы и произведения случайных величин. Математическое ожидание (среднее значение) суммы случайных величин равно сумме их математических ожиданий
<^ + ^>-W + <y>.(30.25)
Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий
Ш-<хИуУ(30.26)
Следует особо подчеркнуть, что случайные величины х и у предполагаются независимыми.
Среднеквадратичное отклонение суммы или разности двух случайных величин
а [х ± t/J = УаЧхА+аг [у]+2Кху,(30.27)
где Кху — корреляционный момент (или ковариация) случайных величин х и у.
Для дискретных случайных величин корреляционный момент п т
^ху=^^ (Xi-x) (у,-^ Рм.(30.28)
<=1 ,=1
Для непрерывных случайных величин
Кху = J J (х — х) (у — у) / (х, у) dxdy.(30.29)
Поясним доказательство равенства (30.27) на примере дискретных величин оЧх + у]- 2 2 ^iA-tii-^-"gyPij.(30.30)
4=1 /—1
В этой формуле случайные величины х и у имеют пи т возможных значений соответственно. Представляя
(X/ + У/ — X — у)2 = (х, — х)2 + ^j — у)2 + 2 (xz — х) (у,- — у)
и учитывая равенства
2 2 - *)2 рн = 2 <xi - *)2 pi = °2 и. 4=1 /=14 = 1
2 2 (У/ - у)2 РЧ = 2 (У/ - У)2 pi = °2 [УЬ ‘=1 /=1/=1
получим соотношения (30.27).
В последних соотношениях использовались зависимости
^Pii = Pr, ^рЧ = рг(3031)
/=14 = 1
Величина P/у выражает вероятность совместного появления xt и ур Если просуммировать все возможные варианты появления xt с различными У] (х^у^ х^у^, то получим вероятность значения х^.
Для независимых случайных величин
Pi, = PtPj,(30.32)
и корреляционный момент обращается в нуль
Кху = ( 2 (^-^) рт 2 (у/-у) р/1 = °-<30-33)
\4 = 1) \/ = 11
Для независимых случайных величин
° [X + у] = <J [X — у] = /а2 [х] +о2 [у].(30.34)
Среднеквадратичное отклонение суммы случайных величин
1
(30.35)(30.35){V v 'I 2
(30.35)
(30.35)
2 2 М ’
r=l s=l J
где Кг$ — корреляционный момент дискретных случайных величин Хг и Х$.
213
Если случайные величины XvЕсли случайные величины XvРис. 69. Определение плотности распределения суммы случайных величин
Если случайные величины Xv
Если случайные величины Xv
Если значения г и s совпадают, то
Кгг-оЧХА.(30.36)
Для непрерывных случайных величин корреляционный момент
Krs = j j (xr — xr) (*s — -Vs) / (*r. *s) dxr dxs.
(30.37)
..., Xv независимы, то
1
(30.38)(30.38)Xv среднеквадратичное(30.39)Xv среднеквадратичное(30.39){v) 2
(30.38)
(30.38)
Xv среднеквадратичное
(30.39)
Xv среднеквадратичное
(30.39)
4 = 1J
При изменении «масштаба» независимых величин Хт отклонение
1
Среднеквадратичное отклонение произведения двух независимых случайных величин
(30.40)(30.40)°xg = V°^« + ^ + ^v
(30.40)
(30.40)
Равенство доказывается следующим образом. На основании соотношения (29.12) о2^ = <(^ — ху^>. Так как величины х и у независимые, то
(30.41)(30.41)^хд = ^У^ — 2х УХУ + ^^ = V^ (У2) — ^'
(30.41)
(30.41)
и, учитывая равенство (29.10), (х2) = а2 + х2; (у2) = а2 + у2, получим формулу (30.40).
Плотность распределения суммы и разности двух случайных величин. В некоторых задачах необходимо знать не только основные параметры распределения (среднее значение и среднеквадратичное отклонение), но и само распределение. Подобная ситуация встречается в различных приложениях, например, при определении вероятности разрушения и др. Пусть случайная величина
(30.42)(30.42)Z = X + У,
(30.42)
(30.42)
причем плотность совместного распределения / (X, У) случайных величин X и У известна.
Функцию распределения для г можно записать в таком виде:
(30.43)(30.43)Г (z) = Р (Z < z) = J J / (X, У) dX dY. S
(30.43)
(30.43)
Интеграл распространяется на область S, внутри которой выполняется условие
(30.44)(30.44)Х + У < z.
(30.44)
(30.44)
На рис. 69 показана эта область S, причем координаты точек граничной прямой х, у удовлетворяют соотношению
х + у = г.х + у = г.(30.45)
х + у = г.
х + у = г.
Распространяя интегрирование по полоске — оо < X < х и суммируя по всем полоскам, получим
ео г—у
F (z) = J j f (X, у) dX dy.(30.46)
Дифференцируя это равенство по г, находим плотность распределения
Lto=^ = ^Hz-y.y)dy.(30.47)
Если изменить порядок интегрирования, проводя его сначала по вертикальным полоскам —оо <Y < z— х, то получим равносильный результат
fz (z) = J f (х, z — x) dx.(30.48)
Если случайные величины X и Y независимы, то
Hx^^tx^Hu^Y(30.49)
и тогда
fz (z) = J fx (z — у) fy (у) dy = j /х (x) fy (z — x) dx.(30.50)
Последние равенства выражают композицию распределений х и у (распределение суммы двух независимых случайных величин).
Рассмотрим теперь плотность распределения разности случайных величин
Z = X — Y.(30.51)
Область, в которой выполняется условие X — Y < г, показана на рис. 70. Подобно предыдущему, находим
F (z) = Р (Z < z) = J j f (X, у) dX dy = j j f (x, У) dY dx. (30.52) — co —oo—оо X—Z
Дифференцируя no z, получаем
fz (z) = j f (z + у, У) dy = j / (x, x — z) dx.(30.53)
Среднее значение и среднеквадратичное отклонение функции случайных величин. Рассмотрим снова зависимость случайных величин у и х
У = ^(Х).(30.55)
Если известна плотность распределения fg (у), то очевидны следующие равенства для среднего значения и среднеквадратичного отклонения:
У = J У?у (У) dy;(30.56)
4 = J (У —^zfy (У) dy.(30.57)
Но для определения у и о^ не обязательно знать в явной форме закон распределения случайной величины у, их значения можно найти, используя известное распределение величины х. Рассмотрим для примера дискретную случайную величину х, которая может иметь п значений Х( с вероятностями Р/. Величина у будет иметь те же п дискретных значений yi = ф (х^, причем вероятности значений у( и Х( совпадают. Тогда среднее значение (математическое ожидание) у y=t1'i?MPt.(30.58)
1=1
Для непрерывной случайной величины
У = J 'I’ W fx W dx.(30.59)
Равенство (30.59) можно непосредственно вывести из соотношения (30.56), если учесть зависимость
fy (У) = tx (х) dx/dy.(30.60)
Для среднеквадратичного отклонения будем иметь
о^ = j W W - W))2 ix (х) dx.(30.61)
Подобные результаты справедливы для функции нескольких случайных величин. Если
У = <Р (хп х2хт),(30.62)
то среднее значение (математическое ожидание)
У = J • j <Р (Хр • • ., ХтН (Хр . . ., x^dXi. . . dxm.(30.63)
т раз
Среднеквадратичное отклонение
Оу = j . .. j [ср (xlt . . ., xm) — ypf (xv . . . xm) dxx . . . dx,n. (30.64)
m раз
Во многих случаях можно использовать приближенное выражение для функции случайных аргументов (30.62). Если плотность вероятности Xj быстро убы- . вает по мере удаления от среднего значения Xjt то можно ограничиться первыми членами разложения, полагая
у = ф (xv . . хт) + 2 Зф/дХу й(X/ — Х0.(30.65)
Теперь будем иметь
у = Ф (*i> х2, . . ., Хщ).(30.66)
Для независимых случайных величин
1
Gy = | У Уф/dxy)2 о2 [Ху] I .(30.67)
Эти важные формулы будут использованы в дальнейшем. В частном случае, когда т
у = ф (xv ..., Хт} = ^ СуХу, из равенства (30.67) вытекает соотношение (30.39). /=1
Пример. Пусть у = 1/х, известно среднее значение х и оХ1 требуется найти у и Оу. По формулам (30.66) и (30.67) получаем
Формулы теории ошибок. В реальных условиях все детали изготовляются и измеряются с некоторыми погрешностями (ошибками), которые регламентируются техническими условиями, нормами, стандартами. Часто интересующий параметр (например, ошибка показания прибора) сложным образом зависит от погрешностей ряда других параметров. Пусть величина у является функцией т параметров х1э ..., хт
У = ф (^, х2, . . ., ХтУ(30.68)
Пусть бху — отклонение параметра Ху от номинального (расчетного) значения х*
^х. = х. — х*.(30.69)
Принимая эти отклонения (погрешности) малыми, будем иметь
т
6у = ^6х1 + ...+^-6хт= У^бх,,(30.70)
i=x
В этой формуле значения частных производных берутся при номинальном значении параметров (xj, ..., x*J.
Основываясь на результатах предыдущего раздела, можно указать среднее значение случайной погрешности
т
(30■7,,
/=1
где бху — средняя погрешность измерения.__
Если рассматривать отклонение от среднего значения параметров (х* = х^ то ^у = 0, так как все бху = 0.
Среднеквадратичное отклонение или, как его называют в теории ошибок, среднеквадратичная погрешность, выражается следующим равенством [см. равенство (30.35)]:
1
' т т2
(30.72)(30.72)О[6У]= У у ^.^вг J
(30.72)
(30.72)
Jdxr dxs 6vr6fs
r==l S=1
где корреляционный момент (момент ковариации) случайных величин 6хг и 6xs обозначен К&хгм5.
В большинстве случаев погрешности отдельных параметров можно считать независимыми, и тогда в соответствии с равенством (30.67)
а [бу] =а [бу] =(30.73)(30.73)
а [бу] =
а [бу] =
(30.73)
(30.73)
Соотношения (30.70), (30.71) и (30.73) являются основными формулами теории ошибок. Они применяются в технической диагностике для оценки достоверности измерений параметров системы.
§ 31. НОРМАЛЬНОЕ РАСПРЕДЕЛЕНИЕ
Плотность нормального распределения. Среди различных законов распределения непрерывной случайной величины нормальное распределение занимает совершенно особое место. Статистическое описание явлений обычно применяется при действии большого числа второстепенных разнородных факторов, приблизительно равноценных по значению. Суммарный эффект получается в результате «осреднения» отдельных воздействий.
При таких условиях в теории вероятности доказывается центральная предельная теорема Ляпунова, в соответствии с которой распределение суммы большого числа независимых случайных величин (с произвольными законами распределения!) подчиняется нормальному закону. В практике нормальное распределение встречается очень часто: погрешности изготовления и измерения деталей, рассеяние механических свойств материалов, распределение различного рода случайных воздействий и т. п. Нормальный закон распределения обладает устойчивостью, линейные функции нормальных случайных величин также следуют этому закону. Во многих задачах с помощью нормального закона или его модификаций можно приближенно представить другие распределения. Плотность распределения при нормальном законе выражается следующим равенством:
и—XV,_ .
/ W/ W(31-1)(31-1)12О21 f (х —х)2
/ W
/ W
(31-1)
(31-1)
е= 7= ехР 1о 9 '
о К2ло К2л I 2о
где х — среднее значение (математическое ожидание); ст — среднеквадратичное отклонение непрерывной случайной величины х.
На рис. 71 показана плотность нормального распределния в соответствии с формулой (31.1). Отметим, что при нормальном распределении случайная величина х может принимать значения —сю < х < оо, причем вероятность больших отклонений очень мала. Нормальное распределение является двупараметрическим: задание двух параметров х и ст полностью определяет распределение,
Рис. 71. Плотность нормального распределения
Покажем, что параметр х действительно является средним значением (математическим ожиданием) случайной величины х. Для этого вычислим математическое ожидание
001°°_ (^-Л>2
х=^ ^ — J xf (х) dx = —р^^" j хе 2°2 ^х*
(31.2)
Введем нормированное отклонение
и = (х —x)/g.
(31.3)
Это отклонение играет важную роль в теории вероятности и математической статистике. Физический смысл нормированного отклонения таков. Величина и является случайной величиной, распределенной по нормальному закону с нулевым средним значением и = 0 и квадратичным отклонением аи = 1.
Равенство (31.2) представим в такой форме:
{ООц4оои4 '
а2 [ ие 2 du + ха [ е 2 du
JooJoo-
Первый интеграл обращается в нуль (интеграл произведения антисимметричной и симметричной функций), второй интеграл (интеграл Пуассона)
ООЦ4
J е 2 du = V2n,(31.4)
и потому (х) = X.
Подобным образом можно доказать, что дисперсия распределения
D = J (х — х)2 f (х) dx = ст2
(31.5)
и величина ст в равенстве (31.1) действительно является среднеквадратичным отклонением. Площадь под кривой / (х)
[ / (х) dx =Ге 2 ст du = 1. ст V 2л
(31.6)
Чем меньше значение ст, тем «острее» выглядит кривая нормального распределения (рис. 72). Это свойство очевидно, так как
f _1
fmaX а№’
(31.7)
а площади кривых при различных ст одинаковы.
Рис. 72. Плотность распределения при различных среднеквадратичных отклонениях
Функция распределения и функция Лапласа.
Функция распределения для нормального закона хх ^х) ^
F (х) = [ f (х) dx = 1 f еdx
Jо И 2л J
°°~°°(31.8)
или, используя замену переменных (31.4),
х—х
_ ц2
FWtt^ I г 14“-|ЗL9,
Функция распределения обычно выражается через функцию Лапласа
х
(31.10)(31.10)(31.11)(31.11)Ф(х)=-^=-Ге 2 dS.
(31.10)
(31.10)
(31.11)
(31.11)
Г 2л J
Между этими функциями существует простая зависимость
„ , .1, - / X — X \
РМ=- + ф^—_)•
Вероятность обнаружения х в интервале а С х С b
ьь _ ^х—хУ
Р (a^x^ib) ~ f / (х) dx =f е 2Q2 dx =
Jа И 2л J
аа
и»2 du.и»2 du.(31.12)(31.12)(31.13)(31.13)Ь—Зсо
и»
2 du.
и»
2 du.
(31.12)
(31.12)
(31.13)
(31.13)
Рис. 73. Функция распределения F (х) и функция Лапласа Ф (х) для нормального распределенияРис. 73. Функция распределения F (х) и функция Лапласа Ф (х) для нормального распределенияРис. 74. Вероятность заданного отклонения нормальной случайной величиныРис. 74. Вероятность заданного отклонения нормальной случайной величины
Рис. 73. Функция распределения F (х) и функция Лапласа Ф (х) для нормального распределения
Рис. 73. Функция распределения F (х) и функция Лапласа Ф (х) для нормального распределения
Рис. 74. Вероятность заданного отклонения нормальной случайной величины
Рис. 74. Вероятность заданного отклонения нормальной случайной величины
На рис. 73 показан график функции Лапласа и функции распределения F (х).
Кривые идут эквидистантно.
Р (х<Ь)Р (х<Ь)Если в равенстве (12) положить а = —сю, то
Р (х<Ь)
Р (х<Ь)
(31.14)
(31.15)(31.15)так как Ф (—оо) = —Ф (оо) = —V2. Равенство (31.14) можно было получить непосредственно из формулы (31.11). Из соотношения (31.12), положив b = оо, находим
(31.15)
(31.15)
Пример. При определении переменных напряжений в лопатках газовой турбины найдено среднее напряжение ау = 55 МПа и среднеквадратичное отклонение ст = 15 МПа. Принимая нормальный закон распределения, определить вероятность появления переменных напряжений свыше 100 МПа.
По равенству (31.15) находим
Р (а„ > 100) = Аф (—^ 55 ) = АФ (3) = 0,5 — 0,4986 = 0,0014.
Отклонения нормальной случайной величины от среднего значения. Доверительная вероятность, квантили. Вероятность отклонения от среднего значения на величину / (рис. 74) в соответствии с равенством (31.12)
(31.16)(31.16)Р(х — 1<х<хАг1) = Ф (1/о) — Ф (— I/O) — 2Ф (Z/a).
(31.16)
(31.16)
Из этой формулы видно, что вероятность появления рассматриваемого отклонения зависит от его отношения к ст. Среднеквадратичное отклонение выступает в роли масштаба отклонений. Например, при -^— — 3 Р (х — Зст < х < х + + Зст) = 2Ф (3) = 0,997.
Величину Р = 0,997 можно назвать доверительной вероятностью отклонения ±3ст, так как случайная величина, распределенная по нормальному закону, с вероятностью 0,997 окажется в интервале ^Зст (длина интервала бст). Чем больше относительное отклонение
(31.17)(31.17)t = //ст,
(31.17)
(31.17)
тем больше можно доверять условию, что интервал ±/ будет содержать рассматриваемую случайную величину.
Ниже приведены значения доверительной вероятности Р^ = Р (х — /о < < х < х + /а) в зависимости от относительного отклонения:
t 0,67411,64 1,96 2,58 3,0345
Рд 0,500,68 0,90 0,95 0,99 0,999 0,9999360,999994
В статистических расчетах часто используются квантили—значения аргумента функции распределения, при котором функция равна заданной вероятности Р
P^x<xP^F (хР) = Р.(31.18)
Иными словами, квантиль вероятности Р есть такое фиксированное значение случайной величины хр, для которого условие х < хр выполняется с вероятностью Р (квантиль — аргумент вероятности Р).
Квантиль, соответствующий вероятности Р = 0,5, называется медианой распределения.
Часто удобно использовать нормированные квантили
Up = (xp-^/c,(31.19)
и тогда
xp = H+Upa.(31.20)
В силу равенства (31.11)
Р(^) = 4- + Ф(^) = Р.(3L2|)
Значения Up могут быть найдены с помощью таблиц функции Лапласа. Например, для значения Р = 0,9 будем иметь Ф (U0t9) = 0,9 — V2 = 0,4- По таблице для функции Лапласа находим UM = 1,28. Укажем важное соотношение, часто применяемое в расчетах Ur_p = —Up.
Остановимся на различии понятий нормированного квантиля Up и относительного отклонения /, соответствующего доверительной вероятности Рд.
При равенстве t = Up величина Р > Рд, что вытекает из геометрической иллюстрации на рис. 75. Точно так же при Р = Рд Up < t, например при Р = = Рл = 0,9 Up = 1,28; t = 1,64. С увеличением t разность t — Up уменьшается.
р20 _ х'р—' т0,5Л0|Xд\| а |/тогда как нормированный квантиль — одностороннююР (- --. ^ Up\ = Р.(31.23)\ а/Если Up = t, то Рд = 2Р — 1, причем Р>Рд.*Многомерное нормальное распределение.Рассмотрим сначала нормальное распределение двухмерного случайного вектора с компонентами хг и х2. При таком распределенииРис. 75. Определение доверительной вероят- ■ностир20 _ х'р—' т0,5Л0|Xд\| а |/тогда как нормированный квантиль — одностороннююР (- --. ^ Up\ = Р.(31.23)\ а/Если Up = t, то Рд = 2Р — 1, причем Р>Рд.*Многомерное нормальное распределение.Рассмотрим сначала нормальное распределение двухмерного случайного вектора с компонентами хг и х2. При таком распределенииРис. 75. Определение доверительной вероят- ■ности-W ^Р (I —™ IС А = Рд,(31.22)-W ^Р (I —™ IС А = Рд,(31.22)Указанные различия связаны с тем, что величина / дает двустороннюю оценку
р
2
0 _ х'
р—' т
0,5Л
0|Xд
\| а |/
тогда как нормированный квантиль — одностороннюю
Р (- --. ^ Up\ = Р.(31.23)
\ а/
Если Up = t, то Рд = 2Р — 1, причем Р>Рд.
*Многомерное нормальное распределение.
Рассмотрим сначала нормальное распределение двухмерного случайного вектора с компонентами хг и х2. При таком распределении
Рис. 75. Определение доверительной вероят- ■ности
р
2
0 _ х'
р—' т
0,5Л
0|Xд
\| а |/
тогда как нормированный квантиль — одностороннюю
Р (- --. ^ Up\ = Р.(31.23)
\ а/
Если Up = t, то Рд = 2Р — 1, причем Р>Рд.
*Многомерное нормальное распределение.
Рассмотрим сначала нормальное распределение двухмерного случайного вектора с компонентами хг и х2. При таком распределении
Рис. 75. Определение доверительной вероят- ■ности
-W ^Р (I —™ IС А = Рд,(31.22)
-W ^Р (I —™ IС А = Рд,(31.22)
Рис. 76. Нормальное распределение многомерной случайной величиныРис. 76. Нормальное распределение многомерной случайной величиныкаждая из случайных величин хг и х2 подчиняется нормальному закону. Плотность двухмерного нормального распределения/ (х1> *2) =>■ X2ла1о2 1^1 — г2Х 6ХР{—2(1 — г»)£( \ 1) ”_ 2г (%!— xt) (х2 —х2)/ х2 — ха у 11ахоа "r \ а2 ) JJ ’ (31.24)каждая из случайных величин хг и х2 подчиняется нормальному закону. Плотность двухмерного нормального распределения/ (х1> *2) =>■ X2ла1о2 1^1 — г2Х 6ХР{—2(1 — г»)£( \ 1) ”_ 2г (%!— xt) (х2 —х2)/ х2 — ха у 11ахоа "r \ а2 ) JJ ’ (31.24)где xv о^ и х2э о2 — средние значения и среднеквадратичные отклонения случайных величин хг и х2; г — коэффициент корреляции, | г | С 1,г = -^- = —1— J J (Xj— x)t (ха — x^f (xv x^dx^x^.(31.25)U1O2J _где xv о^ и х2э о2 — средние значения и среднеквадратичные отклонения случайных величин хг и х2; г — коэффициент корреляции, | г | С 1,г = -^- = —1— J J (Xj— x)t (ха — x^f (xv x^dx^x^.(31.25)U1O2J _Плотность двухмерного распределения зависит от пяти параметров (хг> х2> ov а2 и коэффициента корреляции г). Она изображается куполообразной поверхностью (рис. 76), вершина которой (центр распределения) находится в точке с координатами хг> х2.Линии равной плотности вероятности представляют собой эллипсыПлотность двухмерного распределения зависит от пяти параметров (хг> х2> ov а2 и коэффициента корреляции г). Она изображается куполообразной поверхностью (рис. 76), вершина которой (центр распределения) находится в точке с координатами хг> х2.Линии равной плотности вероятности представляют собой эллипсы2r(Xj —х1)(х2 —х2)/ х2— х2<J1<J2\ а22r(Xj —х1)(х2 —х2)/ х2— х2<J1<J2\ а2Главные оси эллипса повернуты на угол а, причемГлавные оси эллипса повернуты на угол а, причемtg 2а =tg 2а =
Рис. 76. Нормальное распределение многомерной случайной величины
Рис. 76. Нормальное распределение многомерной случайной величины
каждая из случайных величин хг и х2 подчиняется нормальному закону. Плотность двухмерного нормального распределения
/ (х1> *2) =>■ X
2ла1о2 1^1 — г2
Х 6ХР{—2(1 — г»)£( \ 1) ”
_ 2г (%!— xt) (х2 —х2)/ х2 — ха у 11
ахоа "r \ а2 ) JJ ’ (31.24)
каждая из случайных величин хг и х2 подчиняется нормальному закону. Плотность двухмерного нормального распределения
/ (х1> *2) =>■ X
2ла1о2 1^1 — г2
Х 6ХР{—2(1 — г»)£( \ 1) ”
_ 2г (%!— xt) (х2 —х2)/ х2 — ха у 11
ахоа "r \ а2 ) JJ ’ (31.24)
где xv о^ и х2э о2 — средние значения и среднеквадратичные отклонения случайных величин хг и х2; г — коэффициент корреляции, | г | С 1,
г = -^- = —1— J J (Xj— x)t (ха — x^f (xv x^dx^x^.(31.25)
U1O2J _
где xv о^ и х2э о2 — средние значения и среднеквадратичные отклонения случайных величин хг и х2; г — коэффициент корреляции, | г | С 1,
г = -^- = —1— J J (Xj— x)t (ха — x^f (xv x^dx^x^.(31.25)
U1O2J _
Плотность двухмерного распределения зависит от пяти параметров (хг> х2> ov а2 и коэффициента корреляции г). Она изображается куполообразной поверхностью (рис. 76), вершина которой (центр распределения) находится в точке с координатами хг> х2.
Линии равной плотности вероятности представляют собой эллипсы
Плотность двухмерного распределения зависит от пяти параметров (хг> х2> ov а2 и коэффициента корреляции г). Она изображается куполообразной поверхностью (рис. 76), вершина которой (центр распределения) находится в точке с координатами хг> х2.
Линии равной плотности вероятности представляют собой эллипсы
2r(Xj —х1)(х2 —х2)/ х2— х2
<J1<J2\ а2
2r(Xj —х1)(х2 —х2)/ х2— х2
<J1<J2\ а2
Главные оси эллипса повернуты на угол а, причем
Главные оси эллипса повернуты на угол а, причем
tg 2а =
tg 2а =
Для независимых величин xv х2 коэффициент корреляции г = 0 и главные оси совпадают с осями хг и х2. Из равенства (31.24) при г = О получаем
(^1—^1) 2(х,—х2)2
(31.26)(31.26)12al12<72
(31.26)
(31.26)
f (^i> *2) =-7=^ е?— - е
ах К 2л, о2 К 2л
Плотность распределения n-мерного случайного вектора х с компонентами х1э
*2хп
п1
f (Хр х2, . . .. х„) = (2л)2 I к-1 I 2 ехр |^-х£к_,х01 ,(31.27)
(31.28)223(31.28)223где К'1 — матрица, обратная корреляционной матрице к = \кчу
(31.28)
223
(31.28)
223
Элементы матрицы — корреляционные моменты
Kij = Кц = j J (.Xi — Xi) (Xj — Xj) f (Xi, Xj) dxt dXj (i, j = 1, 2, . . ., n).
Обратная матрица К"1 = [Л/у]/| ^|, где Л, у — алгебраические дополнения транспонированной матрицы Kij; I К | — детерминант корреляционной матрицы; х0, х^ — матрица-столбец и матрица-строка:
^i— *1^i— *1*1 = {*1— Х1х„ —хп).*1 = {*1— Х1х„ —хп).(31.29)(31.29)
^i— *1
^i— *1
*1 = {*1— Х1х„ —хп).
*1 = {*1— Х1х„ —хп).
(31.29)
(31.29)
Хп Хп
Рассмотрим в качестве примера использования формул (31.27) случай двухмерного распределения (п = 2). Корреляционная матрица
Г*иГ*ик =1^21к =1^21^12К 22-^12К 22-’ а2)гог02га^г о2’ а2)гог02га^г о2(31.30)(31.30)^12жжгде г =—коэффициент корреляции.а1а2Детерминант матрицы| К | = а2^ (1 — г2).^12жжгде г =—коэффициент корреляции.а1а2Детерминант матрицы| К | = а2^ (1 — г2).Обратная матрицаОбратная матрицаДетерминант этой матрицыДетерминант этой матрицыI Л"11 =I Л"11 =1а|о|(1 — г2)1а|о|(1 — г2)(31.31)(31.32)(31.33)(31.31)(31.32)(31.33)Произведение К-1х0 дает векторПроизведение К-1х0 дает вектор1а^(1 — г2).1а^(1 — г2).—raia2—raia2—га1ст2Х1—Х1Of J [^2 — ^2—га1ст2Х1—Х1Of J [^2 — ^2°2 (*1 — *1) — Г01°2 (Х2 — Х2)-га^з (х, — 7,) + oj (х2 — 72)°2 (*1 — *1) — Г01°2 (Х2 — Х2)-га^з (х, — 7,) + oj (х2 — 72)Следующее произведение приводит к скаляруСледующее произведение приводит к скаляру2г fa — xt) (х2 — х2)<Ji<j22г fa — xt) (х2 — х2)<Ji<j2хо 1 хо " j _ г2хо 1 хо " j _ г2(31.34)(31.34)
Г*и
Г*и
к =
1^21
к =
1^21
^12
К 22-
^12
К 22-
’ а2)гог02
га^г о2
’ а2)гог02
га^г о2
(31.30)
(31.30)
^12жж
где г =—коэффициент корреляции.
а1а2
Детерминант матрицы
| К | = а2^ (1 — г2).
^12жж
где г =—коэффициент корреляции.
а1а2
Детерминант матрицы
| К | = а2^ (1 — г2).
Обратная матрица
Обратная матрица
Детерминант этой матрицы
Детерминант этой матрицы
I Л"11 =
I Л"11 =
1
а|о|(1 — г2)
1
а|о|(1 — г2)
(31.31)
(31.32)
(31.33)
(31.31)
(31.32)
(31.33)
Произведение К-1х0 дает вектор
Произведение К-1х0 дает вектор
1а^(1 — г2).
1а^(1 — г2).
—raia2
—raia2
—га1ст2Х1—Х1
Of J [^2 — ^2
—га1ст2Х1—Х1
Of J [^2 — ^2
°2 (*1 — *1) — Г01°2 (Х2 — Х2)
-га^з (х, — 7,) + oj (х2 — 72)
°2 (*1 — *1) — Г01°2 (Х2 — Х2)
-га^з (х, — 7,) + oj (х2 — 72)
Следующее произведение приводит к скаляру
Следующее произведение приводит к скаляру
2г fa — xt) (х2 — х2)
<Ji<j2
2г fa — xt) (х2 — х2)
<Ji<j2
хо 1 хо " j _ г2
хо 1 хо " j _ г2
(31.34)
(31.34)
Внося соотношения (31.34) и (31.33) в формулу (31.27), приходим к равенству (31.24).
224
Рассмотрим случай многомерного нормального распределения независимых случайных величин хъ х2, ..., хп. Тогда корреляционная матрица будет иметь отличными от нуля только диагональные члены:
(31.35)(31.35)
(31.35)
(31.35)
Обратная матрица
(31.36)
Произведение х^К ^qПроизведение х^К ^qВ соответствии с равенством (31.26) находимВ соответствии с равенством (31.26) находим(31.37)(31.37)
Произведение х^К ^q
Произведение х^К ^q
В соответствии с равенством (31.26) находим
В соответствии с равенством (31.26) находим
(31.37)
(31.37)
При п = 2 последнее соотношение совпадает с формулой (31.26).
Усеченное нормальное распределение. Для описания реальных распределений иногда оказывается удобным использовать усеченные распределения, т. е. распределения, для которых в крайних областях (х < а и х > Ь) плотность распределения принимается равной нулю. На рис. 77 показано основное распределение и усеченное, для которого
fo W =
о
М (х)
X
< а\
а<Х^Ь;
а(31.38)а(31.38)k F(b)—F'(a)’k F(b)—F'(a)’
а
(31.38)
а
(31.38)
k F(b)—F'(a)’
k F(b)—F'(a)’
О х> Ь. ьь
Из условия нормирования следует /0 (х) dx = & f (х) dx — k [У7 (6)—
— ^(<01 — 1 или коэффициент
где F (х) — функция основного распределения.
Рис. 77. Плотность усеченного распределения
Функция распределения для усеченного распределения
(31.39)(31.39)Го (х) = J f0 (х) dx = к J f (x) dx = [F (x) - F (a)]/[F (b) - F (a)]. aa
(31.39)
(31.39)
Рассмотрим усеченное нормальное распределение. В этом случае
(31.40)
Функция усеченного распределения
(31.41)
В последних формулах х и а относятся к основному распределению. Часто нормальное распределение используется для описания распределения положительных случайных величин (например, амплитуд переменных напряжений и т. п.).
Для таких' величин при х< 0 f (х) = 0, и потому рассмотрим отрицательное усеченное нормальное распределение при а = 0 и 6 = оо.
Из формул (31.40) и (31.41) вытекает
(31.42)(31.42)
(31.42)
(31.42)
Найдем основные параметры распределения. Среднее значение
сосо(х—хУ
х0 = f xfQ (х) dx = к [ —е 2a2 dx.
J0J а Г 2л
Вводя замену переменных ------ = и, получим
_оо«2оо«2
-, X f, . ко f 2~ ,
хп = к —==-е du А7=7 е и du.
/ 2л J/2л J.
X °~ а
Используя равенства
Рис. 78. Различные типы усеченного распределения
находим
^ = /+ е2,
(31.43)
Среднеквадратичное отклонение а0 удобно найти с помощью соотношения о2 = (х2>-х2.(31-44)
и22 duи22 duНачальный момент второго порядка
и2
2 du
и2
2 du
ООу)2ОО
^=к\^гай 201 dX = ^ J ^ + о^е u
о
ooи2
/—2 ।2 .^2 f 22 ,
или \Хп) — х + 2хе Нт=-«“е du.
0/2л J.
X
О
Последний интеграл вычисляется с помощью интегрирования по частям
ООи2 1 / V V ООv2
f,X 2 j f 2™ ,
J ue a du —— e+ I e du.
XX
Окончательно имеем
(31.45)(31.46)(31.45)(31.46)(^) = i2 + *e2 + a2.
(31.45)
(31.46)
(31.45)
(31.46)
Из соотношений (31.43) (31.45) вытекает
о2 = a2 — X82 — e4.
Итак, среднее значение x0 всегда больше среднего значения х, среднеквадратичное отклонение а0 при положительных х всегда больше а. На рис. 78, а показано отрицательное усеченное нормальное распределение.
При х > 0 для исходного нормального распределения и при малых коэффи- циентах вариации -^- = 0,5 отрицательное усеченное распределение несуще- х
ственно отличается от исходного. Наоборот, при х < 0 изменяется привычный вид нормального распределения (рис. 78, б).
МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
Метод наименьших квадратов является наиболее универсальным способом оценки параметров приближенных зависимостей, аппроксимирующих экспериментальные (статистические) данные.
Рассмотрим обычный метод наименьших квадратов и укажем его модификации.
Аппроксимация с помощью полинома п-го порядка. Пусть имеется N экспериментальных точек хр yj и требуется подобрать полином n-го порядка
У (х) «о + «!*■ + • • • + «пХп = 2 а;х{,(32.1)
i=o
который «наилучшим образом» соответствует экспериментальным данным. По методу наименьших квадратов коэффициенты сц выбирают так, чтобы квадратичная погрешность имела минимальное значение
N
А= 2 [y(x/)-y/]2=min(32.2)
/-1
или
N
д=21ао4-«1\-4Н »п^ — y,]2 = min.(32.3)
/=1777
Так как погрешность зависит от выбранных значений ао, av ..., ап, то из условия
-^- = 0 (i = 0, 1л)(32.4)
получим системы п-\- 1 линейных алгебраических уравнений’
ад да0
N
= 2 ^ (а0 + ахх. 4- •■
N
= 2 2 (ао + а1х; + *' /-1
дД дат
■■ 4-a„-v--«//)^ = 0,
(32.5)
дЛ дап
N
=• 2 ^ (ао + aixj + * * /=1
• 4-«„^-<//)^/п = 0
относительно n + 1 неизвестных: по, av ..., ап*
Эту систему представим в матричной форме
ад1111М = 11М (/,^ = 0,1,. ., /г),(32.6)
где.
NN
aik = 2 bi = 2 vV i=ii=v
Решая систему (32.6), находим значения ао, Др ..., ап. Рассмотрим в качестве примера практически наиболее важный случай линейной аппроксимации.
Тогда будем иметь
(32.7)(32.7)У = а0 + агх
(32.7)
(32.7)
228
И систему уравнений
NN#
а»М 4- aY х,- = V yj, /-1/=1
NNN
“о £ *, «1 ^ 5 = р^р
Решая эту систему, находим
^Ъ^.-ху Кху
П1N = ~JF
(32.8)
(32.9)
а0 = у — ахх,
(32.10)
(32.11)
где х = -^- ^ х^ у = -^- ^ yj—средние значения х и у по выборке объема N. Отметим, что7 при полученных значениях ао и ах уравнение (32.7) выражает линейную регрессию.
Возникает вопрос о выборе степени п при аппроксимации экспериментальных данных. В практических задачах о допустимости линейной аппроксимации
можно судить по виду поля экспериментальных точек, но более строгая оценка должна исходить из величины погрешности
N
д = S ("о + alxi +F а^. - у.у.
(32.12)
где ас — получаем из решения уравнений (32.6). Если средняя квадратичная погрешность
(32.13)
мала по сравнению с £/тах» то в большинстве технических задач аппроксимация допустима. Если, например, линейная зависимость не удовлетворяет этому условию, что следует повысить степень полинома или применить другие аппроксимирующие функции.
Аппроксимация с помощью обобщенного полинома. Следует отметить, что использование степенного полинома (32.1) при п >3 приводит к значительным трудностям из-за существенного влияния ошибок округления и других причин.
Более общая аппроксимация может быть осуществлена полиномом следующего вида:
п
У (*) - аоФо (*) + ^ф! (х) -|+ ап^п (х) = ^ а^с (х), t=i
(32.14)
где ф^ (х) — некоторые заданные (в области изменения х) функции.
В качестве таких функций иногда выбирают тригонометрическую систему функций
Фо (*) = 1; Ф1 (*) = sin фг (х) = cos х; . . .
Из условия минимума средней квадратичной погрешности [уравнения (32.2) и (32.4)] находим
NN
У (^офо (*/) Нh<Wn (х;)) фо ^j) = У 4/уф0 (ху),(32.15)
/=1у^1
NN
У (-Wo (^у) + • • • + «пфп U/)) Фп (^у) = У У^п <XjY
/=!/=1
В матричной записи уравнение (32.15) имеет вид (32.6), где
N
«чк = ф, (Ху) ф6 (Ху),(32.16)
/=1
N
bi = У У/ЧЧ^-(32.17)
В частном случае, когда ф, (х) = х1, получим аппроксимацию степенным полиномом.
Вычисления наиболее просты и точны в случае, когда функции ф/(х) «ортогональны на множестве экспериментальных точек». Это значит, что
N
2 Ф- фИху) = о (»^ А).(32.18)
При условии (32.18) матрица уравнений (32.15) является диагональной (недиагональные элементы обращаются в нуль) и для коэффициентов аппроксимирующего полинома получаем зависимость
N
У ytWi lxj>
<4 = - ^(i = 1.2п).(32.19)
Дф4(\-)
Такую систему достаточно просто получить из любой системы линейно-независимых функций ф; (х) с помощью процесса ортогонализации.
Пусть, например, имеется система указанных функций:
^oW = l; Ф1М=х; Ф2М=х2;...(32.20)
Тогда выберем фо (х) = ф0 (х), но уже следующую функцию примем в виде
Ф1 W = Сюфо W + ф! (X).
Умножая обе части равенства на фо (х) и суммируя, получим
NNN
У Фо (Х/)Ф1 (х) = С10 У Фо (^у) + У ФоМФ!^,).
/=1/=1у=1
Величину с10 найдем из условия ортогональности функций фт (х) и фо (х), что дает
N
2 Фи (*/) Ф1 (*/)
Сю = -.(32.21)
2 Фо (хр
Для системы функций (32.20) получаем
N
S xi
— _ 1"
тогда
ф0(х) = 1; фт(х)=х— х.(32.22)
(32.23)(32.23)Подобным образом можно получить следующую ортогональную функцию, приняв
(32.23)
(32.23)
Фа W = ^2оФо W + £21Ф1 (*) + Ф2 W,
причем
NN
2 Фо (*/) Фг (*/)2 Ф1 ^У) ^2 ^
6 20 —6 21ДГ
2 Фо(х/)2 vz(x;)
/=i,=1
При условии (32.18) система уравнений (32.15) имеет диагональную матрицу, что делает чрезвычайно удобным все числовые расчеты [t-я строка уравнения (32.15) определяет значение atY - ’ 1
Метод наименьших квадратов для^относительной погрешности. Во многих технических задачах имеет значение не абсолютная, а относительная погрешность.
Тогда коэффициенты сц следует определять из условия
У (хр — У;У/У (хр — У;У/= min.= min.(32.24)(32.24)
У (хр — У;
У/
У (хр — У;
У/
= min.
= min.
(32.24)
(32.24)
При аппроксимации степенным полиномом будем иметь следующую систему уравнений:
NNNN1 = о,1 = о,а1х/+-- - + ^)-^.р" = 0,а1х/+-- - + ^)-^.р" = 0,(32.25)(32.25)
N
N
N
N
1 = о,
1 = о,
а1х/+-- - + ^)-^.р" = 0,
а1х/+-- - + ^)-^.р" = 0,
(32.25)
(32.25)
или в матричной форме (32.6)
(32.26)
Разумеется, метод минимальной относительной погрешности не следует использовать при наличии значений уу, близких к нулю, так как при этом понятие относительной погрешности теряет смысл.
Аппроксимация с помощью произведения показательных функций. В некоторых случаях функцию у (х) удобно аппроксимировать выражением
(32.27)
где т^ Ci — заранее выбранные значения; сц — коэффициенты, подлежащие определению.
Логарифмируя выражение (32.27), получим
(32.28)(32.28)1g У — lg а0 + агхт' lg Сх -|- • • • + апх п lg Сп.
(32.28)
(32.28)
Для определения неизвестных значений lg а0; av ..., ап легко использовать обычный метод наименьших квадратов [уравнения (32.1) и (32.6)].
В другом варианте величины ар ..., ап можно задать заранее, а в качестве неизвестных параметров принять 1g Ср ..., 1g Сп.
ТЕМАТИЧЕСКИЙ ОБЗОР ЛИТЕРАТУРЫ
Приведем краткие комментарии, которые могут оказаться полезными при первоначальном ознакомлении с проблемами технической диагностики.
Глава 1. Как указывалось, техническая диагностика имеет два основных направления: установление технического диагноза и контроль состояния технических систем. Первое направление тесно связано с одной из главных проблем кибернетики — проблемой распознавания образов. Обзор работ по распознаванию образов можно найти в книге В. И. Васильева [17] и др.
Вопросы технической диагностики применительно к двигателям внутреннего сгорания рассмотрены в книгах Б. В. Павлова [40, 41]. Проблемам прогнозирования технического состояния систем посвящена монография Д. В. Гаскарова, Т. А. Голинкевича и А. В. Мозгалевского [20], В. Б. Силина и А. М. Заковря- шина [53].
Теория поиска и контроля неисправностей содержится в книгах А. С. Сердакова [52], Г. В. Верзакова и др. [18], П. П. Пархоменко и др. [39].
При математической постановке задачи технической диагностики в гл. 1 не использовалось представление задачи распознавания образов как задачи восстановления разделяющей функции с наименьшим риском [16]. В процессе обучения известен только знак разделяющей функции, и потому задача восстановления становится весьма условной.
Глава 2, Изложение метода Байеса основано на работе [8]. Процедура последовательного анализа, разработанная Вальдом, используется при решении многих диагностических задач (Фу [59]).
Глава 3. Теория статистических решений развивалась в связи с задачами радиолокации и в последнее время получила широкое практическое применение. Классическая теория статистических решений изложена в монографиях А. А. Хар- кевича [60], Б. Р. Левина [35], Ван Триса [15] и др. Общая постановка задачи распознавания в связи с минимизацией риска рассмотрена в трудах Я. 3. Цыпкина [62, 63]. Применение теории статистических решений к задачам диагностики дано в работе [10] и книге А. Л. Горелика и В. А. Скрипкина [24]. При изложении гл. 3 использовались результаты работы [10].
Глава 4. Линейные методы разделения, линейные дискриминантные и разделяющие функции рассмотрены в работах Нильсона [38], А. Г. Аркадьева и Э. М. Бравермана [6], Э. Г. Егисапетова [26].
Линейные методы возникли в связи с теорией персептронов, которая излагается в работах А. Г. Ивахненко [28], В. П. Сочивко [55] и др.
Применение методов линейного программирования для построения линейных и кусочно-линейных функций рассматривалось в работах А. А. Первозван- ского [43], Б. А. Головкина [23] и др.
Разделение в диагностическом пространстве является дальнейшим развитием методов линейного разделения. Наряду с эвристическими методами (алгоритм «Кора» [5], работа Г. М. Адельсон-Вельского и др. [2]) успешные результаты могут быть получены с помощью регулярных сходящихся процедур. Отметим
Прежде BCefo Метод потенциальных функций, предложенный М. А. АйзермайоМ, Э. М. Браверманом и Л. И. Розоноэром [3]. Метод является весьма общим и универсальным; авторами дано тщательное и подробное математическое обоснование рекуррентных процедур. Конкретные программы для реализации метода потенциальных функций на ЭВМ указаны в сборнике [5].
Метод стохастической аппроксимации, развитый Я. 3. Цыпкиным [62, 63], является одним из наиболее общих методов в теории распознавания образов и ряде смежных проблем. В основе метода лежит процедура стохастической аппроксимации Роббинса и Монро, изложение и математическое обоснование которой можно найти в работах В азана [13], и др. Дальнейшее обобщение метода применительно к задаче распознавания указано в статье Б. Т. Поляка и Я. 3. Цыпкина [44], где рассматриваются псевдоградиентные алгоритмы.
В методе стохастической аппроксимации минимизируется математическое ожидание риска. Другое направление связано с минимизацией эмпирического риска, который определяется по заданной обучающей последовательности (работы В. Н. Вапника и А. Я. Червоненкиса [16], Л. П. Сысоева [56]). Разумеется, что эффективность такого метода зависит от «качества» обучающей последовательности.
Глава 5. Общие подходы при использовании метрических методов указаны в монографии Себести ан а [51 ]. Корреляционные методы распознавания рассматривались в работе В. А. Ковальского [31 ]. Обобщенное расстояние и введение анизотропной метрики дано в статье [10].
Глава 6. Применение методов математической логики к задачам распознавания было предложено Р. Ледли [36]. Достаточно полное изложение этих методов содержится в книге А. Л. Горелика и В. А. Скрипкина [24].
Логические методы не исчерпываются методами математической логики. К ним могут быть отнесены методы, основанные на построении описаний (лингвистические и другие подобные методы) — работы М. М. Бонгарда [12], Н. Г. За- горуйко [27] и др.
Представляет интерес применение теории графов к задачам распознавания (работы Я. А. Грундспенькиса [25], 3. П. Марковича [37]).
Проблема распознавания кривых представлена в гл. 6 как часть общей проблемы распознавания.
Глава 7. Наиболее важные результаты современной теории информации принадлежат Шеннону [65]. Теория информации, возникшая в статистической теории связи, оказала большое влияние на теорию вероятности и математическую статистику.
Простое изложение основ теории информации дано в книге Е. С. Вент- целя [19]. Более полное рассмотрение можно найти в книге Н. И. Клюева [29].
Математическая теория информации содержится в исследованиях Файн- стейна [58] и др.
Изложение гл. 7 предназначено для первоначального ознакомления с основными понятиями теории информации.
Глава 8. Проблема оценки информации рассмотрена в работах А. А. Харке- вича [61] и др.
Определение диагностической ценности признаков дано на основе работы [9].
Глава 10. Вопросы получения диагностической информации связаны с методами и средствами измерений, которые освещаются в специальной литературе.
Проблемам вибрационной и акустической диагностики посвящены книги Б. В. Павлова [40], В. И. Попкова [45], Р. В. Кузьмина [33] и др. Интенсивно разрабатываются вопросы технической диагностики двигателей, редукторов, насосов и других изделий (А. А. Комаров [32] и др.).
список ЛИТЕРАТУРЫ
Автоматический поиск неисправностей /А. В. Мозгалевский, В. Д. Га- скаров, Л. П. Глазунов, В. Д. Ерастов. Л., Машиностроение, 1967. 262 с.
Адельсон-Вельский Г. М., Кунин П. Е., Леман А. А. Об одном классе обучающихся алгоримов узнавания. — Докл. АН СССР, 1967, т. 173, № 3, с 532—
Айзерман М. А., Браверман Э. М., Розоноэр Л. И. Метод потенциальных функций в теории обучения машин. М., Наука, 1970, 384 с.
Аксенова Г. П., Согомонян Е. С. Построение самопроверяемых схем встроенного контроля. — Автоматика и телемеханика, 1975, № 7, с. 132—138.
Алгоритмы обучения распознавания образов, под ред. В. Н. Вапника — Сб. изд-ва «Советское радио», М., 1973. 201 с.
Аркадьев А. Г., Браверман Э. М. Обучение машины распознаванию образов. М., Наука, 1964. ПО с.
Барабаш Ю. Л. Вопросы статистической теории распознавания. М., Советское радио, 1967. с. 170.
Биргер И. А. Применение формулы Байеса в задачах технической диагностики. — Вестник машиностроения, 1964, № 10, с. 15—17.
Биргер И. А. Определение диагностической ценности признаков. — Кибернетика, 1968, № 3, с. 80—85.
Биргер И. А. К математической теории технической диагностики. — В кн.: Проблемы надежности в строительной механике. Вильнюс. 1968. с. 10—14.
Биргер И. А. Запасы прочности, вероятность разрушения и диагностика. — В кн: Проблемы механики твердого тела. Л., Судостроение, 1970,
Бонгард М. М. Проблема узнавания. М., Наука, 1967. 319 с.
Вазан М. Стохастическая аппроксимация. М., Мир, 1972. 295 с.
Вайнцвайг М. Н. Алгоритм обучения распознаванию образов. — В кн.: Алгоритмы обучения распознаванию образов. М., Советское радио, 1973, с. 252.
Ван Трис Г. Теория обнаружения, оценок и модуляции. М., Советское радио, 1972. 743 с.
Вапник В. Н., Червоненкис А. Я. Теория распознавания образов. Наука, 1974. 416 с.
Васильев В. И. Распознающие системы. К-, Наукова думка, 1969. 291 с.
Введение в техническую диагностику /Г. Ф. Верзаков, Н. В. Кишт, В. И. Рабинович, Л. С. Тимонен. М., Энергия, 1968. 224 с.
Вентцель Е. С. Теория вероятностей. М., Физматгиз, 1962. 564 с.
Гаскаров Д. В., ПЯТинкевич Т. А., Мозгалевский А. В. Прогнозирование технического состояния и надежности радиоэлектронной аппаратуры. М., Советское радио, 1974. 223 с.
Гиберт А. И. Логические устройства для технической диагностики. — Науч. тр. Сиб. ВИМ, 1964, вып. 2, с. 136—156.
Гнеденко Б* В. Курс теории вероятностей. М., Наука, 1969. 399 с.
Головкин Б* А. Машинное распознавание и линейное программирование. М., Советское радио, 1973. 95 с.
Горелик А. Л., Скрипкин В. А. Построение систем распознавания. М., Советское радио, 1974. 222 с.
Грундспенькис Я. А. Топологическая модель функционирования двигателя внутреннего сгорания автомобиля. —В кн.: Кибернетика и диагностика. Рига. Зинатне, вып. 5, с. 47—53.
Егисапетов Э. Г. Обобщение линейных решающих функций на случай произвольного числа распознаваемых классов. — Изв. АН СССР. Техническая кибернетика. 1972, № 1, с. 120—127.
Загоруйко Н. Г. Методы распознавания и их применение. М., Советское радио, 1972. 206 с.
Ивахненко А. Г. Кибернетические системы. Киев. Техника, 1966. 511 с.
Клюев Н. И. Информационные основые передачи сообщений. М., Советское радио, 1966. 359 с.
Ковалевский В. А. Задача распознавания образов с точки зрения математической статистики. — В кн.: Читающие автоматы, Киев, Наукова думка, 1965, с. 8—38.
Ковалевский В. А. О корреляционном методе распознавания. — В кн:. Читающие автоматы. Киев. Наукова думка, 1965, с. 46—62.
Комаров А. А. Надежность гидравлических устройств самолетов. М., Машиностроение, 1976. с. 223.
Кузьмин Р. В. Техническое состояние и надежность судовых механизмов. Л., Судостроение, 1974. 334 с.
Кульбак С. Теория информации и статистика. М., Наука, 1968. 408 с.
Левин Б. Р. Теоретические основы статистической радиотехники. М., Советское радио, 1969. 747 с.
6. Ледли Р. Программирование и использование вычислительных машин. М.,^Мир, 1966. 642 с.
7. Маркович 3. П. Использование граф-модели для решения задач технической диагностики. — В кн.: Кибернетика и диагностика, Рига, Зинатне, 1968, вып. 2, с. 49—62.
Нильсон Н. Обучающиеся машины. М., Мир, 1967. 180 с.
Основы технической диагностики /П. П. Пархоменко, В. В. Карибский, Е. С. Согомонян, В. Ф. Халчев. М., Энергия, 1976, 462 с.
Павлов Б. В. Акустическая диагностика машин. М., Машиностроение, 1971. 222 с.
Павлов Б. В. Кибернетические методы технического диагноза. М., Машиностроение, 1966. 147 с.
Папернов А. А. Логические основы цифровых машин и программирования. М., Наука, 1968. 591 с.
Первозванский А. А. Распознавание абстрактных образов как задача линейного программирования. — Изв. АН СССР. Техническая кибернетика, 1965, № 4. с. 131—136.
Поляк Б. Т., Цыпкин Я. 3. Псевдоградиентные алгоритмы адаптации и обучения. — Автоматика и телемеханика, 1973, № 3. с. 45—49.
Попков В. И. Виброакустическая диагностика и снижение виброактивности судовых механизмов. Л. Судостроение, 1974. 218 с.
Постнова Т. Б. Информационно-диагностические системы в медицине. М., Наука, 1972. с. 215.
Пугачев В. С. Статистические методы в технической кибернетике. М., Советское радио, 1971. 190 с.
Растригин Л. А., Эренштейн Р. X. Принятие решения коллективом решающих правил в задачах распознавания образов. —Автоматика и телемеханика, 1975, № 9, с. 133—143.
Светлицкий В. А. Случайные колебания механических систем. М., Машиностроение, 1976. 215 с.
Свешников А. А. Прикладные методы теории случайных функций. М., Наука, 1968. 462 с.
Себестиан Г. Процессы принятия решения при распознавании образов. Киев, Техника, 1965. 150 с.
Сердаков А. С. Автоматический контроль и техническая диагностика. Киев, Техника, 1971. 241 с.
Силин В. Б., Заковряшин А. М. Автоматическое прогнозирование состояния аппаратуры управления и наблюдения. М., Энергия, 1973. 334 с.
Сотсков Б. С. Основы теории и расчета надежности элементов и устройств автоматики. М., Высшая школа, 1970. 270 с.
Сочивко В. П. Электронные распознающие устройства. М.—Л., Энергия, 1964. 56 с.
Сысоев Л. П. Обучающиеся процедуры, сочетающие стохастическую аппроксимацию и минимизацию. — Автоматика и телемеханика. 1973, № 3, с. 69— 83.
Техническая диагностика. — Тр. 1-го Всесоюзного совещания. М., Наука, 1972. 367 с.
Файнстейн А. Основы теории информации. М., Изд-во иностранной литература 1965. 140 с.
Фу К. Последовательные методы в распознавании образов. М., Наука, 1971. 256 с.
Харкевич А. А. Борьба с помехами. М., Наука, 1965. 274 с.
Харкевич А. А. Теория информации. — Избранные тр. М., Наука, 1973, т. 3, с. 523.
Цыпкин Я. 3. Адаптация и обучение в автоматических системах. М., Наука, 1968. 399 с.
Цыпкин Я. 3. Основы теории обучающихся систем. М., Наука, 1970. 251 с.
Чипулис В. П. Использование диагностической информации при контроле и поиске неисправностей. — Автоматика и телемеханика, 1975, № 8, с. 150— 156.
Шеннон К. Работы по теории информации и кибернетики. М., Изд-во иностранной литературы, 1963. 827 с.
Шор Я. Б., Кузьмин Ф. И. Таблицы для анализа и контроля надежности. М., Советское радио, 1968. 283 с.
ОГЛАВЛЕНИЕ
ззПредисловие
з
з
Глава 1. Основы технической диагностики 5
Основные направления технической диагностики . . . .5
Постановка задач технической диагностики 8
Глава 2. Статистические методы распознавания 11
Метод Байеса 11
Метод последовательного анализа 18
Глава 3. Метод статистических решений 22
Статистические решения для одного диагностического параметра 22
Статистические решения при наличии зоны неопределенности и другие обобщения 36
Глава 4. Методы разделения в пространстве признаков 46
Линейные методы разделения 46
Разделение в диагностическом пространстве 61
Метод потенциальных функций и методпотенциалов67
Метод стохастической аппроксимации 74
Глава 5. Метрические методы распознавания 83
Метрика пространства признаков 83
Диагностика по расстоянию в пространстве признаков 87
Связь метрических методов с другими методами распознавания 94
Глава 6. Логические методы распознавания и распознавание кривых 97
§ 14. Логические методы распознавания 97
§ 15. Распознавание кривых 105
Г л а в а 7. Основы теории информации 117
§ 16. Энтропия системы 117
§ 17. Энтропия сложной системы 125
§ 18. Измерение информации 132
Глава 8. Диагностическая ценность признаков 139
Простые и сложные признаки и их диагностические веса 139
Диагностическая ценность обследования 146
Диагностическая ценность одновременного обследования по комплексу признаков 150
Диагностическая ценность при последовательном проведении обследования 153
Построение оптимальногодиагностического процесса157
Глава 9. Введение в анализ случайных процессов . . . * . , , . .161
Статистические характеристики случайных функций162
Стационарные случайные процессы 169
Глава 10. Прикладные вопросы технической диагностики 185
Контролеспособность и получение диагностической инфор- • мации 185
Примеры технической диагностики 191
Глава 11. Сведения из теории вероятности 194
Основные понятия 194
Распределение случайных величин 200
Многомерные распределения и функции случайных величин 209
Нормальное распределение 218
Метод наименьших квадратов 228
Тематическийобзор литературы 228
Список литературы 230
ИБ № 1788Исаак, Аронович БиргерТЕХНИЧЕСКАЯ ДИАГНОСТИКА
Редактор Е. А. ПахолковаХудожественный редактор Н. А. ПарцевскаяТехнический редактор А. И. ЗахароваКорректор О. Е. Мишина
Переплет художника А. Я. Михайлова
Сдано в набор 09.12.77.Подписано в печать 2 2.03.78. Т-03368.
Формат 60X 90V16* Бумага типографская № 1.
Литературная гарнитура. Печать высокая.
Усл. печ. л. 15. Уч.-изд. л. 16,75.Тираж 17 000 экз. Зак. 701. Цена 1 р. 20 к.
Издательство «Машиностроение», 107 8 85, Москва, Б-78,1-й Басманный пер., 3.
Ленинградская типография № 6 Союзполиграфпромапри Государственном комитете Совета Министров СССРпо делам издательств, полиграфии и книжной торговли193144, Ленинград, С-144, ул. Моисеенко, 10
1
7
= -=°-02-
92" + 1 + 72"
Из приведенного примера вытекает, что использование квадратичной меры расстояния более резко подчеркивает диагноз с наименьшим расстоянием. Выбор меры расстояния зависит от особенностей задачи и устанавливается в процессе обучения.
Замечания о выборе метрики. При выборе показателя степени в равенстве (11.9) для диагностической меры следует учитывать, что увеличение v приводит к возрастанию роли наибольших отклонений. Как указывалось, выбор диагностической меры расстояния с большой степенью р, дает резкое выделение диагноза с наименьшим расстоянием. Обоснованный выбор указанных величин можно сделать с помощью практического опыта в определенных классах задач. Сказанное относится и к выбору весовых коэффициентов.
Во многих задачах распознавания целесообразно использовать диагностическую меру расстояния
1° (1 + У = § — £а/г + &3/а — • • • • Отбрасывая старшие члены этого знакопеременного ряда, получим условие (17.23).
5 И. А. Биргер
V 2л
а—х
о
Последнее соотношение представляется с помощью функции Лапласа следующим образом:
ь—-,
Р (а«хСб) = J f (х) dx = Ф (6~ Х ) -Ф ( °~- а
Отметим важные свойства функции Лапласа.
Так как подынтегральная функция [уравнение (31.10)] является четной и
Ф (0) = 0, то
Ф (—х) =^Ф (х).
В силу равенства (31.4) при х = оо Ф (оо) = 1/2.
НАДЕЖНОСТЬ И КАЧЕСТВО
Межиздательская серия
И. А.Биргер
Техническая диагностика
Москва «Машиностроение »1978
Scanned by MetdRRe®
УДК 62.19
6П5.1 Б64
Рецензент д-р техн, наук проф. В. С. Сгреляев
Биргер И. А.
Б64 Техническая диагностика. — М.: «Машиностроение», 1978.—240, с., ил. — (Надежность и качество).
В пер. 1 р. 20 к?
Книга посвящена теоретическим основам технической диагностики. В ней изложены статистические методы распознавания и разделения в пространстве признаков, метрические и логические методы диагностики. Значительное внимание уделено теории информации и ее приложению к задачам диагностики. .
Книга предназначена для инженеров, занимающихся проблемами надежности и технической диагностики, а также может оказаться полезной студентам старших курсов и аспирантам, изучающим эти проблемы. Табл. 13, ил. 78, список лит 66 назв.
31301-020Ь 038(01 )-7831301-020Ь 038(01 )-7820-7820-786П5.16П5.1
31301-020
Ь 038(01 )-78
31301-020
Ь 038(01 )-78
20-78
20-78
6П5.1
6П5.1
© Издательство «Машиностроение», 1978 г.