Книга
Книга
МАТЕМАТИЧЕСКИЕ ВОПРОСЫ
Обзор конструктивной теории кодированияи таблица двоичных кодовс наибольшими известными скоростями
. Н. Дж. Л. Слоэн *)
ВВЕДЕНИЕ .
Эта статья представляет собой обзор современных результатов по построению блоковых кодов для исправления случайных ошибок.
В 1948 г. Шеннон [98] показал, что существуют коды, которые достигают малой вероятности ошибки на скоростях, близких к пропускной способности. В 1952 г. Гилберт [31] получил нижнюю границу для din для наилучших кодов с заданной скоростью. С тех пор было потрачено много усилий на то, чтобы построить сколь угодно длинные коды, которые лежат или подходят близко к границе Гилберта, но попытки пока не увенчались успехом (исключение составляют коды со скоростями, стремящимися к 0 или 1). Для умеренных длин блока, однако, были открыты многие хорошие коды. Хорошо известными среди них являются коды Рида — Маллера (РМ) ([79], [93], [В1, гл. 15]), Боуза —Чоудхури — Хоквингема (БЧХ) ([19], [45], [В 1, гл. 7 и 10]) и квадратично-вычетные (КВ) коды ([В1, гл. 15], [111, § 4.4]). Систематическое описание этих и других кодов, открытых до 1968 г., можно найти в [В1].
В этой статье будут описаны некоторые достижения теории кодирования, которые имели место после появления работы [В1]. Мы сосредоточим внимание на тех работах, которые посвящены построению новых кодов или представляют новые свойства ранее известных кодов. Важными темами, которые не рассматриваются здесь, являются нумераторы весов кодов [7, 8, 10, 14, 15, 32, 41, 53—57, 73, 81, 86, 94, 100, 106, 114], классификация смежных классов кодов [9, 16, 94, 103], методы декодирования и исправление пакетов ошибок [20, 85, 95, 109, НО], установление синхронизации [105], кодирование для источника и теория передачи с заданной мерой искажения [6, 47]. См.
') Sloane N. J. A., A survey of constructive coding theory, and a table of binary codes of highest known rate, Discrete Mathematics, 3, № 1, 2, 3 (1972), 265—294.
также недавний обзор Гёталса [35], который шире, чем эта статья, и книгу Ван Линта [111]. Нам не представилась возможность ознакомиться с русскими работами и поэтому отсылаем читателя к обзорам Каутца, Левитта [58] и Добрушипа [30].
Статья построена следующим образом. Раздел 2 "посвящен циклическим и связанным с ними кодам, в том числе БЧХ, неприводимым, совершенным, групповым абелевым кодам, кодам Гоппы, Сривэставы и циркулянтным кодам. Раздел 3 посвящен нелинейным кодам и кодам, которые строятся на основе объединения других кодов. В разд. 4 приводятся таблицы, содержащие наилучшие из известных автору двоичных кодов. В конце статьи приведена обширная библиография. Краткий предварительный вариант этой статьи был опубликован в [102].
ЦИКЛИЧЕСКИЕ КОДЫ. .
Большинство кодов, рассмотренных к настоящему времени, были линейными и циклическими кодами по той причине, что такие коды более просты при реализации и анализе.
Линейный (п,к.)-код ^ над полем GF(^) состоит из qh векторов (которые называются кодовыми словами) длины п над GF(^), таких, что (а) покомпонентная в GF(^) сумма любых двух кодовых слов снова является кодовым словом и (Ь) покомпонентное произведение любого кодового слова на любой элемент из GF(^) также является кодовым словом. Избыточностью кода является г = п — к и скоростью R = к]п. Минимальное расстояние обозначается через d.
Дуальный код ^?1 для кода ^ содержит все векторы и длины п над GF(^), такие, что ы-и = 0 для всех иг^, скалярное произведение вычисляется в GF(^). Таким образом, ^’1 представляет собой линейный (п, п — к) -код. Если lg’ = ^-L, то — самодуальный код.
Связь самодуальных кодов с известной нерешенной проблемой геометрии дана в [74].
Код называется укороченным, если он образуется с помощью выбрасывания всех кодовых слов, кроме тех, которые имеют заранее указанные значения некоторых компонент, и дальнейшего выбрасывания этих компонент [В1, стр. 336].
Циклическим кодом является линейный код, обладающий тем свойством, что циклический сдвиг любого кодового слова также является кодовым словом. БЧХ, КВ и укороченные PM-коды являются циклическими.
Являются ли длинные циклические коды плохими? Гилберт [31] обнаружил, что существуют линейные коды со сколь угодно большой длиной и фиксированной скоростью R = к]п.
для которых din больше- некоторой положительной константы. Действительно, Кошелев [59] и КозловДбО] показали, что большинство линейных кодов лежат на границе Гилберта.
Вместе с тем для БЧХ-кодов с заданной скоростью R отношение dln-^d при п —> оо ([67], [В1, гл. 12]). Берлекэмп [12] недавно установил, что для БЧХ-кодов действительно
,2п1пЯ-1
а — ;log л
при п—>0. Однако не известно, являются ли также плохими другие длинные циклические коды.
Берман [18] показал, что циклические коды с фиксированной скоростью и с длинами блока п, которые делятся на фиксированное множество простых чисел (и только на эти простые числа), имеют ограниченное минимальное расстояние.
Казами [52] установил, что хорошие линейные коды не могут быть слишком симметричными, доказав, что любой код с заданным отношением din, который является инвариантным относительно аффинной группы, должен иметь скорость R —*0 при п -* оо. (Это относится к БЧХ-кодам.)
Совсем недавно Мак-Элис [77] показал, что не только одна симметрия делает код плохим, доказав, что существуют сколь угодно длинные блоковые коды (не обязательно линейные), которые инвариантны относительно больших групп перестановок и которые удовлетворяют границе Гилберта. Велдон [23], [118] обнаружил также, что существуют очень длинные (но не сколь угодно длинные) циркулянтные и квазициклические коды, которые удовлетворяют границе Гилберта. (Квазициклическим кодом называется линейный код, обладающий тем свойством, что циклический сдвиг любого кодового слова на определенное заранее заданное число позиций является также кодовым словом. Циркулянтные коды определяются в § 2.9.) Доказательство Велдона могло бы быть применимо к сколь угодно длинным кодам, если бы была доказана гипотеза о существовании бесконечного числа простых чисел, для которых 2 является примитивным корнем.
Казами [52] и Чен [22] показали, что существуют сколь угодно длинные укороченные циклические коды, которые удовлетворяют границе Гилберта.
Томпсон (см. [75]) обнаружил, что самодуальные линейные двоичные коды, в которых все веса делятся на 4, удовлетворяют границе Гилберта.
Эти результаты, грубо говоря, означают, что хорошее семейство кодов может быть линейным или обладать многими симметриями, но не может обладать этими свойствами одновременно.
БЧХ-коды. Напомним определение БЧХ-кода. Пусть q— степень простого числа; пусть т — порядок q по модулю п, и пусть а — примитивный корень п-й степени из единицы в GF(^m). Тогда БЧХ-код длины п, имеющий конструктивное расстояние d = dB4x и символы из GF(^), описывается проверочной матрицей
/1а а ... а"-1\
/1а2 а4 ... а-’<п-1)|
л = II.
\ 1 а4-1 а2^-1) ... а^-1»^-» /
Если n = qm— 1, то код называется примитивным. Согласно БЧХ-границе, любой такой код имеет истинное минимальное расстояние
drain ^ dBqx-
В работах [55], [В1, стр. 303] было высказано предположение, что для примитивных БЧХ-кодов dmin = dBqx, но в 1969 г. Назами и Токура [К2] показали, что для т > 6, т ф 8, 12, существуют двоичные примитивные БЧХ-коды с длиной п = 2т—1, для которых
drain > db4X-
Вместе с тем Берлекэмп [8] показал, что если расширенный двоичный БЧХ-код длины п = 2т имеет d^nx = 2т-1 —■ 2‘ для некоторого i^-^m—1, то dmin = dBqx- Результаты [8] получили дальнейшее обобщение в работе Назами [53]. Но точное определение условий на п и dBqX Для того, чтобы dmm = dBqx> остается нерешенной проблемой.
Леонтьев [66] установил, что БЧХ-код длины n = 2m—-1 с конструктивным расстоянием 2/ -(- 1 не является квазисовер- шенным при 2 < t < Vп(\п п и m ^ 7. _
Сидельников [100] показал, что для /<]/п/10 число слов веса w в двоичном БЧХ-коде с конструктивным расстоянием 2< + 1 равно (п + 1)-^ ”) (1 + е), где | е | < Си-0-1 для большинства значений w.
Андерсон ([1], [111, стр. 127]) получил следующую границу для дуального БЧХ-кода, используя глубокие теоретико-числовые результаты Вейля, Карлица и Утиямы. Минимальное расстояние дуального двоичного БЧХ-кода длины п = 2т—1 с расстоянием dBqx = 2/+ 1 по меньшей мере равно
Расширения БЧХ-кодов. Вулф [117] показал, что к проверочной матрице БЧХ-кода могут быть добавлены два столбца для того, чтобы получить новую проверочную матрицу
1 ° \
О 0|
. . . н
0 1 /
с сохранением минимального расстояния кода. В некоторых случаях избыточность также не меняется, и при этом Получается новый код с
п' = n + 2, &' = & + 2, r' = r, d' — d. !
Это происходит, например, когда исходный код является кодом Рида — Соломона над GF(^) с п = q —■ 1 и г = d — 1. При этом параметры нового кода равны п' = q + 1 и г' = d' — 1 — = d — 1.
Легко показать, что для любого кода d^r-\-\. Коды с d = г + 1 называются кодами с достижимым максимальным расстоянием или кодами с ДМР (см. [101], [В1, стр. 317], [111, стр. 72]). Такие коды также были названы оптимальными. Коды Рида — Соломона являются кодами с ДМР, так же как и новое семейство дважды расширенных кодов Рида — Соломона.
Ассмус и Мэттсон [3] установили, что очень часто встречаются коды с ДМР, у которых длина блока п равна простому числу. Они доказали, что любой циклический код с простой длиной п над GF(p’) является кодом с ДМР при всех / и для всех (кроме конечного числа) простых р.
Вулф [118] дал дальнейшее расширение БЧХ-кодов, заменив а в Д' на (m X т) -матрицу А над GF(^), где
010...0
001...0
000...1
UqU\02• • •йт_\
и где М^ = хт— ат-1^т”‘— ... —а0 является минимальным многочленом для а над GF(<?). Назовем новую проверочную матрицу Н". Тогда, если Н порождает примитивный БЧХ-код над GF(<y) длины п = qm — 1 с конструктивным расстоянием
d^nx и избыточностью r = m(t/B4x — 1), т. е. БЧХ-код с максимальной избыточностью, то Н" является проверочной матрицей для некоторого кода над GF(^) с п' = m(qm + 1), г = — m(t/B4x —1) и d^d^x- Таким образом, скорость кода была значительно увеличена.
Например, если исходный код над GF(5) есть код с п = — 52 — 1 = 24, с?бчх = 5, к = 16, R = 0,67, то новый код имеет п = 52, к = 44, d ^ 5 и R = 0,87. Другие расширения БЧХ-ко- дов можно найти в § 3.3.
Минимальное расстояние циклических кодов. БЧХ-гра- ница для циклического кода гарантирует, что если порождающий многочлен g(x) имеет г/Вчх — 1 последовательных корней, то минимальное расстояние d d^x.
Гёталс/ [33] и Казами [51] улучшили БЧХ-границу для кодов составной длины. Хартманн [38—43] дал много дальнейших обобщений для БЧХ-границы, в том числе обобщение результатов Казами. Приведем лишь две теоремы Хартманна. Пусть р обозначает примитивный корень n-й степени из единицы. Первой является граница для минимального нечетного веса.
Теорема. Пусть к\п. Если для некоторого d ^ n[k имеет место ^(рй1') = 0 для всех i = 1, 2, ..., d, то минимальный нечетный вес по меньшей мере равен d.
Пример. Согласно БЧХ-границе, БЧХ (33, 13)-код имеет ^бчх= 5, а также с?чет^ Ю. Но, согласно теореме, с?нечет^ И, и поэтому минимальный вес 25=10.
Вторая теорема представляет собой пример обобщения БЧХ-границы, сделанного Хартманном для случая, когда g(x) имеет несколько множеств последовательных корней.
Теорема. Если g^m +i+6u"^ = 0 для i = 0, 1, 2, ... .. ., d — 1 и / = 1, 2, .. . , г, где (6, п) = 1, так что g (х) имеет г множеств по d — 1 корней в каждом, то dm-m ^ d -\- г.
Казами и Токура [К2] показали, что для любого четного т^б существуют двоичные циклические коды длины 2m—1, имеющие больше кодовых слов, чем соответствующие БЧХ-коды. Первым таким примером является циклический (63,28)-код с d= 15, в то время как БЧХ(63,24)-код также имеет d = 15.
Чен [СЗ] использовал вычислительную машину IBM 360/50 для того, чтобы вычислить минимальное расстояние всех двоичных циклических кодов с длинами ^65. Он нашел, что есть три кода длины 63, имеющие больше кодовых слов, чем соответствующие БЧХ-коды. Это только что упомянутый (63, 28)-код, (63,46)-код с d = 7, ранее указанный Питерсоном [86], и
(63, 21)-код с d = 18. БЧХ-коды, которые ближе всего к двум последним, — это (63,45)-код с d = 7 .и (63, 18)-код с d = 21.
Неприводимые циклические коды. Циклический код над GF(^) называется неприводимым, если его проверочный многочлен /г(х) неприводим над GF(^) [111, стр. 45]. Простейшими примерами неприводимых кодов являются регистровые коды максимальной длины (2m—1,т) (известные также как укороченные PM-коды первого порядка).
Баумерт, Мак-Элис и Рамсей [5], [78], обобщая более раннюю работу Делзарте и Гёталса [29], дали метод отыскания нумераторов весов всех неприводимых циклических кодов. Так, например, пусть N— фиксированное нечетное число и к — наименьшее положительное число, такое, что 2^ = 1 (mod N). Тогда существуют двоичные неприводимые циклические (л = (2кт — — 1)/Л’, йт)-коды ^т для m = 2, 3, ... . Каждый ^^ состоит из нулевого вектора и N циклов по п кодовых слов в каждом. Пусть Wq, W[®w-i являются весами этих циклов. Тогда порождающая функция Wo + ®1У 4- ■ •• + ®N-iyN-1 задается выражением
2т~ЧЕ куТ (mod у1 — 1),
где Е(у') не зависит от т. Так, например, когда N = 7, получаются (9,6), (73,9), (585, 12), (4681, 15), ...-коды с минимальными расстояниями, соответственно равными 2, 28, 280, 2320, ... . (Полные распределения весов имеются в [78].)
Распределения весов нескольких других классов циклических кодов были даны Оганесяном и Ягджаном [81] и [92]. Упомянем лишь один из них, который состоит из кодов с провероч- f
ными многочленами вида р^ = JJ р; (х), рДе Ро(Х)— неприво- димый многочлен степени ка и периода е0; mo = (2fco — 1)/во — простое число; 2 является примитивным корнем т0; РгМ — примитивный многочлен степени kt и периода е,, а числа е< — взаимно простые.
Совершенные коды. Код над GF(^), исправляющий е ошибок, называется совершенным, если каждый его вектор находится на расстоянии самое большее е от ближайшего кодового слова.
Примерами совершенных кодов являются различные тривиальные коды, содержащие 1, 2 или ^”- кодовых слов; коды Хемминга над любым полем с d = 3; два кода Голея: (11,6)-код над GF(3) с d = 5 и (23, 12)-код над GF(2) с d = 7.
Давно высказанное предположение о том, что не существуют никаких других совершенных кодов над конечными полями.
было недавно доказано Титавайненом, который использовал ранее вышедшие работы Ллойда и Ван Линта [107], [108], [112].
Расширенные (12,6)- и (24, 12)-коды Голея имеют много важных комбинаторных свойств. Их группами симметрии являются группы Матье М12 и М24; их векторы малого веса образуют системы Штейнера 5(5,6,12) и 5(5,8,24); из них могут быть построены решетки Л12 и Л24 (решетки Лича) [62], [65]. Был доказан ряд теорем единственности. Плесе [87] доказала единственность кодов Голея; Стантон [104] — единственность групп Матье; Витт [116] — единственность ассоциированных систем Штейнера и Конвей [24], [25] —единственность решетки Лича.
Гёталс [34] показал, что код Нордстрома — Робинсона (§ 3.2) содержится в (24, 12)-коде. Берлекэмп [11] изучил группы симметрии принципиальных подкодов (24, 12)-кода.. .
Поскольку код Нордстрома — Робинсона является первым кодом множества нелинейных кодов Препараты, исправляющих двойные ошибки (§ 3.2), то естественно поставить вопрос, могут ли другие коды быть обобщены так, чтобы дать коды, аналогичные коду Голея. Препарата [91] показал, однако, что это невозможно сделать по крайней мере одним методом.
Турин [2] показал, что (24, 12)-код Голея может быть получен как множество векторов вида (а + х, b + х, а + b + х), a, be^v, хе ^2, где ^1 и ^2— два различных PM-кода первого порядка. Та же самая конструкция была использована в [S4] при получении бесконечного множества линейных кодов с djn = -^. Первые три кода из этого множества представляют собой (24,12)-код Голея и (48,15)-код с d = 16 и (96, 18)-код с d = 32. С увеличением длины скорость стремится к нулю. Обобщение (12,6)-кода Голея описано в следующем параграфе.
Паркер и Николай [82] описали неудачный поиск простых транзитивных групп, аналогичных группам Матье.
Абелевы групповые коды. Пусть ^ будет двоичным циклическим (n,k)-кодом. Если кодовые слова представлены многочленами coci ... cn-i Со + с>х + ... + cn-txn-1, то, как хорошо известно, кодовые слова ^ образуют идеал в кольце многочленов по модулю хп — 1 [Р1, гл. 8].
Мак-Вильямс [71], [72], Берман [17], [18] и другие [21], [27] изучали следующее обобщение циклических кодов. Пусть G = = {£ь • • •, gn}— мультипликативная абелева группа, и пусть У? обозначает множество всех формальных сумм
H^i + c2g2 + ... +c„g„, С( = 0 или 1,с очевидными сложением и умножением. Ясно, что Я— вектор-ное пространство размерности п над GF(2). Идеал si является
линейным подпространством R, если для любых Л е з^, geG имеет место gA е з^. При этом ^ является естественным обобщением циклического кода и называется абелевым групповым кодом.
Многие свойства циклических кодов переносятся на абелевы групповые коды, как, например, существование порождающего кодового слова, умножением на которое порождается код.
Берман [18] показал, что при фиксированной скорости и для длин блоков п, которые делятся на фиксированное множество простых чисел (и только на эти простые), абелевы групповые коды в пределе при п-*оо имеют большее минимальное расстояние, чем циклические коды.
Коды Гоппы и Сривэставы. Недавно Гоппа [G4] описал новый класс линейных нециклических кодов, часть из которых удовлетворяет границе Гилберта.
Пусть целые числа m, t заданы и удовлетворяют неравенствам 3 ^ т < mt < 2m. Пусть
Z = (z е GF (2m<) | степень минимального многочлена z есть т/}, и пусть а — примитивный элемент GF(2m). Тогда для любого zeZ двоичный код Гоппы ^{т, t, z) является (п = 2т, к^ > 2т— mt)-кодом, проверочная {mt X 2т) -матрица которого есть
г — 0 ’ z — 1 * z — а ’ ’"" ’ г_ а2т-2
Гоппа показал, что минимальное расстояние ^{т, t, z) (1) по меньшей мере равно 2/4-1 для всех zeZ и (2) достигает границы Гилберта для некоторых zeZ. К сожалению, не известно, как выбрать zeZ для того, чтобы это имело место.
Коды Сривэставы [В1, § 15.1] похожи на коды Гоппы. Хел- герт [Н2], [НЗ] недавно нашел ряд хороших кодов Сривэставы.
Циркулянтиые коды. В 1964 г. Лич [61] показал, что порождающая матрица для (23,12)-кода Голея может быть записана в виде
где С — циркулянтная матрица, т. е. такая матрица, каждая строка которой является циклическим сдвигом предыдущей строки на одну позицию. В этом случае первая строка С может
быть взята в виде 11011100010с единицами на позициях 0 и квадратичных вычетах числа 11.
Затем в 1965 г. вышла важная работа Карлина ([К1], см. также [46], [49], [50]), в которой было найдено, что циркулянты порождают большое число двоичных кодов, многие из которых имеют большую скорость, чем наилучшие из ранее известных кодов. Примерами являются (27, 14), (30, 16), (34, 12) и (53, 14)- коды, имеющие минимальные расстояния, соответственно равные 7, 7, 11 и 17.
Этот подход упростил также вычисление минимального расстояния, и Карлин получил возможность определить минимальное расстояние ряда двоичных квадратично-вычетных кодов, так, например, КВ (79,40)-кода, для которого d = 15, и КВ- (89,45)-кода, для которого о! = 17. Карлин также показал, что KB-коды длины 103 и 107 имеют минимальное расстояние, равное 19.
Плесе [88], [89] построила самодуальные (2q + 2, q + 1)-коды над GF(3) для всех нечетных простых степеней q = — 1 (mod3). Они являются циркулянтными кодами с порождающей матрицей вида . [11
11 С
1 1
10 111
где С — циркулянтная матрица. Первыми пятью из них являются (12,6) (троичный код Голея), (24,12), (36,18), (48,24) и (60,30)-коды с минимальными расстояниями 6, 9, 12, 15 и 18 соответственно. Эти пять кодов имеют скорость 1/2 и d = = 4-и + 3. Но, к сожалению, дальнейшие коды в этом классе 4
имеют меньшие расстояния. Тем не менее циркулянтные коды представляют собой многообещающую область исследования.
НЕЛИНЕЙНЫЕ КОДЫ И КОДЫ, СТРОЯЩИЕСЯС ПОМОЩЬЮ КОМБИНАЦИИ ДРУГИХ кодов
Так как число кодовых слов в нелинейном коде не обязательно должно быть степенью объема алфавита, то удобно ввести новое обозначение.
(д,М^-код ^ представляет собой множество М кодовых слов длины п с символами из GF(g) и с минимальным расстоянием d. Размерность этого кода равна & = loggAI; избыточность г = п — loggAf и скорость R = к]п. Здесь к и г не обязательно являются целыми числами,
Смежным классом ^ является произвольный сдвиг a-Y^ кодовых слов ^ (где а — произвольный вектор длины я). Если — линейный код, то два смежных класса ^ либо равны, либо не пересекаются, но это не верно, если ^ — нелинейный код.
Говорят, что (щ М, о!)-код является оптимальным, если он имеет наибольшее возможное число кодовых слов при заданных значениях п и d. Конечно, здесь оптимальность понимается в очень наивном смысле, поскольку при этом не учитываются кодирование и декодирование. Но можно возразить, что если найдены хорошие коды, то методы их реализации будут разработаны позже, как это произошло с БЧХ-кодами [В1, гл. 7].
Разумно ожидать, что оптимальные коды часто будут нелинейными и что даже близкие к оптимальным коды будут иметь сложную структуру. Хорошо известным высказыванием Дж. Л. Мэсси [70] являются слова: «...хорошими кодами могли бы быть только беспорядочные коды»).
Нелинейные коды были успешно использованы для построения плотных сферических упаковок в евклидовом пространстве [63—65].
Коды, полученные из матриц Адамара и конференционных матриц. Матрицей Адамара Уб^ размером п X п является матрица, состоящая из +1 и — 1, такая, что ^„t^ = «7 (где I— единичная матрица). Замена +1 на 0 и —1 на 1 превращает 36,> в двоичную матрицу Адамара Нп.
Плоткин [Р1, стр. 79], [РЗ], [В1, стр. 325] показал, что ^п, 2п, ^ «Укод, состоящий из строк Нп и их дополнений, является оптимальным. Когда п является степенью 2, код будет (линейным) кодом Рида — Маллера первого порядка, а в других случаях он представляет собой нелинейный код Адамара.
Много других нелинейных кодов можно получить путем комбинирования матриц Адамара. Левенштейн ([L2], см. также [58, стр. 206], [83]) показал, что оптимальные коды для всех d и всех п ^ 2d могут быть получены из матриц Адамара (при условии, что требуемые матрицы Адамара существуют), доказав, что такие коды достигают границы Плоткина [РЗ]. Патель [84] определил оптимальные линейные коды в том же самом диапазоне).
Недавно с помощью конференционных матриц были получены нелинейные коды с п чуть большими, чем 2d [52]. Конференционной пХ п-матрицей Тп является матрица, составленная из нулей на диагонали и из ±1 на всех остальных местах, удовлетворяющая соотношению 7'п7’п = (п—1)/. Всегда, когда существует симметричная Тп, может быть построен двоичный нелинейный (л — 1, 2п, у (п — 2))- код. Несколькими первыми полученными кодами являются: оптимальный (9,20,4)-код Юлина [Л]; (13,28,6)-код, который хуже кода Надлера [80]; (17,36,8)- код, полученный в [S1], и (25,52,12), (29,60,14), (37,76,18), (41,84, 20)-коды.
Коды Препараты и Кердока. Нелинейные коды, исправляющие две ошибки, были построены Надлером ([80], (12,32,5)- код) Грином ([37], (13,64,5)-код) и Нордстромом и Робинсоном ([N1], (15,28,5)-код). Ван Линт [114] дал простую конструкцию кода Надлера.
Препарата [Р4] получил обобщение кода Нордстрома — Робинсона для больших скоростей. Для любого четного т^4 он построил нелинейный (2т—1, 22 -2т, б)-код. Эти коды являются оптимальными; в них вдвое больше кодовых слов, чем в БЧХ-кодах, исправляющих две ошибки, и для- них имеются прямые алгоритмы кодирования и декодирования.
Семаков и Зиновьев [96], [97] и Гёталс и Сновер [36] независимо получили распределение весов для кодов Препараты.
Кердок [К5] дал соответствующее обобщение кода Нордстрома — Робинсона для малых скоростей. Он показал, что для любого четного m ^ 4 можно взять объединение (2т, 2т+1,2т~1)- кода РМ первого порядка и 2т~1 — 1 его смежных классов и получить нелинейный(2m, 22т, 2т-1 — 22<т 2,)-код. При m = 4 он представляет собой расширенный код Нордстрома — Робинсона; при m — 6 он представляет собой (64,212,28)-код, содержащий в четыре раза больше кодовых слов, чем наилучший расширенный циклический код с такой длиной и расстоянием.
Коды Препараты и Кердока «дуальны» в том смысле, что их распределения весов удовлетворяют тождеству Мак-Вильямс [В1, стр. 401]. Причина этого еще не ясна.
Следующие четыре параграфа описывают конструкции, в которых для образования новых кодов комбинируются два, три или четыре кода.
Конструкции X и ХА. Конструкция X комбирирует три кода для получения четвертого. Предположим, что заданы («ь Мь о?1)-код ^1 и (nb М; = ЬМц й2)-код ^2 с условием, что
^2 является объединением 6 непересекающихся смежных классов ^ь т. е.
■ ^2 = (x, + ^1)U(x2 + ^1)U U^ + ^Dдля некоторого множества векторов S = (хь ХгХь}. Пусть^з = {Уь Уъ .... Уь}
будет каким-либо («3, Ь, А)-кодом.
Обозначим через л произвольную перестановку (1,2,..., Ь\ так что xt-*yn^ определяет взаимно однозначное отображение S на ^3.
Новый код теперь определяется как
^’4 = (Х1 + ^1, Ул(1)) 0 (х2 +
+ ^, Ул(2>) и •. •
. . . U (хь + ^1, Уя(ь’)).
Иначе говоря, ^2 разбито на смежные классы ^ь и различные кодовые слова из ^3 связываются с каждым смежным классом. (См. рис. 1.)
Тогда ^4 является (nt + пз, М2, d = min{di, с?2 + А})-кодом. Аналогично конструкция Х4 комбинирует четыре кода для получения пятого. Для более подробного ознакомления см. [54] и дальнейшие примеры.
Пример 1. Пусть ^— код Препараты, ^2— код Хэмминга, ^з — код с четными весами. Тогда, убедившись в том, что код Хэмминга является объединением смежных классов кода Препараты, можно получить (2т +m— 1, 22 т *, б)-коды при т ^ 4. С помощью конструкции Х4 можно получить даже большее и, в частности, расширить код Препараты путем добавления V^n+l информационных символов за счет добавления одного проверочного символа [54].
Пример 2. Используя БЧХ-коды, можно получить новые коды, которые имеют по меньшей мере такое же число кодовых слов, что и в конструкции Андрианова — Сасковца [В1, стр. 333]. В некоторых случаях БЧХ-коды, исправляющие е ошибок, могут быть расширены с помощью добавления около «1/е информационных символов за счет добавления одного проверочного символа [54].
Конструкции У1, У2, УЗ. Следующие конструкции были предложены Гёталсом [34].
Конструкция У1. Пусть ^—линейный (л, 2*', dj-код, и пусть ^2 — его дуальный (п, 2Г‘, б/2)-код с координатами, выбранными так, чтобы имелось слово минимального веса 1...10...0 в ^2- Пусть S — подгруппа ^ь в которой первые d2—1 координат являются нулевыми. Тогда (/2-е координаты S также нули. Если выбросить d2 начальных нулей из S, то получится линейный
(л — d2, 2fc,-<Z2+l, </1)-код.
Конструкция У2. Пусть Т является объединением S и всех d2—1 смежных классов S в ^ с лидерами смежных классов НО"-2, 1010"-3, ..., 10d2-2lG" "4l. Выбрасывая первые da координат из Т, получим нелинейный
(n — d2, d22k'~d,+l, di — 2)-код.
Конструкция Y3. Выбирая все смежные классы с лидерами веса 2, получим нелинейный
(n - d2, (1 + ( g2 )) 2к'-^+1, di - 4)-код.
Много примеров кодов, полученных согласно этим конструкциям, приведено в [54].
Конструкция Z. Она комбинирует два кода для получения третьего [РЗ], [44], [51], [68].
Пусть ^i = («1, Mi, di) и ^2 = («2, М2, d2) — произвольные коды над GF(<?). Пусть о обозначает нулевой векгор длины |«i — п2\. Тогда новый код ^з определяется следующим образом:
если п.1 ^ п2, то ^3 = {(х, (х, о) + у) |х е ^ь у г ^2} является (nt + п2, MiMa, d = min (2di, d2) )-кодом (в определении ^з запятая обозначает присоединение, а + обозначает векторное сложение в GF(^));
если Ui > n2, то ^а = Цх, х + (у, а)) [хе ^i, у е ^2) является (2пь MiM2, d = min )2di, d2)) -кодом.
Код ^з является линейным, если линейны ^ и ^2- В [51] дан ряд применений этой конструкции, в том числе для по-
Таблица 1
У,
^ 2
П|
d,
п2
Г 2
di
п
Г
d
23
и
7
и
4,830
4
34
15,830
7
19
12
8
19
18
19
38
30
16
14
13
14
264
101
27
278
114
37
строения бесконечного класса нелинейных кодов, исправляющих одну ошибку и содержащих больше кодовых слов, чем укороченные коды Хэмминга. Другие примеры, типичные из которых приведены в табл. 1, можно найти в табл. 2.
Циклические коды Ассмуса и Мэттсона со скоростью 1/3. Пусть р будет простым числом вида 8 А + 5, для которого 2 является примитивным корнем (например, р = 5, 13, 29, 37, ...). Ассмус и Мэттсон [4] показали, как произвести присоединение трех различных вариантов (р, р — 1) -кода с четными весами для получения линейного двоичного циклического (Зр,р—-1)- кода, обозначаемого через ЗЕ, с минимальным расстоянием, равным по меньшей мере 2]/Зр. Пусть ЗЕ+ — циклический (Зр, р)-код, состоящий из кодовых слов ЗЕ вместе с их дополнениями. Первыми несколькими примерами ЗЕ+являются (15,5), (39,13), (87,29) и (111,37)-коды с d, равным 7, 12, 24 и 24 соответственно.
Другие конструкции. Другие методы построения кодов приведены в [26], [28], [76], [99]. Однако полученные там коды содержат меньше или, в лучшем случае, столько же кодовых слов, сколько и известные циклические коды.
ТАБЛИЦА ЛУЧШИХ ИЗ ИЗВЕСТНЫХВ НАСТОЯЩЕЕ ВРЕМЯ КОДОВ
Для заданных значений длины п и минимального расстояния d через /И обозначается максимальное число кодовых слов какого-либо двоичного (п, М, <Д-кода (линейного или нелинейного), который в настоящее время известен (автору). Таблица 2 дает избыточность г = п— logaM этого кода как функцию п и d для всех п ^ 512 и d ^ 30. Эти коды, представляя сами по себе значительный теоретический интерес, дают основу для обсуждения новых кодов и, как нижние границы к наиболее плотным возможным кодам, дополняют таблицу Джонсона для верхних границ [48]. Ранее опубликованные таблицы кодов могут быть найдены в [Bl], [С1], [СЗ], [G3], [LI], [Pl], [РЗ], [W1] и [86].
Типы кодов. Коды классифицируются следующим образом:
В=код Боуза — Чоудхури — Хоквингема [В1, гл. 7];
С = циклический линейный код [Р1, гл. 8];
D = код Гоппы ([G4] и § 2.8 настоящей статьи); О=групповой или линейный код [Р1, гл. 3];
Н = код Адамара [L2];
J = код из конференционной матрицы [S2];
К =циркулянтный код [K1J;
N =нелинейный код;
р = код Нордстрома — Робинсона — Препараты [Nl], [Р4];
Q = квадратично-вычетный код ([В1, § 15.2], [111, § 4.4]);
R = код Рида —Маллера [В1, § 15.3];
5=код Сривэставы [В1, § 15.1], [Н2];
ХА, ХС, ХР = коды из конструкции X, примененные к БЧХ- кодам (обобщенная конструкция Андрианова — Сасковца), к циклическим кодам и к кодам Препараты соответственно ([S4] и § 3.3 выше);
Х4 = коды из конструкции ХА ([S4] и § 3.3);
Yl, Y2, У3 = коды из конструкций У1, У2, УЗ ([S4] и § 3.4 настоящей статьи);
2 = коды из конструкции Z([S1] и § 3.5 настоящей статьи).
Типы В, С, D, G, К, Q, R, S, ХА, ХС, Y1 являются линейными, Н, J, N, Р, ХР, Y2, Y3 являются нелинейными, а Х4, 2 могут быть линейными или нелинейными.
В таблице 2 коды, для которых дана ссылка [S3], являются новыми. За исключением одного случая, все они являются примерами конструкций, упомянутых в тексте. Исключение составляет (85,18)-код с d = 25, который был получен с помощью использования конструкции 39 Хатчера [44].
Так как (п, М,</)-код при нечетном d эквивалентен (п + 1, ЛА, d 4- 1)-коду, необходимо лишь дать коды с нечетными d. В (п, ЛА, (/)-коде можно выбросить из рассмотрения i компонент, в результате чего получатся (п — i,M,d — 1)-коды при 0 < t < d, или укоротить (п, ЛА, d) -код, в результате чего получатся (n — i, М2~\ d) -коды при 0<t<log2M. В таблице 2 все такие модифицированные коды названы так же, как и исходный код. Можно представлять себе (п, ЛА, (/)-код с избыточностью г, как (и + i, М, о!)-код с избыточностью г-\-i при t^ 1; в этом случае название опущено.
Некоторые нелинейные коды в табл. 2 имеют избыточность г, которая не равна целому числу. В этих случаях число кодовых слов можно быстро отыскать следующим образом. Если г = R -]- а, где R — целое число и 0 < а < 1, то число кодовых слов равно ЛА = i2n~R-5, где i задается таблицей
а
0,046
0,093
0,142
0,193
0,245
0,300
0,356
i
31
30
29
28
27
26
25
а
0,415
0,541
0,608
0,678
0,752
0,830
0,913
Й2
24
22
21
20
19
18
17
Таблица 2
Двоичные коды длины п с мииималыцям расстоянием d и наименьшей известной избыточностью г
РасстояниеРасстояние d =
d =3 (см. §4.7 этой статьи)
5Расстояние d — 7
п,гпгтип
ссылкапгтип ссылка
4-737-86G
83,6789-Ц6,415Н
93,75212-157Р
10-113,83016-198ХР
12-15420 8,678 Х4
16-174,67821-239G
18-194,75224-3210В
20—234,83033-63ИР
24-31564-7012Х4
32-355,67871-7313S
36-395,75274-12814В
40- 475,830129- 255 15 Р
48—636256—27116Х4
64-716,678272-27717S
72—796,752278-51218В
80-956,830
96-1277
128-1437,678
144-1597,752
160-1917,830
192-2558
256—2878,678
288—3198,752
320-3838,830.
384—5119
5129,678
L1]10-119GL1]
РЗ12-1510КР1
Nl[1610,830JS1
S417-2311QG1
S42412
W1]25-2713К[К1
G328-3014КК1
Р431-3215DG4
S4]3315,752ZS3
Н234-3515,830ZS3
S4]36-4716G *
Р448-6317ССЗ
S4]64-6718ХСS4
Н268-7019ХАS3
S4]71-8320SН2
84-12821D[G4
129-13522ХАS3
136-15923Y1S4
160-25624D[G4
257-26425ХАS3
265-31126SН2
312-51227DG4
* Согласно С. Редди
Расстояние d = 9
Расстояние d = 11
пгтипссылка
Агтипссылка
13-1412G[L1]
1513
1613,415Н[L2]
17-1913,678Н[L2]
2014,678
2115,415НL2
2216,300JS2
23-2516,678Y2S4
2617,678
27-2918В[Р1]
16-1715G[LI]
1816
1916,415НL2]
2017ВG3]
21-2317,415НL2]
2418,300JS2J-
25-2619GНЗ]
27-3120В[Р1]
3221
33-3522Y1[S4]
Н. Док. А. Слоэн
3
О jjjo. _j со со со со cocqcqXvd соХ X
О ХОХОТ X->NNO OUUOX ^СУ СУX
<>)ci - ci ci -О) см СО—-Г—со—— 2 "*
UJUUmC.J сл соСОV)П.СОXXIV)
О ЮХ^Х х^х о >- ИХ СУ СУсоЮ
Продолжение
a
Г
ТИП
ссылкаа
Г
ТИП
ссылка
129-135
43
ХА
]S3]92-99
47
Q [КЦ
136-138
44-46
100
48
139-156
47
S
НЗ]101-128
49
D
G4]
157-256
48
В
S4]129-135
50
ХА
S3]
257-264
49
ХА [S3]136-140
51-55
265—267
50-52
141-256
56
D
G4]
268-311
53
S
НЗ]257-264
57
ХА
S3]
312-512
54
в
S4]265-269
58-62
270-512
63
D
G4]
Расстояние
d= 17
Расстояние
d = 19
a
Г
ТИП
ссылкаa
Г
ТИП
ссылка
25-26
24
G
[С2]28-29
27
G
С2]
27-28
25-26
30-32
28-30
29
26,415
Н
[L2]33
30,415
Н
L2
30
27,415
34
31
С
СЗ
31
28
G
[L2]35
31,678
н
L2
32
28,415
Н
[L236
32,415
н
L2
33 -35
28,830
Н
L2]37-39
32,678
н
L2
36
29,752
J
[S240
33.608
J
S2
37
30,678
Н
[L2]41
34,541
н
L2
38
31,608
J
S242
35,541
39
32,541
н
L2]43
36,415
н
L2]
40
33,541
44
37
G
НЗ]
41
34
N
]НЗ]45-48
33
G
НЗ]
42
35
G
[НЗ]49-51
39
G
К4]
43—46
36
G
[НЗ]52-54
40-42
47-49
37
G
[К4]55-61
43
В
Р1
50
38
56-57
42
Y3
S4
51-53
39
К
[KI58—61
43
В
Р2
54-55
39
Y3
S4]62-63
44
С
СЗ
56
40
Y1
S464
45
57-62
41
С
СЗ65—66
46
ХС
S4
63-66
42
ХС
[S4]67-68
47
ХС
S4 -
67-71
43
Y1
S4]69-70
48
ХС
S4
72-89
44
Q
[К171-74
49
ХС
S4
90-93
45-48
75-83
50
Y1
S4
94-101
49
Q
[К1]84-103
51
Q
К1
102
50
104
52
103-105
51
К
[К1[105-107
53
К
К1]
106-107
52-53
108-109
54-55
108-125
54
в
[Р1]110-127
56
в
Р1]
126
55
128-131
57-60
127-128
56
в
[S4]132-139
61
ХС
S4]
129-135
57
ХА
S3140-145
62-67
136-141
58-63
146-255
68
в
Р1]
142-256
64
В
S4]256-260
69
ХА
S3]
257-264
65
ХА
S3]261-268
70-77
265-270
66-71
269-270
78
Z
S3]
271-512
72
В
S4]271-272
79-80
273-512
81
D
G4]
Расстояние d = 21
п
Г
ТИП
ссылка
31-32
30
G [С2]
33-35
31-33
36
33,415
Н [L2]
37
34,415
38
35
G
L2
39
35,678
Н
L2
40
36,193
Н
L2
41-43
36,541
н
L2
44
37,541
45
38,415
Н [L2]
46
39,356
J
S2]
47-48
40
С [СЗ]
49-51
41-43
52-57
43,415
Y2 [S4]
58
44,415
59-63
45
в
Р1]
64—70
46-52
71-77
53
ХС [S4]
78
54
79-85
55
К
К1]
86-92
56—62
93-127
63
В
Р1]
128-135
64
ХА [S3]
136-144
65-73
145-146
74
Z
S3]
147
75
148-255
76
В
РЦ
256-264
77
ХА
S3]
265—273
78-86
274—275
87
Z
S3]
276—277
88-89
278-512
90
В
S4]
Расстояние
d = 25
п
Г
ТИП
ссылка
37-38
36
G
[02]
39-42
37-40
43
40,415
я
L2]
44
41,415
45
42
G
L2
46
42,678
Н
L2
47
43,415
Н
L2
48
44
G
L2'
49-51
44,300
Н
[L2
52
45,245
J
S2
53
46,193
Н
L2
54
47,193
55
48,093
н
L2]
56-61
49
N
[Кб]
62-63
50-51
Расстояние d =23
ПГТПП
ссылка
34- 3533G
36—3834-36
[02]
3936,415 Н
4037,415
[L2]
4138G
4239
L2)
4339,415 Н
L2[
4440С
03]
45-4740,415 Н
L2
4841,356 J
S2
49-5042С
51-5343—45
[03
54—5746Y1
S4]
58—6347В
Pl]
64—6648ХА
67-7449—56
[S3]
75-8757К
88 —9958 —69
Ki]
100-12770В
Pl]
128-13571ХА
136-145 72-81
[S3]
146—14782Z
14883
[S3]
149-255 84В
Pl[
256-26485ХА
265-27486—95
[S3]
275—27696Z
277-278 97-98
[S3]
279—51299D
[G4]
Расстояние d = 27
n
r
ТИП
ссылка
40-41
39
G [02]
42—45
46
40-43
43,415
H [L2]
47
48
44,415
45
0
03]
49
50
46 46,678
H
L2
51
47,193
H
L2
52
47,830
H
L2
53-55
48,193
H
L2
56
57
49,193
50,093
H
[L2]
58-63
51
N
K5]
64-69
70-74
52-57
58
xc
[84]
Продолжение
п
Г
типссылка
п
Г
тип
ссылка
64—66
52
к
№
75-86
59-70
67
53
87-88
71
Z
[S3]
68—70
54
ХА
S3
89
72
71
55
90-91
73
G
[S4]
72-73
56
хс
S4]
92-94
74-76
74-83
57-66
95-127
77
В
[Р1]
84—85
67
G
S3]
128-131
78-81
86—88
68-70
132-139
82
ХС
[S4]
89
70,678
Z
S3
140-150
83-93
90
71,415
Z
S3
151-160
94
К
IK4]
91
72
Z
S3
161-165
95-99
92-94
72,300
Z
S3
166—255
100
В
[PI]
95
73,245
Z
S3
256-264
101
ХА
[S3]
96
74,193
Z
S3
265-276
102-113
97—125
75
в
Р1
277—278
114
Z
[S3]
126-127
76—77
279-280
115-116
128—135
78
ХА
[S3
281-512
117
D
[G4]
136-146
79-89
147-148
90
Z
[S3]
149
91
150-255
92
в
[Р1]
256-264
93
ХА
[S3
1
265—275
94-104
276-277
105
Z
[S3]
278-279
106-107
280-512
108
в
[S4]
Расстояние
d = 29
п
Г
тип
ссылка
п
Г
ТИП
ссылка
43-44
42
G [С2]
87-88
74
Z
[S3]
45-48
43-46
89-93
75
G
[S4]
49
46,415
Н [L2i
94-97
76-79
50
47,415
98
79,415
Z
[S3]
51
48,415
99—100
80,415
Z
[S3]
52
49
G
L2
101
81,415
53
49,678
Н
L2
102-125
82
В
[К2]
54
50,415
Н
L2
126-127
83-84
55
51,193
И
L2
128-135
85
ХА
[S3]
56
51,678
Н
L2
136-148
86-98
57-59
52,093
Н
L2
149-150
99
Z
[S3]
60
53,046
J
S2]
151-155
100-104
61
54
R
РГ
156-158
105
Z
[S3]
62
55
159-160
106-107
63
55,913
Н [L2]
161-255
108
в
[Р1]
64
56 913
256-264
109
ХА
[S3]
65—67
57
ХА [S3]
265—277
110—122
68-74
58-64
278-279
123
Z
[S3]
75—78
65
ХС
S4]
280—281
124-125
79-86
66-73
282-512
126
в
[S4]
Во многих случаях ссылка указывает на работу, в которой можно найти полное распределение весов кода, а не первоначальное определение минимального расстояния.
Хотя многие из этих кодов, быть может, являются оптимальными в том смысле, что они имеют наименьшую возможную избыточность, лишь немногие из них известны как оптимальные (ср. с [48]). Читателю предлагается проверить и улучшить их. Коды типа Z с расстояниями 25—29 являются особенно слабыми. Было бы интересно узнать о любых улучшениях в этом направлении.
В первой части табл. 2 приведенные коды для минимального расстояния d = 3, когда п = 3, 4, 5 и 3-2т~2 п 2т, т ^ 3, являются (укороченными) кодами Хэмминга [Н1]. Когда 2m п < 3-2m-1, m ^ 3, приведенные коды являются негрупповыми кодами, открытыми Голеем [G2] и Юлиным [Л] для п = 8, 9, 10, 11 и Слоэном и Вайтхедом [S1] для п^ 16.
Мне бы хотелось поблагодарить X. Л. Бергера за помощь по сбору данных для табл. 2; Э. Р. Берлекэмпа — за информацию о недавних русских работах; Ф. Дж. Мак-Вильямс — за полезные замечания по рукописи и X. Дж. Хелгерта —за ряд хороших кодов.
СПИСОК ЛИТЕРАТУРЫ
В списке употребляются следующие сокращения: BSTI = Bell System Technical Journal, IC = Information and Control, ICT = Journal of Combinatorial Theory, PGiT = IEEE Transactions on Information Theory.
Список литературы к таблице кодов
Berlekamp Е. R., Algebraic coding theory, McGraw-Hill, New York, 1968 (see especially pp. 360, 432—433). (Русский перевод: Берлекэмп Э., Алгебраическая теория кодирования, «Мир», М., 1971 (см. в особенности стр. 368, 438—439).)
[Cl] Calabi L., Myrvaagnes Е., On the minimal weight of binary group codes, PGIT, 10 (1964), 385—387.
[C2] Cordaro J. T., Wagner T. J., Optimum (n, 2) codes for small values of channel error probability, PGIT, 13 (1967), 349—350.
[C3] Chen C. L., Computer results on the minimum distance of some binary cyclic codes, PGIT, 16 (1970), 359—360.
[Fl] Fontaine A. B., Peterson W. W., Group code equivalence and optimum codes, PGIT, 5 (1959) (Special Suppl.), 60—70.
Gl] Golay M. J. E., Notes on digital coding, Proc. IRE, 37 (1949), 657.
G2] Golay M. J. E., Binary coding, PGiT, 4 (1954), 23—28.
G3] Goldman H. D., KHman M., Smola H., The weight structure of some Bose — Chaudhuri codes, PGIT, 14 (1968), 167—169.
[G4] Гоппа В. Д., Новый класс линейных корректирующих кодов, Проблемы передачи информации, 6, вып. 3 (1970), 24—30.
[Hl] Hamming R. W., Error detecting and error correcting codes, BSTJ, 29 (1950), 147—160. (Русский-перевод: Хэмминг P. В., Коды с обнаружением и исправлением ошибок, в сб. Коды с обнаружением и исправлением ошибок, ИЛ, М., 1956, стр. 7—23.)
Н2] Helgert Н. J., Srivastava codes, PGIT, 18 (1972), 292—297.
НЗ] Helgert Н. J., частное сообщение
Л] Julin D., Two improved block codes, PGIT, П (1965), 459.
KI] Karlin M., New binary coding results by circulants, PGIT, 15 (1969), 81—92.
[K2] Kasami T., Tokura N., Some remarks on BCH bounds and minimum weights of binary primitive BCH codes, PGIT, 15 (1969), 408—413.
[КЗ] Kasami T., Lin S., Peterson W. W., Polynomial codes, PGIT, 14 (1968), 807—814.
[K5] Kerdock A. M., A class of low-rate nonlinear codes, IC, 20 (1972), 182— 187.
[K4] Karlin M.. personal communication
[LI] Laenimel A. E., Efficiency of noise reducing codes, in: Jackson W., ed., Communication theory, Butterworth, London, 1953, p. Ill—118.
[L2] Левенштейн В. И., ГТрименение матриц Адамара к одной задаче кодирования, Проблемы кибернетики, вып. 5, Физматгиз, М., 1961, стр. 123— 137.
[L3] Lum V., Chien R. Т., On the minimum distance of Bose — Chaudhuri — Hocquenghem codes, SIAM J. Appl. Math., 16 (1968), 1325—1337.
[Nl] Nordstrom A. W., Robinson J. P., An optimum nonlinear code, IC, 11 (1967), 613—616.
[Pl] Peterson W. W., Error-correcting codes (M. 1. T. Press, Cambridge, Mass., 1961) (see especially pp. 71, 166—167). (Русский перевод: Питерсон У. У., Коды, исправляющие ошибки, «Мир», М., 1964.)
[Р2] Pless V. S., Power moment identities on weight distributions in error correcting codes, IC, 6 (1963), 147—152.
[P3] Plotkin M., Binary codes with specified minimum distances, PGIT, 6 (1960), 445—450. (Русский перевод: Плоткин M., Двоичные коды с заданным минимальным расстоянием, Киб. сборник, вып. 7, ИЛ, М., 1963.)
[Р4] Preparata F. Р., A class of optimum nonlinear double-error correcting codes, IC, 13 (1968), 378—400. (Русский перевод: Препарата Ф. П., Класс оптимальных нелинейных кодов с исправлением двойных ошибок, Киб. сборник (нов. серия), вып. 7, 1970, стр. 18—42.)
[SI] Sloane N. J. A., Whitehead D. S., A new family of single-error correcting codes, PGIT, 16 (1970), 717—719.
[S2| Sloane N. J. A., Seidel J. J., A new family of nonlinear codes obtained from conference matrices, Ann. Net» York Acad. Scl., 175 (1970), 363—365.
A new code.
Sloane N. J. A., Reddy S. M., Chen C. L., New binary codes, PGIT, 18 (1972), 503—510.
[Tl] Tokura N., Taniguchi K., Kasami T., A search procedure for finding optimum group codes for the binary symmetric channel, PGIT, 13 (1967), 587-594.
[Wl] Wagner T. J., A search technique for quasi-perfect codes, IC, 9 (1966), 94—99.
Список литературы, цитированной в тексте
Anderson D. R., A new class of cyclic codes, SIAM J. Appl. Math., 16 (1968), 181—197.
Assmus E. F., Jr., Mattson H. F., Jr., Turyn R. J., Research to develop the algebraic theory of codes (Sci. Rept. AFCRL-67-Q365, Air Force Cambridge Res. Lab., Bedford, Mass., 1967).
Assmus Е. F., Jr., Mattson Н. F., Jr., New 5-designs, JСТ, 6 (1969), 122—151.
Assmus E. F., Jr., Mattson H. F., Jr., Some (3p, p) codes, in: Information processing 68, North-Holland, Amsterdam, 1969, p. 205—209.
Baumert L. D., McEliece R. J., Weights of irreducible cyclic codes, to appear.
Berger T., Rate distortion theory, Prentice-Hall, Englewood Cliffs, N. J., 1971.
Berlekamp E. R., Weight enumeration theorems, in: Proc. 6th Allerton Conf, on Circuit and Systems Theory, Urbana, Univ, of Illinois Press, Chicago, Hl, 1968, 1968, p. 161—170.
Berlekamp E. R., The weight enumerators for certain subcodes of the second order binary Reed — Muller codes, /С, 17 (1970), 485—500.
Berlekamp E. R., Some mathematical properties of a scheme for reducing the bandwidth of motion pictures by Hadamard smearing, BSTJ, 49 (1970), 969—986.
Berlekamp E. R., A survey of coding theory for algebraists and combi- natorialists, Intern. Centre for Meeh. Sci., Udine, Italy, 1970.
Berlekamp E. R., Coding theory and the Mathieu groups, IC, 18 (1971), 40—64.
Berlekamp E. R., Long primitive binary BCH codes have distance d ~. 2nlnR-'/log n..., PGIT, 18 (1972), 415-426.
Berlekamp E. R., Sloane N. J. A., Weight enumerator for second order Reed —Muller codes, PGIT, 16 (1970), 745—751.
Berlekamp E. R., Welch L. R., Weight distributions of the cosets of the (32, 6) Reed —Muller code, PGIT, 18 (1972), 203—207.
Berlekamp E. R., MacWiiliams F. J., Sloane N. J. A., Gleason's theorem on self dual codes, 18, (1972), 409—414.
Берман С. Д., К теории групповых кодов, Кибернетика, 3 (1967), 25—31.
Берман С. Д., Полупростые циклические и абелевы коды II, Кибернетика, 3 (1967), 17—23.
Bose R. С., Ray-Chaudhuri D. К-, On a class of error correcting binary group codes, IC, 3 (1960), 68—79, 279—290. (Русский перевод: Боуз P. К., Рой-Чоудхури Д. К., Об одном классе двоичных групповых кодов с исправлением ошибок, Киб. сборник, вып. 2, 1961, ИЛ, М., стр. 83—94.)
Burton Н. О., A survey of error correcting techniques for data on telephone facilities, in: Proc. Intern. Commun. Conf., San Francisco, Calif., 1970.
Camion P., Abelian codes, Math. Res. Center, Univ, of Wisconsin, Rept. 1059, 1970.
Chen C. L., The existence of arbitrarily long pseudo-cyclic codes that meet the Gilbert bound, in: Proc. Sth Ann. Princeton Conf. Inform. Sci., 1971, p. 242.
Chen C. L., Peterson W. W., Weldon E. J., Jr., Some results on quasi- cyclic codes, IC, 15 (1969), 407—423.
Conway J. H., A group of order 8, 315, 553, 613, 086, 720, 000, Bull. London Math. Soc., 1 (1969), 79—88.
Conway J. H., A characterization of Leech’s lattice, Invent. Math., 7 (1969), 137—142.
Dagnino G., On a new class of binary group codes, Calcolo, 5 (1968), 277—294.
Deisarte P., Automorphisms of abelian codes, Philips Res. Rept., 25 (1970), 389—402.
Deisarte P., Majority logic decodable codes derived from finite inversive planes, IC, 18 (1971), 319—325.
Delsarte Р., Goethals J. М., Irreducible binary cyclic codes of even dimension, Univ. North Carolina at Chapel Hill, Inst. Statist., Mimeo Ser. No. 600.27, 1970.„
Dobrushin R. L., Survey of Soviet research in information theory, PGIT, 18 (1972).
Gilbert E. N., A comparison of signaling alphabets, BSTJ, 31 (1952), 504—522.
Gleason A. M., Weight polynomials of self-dual codes and the MacWilli- ams identities, ini Proc. Intern. Congr. Mathematicians, Nice, 1970, 140— 144.
Goethals J. M., Factorization of cyclis codes, PGIT, 13 (1967), 242— 246.
Goethals J. M., On the Golay perfect binary code, JOT, 11 (1971). 178— 186.
Goethals J. M., Some combinatorial aspects of coding theory, in: Proc. Combinat. Symp., Fort Collins, 1971, to appear.
Goethals J. M., Snover S. L., Nearly perfect binary codes, Discrete Math., 3 (1972), 65—88.
Green M. V., Two heuristic techniques for block-code construction (Abstract), PGIT, 12 (1966), 273.
Hartmann C. R. P., On the minimum distance structure of cyclic codes and decoding beyond the BCH bound, Ph. D. Thesis, Univ, of Illinois, 1970; also Coord. Sci. Lab. Rept. R-458, Univ, of Illinois, 1970.
Hartmann C. R. P., A note on the minimum distance structure of cyclic codes, PGIT, 18 (1972), 439—440.
Hartmann C. R. P., A generalization of the BCH bound, submitted to IC.
Hartmann C. R. P., On the weight structure of cyclic codes of composite length, in: Proc. Fourth Hawaii Inter. Conf. System Sci., 1971, p. 117— 119.
Hartmann C. R. P., Tzeng К- K., A bound for cyclic codes of composite length, PGIT, 18 (1972), 307.
Hartmann C. R. P., Tzeng К. K., Chien R. T., Some results on the minimum distance structure of cyclic codes, PGIT, 18 (1972), 402—409.
Hatcher T., On minimal distance, shortest length, and greatest number of elements for binary group codes, Parke Mathematical Labs., Carlisle, Mass., Tech. Memo. 6, 1964.
Hocquenghem A., Codes correcteurs d’erreurs, Chiffres, 2 (1959), 147— 156.
Hoffner C. W. II and Reddy S. M., Circulant bases for cyclic codes, PGIT, 16 (1970), 511—512.
Jelinek F., Free encoding of memoryless time-discrete sources with a fidelity criterion, PGIT, 15 (1969), 584—590.
Johnson S. M., On upper bounds for unrestricted binary error-correcting codes, PGIT, 17 (1971), 466—478.
Karlin M., Decoding of circulant codes, PGIT, 16 (1970), 797—802.
Karlin M., Weight/moment relationships in (Q + E) circulants, unpublished.
Kasami T., Some lower bounds on the minimum weight of cyclic codes of composite length, PGIT, 14 (1968), 814—818.
Kasami T., An upper bound on kin for affine-invariant codes with fixed din, PGIT, 15 (1969), 174—176. (Русский перевод: Касами T., Верхняя граница для kin аффинно инвариантных кодов с фиксированным din, Киб. сборник, нов. серия, вып. 8, 1971, «Мир», М., стр. 5—11.)
Kasami Т., The weight enumerators for several classes of subcodes of the second order binary Reed — Muller codes, IC, 18 (1971), 369—394.
Kasami T., Some results on the weight structure of Reed — Muller codes, to appear.
Kasami Т., Lin S., Peterson W. W., Some results on weight distributions of BCH codes, PG IT, 12 (1966), 274.
Kasami T., Tokura N., On the weight structure of Reed — Muller codes, PGIT, 16 (1970), 752— 759.
Kasami T., Tokura N., Azumi S., On the weight distribution of Reed — Muller codes, Inst. Electron. Comm. Eng., Japan, PGIT Rept.. 1971 (in Japanese).
Kautz W. H., Levitt K. N., A survey of progress in coding theory in the Soviet Union, PGIT, 15 (1969), 197—244.
Кошелев В. H„ О некоторых свойствах случайных групповых кодов большой длины, Проблемы передачи информации I, вып. 4, 1965, стр. 45—48.
Козлов М. В., Корректирующая способность линейных кодов, ДАН, 14 (1969).
Leech J., Some sphere packings in higher space, Can. J. Math., 16 (1964), 657-682.
Leech J., Notes on sphere packings, Can. J. Math., 19 (1967), 251—267.
Leech J., Sloane N. J. A., New sphere packings in dimensions 9—15, Bull. Amer. Math. Soc., 76 (1970), 1006—1010.
Leech J., Sloane N. J. A., New sphere packings in more than thirty-two dimensions, in: Proc, second Chapel Hill Conference on Comb. Math., Chapel Hill, N. C., 1970, p. 345—355.
Leech J., Sloane N. J. A., Sphere packing ana error-correcting codes, Can. J. Math., 23 (1971), 718—745.
Леонтьев В. К., Одна гипотеза о кодах Боуза — Чоудхури, Проблемы передачи информации, 4, вып. I, 1968, стр. 83—85.
Lin S., Weldon Е. J., Jr., Long BCH codes are bad, IC, 11 (1967), 445— 451.
Liu C. L., Ong B. G., Ruth G. R., A construction scheme for linear and nonlinear codes, in: Proc. Sth Ann. Princeton Conf. Inform. Sci., 1971, p. 245—247.
Lucky R. W., Saiz J., Weldon E. J., Jr., Principles of data communication, McGraw-Hill, New York, 1968.
MacWilliams F. J., Error-correcting codes — An historical survey, in: H. B. Mann, ed., Error correcting codes, Wiley, New York, 1968.
MacWilliams F. J., Codes and ideals in group algebras, in: Bose R. C., Dowling T. A., eds., Combinatorial mathematics and its applications, Univ. North Carolina Press. Chapel Hill, 1969.
MacWilliams F. J., Binary codes which are ideals in the group algebra of an abelian group, BSTJ, 49, (1970), 987—1011.
MacWilliams F. J., Mallows C. L., Sloane N. J. A., Generalizations of Gleason’s theorem on weight enumerators of self-dual codes, PGIT, 18 (1972), to appear.
MacWilliams F. J., Sloane N. J. A., Thompson J. G., On the existence of a projective plane of order 10, ICT, to appear.
MacWilliams F. J., Sloane N. J. A., Thompson J. G., Good self-dual codes exist, Discrete Math., 3 (1972), 153—162.
Марчуков А. С., О суммировании произведений кодов, Проблемы передачи информации, 4, вып. 2, 1968, стр. 11—20.
McEliece R. J., On the symmetry of good nonlinear codes, PGIT, 16 (1970), 609—611.
McEliece R. J., Rumsey H., Jr., Euler products, cyclotomy, and coding, in: Space programs summary Jet Propulsion Lab., Calif. Inst. Technol., vol. 37-65-III, 1970, p. 22—27; and J. Number Theory, 4 (1972), 302—311.
Muller D. E., Application of boolean algebra to switching circuit design and error detection, IRE Trans. Electronic Computers, EC3 (1954), 6—12.
Nadler M„ A 32-point n = 12, d = 5 code, PGIT, 8 (1962), 58. .
Оганесян С. Ш., Ягджян В. Г., Весовой спектр для некоторых классов корректирующих циклических кодов, Проблемы передачи информации,
вып. 3, 1969, стр. 28—36.-
Parker Е. Т., Nikolai Р. J., A search for analogues of the Mathieu groups, Math. Comp., 12 (1958), 38—43.
Patel A. M., Maximal codes with specified minimum distance, IBM Tech. Rept. TR 44.0085, 1969.
Patel A. M., Maximal group codes with specified minimum distance, IBM J. Res. Deuel., 14 (1970), 434—443.
Pehlert W. K., Jr., Analysis of a burst-trapping error correction procedure, BSTJ, 49 (1970), 493—519.
Peterson W. W., On the weight structure and symmetry of BCH codes, Air Force Cambridge Res. Lab., Bedford, Mass., Rept. AFCRL-65-515, 1965.
Pless V. S., On the uniqueness of the Golay codes, ICT, 5 (1968), 215— 228.
Pless V. S., On a new family of symmetry codes and related new five- designs, Bull. Am. Math. Soc., 75 (1969), 1339—1342.
Pless V. S., Symmetry codes over GF (3) and new five-designs, ICT, 12, (1972), 119—142.
Pless V. S., A classification of self-orthogonal codes over GF (2), Discrete Math., 3 (1972), 209—246.
' [91] Preparata F. P., A new look at the Golay (23, 12) code, PGIT, 16 (1970), 510—511.
Второй международный симпозиум по теории информации, Тезисы докладов, 2—8 сентября 1971 года, Цахкадзор, Армянская ССР, Москва — Ереван, 1971.
Reed 1. S., A class of multiple-error-correcting codes and the decoding scheme, PGIT, 4 (1954), 38—49.
Sarwate D. V., Berlekamp E. R., On the weight enumeration of Reed — Muller codes and their cosets, to appear.
Savage J. E., The complexity of decoders, II, Computational work and decoding time, PGIT, 17 (1971), 77—85.
Семаков H. В., Зиновьев В. А., Равновесные коды и тактические конфигурации, Проблемы передачи информации, 5, вып. 3 1969, стр. 28—36.
Семаков Н. В., Зиновьев В. А., Зайцев Г. В., Равномерно упакованные коды, Проблемы передачи информации, 7, вып. 1, 1971, стр. 38—50.
Shannon С. Е., A mathematical theory of communication, BSTJ, 27 (1948), 379—423, 623—656. (Русский перевод: Шеннон К., Математическая теория связи, в книге: Работы по теории информации и кибернетике, ИЛ, М„ 1963, 243—332.)
Shiva S. G. S., Certain group codes, Proc. IEEE, 55 (1967), 2162—2163.
Сидельников В. M., О спектре весов двоичных кодов Боуза—Чоудхури— Хоквингема, Проблемы передачи информации, 7, вып. 1, 1971, стр. 14—22.
Singleton R., Maximum distance Q-nary codes, PGIT, 10 (1964), 116— 118.
Sloane N. J. A., A survey of recent results in constructive coding theory, in: National -Telemetering Conf. NTC’71 Record IEEE, New York, 1971, p. 218—227.
Sloane N. J. A. and Dick R. J., On the enumeration of costs of first order Reed — Muller codes, IEEE Intern. Comf. Communications, Montreal, 1971.
Stanton R., The Mathieu groups, Can, J. Math., 3 (1951), 164—174.
Stiffler J. J., Theory of synchronous communications, Prentice-Hall, Englewood Cliffs, N. J., 1971.
Sugino М., lenaga Y., Tokura N., Kasami T., Weight distribution of (128, 64) Reed —Muller code, PGIT, 17 (1971), 627—628.
Tietavainen A., On the nonexictence of perfect codes ower finite fields SIAM J, to appear.
Tietavainen A., Perko A., There are no unknown perfect binary codes, Ann. Univ. Turku, Ser. Al 148, 1971, p. 3—10.
Tong S. Y., Burst-trapping techniques for a compound channel, PGIT, 16 (1969), 710-715.
Tong S. Y., Performance of burst-trapping codes, BSTJ, 49 (1970), 477— 491.
Van Lint J. H„ Coding theory, Lecture Notes in Math. 201, Springer, Berlin, 1971.
Van Lint J. H., A survey of recent work on perfect codes, Rocky Mountain J. Math., to appear.
Van Lint J. H., A new description of the Nadler code, PGIT, to appear.
Van Tiborg H. C. A., Weights in the third-order Reed —Muller codes, Jet Propulsion Lab., Calif. Inst. TechnoL, Tech. Rept. 32—1526, IV, 1971.
Weldon E. J., Jr., Long quasi-cyclic codes are good (abstract), PGIT, 16 (1970), 130.
Witt E., Ober Steinersche Systeme, Abh. Math. Sent. Univ. Hamburg, 12 (1938), 265-275.
Wolf J. K, Adding two information symbols to certain nonbinary BCH codes and some applications, BSTJ, 48 (1969), 2405—2424.
Wolf J. K, Nonbinary random error-correcting codes, PGIT, 16 (1970), 236—237,
Класс нелинейных двоичных кодов■ с низкой скоростью передачи1*
А. М. Кердок'
Мы предполагаем, что читатель знаком с полиномами Мэттсона-Соломона, линеаризованными полиномами и аффинными полиномами, описанными в разд. 11.1 и 16.3 работы Бер- лекэмпа (1968).
Мы начинаем с леммы, которая часто позволяет вычислять вес кодового слова в PM-коде 2-го порядка исходя из его полинома Мэттсона — Соломона.
Лемма. Пусть f(x) — полином Мэттсона — Соломона кодового слова PM-кода 2-го порядка р (0), f (1), /(a), ..., /(о2”1-2)], где осе GF{2m)— примитивный элемент и /(£)е GF{2) для всех |е GF(2m). Тогда производная f(x) есть аффинный полином вида
f'(x) = t + L(x),
где t^GF(2m) и L(x)—линеаризованный полином, а вес кодового слова с полиномом Мэттсона — Соломона f(x) определяется следующим образом:
/1 =/1 =2т *, если f(£) = f(O)+l и /,(£) = 0 для некоторого 6 е GF (2т), . 2m~* ± 2m_1_(m_s)/2 в остальных случаях.
/1 =
/1 =
где s — размерность пространства корней L (х) в GF (2т).
Доказательство. В соответствии с теоремой Диксона (Берлекэмп (1968), теорема 16.35) каждое кодовое слово PM-кода 2-го порядка имеет полином Мэттсона — Соломона вида
л
f (х) = А + Т [их) + 2 Г (М Т М mod х2"* + х, (1)
1=1
m — 1.
где Ле GF(2), u^GF(2m), Т® = 2 V* и 1=0
') Kerdock А. М., A Class of Low-Rate Nonlinear Binary Codes. Information and Control, 20, № 2 (1972), 182—187.--
Рь ?ь Р2, Y2, • ••, Ph, Yh— некоторые элементы СЕ(2т), которые линейно независимы над GF(2). Если и линейно независим от Рь Yu • ••, Ph, Yh, т0 |f| = 2m~l, но если и — линейная комбинация рь yi, ..., Ph, Yh, т0 соответствующим аффинным преобразованием Рь уь ..., Ph, Yh можно и перевести в 0 и получить |f| = 2m-* ± 2т-1-А, где знак зависит от двоичной константы А.
Дифференцирование равенства (1) дает
/'(х) = « + S (Р^ (Y<x) + Y^ (Р,х) (pzYJ2m-,)=. Л
1=1
= «+S((ptva^^t(^ 1 = 1••.
где L (х) — линеаризованный полином.
Уравнение L(g) = O эквивалентно
S (Pz^ (Yz^) + Yz^ (Р<Ю) = О.(2)
z—i
Если |eGF(2m), то Г(у<У и Т (р,£) принаддедят-QF (2). Так как ph Yi, ■••, Ph> Yh линейно независимы; ЭДЖ -pF(2), то (2) имеет место тогда и только тогда, когда .■.:v,
Т (Y^) = Т (р,У = 0 для z" = 1, 2h. (3)
Пусть уь Рь Yh, Ph, бь бг, 6m-2h— базис GE(2m) над GF(2). Тогда | единственным образом определяется m двоичными величинами Цу^), Цр^), Т^^, где z = 1, 2, ..., h и /= 1, 2, .... m— 2h. Следовательно, уравнения (3) имеют 2т~2'1 решений, соответствующих 2т-2А выборам Т(бД). Таким образом, s = т — 2h и Л = (т —s)/2. Доказательство завершается тем замечанием, что и линейно независимо от уь Pt (z = 1Л) тогда и только тогда, когда существует решение уравнений Т^) = 1; Т№ = ТШ = 0 для i = 1, ..., h. Ч. Т. Д.
Следствие. Если g — единственный ненулевой корень L{x) в GF(2m), то
( 2т-‘,если f(y=f(O)+l,
[ 2m-1 ±2<т"|)/2, если Ц^ = Ц^.
КОНСТРУКЦИЯ КОДА
Построим теперь наш код длины 22'. Каждое кодовое слово определяется в терминах двух полиномов Мэттсона — Соломона, один из которых определяет левую часть кодового слова, а другой — правую. Каждая половина имеет длину 2т, где m =
= 2/— 1. Левая половина имеет полином Мэттсона — Соломона вида
h (х) = Т (т]х) + Q (фХ) + А, а правая половина того же кодового слова — полином Мэттсона— Соломона вида
fr (х) = Т (т)х + фх) + Q (фх) + S, где A, Be GF (2), т], ф е GF (2т) и
Q(y)^T(y3A- z/5 + У9 + • •■ -Vy^-"1 *)/2) mod у2"' + у.
Заметим попутно, что
Q' (у) = s' у^ =УА-Т^ = <rm_x
где
tn— 2
Тт-\ W = 2 У^.
i=0
ДОКАЗАТЕЛЬСТВО ТОГО, ЧТО КОНСТРУКЦИЯ РАБОТАЕТ
Так как существуют две возможности выбора для А, две для В, 2т для т] и 2"1 для ф, то очевидно, что конструкция дает код с 24' кодовыми словами длины 22'.
Покажем теперь, что разность между любыми двумя кодовыми словами имеет вес по крайней мере 2m — 2<т-||/2. Пусть первое слово имеет параметры гц, фЬ Ль Вх, а второе — т]2, ф2, Л2, в2. Определим фз — Ф1 Н~ Фг, Лз = Л1 Н~ Лз* Л3 — Л i -|~ Л2, В3 = Вх + в2. Левая половина разности имеет полином Мэттсона — Соломона
Д/М = 9(ф1Х) + 9(ф2х) + Г(л3х) + Лз,(4)
а правая половина — полином Мэттсона — Соломона
А, (х) = Д, (х) + Т (ф3х) + Л3 + В,.(5)
Случай фз = 0 тривиален, так как тогда разность двух кодовых слов имеет вес 0,2т или 2т~1. (Действительно, разность тогда принадлежит PM-коду 1-го порядка длины 2т+1 с кодовым расстоянием 2т.) Поэтому предположим, что ф3 =# 0. Так как (ф1 + ф2)/фз = 1 и т нечетно, то, следовательно,
7’(Ф1/Фз) + Т(ф2/Фз) = 7’(1)==1.(6)
Кроме того, так как
(ф?+ Ф|Ф2)/<Рз = Ф|/Фз, то
Т (ф|/ф^) + т (Ф1Фз/ф^ = Т (Ф1/Фз)-
откуда г (ф^з/ф!) = °-(7)
Из (4) и (5) получаем
А,' ^ = ф! (ф,х + Т (ф,х)) + ф2 (ф2х + Т (ф2х)) + П3 и
A' W = Ф1 (Ф1Х + Т (ф|х)) + Ф2(ф2х + Т (ф2х)) + ^j + Ф3-
Обе производные имеют линеаризованную часть вида
L (х) = ф^Х + ф/ (ф]Х) + ф/ (ф2х).
Имеем L (£) = О тогда и только тогда, когда
Если ^eGF ^т\ то Т (ф^) и Г (ф2|) принадлежат GF (2). Следовательно,
О, если 74 (ф^) = Г (ф2£) = О,
Ф,/ф2, если Г(ф1&)=1, Г(ф/) = 0,
^| Ф2М если Т(Ф^) = 0, Т(ф2£)=1,(8)
1/фз, если Т (ф^) = О, Т (ф2^) = 1.
Последняя возможность, | = 1/фз, не может быть реализована, так как это ведет к немедленному противоречию с (6).
Если ^ф^)—1, то ^ = ф^ф2 и Г(ф2Е) = 0 из (7). Аналогично из Т (ф2|) = 1 следует, что Т (ф1£) = 0. Следовательно, (8) можно переписать в виде
I °’
1 = 1 Ф1/Фз, если ^(ф^Фз)^1’
I Ф2/Фз> еСЛИ 7(ф2/фз)=1-
Из (6) мы выводим, что всегда существует единственное ненулевое решение для |, которое можно записать в виде
в = Т (ф./фз) (Ф1/Фз) + Т (ф2/фз) (ф2/фз)'
Согласно следствию, веса |А;| и |АГ| зависят от величин А;(|) и Аг(|), которые мы сейчас подсчитаем:
^® + Az(0) = Ar (g) + Аг (0) + Т (йз),
Т (^Фз) = \т (Ф1/Фз)12 + [Г (ф2/<Рз)12 = т (ф1/фз) + Т (фз/фз) = 1.
Следовательно, либо | Аг] = 2т 1 и |Ar| = 2m *±2<m |)/2, либо | A;| = 2m-I±2|m-I,/2 и | Ar 1 = 2т^‘. В любом случае | А, Ц-| Аг |= = 2m ± ^т~1)/2. Ч. Т. Д.
Предыдущее доказательство также показывает, что все кодовые слова с весом 2т или 2т+* лежат в PM-коде 1-го порядка; все другие кодовые слова имеют вес 2m±2<m~l)/2. Следовательно, нумератор весов нашего кода длины 22' задается полиномом
(z) = 1 + V + (22Z+* - 2) г22'"* + К У1" w + г22',
где ® = 22'-'- 2'Л Kw = 2-I(2°t-'- 1).
Гёталс (1971) заметил, что распределения весов наших кодов двойственны распределениям весов расширенных кодов Препараты (1968) в том смысле, что они удовлетворяют тождеству Мак-Вильямс (1963), а именно:
^(z^'Hz)2^^
где ^/z— нумератор весов расширенного кода Препараты, который имеет 24' кодовых слов длины 22z и минимальное расстояние 6. Нумератор весов кодов Препараты был впервые определен Семаковым и Зиновьевым (1969). Группы симметрий наших кодов еще не известны, за исключением случая / = 2, когда и наша конструкция и конструкция Препараты дают расширенный код Нордстрома — Робинсона (1968) длины 16, чья группа симметрий — одна из тех, которые изучались Бер- лекэмпом (1971).
Вэлч (1971) показал, что линейное пространство, образованное любым из наших кодов, является полным PM-кодом 2-го порядка такой же длины. Миккельтвейт (1972) установил, что эти коды систематические и что первые 2/ разряда в правой и левой половинах кода могут быть использованы в качестве 4/ информационных разрядов.
Я благодарен профессору Дж. К. Вулфу за просмотр тезисов, которые лежат в основе этой статьи, и Э. Р. Берлекэмпу за помощь в написании этой статьи.
СПИСОК ЛИТЕРАТУРЫ
Berlekamp Е. R. (1968), Algebraic Coding Theory, McCraw-Hill Book Co., New York. (Русский перевод: Берлекэмп Э„ Алгебраическая теория кодирования, «Мир», М„ 1971.)
Berlekamp Е. R. (1971), Coding theory and the Mathieu groups, Information and Control, 18, 40—64.
Goethals J. М. (1971). Неопубликованное сообщение.
MacWilliams F. J. (1963), A theorem of the distribution of weights in a systematic code, Bell. Syst. Tech. J., 42, 79—94.
Mykkeltveit J. (1972), Note in JPL Deep Space Net Progress report. He опубликовано.
Nordstrom A. W., Robinson J. P. (1967), An optimum nonlinear code. Information and Control, 11, 613—616.
Preparata F. P. (1968), A class of optimum nonlinear double-error-correc- ting codes, Information and Control, 13, № 4, 378—400. (Русский перевод: Кибернетический сборник, вып. 7, «Мир», М., 1970.)
Семаков Н. В., Зиновьев В. А. (1969), Равновесные коды и тактические конфигурации, Проблемы передачи информации, 5 (3), 28—36
Welch L. R. (1971). Неопубликованное сообщение.
Класс конструктивных асимптотическихороших алгебраических кодов11йёрн Юстесен
ВВЕДЕНИЕ
Граница Варшамова— Гилберта [1, 2] гарантирует существование двоичных (и, к) -кодов любой размерности к и любой длины блока п (0 < Л? < п), таких, что их минимальное расстояние dn удовлетворяет неравенству
Hl<W>\-Rn,
где Rn = kin — скорость, а Н (х) = —х log2 х — (1 — х) log2 (1 — — х)— двоичная энтропия. Таким образом, по крайней мере в принципе, можно для любой скорости R, 0 < R < 1, выбрать такую последовательность линейных кодов с возрастающей длиной блока п, минимальным расстоянием dn и скоростью Rn ^ R, что
lim inf (4/и) >//~*(1-/?),(1)
П->оо
где предполагается 0 < Н- (1 — R) < ‘/г, так что обратная функция определяется однозначно.
До сих пор, однако, не была найдена никакая конструктивная последовательность двоичных (и, fe)-кодов с Rn ^ R и
lim inf (djn) > 0(2)
П->оо
для любой R, 0 < R < 1. Назовем бесконечную счетную последовательность (п, k) -кодов конструктивной, если она может быть описана с помощью понятий, которые обычно считаются известными в том смысле, что не требуют перебора для своего задания). Таким образом, циклические двоичные коды Хэмминга в указанном смысле представляют собой конструктивную последовательность кодов. Будем называть последовательность кодов, которая удовлетворяет (2), асимптотически хорошей.
Во втором разделе этой статьи для любой скорости R, 0 < < R < 1, будет точно описана конструктивная бесконечная
счетная последовательность (и, k) -кодов со скоростями Rn^R, для которой имеет место (2). Конструкция основывается на введенном Форни [3] понятии каскадных кодов, в которых m информационных символов внутреннего двоичного кода рассматриваются как единые символы внешнего кода Рида — Соломона [4] над GF^m^. Однако мы обобщаем это понятие для того, чтобы имелась возможность изменения внутреннего кода. Внутренние коды, как мы их определим, задаются с помощью простого алгебраического описания и оказываются эквивалентными 2m—1 различным кодам из ансамбля случайно сдвинутых кодов, описанных Месси [5] и приписываемых Возенкрафту. Вместе с тем кодовые слова двоичных кодов, которые мы построим, могут быть рассмотрены как пары кодовых слов в различных кодах Рида — Соломона над GF^"1).
В третьем разделе будет дан метод декодирования кодов, построенных в разд. 2, который близко связан с предложенным Форни [3] декодированием по обобщенному минимальному расстоянию, использованным Редди и Робинсоном [6] и Велдоном [7] для декодирования итеративных кодов. Доказывается, что все ошибки с относительным весом (отнесенным к длине блока), гарантирующим их исправление в соответствии с нижней границей для минимального расстояния из разд. 2, будут исправляться этой процедурой и что число двоичных операций, требуемых для декодирования, пропорционально и log и.
Так как GF(2m)—векторное пространство над GF(2), то элементы GF(2’n) могут, и будут в дальнейшем, рассматриваться как двоичные «-последовательности.
Рассмотрим теперь двоичный (п, Л)-код ^ с кодовыми словами .
■ " с = [Со, С]СЛГ—11»(3)
где
Cj = [а/, а!аД, 0</<М—1.(4)
Этот двоичный код имеет длину п = 2mN, размерность k = тК и скорость Rn = ^rN. Код ^т является линейным кодом над GF(2m), когда с5 рассматриваются как пары элементов из GF^), и, следовательно, является также линейным над GF^S). когда, как было сделано, с, выражаются в виде 2т-последова- тельностей над GF^).
Код Ьт может быть интерпретирован как каскадный код с внешним кодом Рида — Соломона и меняющимся внутренним кодом. Для каждого / (4) определяет (2«, т)-двоичный код; все эти коды являются различными и фактически составляют коды ансамбля Возенкрафта случайно сдвинутых кодов для R = 72. Эти коды обладают интересным свойством, состоящим в том, что любая 2т-последовательность а, Ьса^ОиЬ^О появляется ровно в одном коде, а именно в коде, для которого aj = Ь]а. Это свойство было использовано Месси [5], чтобы показать, что ансамбль содержит коды, которые лежат на границе Варшамова — Гилберта.
Иным образом кодовые слова ^т могут быть интерпретированы как пары [а, 6], где а и b = [60, Ь\,..., &w-i] — кодовые слова PC-кодов. Так как PC-коды принадлежат подклассу кодов Боуза — Чоудхури — Хокингема (БЧХ) [8], то эти коды являются циклическими, и PC-код, описанный выше, имеет, как легко видеть, порождающий полином
g to = (х + а) (х + а2) ... (х + aN-K\'
Вектор b имеет ассоциированный полином
b to = ао + аа^х + ... + aN-vaN_1xN~1 = а (ах),.
и, следовательно, он является кодовым словом PC-кода с порождающим полиномом
gb (х) = (х + 1) (х + а) ... (х + а^-к-1).
Принято обычно считать конструктивной последовательность кодов, определяемую с помощью примитивных элементов последовательно расширяющихся полей GF(2m). Таким образом,
последовательность определенных выше кодов ^т является конструктивной в том же самом смысле, как и циклические коды Хэмминга или PC-коды. Однако, следуя предложению МакЭлиса [9] при определении Ьт, можно избежать задания примитивного элемента GF(2m) или, что эквивалентно, примитивного полинома степени т над GF^), если поступить следующим образом. Пусть т = 2-3'-последовательности
[/о, /1 соответствует
/о + А® +
где о — корень неприводимого, но не примитивного полиШИ< [Ю]’
^(X) = X2-V _|_X3Z_|_ t) т- е- дЗ-З1 + аз‘ + 1 = о
Если заменить везде aj на m = 2-3'-последовательность, символы которой дают запись в двоичной форме числа /, 0 ^/ < < 223, то определенные таким образом коды для заданных значений m = 2-3z являются з действительности перестановками соответствующей последовательности кодов, определяемых (3) и (4). Эта последовательность кодов является, как мы верим, бесспорно конструктивной.
Коды (без модификации Мак-Элиса) легче всего кодируются PC-кодером, который выдает aN_b aN_2a0, с последующим кодированием кодером внутренних кодов. Внутренний кодер первоначально хранит множитель ал-1, который затем нормируется умножением на а-1 после каждого кодирования и, таким образом, вычисляет произведение Ь, = еда,. Эти 2N умножений в GE(2m) во внутреннем кодере дают небольшую добавку к приблизительно N(N — K) умножениям, требуемым для РС-кодера.
Теорема 1. При любой заданной скорости R, 0 < R < */2, для последовательности двоичных (2mN,mK), m=l, 2 кодов 'б’т со скоростью Rn = -^г.v = ^ ^р > выбираемой так, чтобы быть наименьшей скоростью, для которой R„ ^ R, справедливо
lim inf — ^ (1 — 2/?)/7-1 Ш « 0,11(1-2/?), .(5)
п-»оо "Z /
где dn — минимальное расстояние ’б’щ.
Нижняя граница (5) нанесена на рис. 1 для сравнения вместе с границей Варшамова — Гилберта. Так, например, при R = 74 коды из теоремы 1 имеют минимальное расстояние, по меньшей мере равное 5,5% от длины блока, в то время как
согласно границе Варшамова— Гилберта существуют коды с минимальным расстоянием, равным 21,5% от длины блока.
При доказательстве теоремы 1 будет использована следующая лемма.
Лемма. Пусть Ог(^)—»0 при L-*oo. Тогда для любого у, О < у < 1, и любого 6, 0<6<1, суммарный хэмминговский
Рис. 1. Сравнение границ теоремы 1 (Т1) и теоремы 2 (Т2) с границей - Варшамова — Гилберта (ВГ).
sec W множества из ML = [у — oz(L)](2L6 — 1) различных ненулевых двоичных L-последовательностей удовлетворяет неравенству
\\(6)
где О] (L) —»0 при L —» оо..
Доказательство. Используем хорошо известное неравенство [8].
XL
£(^)<2^),(7)
1=0
Отсюда следует, что доля fL тех указанных ненулевых L-последовательностей из ML, которые имеют хэмминговский вес, меньший или равный XL, удовлетворяет неравенству
ИЛИ
7(8)
Если выбрать
Х = Н"х ^-МХо^Ц,
где /^Дбс^аточно велико, чтобы б> 1/log/., то (8) принимав^ вид
7<[Y-O2M''2'LNL,
и, таким образом, /l = o3(L), где o3(L)—►О при L — оо. Следовательно, суммарный вес /.-последовательностей из ML удовлетворяет неравенству
D^>(1 -fL)MLH~lR>- l/logL)L или
U7>[l-o3(L)][Y-o2(L)](2Le- I)//"1 (б)[1 — о4 (Л)]Л, (9) которое при
V - о, (L) = [1 - о3 (L)][l - о4 (1)] [у - о2 (L)] приводит к (6).
Заметим, что так как никакие два случайно сдвинутых кода не имеют общих ненулевых кодовых слов, то эта лемма может быть интерпретирована так: доля fL из ML случайно сдвинутых кодов, которые имеют минимальное расстояние, меньшее или равное LH~l(b— 1/logL), стремится к нулю при L—♦ оо.
Доказательство теоремы 1. Рассмотрим какое- либо ненулевое кодовое слово с из ^т. Тогда а также является ненулевым, и, поскольку оно является кодовым словом РС-кода, оно содержит по меньшей мере N — К + 1 "> N — К —
Я(1 —rN) = М(1 — 2Rn) = (2™ — 1)[1 — 2/?-—о2(т)] ненулевых символов, где о2(т)—*0 при т—>оо. Так как никакая из 2т-последовательностей не появляется более чем в одном внутреннем коде, то можно применить лемму с L = 2m, 6 = '/г и Y = 1 —2R. Хэмминговский вес с ограничен снизу неравенством
W > ^Гх (1) - О] (2m)] (1 - 2R) (2т - 1) 2m.
Следовательно, минимальное расстояние dn кода ’g’™ удовлетворяет неравенству
d^n = dnl\2m (2m - 1)] ^ (1 - 2R^ [я-1 (^) - о, (2m)]. (10)
Так как т-*оо при п = 2т(2т — 1)—► оо, то (5) следует непосредственно из (10), и теорема доказана.
Заметим, что этот результат нельзя получить, рассматривая PC-код просто как двоичный код. Пусть do — минимальное расстояние PC-кода над GF(2m), и пусть i— наименьшее целое число, такое, что do = 2‘ — 1 ^ do. Как было доказано Касами, Лином и Питерсоном [11], БЧХ-код длины 2т—1 с конструктивным расстоянием d^ имеет минимальное расстояние, в точности равное do. Теперь, как показано в [3], БЧХ-коды с конструктивным расстоянием, по крайней мере равным do, являются подкодами PC-кода с минимальным расстоянием do, и, следовательно, их минимальное расстояние является границей сверху для минимального расстояния dдpc PC-кода, рассматриваемого как двоичный код длины n = mN. Так как d'o<.2do, то
dдpdr^ = dдpc/(mN) < 2 (/V — /Q/(mjV)и, следовательно,dдpdn->0 при т->оо.
Для того чтобы распространить конструкцию на большие скорости, произведем укорачивание построенных ранее кодов с помощью отбрасывания последних s символов из каждого внутреннего кода. Для образующейся скорости внутреннего кода получается выражение
rn = m/(2m — s), 0 ^ s < т.
При заданном значении R, 0 < R < 1, и произвольном выборе гп выберем скорость PC-внешнего кода как наименьшую скорость, такую, что
Rn = rnrN> R.
Заметим вновь, что любое ненулевое кодовое слово с в укороченном коде 'S’™ будет содержать
М > (2m - 1) (1 - rN) = (2m — 1) [1 — №гп) - о2 (т)]
ненулевых ад Ненулевые ^ад Ь^ различны, но после укорачивания могут оказаться 2s одинаковых ненулевых Сд так как любое Cj является кодовым словом в точности в 2s внутренних кодах. Таким образом, по крайней мере
2"SM > (2m"s - 1) [ 1 - Wd ~ оз Ml
ненулевых (2m— s)-последовательностей различны, и можно применить лемму с L = 2т — s, 6 = (m— s)/L=l—rn и Y= 1—(R/rn). Получим следующую нижнюю границу для хэм- минговского веса с:
> [1 - №Л ^т - s) [//"' (1 - г„) - ох (m)]- 1) 2s. (11)
Но если гп стремится к г, '/2^г<1> то отношение s/m отделено от 1 и (11) означает, что
lim inf dn/n "^ [1 — (7?/r)] Н~' (1 — г).(12)
П-> ОО
Минимальное расстояние может быть максимизировано приравниванием нулю производной по г правой части неравенства (12). Максимизирующее значение г удовлетворяет условию
с тем исключением, что следует положить г = */2. когда решение (13) будет таким, что г< ‘/г, так как наша конструкция допускает лишь скорости внутреннего кода, большие или равные '/г-
Резюмируем сказанное в виде теоремы.
Теорема 2. При любой скорости R, 0 < R < 1, для двоичных (п, k)-кодов &т, укороченных так, что гп стремится к г, где г — максимум из Ч-ъ и решения уравнения (13) справедливо
lim infd^n>[l - №АН'\\-rY(14)
n-»oo
Граница (14) может быть интерпретирована как огибающая семейства прямых линий, проведенных следующим образом. Точка [г,//-|(1 — г)] на границе Варшамова — Гилберта проектируется на оси, давая точки [г, 0] и [0, //*'(!—г)]. Эти две точки соединяются затем прямой линией. В силу того что имеется ограничение r^'h, граница теоремы 2 совпадает с границей теоремы 1 при 0 < R < 0,30. Для больших скоростей граница (14) совпадает с нижней границей для минимального расстояния в ансамбле каскадных кодов, полученной Зябловым [12]. Для скоростей г < 0,30 граница расположена ниже границы Зяблова, так как конструкция разд. 2 требует хорошего ансамбля внутренних кодов с самое большее 2т—1 кодами, и мы не можем конструктивно описать такой ансамбль для скоростей, меньших чем ’/г-
Заметим, что для скоростей, близких к единице, максимизирующее значение г имеет вид
г ~ Rn ~ R4*.
ПРОЦЕДУРА ДЕКОДИРОВАНИЯ
Все ошибки веса, меньшего чем половина значения нашей асимптотической нижней границы для минимального расстояния (14), могут быть исправлены процедурой декодирования,
которая является одной из модификаций декодирования по обобщенному минимальному расстоянию, использованной Редди и Робинсоном [6] и Велдоном [7] для 'произведения кодов.
Как было указано ранее, все коды, кроме стремящейся к нулю доли внутренних кодов, имеют минимальное расстояние dj, удовлетворяющее неравенству
dj > D2m — s '2m — sdj > D2m — s '2m — s= //"‘(1= //"‘(1г»),г»),
dj > D
2m — s '2m — s
dj > D
2m — s '2m — s
= //"‘(1
= //"‘(1
г»),
г»),
где D — нижняя граница для минимального расстояния, задаваемая (1).
Рис. 2. Функциональная схема декодера (п, 6)-кодов теоремы 2.Рис. 2. Функциональная схема декодера (п, 6)-кодов теоремы 2.
Рис. 2. Функциональная схема декодера (п, 6)-кодов теоремы 2.
Рис. 2. Функциональная схема декодера (п, 6)-кодов теоремы 2.
Для нашей процедуры декодирования мы выберем схему, изображенную на рис. 2, в которой принимаемый блок
г = [Го, Гь . . ., Fjy-J,
где Г{ — принимаемая (2m— s)-последовательность, соответствующая внутреннему кодовому слову с, и сначала декодируемая внутренним декодером, решения которого затем поступают к декодеру по обобщенному минимальному расстоянию (ОМР) [3] для PC-внешнего кода. Внутренний декодер может быть построен так, как показано на рис. 2, т. е. так, что для каждого принимаемого внутреннего слова г, декодер (с помощью m-разрядного двоичного кольцевого счетчика) генерирует все 2т кодовых слов внутреннего кода и подает их на сравнивающее устройство, которое также принимает г,. Внутренний декодер декодирует г,- в с,, как только кодовое слово с< обнаруживается на расстоянии, менщцем чем D/2 от г(. Так как
этот процесс декодирования должен быть выполнен N=2m—1 раз, то внутренний декодер выполняет всего 2т(2'п—1) или приближенно (n/logn)2 умножений.
Пусть выходом сравнивающего устройства будет число е^ вместе с оценкой <5, для с,-, где е^ определяется следующим образом:
вес (с/ + г^, если ri декодируется,
D,2 в остальных случаях (в этом случае 6t может быть произвольным).
Определим нормированный щим образом:Определим нормированный щим образом:₽/ =₽/ =edD,D — е(D-edD,D — е(D-вес ошибки в позиции i следую- если с/ = С/,. ■(15)если Ci^=ct.вес ошибки в позиции i следую- если с/ = С/,. ■(15)если Ci^=ct.
Определим нормированный щим образом:
Определим нормированный щим образом:
₽/ =
₽/ =
edD,
D — е(
D-
edD,
D — е(
D-
вес ошибки в позиции i следую- если с/ = С/,
. ■(15)
если Ci^=ct.
вес ошибки в позиции i следую- если с/ = С/,
. ■(15)
если Ci^=ct.
В соответствии с теорией ОМР [3] PC-внешний декодер будет декодировать верно всегда, когда
(16)(16)N—1
(16)
(16)
z=o
Заметим, что в силу леммы доля г<, дающих ошибки из-за того, что di <Z D, стремится при N -* оо к нулю при di < D и что число ошибок, требующихся для того, чтобы вызвать заданное значение 0, для внутреннего кода с минимальным расстоянием не менее D, равно ti^^D. Учитывая это, из (16) получаем, что минимальное число ошибок, которое может вызвать ошибку декодирования, асимптотически удовлетворяет неравенству
N-lN—1
/ = ^ h^ Р^>(/)/2)(У-У< + 1)>1£)У(1-г^. (17) 1=0i=o
Но асимптотически наша нижняя граница dB для минимального расстояния d имеет вид
dB = ND(Y-rN),
так что (17) показывает, что наша процедура декодирования исправляет все ошибки, исправление которых гарантируется асимптотической нижней границей dB.
Заметим также, что для того, чтобы произвести ОМР-де- кодирование внешнего PC-кода, требуется число попыток, равное числу различных значений е^ Так как существуют D(2 допустимых значений ei и так как предложенный Берлекэмпом
итеративный алгоритм декодирования ошибок и стираний в применении к PC-коду требует число умножений, пропорциональное 22т, то отсюда следует, что общее число умножений в нашей процедуре декодирования пропорционально m22™. Это соответствует числу двоичных операций, пропорциональному m322m или, приближенно, п2 log п.
ЗАМЕЧАНИЯ
' Конструкция кода, задаваемая теоремой 2 для двоичных кодов, легко может быть обобщена для того, чтобы получить конструкции асимптотически хороших кодов над любым конечным полем GF(q). В этом случае следует использовать РС-код над расширенным полем GF^q™) и выбрать а в (4) как примитивный элемент этого поля. Модификация Мак-Элиса, однако, не может быть использована для устранения последнего возможного возражения к конструктивности при q > 2, так как мы не знаем выражения для неприводимых полиномов произвольно большой степени над произвольным полем GF(q).
Наконец, отметим, что для любой заданной длины блока п = (2m— s)2m поиск наилучшего фиксированного внутреннего кода требует меньше, чем п2, операций. Несмотря на то что хороший каскадный код с наилучшим фиксированным внутренним кодом может быть найден таким образом с помощью весьма умеренного перебора, мы отвергли этот подход как неконструктивный, так как мы не можем описать внутренний код априори. Открытым остается вопрос, является ли истинное расстояние наших конструктивных кодов с различными внутренними кодами лучше или хуже, чем то, которое получается при использовании наилучшего фиксированного «внутреннего» кода.
Автор пользуется возможностью поблагодарить проф. Дж. Л. Месси за помощь в подготовке окончательного варианта этой статьи.
СПИСОК ЛИТЕРАТУРЫ
Gilbert Е. N., A Comparison of Signaling Alphabets, BSTJ, 31 (1952), 504—522.
Варшамов P. P., Оценка числа сигналов в кодах с коррекцией ошибок, ДАН, 117 (1957), № 5, 739—741.
Forney D. G., Concatenated Codes. MIT Press, Cambridge, Mass., 1966. (Русский перевод: Форни Д. Г., Каскадные коды, М„ «Мир», 1970.)
Reed I. S., Solomon G., Polynomial Codes over Certain Finite Fields, J. Soc. Indst. Appl. Math., 8 (1960), 300—304.
Massey J. L., Threshold Decoding, MIT Press, Cambridge, Mass., 21 (1963). (Русский перевод: Месси Дж., Пороговое декодирование, М., «Мир», 1966.)
Reddy S. М., Robinson J. Р., Random Error and Burst Correction by Iterated Codes, IEEE Trans. Inform. Th., IT-18, January 1972, 182—185-
Weldon Е. J., Jr., Decoding Binary Block Codes on Q-ary Output Channels, IEEE Trans. Inform. Th., IT-17, November 1971, 717—718 (Appendix).
Peterson W. W., Error Correcting Codes, MIT Press, and John Wiley, Cambridge, Mass., 1961. (Русский перевод: Питерсон У., Коды, исправляющие ошибки, М., «Мир», 1964.)
McEliece R. J., Частное сообщение, 1972.
Colomb S. W., Shift Register Sequences, Holden-Day, San Francisco, 1967, p. 96.
Kasami T., Lin S., Peterson W. W., Some Results on Weight Distributions of BCH Codes, IEEE Trans. Inform. Th., IT-12, April 1966, p. 274.
Зяблов В. В., Оценка сложности построения двоичных линейных каскадных кодов, Проблемы передачи информации, 7 (1971), вып. 1, 5—13.
Berlekamp Е. R., Algebraic Coding Theory, McGraw-Hill, New York, 1968, p. 184. (Русский перевод: Берлекэмп Э., Алгебраическая теория кодирования, М., «Мир», 1971.)
О связи теории графов с планированием эксперимента и некоторые последние результаты о существовании блок-схем1)
Д. К. Рой-Чоудхури
ВВЕДЕНИЕ
Для того чтобы сравнить действия ряда способов обработки (элементов), экспериментатор выбирает некоторое множество опытов (экспериментальных единиц), распределяет способы обработки по опытам в соответствии с планом эксперимента и через некоторое время наблюдает отклики на поставленные опыты, на основе которых делает необходимые выводы. Наблюдаемые отклики подвергаются также воздействиям внешних факторов, изменяющихся от опыта к опыту. Так как наблюдаемые отклики изменяются даже тогда, когда эксперимент повторяется в одинаковых условиях, то экспериментатор, естественно, выбирает вероятностную модель. Предполагается, что отклики — действительно переменные величины, распределение которых зависит от применяемых способов обработки (элементов), а также от ряда внешних факторов. Само планирование эксперимента состоит в выборе заданного числа опытов и приписывании элементов этим опытам. Количество информации, извлекаемой из эксперимента, может быть увеличено, если более тщательно анализировать влияние внешних факторов. Оптимальное планирование эксперимента часто требует сложного упорядочения опытов в соответствии с различными факторами, и такие упорядочения основаны на комбинаторных конфигурациях или комбинаторных схемах.
Как графы, так и комбинаторные схемы являются частными случаями структур инциденций (incidence structures). В некоторых случаях графы являются более простыми структурами инциденций, чем комбинаторные схемы. Но часто задачи, сформулированные в терминах комбинаторных схем, можно перевести на задачи с графами.
В последнее время некоторые авторы использовали результаты теории графов для доказательства теорем существования или несуществования комбинаторных схем. В этой статье дан
') Ray Chaudhuri D. К., On Some Connections between Graph Theory and Experimental Designs and Some Recent Existence Results в сборнике «Graph Theory and its Applications. Proc, of an Advanced Seminar at the University of Wisconsin, Madison, October 13—15, 1969, Academic Press, New York — London, 1970, стр. 149—166.
обзор таких теорем без доказательств. Здесь сделана также попытка формализовать и пояснить некоторые основные понятия планирования эксперимента.
ОПИСАНИЕ ПЛАНИРОВАНИЯ ЭКСПЕРИМЕНТА
Эксперимент определяется с помощью множества элементов $=(ГЬ Т2, ..., Г,,) и множества опытов б=(£ь Е2, ..., Е^. Опыты не все тождественны. Множество внешних переменных А = (хь х2, ..., Хр) принимает различные значения на множестве б. Н Е Rp (Rp — ^-мерное евклидово пространство), Н есть множество допустимых значений А'. Для каждых Tel и а е Н пусть 8т, а— некоторый заданный класс функций распределения вероятностей. Эксперимент определяется с помощью отображения D: б -* $. Отображение D обычно называется планом эксперимента. Элемент D(E) применяется в опыте Е и затем наблюдается отклик y{D,E). Предполагается, что y(D,E) есть случайная величина с функцией распределения, принадлежащей классу 8т, а, где £)(£)= Г и А (£) = а. Цель эксперимента — принять решение о размещении множества элементов, т. е. выбрать классы функций распределения {8га' Те^, аеН\
Сама «функция решения» является функцией случайных переменных У ф,Е), £е6, и отсюда «качество» (goodness) функции решения зависит от самого плана эксперимента D.
Ниже приводится пример с выбором наилучшей диеты в эксперименте по определению рациона свиней. Элементами здесь являются четыре различные диеты. Они «применяются» к свиньям, которые обозначены пятью различными буквами. Внещняя переменная А принимает соответственно пять различных значений. Откликом является увеличение веса свиньи, предполагается, что уц — увеличение веса /-й свиньи с t-й буквой — есть случайная величина со средним значением р, + т,, где р< представляет эффект t-й буквы, а т;— эффект /-й диеты (t = 1, ..., 5; /= 1, 2, 3, 4). Предполагается также, что дисперсия уц равна о2 и у^ и yVj, некоррелированы для (t, /) =/=
(*\/'), t, tv = 1, ..., 5; /, j' = 1, 2, 3, 4.
СТРУКТУРЫ ИНЦИДЕНЦИЙ И BIB-СХЕМЫ
Структура инциденций — это тройка (P,L,I), где Р — множество объектов, называемых точками, элементами (способами обработки) или вершинами, L — другое множество объектов, называемых линиями, блоками или ребрами, а / — подмножество Р X L. Предполагается, что Р и L не пересекаются. Точки р и I называются инцидентными, если реР, l^L, (р,Г)^1. Графом является такая структура инциденций, в которой любое
ребро инцидентно одной или двум вершинам. Ребро, инцидентное одной вершине, называется петлей. Если двум вершинам pi и р2 инцидентны два ребра 1\ и 4 (или более), то говорят, что между р\ и р2 имеются кратные ребра. Две вершины р\ и р2 (не обязательно различные) смежны тогда и только тогда, когда существует ребро, инцидентное р\ и р2- Граф без петель и кратных ребер можно определить как G = (Р,Е), где ЕгР^2\ а Р^ — множество неупорядоченных пар элементов Р. Неупорядоченная пара (рь р2) ^ Е, если и только если существует ребро /, инцидентное р\ и р2-
Пусть и и X— положительные целые числа, /( — множество положительных щелых чисел. Структура инциденций (Р, L, /) называется (и, К, X) -попарно сбалансированной схемой (PBD), если: (I) |Р| = и; (ii) для любого IeL точка / инцидентна к точкам и к е К; (ш) для рь р2 еР.р-^ р2 существует ровно X различных линий /,, i = 1, 2, .. ., X, таких, что каждое ребро Ц инцидентно как р\, так и р2-
Если К состоит из одного целого числа к, то PBD называется (и, к, Х)-В1В-схемой. Обычно линия (или блок) / отождествляется с множеством точек Ai = (р| (р, /) е /}. Тогда BIB-схему можно рассматривать как пару (Р, 91), где 91 — семейство блоков (Л;: 1еЦ. Ниже приводится В1В-схема С V = 7, к = 3, X = 1, Р = {1, 2, 3, 4, 5, 6, 7}:
Л1 = (1,2, 3), Л2 = (1,4, 5), Л3 = (1,6, 7), Л4 = (2, 4, 6), ;
Л5 = (2, 5, 7), Л6=(3, 4, 7), Л7 = (3, 5, 6).
блоков должно равнятьсяблоков должно равняться, Ху (у — 1)А (А — 1) *Х(у — 1) в г = -к^г-, Ху (у — 1)А (А — 1) *Х(у — 1) в г = -к^г-В (и, к, Х)-В1В-схеме число
блоков должно равняться
блоков должно равняться
, Ху (у — 1)
А (А — 1) *
Х(у — 1) в г = -к^г-
, Ху (у — 1)
А (А — 1) *
Х(у — 1) в г = -к^г-
а каждый элемент (или точка) должен входить блоков. В (и, А, X)-ВIB-схеме определяется мно
жество Ьк опытов, в которых одна внешняя переменная (или фактор) X принимает b различных значений аь а2, ..., аь и у элементов образуют множество Р = (рь р2, рД- «Группа» Bi = {Е|Х (Е) = а.} состоит из к опытов (экспериментальных единиц), i = 1, 2, . .., b; 6=^5^ b «групп» опытов сначала 7=1
приписываются b блокам (у, к, X)-BIB-схемы, а затем к единиц каждой группы ставятся в соответствие к элементам выделенного блока. Более формально, пусть 1ь = {1, 2, ..., Ь\ Пусть о — взаимно однозначное отображение Iь—* fь, a Xi — взаимно однозначное отображение 5г—►Ла(,). Для каждого выбора о и т< (i = 1, 2, ..., b) получаем BIB-схему D эксперимента, определенную с помощью D (Е) = xt (Е), где ЕеВ? В литературе
по планированию эксперимента часто не делается различия между комбинаторной схемой и схемой эксперимента. Чтобы
сделать понятия более ясными, нужно ввести, например, следующие разграничения.
(7, 3, 1)-В1В-схему можно использовать в эксперименте для выбора «наилучшего» вида среди семи различных видов мороженого (семь элементов), когда пробу снимают семь дегустаторов, каждый из которых последовательно пробует три из них и дает им оценки. Оценка, данная каждому мороженому, зависит как от его качества, так и от дегустатора. В этом эксперименте семь дегустаторов представляют семь «уровней» (или значений) внешнего фактора. Однако кажется естественным предположить, что различие оценок, которые получила пара элементов (два типа мороженого), не зависит, от дегустатора. При этом предположении эксперимент дает больше информации, если выполняется условие, что каждая пара видов мороженого испытывается одинаковое число раз. Это свойство можно получить с помощью использования BIB-схемы эксперимента.
Кифер [8] доказал, что в определенном классе схем эксперимента BIB-схемы оптимальны относительно ряда критериев оптимальности. Пусть 6 ={£’1, £2, ..., Е^ — множество v опытов (v=ur), пусть х — внешний фактор, принимающий Означений (или уровней) ah 1= 1, 2, ..., b и Р =Цр11 рг, ..., pv}~ множество, содержащее и элементов. Пусть также 0 = (0Ь 02, . .., 06) и т = (т|, т2, ..., т„) — соответственно 0-мерные и и-мерные векторы с компонентами, принимающими действительные значения, о2—положительное действительное число. Для любого целого п обозначим через R" n-мерное пространство действительных переменных; R+ — множество положительных действительных чисел. Для 0eR6, reR” и (t2eR+ обозначим через Кр,т,</класс всех v-мерных случайных переменных у = кУцН = — 1, 20; /=1,2и), таких, что:
математическое ожидание ytj равно 0, + т/;
дисперсия yti равна ст2;
(Hi) ковариация ум и yVj, равна 0 всегда, когда (/, /) =/= (i', j'), z, i' = 1, 2, ..., b; j, j' = 1, 2, ..., v.
Схема D является отображением &->P. Если применяется элемент D(Е), то отклик y^D, Е) является случайной переменной с таким же распределением, как и уц, где D^ = Pj и X (Е) = а{, i = 1,2,..., b; /= 1,2, ..., и.
„Параметр" 0/ обозначает эффект z-го уровня внешнего О фактора х, а Т/ —эффект /-го элемента pj. Пусть л = 5 а/т/, а й/gR. Говорят, что „параметрическая функция" л оценивается относительно данной схемы D, если и только если существуют
действительные числа 0(5), Е е ^, такие, что для каждых ре eR1, те R", о2 е R+ и у г Ур, т, а* математическое ожидание
2 С (Е) у ф, Е) равно 2а,т/. Параметрическую функцию л
Ее6/=1о
называют контрастом элемента, если 2#/ = 0- Пусть D мно
жество всех схем D эксперимента, для которых можно оценить каждый контраст элемента. Если существует (и, А, Л)-В1В-схема, то любая BIB-схема D^ эксперимента принадлежит © и обладает рядом оптимальных свойств. Приведем здесь только два из них [8]. Пусть л,, л2, ..., л0_1 — множество (и — 1) линейно независимых контрастов, а ль л2, • . ., лу_, — соответствующие несмещенные оценки с минимумом дисперсии. Ковариационная матрица этих оценок обозначается через o2VD. Величина, обратная определителю | Уд |, есть мера качества схемы D. Аналогично величина МУд), обратная наибольшему собственному значению VD, есть другая мера качества схемы. Кифер показал, что для любой BIB-схемы эксперимента О0 имеет место
I VdJ = mini Уо |,А(Уо,) = minМУо).
DelОеф
КВАДРАТЫ ЮДЕНА И ТЕОРЕМА КЕНИГА — ЭГЕРВАРИ
Исторически связь между теорией графов и планированием эксперимента возникла в результате изучения квадратов Юдена (сокращенное YS от Youden Square).
(и, АД)-BIB-схема является симметричной тогда и только тогда, когда 6 = и, где b обозначает число блоков и равно Ху (и — 1)
6(6-1) -
(о, АД)-YS-схема представляет собой размещение и элементов в и строках и А столбцах, такое, что любой элемент появляется в каждом столбце точно один раз и каждая пара различных элементов появляется совместно ровно в X различных строках.
, Следующая схема является (7, 3, 1)-YS-схемой:
123
246
365
451
572
617
734
Ясно, что строки (о, АД)-YS-схемы образуют блоки некоторой симметричной (и, АД)-BIB-схемы. Обратно, блоки симметричной (и, АД)-BIB-схемы могут быть упорядочены и преобразованы в строки (и, АД)-YS-схемы. Этот факт впервые был
установлен Смитом и Хартли [12]. Теперь ясно, что доказательство этого можно получить из теоремы Кёнига — Эгервари.
Пусть N— матрица инциденций порядка и В1В-схемы, состоящей из элементов, распределенных в блоки, т. е. N = = ||fii;-||, где пц — 1 (или 0), если и только если Ей блок содержит (или не содержит) j-й элемент; I, / = 1, 2, ..., и. Легко показать, что сумма по каждой строке и сумма по каждому столбцу матрицы инциденций равны к. Из теоремы Кёнига — Эгервари может быть установлено, что N = Pt + Р2 + • ■. + Pk, где Pi являются матрицами перестановок (см. [И], стр. 58). Чтобы построить YS-схему на множестве объектов 1е = = (1, 2, ..., и}, определим уа = h когда матрица перестановок Pi имеет 1 в i-й строке и /"-м столбце (1=1, 2и; / = 1, 2, ..., k), и зададим YS-схему с помощью У = Цу^Ц.
YS-схемы полезны для построения эффективных экспериментальных планов в тех случаях, когда опыты подвержены влиянию двух внешних факторов. Пусть имеется ик опытов Е\, Е2, ..., Ех, где м = ик, и два внешних фактора Xt и Х2, при этом X] принимает и значений (или уровней) аь а2, ..., а„, а Х2 принимает к значений сь с2Ск. Имеется точно один опыт Etj, в котором Xi(E) = at и Х2(Е)=с^ (i = 1, 2, ..., у; j = 1, 2, ..., А). В YS-схеме эксперимента строки и столбцы соответственно связаны с понятием уровней первого и второго внешних факторов. Более формально, пусть определены отображения т: Е —»Е и о: Ik-^-lk- Пусть также У = Hi/nll (1 = 1, 2, ..., и; / — 1, 2, ..., А) является YS-схемой. Тогда YS-схема эксперимента будет задаваться отображением D: 6-* Е, определенным следующим образом: D (Е) = ух^ а^, где X](Е) = at и Х2(Е) = ci, i = 1, 2, .... и; / = 1, 2, .... А. Здесь /„ — множество элементов. (7, 3, 1)-YS-схему можно исполбзовать в эксперименте по выбору вида мороженого. Оценки, данные мороженому, по-видимому, будут зависеть от порядка, в котором отдельные эксперты пробуют мороженое. Поэтому целесообразно предположить, что имеется два внешних фактора: X] соответствует экспертам и Х2 соответствует порядку проведения дегустирования. X] принимает семь значений, а Х2 — три значения. Кифер доказал, что YS-схема эксперимента обладает оптимальными свойствами, подобными свойствам В1В-схемы.
ОПИСАНИЕ СИММЕТРИЧНЫХ BIB-СХЕМ В ТЕРМИНАХТЕОРИИ ГРАФОВ И НЕКОТОРЫЕ ТЕОРЕМЫСУЩЕСТВОВАНИЯ И НЕСУЩЕСТВОВАНИЯ
Одной из важных задач, касающихся BIB-схем, является определение всех троек (и, к ДЕ для которых существуют (о, А, Х)-В1В-схемы. Но это предельно трудная задача. Один
из ее частных случаев заключается в нахождении всех целых чисел п, являющихся порядками конечной проективной плоскости. По этому предмету существует обширная литература (см. [4], гл. 12). Однако все еще не известно, существует ли целое п, не равное степени простого числа и являющееся порядком конечной проективной плоскости. Для степеней простых чисел это установлено. Существование («2 + л4-1, н-ф!, 1)-В1В-схемы приводит к существованию проективной плоскости порядка п.
Можно дать различные описания симметричных (о, к, Х)-В1В- схем на языке теории графов. Одно нетривиальное описание было дано только в [6]. Пусть П = (Р, L, /)— симметричная BIB-схема (как определено выше). Обозначим через С(П) граф без петель и кратных ребер с множеством вершин V = {(р, /): (р, I) е /}; две вершины (р, /) и (р', /') смежны тогда и только тогда, когда или р=р', или 1=1'. Матрица смежностей графа с и вершинами — это симметричная матрица А = = Haijll, в которой элемент неравен 1 или 0 в зависимости от того, смежны или нет i-я и /-я вершины. Собственные значения матрицы А называются также собственными значениями графа. Граф G называется связным, если любые две его вер
шины р и р' соединены цепью — последовательностью вершин и ребер ро = ръ к. pi, к, ••., U, рп = р', в которой рядом стоящие вершины и ребра инцидентны. В графе G без петель степень вершины равна числу ребер, инцидентных этой вершине. Граф G называется регулярным, если степени всех его вершин равны. Пусть G и G' — графы без кратных ребер. Графы G и G' называются изоморфными (записывается G^G'), если и только если существует такое отображение <р: V —► V", что вершины 01 и и^ смежны тогда и только тогда, когда <p(ui) и фС^а) смежны. Здесь иь игЕГ; V и V' — множества вершин 6 и G'.
Теорема (Гоффман и Рой-Чоудхури [6]). Пусть и, к и к— целые числа, П — симметричная (и, к, Х)-В1В-схелт. Тогда С(П) — регулярный связный граф с и, к вершинами ...
и собственными числами; —2, 2fe — 2, к — 2 ± Vк — к. ' ' Обратно, если G — граф, обладающий свойством 1, то б^б(П) для некоторой симметричной (и,к,к)-В\Ь-схемы или (и, к, к) = (4,3,2) и граф G есть граф с 12 вершинами (см, рис. 1).
Следствие. Симметричная (и, k, X) -В IB-схема существует тогда и только тогда, когда существует регулярный связный граф G с vk вершинами и собственными числами: —2, 2А — 2, к - 2 ± Ук-Х.
Легко доказать, что если существует (и, к, Х)-В1В-схема, то ее параметры должны удовлетворять двум условиям:
Х(у—1) = 0 (mod (A — 1)), | Ху (у-1)^0 (mod к <к - 1)) J и
г ^ к.(3)
Известно, что эти условия не являются достаточными. Однако существует предположение, что условия (2), (3) «асимптотически достаточны» для существования (у, к, Х)-В1В-схемы, т. е. для фиксированных к и X существует такое целое c(k, X), что если и^с(к, X) и и удовлетворяет (2), то (у, к, Х)-В1В-схема существует.
Некоторые результаты для многих частных случаев этого предположения были получены Р. Вильсоном в его докторской диссертации [14]. Пусть К — подмножество положительных целых чисел, В(К) = {п: (у, К, 1)-РВ-схема существует] и Р(/()— единственное положительное целое, которое порождает идеал, порожденный также множеством {k(k — 1): к^К\ а(/()— единственное положительное целое, которое порождает идеал, порожденный также множеством {(А—1): АеХ]. Отображение К—*В(К) подмножеств положительных целых чисел в подмножество положительных целых чисел есть операция замыкания, т. е. удовлетворяет аксиомам
В (К) г К,
(и)К^^в^эв^,
(ш)В (В №) = в W.
Множество К замкнуто, если и только если К = В(К'). Гипотеза существования BIB-схемы связана с проблемой определения замкнутых множеств. Слоем замкнутого множества является класс вычетов по modp(/(). Слой d называется полным, если и только если существует такая константа М, что
{у: ^ М, v = d (mod р (/())} s К.
Замкнутое множество К называется в конечном счете периодическим с периодом P(^), если и только если все его слоя полные.
Теорема (Вильсон [14]). Все замкнутые множества К являются в конечном счете периодическими с периодом В (К).
Следствие 1. Если к — степень простого числа, то необходимое условие (2) является асимптотически достаточным.
Следствие 2. Если (АД) равно 1 или степени простого числа, то необходимое условие (2) является асимптотически достаточным.
Если симметричная (и, АД) BIB-схема существует, то в дополнение к условиям (2) и (3) тройка (о, АД) должна удовлетворять следующему условию:
— если и четно, то (А — X) есть квадрат некоторого целого числа,
— если и нечетно, то диофантово уравнение
х2 = (А-Х)</24-(-1Л Xz2х2 = (А-Х)</24-(-1Л Xz2имеет нетривиальноеимеет нетривиальное
х2 = (А-Х)</24-(-1Л Xz2
х2 = (А-Х)</24-(-1Л Xz2
имеет нетривиальное
имеет нетривиальное
решение.
Это необходимое условие исключает из рассмотрения многие бесконечные семейства троек (и, АД), удовлетворяющих (2) и (3). Целое число с, такое, что рс делит п, но рс+* не делит п, называется экспонентом р в п. Одним из следствий условия (4) является то, что если экспонент р в п — нечетное простое число и p = 3(mod4), то (л2 4* л 4-1, л 4-1, 1)-BIB-схема не существует. Для X = I условие (4) было получено сначала Бруком и Райзером, а затем обобщено Шрикхандом и Шюцен- бергером (см. Райзер [II], гл. 8). Несуществование асимметричных (и, АД)-В1В-схем для троек (и, АД), удовлетворяющих (2) и (3), в ряде случаев доказывается с помощью теоремы Холла — Коннора о вложении [11, стр. 128].
Пусть (Р, Я) — симметричная (и, АД)-В1В-схема и А^е^. Обозначим P’ = P — Ai„ Al = Ai — Л/П Ai,, L* = L — {Zo} и 91* = (Al, I e L*). Здесь (P‘, 9Г) есть (и*, А*Д*)-В1В-схема с параметрами и* = v — к, к* = к — X и X* = X. Для (Р, 91) В1В-схему (Р*, 91*) назовем остаточной В1В-схемой.
Теорема (Холл — Коннор). Пусть и = -^-^—- 4-L и* = = и — А, к* = к — 2. Тогда каждая (и*, А*, 2)-BIB-схема есть остаточная схема симметричной (и, к, 2)-В1В-схемы.
Следствие. Если существует (и*, А*, 2)-В IB-схема для 0 к (^ + 1). _|_ и*==и_р) р" — р — 2, то тройка чисел (v, к, 2) удовлетворяет условию (4).
Из этого следствия вытекает, что не существует (15, 5, 2)- BIB-схемы, так как иначе существовала бы симметричная
(22, 7, 2)-В1В-схема и по условию (4) она должна быть совершенным квадратом (А — 7. = 7 — 2 = 5).
Теорему Холла — Коннора о вложении можно получить из одной теоремы теории графов. Пусть G — неориентированный граф без петель и кратных ребер. Для G построим реберный граф L(G'), в котором вершинами являются ребра G. Две вершины L(G) смежны, если и только если соответствующие ребра G имеют общую вершину. Граф G называется полным, если в нем любая пара вершин соединена ребром.
Теорема (Чанг [3], Гоффман [5], Шрикханд [13]). Пусть Gn — полный граф с п вершинами. Тогда;
L^Gn) —регулярный связный граф с ^") вершинами и различными собственными числами; —2, 2п — 4 и п — 4.
Обратно;
если п =/= 8 и Н — регулярный связный граф с ( ") веР* шинами и различными собственными числами; —2, 2п — 4, п — 4, то Н изоморфен L(GnV
Теорему Холла — Коннора о вложении можно получить именно из теоремы о L(Gn). Для данной (и*, к*, 2)-В1В-схемы с параметрами и=^^——+L и* = и — к, к* = к — 2 определим граф Н, вершинами которого являются блоки схемы и две вершины которого смежны, если и только если два блока имеют точно один общий элемент. Граф Н удовлетворяет условиям последней теоремы.
РАЗРЕШИМЫЕ СБАЛАНСИРОВАННЫЕ НЕПОЛНЫЕ БЛОК-СХЕМЫ
sr.(1, 2, 3)(4, 5, 6)(7, 8, 9)sr.(1, 2, 3)(4, 5, 6)(7, 8, 9)ЭГ2(1, 4, 7)(2, 5, 8)(3, 6, 9)ЭГ2(1, 4, 7)(2, 5, 8)(3, 6, 9)Пусть (Р, %) является (и, к, А,)-В1В-схемой. Подкласс 91] £ 91 называется параллельным классом блоков, если каждый элемент появляется точно в одном блоке 91]. (и, к, Х)-В1В- схема считается разрешимой, если и только если семейство 91 блоков может быть разделено на г параллельных классов 91<, i = 1, 2, ..., г. Следующая схема является разрешимой (9, 3, 1)-В1В-схемой с Р = {1, 2, 3, ..., 9} и 4 параллельными классами 9If, i= 1, 2, 3, 4, каждый из которых состоит из трех блоков:
sr.
(1, 2, 3)
(4, 5, 6)
(7, 8, 9)
sr.
(1, 2, 3)
(4, 5, 6)
(7, 8, 9)
ЭГ2
(1, 4, 7)
(2, 5, 8)
(3, 6, 9)
ЭГ2
(1, 4, 7)
(2, 5, 8)
(3, 6, 9)
SI,ST4
(1,5,9)' •(3,5,7)
(2,6,7)(2,4,9)
(3,4,8)(1,6,8)
Разрешимая (и, к, Х)-В1В-схема может быть использована для построения эффективных экспериментальных планов в тех
случаях, когда некоторые внешние факторы, воздействующие на опыты, имеют иерархическую структуру. Например, разрешимую (9, 3, 1)-В1В-схему можно использовать для построения плана эксперимента, предназначенного для сравнения девяти различных видов мороженого. 12 дегустаторов разделяются на 4 возрастные группы, каждая из которых содержит по три дегустатора. Каждый дегустатор «испытывает» последовательно три различных вида мороженого и дает им оценку. Предполагается, что оценка зависит от качества мороженого (эффект мороженого), от возрастной группы дегустатора (эффект возрастной группы) и, наконец, от индивидуальных свойств дегустатора (эффект дегустатора внутри возрастной группы). Здесь внешний фактор «возрастная группа» имеет иерархическую структуру. При построении разрешимой BIB-схемы четыре возрастные группы соответствуют четырем параллельным классам. Внутри каждой возрастной группы три дегустатора соответствуют трем блокам, и каждый дегустатор испытывает три вида мороженого данного блока. Здесь каждому дегустатору ставится в соответствие группа из трех опытов. Если разрешимая (и, k, А.)-В1В- схема существует, то в дополнение к требованиям (2) и (3) должно выполняться третье условие:
и = 0 (mod hY(5)
Из (2) и (5) следует, что для существования разрешимой (и, &, 1)-ВIB-схемы требуется выполнение условия
v = k (mod k(k — 1)).(6)
Разрешимая (и, 3, 1)-В1В-схема эквивалентна комбинаторной схеме, которая получается при решении задачи о школьниках, предложенной Киркманом в 1847 году. Задача формулировалась следующим образом. В пансионе содержится 15 школьниц, учительница выводит их каждый день недели на прогулку. Школьницы разбиваются на группы по три и прогуливаются по пяти дорожкам. Задача заключается в нахождении различных упорядочений дорожек для семи дней недели так, чтобы гарантировать каждой паре школьниц прогуливаться по одной и той же дорожке точно один день в неделю. В общем случае v девушек каждый день распределяются тройками по и/3 дорожкам. Задача заключается в нахождении различных рас- „ v — 1
пределении для —^— последовательных дней, таких, что любые две девушки прогуливаются по одной и той же дорожке точно один день из —^ дней. Распределение Киркмана для и девушек эквивалентно построению разрешимой (и, 3, 1)-В1В- схемы: и девушек соответствуют и элементам, дорожки — блокам
и v 2~ * дней соответствуют ° ^ * параллельным классам. Следовательно, необходимым условием для существования схемы Киркмана для и девушек будет
и = 3 (mod 6). (7)
В конце XIX и в начале XX столетия над этой задачей работали многие математики. Было доказано существование распределений Киркмана для многих бесконечных множеств чисел вида 6/ + 3. Однако оставалось неизвестным, является ли необходимое условие (7) достаточным. В 1968 г. Рой-Чоудхури и Вильсон [9] доказали достаточность условия (7).
Теорема (Рой-Чоудхури и Вильсон [9]). Разрешимая (и, 3, 1)-В1В-схема существует, если и только если y=3(mod6).
Полную библиографию, относящуюся к задаче Киркмана о школьницах, можно найти в [10]. Необходимое условие (6) для существования разрешимой (о, А, 1)-В1В-схемы, как известно, не является достаточным. Можно привести пример (36,6, 1)-схемы, удовлетворяющей (6), но из теоремы Брука — Райзера следует, что разрешимой (36,6, 1)-В1В-схемы не существует. Тем не менее Рой-Чоудхури и Вильсон [10] недавно доказали, что условие (6) является асимптотически достаточным.
Теорема (Рой-Чоудхури и Вильсон [10]). Для каждого целого числа k существует константа c(k), такая, что если v^c(k) и и =/г (mod А (А—1)), то существует разрешимая (и, к, 1)- В1В-схема.
Можно дать интерпретацию на языке теории графов разрешимой (л2, п, 1)-В1В-схемы. Пусть П = (Р, L, /) — разрешимая (п2, п, 1)-В1В-схема. Определим С(П) как было сделано выше.
Теорема (Гоффман и Рой-Чоудхури [7]). Н — является регулярным связным графом с п2(п + 1) вершинами и с различными собственными значениями: —2, 2п — 1, п— 2, у ((2л — — 3) ± |^(4л+ 1)), тогда и только тогда, когда Н ^ С(П), где П —разрешимая (п2, п, 1) -ВТВ-схелм.
Следствие. Разрешимая (л2, л, 1)-В1В-схема существует, если и только если существует граф Н, обладающий сформулированными выше свойствами.
МНОЖЕСТВО ОРТОГОНАЛЬНЫХ СХЕМ
(пг, л)-ортогональное множество есть отображение А: Si X S2S3, где S] — множество пг «строк», Sa— множество л2 «столбцов» и S3 — множество л символов, таких, что для а,
be Sv, а ч^ b и с, deS^ существует точно один столбец х, та
(4, 5)-орто(4, 5)-ортокой, что А (а, х) = с и A (b, х) = d. Ниже приведено
(4, 5)-орто
(4, 5)-орто
гональное множество.
111111 2 3 4 52 3 4 5 13 4 5 12111111 2 3 4 52 3 4 5 13 4 5 122 2 2 2 21 2 3 4 53 4 5 125 12 3 42 2 2 2 21 2 3 4 53 4 5 125 12 3 43 3 3 3 312 3 4 54 5 12 32 3 4 5 13 3 3 3 312 3 4 54 5 12 32 3 4 5 14 4 4 4 41 2 3 4 55 12 3 44 5 12 34 4 4 4 41 2 3 4 55 12 3 44 5 12 35 5 5 5 51 2 3 4 512 3 4 51 2 3 4 55 5 5 5 51 2 3 4 512 3 4 51 2 3 4 5
11111
1 2 3 4 5
2 3 4 5 1
3 4 5 12
11111
1 2 3 4 5
2 3 4 5 1
3 4 5 12
2 2 2 2 2
1 2 3 4 5
3 4 5 12
5 12 3 4
2 2 2 2 2
1 2 3 4 5
3 4 5 12
5 12 3 4
3 3 3 3 3
12 3 4 5
4 5 12 3
2 3 4 5 1
3 3 3 3 3
12 3 4 5
4 5 12 3
2 3 4 5 1
4 4 4 4 4
1 2 3 4 5
5 12 3 4
4 5 12 3
4 4 4 4 4
1 2 3 4 5
5 12 3 4
4 5 12 3
5 5 5 5 5
1 2 3 4 5
12 3 4 5
1 2 3 4 5
5 5 5 5 5
1 2 3 4 5
12 3 4 5
1 2 3 4 5
(т, п)-ортогональное множество можно использовать для построения эффективного экспериментального плана, если имеется (т—1) внешних факторов, каждый из которых содержит п уровней и п различных элементов. Имеется п? опытов, каждый из которых соответствует одному из п2 столбцов. Первые (т—1) строк соответствуют уровням внешних факторов, а последняя строка — элементам, используемым в различных опытах. Такой план назовем (щ, л)-ОА-планом эксперимента (сокращение от orthogonal array). (3, п)-ОА-план эксперимента есть не что иное, как план на основе латинского квадрата, а (4, т)-ОА-план эксперимента — на основе греко-латинского квадрата. Кифер доказал, что в предположении аддитивности эффекта элементов и эффекта внешних факторов (3, п)- ОА-план имеет некоторые оптимальные свойства. В общем план эксперимента, построенный на основе (щ, п)-ортогонального множества, обладает теми же оптимальными свойствами. В качестве примера рассмотрим эксперимент, поставленный для определения влияния музыки на производительность труда на фабрике. Музыкальные произведения разбивались на пять групп. Эти группы являются элементами. Было установлено, что производительность труда на фабрике зависит также от индивидуальных способностей рабочего, от дня недели и от недели месяца. Рабочие, дни и недели рассматривались как внешние факторы. В данной задаче можно воспользоваться (4, 5)-ОА-планом эксперимента. Четыре строки этого плана соответственно представляют рабочих, дни, недели и музыкальные произведения. Например, музыкальное произведение третьей группы исполняется для второго рабочего в первый день первой недели, если пользоваться приведенным выше (4, 5)-ОА-планом.
(т, п) -ОА-план представляет собой дробный факторный эксперимент. Полный факторный эксперимент требует пт опытов, в то время как ОА-план эксперимента — только п2 опытов. Поэтому желательно знать наибольшее целое число т, для которого существует (т, п) -ОА-план. Необходимо заметить, что (щ, п)-ОА-план существует, если и только если существует множество (щ — 2) взаимно ортогональных латинских квадратов
порядка п. Легко показать, что если существует (т, п)-ОА- план, то т^ «+ 1. Обратно, Брук доказал следующее.
Теорема (Брук [2]). Если существует (т, п)-ОА-план, где n^^d — 1)(^3~ cE-Vd-V^V d = n-V\ — т, то существует и (п + \,пуОА-план.
Теорема Брука была обобщена Боузом [1] в его теореме, которую лучше определить как теорему о графах. Пусть G— граф без петель и кратных ребер. Две различные вершины называются первично связанными друг с другом, если и только если они являются смежными.
Граф G называется сильно регулярным с параметрами (v, nv p\v, р9^), если и только если:
число его вершин равно и;
(п) каждая вершина имеет степень щ;
число общих вершин, первично связанных с двумя смежными вершинами, равно р\х;
число общих вершин, первично связанных с двумя несмежными вершинами, равно ру.
Говорят, что П = (Р, L, /) является (г, k,t) -частичной геометрией, если и только если:
каждая точка инцидентна г линиям;
(и) каждая линия инцидентна k точкам;
две различные точки рх и р2 инцидентны самое большее одной общей линии;
для каждой неинцидентной пары точек (р, I) имеется t линий, инцидентных р и пересекающих I.
Пусть 6(П) обозначает граф, у которого множество вершин Р и две вершины рх и р2 смежны, если и только если имеется линия / в П, инцидентная р\ и р2. Пусть также 1 / t ^ г, к. Боуз доказал следующее:
Теорема (Боуз [1]). 1) Если П является (г, к, (Участичной геометрией, то <?(П) есть (и, пх, р’хх, РУ) — сильно регулярный граф, в котором пх = г(к — 1), и — 1 — п, = у (г— 1) (к — 1) (k—t), p\x = (r — 1) (k— 1) + (£—2), py = rt. 2) Обратно, если G — сильно регулярный граф с параметрами, как в 1), и &^у(г(г — 1)4- 4- t (г + 1) (г2 — 2г 4- 2)), то G изоморфен С(П) для V>k> ^-частичной геометрии II.
Теорема Брука непосредственно следует из теоремы Боуза, так как (т, п)-ОА-план существует, если и только если существует (m, п, m — I)-частичная геометрия,
СПИСОК ЛИТЕРАТУРЫ
Bose R. С., Strongly Regular Graphs, Partial Geometries and Partially Balanced Designs, Pacific J. Math., 13 (1963), 389—419.
Bruck R. H., Finite Nets II, Uniqueness and Embedding, Pacific J. Math., 13 (1963), 421—457.
Chang L. C., The Uniqueness and Nonuniqueness of the Triangular Association Schemes, Science Record, 3 (1959), 604—613.
Hall M., Jr., Combinatorial Theory, Blaisdell Publishing Co., Waltham, Mass., 1967. (Русский перевод: Холл M., Комбинаторика, «Мир», М., 1970.)
Hoffman A. J., On the Uniqueness of triangular Association Schemes, Ann. Math. Statist., 29 (1958), 262—266.
Hoffman A. J., Ray-Chaudhuri D. K., On the Line Graph of Symmetric Balanced Incomplete Block Designs, Trans. Amer. Math. Soc., 116 (1965), 238-252.
Hoffman A. J., Ray-Chaudhuri D. K., On the Line Graph of a Finite Affine Plane, Can. J. Math., 17 (1965), 687—694.
Kiefer J., On the Non-Randomized Optimality and Randomized Optimality of Symmetrical Designs, Ann. Math. Statist., 29 (1958), 675—699.
Ray-Chaudhuri D. K-, Wilson Richard M., Solution of Kirkman's School Girl Problem, Proceedings of the Symposia in Pure Mathematics, Combinatorics (19) Amer. Math. Soc.
Ray-Chaudhuri D. K-, Wilson Richard M., On the Existence of Resolvable Balanced Incomplete Block Designs, Proceedings of the Calgary International Conference on Combinatorial Structures and their Applications, Gordon and Breach, New York, 1970.
Ryser H. J., Combinatorial Mathematics, Carus Math., Monograph 14, Math. Assoc. Amer., 1963. (Русский перевод: Райзер Дж., Комбинаторная математика, «Мир», М„ 1966.)
Smith С. А. В., Hartley Н. О., The Construction of Yonden Squares, J. Roy. Statist. Soc., Ser. B, 10 (1948), 262—263.
Shrikhande S. S., On a Characterization of the Triangular Association Schemes, Ann. Math. Statist., 30 (1959), 39—47.
Wilson Richard M., An Existence Theory for Pairwise Balanced Designs, Ph. D. Dissertation, Dept, of Mathematics., The Ohio State University, 1969.
Теорема о плоских графах«
У. Т, Татт
ВВЕДЕНИЕ
В этой статье будет обобщена хорошо известная теорема Хасслера Уитни о гамильтоновых циклах триангуляций [2]. Используемые методы по существу те же, что и в [2], но здесь они детально переработаны так, чтобы их можно было применять ко всем плоским графам. В обобщенной теореме (теорема 1, см. ниже) утверждается, что любой плоский граф, имеющий цикл, обладает циклом, удовлетворяющим некоторым особым условиям. Для важного класса плоских графов, включающего и графы, которые изучались Хасслером Уитни, в этих условиях требуется, чтобы цикл был гамильтоновым.
В заключение этой вводной части мы дадим формальные определения некоторых терминов, которые будут использоваться в данной статье, и затем дадим точную формулировку основной теоремы.
Плоский граф — конечное множество простых топологически замкнутых линий, называемых ребрами, на 2-сфере, таких, что любая точка пересечения двух различных элементов этого множества является концом каждого из этих элементов. Вершины плоского графа есть концы его ребер. Ясно, что всякое подмножество плоского графа есть плоский граф.
В соответствии с этим определением будем говорить, что два плоских графа пересекаются, если у них есть общее ребро, и не пересекаются, если у них нет общих ребер. Два непере- секдющихся плоских графа могут иметь одну или более общих вершиц.
Пусть G— произвольный плоский граф. Обозначим число его вершин через a0(G), а число его ребер —через ai(G). Ребро А и вершина а графа G инцидентны, если а является концом А. Степень d^ вершины а — это число ребер G, инцидентных а.
Комплексом |G| графа G называется объединение его ребер. Плоский граф G является циклом, если его комплекс — простая замкнутая линия, и цепью, если его комплекс — про-
*) Tutte W. Т., A theorem on planar graphs, Transactions of the American Mathematical Society, v. 82, № 1 (May, 1956), 99—116,
стая незамкнутая линия. В последнем случае мы будем называть концы этой простой линии концами цепи, а другие вершины цепи — внутренними вершинами? Под циклом или цепью графа G понимается его подмножество, которое соответственно есть цикл или цепь. Цикл графа G называется гамильтоновым,
если он содержит каждую вершину этого графа. Ребро, не
входящее ни в один из циклов, называется перешейком графа G.
Вершинами сочленения подмножества ребер Н графа G называются общие вершины графов Н и G — Н. Обозначим число
этих вершин через щ(//), назовем его числом сочленения Н. Ясно, что w(G — П) = w(H).
Пусть / — цикл графа G. Подмножество Н графа G — J /-ограничено, если его вершины сочленения есть вершины /. Если G — / не пусто, то оно единственным образом представляется как объединение непересекающихся минимальных непустых /-ограниченных подмножеств графа G — /. Эти подмножества называются мостами для Г в G.
Комплекс |/| цикла / графа G есть простая замкнутая ли
ния. Области, выделяемые этой кривой, на 2-сфере, будем так и называть — выделенными областями, a J будем называть цик
лом, ограничивающим каждую из них.
Пусть Е— ребро графа G, не являющееся перешейком, и D — область, выделенная циклом / графа G так, что EeL Тогда D называется граничной областью ребра Е, если в G нет цикла, содержащего Е и выделяющего область, которая является собственным подмножеством D. Если D — граничная область ребра Е, то / называется его граничным циклом. Ясно, что ребро Е имеет точно две граничные области. Соответствующие граничные циклы могут как совпадать, так и не совпадать.
Основной результат настоящей работы следующий:
Теорема I. Пусть G — произвольный плоский граф, а Е — ребро G, не являющееся перешейком. Пусть Е' — ребро, отличное от Е и принадлежащее граничному циклу ребра Е.
Тогда существует цикл / графа G, имеющий следующие свойства-.
U№J;
если В — мост для цикла J в графе Q, то w(B)^3;
если В — мост для / в графе G, который пересекается с граничным циклом ребра Е, то w(B) = 2.
Эта теорема проиллюстрирована на рис. 1. Здесь граничными областями ребра Е являются заштрихованные области Dt и D2. Жирной линией на рисунке выделен цикл /, удовлетворяющий условиям (i), (ii) и (iii). Буквой В обозначен мост для J, имеющий число сочленения, равное 3, и не пересекающийся с граничным циклом ребра Е. Но С является мостом для /, который пересекается с граничным циклом ребра Е и имеет соответственно число сочленения, равное 2.
МОСТЫ
Пусть J — цикл плоского графа G. Из определения /-ограниченного подмножества графа G — J сразу получаются следующие предложения: а) множество G — / /-ограничено, б) дополнение в G — / к любому /-ограниченному подмножеству графа G — / также /-ограничено и в) любое пересечение /-ограниченных подмножеств графа G — / /-ограничено.
Определим мост для цикла / в графе G как минимальное непустое /-ограниченное подмножество графа G — J. Если Ле е G —• J, то пересечение всех /-ограниченных подмножеств графа G — J, содержащих А, является мостом для / в графе G, содержащим А, в чем легко убедиться при помощи упомянутых выше предложений о /-ограниченных множествах. Поэтому если G — / не пусто, то оно является объединением мостов для / в графе G. Более того, два различных моста для / в G не пересекаются, поскольку их пересечение /-ограничено. Следовательно, мосты для / имеют свойства, определенные во введении.
Пусть х и у — различные вершины моста В для J в графе G. Тогда в В существует цепь, концы которой есть х и у и которая не имеет внутренних вершин, общих с J.
Доказательство. Пусть Н — объединение всех простых цепей в В, у которых одним из концов является х и которые не имеют внутренних вершин, общих с /. Тогда Н не пусто, так как х инцидентна по крайней мере с одним ребром из В. Ясно, что х может быть вершиной сочленения для Н только тогда, когда она является вершиной из /.
Допустим, что z — произвольная вершина сочленения для Н, отличная от х. Пусть С — некоторое ребро из В — Н, инцидентное с 2, и пусть / является другим концом С. Тогда должна существовать цепь L в Н с концами х и г, которая не имеет внутренних вершин, общих с /. Далее, / не совпадает с х, так
как цепь {С} не содержится в Н. Более того, / не является внутренней вершиной для L. Иначе, если /И есть множество всех ребер из L между х и t, то ЛИДС} будет цепью в Н, что противоречит определению С. Следовательно, LU{C} есть цепь. Из того, что она не является подмножеством в Н, следует, что z есть вершина в /.
Мы получили, что И /-ограничено. Так как оно не пусто, то оно совпадает с В. Следовательно, у есть вершина в Н. Теорема доказана.
Пусть L — цепь в G — /, не имеющая внутренних вершин, общих с J. Тогда L будет подмножеством некоторого моста для J в графе G.
Доказательство. Занумеруем ребра из L в порядке их следования на линии | В|: А (1), ..., А (&). Пусть для 1 ^ i ^ к ВЦ^ является мостом для /, содержащим Д(0- Если 1 ^ i < к, то В (г) и B(i + 1) совпадают, так как они имеют общую вершину, не являющуюся вершиной из /. Теорема доказана.
Если В —мост для J в графе G, то |В| пересекается в точности с одной из областей, выделенной циклом J.
Доказательство. Пусть D и D' — области, выделенные циклом /. Предположим, что |В| пересекается с каждой из них. Так как |В| пересекается с D, то некоторое ребро А из В пересекается с D. Это ребро должно лежать целиком в D без, быть может, одного из своих концов. Если же оба конца ребра А являются вершинами из /, то {А} /-ограничено, В = (А) и |В|ПВ' пусто. Мы заключаем, что В имеет вершину х в D. Аналогично оно имеет вершину х' в D'. Любая простая линия в |В| с концами х и х' должна пересекать |/|. Но это противоречит (2.1). Теорема доказана.
Если В мост для /и |В| пересекается с областью D, выделенной циклом /, то мы назовем В мостом через D.
Пусть Г — цикл в G, выделяющий область D', которая является подмножеством области D, выделенной циклом J. Пусть В—мост для J через D, такой, что некоторое ребро А из В пересекается с D'. Тогда существует мост В' для I' через D', такой, что А е В's В.
Доказательство. Пусть X— множество всех ребер из В, пересекающихся с D'. Так как D' не пересекается с |/|, то вершины сочленения для X все будут точками из |/'|, поэтому X /'-ограничено. Пусть В' мост для /', содержащий А. Тогда В' — мост через D'. Более того, В'ПХ не пусто, /'-ограничено и, значит, совпадает с В'. Следовательно, А е В's В.
Следствие. Если, кроме того, все вершины, общие для В и Г, являются вершинами из J, то само В будет мостом для Г через D'.
В самом деле, тогда В' /-ограничено и поэтому совпадает с В. '
'3. МУЛЬТИСВЯЗНОСТЬ
Плоский граф G п-сепарабелен, где п — неотрицательное целое число, если его можно разделить на два непересекаю- щихся подмножества Ни G — Н, причем каждое из них имеет вершину, которая не является вершиной другого, так что w(H) = w(G — Н) ^ п. Граф G п-связен, если он не является щ-сепарабельным для любого неотрицательного целого числа m < п. Таким образом, если j > к ^ 0 и G /-связен, то G также и 6-связен. В n-сепарабельном плоском графе найдутся две вер-, шины, разделенные не более чем п другими вершинами, и п-связный граф не имеет никаких других вершин, разделенных менее чем п другими.
Всякий цикл 2-связен.
Это следует из того, что простая замкнутая линия связна, и ее связность не нарушается при удалении любой одной точки.
Пусть J — цикл в плоском графе G, и пусть В —мост для J в G. Предположим, что существует цикл К в графе G, пересекающийся как с J, так и с В. Тогда w(B)^ 2.
Доказательство. ВПК и (G — В) ПЛ— непустые, дополняющие друг друга подмножества цикла К. Так как К 2-связен, то они имеют по крайней мере две общие вершины. Но они будут вершинами сочленения для В, следовательно, щ(В) 5$ 2.
2-связный плоский граф G, для которого ai(G) ^ 2, не u^teeT перешейков.
Доказательство. Предположим, что А, концы которого а и Ь, есть перешеек в G. Так как G не О-сепарабелен, то можно предположить, что t/(a)^2. Пусть Н — объединение всех цепей в G, которые имеют концом а и не содержат А. Тогда Н не пусто, так как d(a)^ 2. Ясно, что Н и G — Н не имеют общих вершин, кроме а и Ь. Следовательно, так как G не 1-сепарабе- лен, обе эти вершины являются общими для них. Отсюда следует, что существует цепь L в Н с концами а и Ь. Тогда BU{4} будет циклом в G, но это противоречит определению А.
Если G является п-связным плоским графом, для которого a0(G)>n, то d^a)^ п для каждой вершины а из G.
Доказательство. Предположим, что G имеет вершину а, такую, что d(a)<«. Пусть Н— множество всех ребер из G, инцидентных с а. Тогда а — вершина из Н, но не из G — Н. С другой стороны, а0(Д) ^ d^ + 1 и, таким образом, G — Н имеет вершину, не принадлежащую Н. Но w(H) = w(G — Н) ^ ^d(a)<n, что противоречит предположению о том, что G п-связен.
Пусть В—мост для цикла J в п-связном плоском графе G. Тогда если w(B)<Zn, то верно одно из следующих утверждений:
В имеет в точности одно ребро, оба конца которого являются вершинами из J;
«[(/) = щ(5) и В является единственным мостом для J в G, имеющим более одного ребра.
Доказательство. Может случиться, что оба конца некоторого ребра А из В являются вершинами из J. Тогда {Л} /-ограничено и потому В = (Д). В этом случае верно утверждение (i).
В ином случае В имеет вершину, не являющуюся вершиной сочленения. Так как щ(В)<п, то граф G не есть w(5)-сепарабельный и, таким образом, вершинами в G— В будут лишь вершины сочленения для В. Отсюда следует, что / имеет ровно щ(5) вершин и, стало быть, ровно щ(5) ребер. Следовательно, п > w(B)^ 2, и в силу (3.4) В имеет по крайней мере два ребра. Никакой мост для /, кроме В, не может иметь более одного ребра, ибо такой мост имел бы вершину, которая не была бы вершиной сочленения для В.
ГРАНИЧНЫЕ ОБЛАСТИ•
Пусть G— некоторый непустой плоский граф.'■
Цепь L в G называется замыкаемой, если существует цикл J в G, такой, что LaJ. Таким образом, если Е е G, то цепь {£} будет замыкаемой тогда и только тогда, когда Е не является перешейком в G.
Пусть L — замыкаемая цепь в G, и / — такой цикл в G, что LaJ. Пусть D и D' — области, выделенные циклом /. Мы назовем D граничной областью цепи L в G, если в G нет цикла К, содержащего L, и такого, что некоторая область, выделенная циклом К, является собственным подмножеством в D. Если или D, или D' является граничной областью цепи L в G, то мы назовем / граничным циклом цепи L в G. Таким образом, если Е — ребро в G, не являющееся перешейком, то граничные области и циклы цепи {£} совпадают соответственно с граничными областями и циклами ребра Е, которые были определены в введении.
Если Н— подмножество в G и К — подмножество в G — Н, мы обозначим через р(Н,К) число вершин И, которые являются вершинами К, и через q(Н,К) — число вершин сочленения Я, которые не являются вершинами К. Таким образом, р(Н, /<) + .+ q(H, K)=w(H).
Если Q — некоторый цикл в G, мы определим трансверсаль цикла Q как такую цепь М в G — Q, у которой только те вершины, которые являются концами этой цепи, являются вершинами Q. Если М удовлетворяет этому условию, то в силу (2.2) она будет подмножеством некоторого моста В для Q. Если В — мост через область D, выделенную циклом Q, мы назовем М трансверсалью цикла Q через D. Тогда из (2.3) следует, что |М| есть простая линия, концы которой лежат в ] Q |, но которая в остальном целиком лежит в D, так что |Л4| является разрезающим путем в D.
Пусть L — замыкаемая цепь в G, D — граничная область цепи L и J — соответствующий граничный цикл цепи L. Пусть В — произвольный мост для J через D. Тогда p(B,J— -L)^l.
Доказательство. Допустим, что р(В, J — В) > 1. Тогда найдутся две различные вершины х и у, общие для В и J, которые не являются внутренними для L. В силу (2.1) существует трансверсаль М цикла J через D с концами х и у. Но существует цепь N в J с концами х и у, причем L s N. Ясно, что M\jN есть цикл в G, содержащий L, и одна из выделенных им областей является собственным подмножеством D. Это противоречит определению D.
Замыкаемая цепь L в G имеет ровно две граничные области в G. Более того, если J — произвольный цикл в G, содержащий L и имеющий выделенные области D и D', то одна из граничных областей цепи L будет подмножеством в D, а другая — в D'.
Доказательство. Существует цикл J в G, содержащий Ь. Если D и D' — выделенные им области, то, так как G конечен, из определения граничной области следует, что существуют граничные области Т и Т' цепи L, содержащиеся в D и в D' соответственно. Поскольку Т и Т расположены по разные стороны от линии |В|, то всякая третья граничная область Т" цепи L должна пересекаться с Т или с Т'.
Предположим, что Т" пересекается с Т. Пусть К и К" — ограничивающие циклы для Т и Т" соответственно. Если К" пересекается с мостом В для К через Т, то непустые плоские графы К" П В и К" П (G — В) имеют по крайней мере две общие вершины ввиду того, что К" 2-связен в силу (3.1). Так как
L с К", то ни одна из них не будет внутренней вершиной для L. Следовательно, р^В,К— L) ^ 2, что„противоречит (4.1).
Мы получили, что |/("| не пересекается с Т. Следовательно, Т— подмножество области, выделенной циклом К". Этой выделенной областью должна быть Т", так как Т" пересекает Т. Таким образом, Т S Т" и, значит, Т" — Т, так как Т"— граничная область цепи L. Аналогичное рассуждение показывает, что если Т" пересекает Т', то Т" = Т'. Этим завершается доказательство теоремы.
Если G 2-связен, то каждое ребро из G имеет две различные граничные области в силу (3.3) и (4.2) при условии ai(G)^2. Граничные области ребер из G не пересекают |G| в силу (4.1). Их можно легко отождествить с компонентами дополнения к |G| на 2-сфере. Эти компоненты часто называют странами или областями на карте, определяемой графом G.
Пусть В —мост через область D, выделенную циклом I в G. Пусть х и у — различные вершины сочленения для В и L — цепь в J с концами х и у. Пусть Т — граничная область цепи L, содержащаяся в D. Тогда существует трансверсаль М цикла / через D с концами х и у, такая, что LUM— ограничивающий цикл для Т.
Доказательство. В силу (2.1) существует трансверсаль N цикла / через D с концами х и у. Тогда L\JN есть цикл в G с выделенной областью D', содержащейся в D. В силу (4.2) Т S D'. Далее ясно, что ограничивающий цикл для Т можно представить как LUM, где М есть цепь в G с концами х и у. Так как Т s D', то всякая внутренняя вершина для М будет либо внутренней вершиной для N, либо точкой из D'. Она, таким образом, не есть вершина из /. Более того, |Л1| не пересекается ни с какой областью, выделенной циклом J, кроме D. Следовательно, М есть трансверсаль цикла / через D.
Рассмотрим мост В для цикла Q в G, такой, что w(B)^2. Пусть вершинами сочленения для В будут аь агйд. Эти вершины делят Q на k — w(B) непересекающихся цепей Si, 5г, •.., Sk- Мы можем так выбрать обозначения, что концами S, будут а, и ai+i для каждого i (причем аь+\ = й]). Л4ы назовем цепи S; сегментами цикла Q, определяемыми В.
Пусть В и В' — мосты для цикла J в G через одну и ту же область D, выделенную циклом J. Предположим, что w(B) ^2. Тогда существует сегмент из J, определяемый В, в вершины которого входят все вершины сочленения для В'.
Доказательство. Можно считать, что ty(B/)^2, иначе теорема тривиальна.
Допустим сначала, что В' имеет вершину сочленения Ь, которая есть внутренняя вершина некоторого сегмента S, цикла J, определяемого В. Предположим, что В' также имеет вершину сочленения с, которая не принадлежит вершинам из S^ Тогда В' содержит трансверсаль М' цикла / через D с концами b и с в силу (2.1). Аналогично В содержит трансверсаль М цикла / через D, концы которой есть концы а; и a»+i сегмента Si. Две линии | Л11 и |ЛГ| имеют общую вершину в D. Но это невозможно, так как В и В' различны. Значит, в этом случае теорема верна.
В оставшемся случае каждая вершина сочленения для В' есть вершина сочленения для В. Тогда можно считать, что w(B)^3, так как в противном случае теорема тривиальна. Пусть b— вершина сочленения для В', и пусть U и V— сегменты цикла /, определяемые В, для которых b есть один из концов, а а и с — другие концы для U и V соответственно. Тогда а, b и с различны, так как w(B) ^ 3.
Пусть F — граничная область, содержащаяся в D, для замыкаемой цепи U\JV. В силу (4.3) ее ограничивающий цикл имеет вид t/UVUM, где М есть трансверсаль цикла / через D с концами а и с. Разрезающий путь |Л1| делит D на две простые связные области F и F', ограничивающие циклы которых есть t/UVUM и (/ —(^UV))UA1 соответственно. Как |В|, так и |В'| пересекаются с F, так как b есть граничная точка для F, но не для F'.
В силу (2.2) М является подмножеством некоторого моста С для / через D. Мы имеем С = В. В противном случае, согласно следствию из (2.4), В есть мост через F, что противоречит (4.1). Но далее из (4.1) и следствия из (2.4) следует, что В' — мост через F, не содержащий одновременно а и с в качестве вершин сочленения. Поэтому, по определению В', его вершины сочленения будут либо концами U, либо концами V.
.5) Пусть L есть замыкаемая цепь в G с концами а и Ь, и пусть Е — ребро в L, инцидентное с а. Допустим, что D — .граничная область цепи L и D' — граничная область ребра Е, содержащаяся в D. Пусть / и J'— ограничивающие циклы для D и D' соответственно. Тогда существует не более чем один мост В через D, который пересекает I' и удовлетворяет условию р(В,1 — Ц>0.
Доказательство. Если х и у —различные вершины цикла J, мы обозначим через N (х, у) цепь в /, концы которой есть х и у и которая содержит Е.
Обозначим через U класс всех мостов В через D, которые пересекаются с Д и удовлетворяют условию р(В, J — L) > 0.
Если B^U, то в силу (3.2) и (4.1) мы имеем также q<BJ-Ц>^.
Если U не пусто, мы получаем, используя (2.1), что существуют вершины х и у в / со следующими свойствами:
х есть вершина в / — L;
(и) у есть внутренняя вершина для L;
существует трансверсаль М(х, у) цикла / через D с концами х и у;
ai (N (х, у)) имеет наименьшее значение при условии, что выполняются свойства (i), (ii) и (iii).
Пусть D^x, у)—граничная область цепи N(х, у), содержащаяся в D. В силу (4.2) имеем D's D (х, у). В силу (2.2) и
можно предположить, что трансверсаль М(х, у) выбрана так, что ограничивающий цикл для D(x, у) есть М(х, у) UN(x, у). Пусть С — мост через D, имеющий подмножеством М(х, у).
Предположим, что BeU и В =N =^ С. Тогда В включает ребро из G, пересекающееся с Щх, у), так как В пересекается с Г и D's D (х, у). Следовательно, В есть мост через
D(x, у) согласно следствию из (2.4).
Так как р^В, I — Ц>-0 и q(B, J — L) > 0, то из (2.1) и выбора х и у следует, что и х, и у являются вершинами В. Но это противоречит (4.1). Отсюда следует, что С есть единствен
ный элемент в U.
5. ДОКАЗАТЕЛЬСТВО ТЕОРЕМЫ 1
Для плоских графов, в которых всякое ребро является перешейком, теорема 1 не имеет смысла. Удобней сказать, что она тривиально выполняется для таких плоских графов.
Обозначим через X класс всех плоских графов, для которых теорема 1 верна. Через Y мы обозначим класс всех плоских графов G, таких, что И ^Х всегда, когда И — плоский граф, имеющий меньше ребер, чем G. Заметим, что G е X, если G— плоский граф, удовлетворяющий условию ai(G)^ 1.
Если G — плоский граф, L — замыкаемая цепь графа G и Е— ребро в G — L, то обозначим через V^G, L, Е) класс всех циклов J в G, имеющих следующие свойства:
LU{£} = 7;
если В есть мост для /, то p(B,J — L) ^ 3;
если В мост для J, пересекающий граничный цикл цепи L, то p^BJ — L) = 2.
Предположим ОеУ. Пусть L— замыкаемая цепь в G, удовлетворяющая условию «1 (А) ^ 2, Л — граничный цикл для L и Е — ребро в К — L. Тогда V{G,L, Е) не пусто.
Доказательство. Пусть граничными областями цепи L будут D и D' с ограничивающими циклами К и К' соответственно.
Пусть S — множество всех ребер в G — L, имеющих одним из концов внутреннюю вершину из L. Мы получим плоский граф Н из G — S путем замены элементов из L линией |L|, рассматриваемой как отдельное ребро. Та же операция превращает любой цикл Q в графе G, такой, что L sQ, в цикл O(Q) в Н, для которого |O(Q)| = |Q| и, значит, |L|eO(Q). Ясно, что любой цикл в Н, содержащий |Л| в качестве ребра, имеет вид O(Q), где Q есть цикл в G, для которого L г Q. Получаем, что граничными областями для | А| в Н будут D и D', и соответствующими граничными циклами для |Л| будут О (К) и О (К') соответственно.
Далее, аД//) < аДС), так как аДЕ) ^ 2 и, значит, НеХ. Применив теорему 1 к Н, найдем, что существует цикл J в G, содержащий L и такой, что О (7) Е V(И, {| L |}, £).
Пусть В — произвольный мост для J в графе G. Если В sS, то в силу (2.1) В имеет не более одной вершины, которая не была бы внутренней вершиной для L. В оставшемся случае мы обозначим через В' непустое множество В — (Bf)S). Это множество является мостом для 0(7) в Н. Любое подмножество С в В', которое О (/)-ограничено в Н, увеличивается до подмножества в В (которое /-ограничено в G), когда мы присоединяем к нему те элементы из S, которые инцидентны с вершинами из С, но не содержатся в J. Так как ОЦ^еУ (Н, {| L|}, Е), имеем:
w(B') ^ 3 в И;
w(B,') = 2 в Н, если В' пересекается с О(К) или О(К'У Так как ни К, ни К' не пересекаются с S, получаем, что в любом случае р{В, J — 7.) ^ 3 в G и, далее, что р(В, J — L) — 2 в G, если В пересекается с К или с К'. Но (|L|,E)e 0(7) и, таким образом, LU{E} £ /. Отсюда следует, что /eV(G, L, Е).
Y^X.
Доказательство. Пусть G— некоторый элемент из Y, Е— произвольное ребро в G, не являющееся перешейком, и Е' — любое ребро, отличное от £, в некотором граничном цикле для Е. Обозначим граничные области ребра Е через Dl и D2 и отвечающие им граничные циклы через К\ и К2 соответственно, согласовывая обозначения так, что Е' е К\.
Рассмотрим два случая. Первый случай. Допустим, что {£,£'} есть цикл J в G. Тогда / имеет ровно две вершины, и
поэтому w(B)^2 для всякого моста В для /. Используя (3.2), получаем, что J е V(G, {£},£'). Таким образом, в этом случае теорема 1 верна.'
Второй случай. Здесь £i имеет по крайней мере три ребра. Следовательно, можно найти цепь L в Ki с концами а и а', имеющую следующие свойства:
0) (£,£') е£;
а является концом Е, но не Е', а а' — конец Е', но не Е (см. рис. 3).
Пусть граничными областями цепи L будут D3 и D4. В силу (4.2) мы можем ввести обозначения так, что D\S D3 и D2s D^ Но так как LsKi, мы имеем опять в силу (4.2), что D3sD\. Следовательно, Di и D3 тождественны. Обозначим ограничивающий цикл для Z)4 через К^. На рис. 3 область D4 заштрихована.
Выберем ребро Е" из £4 — L по следующим правилам. Если существует мост В через D4, который пересекается с К2 и имеет общую вершину с £4—L, то в силу (4.5) такой мост единственный. Более того, в силу (4.1) В имеет только одну вершину, скажем Ь, общую с Л4 — L. В этом случае мы выберем в каче
стве Е" ребро из £4 — L, инцидентное с Ь. Если не существует такого моста В, то в качестве Е" выберем любой элемент из R^-L.
В силу (5.1) существует цикл Q в G, такой, что Qe ^V(G, L, Е"). Мы обозначим области, выделенные циклом Q через Ri и R2, вводя обозначения так, чтобы D\E Ri и D2e sD4sR2 (cm. (4.2)).
Мост В для Q в G назовем сингулярным, если он удовлетворяет одному из следующих условий:
w(B) > 3;
В пересекается с Ki или с К2, и щ(5)=#2. В последнем случае имеем w(B)>2 в силу (3.1).
Лемма 1. Сингулярный мост В для Q есть мост через R2. Он удовлетворяет условиям р^В, Q — L) ^ 2 и q(B,Q — L)^ 2. Кроме того, если он пересекается с К2, то выполнено условие p<B,Q-L^\.
Доказательство. Сначала рассмотрим случай, когда ВПКг имеет ребро, не принадлежащее КА. Тогда В —мост через R2, так как он пересекается с Кг- В силу (2.4) найдется мост В' через DA, который пересекается с Кг, и для него В's В. Далее, р(В', Kt — L) = 0 или 1 в силу (4.1). Тогда, согласно выбору Е", всякая вершина, общая для В' и Kt — L, является вершиной из Q. Поэтому в любом случае мост В' Q-ограничен и, таким образом, тождествен с В. Следовательно, p(B,Q—В)^1. Так как мост В сингулярен, отсюда следует, что ю(В)^3 и
торая является внутренней из В, инцидентное с х.торая является внутренней из В, инцидентное с х.Осталось рассмотреть случай, когда В пересекается с К4, если он пересекается с Кг- Поэтому из определений Q и В соотноше- t ния w(B)>3 и p(B,Q — L) ^ 3 выполняются, если В не пересекается с К\ или с КА, и соотношения w(B)>2 и р^В, Q—Ц = = 2 выполняются, если В пересекается С К\ или с КА. В любом случае В имеет вершину х, ко- вершиной для L. Пусть А — ребро
торая является внутренней из В, инцидентное с х.
торая является внутренней из В, инцидентное с х.
Предположим, что В — мост через R\. Тогда А пересекается с D\. В силу (2.4) найдется мост В\ через D\, такой, что А е еВ^й. в силу (4.1) 10(5])=!. Следовательно, мост В\ Q-огранйченный и, значит, совпадает с В. Но это невозможно, так как w(B)^ 3. Получаем, что В — мост через R2.
Если В пересекается с Кг, можно полагать, что ВГ\Кг — Kt- Доводы, используемые в этом случае, проиллюстрированы на рис. 4, где внешний цикл представляет собой Kt- Должна существовать цепь W в 5(1^2, концы которой, скажем у и z, являются вершинами сочленения для В. Мы так выбираем обозначения, что либо у = а, либо у разделяет а и z в |К4 — L|. Пусть N — цепь в К4 с концами х и у, включающая Е. В силу (2.1) найдется трансверсаль М цикла К4 через DA с концами х и у. Пусть Т— область, выделенная циклом MU/V и содержащаяся в DA. Тогда в силу (4.2) D2 s Т. Но этого не может быть, так как граничная точка z из D2 не принадлежит ни Т, ни ее границе MUM
Наконец, предположим, что В не пересекается с Кг- Поскольку А пересекается с DA, существует мост В' через 04, такой, что АеВ'сВ. Если каждая вершина сочленения для В' является вершиной из Q, находим, что В'= В. Тогда в силу
p^B,Q — L) = р(В', Kt — Ц ^ 1. Так как w(B)^3, то q(B,Q— L) 7> 2. Если вместо этого В' имеет вершину сочленения г, которая не является вершиной из Q, то В включает два ребра из Kt, инцидентные с z. Поэтому в этом случае p(B,Q — — L) = 2. Но w(B)>3, так как В не пересекается с Кг- Следовательно, q^B,Q— L) ^ 2. Этим завершается доказательство леммы.
Пусть В — любой сингулярный мост для Q. По лемме 1 q(B, Q — L) ^ 2. Следовательно, существует единственная цепь L(B') в L — {Е, Ez} с концами в вершинах из В, вершины которой включают в себя все вершины сочленения из В, являющиеся внутренними для L. Ясно, что L(B) есть объединение сегментов цикла Q, определяемых В. Будем говорить, что мост В' для Q, отличный от В, огорожен В, если одна из его вершин сочленения является внутренней для Е(В).
Если В' огорожен В, то все вершины сочленения для В' являются вершинами из Е(В). Если В' есть мост через Ег, это следует из (4.4). Если же В' — мост через Еь то мы докажем это следующим образом. Существует ребро Л из В', инцидентное с внутренней для В (В) вершиной х. Это ребро должно пересекаться с Dv В силу (2.4) найдется мост В" через D\, такой, что Лей"£Й'. Согласно (4.1), х — единственная вершина сочленения для В". Но тогда В" Q-ограничено и, значит, совпадает с В'.
Если В огораживает другой сингулярный мост В' (т. е. В' огорожен В), то В' не огораживает В. Ибо в противном случае полученные выше результаты в соединении с (4.4) дадут, что Е(В) совпадает с L(BZ) и является сегментом в Q, определяемым одновременно В и В'.
Мы получаем, что существует множество В = {Вь ..., В^ сингулярных мостов для Q, таких, что никакой элемент из В не огораживает другого и всякий сингулярный мост для Q огорожен некоторым элементом из В.
Для каждого В,еВ мы определим соответствующую сингулярность Z, цикла Q как объединение В,-, Ь(В{) и всех мостов для Q, огороженных В,.
Сингулярности Z, и Zj, соответствующие двум различным элементам В, и В, из В, не имеют общих ребер. Действительно, допустим, что у них есть общее ребро А. Если А ^ L, то мост для Q, содержащий А, должен быть огорожен как В,-, так и В,. В таком случае некоторая внутренняя вершина для L(B^ будет вершиной для L(Bj), и, значит, эти две цепи имеют общее ребро. Мы можем, таким образом, считать, что Де £(6^0 П£(В,). Так как ни В;, ни В, не огораживают друг друга, то цепи Е(В,) и L(B^ имеют одни и те же концы и, значит, тождественны. Кроме того, L(Bt) является сегментом цикла Q,
определяемым одновременно Bi и Bj. Если w(B,)>2, то этот
сегмент включает в число своих вершин все вершины сочленения для В) в силу (4.4) и, таким образом, оДВ,) = 2. Это противоречит нашему предположению о том, что как Bi, так и
В, — сингулярные мосты.
Для каждого В, е В всякое ребро из G, инцидентное с внутренней вершиной из В (В,), необходимо является ребром из Zi. Следовательно, вершинами сочленения для Z, будут вершины,
общие для В, и Q — L(Bi'), множество всех ребер из G - кой сингулярности цикла Q.общие для В, и Q — L(Bi'), множество всех ребер из G - кой сингулярности цикла Q.Определим норму Z цикла Q как • Q, которые не принадлежат ника- Каждая вершина сочленения для Z является вершиной из Q, причем она не внутренняя и для цепи В (В,).
общие для В, и Q — L(Bi'), множество всех ребер из G - кой сингулярности цикла Q.
общие для В, и Q — L(Bi'), множество всех ребер из G - кой сингулярности цикла Q.
Для каждой сингулярности Z, обозначим О, = QUZ,. Так как Gj s G, имеем Gt е У.
Лемма II. Всякое О, имеет цикл Qi со следующими свойствами-.
Q —L^B^sQt;
если С — мост для Qi в Gi, то w(C) ^3. Кроме того, если С пересекается с К\ или с
К^, то w (С) = 2.
Доказательство. Обозначим концы В (В,) через b и Ь' таким образом, что b отделяет Ь' от конца а в цепи В и через U ребро из L, инцидентное с Ь. Обозначим L = Q— В(В().
Мостами через R\ в Gt будут лишь те мосты через Rt в G, которые огорожены В,. Мы видели, что каждый такой мост
имеет число сочленения, равное 1. Следовательно, по (3.2) никакой цикл в Gi, содержащий U, не имеет ребра, пересекающегося с R\. Отсюда R\ является граничной областью ребра U и цепи В в О,. Пусть граничными областями ребра U и цепи L, заключенными в R2, будут Р2 и Р^ соответственно, и пусть их ограничивающими циклами будут Р2 и Р^ соответственно. Из (4.2) получаем, что D$gF2, так как Р2 должен включать все ребра из В, лежащие между а и Ь. На рис. 5 заштрихована область, представляющая собой F^.
В силу (4.3) Р4 = L\JM, где М есть_трансверсаль цикла Q через R2 с концами b и Ь'. Так как «1(В)^2, то из (5.1) следует, что для каждого ребра U" в М можно найти цикл Qi в Gt, имеющий следующие свойства;
Q-UBi^Qv,
Если С — мост для Qi в Gt, то р (С, Q, — Е) ^ 3. Кроме того, если С пересекается с Q или с Р4, то p^C,Q,— Е) = 2;
U"eQ<.
На рис. 5 жирной линией выделен цикл, удовлетворяющий этим условиям.
Мы покажем, что всегда можно выбрать U" так, чтобы Qi обязательно удовлетворял условию (ii) в лемме II. Но сперва тем не менее мы установим некоторые свойства Qt, имеющие место при любом выборе U".
Обозначим через Si и S2 области, выделенные циклом Qi, так что Ri S Si и S2 S R2. Имеем F4sS2 в силу (4.2).
Пусть С — произвольный мост для Qt в Gt. Если он пересекается с Кг, то так как D2 s F4, он пересекается либо с Р4, либо с мостом С' через F4 в Gi. В последнем случае С' имеет не более одной вершины сочленения, не являющейся внутренней вершиной для L в силу (4.1). Но если tv(C')^ 1 в Gi, то ясно, что щ(С')^ 1 в G, что противоречит (3.2).Следовательно, С пересекается либо с Р4, либо с мостом С' через F4 в Gi, так что w(C')^ 2 и по меньшей мере одна вершина сочленения для С' является внутренней вершиной для L. В последнем случае должно быть С' с С.
Аналогичное рассуждение, в котором L, F4 и Р4 заменены на {Е}, F2 и Р2 соответственно, показывает, что если С пересекается с Кг, то С пересекается также и с Р2. Аналогично если С пересекается с К\, то он пересекается также и с Q.
Если никакая вершина из С не является внутренней вершиной для L, то р^С, Qi — L) = w(C). Тогда из (2) и полученных выше результатов следует, что С должен удовлетворять (ii).
Допустим,_что С — мост через Si, содержащий внутреннюю вершину из L. Он не пересекается с Кг, так как D2 = S2. Он имеет ребро А, инцидентное с внутренней вершиной для L. Это ребро должно пересекаться с Rt. Поэтому по (2.4) существует мост С' через Rx, такой, что А е С's С. Тогда из (4.1) получаем w(C') = 1. Следовательно, С' Qi-ограничено и, таким образом, С = О'. Значит, w(C)=l. Далее, С не пересекается с Q и, таким образом, не пересекается с Кх- Следовательно, он удовлетворяет условию (ii).
Осталось лишь показать, что можно выбрать U" так, чтобы (ii) выполнялось для любого моста С через S2, удовлетворяющего условию q^C, Qt — Е) ^ 1.
Предположим, p(Bi,Q— Е) = 0. Тогда не существует моста С через Qi в Gi, для которого q^C, Qi — Е) ^ 1 при любом выборе С". Следовательно, (ii) выполняется для любого выбора U".
Теперь допустим, что p^Bi, Q — Е) = 1. Обозначим через х вершину, общую для В, и Q — L. Это единственная внутренняя вершина из L, являющаяся вершиной для Zi- Она делит Е на
две непересекающиеся цепи: Е\ с концами b и х и Е2 с концами
х и Ь' (см. рис. 6).
Теперь все циклы в Gt, имеющие U своим ребром, должны содержать Ех. Следовательно, граничная область цепи L\, содержащаяся в R2, есть Р2. В силу (4.3) имеем Р2 = L\\}M', где М' есть трансверсаль цикла Q через R2 с концами b и х. Пусть у будет последней вершиной в М', отсчитываемой от Ь, которая является вершиной в М, и пусть Т — цепь в М' с концами х и у. Тогда Т является трансверсалью цикла Р^ через Р^. В силу
(2.2) она будет подмножеством моста С" для Рц через Р^ в Gi. Согласно (4.1), у является единственной вершиной, общей для С" и М. Таким образом, zw(C") = 2. " Далее, у — внутренняя, вершина для М. В противном случае С" был бы мостом для Q в G, отличным от В^ и не огороженным Bt. Значит, он не был бы подмножеством в Gt. Соответственно у делит М на две непересекаю- щихся цепи: М\ с концами b и у и М2 с концами у и Ь'.
Пусть F — область, выделенная циклом LiUTUM] и содержащаяся в R2. Тогда Р2 s гРгР^ Но если ребро Л из
М' пересекается с F, то оно является ребром трансверсали М"
цикла Р4 через Р4, концами которой будут вершины из М. Это невозможно в силу (2.2) и (4.1). Получаем, что F = Р2. Следовательно, Р2 = LiUTUMi.
Выбираем в качестве U" ребро из М, инцидентное с у. Тогда у — вершина в Qb Следовательно, С"—мост в Qt. Так как w(C") = 2, то он удовлетворяет (11).
Пусть С — любой мост через S2 в G,, такой, что q(C, Qi — — L)^: 1, и содержащий вершину х. Применяя (2.4), получаем, что существует мост В через Т4 в G;, являющийся подмножеством в С и содержащий вершину х. Тогда щ(В)^2 в силу (4.1). Если всякая вёршина сочленения для В является вершиной из Qi, то В = С. Тогда С удовлетворяет (11), так как В пересекается с Р2 = TiUTUAli, только если В —С". Допустим тем не менее, что В имеет вершину сочленения г, которая не есть вершина из Qi. Если z— внутренняя вершина для Mi, то |В| пересекается с Р2. Получаем, что В — мост через Р2 согласно следствию из (2.4). Но это невозможно в силу (4.1), так
как w(B\=2. Мы получили, что 2— внутренняя вершина для М2. Тогда С пересекается с М2 и, согласно (2), р(С, Qi—Т) = 2. Следовательно, ж(С) = 3. Далее, тремя вершинами сочленения для С должны быть х и две вершины из Л12. Не может существовать никакой вершины сочленения С, которая являлась бы вершиной из Мь и, значит, С не пересекается с Мь Так как С не совпадает с С", то С не пересекается с Р2 и, значит, не пересекается с К2. Условие (ii) опять выполняется.
По лемме 1 остается лишь случай, когда р(Д, Q— L) = 2. В этом случае мы обозначим вершины, общие для Д и Q — L, через хи у, так что х разделяет b и у в L. Тогда лишь х п у будут вершинами из Zi, являющимися внутренними вершинами для L.
Отсюда следует,разделяющая МОтсюда следует,разделяющая Мчто су-на двечто су-на двеВершина t из М есть х-связан- ная (у-связанная'), если найдется трансверсаль цикла Ра через Fa в О, с концами х и t (у и t). Теперь если /— х-связанная и и — «/-связанная вершины из М, то t и х не разделяют и и у в |Р4| в силу (4.1). Далее, М имеет по меньшей мере одну внутреннюю вершину. Иначе М была бы мостом для Q в G, отличным от Bi и не огороженным В{, что противоречит определению Gi ществует внутренняя вершина 2 из Л
Отсюда следует,разделяющая М
Отсюда следует,разделяющая М
что су-на две
что су-на две
непересекающихся цепи, Mt с концами 6 и 2 и Л12 с концами 2 и Ь', таким образом, что все х-связанные вершины из М являются вершинами из Mi и все «/-связанные вершины из М являются вершинами из М2 (см. рис. 7).
Найдя такую вершину 2, мы выбираем U", инцидентное с 2. Тогда 2 — вершина из Qt.
Пусть С— произвольный мост через S2 в Gt, для которого q^C,Qi — L)^l. Тогда или х, или у будет вершиной из С. Если х — вершина из С, то, согласно (2.4), найдется мост В через Fa в Gt, являющийся подмножеством в С и содержащий вершину х. Тогда по (4.1) ty(S)^3. Если всякая вершина сочленения для В есть вершина из Qi, то В = С. Если же В имеет вершину сочленения t, которая не принадлежит Qt, то t есть внутренняя вершина для Мх, так как она является х-связанной вершиной из М в силу (2.1). Следовательно, либо w(C)^3, либо Mi и С имеют общее ребро. Аналогично если у есть вершина из С, то или йу(С)^3, или С пересекается с М2.
Предположим, что w(C)^4. Тогда С пересекается либо с Mi, либо с М2 и, значит, в силу (2), p(C,Qi — L) = 2.
Соответственно как х, так и у, должны быть вершинами из С. Но тогда С пересекается и с Mb и с М<2. Следовательно, по меньшей мере две вершины из М\ и по меньшей мере две вершины из Л/2 являются вершинами сочленения для С. Это невозможно, так как р(С, Qi— L) = 2 и цепи М^ и М2 имеют только одну общую вершину.
Мы получили, что w(C)^3. Теперь всякое ребро из С, инцидентное с х или у, должно принадлежать В, в силу определения Gb Но BjAC Qi-ограничено, так как С не пересекается с Q (потому что S2^B2). Значит, В^С = С, и поэтому С £ Bi. Следовательно, по лемме 1, С не пересекает Кг- Соответственно С удовлетворяет (ii).
Теперь мы проверили, что при удачном выборе U" цикл Qt должен удовлетворять условию (ii). Тогда утверждение леммы следует из (1).
Мы получим плоский граф / из Q путем замены цепи Еф^ на цепь Qi — L в каждой сингулярности Zi. Легко проверить, что / есть цикл в G, включающий все вершины сочленения сингулярностей Zi и нормы Z для Q в качестве своих вершин.
Пусть В — любой мост для / в G. Тогда В пересекается с W, где W есть либо Z, либо одна из сингулярностей Zi цикла Q. В любом случае U^QB /-ограничено, откуда следует, что BgW. Если W = Z, то это означает, что В — несингулярный мост для Q в G. Тогда ty(B)^3 и w(B) = 2, если В пересекается с К\ или с Кг. Если W = Zb то В есть мост для Qi в Gi и мы применяем лемму II для получения того же результата.
Отсюда следует, что теорема 1 верна для плоского графа G. Так как G может быть любым элементом из У, получаем, что Y=X. что и требовалось.
Теорема 1 далее доказывается по индукции. Ибо мы знаем, что она тривиально выполняется при ai(G)^l. И если она верна для всех плоских графов с п или менее ребрами, то она также верна и для всех графов с п + 1 ребрами, поскольку такие графы принадлежат У и, согласно (5.2), также и X.
ГАМИЛЬТОНОВЫ циклы
Используя (3.2) и (4.1), видим, что если К — граничный цикл ребра Е в плоском графе G и если Е' — другое ребро из К, то К будет также и граничным циклом для Е'. Соответственно мы говорим о граничных циклах для ребер из G как о граничных циклах в G.
Теорема II. Пусть G — любой 4-связный плоский граф, имеющий по меньшей мере два ребра. Тогда G имеет гамильто-
нов цикл. Кроме того, если никакие два ребра из G не имеют оба конца общими и если Е и Е' — различные ребра одного и того же граничного цикла в G, тогда найдется гамильтонов цикл в G, содержащий как Е, так и Е'.
Доказательство. Предположим сперва, что никакие два ребра из G не имеют два общих конца. Пусть Е и Е'— различные ребра граничного цикла К в G. Найдется цикл / в G, удовлетворяющий условиям (i), (ii) и (iii) теоремы 1. Если каждый мост цикла J в G имеет ровно одно ребро, обоими концами которого являются вершины из /, то / есть гамильтонов цикл для G, включающий ребра Е и Е'. Если же нет, то из (3.5) и из ограничения на граф G следует, что ai(/) = 3, что найдется только один мост для J в G и что этот мост имеет число сочленения, равное 3. Но в силу (4.3), мост должен пересекать граничный цикл для Е. Это невозможно в силу условия (iii) теоремы 1.
Для доказательства первой части теоремы заметим, что G имеет по меньшей мере один цикл в силу (3.3). Если G имеет только две вершины, то всякий цикл в G является гамильтоновым. Соответственно будем предполагать a0(G)^3. Если мы уберем некоторое ребро из G, которое имеет те же концы, что и некоторое другое, то получим из G другой 4-связный плоский граф с теми же вершинами. Повторив эту операцию нужное число раз, получим 4-связный плоский граф Н, в котором никакие два ребра не имеют оба своих конца общими и который имеет те же вершины, что и G. Так как ao(G)^ 3, то аДД)^ 2. Следовательно, по (3.3) Н имеет цикл и, значит, граничный цикл. Поэтому в силу уже доказанного Н имеет гамильтонов цикл /. Он же будет гамильтоновым циклом и в G.
Теорема X. Уитни [2] относится к частному случаю теоремы II, когда каждый граничный цикл имеет ровно три ребра.
ЗАМЕЧАНИЕ К ГИПОТЕЗЕ О ЧЕТЫРЕХ КРАСКАХ
Банальной истиной в теории раскрашивания карт является тот факт, что всякую карту, определяемую плоским графом, имеющим гамильтонов цикл, можно раскрасить в четыре краски. Районы в одной области, выделяемой циклом, можно раскрасить, чередуя красный и синий цвета, а в другой — чередуя зеленый и желтый. Поэтому теперь мы можем утверждать, что гипотеза о четырех красках верна для всех карт, определяемых 4-свяЗными плоскими графами.
К сожалению, наиболее интересные карты определяются плоскими графами, в которых степень каждой вершины равна 3.
Если такой плоский граф имеет 5 или более вершин, то в силу (3.4) он не является 4-связным. Мало известно об условиях существования гамильтонова цикла в плоском графе G такого вида, кроме того, что недостаточно 3-связности [1].
СПИСОК ЛИТЕРАТУРЫ
Tutte W. Т., On Hamiltonian circuits, J. London Math. Soc., 21 (1946), 98— 101.
Whitney Hassler, A theorem on graphs, Ann. oj Math., 32 (1931), 378—390.
Быстрое умножение больших чисел1»
Л. Шёнхаге, В. Штрассен
ВВЕДЕНИЕ
«Школьный» метод умножения двух десятичных чисел может быть использован без существенных изменений для умножения Л^-разрядных двоичных чисел на многоленточной машине Тьюринга или для построения специальной логической сети (из логических элементов с двумя входами). В обоих случаях сложность (под сложностью сети мы понимаем число ее элементов) растет как №.
На машине Тьюринга, которая производит умножение чисел любой длины, сложность умножения М-разрядных чисел определяют как максимум числа сдвигов головок по всем входным парам чисел длины N.
Распространенное и казавшееся правдоподобным мнение, что требуемая в школьном методе сложность не может быть уменьшена, было опровергнуто в 1962 г. А. А. Карацубой [4], построившим сеть с
о 0v'og!3)
элементами (log23« 1,58). Этот метод без затруднения переносится на машины Тьюринга.
Дальнейшие сюрпризы содержала появившаяся в следующем году заметка А. Л. Тоома [7], в которой была указана сеть для умножения Л^-разрядных двоичных чисел из логических элементов.
Независимо от Тоома и совсем иными методами Шёнхаге (6] в 1966 г. показал, что на машине Тьюринга умножение ^разрядных чисел можно делать со сложностью
О (Л^^^ (lg N^_
Впоследствии алгоритм Тоома был перенесен на машины Тьюринга (Кук [1]) с более точной оценкой сложности:
О (^V2^2to^W ig дг)
*) Schonhage A., Strassen V., Schnelle Multiplikation grofier Zahlen, Computing, Archly {Hr elektronisches Rechnen, 7, Ease. 3—4 (1971), 281—292,
(Кук [1] и Кнут [5, стр. 273]). Существенно различные методы Тоома и Шёнхаге дают практически одинаковые оценки сложности, и это позволяет считать оценки близкими к оптимальной.
Интересующемуся читателю рекомендуем гл. 4 блестящей энциклопедии Кнута «Искусство программирования», в которой доказаны и обстоятельно изложены перечисленные здесь результаты.
В настоящей работе будут указаны два способа умножения ^-разрядных двоичных чисел, которые допускают реализацию как в логической сети, так и на машине Тьюринга. Сложность одного способа
О (У 1g У (lg lg ^l+f), другого —
O(^lg^lglg^).
Оба способа используют быстрое преобразование Фурье (Кулей и Тьюки [3]; независимо от нас эту же идею — использовать быстрое преобразование Фурье для умножения больших чисел — высказывал Кнут). Роль преобразования Фурье можно понять, заметив, Uto произведение многоразрядных чисел, отвлекаясь от переносов, является сверткой. Если разбить сомножители на блоки подходящей длины и рассматривать их как элементы такого кольца R, операции которого верно передают исходные вычисления (в кольце Z целых чисел) и которое, кроме того, содержит необходимые нам корни из единицы, то можно требуемое «большое» умножение разложить в такую последовательность действий: преобразование Фурье последовательностей блоков для обоих сомножителей, покомпонентное перемножение преобразованных последовательностей, обратное преобразование и выполнение переноса. С возникающими при этом «малыми» умножениями будем обходиться аналогично. Таким образом получается итеративная процедура.
В нашем первом способе в качестве R берется поле С комплексных чисел, длина блока «lg^, и можно получить сложность O^N lg A7(lglg /V)1+e) уже после третьей итерации.
Во втором нашем способе мы употребляем в качестве R кольцо классов вычетов ZF кольца Z по модулю чисел Ферма /?п = 22"+1, длина блока » УМ и требуется приблизительно IglgM итераций. Числа Ферма здесь удобны тем, что двойка является примитивным корнем из 1 степени 2П+* по модулю Fn, а вычеты ее степеней по тому же модулю имеют весьма простое двоичное представление, так что умножение на них не составляет труда.
Второй способ можно так реализовать в логической сети, что глубина сети (определяющая время ее срабатывания) бу-
дет O(lg/V). Однако доказательства этого факта мы не приводим. Ясно, что глубина' порядка lg N — наилучшая из возможных.
Мы не считаем, что минимальная сложность умножения есть величина порядка A^lgMlglgM, и предполагаем, что ее порядок равен N\gN (см. глубокий результат Кука и Андераа [2]; к сожалению, on-line — ограничение1) для логической сети — неприемлемо, а для вычисления на машине Тьюринга, во всяком случае, слишком сильно и, кроме школьного метода, никакой из указанных способов для вычислений on-line не подходит).
В следующем разделе мы описываем быстрое преобразование Фурье в удобной нам форме. В третьем разделе мы кратко излагаем первый, более простой способ умножения с R = С и, наконец, в четвертом разделе подробно рассматривается второй способ с R = Туп.
БЫСТРОЕ ПРЕОБРАЗОВАНИЕ ФУРЬЕ
Пусть R — коммутативное кольцо с единицей, wn Е R — примитивный корень из 1 степени 2", так что ху^-'=— 1, а 2 = = 1 + 1, 1 —единица кольца R.
Тогда преобразование
2^—1
йА= 2 а^п (0<£ < 2"),(2.1)
/=о ' "
которое каждому вектору а е /?2" сопоставляет фурье-образ а, может быть разложено по следующей схеме в отдельные шаги. Для к и / используем двоичное представление
к = П^к^, /=Sjv2"-1-v (Av, /v = 0 или 1).(2.2)
4=0V=0
Отправляясь от
Ao(io, ..., in-0 = ai (0</<2"),(2.3)
определяем Аъ ..., Ап рекуррентно следующим образом: ^v+l (^о> ■•■> к^, /v+i> •••> jn-i) =
-^/А\-к(2.4)
*) В on-line вычислениях на машине Тьюринга предполагается, что входные данные поступают в машину по специальному входу символ за символом. Каждый входной символ требует выдачи соответствующего выходного символа, и новый символ не может быть подан на вход, пока машина вычисляет выходной символ, соответствующий предыдущему входному. (См. сборник «Проблемы математической логики», изд-во «Мир», 1970, стр. 223.) — Прим, перед.
или подробнее, принимая во внимание равенство ш^ ' = — 1, ^v+lG"’ ^v—1> 0> /v+1> • • •) =
= Hv (..., £v_p 0, /v+p ...) + Av (..., £V_P 1> Ah-p . • ^^n, Лу+1 ( 1’ ^v-l> A /v+l> • • •) =^^
= Лу(..., ^.pO, /v+p ...)-Л^..„ ^_„ l,/v+„ . ..)^,
где v,= ‘2n 1 v(^v-i2v 1 + ... + &02°).
Из (2.3) и (2.4) с учетом того, что
/; 9П-1+ ... +/9n-V\ ь 2V <
п’
получаем по индукции окончательное выражение:
^v+l (*0, • ■ • > &у> /v+b • • • > in—l)
/у=»/о=° ' П
Из (2.1) и (2.2), в частности, следует, что
Ап (&о, кп_х^ = йь.(2.6)
Для обратного преобразования a i—* а из системы (2.5) получаем
Лу(..., к^_х, 0, /v+p . • .) =
= 2(Лу+] (..., kv— 1, 0, /у+р ...) + Лу + ] (..., Ау—р 1) /у+р •••))>
Л у ( • • • ) А у— 1) 1 ) /у+р • • •)
=2 wn (Лу+1 (..., к^_х, 0, /v+p ...)—Лv+1 (..., ^v_p 1, /у+р ...)),
(2.7) где x = 2""1"v(^v-i2v-1+ ... +^о2°).
Далее будет существенно следующее обстоятельство.
В силу (2.3) и (2.4) имеем для 0 ^ / < 2П-1
Ах (1, /р .. •) /п-1) =
— ^о(®’ А’ •••’ in-\) ^о(А Аin-^= at а/+2«-ь(2.8)
и на последующих шагах нашей рекуррентной процедуры (2.5) эти разности используются лишь для получения Лу с ко = 1, а на последнем шаге только для получения &h с нечетным к; наоборот, для нахождения этих разностей при обратной процедуре (2.7) достаточно знать только 2П-1 значений йк с нечетным к.
УМНОЖЕНИЕ С ПОМОЩЬЮ КОМПЛЕКСНЫХ ЧИСЕЛ
В этом разделе мы описываем конструкцию для получения быстрых способов умножения с использованием быстрого преобразования Фурье в кольце R = С комплексных чисел. Отправляясь от школьного метода Vo, мы строим с ее помощью последовательность способов Vi, У2 Предполагая, что Vm уже построен, мы укажем, как по целым а ^ О, b ^ 0, заданным ^-разрядным двоичным представлением, получается 2N- разрядное произведение с = ab в способе Ут+ь
Возьмем натуральные числа I и п, удовлетворяющие условию
l-2n>2N(3.1)
(позднее мы их выберем подходящим образом в зависимости от №), и разобьем сомножители а и b соответственно в блоки длины /:
2я-12я-1
а = 2 а^*1, 6=2 Ь.2п,(3.2)
/=о/=о
где 0^а/<2\ 0^.bj<21 и aj = bj = O для /^2"-1. Тогда произведение запишется в виде
2П-1
c = ab = 5 cx2xl,(3.3)
т=о
где
ctpba^рбр,
p+a=r p+a= т (mod 2Л)
т. е. сх получается в результате свертки ар с Ьа. Описанное в разд. 2 преобразование Фурье с w„ = e2iu‘2 переводит эту свертку в 2П умножений, а именно
/2П-1\ /2”—1\2^—1
йД= 52 bawa4= 2(0^6^2"). (3.4)
я я\ 0=0 р " / \ а=о /г=0®
Теперь можно в общих чертах наметить способ Ут+1:
переход от ар к а^ и соответственно от Ьа к 6А согласно
(3.5)
выполнение 2П умножений ah6h= сь;(3.6)
переход от ск к сх в соответствии с (2.7);(3.7)
сложение сх согласно (3.3).(3.8)
Чтобы реализовать этот план,необходимо взять достаточно
точные приближенные значения для комплексных чисел, возникающих на шагах (3.5) — (3.7). Погрешность при этом должна
быть настолько малой, чтобы целые числа ct получались с ошибкой <1/2 и тем самым точно определялись из округления. При переходе от Ь, к бь и от ch к с; вычисляются величины 5V(...) и Cv(...), аналогичные Лу(...) (см. 2.2). Так как а, < < 2Z, Ь; < 2Z, то в силу (2.5) и (2.7)
| Лу(...)|<2,+\ |By(...)|<2'+v, |^|<2Z+", \bfe\<2l+n,|Cv(...)|<22Z+2n.
Нужные нам приближенные вычисления могут быть выполнены в комплексной арифметике с фиксированной запятой, одним местом перед запятой и подходящим числом s мест после запятой с использованием вместо w* его s-разрядного приближения
®„.х> Hx-<|<2"S ДЛЯ I X f < 2П-1
и нормированных величин
°у(-..) ~ 2-z-^v(...), ₽у(...) ~ 2"Z-VSV(...),Уу(...)«2-2'-2"Су (...).
Из (2.5), (3.6) и (2.7) ясно, как, принимая во внимание эту нормировку, следует производить расчет av, 0V, yv. Необходимые при этом умножения комплексных чисел будут реализованы при помощи четырех умножений действительных s-значных чисел по способу Vm и дополнительного сложения с округлением s-й цифры после запятой. Если выбрать
s ^ 2/ + 2п + lg п + const, то оценка ошибки округления будет такова:
I 22Z+2"Yo (/о, • • •, /„->) ~ с/1 < const • п ■ 2№-s < 1/2. (3.9)
Оценку Л1т+1(^ сложности способа Vm+) можно теперь получить, используя значение Mm(s) и употребляя оценку O(s) для сложения s-разрядных чисел. В логической сети числам ®п х отвечают специальные блоки. При использовании многоленточной машины Тьюринга они предварительно вычисляются. Как показывают формулы
w; = — 1, ty2x=t, mv+i =-р<р^| Для v^2,“"v+l v’ v+l v+1 V’
это можно сделать посредством О(2П) операций сложения, умножения, деления, извлечения корня, и это потребует при их элементарном вычислении (с точностью до s знаков) самое большее O(2n-s2) шагов.
Выполнение шагов (3.5) и (3.7) при описанных реализациях происходит со сложностью O(2”-n-(Mm(s) +s)), сложность шага (3.6) имеет величину O(2n(Afm(s) 4 s)) и, наконец, (3.8) вносит еще О (2" (2/ + п)). Таким образом.
Mm+1 (У) = О (2" (s2 + пМт (s) + ns + 2/ + п^.
После выбора наименьшего s, удовлетворяющего условию (3.9), Мт+, М = О (2" ((/ + п? + пМт (3 (/ + п^.(3.10)
Для школьного метода Vo имеем Al0(s) = O(s2), поэтому
М, (N) = О(2п-п(1 + и)2).
Если выбрать, не нарушая (3.1),
/ = [log2M], п= [log2(2M//)L
то для способа Vi получаем сложность
M^N^OCNOgN')2).
Теперь используем этот результат в (3.10) для т = 1; это приводит при том же выборе I и п к оценке
M2(^) = o(^ig^(igig№
Далее можно найти, что
М3 W = О (N lg N lg lgTV (1g 1g 1g m
и т. д. Мы не станем искать наилучшую степень итерации т в зависимости от N, так как в следующем разделе описывается еще более быстрый способ.
ПРИМЕНЕНИЕ ЧИСЕЛ ФЕРМА
Вместо комплексных чисел мы используем теперь кольцо классов вычетов Z^ по модулю чисел Ферма
Е„ = 22"+1.
Умножение в кольце ZFn точно воспроизводит умножение У-разрядных двоичных чисел a, beZ (а, 6^0), если
2У < 2",(4.1)
т. е. с = ab однозначно определяется условием
с = аб (mod F^ и 0 ^ с < Fn,(4.2)
и мы можем ограничиться рассмотрением умножения в этом кольце вычетов.
Элементы ZFn удобно представлять двоичными числами длины 2"+1, т. е. целыми числами х вида
2"+|-1
х = 2 хй1 (х/ = 0 или х,= 1).(4.3)
/=о
Это представление, правда, не однозначно, но обладает другими преимуществами, проистекающими из сравнения
22n+'s Hmod^).(4.4)
Так как 22" = — 1 (mod Fn), то кольцо R = ZFn удовлетворяет условиям разд. 2 с n + 1 вместо п и w„+1 = 2 или с wn = 4. Необходимые в преобразовании Фурье в ZF умножения на бУ„+1 = 2й легко реализовать в силу (4.4) циклическим сдвигом на х мест:
2^+1 — ]2П+" —1
2й • х = 2 х,2/+х = 2 у£к (modFn), /=0fe=0
где X] = yk для j + х ~ к (mod 2"+').
Сложение по" модулю Fn чисел вида (4.3) происходит с циклическим переносом, т. е. перенос в 2”+1-й разряд отмечается прибавлением 1 в нулевом разряде. В силу соотношения 22 =— 1 вычитание может быть сведено к сложению с циклическим сдвигом вычитаемого на 2" мест. Эти операции требуют сложности, не большей О (2"). Кроме того, в дальнейшем нам понадобится решение следующей вспомогательной задачи: если
х = ы + у.22", 0<«<22П, 0<у<22",(4.5)
то наименьший неотрицательный остаток
g = x(modF„), 0<£<22",
можно вычислить со сложностью О (2П) по формуле
( и — и, если и у,
I 22 -ф 1 -ф м — у, если и < у.
Вычисление по заданным § и ц числа г, однозначно определяемого соотношением
= ( 6(modFn), 0<g<22",г— T](mod2n+2), 0^т)<2"+2,О < z < ^^F^,
также реализуется со сложностью О (2"), если сначала найти 6 = 1]— g(mod2"+2), где 0^б<2"+2, и затем вычислить z = g + 6(22"+ 1).
После этих приготовлений мы опишем метод, который сводит умножение в ZF^ к умножению в ZFn, различая при этом случаи
m = 2п — 1 и ш — 2п — 2.(4.8)
Заметим, что n < т, если т^З.
Вначале рассмотрим случай m = 2n — 1.
Подлежащие умножению элементы из ZFm даны в форме (4.3) как 2т+1-разрядные числа а и Ь. Если разбить их на 2n+1 блоков длины 2П-1 каждый:
2^+1 — 12Я+1 —1
а= 2 «рЗ^2""', 6= 2 V0'2"-1. о<ар, 6а<22"-1, (4.9) р=0а=0
то произведение запишется в виде
2«+>-1п-1
а6= 2 с^х-2П (modFm),(4.10)
Т=0
где
Р+аэТ (mod 2rt+l)0<р, а<2п+*
Поскольку
г^-'-^^-цшоа^),
произведение можно записать и в такой форме:
2Л—1
«»- S^,-W+2«,«”)2^n-' +
2п+'-1„,
+ 2 з^2^-'^^).
/=2Л
Если положить
-«* Оп+1+2Л лдП
(4.11)
2П+1+22^ у < 2л"^*
то
2« + 1_1.
abes 2 2Z • 2Л2" 1 (modFm).(4.12)
В (4.11) слагаемое 2"+1+2 добавлено для того, чтобы обеспечить выполнение неравенства 0 ^ z, < 2n+2Fn (см. 4.10).
Так как 2"+2 и Fn взаимно просты, достаточно вычислить z, по модулю 2П+2 и по модулю Fn- Вычисление z, по модулю 2П+2 проводится простым образом при помощи следующего искусственного приема: по числам а,, р,, определяемым из сравнений а/ = а/( р/= 6/(mod г^2), 0<ал р, < 2"+2, образуем числа
2"+|-12п+|-1, ,
и= 2 ар2р(3п+5), о= 2 pff2a(3"+5,) и, о < 22 "+ (3"+5)-(4.13) р=00^=0
Их произведение содержит как непересекающиеся части длины Зп + 5 суммы
Ут= 2 «рра < 2"+1 (2"+2)2, 0^т<2"+2. р+а=т
В силу (4.10) для 0^т<2"+! справедливо сравнениест = Ут + Ут+2"+' (mod 2"+2)’
а в силу (4.11) — сравнение
z/ = T]/(mod2n+2) для 0^/<2",(4.14)
где
и 0<П/<2"+2.
Вычисление т]/ может быть произведено со сложностью, не большей О (22"), а сложность умножения и-и—чисел длины, не превышающей 2п+'(Зп + 5), может быть оценена при помощи (3.11):
М; (2"+1 (Зп + 5)) = О (2" • п3) < О (22")
(мы используем здесь (3.11) лишь для удобства; можно употреблять оценку Карацубы 0(№~Е); см. [4, 5].
Вычисление 2/modFn сводится к умножению в ZFn с помощью преобразования Фурье в ZFn с цуп+1=2; для этого нужно выполнить шаги (3.5)—(3.7). Важно то, что в нашем случае, принимая во внимание (4.11), вместо с; достаточно вычислить только 2" разностей с( — с/+2п по модулю Fn. Согласно замечанию в конце разд. 2 для вычисления величин ад к> •■:/^л-2"-1+ ...+/„-2°,
аналогичных величинам (2.8), требуется, в отличие от (3.6), только 2" умножений
йкЬк === ck (mod Fn) для нечетных к < 2"+1.
Преобразование Фурье в ZFft состоит из О (п • 2") шагов сложностью О (2") каждый, т. е. имеет общую сложность О (п • 22"). Прибавление числа 2"+1+2 и приведение по модулю Fn, согласно (4.6), осуществляется со сложностью О (22") и дает для О ^ / < 2" остатки
б/^С^!, h/„) + 2"+,+2"SZ/ (mod Fn), 0<^<22".
По этим остаткам и остаткам (4.14), решая вспомогательную задачу (4.7), находим 2" значений г, со сложностью О(22"). Наконец, сложение Zj (см. формулу (4.2)) осуществляется тоже со сложностью О (22").
Тем самым мы показали, что умножение в ZFot-i реализуется 2" умножениями в ZF с дополнительной сложностью О кп • 22п).
Случай четного m = 2n —2 рассматривается аналогично: сомножители а и b разбиваются в 2" блоков длины 2"“'. Их свертка сводится преобразованием Фурье в ZFn —теперь с йуп = 4 —к умножению в ZFfi. Снова нужно лишь умножение для нечетных индексов к, число которых в этом случае 2"~ . Поэтому умножение в Zpin-i реализуется 2"-1 умножениями в 1рп с дополнительной сложностью О(и-22").
Перейдем к окончательной оценке сложности нашего способа. Обозначим М (п) наименьшую сложность логической сети для умножения в Zpn (используя представление чисел в виде (4.3)); тогда из вышесказанного при достаточно большом уо для п 3 справедливы неравенства
М(2/г-lX2"M(n) + y0(n-1)22п.
С другой стороны эти неравенства можно интерпретировать как временную оценку надлежаще организованной многоленточной машины Тьюринга, которая работает по описанному рекуррентному методу; тогда М(п) будет обозначать максимально необходимое число шагов, требующееся для умножения в ZF .
При
Y = max{Af(l), М (2), Af(3), уо}
из (4.15) индукцией по А получается оценка
Л4(п)<уй-26+" при п<2*+1.
следовательно,
М (п) = О (2пп 1g п).
Для умножения W-разрядных двоичных чисел выбираем п из условия (4.1):
n = [log 22V].
Необходимое для умножения в ZFn приведение по модулю Fn осуществляется при помощи решения вспомогательной задачи (4.6) со сложностью О (2П) = О (N). Итак, умножение ^разрядных чисел может производиться со сложностью O^NlgNlglgN).
СПИСОК ЛИТЕРАТУРЫ
Cook S. A., On the minimum computation time of functions, Diss., Harvard Univ., 1966.
Cook S. A., Aanderaa S. O., On the minimum computation time of functions, Trans. AMS, 142 (1969), 291—314. (Русский перевод: Кук С. А., Ан- дераа С. О., О минимальном времени вычисления функций, Кибернетический сборник, нов. серия, вып. 8, «Мир», М., 1971.)
Cooley J. W., Tukey J. W., An algorithm for the machine calculation of complex Fourier series, Math. Comp., 19 (1965), 297—301.
Карацуба А. А., Офман Ю. П., Умножение многозначных чисел на автоматах, ДАН ’СССР, 145 (1962), 293—294.
Knuth D. Е., The art of computer programming, vol. 2, ch. 4, Addison-Wesley, 1969.
Schonhage A., Multiplikation groBer Zahlen, Computing, 1 (1966), 182—196.
Тоом А. Л., О сложности схемы из функциональных элементов, реализующей умножение целых чисел, ДАН СССР, 150 (1963), 496—498.
Длины формул и исключение кванторов0
Л. Ходес, Е. Шпекер
ВВЕДЕНИЕ
Вопросы, исследуемые в этой статье, представляют собой частные случаи проблемы следующего типа: дана функция, сколь длинной должна быть формула, представляющая ее.
Здесь рассматривается случай пропозиционального исчисления. Для того чтобы сформулировать результаты, вводятся следующие обозначения:
F\ есть множество формул пропозиционального исчисления первого порядка, связками в котором являются отрицание и конъюнкция.
Пример-. —I (х, Л П х2) Л -1 (—Iх, Л х2).
Fa есть множество формул пропозиционального исчисления первого порядка, связками в котором являются отрицание, конъюнкция и биимпликация (т. е. эквивалентность).
Пример-, (х, (х2 Л —I х3)) (—I х, Л х2).
Л3 есть множество формул пропозиционального исчисления второго порядка, связками в котором являются отрицание, конъюнкция и биимпликация.
Пример: (V^J ((Зх2) (х2 Л х3) ->(Vx4) ((х, Л х2) *-> (х3 Л П х4))).
Ясно, что Fi £ Ра £ F3. Более того, для каждой формулы ф из Рз существует формула ф из Fb такая, что ф эквивалентна ф. Такая формула ф обычно должна быть намного длиннее, чем данная формула ф.
И действительно, определяя длину формулы как суммарное количество вхождений в нее всех переменных (так что формулы, указанные в качестве примеров, имеют длины 4, 5, 6 соответственно), для Z = 1, 2 верна
Теорема (i). Для каждого целого положительного числа с существует формула ф из Fw, такая, что для каждой
формулы хр из Fi, эквивалентной ср, имеет место следующее неравенство;
длина ф ^ с-длина ф.
Доказательства этих теорем удобнее проводить на языке колец, а не на языке решеток. Введем с этой целью булевскую сумму, произведение (это то же самое, что и конъюнкция) и булевские константы 0, 1. В этом случае можно обойтись без отрицания, так как 1 + Xi есть то же самое, что и ~1 хр
О результатах этой статьи и следствиях из нее было сообщено в [1], [2]. Впервые точный пример булевской функции, допускающей только «нелинейные» реализации, был предложен, насколько нам известно, Нечипоруком [3].
Определение понятия «формула»: 0, 1, Хо, хь ... являются формулами. Если ф, ф— формулы, то формулами также являются ф + ф и ф-ф. (Скобки вводятся обычным образом.)
Определение понятия «р-формула» («р» обозначает «произведение»): 0, 1, хо, X], ... являются р-формулами. Если ф есть р-формула, то р-формулами являются 0 + ф и I + ф. Если ф, ф есть р-формулы, то р-формулой является и ф-ф.
Замечание, ф + Ф эквивалентна
14- (1 + ф - (1 + Ф)). (1 4-(14-Ф). ф),
которая является р-формулой, если ф и ф — р-формулы. Каждая формула, следовательно, эквивалентна некоторой р-фор- муле.
Ф —■ формула, тоФ подстановкой 0Ф —■ формула, тоФ подстановкой 0Сокращенные обозначения. Если
Ф —■ формула, то
Ф подстановкой 0
Ф —■ формула, то
Ф подстановкой 0
I X, . . . X;
Ф / 0 1 0 m еСть формула, полученная из
вместо переменных х, , ..., х, .
Если в ф не встречаются никакие другие переменные, кроме xtxt , х,х( , и если ip ^ jq для всех р, q (1 ^р^/п,
I х( ...х,
1 ^ q ^ п), то tp/Xj ... х( — эта формула ф/ Q 1 Q т- Если х есть последовательность /х,х, ), то ф/х есть формула ф/х, х, .
Ч‘П
Пример. Если ф — формула (xt + х2) • (х2 + х3) их — последовательность (ХьХз), то ф/х — это (xi + 0) • (0 + Хз) .
Теоремы этой статьи основываются на следующей основной лемме.
Основная лемма. Для всех положительных целых чисел т, к существует положительное целое число п0, такое, что для всех п(п^ п0) имеет место следующее.
Если ф — формула, содержащая п переменных хх, ..., хп, ни одна из которых не входит в ф более чем к раз, то существует пг различных целых положительных чисел кхкт Ц ^ к, ^. п, 1 ^ / ^ т) и булевские константы с0, сх, с^, такие, что ф/х61 ... xfem эквивалентна
Со + сх П (1 + хк^ + с2 • 2 xkf.
Более того, если ф есть р-формула, то с^ = 0.
Положив л = П(1 + xkj), Q^^Xhp имеем п-о = 0. Следовательно, лемма утверждает, что ф/х эквивалентна двоичной формуле в л, о.
Доказательство леммы проводится с помощью построения все более и более простых формул из данной формулы путем подстановки нулей вместо некоторых переменных. Из построения будет ясно, что заключительная формула является р-фор- мулой (т. е. co + ci-л), если таковой является исходная.
Формула ф называется сокращением формулы ф тогда и только тогда, когда ф эквивалентна ф и когда для всех i(0 i) число вхождений х, в ф меньше или равно числу вхождений Xj в ф.
Пусть S — множество переменных и ф— формула, содержащая по крайней мере две различные переменные. Тогда существуют формулы фь фг и булевская константа с, такие, что имеют место следующие условия:
ф1 4- фг или с + ф] • ф2 есть сокращение ф;
и ф1 и фг содержат по крайней мере по одной пере* менной;
число различных переменных из S, содержащихся в ф2, составляет по крайней мере половину числа различных переменных из S, содержащихся в ф.
Замечание. Мы будем обозначать двоичную операцию над фь ф2 одним символом *, Ф1*ф2. Надо иметь в виду, что различные вхождения звездочки в одной и той же формуле не обязательно относятся к одной и той же операции.
Последовательность формул (фь...,фп) называется нормальной в том и только том случае, если:
каждая формула фь I ^ i ^ п, содержит по крайней мере одну переменную;
для каждого i, 1 ^ i ^ п, либо ф, содержит только одну переменную, либо ф; содержит только те переменные, которые содержатся в формуле фгф2-"ф,_ь
Замечание. Пусть (ф1фп) нормальна, и пусть (хь ••• .. .,%т)—последовательность, полученная из (ф1фп) подстановкой 0 вместо некоторой переменной во все формулы фь ..., фп и удалением после этого формул, не содержащих переменных. Тогда (%1Хт) нормальна.
Формула ф называется формулой типа т^ в том и только том случае, если существуют формулы фь ф2, такие, что для некоторой операции * имеют место следующие условия:
ф1 *ф2 есть сокращение ф;
существуют по крайней мере q различных переменных, входящих как в фь так и в ф2."
Формула ф называется формулой типа Тр в том и только том случае, если существует нормальная последовательность (фь. ,.,фР) формул, такая, что для некоторой последовательности операций * формула
Ф1 * (Ф2* (Фз*(. ••))
является сокращением ф. Примером формулы такого типа является
+ Ф] • (Фг+ Фз • (1 + Ф< ' Ф5))>
при этом последовательностью операций м*у будет ! + «• и, м + у, и-и, 1 + U-У.
Лемма 1. Если 1 ^ р, i^q, 4^-q^n и если ф— формула, содержащая п переменных, то существует последовательность х переменных ф, такая, что ^/х является формулой либо типа т), либо типа х2.
Доказательство. Предположим, что не существует последовательности х переменных <р, такой, что ^х является формулой типа т^ и определим последовательности (фЬ • • ■, фр) и (Ф1фР) формул так, чтобы выполнялись следующие условия:
ф1 есть ф;
для всех i, 1 ^ i ^ р, последовательность (фь ..., ф,) является нормальной;
для всех i, 1 ^ i ^ р — 1, формула фi содержит по крайней мере 4 г-1'-д переменных, не содержащихся в фгф2 ... ф{_г,
для всех I, l^t^p—1, существует последовательность у переменных ф, содержащая все переменные из фгфг...
... iff—ь такая, что ф<*ф/+1 есть сокращение формулы ф,/у для некоторой операции *;
существует последовательность'z переменных ф, содержащая все переменные формул фь ф2, • ••> Фр-ь такая, что фр есть фр/г.
Определим ф1 как ф и предположим, что для некоторого t(l^i^p—1) определены последовательности (ф]ф,-) и
(фь ..., фы), удовлетворяющие условиям, перечисленным выше. Пусть Sj — множество переменных ф,-, не входящих в ф]...фы; Si содержит по крайней мере 4р-<-<7 (^2) элементов. Следовательно, существуют формулы хь ©г и операция *, такие, что:
Хг * ©i есть сокращение ф,;
Xi содержит по крайней мере одну переменную;
со» содержит по крайней мере 2-4Р"'~’-у переменных, не содержащихся в ф1-ф2 ... ф1-ь
Пусть у— последовательность переменных, состоящая из переменных ф] ... фы-фг- Тогда
Ф1*(ф2* . .. (Ф/-1 * Фг) ...)
есть сокращение ф/у. Пусть z— последовательность переменных из у, не входящих в ф] ... фы. Тогда при некоторых булевских константах Сь с2 формула С1 + с2-ф,/г будет сокращением ф/г.
Если Xi * ©г — сокращение фь то формула Хг/г * ЮгТг — сокращение ф{/г. Следовательно, для некоторой операции * формула ^i/z^&ilz является сокращением ф/г.
По предположению не существует х, такого, что ф/х является формулой типа т*, следовательно, формулы Хг/^ и сщ/г имеют меньше, чем q различных общих переменных.
Число различных переменных со,, не входящих в ф] ... фых<, не меньше, чем 2-4P~i-1-y — q, и поэтому не меньше, чем 4?-г-1. q
Если Хг содежит переменные, входящие в ф] ... фы, то обозначим через и последовательность, содержащую в точности следующие переменные:
все переменные, входящие в фь ..., фы; все переменные со,, не входящие в хь
Если определить ф/, как х«/«, а фг-ьь как со,/я, то видно, что условия (1) — (5) выполняются.
Если же Хг не содержит переменных ф,- ... фы, тогда пусть и — последовательность, содержащая в точности следующие переменные:
все переменные, входящие в ф] ... фы", точно одну переменную из хь все переменные формулы ®ь не входящие в Ф1 ... фг—i-Xi- Снова определив ф(, как Хг7«, и фы, как toilu, мы видим, что условия (1) — (5) выполняются.
Предположим, что последовательности (фь ...,фР), (фь--. . ...фр-i) определены; фр содержит по крайней мере q переменных. Если фр содержит переменные, входящие в ф] ... фР-ь то пусть х — последовательность, содержащая переменные из ф, ... фр-ь Если фР не содержит переменных из фь ..., фр-ь то пусть х—последовательность, содержащая все переменные ф1 ... фр-i и в точности одну переменную фр. Определим фР, как фр/х, в обоих случаях. Условия (1) —(5) выполнены; формула
ф,*(ф2* . .. (фр-j* фр) ...)
является сокращением ф/х, т. е. ф/х является формулой типа Тр.
Лемма 2. Если последовательность (фь---,фп) нормальная, если никакая переменная не входит более чем в k формул из набора фь ..., фп и если н ^ (^ + 1)™, то существует целое положительное число р и различные целые положительные числа ку, .... кр, такие, что имеет место следующее;
Хк, содержится в ф|;
если (хь • • •, Хч) — последовательность, получающаяся из (ф!фп) подстановкой 0 вместо всех переменных, кроме х^, .... Xkp, и вычеркиванием после этого формул, не содержащих переменных, то;
m^q;
для всех j, 1 ^ / ^ т, формула ^ содержит в точности одну переменную, скажем xt;,
последовательность (гх,..., im) (определенная в (Ь)) является последовательностью без чередований.
(Говорят, что последовательность (й, ..., im) является последовательностью без чередований в том и только том случае, если для всех /ь /2, /з выполняется следующее условие: если 1 ^ /1 < /г < /з ^ гп и ij, = i /„ то I;, = ij2. Последовательность (9,9,7,8,8,8,1) является последовательностью без чередований, а последовательность (9,9,7,8,8,9,1) таковой не является.)
Доказательство. Пусть х6 — переменная, входящая в фь Если т=1, то р=1 и ку удовлетворяет требованиям леммы. Для того чтобы выполнить индукционный шаг, надо рассмотреть два случая.
хк1 не входит ни в одну из формул ф/(2^/^(^ + 1)т""’ + 1). Если положить г = (^-|-I)™-1,+1, то последовательность (ф2,...,фг) будет нормальной и каждая переменная будет входить не более чем в к формул ф,(2^/^г); тогда если кг, ..., кр — индексы, полученные в соответствии е индукцион-
ной гипотезой, то последовательность (Аь...,Ар) удовлетворяет требованиям леммы. •
Предположим, что xki входит в некоторые формулы ф^ (2 ^ / ^ (А + I)"1-1 + 1), и пусть А —наименьшее из таких чисел /. Кроме того, пусть V — множество переменных, отличных от xfei и содержащихся в ф2 • • • фл-ь Подставим 0 вместо всех переменных из V в формулы фь фд, фь+ь ---, фп и вычеркнем формулы, не содержащие переменных. Пусть в результате этого получилась последовательность ^ацюг). Длина последовательности (фь фл, фЛ+ь ..., фп) есть по крайней мере п— (А 4-' + 1)т-1 + 1.
В ф2 ■.. фл—1 содержится меньше, чем (А+1)т-1 различных переменных, каждая из которых входит самое большее в (А — 1) формулу из фь фл, ..., фп. Следовательно,
r>n-(k+ l)m-'+ 1—(А—1)(А + If"', т. е. г>(к + l)m-l+ 1.
Последовательность (ш2, • • • > wr) нормальная, и ее длина не меньше (A+l)m-1; хк входит в а>2- Если (Аь..., к^ — последовательность индексов, полученная согласно индукционной гипотезе для (и2(Or),то та же самая последовательность
удовлетворяет требованиям леммы для (фь . ,.,фп).
Лемма 3. Если ф — формула типа т^, если никакая переменная не входит в ф более к раз и если р ^ (А 4- l)ft ■m, то существуют пг различных переменных х^, ..., хкт, входящих в ф, таких, что ^(хц ... xkm эквивалентна некоторой формуле и, удовлетворяющей следующим условиям;
Существует последовательность (иоыт) формул, такая, что;
никакая переменная не входит в ио более чем k — 1 раз;
для всех j, 1 ^ / ^ m, существуют булевские константы aj, bj, с,, такие, что и, эквивалентна
а1 + (^/ + С11 ^,) * ®/-i
для некоторой операции
и — это формула ит-
Доказательство. Так как ф является формулой типа т^, то существует нормальная последовательность (фь..., фР), такая, что некоторая формула
ф, * (ф2 * ... * фр)
является сокращением формулы ф. Каждая переменная вхо- дцт самое большее в А формул из фь ..., Фр- По лемме 2
существует последовательность * переменных ф, такая, что последовательность
<Xi, •X»),
полученная из последовательности
<^1/^^pW
вычеркиванием формул, не содержащих переменных, обладает следующими свойствами:
k-m ^ q\-
для всех /, 1 ^/^А-т, формула xj содержит в точно
сти одну переменную, скажем xt
последовательность (й, ..., 1^ является последовательностью без чередований.
Каждая переменная содержится самое большее в к формулах из хд 1 ^ / ^ 9- Следовательно, последовательность (й,..., й-m) содержит по крайней мере т различных чисел; пусть кхкт— такие числа, и положим у = (хкх, ..., хк^). Тогда существует последовательность (гь ..., fm^i), удовлетво
ряющая следующим условиям:
l=rm+i < гт< ... <f!<p;
для всех j, 1^/^m, формула П ф/ содержит rl+i<'<ri
ровно одну переменную из у;
для всех h, j (1 ^ h < j ^ т') переменные из у, входящие в П ф; и П Ф/, различны.
rh+i<i<rh г/+,<‘<г/
Можно предположить, что переменная из у, входящая в П Ф/, есть хкр \<.i<.m.
Определяя (о0 как
^rJy* ... ^^Jy
и для всех /, 1^/^т, определяя константы Д/, bj, с, И фор
мулы со / так, что
W(W *^гг\*®1-\>-^У
эквивалентна
ai + (^/ + CiXkj) * to/-i
для некоторой операции *, мы убеждаемся в том, что условия леммы выполнены,
9. Определение понятия «базисная формула»: формула q> является базисной в (х, , х,х. \ типа (аь ...,а„) в том и только том случае, если выполняются 'следующие условия:
(xt , xt • • • • > xi ) есть последовательность отличных друг от друга переменных;
(aian) есть последовательность операций ab 1 ^ п, каждая из которых является либо булевским произведением, либо булевской суммой;
существует последовательность формул (ф0фп) и три последовательности констант (ab ..., ап\ (606П) и (с0,..., с„),
такие, что ф0 есть b0 + сохи;
для всех М0<А</г-1)фН1 есть ak+x + (^+1 + c^J Ф*> если аА+1 —• произведение, или (Ьк+Х + ск+хх1к^ ) + Ф6> если “6+1 — су*ма;
Ф„ есть ф.
Формула ф, базисная в (зц, ..., х^, имеет вид
Фп*(фп-1* ••• *(Ф1*Фо) •••),
где ф/ содержит переменную х^ и не содержит никаких других переменных.
Если ф является базисной в (xt0, ..., xt^ типа (ab ..., a„) и 1то ф/ / эквивалентна формуле, базисной в (хц, .,,
..., х^ типа (a,art).
Лемма 4. Если ф является базисной в (xt , ..., xtr^ типа (ab ..., a„) и n^6m, m^l, то существуют m различных чисел кх, .... кт среди ixin и булевские константы do, dx, d8, такие, что формула ф/х^х^ ... хкт эквивалентна либо
do + (di + d2Xt^ • П (1 + хк^, либо do + dxXi6 + d2 2 хкр
Доказательство. Положим ij = j, 0 ^ j ^n, и m ^ 2. Кроме того, пусть последовательности формул и булевских констант будут такими, как указано в определении базисной формулы. Пусть пх — число операций суммирования среди ab ... ..., ал, а п2— число операций умножения; пх + п2 = п. Если пх ^ 2m, то пусть ixi2m — 2m различных чисел, таких, что atj, 1^/^2т, являются суммами. Тогда формула ф/xqX^ ... • • • xilm эквивалентна некоторой формуле
2m
do + dxXo + 2 6jXt .
/=i1
Существуют т различных чисел / и булевская константа ^2, такие, что е, = d2. Следовательно, существуют различные ^ь . •., кт, такие, что ф/хохА1 ... хкт эквивалентна т
dg + dxXo + d2 i xk .
/=i '
Предположим, что пх < 2m; тогда ад есть операция умножения по крайней мере для 4m различных индексов к. Если существуют m различных чисел к\, ..., кт среди 1, ..., п, таких, что ckj = 0, 1 ^ / ^ т, то формула ф/хохА1 ... хкт эквивалентна do + diXo для некоторых констант do, d\. Предположим противное, т. е. что существуют 3m различных индексов к, таких, что ад есть операция умножения и ск = 1. Положив х равной последовательности из соответствующих- 3m переменных, заменив ф/х на ф и изменив обозначения, можно доказать следующее. Если n>3m, то ф0 есть b0 + CqXq; для всех ^(0^ <Ь<и — 1) фА+1 есть щ+1 + (bh+i + А+1)-фА; ф„ есть ф, то тогда существуют различные числа кь .. ., кт, такие, что ф/хохА1 ... хкт эквивалентна некоторой формуле
т
do + (di + d2xQ) • П (1 +
Если существует индекс к, такой, что Ьк = 0 и m + 1 ^ й, то формула ф/хоХ] ... хт эквивалентна константе. Предположим поэтому, что Ьк#= 0 для всех к, т + 1 ^к, подставим 0 вместо хь ..., хт и опять изменим обозначения: п ^ 2т; фо есть Ьо + сохо; для всех .^(0 ^ к ^ п — 1)фй+1 есть aft+I + (1 + -ф Хь+1)-ф^; фп есть ф. Если все константы ак, 1 ^к ^.п— \, есть 0, то ф эквивалентна
ап + (Ьо + CqXq) П (1 + Хй)а=1
и требование леммы выполняется.
В противном случае пусть tb ..., ip_] — индексы I, такие, что flj = 1 и L ^ Z < и; tj < 1'2 < ... < 1Р_Х.
Определим последовательность (фь ..., фр) следующим образом:
Ф1 есть П (1 + xz) (Ьо + Сохо);
фй+1 есть П (1 + х<) (1<А<р-2);
ФР есть П (1+xz).
zp-i<z
Тогда <р эквивалентна формуле ф, равной
Ср + (...(1 + ф3(1 + ф2(1 + ф1)))...).
Для всех h, j, таких, что 1 ^ h < / ^ р, формулы фЛ, ф, не имеют общих переменных.
Подставляя 0 в ф вместо всех переменных, входящих в одну из формул ф2д / = 1, 2, ..., мы получим формулу хь эквивалентную
с + Фз^-м 1 Ф^-i • • • Ф3 • Ф1 (с = ср; s = [у (р - 1)]).
Подставляя 0 в ф вместо всех переменных, входящих в одну из формул фгнь / = 1, 2, .... а также вместо всех переменных х,-, 1=1i'i (входящих в ф1), мы получим формулу Х2, эквивалентную
с + ф2< ... ф2(1+ &о+сохо) (^[т^])1
Среди переменных Хь ..., xn, п^ 2m, существуют либо m переменных, входящих в одну из формул фь ..., ф2з+ь либо m переменных, входящих в одну из формул ф2, ..., ф2ь В обоих случаях существуют различные числа &ь ..., km, такие, что ф/х0х61 ... xkm эквивалентна некоторой формуле
do + П (1 + xk^ (d] + d2x0).
Основная лемма. Пусть F — рекурсивная функция, определенная следующим образом:
F (m, 0) = т;
F (т, ^ = 4'k+''6'k'F<m‘^ к - 1), к - 1).
Если n^F(m,k) и ф— формула, зависящая от переменных Хь ..., х„, ни одна из которых не встречается в ф более чем к раз, то существуют различные целые положительные числа кх km (^^kj^n, 1 ^ / ^ m) и булевские константы Со, Сь с2, такие, что <р/хк) ... х^ эквивалентна
Со + С] П (1 + ^Й/) + С2 2 xk
Более того, если ф является р-формулой, то с2 =0.
Доказательство. Доказательство ведется индукцией по к, случай ^ = 0 тривиален. Положив р = (к-\- i)6,6,F<mi ft-l)f q = —F(F(m, к — 1), к — 1) и применив лемму 1, получим, что существует последовательность х переменных Xj (l^i^n), такая, что ф/х является либр формулой типа т^, либо формулой типа т^.
Если q>fx является формулой типа т^, то существуют формулы фи ф2 и операция *, такие, что ф, * ф2 есть сокращение ц>!х, и такие, что существует по крайней мере q различных переменных х1? ..., х^, входящих как в ф1( так и в ф2. Переменные хцXiq, следовательно, имеют не более чем (&—1) вхождение в фу (/'= 1, 2). Подстановка 0 вместо всех остальных переменных в ф1 * ф2 приводит к формуле ф, * ф'. Применяя индукционную гипотезу к ф', видим, что существуют F (т, k— 1) переменных х$, ..., xlr (r = F(m, к — 1)), таких, что если положить у = ^х/1, ..., х^, то формула ф'/у окажется эквивалентной некоторой формуле
Со 4- С,л + с2о, где л = П(^/,+ 1)к <^=2^.
Применяя индукционную гипотезу к ф2/у, видим, что существуют т различных переменных хк, ..., хкт среди переменных Xjv ..., xir, таких, что если положить z = (xki, ..., хкп^, то формула ф2/г будет эквивалентна некоторой формуле
с'+ ф/+ 4а'> где л' — П^! + хлД a' = ^xkf
Формула ф1/г эквивалентна
с0 + схл' + с2</,
и, следовательно, формула (Ф1 * ф2)/^ эквивалентна некоторой формуле
do -f- dxn.' -^- d2o'.
Формула (ф] * ф2)/г эквивалентна формуле ф/г.
Предположим теперь, что ф/* является формулой типа т^. Положив s = f>F(m, к— 1) и применив лемму 3, получим, что существуют s различных индексов 1Х, ..., is и формулы Ио, ..., ш5, такие, что если положить у = (х{, ..., Xis), то формула и^ станет эквивалентной ф/у (это то же самое, что и ф/я/у), а последовательность (ио, ..., и5) будет удовлетворять следующим условиям:
ни одна переменная не входит в ио более чем (к—1) раз;
для всех j, 1 ^ / ^ s, формула uj эквивалентна некоторой формуле
ai + (bi + CiXi^ 1 ю/-! или (fy + C/*i )+ “/-!•
Определим последовательность формул (фо, • • •, фз) следующим образом:
фо есть х0.
Для всех /, 1 ^ / ^ s, формула ф, эквивалентна a^^bj-VCjXt^ • ф/_, или (б/Н-С/^^ + ф/-]
согласно соотношению между со, и со,—i. Формула ф3 является базисной в (хо, XixXi^\ более того, ф3/щ° эквивалентна со3. Положив t = F(m, k— 1) мы получим s > 6/. Применяя лемму 4, получим, что существуют различные целые положительные числа /1, ..., jt, такие, что если положить z = <Xj , ... • ••, х^, то формула ф3/г станет эквивалентной некоторой формуле
t
do + kd\ + d2x0) 1 П (1 + X(^,
t
do + dtxQ + ^2 • i Xj.
i=l 1
Формула ф/z, следовательно, эквивалентна некоторой формуле
do + (di + d2coo/z) ■ П (1 + Xj^,
do + d^o/z + d2 i Xi.
Мы имеем t = F(m, к— 1); применяя индукционную гипотезу к too/z, получаем m различных целых положительных чисел к\, ..., кт, таких, что если положить и = (хк1х*т), т0 формула ooju станет эквивалентной некоторой формуле
сг= 2 хк . / ’сг= 2 хк . / ’Со + С[Л + с2а, где л = П (1 + хк^,
сг= 2 хк . / ’
сг= 2 хк . / ’
Так как л-а = 0, то формула ф/z сама будет эквивалентна некоторой формуле
во + с, л + е2а.
Если ф есть р-формула, то можно принять е2 = 0.
Теорем а. Если п ^ 2-F(m,2-c) (F — функция, определенная в п. 10) и ф — формула, забисящая от переменных
хь ..., х„, длина которой меньше, чем с-п, то существуют целые числа кх, ..., km (Y ^ кх < ... < km ^ п) и булевские константы Со, сх, с2 такие, что ф/*6] ... x*m эквивалентна
Со + сх JI (1 + ХА/) + с2 S Xhf.
Более того, если ф является р-формулой, то с2 = 0.
Доказательство. Пусть гц — число переменных х,-, 1 ^ t ^ п, входящих в ф более чем 2с раз, и п2 — число переменных, входящих в ф не более чем 2с раз. Ясно, что пх 4- -|- п2 = п и с-п ^«1-2с. Следовательно, п2 ^ F(m, 2с). Пусть
х;, ..,, Xj — различные переменные, входящие в ф не более чем 2с раз. Определим x = (xjх; ^, и пусть ф— формула ф/х. Утверждение теоремы получается, если к формуле ф
применить основную лемму.
Теорема 1. Для каждого числа с существует формула ф, такая, что для каждой р-формулы ф, эквивалентной ф, имеет место следующее неравенство:
длина ф ^ с • длина ф.
Доказательство. Предположим, что п = 2F(2,2-с), и п
пусть ф — формула 2 *z- Если ф — р-формула от переменных
хь ..., хп длины, меньшей чем с-п, то существуют целые поло- жительные числа h, i и булевские константы do, di, такие, что 1 ^ h < i ^ п и что ф/х^х, эквивалентна do + d|(l 4- х^ (1 4* 4- х;). Формула ф/х^х,- эквивалентна Xh 4-*z, следовательно формулы ф и ф не эквивалентны.
Теорема 2. Для каждого числа с найдется формула пропозиционального исчисления второго порядка Ф (в базисе конъюнкция и отрицание), такая, что для каждой формулы ф (формулы пропозиционального исчисления первого порядка), эквивалентной Ф, (шеет^есто следующее неравенство:
Доказательство. Предположим, что п = 2-F(3, 150-с), и определим формулы фь, 1 ^ к ^ п, следующим образом:
Ф, есть (Х[ 4- щ) • (1 + X! 4- V]) • (1 4- су,), фб+1 есть (1 + «6 + хк+\ • Uh 4- *6+1 • wk + «6+1) X
X (1 + «6 + *6+i • °6 + *6+i • «6 + ®6+i) X
X (1 + Wk + *6+1 • 8Уб + *6+1 • Об + ®л+1).
п
Длина формулы ф', определяемой как Ц ф/ • ип, равняется -1=1
18п — 12. Существует р-формула ф, эквивалентная ф', длина которой не превосходит 4-(18п—12). Пусть Ф — формула
(Эи,) (Зи2) ... (Зи„) (Зи,) ... (Зи„) (Зш,) ... (Зш„) Ф.
Тогда длина Ф меньше, чем 75 • п.
Если (с,, ..., с„) — последовательность булевских констант, то ф/*’ принимает значение 1 в том и только том случае, если число индексов I, таких, что 1^/^и и с, = 1, равно О ПО модулю 3 («Ид», «Ид», «Шд» говорят о том, что число констант среди с,, ..., Сд, равных 1, равно соответственно 0, 1, 2 по модулю 3).
Пусть ф — формула длины, меньшей чем с • (75 • и). Так как и = 2-/7(3, 150 • с), то существуют индексы h, i, j и булевские константы dQ, d;, d2, такие, что 1 ^h<i < и что ф/х^Х; эквивалентна
do + d, (1 + х^ • (1 + xt) • (1 + Xj) + d2 (хл + Xi + XjY
Если (с,,..., c„) — последовательность, такая, что сл=1 и Сд = 0 для к ф h ^\<.к<.п\ то ^Р^*п принимает значение d0 + dy Если (с[, ..., с') — последовательность, такая, что с'=с, = с'=1 и с6 = 0 для остальных к (1^£^п), то ^ixx...xn ПрИНИМает значение d0 + d2. С другой стороны, /с, ... сп
ф/Х1'“х" равно 0, а ф/х',“‘х? равно 1; следовательно, фор-
I Сх ... сп/ с{ ... сп
мулы Ф и ф не эквивалентны.
СПИСОК ЛИТЕРАТУРЫ
Hodes L., Specker Е., Elimination of quantifiers and the length of formulae. Notices Am. Math. Soc., 12 (1965), 242.
Hodes L., Specker E., Elimination von Quantoren und Lange von Formein, Abstract J. Symb. Logic.
Нечипорук E. И., Булевские функции, Доклады Академии наук СССР, 169 (1966), 765—766.
Характеристика контекстно-свободныхязыков
И. Груска
ВВЕДЕНИЕ
В последние годы теория языков и автоматов развивалась в направлении изучения новых грамматик, автоматов и языков, абстрактных семейств языков, трансляторов и т. д. Несмотря на это, центральное место в теории языков по-прежнему занимают регулярные и контекстно-свободные- языки (КСЯ), и можно ожидать, что их изучение окажется полезным и послужит стимулирующим фактором для дальнейшего развития теории языков.
Важным преимуществом регулярных языков является возможность описать их с помощью регулярных выражений наряду с представлением этих языков посредством грамматик. Аналогичная характеристика КСЯ, возможно, также окажется полезной. Однако едва ли КСЯ можно охарактеризовать так же элегантно и просто, как регулярные языки.
В разд. 2 дается характеристика КСЯ регулярного типа (регулярно-подобная, regular-like) с использованием объединения, произведения (конкатенации) и новой операционно-символьной итерации. При этом мы вынуждены использовать некоторые «вспомогательные» символы. Их роль и количество обсуждаются в разд. 3. Применение результатов второго раздела к полулинейным языкам и их подклассам представлено в разд. 4.
РЕГУЛЯРНО-ПОДОБНАЯ ХАРАКТЕРИСТИКА КСЯ
В этом разделе устанавливается регулярно-подобная характеристика КСЯ-
Мы начнем с введения основных понятий и обозначений теории языков. Если Li и L2— языки, то произведение Lx на L2, короче Lx-L2 или LXL2, есть язык Lv L2 = (z| г = ху; хеЦ; у е L^. Для языка L и целого числа z ^ О L1 определяется как L0 = {е}, где е —пустое слово, L^1 = U-L для z 5$ 0. Наконец,
г=ил
/—о1=1
*) Gruska Jozef, A characterization of context-free languages, J. Comput. Syst. Set., 5, № 4 (1971), 353—364.
Контекстно-свободная грамматика G определяется 4-набором G = (S^, Sr, Р, ст), где Siv— алфавит нетерминальных символов, короче говоря, переменных; Sr—алфавит терминальных символов; Sn Л St = 0; начальный символ aeS^ и Р— конечное множество правил вида Д-»ш, где А е Sw, о> е (StUSw) *. Для двух слов х и у мы записываем х^у тогда и только тогда, когда х = иАи, у — uwv для некоторых и и и из (StII U2n)*, а в Р есть правило A—*w. Через => обозначим транзитивное и рефлексивное замыкание ^>. Множество L (G) = = (х | ст =Ф х е Sr) называется языком, порожденным грамматикой G. Язык L называется контекстно-свободным, если L = = 1(6) для некоторой контекстно-свободной грамматики G.
Основная операция в нашей регулярно-подобной характеристике контекстно-свободных языков есть операция «символьной итерации», которая аналогично специальному случаю гнездной итеризованной подстановки Крала и Грейбах [5]. Для определения этой операции введем следующее
Определение 2.1. Пусть о есть буква, a L и Lx— языки. О
Тогда ^-подстановкой Lx в L, обозначаемой L f £ь называется
О
L | Li = {z| z = xxyxx2... хкукхк+х\ xxox2o ... oxk+x e U
о не встречается в словах хх, х2, .... xk+x, a yxeLx для 1 <z ^ &}.
о
Следствие 2.2. Для каждого символа о операция f ассоциативна.
Определение 2.3. Пусть о — буква, a L — язык, a-итерацией L, обозначаемой через L0, называется множество
(7О
L° = {z|ze L ULfllUfl-UU2 не содержит а}.
Замечание. Если L — язык над алфавитом SL, а ст — буква, то L° является языком, порожденным грамматикой G =({о}, 2L — {a}, Р, о), где Р = {(ст—*х) |х е L} есть, вообще говоря, бесконечное множество продукций. Если язык L конечен, то L° является контекстно-свободным языком.
Если ст не принадлежит Sr„ то L* = (LoU{e})°, a L* = = .(LctUL)"
Следующая лемма подытоживает некоторые отношения между операциями символьной подстановки и символьной итерации,
Лемма 2.4. Пусть L, Lx u L2— языки над алфавитами ^l, Sr., и 'Ll, соответственно, а о и р — буквы. Тогда;
(ОИ-М";
если о ^ 2£, то арроб
(М^)и = (М/-)!(ЬШ
если о ^ S£, то р рр о
ьцмиМИЬ№
если о ^ S£, то
(LxUf = ^U.
Доказательство. Очевидно, для. доказательства (i) достаточно показать, что (L°)P = (Lp)°. Если z е (Lo)P, то существует последовательность слов zx, z2, ..., zr, такая, что zxeL°, zk = z, a zt = utpvi, Zi+X —UiWi+xv{ и ®i+1gL° для 1=1, 2, ..., г—1. Если положить ш1=г1, то wx е L0 для 1=1, 2г, и поэтому для каждого такого i существует последовательность z{, zl2, ..., z^, такая, что z\ е L, zlk=wt и zj+1 для /= 1, 2, ..., ki — 1 получается из zj заменой а словом из L. Образуем теперь последовательность
(*) ■г', .... 4=zv uxz^vv uxz2kx)x = zy
UA°2Ur_tZrkVr_x = Z,
которая является фактически выводом z из г} в контекстносвободной грамматике G с двумя нетерминалами о и р и правилами о—>а, р-*а для всякого а е L. Вывод (*) обладает следующим свойством: буква р заменяется на слово из L в том и только том случае, когда ни одна буква о не может быть заменена. Очевидно, что существует дерево вывода, соответствующее (*), и этому дереву соответствует другой вывод z из zx в G, при котором о заменяется тогда и только тогда, когда ни одна буква р не может быть заменена. Но это означает, что ze(LP)°. Следовательно, (М) р £ (Lp) °, что завершает доказательство (1).■
Остальные утверждения (ii) — (iv) теперь очевидны.
Определение 2.5. Пусть 2 — алфавит (возможно бесконечный). Обозначим через ^ наименьший класс языков, удовлетворяющий следующим условиям:
(1){е}Е<Г2;.
если а е 2, то {a}E<F2;_
если Lx, L2 принадлежат <F2 и ue2, то LX\3L2, Lx-L2 и Ц принадлежат <F2.
Замечание. Будем говорить, что L есть язык над бесконечным алфавитом 2, если L ед 2д для некоторого конечного подмножества 2£ <=2.
' Лемма 2.6. Если 2 — бесконечный алфавит, о е 2 и О
Lx, L2 — языки из $-l, то Lx \ L2 принадлежит S^.
Доказательство. Фиксируем Ь2 в Ss. Если яе2, то О
Ш^ есть либо {а}, либо L2 и в обоих случаях принад- О
лежит Ss. Семейство В языков L, таких, что язык L\ L2 принадлежит Sv, замкнуто относительно объединения, произведения и Oo-итерации для о0 ^ 2. Так как В содержит {е} и {а} для каждого а е 2, мы видим, что В содержит <F2. Таким
О
образом, если Lx принадлежит ^г, то Lx f L2 также принадлежит ё^.. Поскольку язык L2 выбран произвольно, это завершает доказательство.
Теперь мы в состоянии доказать основной результат этого раздела, а именно, что каждый КСЯ может быть представлен с помощью операций U, • и символьной итерации.
Теорема 2.7. Если 2 — бесконечный алфавит, то L является (непустым) КСЯ над 2 тогда и только тогда, когда
Доказательство. Согласно определению 2.5, для того чтобы доказать, что каждый язык из ^2 является контекстно-свободным, достаточно показать, что для всякого контекстно-свободного языка L и всякой буквы о язык L° также является контекстно-свободным. Пусть дан язык L, a G есть контекстно-свободная грамматика (КСГ), порождающая L, причем о не является переменной G. Тогда L0 является языком, порожденным грамматикой G' с начальным символом о, а правила G' — те же, что у G, плюс еще одно правило: о—»oq, где Оо есть начальный символ G. Таким образом, L° является КСЯ. Остается доказать, что <F2 содержит все КСЯ над 2.
Пусть L — непустой КСЯ над алфавитом 2L<=2. Поскольку 2 — бесконечный алфавит, существует КСГ G = (2^ 2l, Р, а), порождающая L и такая, что 2n<=2. Пусть оь о2оп является списком переменных G и Oj^Gj при i^j. Без уменьшения
общности можно предположить, что множества 0< = {х|о/ => =Ф х е Si}, 1 ^ I ^п, непусты.
Определим множества (для 1<л^п)
У; = {о/|/< j<n}, Pt = {o'->а) |(o'->а) e P, o' e KJ
и грамматики
Gi = (yu ВД^-ViY Pt) oh.
Кроме того, определим для l^i^^^n языки Ф/,* с помощью двойной спускающейся от п индукции:
Ф/, п = {а | (о^ -+ а) е ^} для 1 ^ Z ^ п,
а для i < ка для i < к(*)(*)°кФ. k . = Ф, Л Ф°*°кФ. k . = Ф, Л Ф°*
а для i < к
а для i < к
(*)
(*)
°к
Ф. k . = Ф, Л Ф°*
°к
Ф. k . = Ф, Л Ф°*
Согласно лемме 2.6, множества Ф/, * входят в ^s. Используя (*), определения 2.1 и 2.3 и спускающуюся от п индукцию по к, мы получим для 1 ^ I ^ к ^ п:
Ф,_ 6 = (х | существует а е Ф, „, такое, что 0;->а=^х в G, х не содержит букв из К*+1 и существует вывод х из а в G, в котором применяются лишь правила из Ра+1}*) и
ф®<, = [х | о, =Ф х, где х не содержит букв из Vt и существует вывод х из с,, в котором применяются лишь правила из Pj\
Поэтому Ф^е Ь(О^ для l^i^n. Для завершения доказательства достаточно показать, что ЦО.^еФ^ также для 1 ^Z^n. В доказательстве применяется индукция по I, спускающаяся от п.
Это, очевидно, имеет место для 1 = п. Предположим, что L (Gy) s Ф^ (а потому и L (G^ = Ф^у) для j = z‘+1, Z-j-2, ,,., п. Покажем, что тогда L (Gf.) S Ф0^, для чего положим л(ш) = = max{t|a/ встречается в аа} для каждого да е (Sjv U 2J* — 2L Сначала покажем, что
если в Р есть правило о, -> а их можетесли в Р есть правило о, -> а их можетбыть выведено из а в Gбыть выведено из а в G<+ь<+ьто х Е Ф/, I.то х Е Ф/, I.(1)(1)
если в Р есть правило о, -> а их может
если в Р есть правило о, -> а их может
быть выведено из а в G
быть выведено из а в G
<+ь
<+ь
то х Е Ф/, I.
то х Е Ф/, I.
(1)
(1)
В самом деле, пусть х обладает указанным свойством. Тогда существует вывод т слова х из ог*.
т: oi = w1, ш2, ..., wt = x.
такой, что л(ф/)>г для 1 </^/ и на каждом шаге вывода заменяется буква О; с максимальным /". Для простоты, пусть л(/) обозначает л(ш/) для 1^/^/. Определим последовательность целых чисел kx, к2, ..., kr следующим образом: кх = 2. Пусть уже определены числа кх, к2к;. Если kj — l, то ] = г. Если kj<l и л (v) ^ л (kj) для к!<^<1, то kj+v = /; в противном случае kj+x = min(v | v > kj, л (v) < л (Е/)}. Очевидно, что ш&, получается из да*, = о>2 заменой всех букв ая <2) словами из Е(Оя(2)) = Ф°л(2<)2)л(2). Таким образом, ш^ е Ф^ я(2Н. Вообще, если 2<j<l и wkj Е Фг, Я(»/_])-ь то даА/е Ф;, Я(*р также, и ®й/+1 получается из wkj заменой всех букв <тЯ(б ) некоторыми словами Е(ОЯ(6/)) и поэтому wkj+i еФ,-. л(&/)- ь Таким образом, хеФг, f, и утверждение (1) доказано.
Теперь предположим, что хе L (G;), и пусть опять ot = = wx, w2, ..., wt = x является выводом х, таким, что на каждом шаге вывода заменяется буква о/ с максимальным индексом. Пусть 1 = кх < к2< к3 ... < к, =1 является последовательностью всех целых /, таких, что л(/) = / и j < I. Согласно (1), это означает, что гв^Еф;,/. Кроме того, wkj (для / > 2) получается из wk/_t заменой букв at некоторыми словами, которые, согласно (1), принадлежат Ф;,/. Так как ах не входит в х, то х должно принадлежать Ф^.. Таким образом, L(Gj)sФ°<j, что и завершает доказательство теоремы.
Замечание. Регулярные языки часто определяются как события, представимые регулярными выражениями. Ввиду доказанной теоремы, КС-языки над бесконечным алфавитом также можно определить как языки, представленные контекстно-свободными выражениями (КСВ) над 2, которые определяются следующим образом (здесь мы предполагаем, что для каждой буквы а е S есть специальная буква а, не входящая в 2):
если аЕЕЩе}, то а является КСВ;
если Ех, Е2 являются КСВ и а е 2, то (Е^ЕУ, (Ех ‘ Е^, (Еха) являются КСВ.
Здесь мы предполагаем, что если КСВ Е представляет язык L, то выражение (Еог) представляет язык L0,
Следствие 2.8. Если 2 — конечный алфавит, то L является КСЯ над 2 тогда и только тогда, когда LeS^ для некоторого конечного алфавита 5'2 5.
Доказательство немедленно следует из теоремы 2.7.
Пример 1. Если L= {aj6j|/^l}, то L = (аог61)а6)°.
Пример 2. Пусть L является языком, порожденным грамматикой с начальным символом си и правилами
щ -> ааф, Ci -> ba2ajba, а2 -> а^ф, о2 ba3c3ba, о3 -* а3а3Ь, о3 -> baa фа, о3-*Ь.
ТЬгдаL'=■ (6а2 фа3 ф3сЬ U bapba U 6) ° ba U a2obf ba U арб)*.
ВСПОМОГАТЕЛЬНЫЕ СИМВОЛЫ
Для конечного алфавита 2 и целого числа к пусть ^2, к обозначает класс всех КСЯ над 2, входящих в §^>, где S' = = SU{<>1aj, а оь ..., оь — различные буквы, не принадлежащие 2. (Иными словами к в <Fs, к является числом «вспомогательных» символов, не входящих в 2, но используемых в регулярно-подобных конструкциях ЯЗЫКОВ ИЗ <^2, к.
Возникает естественный вопрос: существует ли для данного конечного алфавита 2 такое число к, что <Fs, к содержит все КСЯ над 2? Мы уверены в том, что если 2 содержит по крайней мере два символа, то ответ на поставленный вопрос отрицательный, но мы не располагаем доказательством этого1). Если 2 содержит только один символ, то все КСЯ над 2 регулярны и содержатся в S^, ь
В связи с доказательством теоремы 2.7 кажется, что вспомогательные символы, используемые в регулярно-подобных конструкциях КСЯ, играют ту же роль, что и переменные в контекстно-свободных грамматиках. Известно [7], что для всякого натурального п и любого алфавита 2 с не менее чем двумя символами существует линейный КСЯ Ln, который не может быть порожден КС-грамматикой, содержащей меньше чем п переменных. Например, если 2 = {а, 6}, то язык, порожденный КСГ с начальным символом а и правилами
ai-^alaYb, at-* Ьа1+ха1+фа, l^Z^ra—1
On-* ananb, an-* Ьаофа, o„->b2a2
’) Доказательство утверждения, связанного с этой проблемой, приведено в статье Мак-Вертера «Подстановочные выражения», помещенной В HflCgr, сборнике (стр. 127—136). — Прим, перев.
обладает таким свойством. Однако, применяя тот же способ, что в примере 2 из разд. 1, можно показать, что этот язык входит в 2. Мы даже можем доказать следующую теорему.
Теорема 3.1. Для любого конечного алфавита 2 класс <Fs, 2 содержит все линейные языки над 2.
Эта теорема следует из леммы 3.2, доказательство которой проще.
Лемма 3.2. Пусть G = (£N, 2, Р, о) — линейная КСГ и А, В различные буквы, не входящие в 2^ U S. Пусть G' = ^N, 2 U{Д}, Р U Р', а) — новая грамматика, образованная из G добавлением конечного множества Р' правил вида Х-^uAv, где XeIV) а «о е 2*. Тогда L (G)e ^хим, в), L (О') е ^sum, в) и оба языка L(G) и L (G') могут быть получены из языков {а}, а е 2 U {Д, В} U {е}, посредством конечного числа операций U, •, А-итераций и В-итераций.
Доказательство. Доказательство проведем индукцией по числу переменных G. Лемма очевидным образом справедлива, если G содержит только одну переменную. Предположим теперь, что лемма выполняется для всех линейных грамматик с не более чем 6—1 переменными. Пусть G=(£N, 2, Р, а)— линейная грамматика с 6 переменными a=ov>O2ok. Определим грамматики Gt (2 ^ z п), полагая Gt = (2^ — {о}, 2 U {а}, Р, 0i\ Р = Р — {(о-> а); (а-»а)ЕР). В каждой грамматике Gi (2^i^ п) имеется к — 1 переменная, поэтому, согласно второй части предположения индукции, L (G{) е ^що, ь> и язык L \G^ может быть получен из языков {а}: а е 2 U {а, В} U (е) посредством конечного числа операций U, •, о-итерации и В-ите- рации.
Пусть а-*^ (1 ^ j^r) является списком всех правил грамматики G с а в левой стороне. Определим языки Lj(l^j^r): если aj е (2 U {о})’, то Lj = VaA- Если aj = ualu для некоторого (г \а UE/) и поэтому /=1 /
L (G) е ^ища, в). Букву о можно заменить на А, и это завершает доказательство.
Пусть теперь G' = (2^, 2U{>1}, PUB', о), где Р'— конечное множество правил вида Х->иАи, А"е2^, ыуе2'. Определим для 2 ^ z ^ 6 грамматики Gi и G'i, полагая
Gz = (2Ar —{а}, 2UM), Pi, Qi), где Р, получается из BUB' удалением всех правил, содержащих (слева или справа) букву а;
G'i — (2дг — {о}, 2 U {а}, Pi, Ci), где Р\ получается из Р удалением всех правил, содержащих а слева.
В соответствии с предположением индукции оба языка L (Gi) и L^G'i) входят в Ssuva.Ai и могут быть получены из языков (a), aeZUfo, ^}U{e} операциями U, •, a-итерацией и Л-инте- рацией.
Пусть a->a, (1 ^/^г) является списком всех правил грамматики G со в левой части. Определим языки Lj (1 ^ / ^г) следующим образом: если a/E(SU(a, Л})*, то L/ = {a/}; если a/ = ua(U для некоторого I > 1, то Lj = u (L (Gt) U L (G[)) о. Оче- (г , a
(J La и лемма также справедлива для G'. i=v /
Тем самым завершен шаг индукции, а также доказательство леммы.
Замечание. Теорема 3.1. верна также для полулинейных языков (см. разд. 4), так как класс полулинейных языков является наименьшим классом, содержащим все линейные языки, и замкнутым относительно подстановки.
Из теоремы 3.1. следует, что из того факта, что для порождения всех КСЯ требуется бесконечно много переменных, нельзя заключить, что необходимо также неограниченно много вспомогательных символов в регулярно-подобных построениях КСЯ, и поэтому вспомогательные символы играют несколько отличную роль.
Вспомогательные символы необходимы, так как класс ^s, где 2 — конечный алфавит, не содержит всех регулярных языков над 2. Однако все они содержатся в ^g, ь
Существуют также нелинейные КСЯ, которые не могут порождаться грамматиками с менее чем п нетерминальными символами, но которые принадлежат^, 2. Например, язык, порожденный грамматикой с начальным символом щ и правилами
ct -> a^b, Gi -* caoYbca2o2bc ... ca"a„6c, ot->c, 1 ^ i ^ n обладает таким свойством.
ПРИМЕНЕНИЕ К ПОЛУЛИНЕЙНЫМ ЯЗЫКАМ
Согласно разд. 2, каждый КСЯ можно охарактеризовать, используя только операции объединения, произведения и символьных итераций. Секрет заключается в том, что символьные итерации являются достаточно сложными и не очень прозрачными операциями. В случае линейных и полулинейных языков символьные итерации имеют более простой и прозрачный вид, и эти языки характеризуются более простыми операциями. Ре-
зультаты этого раздела основаны на докладе [6] и имеют много общего с результатами Интемы [8] и Брзозовски [2] *).
Теорема 4.1. Для алфавита 2 через S с 2!‘ и Dc2YX 2* обозначим наименьшие классы, удовлетворяющие следующим условиям;
если a, iG2U{e), то {а} е S, {(а, 6)} е Z);
если X, Y gS, Р, Qe D, то
(2a) X U У s S, Р (J Q г D-,
(2b) Р ® X = {р1хр2| (рь р2) Р, xgX^gS;
(2с) POQ = ^pxqx, №>1 <Pi, №>еР, (qx, q^eQ^eD;
(2d) P+ = PUP0PUP0P0PU ... gD.
Язык L над 2 является линейным тогда и только тогда, когда Le S.
Доказательство. Чтобы доказать «тогда», достаточно показать, что для каждых LeS, PeD и ст— буквы не из 2 — языки L и Р® {о} являются линейными языками. Это, конечно, верно для L = {а} и Р = {(а, 6)}, где а и b принадлежат 2Ще}. Согласно (2а) —(2d), если это имеет место для X, У из S и Р, Q из D, то это верно и для X U У, Р U Q, Р ® X, PQQ, Р+ поэтому и для всех X е S, Р е D.
Для доказательства «только тогда» достаточно повторить вторую часть доказательства теоремы 2.7 и заметить, что если G является линейной грамматикой, то все множества Ф,, д представляются в виде Ф/, k = (J РТ Л>® {^/J U Li, k, где
/=1
Z-1
P^'^eD, Li,keS и ^i‘i = (J Р/1®^/}U Lt, i=\
где опять-таки Р^ е В и LteS. Таким образом, L(G) = = Ф"'1 6S.
Аналогичную характеристику можно дать классу полулинейных языков.
Определение 4.2. Грамматика G = (2n, 2, Р, ст) называется полулинейной, если для каждогоЛе2^ и хе (21)2^)* из А ^х следует, что А входит в х не более одного раза. Язык L называется полулинейным, если L порождается некоторой полулинейной грамматикой.
■) См. также статью Мак-Вертера «Подстановочные выражения», помещенную в наст, сборник (стр. 127—136).) —Прим, перев.
Существует много различных названий для полулинейных языков и грамматик: множества стандартно согласованного выбора [8], нерасширяющиеся грамматики, языки с ограниченным выводом [4], суперлинейные грамматики и языки [2]. Мотивом для введения еще одного названия служит лемма 4.4, которая оказывается также полезной для получения дальнейших результатов.
Определение 4.3. Пусть G = {Sn, St, Р, ст) — контекстно-свободная грамматика, а = есть отношение на Р, определяемое так: (Л -* а) = (В -* 0) тогда и только тогда, когда А = В или A=^uvBuv и В^и2Аи2 для некоторых нь и2, Уь У2 из (Ед, U Ег)‘. = является отношением эквивалентности на Р. Классы отношений эквивалентности на Р относительно ss называются грамматическими уровнями G. ■
Замечание. Грамматический уровень Go КСГ G является множеством контекстно-свободных правил грамматик G. Можно рассматривать Go как КСГ без начального символа, переменные которой суть символы из левых частей правил Go, а все другие буквы, встречающиеся в правилах Go, суть терминальные символы относительно Go. Таким образом, ни один терминальный символ G не может быть терминальным символом Go.
Если мы рассматриваем только приведенные КСГ, т. е. грамматики, в которых каждый нетерминальный символ достижим из начального символа и каждый нетерминальный символ порождает непустое множество терминальных слов, то, используя определения 4.3 и 4.2, легко можно доказать следующую лемму.
Лемма 4.4. Грамматика G является полулинейной тогда и только тогда, когда каждый грамматический уровень Go грамматики G является линейной грамматикой (.относительно нетерминалов G^y
Доказательство. Если G не является полулинейным языком, то в G существует нетерминал А, такой, что A^uAwAv для некоторых слов и, w, и, и поэтому грамматический уровень, содержащий правила с А в левой части, не является линейным (т. е. линейной грамматикой). С другой стороны, если некоторый грамматический уровень грамматики G не является линейным, то G содержит правило A-*uBwCv, где В и С суть нетерминалы, такие, что правила с В или С в левой части находятся на том же грамматическом уровне, что и A—*uBwCv. Следовательно, существуют слова «ь иь и2, Уг, такие, что
B^uxAuv, C^u2Av2 и поэтому G не является полулинейной грамматикой.
Из приведенной леммы вытекает также хорошо известный факт о том, что класс полулинейных языков замкнут относительно суперпозиций. Теорема 4.5 является аналогом теоремы 4.1.
Теорема 4.5. Пусть 2— алфавит. Определим S с 22*, Dc2!*X!* как наименьшие классы, для которых выполнены условия (1) —(2d) теоремы 4.1 и условие
(X, У) = ((х, у))хеХ, у еК) g D.(2е)
Язык L является полулинейным языком над 2 тогда и только тогда, когда LeS.
Доказательство. Заметим, что из (2е) следует, что при X, Y^S язык XY также принадлежит S. Доказательство «тогда» аналогично доказательству теоремы 4.1. Далее, пусть Lq — линейный язык над 2'd2, a L — язык, получающийся из Lo применением подстановки ф, где ^(а) = {а} для ае2 и ^(а) е$ для а 0 2. Из теоремы 4.1 и (2е) следует, что L принадлежит S. Таким образом, S содержит все языки над 2, которые получаются из линейных языков подстановкой, а потому S содержит все полулинейные языки над 2.
Если условие (2е) заменить на
XY г S,^У
то LeS тогда и только тогда, когда L является ультралиней- ным языком.
Ультралинейным языком [3] называется язык, порожденный нетерминально ограниченной грамматикой [1]. КГС G = = (2х, 2т, Р, <т) является нетерминально ограниченной, если существует натуральное число к, такое, что из о =Ф х следует, что х содержит не более чем к нетерминальных символов. Легко доказывается, что контекстно-свободная грамматика G нетерминально ограничена тогда и только тогда, когда каждый грамматический уровень грамматики G является линейным. Кроме того, если А —*хВуСг является правилом G с переменными В и С, то никакое правило с В или С в левой части не принадлежит тому же грамматическому уровню G, которому принадлежит правило А -* xByCz. Используя этот факт и теорему 4.1, мы без труда можем получить наш результат.
Введя новую операцию на множестве пар слов, можно дать более изящную характеристику полулинейных языков.
Теорема 4.6. Пусть 2 есть алфавит. Определим Do с 22*х2* как наименьший класс, удовлетворяющий следующим условиям:
(О если a g 2, то «а, в)} g Do, «в, в)} g Do;
если Р, QeD0, то
(iia) PUQ, POQ, P+eD0-,
(iib) P®Q = {(pxp2, qxq2№, P^eP, <qx, q2)^Q}^D0,
Пусть S0 = {P®{b}, P g DqY Тогда L G So в том и только том случае, когда L является полулинейным языком над 2.
Доказательство. Достаточно показать, что S = So, D = D0, где S и D определены, как в теореме 4.5. Для доказательства включений S £ So, D г Do достаточно показать, что условия (1) —(2е) теоремы 4.5 выполняются для So, Do. Чтобы убедиться в этом, достаточно установить, что если X, У G So и a, b G 2 U {в}, то (a, b') G Do, ^ U У g So, QC, У) G Do. Но (а, 6) = (а, в) ® (6, в) G Do и если X, У G So, то X = Р ® {в}, У = 9®{в} с Р, Q^D0, а потому X U У = (PU Q)®{e) g So, (^Х, Y) = PQQ^~D0. Аналогично доказывается, что So £ S, Do £ D. Теорема доказана.
СПИСОК ЛИТЕРАТУРЫ
Banerji R. В., Phrase structure languages, finite machines and channel capacity, Information and Control, 6 (1963), 153—162.
Brzozowski Y. A., Regular-Like Expressions for Some Irregular Languages, IEEE Conference record of Ninth Annual Symposium on Switching and Automata Theory, 1968, p. 278—280.
Ginsburg S., Spanier E. H., Finite-turn pushdown automata, SIAM J. Control, 4 (1966), 429—453.
Ginsburg S., Spanier E. H., Derivation-Bounded Languages, J. Comput. System Sci., 2 (1968), 228—250.
Greibach S. A., Full AFL’s and Nested Iterated Substitution, IEEE Conference record of Tenth Annual Symposium on Switching and Automata Theory, 1969, p. 222—230.
Gruska J., Generalization of Regular Sets, Abstracts of the Mathematics Congress, Moscow, 1966.
Gruska J., On a Classification of context-free grammars, Kybernetika Prague, 3 (1967), 22—29.
Yntema M. K., Inclusion relations among families of context-free languages, Information and Control, 10 (1967), 572—597,
Подстановочные выражения ')
И. П. Мак-Вертер
ВВЕДЕНИЕ
Хорошо известно, что всякий регулярный язык R над 2 может быть определен как первая координата единственного решения системы уравнений вида
Х^Си^и ... UC^U^, t= 1, .... п,
где каждое Ctj и F, являются конечными подмножествами 2*, а X (пустое слово) не входит ни в одно из множеств С<, [1]. Эти уравнения, которые непосредственно получаются из автомата, распознающего R, можно использовать для того, чтобы найти регулярное выражение для R, повторно решая уравнение вида Х = Д-ХиВ, которое имеет единственное решение X = А* В, если А не содержит А.
Хорошо известно также, что каждый бесконтекстный2) язык L может быть определен как первая координата наименьшего решения системы уравнений, которые мы будем называть контекстно-свободными уравнениями, вида
Xi = №x^n) = U^/U^, i=l, .... п,
/
где Wii = WijoXijiWiji ... XijmWijm, причем каждое Wijk е 2* для всех i, j, Хцк = Xt для некоторого / (зависящего от i, j, k), a Ft суть конечные подмножества 2* [5].
Цель этой статьи состоит в изучении формальных выражений, которые обозначают решения таких уравнений. Будут использоваться два конечных непустых алфавита: 2={ai am}— «основной» алфавит и А = (бь ..., 6П} — «вспомогательный» алфавит.
Определение 1. (а) Подстановка. Для подмножеств L и U множества (2 U А)* определим L [6 <- L'] = (tOoUitfi ... ... unwn\ каждое щеЬ', wobwx ... 6wneL и б не входит ни в какое wj.
■) McWhirter I. Р., Substitution expressions, J. Comp. Syst. Sci„ 5 (1971), 629—637.
8) Такие языки называются также контекстно-свободными. — Пром, персе,
(Ь) Звездная (или итеративная) подстановка. Для L s (S U А)* определим L*6= (J (/.„), где
п>0
(L)0 = {d), a (L)„+1 = (L)„UL[d*-(L)„].
Заметим, что если L и L' суть подмножества 2*, можно проверить, что (/,6)[d<-Z/d] = L • Z/d и (Ld)*s = Z/d. Таким образом, при этих ограничениях подстановка и звездная подстановка аналогичны конкатенации и итерации Клини (или, как иногда говорят, операция «звезда»), соответственно. Эта аналогия может быть усилена следующим образом. Перепишем систему контекстно-свободных уравнений с помощью вспомогательного алфавита в виде
X^LbM^Xj ... [Sn^XjUFf,
/
где оИ = wt^thwin ... biimwlim для всех i.
Теперь Xj характеризуется двумя конечными множествами №< = 119;/ и Ft. В этом случае, когда №< является подмно- /
жеством 2*А, эти уравнения приводят к регулярному случаю, когда подстановка языка вместо вспомогательного символа приводит к конкатенации двух языков. Далее, аналогия между операциями конкатенации и подстановки распространяется на решение уравнений. Будет показано, что при подходящих ограничениях на А и В уравнение
Х = Д[б<-Х]ив
имеет единственное решение Д*6[д<-В]. Повторно решая это уравнение, можно получать решения системы контекстно-свободных уравнений, использующие операторы подстановки. Такие выражения аналогичны регулярным.
Примеры, (а) {ап6п|/г^0}. Уравнение X = aXb U К приводится, в наших обозначениях, к виду
Х = (ад6)[б<-ХШ
и имеет единственное решение (abb)*6 [д<—X].
(Ь) Язык Дикка над а и Ь. Уравнение А = (babbb) [д <- Л] U Л, имеет единственное решение (дйд6д)*6[д <->.].
Предполагается, что читатель знаком с основными результатами теории формальных языков [9J.
СВОЙСТВА ОПЕРАЦИЙ ПОДСТАНОВКИ
Ниже приводится несколько алгебраических свойств простой и звездной подстановок. Доказательства их вполне просты, подробности можно найти в [11].
Р1. Д [б {б}] = {6} [б *- Д] = А.
(Вспоминая аналогию между конкатенацией и подстановкой, видим, что здесь б соответствует Л).
Р2. Ассоциативность:
А [б<- В [б*- СЦ = (Д [б<- В]) [б*- С].
РЗ. Правая дистрибутивность:
(Д U В) [б<-С] = Д [б<-С] J В[б<-С].
Р4. Д [б Де6] U {6} = А*6
(Р4 снова показывает аналогию между б и Л.)
Р5. Коммутативность: если а и р не входят ни в одно слово из В и А соответственно, то
C[at-Д][р<-В] = С[р*-В] [а<- Д].
Р6. Если р не входит в слова В, то
Д [аВ] [р *- С [а В]] = Д [р С] [at-В].
Р7. Если а не входит в слова из В, то
(А[р<-В])*°= А*а[р<-В1.
Эти свойства подстановочных операторов подразумеваются при многих доказательствах. Теперь мы докажем, что при подходящих ограничениях Д*6[б<-В] есть единственное решение уравнения X = А [б *- X] U В.
Теорема 1. Если X = А [6 t-A] U В, то Д*б[б<— В] есть наименьшее решение для X. Если, кроме того, А 0 б* = 0, то это решение единственно.
Доказательство. Алгебраические преобразования по правилам Р1 — Р4 покажут, что Д*6[б<—В] есть наименьшее решение уравнения X = А [б <- A] U В.
Заметим, что если А П б* = 0, то каждое слово из А, содержащее б, содержит также и другие буквы. Отсюда следует, что любое слово из Д[б<—А]— это или слово из А, или оно длиннее кратчайшего слова из А. Пользуясь этим, можно проверить, что Д*6 [б <- В] есть единственное решение.
ХАРАКТЕРИСТИКА БЕСКОНТЕКСТНЫХ ЯЗЫКОВ
Результат теоремы 1 может быть использован для решения некоторых систем контекстно-свободных уравнений вида
Xi-UMd^Xa [Sn^-XJU^, <=1 п.
Каждый бесконтекстный язык может быть определен в нормальной форме Грейбах [6]. Контекстно-свободные уравнения, полученные из этой формы, обладают свойством Wi (1 А* = 0, и это позволяет нам искать единственное решение системы.
Подробнее," по теореме 1, (H^Jd^XJ... [^-^Хп^М^-Е,,] есть единственное выражение для Х„ через Хь Х2 ... Xn_t. Используя свойства Р1 и Р7, приведем его к виду
Подставляя это выражение в уравнение для X, и используя те же свойства, получим
^-("7,|6„-"7M|6.^',„])|6,-^I*„-,) и F,.
Повторяя этот процесс, получим описание бесконтекстного языка в терминах объединения, подстановки и звездной подстановки на конечных множествах.
Для бесконтекстных языков, как и для регулярных, удобно пользоваться задающими их выражениями, поэтому введем следующие определения.
Определение 2. Множество ^^ д подстановочных выражений над конечными алфавитами 2 и А есть наименьшее множество выражений, построенных по следующим правилам:
Базис: а^ ..., ап принадлежат ^s, д для всех положительных п, и всех а;е(ХиА), X и 0 принадлежат ^г, д.
Если Е и Е' принадлежат <54, & и 6еА, to(E|JE'), £[d<—Е'] и Е*й принадлежат д.
Множество ^ подстановочных выражений определяется как = Ех. д^, д. Отображение ||.'^’-> (множество языков) определяется рекурсивно:
| а,, ..., ап | = {о,aj| X | = {Х), | 0 |= 0;
| (EU^) 1 = 1 ЕIUI И;
|Е[б<-Е']| = |Е|[6<-|Е'|];
|Е*б|Н ЕГ6.
|Е| обозначает язык, выражаемый Е, 4^1 обозначает область значений *6.
Заметим, что определение 2 для множества языков | 'g’s, А | можно изменить так, что базис станет конечным, а именно (S U A U A2 U U, 0})> ПРИ условии, что -Д содержит не меньше двух элементов, потому, что любое слово вида aw может быть выражено как 0а [0 - а] [а *- to], где а выбрано отличным от а.
Отсюда следует, что каждый бесконтекстный язык может быть задан при помощи подстановочного выражения. С другой стороны, можно доказать, что \<5’\ замкнуто относительно пересечения с регулярными языками, откуда [^l есть супер- AFL ‘) [7]. Из этого немедленно следует, что каждый бесконтекстный язык содержится в V??\. Возможно, существует более простой способ решения контекстно-свободных уравнений.
Чтобы получить обратный результат, т. е. что каждое подстановочное выражение обозначает бесконтекстный язык, надо только заметить, что множество бесконтекстных языков замкнуто относительно объединения, подстановки [2] и итеративной подстановки [10]. Отсюда вытекает
Теорема 2. Некоторый язык L бесконтекстен тогда и только тогда, когда существует выражение Е, такое, что | Е | = L.
РЕГУЛЯРНАЯ И ЛИНЕЙНАЯ МОДЕЛИ
Как было установлено выше, если б не входит в L или U, то (Ёд)[б*- Z/d] = L-L'b и (L&)*6 = Z/6. Поэтому чтобы получить модель регулярных языков, мы определим S?s, л как наименьшее множество выражений, построенных по следующим правилам:
ай принадлежит ^,& для всех а е S, X и 0 принадлежат в; ■
Если Е и Е' принадлежат S?s, 6, то (Еи^), Е[б*-Е'] и Е*6 принадлежат ^s.e.
*) Cynep-AFL есть семейство языков, содержащее хотя бы одно не унитарное множество (множество, в котором есть слова длиной больше 1) и замкнутое относительно пересечения с регулярными языками, объединения с унитарными множествами и гнёздной итеративной подстановки. Определение гнездно-итеративной подстановки: т — подстановка, т:2*->2^ а^ ; доопределим т на ^J 2а так: т (6) = 6, если b s / ^ 2а\ — 2; пусть
Пусть || £ || = | £ |[д*-Л] для£еЯ2,6и|| $х,б|| = {||£||| £g$e, 6}. Используя упоминавшуюся аналогию между операторами подстановки и конкатенации, можно легко доказать, что ||S?e, б|| есть множество всех регулярных языков.
Подобным же образом для получения подстановочной модели линейных языков мы определим $г,ь как и ^е,», н0 правило 1 заменим на Г: ад и да принадлежат ^s, в для всех a^S, X и 0 принадлежат ^е, б. Так как каждое слово в любом языке из|2’е, б| имеет только одно вхождение д, то ленту, на которой оно записано, можно «сложить» в месте этого вхождения, как показано в [3]. Так как линейные языки выражаются регулярными операциями над сложенными лентами, доказательство того, что USs.jll есть множество всех линейных языков над 2 сводится к доказательству, что l№xs, dll есть множество всех регулярных языков над (SX2).
Левая дистрибутивность подстановки "над объединением свойственна языкам из | S^e, а | и не свойственна всем бесконтекстным языкам. Формально, L1 (левая дистрибутивность): если А принадлежит l^s.al, то
Д [д (5 U Q] = Л [д <-В] U Л [б <-С].
МОДЕЛЬ ГРУСКИ
Другую модель выражений для бесконтекстных языков дал Груска в [8]. Он использовал операции объединения, конкатенации и другого типа итеративной подстановки, записываемой так: L6, где L& = £*в[д«- 0]. В то время как в его системе конкатенация вводится как простая операция, в нашей модели ее можно заменить подстановкой. Введением некоторых ограничений на базис определения ^^ д (как было показано в нашей модели) мы можем получить полную характеристику линейных и регулярных языков. В обоих случаях необходим только один вспомогательный символ. Хотя подход Груски дает простую модель для регулярных языков, в своей статье Груска не дал полной характеристики множества линейных языков.
ИЕРАРХИЯ ПОДСТАНОВОЧНОЙ ЗВЕЗДНОЙ ВЫСОТЫ
Понятие звездной высоты sh(£) используется в теории регулярных языков как мера сложности языка. Аналогично можно определить подстановочную звездную высоту для контекстно-свободных языков.
Определение 3. Подстановочная звездная высота, обозначаемая shs, для некоторого выражения из ^ определяется рекурсивно:
shs(ay) —О для любых ®ePUA)*, shs(0) = O;
shs ЦЕ U E'j) = max {shs (E), shs (E')};
shs (E [6 *-E']) = max {shs (E), shs (£")};
sh$(E*6) = sME)+l.
Мы распространим shs на бесконтекстные языки, положив shs(L) = min {shs(E) | |Е| = L).
Из-за упоминавшейся связи между конкатенацией и операторами подстановки может показаться, что для регулярных языков shs(/?) совпадает с sh(/?). Это неверно, так как язык (0 1110*1)*, имеющий регулярную звездную высоту 2, записывается как
(бб)*6 [б <- (0 U 1 61)] [б <- (Об)*6] [б <- Л] (J Л,
а это выражение имеет подстановочную звездную высоту 1. На самом деле, подстановочная звездная высота всех регулярных языков равна 0 или 1. Однако при доказательстве того, что для всех п существуют языки Еп с подстановочной звездной высотой п, можно пользоваться некоторыми результатами, установленными для регулярной звездной высоты.
Пусть W = {губгуд|w е S*}. Если Е — подмножество W и Lr = {ш | w6wR e L}, to LR — регулярный язык тогда и только тогда, когда L бесконтекстен по теоремам 2.1 и 7.2 из [2]. Мы покажем, что shs[LH] совпадает с sh(L).
Лемма 3. Пусть Е — некоторое подстановочное выражение для подмножества U7. Тогда существует выражение Е' из $-1, 6, такое, что | Е' | = | Е | и shs (Е') = shs (Е).
Прежде чем доказывать лемму, установим несколько предложений, доказательства которых вполне просты. Подробности их можно найти в [11].
Опретеление 4. Выражение Е называется приведенным, если для всех Е' подвыражений Е имеет место:
Если Е' = Eo[6<-EJ, то б входит в некоторые слова I Ео | и
если Е 0, то | Е' | ^ 0.
Предложение 1. Если Е принадлежит ^г, д, то существует некоторое приведенное выражение Е' из %х, д, выражающее | Е |, и такое, что shs(E') ^ shs (Е).
Предложение 2. Если Е — некоторое приведенное выражение из Ч?^, д, I Е | #= 0 и w — принадлежит | Е' |, где | Е' | — некоторое подвыражение Е, то существуют вспомогательные символы а0, ..., ат, не обязательно из А, слово uQ, в которое
входит а0, и слова Uy, . . ., ит из (2 (J А)*, такие, что и0[а0<- w]X X [®iи,] . .. [ат <— ит] принадлежат | Е |. Если же \Е\— под
множество 2‘, можно даже предположить, что и0 из 2*ао2*, что Uyum из 2’, и ао ... am из А.
Доказательство леммы 3. Пусть Е выражает некоторое подмножество из W и принадлежит %. Можно предположить, что Е—выражение из ‘S’xue. д, где (2(Jд) П А = 0. Сначала докажем, что можно считать каждое слово, являющееся подвыражением Е, принадлежащим 2* (А Цб) 2*.
Пусть слово w — подвыражение Е. Выберем и из (2 U ^ U А)*, Uy, ..., um из (2 (J 6)*, а, ..., ат и р из А так, что ufp^-tyJX Xt»!*-»!] ... [am*-um] принадлежит |Е|. Предположим, что некоторый символ а, входит в w, но б не входит в щ. По Р5 можно считать, что i = m. Теперь рассмотрим слово и[0«-ш]Х X [«1«11 • •• [«m-i um-iL Это слово должно иметь вид
wua,nWy ... amwk dvoa,nVy ... атЦ/, где каждое ®у и щ принадлежат 2*. Мы утверждаем, что только одно слово можно подставлять вместо am. Чтобы доказать это, предположим, что ат можно заменять и на и'. Тогда оба слова ®йит®у ... umwk 6v0“myi • • • ... UmV^yUmUj и wuumwx ... UmWbbuQUmUy ... Umtij-yu'Uj принадлежат | E | и, следовательно, IF. Отсюда следует, что иоитиу... .. . Umt)j_yUmVj = (W0UmWy . . . UmWk)K = V0UmUy . . . UmUj-yU'Uj И u = um.
Поскольку вместо am можно подставлять только слово ит, то, подставив это слово прямо в w, получим w', и язык, выражаемый Е, совпадает с |Е|, где w заменено на w'. Поэтому считаем, что в каждом слове w, входящем как подвыражение в Е, каждый символ из А можно заменить некоторым словом, таким, в котором есть символ 6. Отсюда следует, что в а не может быть больше одного вхождения буквы из {6} (J А, так как б входит в каждое слово из W не больше одного раза.
Теперь покажем, как по индукции построить Е' из 2?т..ь, выражающее язык | Е | и имеющее такую же подстановочную звездную высоту. Чтобы сделать это, найдем, что каждое выражение Е, порожденное словами с одним вхождением вспомогательного символа или б, может быть записано как объединение выражений таких подмножеств | Е |, которые содержат специальный нетерминал. Если maw' входит в Е, где aeA(J{6}, то w и w' входят в 2*; отсюда | waw' | = | w bw' | [б <— а]. Предположим, что Ez, подвыражение Е, обозначает тот же язык, что и Е< = (J Eta [б <- а] для а из A U {б, у}, где каждое Е1а г
е .^2,5, | Е^ |е 2’ и shs (El) = shsXE^; i = 0, 1.
Очевидно, такое же выражение можно найти для (EoUE,). Пользуясь тем, что | ЕОа [б <— 0] |[а <-Е] = | Ей^ [б <- 0] |, если
(J Еда [6<-£ор] [д<-р] и f Оа [6 <- а]Р ^ а(J Еда [6<-£ор] [д<-р] и f Оа [6 <- а]Р ^ аа ф р, для любого языка L (так как а не входит в слова из | fop [6 *- р] |) можно получить такоеже выражение для Е0[а «-EJ. Сократив это выражение, используя правую и левую дистрибутивность и заменив выражение вида [6 *- а] [а <- Е'\ на [6 <-£'], получаем
(J Еда [6<-£ор] [д<-р] и f Оа [6 <- а]
Р ^ а
(J Еда [6<-£ор] [д<-р] и f Оа [6 <- а]
Р ^ а
И таким же ооразом: | Ео | =
Пользуясь этим способом, можно найти выражение Е6 из
24, <х, такое, что | Е ; = | Е6 | и sh, (Е) = shs (Е6). Доказательство
леммы закончено.
Теорема 4. Для каждого п существует такой бесконтекстный язык Ln, что shs ([,„) = п.
■ Доказательство. Пусть /— отображение регулярных выражений над 2 в ^ в, определенное так: f (да) = w 6wR для каждого weS; f (EU Е') = f (Е) U / (£')i / (E-E') = / (E) [d<- f (E')]; f (E*) = f (E)*6. Легко доказать, что /(E) выражает {дадда'Дда из | Е |} и shs((f (£)) = sh (Е). Таким же образом определим отображение g выражений из 2\ в подмножеств U7 в регулярные отображения: gVwW^ = w для каждых w, w' еГ; g^EUE^^g^Ugf.E'y, g (Е [d<-E'J) = g (Е) ■ g (Е'); §(И = = g(^Ey. Тогда g (Е) выражает множество {да |да bwR е | Е |} и sh(g (E)) = shJE).
. Теперь выберем регулярный язык Рп, такой, что sh(Pn) =_п. Такой язык должен быть, если 2 содержит не меньше двух элементов [4]. Положим Ln = {да HwR |да е Рп), и пусть Е из Sz,» —такое выражение для Еп, что sh5(E) = зИДЕД. Тогда shs (Е„) = shs (Е) = sh (g (Е)) ^ sh (Р„) = п. Таким же способом, найдя регулярное выражение Е' для Рп, такое, что sh (Е') = = sh(Pn), покажем, что п = sh (Е') = sh5(/ (Е')) ^ shs (Е„). Отсюда shs(Ln) = n, и теорема доказана.
Интересно заметить, что семейство языков с подстановочной звездной высотой не больше единицы связано с семейством последовательных языков. Мы называем язык последовательным, если он определим системой контекстно-свободных уравнений вида Xi = fi(Xb ..., Хпу i = 1п. Легко проверить, что такие уравнения можно решить, не вводя выражения с подстановочной звездной высотой больше единицы.
ДОБАВЛЕНИЕ РЕДАКТОРА
М. К-Интема предложила язык, родственный языку подстановочных выражений, также описывающий класс всех контекстно-
свободных языков (см., например, Jntema М. К., Cap Expressions for Context-Free Languages, Information and Control, 18 (1971), № 4, 311—318). В своих ранних работах (Jntema М. К-, Inclusion Relations among Families of Context-Free Languages, Inf. Contr., 10 (1967), 572—597) Интема рассматривала расширения языка регулярных выражений с помощью matching choise — операции, описывающей подкласс контекстно-свободных языков. В первой из упомянутых статей Интема вводит операцию — аналог итеративной подстановки, которая вместе с объединением и конкатенацией позволяет получить любой контекстно-свободный язык над алфавитом S, исходя из «букв» Е— однобуквенных слов в 2*.
Операции, предложенные в статьях Груски (см. этот сборник), Мак-Вертера и Интемы для порождения контекстно-свободных языков, несколько отличаются, хотя и тесно связаны между собой. Эта связь — фактически, сведение некоторых операций к другим — рассматривается в статье Груски. Поставленная в этой статье задача о минимальном числе вспомогательных символов не сводится к задаче о звездной глубине подстановочного выражения, решаемой в статье Мак-Вертера, хотя эти задачи и связаны одна с другой.
А. А. Мучник
СПИСОК ЛИТЕРАТУРЫ
Arden D. N., Delayed logic and finite state machines, Proc. Second Annual Symposium on Switching Circuit Theory and Logical Design, Detroit, Michigan (1961), pp. 131—151.
Bar-Hillel Y., Language and Information, Addision-Wesley, Reading, Mass., 1964.
Brzozowski J. A., Regular-like expressions for some irregular languages, Proceedings of the Ninth Annual Symposium on Switching and Automata Theory, General Electric Research and Development Center, Schenectady, N. Y., 1968.
Eggan L. C„ Transition graphs and the star height of regular events, Michigan Math. J., 10 (1963), 385—397.
Ginsburg S., Rice H. C., Two families of languages related to ALGOL, J. Assoc. Comput. Mach., 9 (1962), 3.
Greibach S., A new normal form theorem for context-free phase structure grammars, J. Assoc. Comput. Mach., 12 (1965), 42—52.
Greibach S., Full AFLs and nested iterated substitution, Information and Control, 16 (1970), 7—35.
Gruska J., A characterization of context-free languages, I. Comput Systems Sci., 5 (1971), 353—364. (Русский перевод см. наст, сборник, стр. 114—126.)
Hopcroft J. Е., Ullman J. D., Formal Languages and Their Relation to Automata, Addison-Wesley, Reading, Mass., 1969.
Kral J., A modification of a substitution theorem and some necessary and sufficient conditions for sets to be context-free. Math. Systems Theory, 4 (1970), 129—139.
McWhirter I. P., Research Report CSRR-2016, University of Waterloo, Waterloo, Ontario. Canada, June 1970.
ВОПРОСЫ МАШИННОГО ПЕРЕВОДА
Об эффективности алгоритмов')
Давид Пейджер
Обычно уделяется мало внимания тому, чтобы дать формальное определение эффективности алгоритма, хотя в таких работах, как (1—3, 8, 9, 12), выявлено большое отличие между различными алгоритмами в тех случаях, когда для всех аргументов (или для всех достаточно больших аргументов) вычисления по некоторому алгоритму постоянно требуют большего времени или пространства, чем соответствующие вычисления по алгоритмам другого рода. В этой статье мы даем естественную формулировку понятия эффективности алгоритмов в терминах пространственно-временной меры. Исследуемые вопросы носят чисто теоретический характер, но наш метод оценивания алгоритмов с некоторыми изменениями может быть применен к реальным вычислительным программам. Это было сделано в Гавайском университете и будет служить предметом последующей статьи.
Мы пользуемся обозначениями Дэвиса (4) и его описанием машин Тьюринга, но в своих доказательствах свободно пользуемся тезисом Чёрча. Машины Тьюринга обозначаются прописными буквами, в то время как их Гёделевские номера изображаются соответствующими строчными буквами. Гёделевские номера машин Тьюринга, вычисляющих примитивно-рекурсивные функции, называются примитивными индексами. S-символ Si рассматривается в качестве символа единицы. Мы нумеруем квадраты ленты ... —2, —1, 0, +1, +2, ..., причем квадрат с 0 является начальным обозреваемым квадратом. Актом машины Тьюринга считается сдвиг влево или вправо или запись определенного символа в обозреваемом квадрате. Говорят, что две машины Тьюринга имеют тождественное поведение, если для любого аргумента они совершают одинаковую последовательность актов. Символ равенства ( = ) используется нами
’) Pager D., On the Efficiency of Algorithms, Journal of the Association for Computing Machinery, 17, № 4 (October 1970), 708—714.
в сильном смысле, а формула, в которой два выражения приравнены, имеет еще тот дополнительный смысл, что левая и правая ее части или обе определены, или обе не определены. Утверждая, что /■(">—частично рекурсивная функция на множестве аргументов S, мы имеем в виду, что существует машина Тьюринга Z, такая, что
fw (х„ ..., х„) = и (ming Т (2, х,х„, у))
для всех (хп ..., x„)gS, и говорим в этом случае, что Z вычисляет f на множестве S1). Под равенством f<n> = g<n) мы понимаем, что f(xх„) = = g(xхп) для всех (х x„)eS. Если £(х) есть некоторая функция, значениями которой являются машины Тьюринга, а Р есть свойство (например, рекурсивность) функций с натуральными значениями, то говоря, что £(х) имеет свойство Р, мы подразумеваем, что функция, равная Гёделевскому номеру ^(х), имеет свойство Р. Мы говорим, что f(x, у) —возрастающая функция от х и у, если для любых х0 и уо функции f(x0, у) и f(x, z/o) обе являются строго возрастающими.
ОПРЕДЕЛЕНИЕ ПРОСТРАНСТВЕННО-ВРЕМЕННОЙ МЕРЫ
Время, затраченное при вычислении на машине Тьюринга Z на аргументах (хь ..., хп), отождествляется с числом имеющихся в этом вычислении мгновенных описаний и обозначается через E(z, хь ..., хп). Пространство М(г, хь ..., х„), использованное в таком вычислении, есть некоторая возрастающая функция от (а) рабочего пространства, в качестве которого берется (пользуясь понятием объема ленточного выражения, данным Рабином и Ваном (10)) мера максимального объема ленты при этом вычислении, и (Ь) от пространства, необходимого для хранения программы (программного пространства)-, мы отождествляем его с общим числом символов, использованных в таблице четверок, предполагая, что индексы S- и у-символов записаны. Пространственно-временной мерой p(z, хь ..., хп) вычисления машины Тьюринга Z на аргументах (хь ...,х„) мы считаем либо Е(г, хь ..., хп) (в этом случае мы называем ее чисто-временной мерой), либо M(z, хь..., х„), либо некоторую возрастающую рекурсивную функцию от E(z, хь ..., х„) и M(z, хь ..., хп) (в последних двух случаях
') Нет необходимости требовать, чтобы S содержалось внутри области определения f(nV Для л-местной функции общепринятое понятие частичной рекурсивности (такое, как, например, у Дэвиса (4)) может быть теперь выражено как частичная рекурсивность на множестве всех л-ок.
мы говорим, что мера содержит пространственную компоненту х). Для любой функции f(Xi, ..., хп), которую мы хотим оценить, постулируем существование вероятностной функции р^Ху, ..., хп), так что р^ах, ..., ап) представляет вероятность, которую мы бы назвали предварительной оценкой f (ai,..., ап). Предполагается, что р(хь ..., х„) > 0 только для (хь ..., хп) из области определения функции ). Множество {(xi, ... .х„)|р(х! ... хп) > 0} называется множеством значимости (функций). Буква р во всех случаях обозначает «-местную вероятностную функцию вышеуказанного вида. Следующие определения сделаны с учетом такой вероятностной функции.
Пространственно-временная мера \Р(г) машины Тьюринга Z есть среднее значение пространственно-временной меры ее вычислений, т. е.
2 ркххХп) Ц (Z, X], . . ., х„).
Хп=0
Эффективность вычисления ^или машины Тьюринга) есть величина, находящаяся в обратной зависимости от их пространственно-временной меры. Пространственно-временная мера функции f есть точная нижняя грань пространственно-временных мер машин Тьюринга Z, вычисляющих f на множестве значимости. Оптимальная машина Тьюринга, вычисляющая f<n> на множестве значимости, есть такая машина, которая имеет максимально возможную эффективность (т. е. имеет наименьшую возможную пространственную меру). Оптимальная машина Тьюринга, вычисляющая функцию [z]n на множестве значимости, обозначается через фр(г)2).
Она называется нетривиальной, если она существует по крайней мере для некоторого z. В тех случаях, когда не может возникнуть недоразумений, <pp(z) и yp(z) записываются просто как cp(z) и y(z) соответственно.
Пример. Оценим yp(z0) для машины Тьюринга Zo, вычисляющей 2х, если М (z, х) есть сумма программного и рабочего
') Дополнительный интерес представляет тот случай, к которому также применимы результаты статьи, когда в качестве р(г, Х[ ... х„) берется ЕО- х,. .... хп)
2 ш (г, xtхп, 0, где m(z, хь .... хп, i) есть некоторая <=1
возрастающая функция от программного пространства и размера i-ro ленточного выражения (т. е. длины ленты на i-м шаге вычисления) в вычислении L для аргумента (х,, .... х„).
Мы допускаем, что фр(г) неоднозначна в том случае, когда существует более чем одна оптимальная машина Тьюринга.
пространств, р (z) есть М (г, х) + £ (z, х), а р (х) = 0 при х = О и р(х) = 90/л4х4 при х > 0 ').
Соответствующая машина Zo определяется четверками qv\Bqx; qvBRq2; q2VS3q3; q3S3Lq3, q3\Lq3, q3Blqt; qJRqv, qtS3Rq^ qAUq2; qtBLq3, q5S3\q6; q6\Lqs. Здесь программное пространство равно 108, рабочее пространство получаем из 2х+ 1 и £ (z, х) = 2х2 + + 7х + 3. Следовательно, у (z0) = 127, 03... .
Применяя эти понятия к программам вычислительных машин, часто бывает легче определить их эффективность статистическими методами с помощью выборочных измерений использованного пространства и времени. Определение пространственно- временной меры вычисления как некоторой возрастающей функции от затраченного времени и пространства уместно, в частности, для систем с разделением времени, где обе эти величины являются ценными.
Теорема 1. Пусть (p(z) не тривиальна. Тогда <р (г) является частично рекурсивной в том и только том случае, когда множество значимости конечно. Кроме того, если множество значимости бесконечно, то cp(z) не частично рекурсивна на примитивных индексах.
Доказательство. Пусть множество значимости бесконечно. Покажем, прежде всего, что существует такая примитивно рекурсивная функция G ^г, г'), что [G (z, г)]„ примитивно рекурсивна относительно [z]„ и что если S есть произвольное бесконечное множество n-ок, то
[G (z, r)]„ = [z]„~ V Т^г, г, у),
sу
Пусть ст(хь ..., х„) — некоторая рекурсивная функция, упорядочивающая п-ки, и пусть f(z, г, хх ... х„) определяется следующим образом:
°(х1хп)
f (Z, Г, X,, ..., х„) =f (Z, Г, X,, ..., х„) =[z]„(xb ..., х„) + 1, если V т (г, г, у);
f (Z, Г, X,, ..., х„) =
f (Z, Г, X,, ..., х„) =
у=о
[г]„(хь ..., х„) в противном случае.
Применяя теорему об итерации, получаем
f (z, г, X,, .. ., х„) = [G (z, г)]„ (х,, ..., х„),
где G(z, г) есть функция указанного выше типа.
Если ф(г) существует для некоторого г, то существует и ф(с), где С есть машина Тьюринга Vh^Bq^, вычисляющая при-
') Таким образом, 2 Pto = 1.
митивно рекурсивную функцию (xi + 1, х2 + 1, ..., xn + 1) '). Это имеет место потому, что пространство и время, необходимые для вычислений на С, не превосходят пространства и времени, необходимых для вычислений на любой другой машине Тьюринга. Пусть Н есть множество оптимальных машин Тьюринга Z, таких, что [z]n ^ И». В случае чисто-временной меры Н есть множество тех машин Тьюринга, которые не содержат четверок, начинающихся с qx\, и поэтому является рекурсивным множеством. С другой стороны, если рассматриваемая мера имеет пространственную компоненту, то существует верхняя граница для наибольшего индекса у S- или ^-символа, который может появиться в произвольном элементе Н. Таким образом, Н— множество конечное, а значит и рекурсивное. Следовательно, если бы <p(z) была частично рекурсивной на примитивных индексах, то множество {(с, г) |cp(G(c, г)) е //} было бы полувычислимым. Но это невозможно, так как q>(G(c, г)) г Н имеет место тогда и только тогда, когда ~ V Т (г, г, у\
У
Пусть множество значимости конечно. Чтобы найти <p(zo), начнем с вычисления значения y(zo). Заметим, что оно определено здесь тогда и только тогда, когда определено <p(zo). Если мера имеет пространственную компоненту, то у (го) задает верхнюю границу обеим ее составляющим: пространству, занятому для хранения программы, и рабочему пространству. А это ограничивает число машин Тьюринга и число мгновенных описаний, которые нужно просмотреть, чтобы подобрать <p(z0). Если мера чисто-временная, то мера времени оптимальной машины Тьюринга Zq должна быть ограничена следующим образом:
Е (г:,..., х„)<:—г;- (А)
vmin p^Xi ( Хп^ ’
(*1X^GS
однако существует бесконечное множество машин Тьюринга, удовлетворяющих этому неравенству. Отыскивая оптимальную машину Тьюринга, мы можем ограничиться теми машинами Z, которые имеют следующее свойство: если q* или Si принадлежит алфавиту Z, то и q^ или S, для всех 1 ^ / ^ t также принадлежит ему. На каждом шаге вычисления для любого элемента из конечного множества аргументов в мгновенное описание может быть добавлено самое большее одно новое состояние и один новый символ. Следовательно, с помощью (А) мы проверяем некоторое конечное число машин Тьюринга, и, значит, используя (А), мы сможем эффективно подобрать <p(z0).
') Вспомним, что ф(г) есть сокращение для фР(г), где р есть п-мест- ная функция.
Замечание. В противоположность последней части предыдущей теоремы, если воспользоваться одним из следующих критериев для образования понятия «оптимального алгоритма» Фр (г), то даже для конечного множества значимости фР(г) не будет частично рекурсивной:
фР(г) есть наиболее эффективная машина Тьюринга, вычисляющая [z]n;
фР(г) есть машина Тьюринга с кратчайшей программой, вычисляющая [z]n на множестве значимости1).
Обобщение теоремы 1. Пусть ф(z) есть некоторая нетривиальная оптимизирующая функция, ассоциированная с бесконечным множеством значимости, мера вычисления относительно которого есть многочлен от рабочего пространства, программного пространства и времени. Тогда существует такое рекурсивное множество примитивных индексов, что ф(г) на нём определено, но не рекурсивно..
Доказательство. Функцию G^c, г) можно выбрать так, чтобы она была возрастающей относительно г; в этом случае множество примитивных индексов (G(c, г) по всем г}— рекурсивное. Из доказательства теоремы 1 следует, что ф(г) не является частично рекурсивной на этом множестве. Нам осталось только доказать, что ф(О(с, г)) действительно определено для каждого г. Это очевидно, если ~ V T^r, г, yY Пред- у
положим Т(г, г, уа) для некоторого Уо, и положим
п
h — шах 2 *i + 2п — 1.
" (Лхп) < Уо ‘=1
Тогда можно непосредственно построить машину Тьюринга, которая вычисляет [G(с, г)]п для любого аргумента не более чем за h +3 шага, не заходя правее квадрата h, и которая использует в качестве S-символов только пустой символ и символ единицы. Возможно лишь конечное множество £ таких машин Тьюринга с различным поведением, и по предположению, сделанному относительно меры вычисления, так как у (с) определено, то и y(z) должно быть определено для любого ze^2). Легко видеть, что если мера чисто-временная, то некоторый элемент множества будет оптимальной машиной для [G(c, г)]„,
Этот результат доказан Пейджером в работе (7), где в качестве объема программы Z берется любая функция £(г) (не обязательно частично рекурсивная), такая, что выполняется неравенство L(u) <С к для произвольного к, которое истинно только для конечного числа программ U. ■ - -
2) Конечно, это справедливо для более широкого класса мер вычисления, чем рассмотренный здесь класс мер.
если, же мера имеет пространственную компоненту и z( есть произвольный элемент из £, то оптимальная машина Тьюринга должна находиться среди конечного множества тех машин, пространственно-временная мера которых не превосходит у(2().
Как мы увидим из теорем 2 и 3, условия существования <р(2) зависят от того, имеет или не имеет выбранная пространственно-временная мера пространственную компоненту.
Теорема 2. Для бесконечных множеств значимости и чисто-временных мер справедливо следующее утверждение: не существует оптимальной машины Тьюринга для такой функции f(x), что f(x) — х монотонно возрастает ■).
Доказательство. Расположим аргументы из множества значимости S в возрастающую последовательность Хо, хь %2Предположим, что оптимальная машина Тьюринга Z*, вычисляющая f(x) на S, существует, и обозначим через m число содержащихся в пей ^-символов. Так как S бесконечно, то для каждого аргумента xt машина Z* должна обязательно зайти в первый пустой квадрат справа (квадрат х, + 1), ибо в противном случае [z*]( (х() — (х() было бы постоянным для всех t ^ i. В любом случае наиболее коротким вычислением является такое вычисление, при котором Z* движется к Xi+К а затем, не изменяя направления, добавляет f(x,)— X, — 1 единиц справа. Но Z* не может так поступать болёе чем на m аргументах, так как после посещения (х,-4-1)-го квадрата она должна добавлять различное число единиц, не изменяя направления движения, для чего потребуется новое внутреннее состояние для каждого L
Для сравнения рассмотрим машину Тьюринга Zh, h>m, которая работает оптимальным образом на аргументах х0, Хь ..., хп, тогда как на Xi, i > h, она после посещения (xh4-l)-ro квадрата меняет направление и преобразует ленту к такому виду, в какой привела бы ее машина Z* за время работы до первого посещения ею квадрата Xh + 1. По меньшей мере для одного из элементов (назовем его х^ множества {хо, ..., хт} вычисления на Zh должны содержать меньшее число шагов, чем на Z*; с другой стороны, они не превосходят вычислений на Z* для всех аргументов из (х0, ..., хт, ..., х^. Следовательно, имеет место следующее неравенство:
у(г*) — y(2ft)^p(Xi)(£(2’, xz) — £(2ft, х4) —5 р (х,)) (х„ 4-1).
\( = Л + 1/
4 Для машин, использующих кодирование чисел с основанием системы счисления, большим 1, вместо унарного кодирования Дэвиса (4), соответствующий результат имеет место для тех функций, для которых j(x)lx монотонно возрастает...• ...-
Так как каждое вычисление требует посещения квадрата X/+ 1, то xt ^ Е (z", х^ для каждого I, и поэтому
2 Р (xt) Xi^^p (х^ Е (z\ Xi) = у (z*), i=01=0
которое, по предположению для Z*, определено. Это влечет за собой
Пт 2 Р (xt) xt = О,
ft-^OO /а=Л+1
что в свою очередь приводит к тому, что
lim 2
■A-»ooV=h+l /
Отсюда следует, что для достаточно больших h имеет место y(z*) >y(Zh), а это противоречит сделанному предположению.
Теорема 3. Пусть рассматриваемое множество значимости бесконечно. Тогда в том и только том случае, когда употребляемая мера содержит пространственную компоненту, имеет место следующая импликация: всякий раз, когда y(z) определено, существует и ф(г) *).
Доказательство. Если мера имеет пространственную компоненту, то ясно, что это условие является достаточным. Это же условие является и необходимым, так как, если пространственно-временная мера есть чисто-временная, то можно привести пример, противоречащий рассматриваемой импликации. Если Zq вычисляет х, то, согласно теореме 2, фР(го) не определена при любом выборе р. Но yp(zo) определена, например, для функции р(х), равной
1
Е (г0, х) (х + 1Е 2 T(5^)77TTFх=0
Теорема 4. (Теорема оптимизации.) Если используемая мера имеет пространственную компоненту, то существует такая примитивно-рекурсивная функция %Р, что если фр(г) существует, то Хр (2, t) = <рр (z) для почти всех t2).
Доказательство. Пусть Zo есть некоторая машина Тьюринга, для которой фр(г) = 2д (предположим) существует.
Занумеруем n-ки аргументов из множества значимости S эффективным образом в последовательность аь а2Пусть уДх) - t
обозначает соответствующую величину 2 Р (а<) И (z, а^, и Z?
есть такая машина Тьюринга, вычисляющая [z0]rt на (а,, ..., aj, для которой у, (г) имеет наименьшее значение. Машина Zq также вычисляет [г0]„ на (аь ..., aj и, следовательно, ее пространственно-временная мера дает верхнюю границу для программного пространства машины Z*. Пусть Рх есть конечное множество машин Тьюринга, программное пространство которых не превосходит этой границы. Для любой машины Тьюринга Z из Р^ вычисляющей на S функцию, отличную от той, которую вычисляет Zq, должен существовать некоторый аргумент аи е S, такой, что [z]„ (ац) V= [z0]rt(au). Пусть tz есть наименьший индекс у тех а, для которых это имеет место, Р2— подмножество множества Рх таких машин Тьюринга, а /тах есть максимальное значение tz для Z е Р2, Ясно, что для t > /тах машины Z\ и Zq вычисляют одну и ту же функцию на S, и, следовательно, обе являются элементами Рх — Р2.
Можно подумать, однако, что в некоторых случаях Z*t с возрастанием t может неограниченно «колебаться» среди элементов множества Рх — Р2, отличных от Zq. Покажем, что такой случай не имеет места. Если [z]„ = [z0]„, то, поскольку у, (г) з
монотонно возрастает относительно t, либо lim y<(z)=oo, либо /->оо
lim y((z) существует и величина его не меньше, чем y(z0). Так t->0O
как у, (г?) ^ у, (Zg) С У (zo) для всех /, то отсюда следует, что почти для всех t выполняется неравенство уД2«)<У<(2) для каждой такой машины Тьюринга из конечного множества Рх—Р2, для которой lim у, (z) =^ y(z0).
<-> ОО
Согласно теореме 1, Z? может быть выражена как ф(г0, /), где ф — частично рекурсивная функция. Пусть tz есть некоторая процедура, последовательно вычисляющая ф(г, 0), ф(г, 1) Если £2 делает более чем k шагов при вычислении ф (z, 0), то X(z, 6) может быть выбрана произвольным образом (например, ^qxBBqx)), в противном случае положим % (z, fe) равной последнему значению ф, полученному процедурой £2 на ее первых к шагах.
Рабин (9) и Блюм (2) доказали существование «произвольно сложных» функций. Их понятие сложности совершенно отлично от нашей концепции пространственно-временной меры, но все же может возникнуть вопрос, имеют ли место сходные результаты. Вопрос такого рода: «Существуют ли функции произвольно большой пространственно-временной меры?» — здесь тривиален,
так как мы можем специально определить функции со столь большими значениями f(x) — x, что их пространственно-временная мера неизбежно превзойдет любую наперед заданную границу. Вопрос приобретает смысл, если мы исключим функции такого типа и рассмотрим вместо них те, для которых функция f(x)—х ограничена. Тогда оказывается, как показывает следующая теорема, что ответ зависит от того, конечно или нет рассматриваемое множество значимости.
Теорема 5. Если используемое множество значимости конечно uh — произвольное фиксированное число, то существует верхняя грань пространственно-временной меры тех функций, для которых f(x) — х < h при всех х е S. С другой стороны, если множество значимости S бесконечно, то существует рекурсивная функция f(x), такая, что f(x) — x или х + 1 для всех xeS, пространственно-временная мера которой бесконечна..
Доказательство. Теорема очевидна, если множество значимости конечное. Рассмотрим тот случай, когда оно бесконечно. Определим рекурсивно (f(x), R^, где Rx есть некоторое множество номеров машин Тьюринга, следующим образом: f(0) = 0, Ro = Л. Если р(у4-1)#=0, то для определения f(y+l) рассмотрим наименьшее из чисел (скажем, 20) множества {I, 2, ..., у+1}-/?„ которое является Гёделевским номером некоторой машины Тьюринга и такое, что
|i(z0,i/+l)<77^ny>(А)
и положим
( У + 2, если [2о], (у + 1) = У + 1,
f \у + 1) — {, .(В)
I У + 1 в противном случае' '
и Ry+i = Ry\J {20}; если не существует чисел, удовлетворяющих (А), или если р(щ+Х) — О, то пусть /(У+1) = У4-1 и Rti+1 = Ry. Рассмотрим теперь неравенство ц(г,х)^ Up^ для любой машины Тьюринга Z, вычисляющей Цх). Оно может иметь место самое большее для 22 значений х, таких, что pU^^ так как в противном случае появляется противоречие, заключающееся в том, что 2 встречается в качестве 20 в (В) при вычислении некоторого значения функции f(x). Поэтому почти для всех у имеет место р^ ц(2, у) > 1 и, следовательно, у (2) = 2 р (х) ц (2, х) = оо. Так как это справед-
X eS
ливо для любой машины Тьюринга, вычисляющей f(x), то ее пространственно-временная мера бесконечна.
СПИСОК ЛИТЕРАТУРЫ
Arbib М. A., Blum М., Machine dependence'of degrees of difficulty, Proc. Amer. Math. Soc., 16 (1965), 442—447.
Blum M., A machine independent theory of the complexity of recursive functions, J. ACM, 14, 2 (April 1967), 322—336. (Русский перевод: Блюм M., Машинно-независимая теория сложности рекурсивных функций, Сб. Проблемы математической логики, «Мир», 1970, 401—422.)
Cleave J. Р., A hierarchy of primitive recursive functions, Z. Math. Logik Grundlagen Math., 9 (1963), 331—346. (Русский перевод: Клив Дж. П., Иерархия примитивно рекурсивных функций, Сб. Проблемы математической логики, «Мир», М„ 1970, 94—113.)
Davis М., Computability and Unsolvability, McGraw-Hill, New York, 1958.
Gold E. M , Limiting recursion, J. Symbolic Logic, 30 (1965), 28—57
Kleene S. C., Introduction to Metamathematics Van Nostrand, Princeton, N. Y., 1952. (Русский перевод: Клини С. К., Введение в метаматематику, ' ИЛ, М., 1957.)
Pager D., On the problem of finding minimal programs for tables, Inform
■ Contr., 14 (1969), 550—554. (Русский перевод: Пэйджер Д., О проблеме нахождения по таблицам минимальных программ.)
Ritchie R. W., Classes of predictably computable functions, Trans. Amer Math. Soc., 106 (1963), 139—173. (Русский перевод: Риги P. В., Классы предсказуемо вычислимых функций, Сб. Проблемы математической логики, «Мир», М, 1970, 50—93.)
Rabin М. О., Degree of difficulty of computing a function and a partial ordering of recursive sets. Tech. Rep. 2, Hebrew U., Jerusalem, 1960.
Rabin M. O., Wang H., Words in the history of a Turing machine with a fixed input, J ACM, 10, 4 (Oct. 1963), 526—527.
Shepherdson J. S., Sturgis H. E., Computability of recursive functions, J. ACM, 10, 2 (April 1963), 217—255.
Stearns R. E., Hartmanis J., Lewis P. M., Hierarchies of memory limited computations. Proc. Sixth Annual Symposium on Switching Circuit Theory and Logical Design, IEEE, New York, 1965, p. 179—190. (Русский перевод: Стириз P. E., Хартманне Дж., Льюис П. М., Иерархии вычислений с ограниченной памятью, Сб. Проблемы математической логики, «Мир», М., 1970, 301—319.).
Запись содержания текстов, не зависящая от их морфологических
и синтаксических особенностей1)
■ Б. Вокуа, Ж. Вейон, Н. Недобежкин, С. Бургиньон
ЦЕЛЬ И ГРАНИЦЫ ИСПОЛЬЗОВАНИЯ СЕМАНТИЧЕСКОЙ ЗАПИСИ
Назовем «выражением» письменный (или устный) текст на естественном языке. Как известно, тексты состоят из фраз, фразы состоят из простых предложений и т. д. вплоть до слов, которые состоят из морфем. На всех этих уровнях тексты подчиняются правилам морфологии и синтаксиса соответствующего языка. Вообще говоря, при построении текста морфологические и синтаксические конструкции, с одной стороны, и лексику — с другой, можно выбирать по-разному. Такое разнообразие выбора позволяет получать для одного и того же содержания много различных выражений. Поэтому при разработке моделей типа «Текст => Смысл» и «Смысл => Текст» необходимо определить такую запись, посредством которой содержание текстов можно было бы представлять независимо от грамматических и лексических свойств языка этих текстов. Такая запись и была бы идеальной семантической записью. Можно предположить, что семантическая запись тем эффективнее и тем ближе к идеальной, чем больше выражений, имеющих эквивалентное содержание, она позволяет записать в одинаковой форме. Другими словами, достаточно эффективная семантическая запись обеспечивает как распознавание равнозначности большого числа выражений эквивалентного содержания, так и порождение большого числа выражений одного и того же содержания.
Проблема построения семантической записи рассматривалась А. К. Жолковским и И. А. Мельчуком [1], [2] в рамках модели «Смысл О Текст», а также С. Лэмбом [3] в его известной стратификационной модели. Она была одной из основных задач исследований С. Е. Т. А. по автоматическому переводу и остается в центре внимания в связи с другими приложениями.
Семантическая запись подчинена некоторым ограничениям. Эти ограничения естественным образом определяют границы применимости записи.
*) Vauquois В., Veilion G., Nedobejkine N., Bourguignon C., Une notation des textes hors des contraintes morphologiques et syntaxiques de 1’expression, Stockholm, 1969 (COLING, 1969, Preprint № 17).
Ограничения первого типа связаны с тем, что модель «Смысл => Текст» является «порождающей», следовательно запись должна гарантировать возможность выводить из нее (т. е. строить по ней) синтаксические и лексические структуры данного языка.
Ограничения второго типа более жесткие, чем предыдущие, связаны с необходимостью уметь автоматически распознавать семантическую эквивалентность двух выражений. В самом деле, неоднозначность содержания двух выражений разрешать труднее, чем строить множество эквивалентных выражений.
Кроме того, ограничения на семантическую запись сами зависят от конкретной задачи. Действительно очень различны, по-видимому, условия использования этой записи в АП (автоматическом переводе) для внутриязыкового перефразирования, в системе «человек — машина» и т. д. Так, при АП разрешение неоднозначностей иногда оказывается излишним, а именно в тех случаях, когда в выходном языке имеется точно такая же неоднозначность, что и во входном. Напротив, система «человек — машина» предполагает, что машина может задавать человеку вопросы, позволяющие ей разрешить эту неоднозначность. Подобная обратная связь не может быть использована в АП.
Запись, о которой здесь идет речь («ЯШ» — «язык-посредник 1»), разработана специально для АП. Это означает, в частности, что для входного текста нужно уметь построить его семантическую запись. Соответствующий метод подробно изложен в разд. 3 данной статьи.
На первых порах были приняты следующие дополнительные ограничения:
в качестве единицы выражения (единицы перевода) рассматривается «синтаксическая фраза»;
в качестве семантически эквивалентных выражений в данной работе рассматриваются выражения, различающиеся синтаксическими конструкциями, тогда как различие в лексике допускается лишь в немногих случаях.
СТРУКТУРА ЯП
Элементы языка
Семантическая запись строится из элементов трех ТИПОВ! лексические единицы, переменные, отношения.
Лексические единицы. Запись, не зависящая от форм языка, должна иметь свой собственный набор лексических единиц. Однако на первом этапе, который рассматривается в настоящей работе, ЯП не имеет собственного словаря. Поэтому в применении к АП переход от слова входного языка к слову
выходного языка осуществляется как простая операция “перехода”. Причем эта операция является операцией, которая не относится ни к анализу, ни к синтезу.
Лексическая единица ЯП — это пара «русская лексическая единица с некоторым значением ‘s’ — множество французских лексических единиц, имеющих то же значение ‘s’» (см. примеры в разд. 3).
Какова бы ни была лексика ЯП (собственная или, так сказать, заимствованная), его лексические единицы разбиваются на два класса: предикатные единицы (глаголы, отглагольные существительные, прилагательные, предлоги, союзы и т. д.) и непредикатные единицы (в основном слова-дескрипторы).
Переменные. К переменным относятся элементы, информация которых служит для построения правильного текста (с их помощью осуществляется переход от лексии" к элементарному высказыванию, переход от соединения лексии к актуализации этого соединения и т. д.).
В применении к АП эти элементы называются «устойчивыми переменными», так как они извлекаются из текста на входном языке и для сохранения смысла должны быть выражены в тексте на выходном языке.
В качестве примера переменной можно привести переменную «тип высказывания»; ее значения—«утвердительность» и «отрицательность». Другой пример — время глагола (реальное «независимое» время, а не синтаксическое, т. е. обусловленное согласованием времен); вид и т. д.
Отношения. Отношения представляют co6ofi метапредикаты ЯП. Одни из этих метапредикатов определяют место аргументов предикатов, другие указывают отношения между лексиями или их аргументами.
Все используемые отношения являются двуместными метапредикатами.
Лексии и элементарные высказывания
Принимаются следующие допущения: самая простая конструкция в речи — это элементарное высказывание, представленное предикатом с его аргументами. Для предиката и аргументов указаны соответствующие переменные.
В действительности прежде всего представляет интерес более абстрактная конструкция —«лексия». Определение лексии было дано в [6], [7]. Напомним, однако, что предикатная лексическая единица представляет некоторое «понятие». Например, единица LIRE ‘ЧИТАТЬ* представляет понятие Ure, которое впоследствии может быть реализовано предикатом Ure или пе pas Ure ‘не читать’ в разных временах, наклонениях и т. д.
LIRE имеет два аргумента, так что мы будем"писать LIRE(x,y}, где х и у суть формальные переменные, которые пробегают множество лексических единиц. Если принять за х лексическую единицу secretaire ‘секретарь/секретарша’, а за у — лексическую единицу journal ‘газета’, то получим лексию:
LIRE (secretaire, journal)
‘ЧИТАТЬ (секретарь/секретарша, газета)’,
которую можно реализовать по-французски следующими элементарными высказываниями в соответствии со значениями переменных:
Le secretaire n’a pas lu les journaux‘Секретарь не прочел газет’или
La secretaire est en train de lire ce journal
‘Секретарша занята чтением этой газеты или
La lecture des journaux par les secretatrnS‘Чтение газет секретарями’
и т. п.
Для построения лексии в ЯП имеются отношения, которые позволяют связать предикат с его аргументами.
lire 'читать'lire 'читать'ACT!АСТ2ACT!АСТ2SecretaireJournal"секретарь'"газета ’SecretaireJournal"секретарь'"газета ’Рис. 1.Рис. 1.secretaire lire journal "секретарь’ "читать 'газета'secretaire lire journal "секретарь’ "читать 'газета'Рис. 2.Рис. 2.
lire 'читать'
lire 'читать'
ACT!АСТ2
ACT!АСТ2
SecretaireJournal
"секретарь'"газета ’
SecretaireJournal
"секретарь'"газета ’
Рис. 1.
Рис. 1.
secretaire lire journal "секретарь’ "читать 'газета'
secretaire lire journal "секретарь’ "читать 'газета'
Рис. 2.
Рис. 2.
Пусть имеются отношения ACT n(a, Р), где п = 1, 2 или 3, а — лексическая единица, Р — лексическая единица с предикатным значением.
И пусть
■ АСТ1 (а, Р (х, у)) — Р (а, у) или
АСТЗ (с, Р (х, у, z)) = Р (х, у, с).
Лексию LIRE (secretaire, journal') мы представим с помощью двух отношений:
ииACT! (secretaire, Lire (х, у))
и
и
АСТ2 (journal, Lire (х, у)).
Эти отношения удобно изображать в виде графа, где каждая дуга (стрелка) соответствует отношению; причем стрелка направлена от первого члена отношения к его второму члену.
■it।1■।।1। ■11■it।1■।।1। ■11--PASSE, PERFECTIF, NEGATtF 'прош др.' 'перфект * 'отрицат форма*
■it
।1
■।।1
। ■11
■it
।1
■।।1
। ■11
■ MASCUUN, SINGULIER,DETERMINE'муж р. ’ 'единств ч ’ 'определен-PLURIEI, DETERMINE НОСтЬ
'множч.* 'определенность*
secretaire Ure journal
'секретарь* 'читать 'газета*
Рис. 3.
Итак, мы имеем граф, изображенный на рис. I.
Для того чтобы показать, с одной стороны, граф отношений некоторого текста, а с другой — его лексику, определим отображение А вершин графа в лексику. Тогда мы получим следующее представление лексии (см. рис. 2).
Элементарное высказывание
Le secretaire n’a pas lu les journaux‘Секретарь не прочел газет’
записывается посредством прибавления к предыдущему графу отображения Г вершин графа в множество последовательностей переменных (см. рис. 3).
Композиция лексий и элементарных высказываний
В одной и той же фразе возможно наличие нескольких элементарных высказываний, поэтому необходимо уметь записывать композиции элементарных выражений. Это обеспечивается отношениями ЯП. Можно поставить вопрос о минимальном числе таких отношений; в настоящее время набор отношений ЯП явно не является минимальным (тем самым имеет место некоторая избыточность).
Для упрощения изложения допустим, что существует только одно такое отношение «EPITHETE» (эпитет). Это двуместный метапредикат
EPITHETE (х,у).
Рассмотрим фразу: Le petit garfon porte un livre. ‘Маленький мальчик несет книгу’. Эта фраза содержит два элементарных высказывания:
Еь Le garfon porte un livre ‘Маленький мальчик несет книгу’, полученное из лексии: Porter (garden, livre) ‘Носить (мальчик, книга) ’
Le garfon est petit
‘Мальчик маленький’, полученное из лексии: Petit (gargon) ‘Маленький (мальчик)’,
41
Petit garconporterlivre
'маленький*'мальчик*'носить*'книга
Рис. 4.
Указанные лексии представляются графами, изображенными на рис. 4. В данной фразе имеется отношение между точками 4 и 2 рассматриваемых графов:
EPITHETE \Petit [АСТ1 (garcon, porter (х, livre))), АСТ1 (garcon, porter lx, livre))).
EPITHETE [‘Маленький’ [ACT1 ('мальчик, носить (x, книга’))], ACT1 (‘мальчик, носить (x, книга’))).
Это приводит к записи в лексиях, изображенной иа рис. 5.
Рассмотрим теперь структуру лексий на более сложном примере:
On volt la maison sur le toil de laquelle les oiseaux font leur nid
‘Виден дом, на крыше которого птицы вьют свои гнезда’
0 voir maison t toit sur faire oiseau ma t видеть 'дон' 'крыша 'на' 'делать' 'птица' 'енездд
Рис. 6.
‘видеть (0 дом)’ ‘делать (птица, гнездо)’ ‘на (делать, крыша)’ ‘е (крыша, дом)’ ‘е (гнездо, птица)‘видеть (0 дом)’ ‘делать (птица, гнездо)’ ‘на (делать, крыша)’ ‘е (крыша, дом)’ ‘е (гнездо, птица)
‘видеть (0 дом)’ ‘делать (птица, гнездо)’ ‘на (делать, крыша)’ ‘е (крыша, дом)’ ‘е (гнездо, птица)
‘видеть (0 дом)’ ‘делать (птица, гнездо)’ ‘на (делать, крыша)’ ‘е (крыша, дом)’ ‘е (гнездо, птица)
В этой фразе имеется пять элементарных высказывании, полу
ценных из следующих лексий:
VOIR (0, maison) FAIRE (oiseau, nid^ SUR (faire, toit) e ) (toit, maison) . s (nid, oiseau)
Всему сложному высказыванию, т. е. фразе, соответствует граф отношений, изображенный- на рис. 6.
АВТОМАТИЧЕСКИЙ ПЕРЕХОД К ЗАПИСИ НА ЯП
Исходная синтаксическая структура
После применения морфологической модели Ml и синтаксической модели М2 получается исходная синтаксическая структура. Эта структура представляется в виде графа зависимостей, где каждой вершине приписываются: номер словоформы (порядковый номер ее вхождения в текст), элементарная синтагма— терминальная категория и словообразовательный номер, неэлементарная синтагма — значения грамматических переменных и нетерминальная категория и, наконец, адрес в словаре (т. е. номер соответствующей лексической единицы). Кроме того, стрелка графа, связывающая вершину с ее управляющим, снабжена номером примененного синтаксического правила (см. стр. 167).
Интерпретация синтаксической структуры
Будучи чисто формальным объектом, синтаксическая структура чаще всего допускает несколько возможных логико-семантических интерпретаций для синтаксических отношений между вершинами ее графа. Так, отношению V201 (см. пример на стр. 157) могут отвечать различные смысловые отношения предиката к аргументу в зависимости от значений переменных предиката, а также от «семантического» класса, к которому он принадлежит. Если предикат — это переходный глагол в несо1 вершенном виде, в пассиве или в возвратной форме, то вершина, зависящая от него по отношению V201, будет его вторым аргументом; в противном случае, она чаще всего будет его первым аргументом.
С другой стороны, одной фразе может быть в действительности сопоставлено несколько различных синтаксических структур, причем часто оказывается невозможным выбрать лучшую ( = наиболее правильную) из них. Так обстоит дело, в частности, в случаях нахождения управляющих для предложных, союзных или наречных дополнений и обстоятельств. Для подобных вершин на уровне синтаксического анализа трудно, а иногда и невозможно ввести, правила, позволяющие находить истиннее., управляющее. Поэтому мы выбрали следующее решение: все вершины указанного типа всегда • подчиняются самому «высот кому» управляющему в структуре (см. пример; на стр. 167);.
В силу сказанного перед ЯП ставятся следующие задачи: - ■ -
позволить определить смысловые отношения между вершинами синтаксического графа;
среди множества синтаксических структур, представленных одной данной структурой, найти правильную структуру.
Для получения правильной структуры исходную структуру иногда приходится модифицировать. Это происходит, в частности, при опущении служебных слов (см. рис. 7). В этом случае
в структуру вводятся дополнительные вершины, так чтобы были заполнены все места предикатов (обычно нужное число раз повторяется вхождение уже имеющейся в структуре вершины). Дополнительные вершины вводятся для подразумеваемых аргументов (безличные, неопределенио-личные и т. д.). Для иллюстрации этого рассмотрим пример, изображенный на рис. 7.
Описание грамматики этикетажа (М3)
Чтобы осуществить все названные выше трансформации, мы воспользуемся так называемой грамматикой «этикетажа», метаязык которой описан в [8].
3 VQ11'запрещать 'кому-то ‘делать’ 'w.o то’
Р и с. 8.Р и с. 9.
Эта грамматика состоит приблизительно из 80 правил. Каждое правило содержит номер, левую часть и правую часть.
Левая часть правила этикетажа (GAUCHE) описывает некий подграф графа зависимости в терминах символов отношений, введенный в [8]. Вершины графа перенумерованы от 0 до п в порядке их появления.
Пример:
GAUCHE (FS, V311 (FR, ACT ly (FS V011))1)
Пример правила грамматики этикетажа
REGLE
R220, SUITE
GIQ25910
2590
‘правило’
GAUCHE
((FS, V291))
GIQ25920
2591
‘левая ч. п.’
(‘сын, V291’))
TABLO
GIQ25930
2592
А
LIGNE
(CE, TRIVA)
GIQ25940
2593
В
LIGNE
(R(FS(BL. L)))
GIQ25950
2594
В1
LIGNE
((E, V132)U(F, V151))
GIQ25960
2595
С
LIGNE
(R(FS, ACT2))
GIQ25970
2596
D
LIGNE
(R(FS, ACT3))
GIQ25980
2597
FTABLO
GIQ25990
2598
CONDIT
GIQ26000
2599
‘правая ч. п.’
STRUCT
((1, BENJ, 2))
GIQ26010
2600
SYMBO
2((E, V201))
GIQ26020
2601
SINON
(B, O)AA
GIQ26030
2602
STRUCT
((0, BENJ, 3))
GIQ26040
2603
АА
SYMBO
((2SBT,., 3))
GIQ26050
2604
SINON
((C, O)U(D, O))ELIMIN
GIQ26060
2605
SINON
(A. O)AB
GIQ26070
2606
SYMBO
1((E, ACT3))
GIQ26080
2607
SYMBO
3((E, ACT2)) (A, SUITE)
GIQ26090
2608
АВ
SYMBO
1((E, ACT2))
GIQ26100
2609
SYMBO
3((E, ACTS))
GIQ26110
2610
FREGLE
R220
GIQ26120
2611
Согласно приведенной здесь левой части
правила,
в графе
зависимостей (т. е. в синтаксической структуре) ищется подграф, изображенный на рис. 8.
Правая часть правила этикетажа (DROITE) присваивает новые символы определенным вершинам графа (указанным в левой части) и производит нужное преобразование графа.
В описанном примере левая часть задает подграф, изображенный на рис. 9.
Правая часть (CONDIT) непосредственно преобразует этот подграф, вводит новую вершину 2 и осуществляет поиск вершины 3, если она существует, или же вводит ее в граф, если
■) FS —сокращенное от fits ‘сын’.
FR — сокращенное от frere ‘брат’. — Прим, перев.
она отсутствует. Вершине 2 приписывается этикетка V201 и тот же самый адрес (т. е. то же самое лексическое значение), что и вершине 3. После этой операции получается подграф, изображенный на рис. 10. Заметим, что приписывание этикеток называется «этикетажем», этим и объясняется название. Затем вершинам 1 и 3 в соответствии с кодами вершины 0 приписываются этикетки. В случае, если вершина 0 — это глагол типа interdire, ‘запрещать’, то вершина 3 будет ее АСТЗ, а вершина 1—ее АСТ2; если же вершина 0 — глагол, типа prier ‘просить’, то этикетки вершин 1 и 3 поменяются местами.
о
I I
Interdire a quelqu’un de faire quelquechose'запрещать 'кому-то' 'делать' 'что-то
Рис. 10.
Этикетажные коды, упомянутые в приведенном выше примере, представляют собой символы семантических классов, к которым принадлежит соответствующее слово. Эти классы образованы в соответствии с теми признаками, которые отличают один язык от другого. Для русского языка мы выделяем три основных признака: 1) переходность; 2) валентность; 3) предложное управление.
В зависимости от этих признаков мы ввели три словарные классификации: первые две классификации задаются в форме бинарных деревьев (см. ниже), а третья — в форме списка.
Дерево № 1
00 01 02
03 04 05
06 07
пустой непустой внешний . внутренний постоянный переменный возвратный ' поглощенный
нейтральный активный
явный скрытый
непереходный -
переходный
процесс
08
09
дескриптер идея оператор'
выражение
10
понятие
абстрактный -
11
12
13
сорт _ аппелатив
единица
исчислимый
.конкретный
имя
14
твердый
неисчислимый
15
жидкий
Дерево № 2
00
01
02
03
отсутствие меры мера манера мотив
количество
конечная дель
модельность
обстоя
04
продолжительность
время
тельство
05
кратковременность
протяженность -
06
плоскость
07
объем
пространство
08
09
10
11
двухвалентный трехвалентный простой составной
прямой . непрямой
многовалентный -
валент
12
13
ЛИЧНЫЙ безличный
одновалентны#
моновалентный -
ность
14
15
объект выражен метео
авалентный
Заметим, что признаком «обстоятельство» обладают предлоги, наречия, прилагательные и существительные, не являющиеся отглагольными: признаком «валентность» обладают глаголы и отглагольные существительные.
Поясним обозначения:
00 — служебные слова, предлоги, местоимения, простые наречия
01 — определение с подчиненным АСТ2
02 — переходное действие с подчиненным АСТ2
03 — переходное действие с подчиненным АСТ1
04 — переходное действие с подчиненным АСТ1, если нет ррзвратцостж и с подчиненным АСТ2, если есть возвратность ' ’.‘
05 — переходное действие с подчиненным ACTIE2
06 — переходное действие с подчиненным АСТ1, если нет возвратности, н АСТ1Е2, если есть возвратность
07 — переходное действие с подчиненным АСТ1 для возвратности и невозвратности
08 — глагол с двумя актантами: АСТ1, АСТ2.
09 — глагол с тремя актантами: АСТ1, АСТ2 и АСТЗ (выражен в DATIF)
—глагол с тремя актантами: АСТ1, АСТ2 (в DATIF), АСТЗ (не в DAT1F)
—глагол с тремя актантами: АСТ1, АСТ2 (в АСС), АСТЗ (не в DATIF)
— глагол с одним актантом: АСТ1
— глагол с двумя актантами: АСТ1, АСТ2 (может иметь определение объекта)
— безличные глаголы типа: II faut ‘надо’, possible ‘возможно’
— «метеорологические» глаголы типа: II pleut ‘идет дождь’.
Словарь
Словарь представлен в следующей форме:
Каноническая фопма 6x00ного слова
„ U.L.
Лексическая единица
1
г- L
СС
Коб класса
5. Слобообразодоние
16.
Грамматическая информация
СЕ.
Код этикетажа
Семантическое поле
Эквивалент
US.
Семантическая единица
РМ
Каноническая форма слова входного языка н эквивалент записываются удобным образом. Единицы UL, СС, D составляют идентификатор слова.
I. G. представляют собой значения грамматических характеристик, с помощью которых строится та или иная словоформа.
С. Е. — последовательность символов (цифр или букв), отделяемых друг от друга запятой, которые являются признаками, записанными с помощью деревьев грамматики «этикетажа».
Семантическое поле и код мнкроглоссария определяют ту область языка, в которой возможно употребление слова с данным эквивалентом.
U. S. — порядковый номер, который определяет номер семантического семейства этого слова (см. стр. 161). Это семейство может состоять нз слов, которые имеют следующие функции:
01: Процесс
02: Вещь
03: Активное свойство
04: Способ
05: Характер
06: Пассивное свойство
Пример семантических семейств
(пустые клетки, в случае необходимости, могут быть заполнены при перефразировании)
Лексема
Вариант
distlnguer ‘различать*
comprendre ‘понимать*
reel ‘реальный*
pour ‘для
et
absence ‘отсутствие*
Процесс
01
11
distlnguer
comprendre
Вещь
02
12
distinction ‘различие*
comprehension
‘понимание* incomprehension ‘непонимание*
absence
Активное свойство
03
13
distinct ‘различный’
comprehensU ‘понятливый’ incomprehensU ‘непонятливый’
absent ‘отсутствующий*
Способ
04
14
distinctement ‘внят но* indistinctement
‘невнятно*
reelement
’реально’
pour
et
Характер
05
15
realite ‘реальность* irrealite ‘нереальность*
Пассивное свойство
06
16
distingue ‘различаемый’
compris ‘понимаемый* incompris ‘непонимаемый*
reel ‘реальный’ irreel ‘нереальный’
pour que ‘для того, чтобы’
4. ВОЗМОЖНЫЕ ПРИЛОЖЕНИЯ ЯГИ
Данный ЯП был задуман специально для АП, и поэтому мы подробно остановимся на этом его применении.
Использование ЯП1 в процессе АП
Предложенная запись на ЯП сохраняет содержание текста, устраняя его морфологические и синтаксические особенности. В действительности такая запись вполне соответствует той независимости анализа и синтеза, которая предполагается в модели типа «Смысл ^ Текст».
Создавая этот ЯП, мы не стремились к получению точной и глубокой записи содержания. Для нас было достаточно построить такой ЯП, в терминах которого можно описывать структуру текстов, не зависящую от входного и выходного языков,
Рис. 11.
устраняя те особенности выражения, которыми характеризуются тексты на этих языках.
При практическом использовании наш ЯП был упрощен. Это объясняется, в частности, известным сходством между языками, что позволяет избежать слишком глубокого анализа и не заниматься устранением некоторых неоднородностей. В системе перевода, отправляясь от записи на ЯП, мы можем синтезировать выражение на выходном языке. Таким образом, анализ и синтез оказываются вполне независимыми, что иллюстрирует схема, изображенная на рис. 11.
Анализ был нами уже рассмотрен; остановимся теперь подробнее на синтезе.
Лексика ЯП
Запись на ЯП должна обеспечить нам построение на выходном языке поверхностной синтаксической структуры (затем по этой структуре строится цепочка реальных слов). Будем предполагать, что выходным языком является французский. Каждой
вершине структуры на ЯП сопоставлена лексическая единица, определенная при анализе входного текста. Каждой лексической единице соответствует так называемая семантическая парадигма из 12 членов (выражений). Каждое из этих выражений характеризуется своей грамматической информацией, которая определяет свойства слова: синтаксическая категория (часть речи), род, число, предложное управление, корень и морфологические свойства.
Одна из целей синтеза — выбор для каждой лексической единицы той синтаксической категории, которая навязывается ограничениями, возникающими в синтезируемой структуре.
Представление выходной синтаксической структуры
В результате последовательных преобразований графа ЯП получается выходной синтаксический граф в виде дерева зависимостей. Однако для получения этого графа мы не пользуемся правилами типа НС — правил, которые имеются в порождающих грамматиках Хомского. Поэтому порядок слов в структуре
Рис. 12.
не определен, за исключением того, что должны соблюдаться требования проективности. Следовательно, для каждой вершины требуется указать ту позицию, которую она занимает в цепочке по отношению к своему управляющему. Эта позиция кодируется положительным числом, если вершина должна стоять справа от управляющего, и отрицательным числом, если вершина должна стоять слева. Рассмотрим пример на рис. 12. Вершины а, b и с упорядочены по отношению к х: abxc и е и 1: ecf. Соблюдение проективности определяет цепочку (abx(ecf)).
Таким образом, выходная поверхностно-синтаксическая структура представляется деревом зависимостей, в котором каждой вершине приписаны следующие характеристики: «вес» (число, характеризующее ее линейную позицию в цепочке), символ ее синтаксической категории и множество грамматических переменных, которые позволяют построить нужную форму соответствующего слова (см. пример на стр. 169).
Грамматика синтеза
Для каждой вершины дерева должна быть определена информация двух типов: ее синтаксическая функция и ее синтаксическая категория. Категорию мы можем определить, только если знаем синтаксическую функцию, что видно из примера на рис. 13.
Предположим, что корень дерева мы сделаем существительным: explication ‘объяснение’. Тогда глагол apparaitre ‘появляться’ окажется приименным дополнением, что потребует в
exphquer 'объяснять'
АСТ2apparaitre'появляться'
АСИ
, nucleons нуклоны"
Рис. 13.
свою очередь превратить и его в существительное explication de Vapparition de nucleons ‘объяснение появления нуклонов’.
Если же мы поставили бы в корне глагол expliquer ‘объяснять’, тогда слово apparaitre ‘появляться’ было бы прямым дополнением, которое может быть либо существительным, либо глагольным выражением (expliquer que... ‘объяснять, что...’).
Грамматика синтеза, начиная с корня дерева, применяется к каждой вершине. Для каждой вершины применяются последовательно правила трех типов:
Выбор синтаксической категории. Так как синтаксическая функция вершины известна, то определение ее синтаксической категории зависит от словообразовательных возможностей данной лексической единицы и, в известных случаях, от ее окружения.
Определение синтаксических функций для различных вершин, зависящих от данной в графе ЯП.
Терминальное правило. Это правило, с помощью которого находятся морфологические характеристики. Оно позволяет осуществить в некоторых случаях следующие преобразования: преобразования, необходимые для образования сложных времен, преобразования, связанные со вставкой предлогов и артиклей, преобразования, связанные с введением местоимений- заменителей.
Рассмотрим предыдущий пример. Возьмем вершину арра- raitre ‘появляться*. Перед применением грамматики к этой вершине мы имеем следующую структуру:
explication 'объяснение*explication 'объяснение*приименное дополнение(apparaitre 'появляться')приименное дополнение(apparaitre 'появляться')
explication 'объяснение*
explication 'объяснение*
приименное дополнение
(apparaitre 'появляться')
приименное дополнение
(apparaitre 'появляться')
explication 'объяснение'explication 'объяснение'приименное дополнение nucleons 'нуклоны1приименное дополнение nucleons 'нуклоны1
explication 'объяснение'
explication 'объяснение'
приименное дополнение nucleons 'нуклоны1
приименное дополнение nucleons 'нуклоны1
АСИnucleons ‘нуклоны'
После применения правила выбора синтаксической категории!
explication 'объяснение"
приименное дополнениегруппа существительного(apparition 'появление')
АСТ1nucleons 'нуклоны'
После применения правила определения синтаксической функции:
приименное дополнениегруппа существительного(apparition 'появление')
После применения терминального правила
explication ’объяснение'explication ’объяснение'
explication ’объяснение'
explication ’объяснение'
В действительности мы функции и понятие веса; этоВ действительности мы функции и понятие веса; этосмешали понятие синтаксической последнее является более точным.
В действительности мы функции и понятие веса; это
В действительности мы функции и понятие веса; это
Другие приложения
Можно попытаться использовать предложенную запись и связанные с ней системы анализа и синтеза в системах общения с машиной на естественном языке. Так как данная запись дает запись смысла многих эквивалентных фраз, то ее можно рассматривать как каноническую форму всех фраз одного и того же содержания. Если уметь интерпретировать эту запись, то в языке общения человек — машина можно допустить существование всех семантически эквивалентных фраз. Более того, возможность перефразирования путем порождения одной или нескольких фраз позволит осуществить диалог между машиной и пользователем. В частности, в случае когда предложенная фраза неоднозначна и имеет несколько записей, машина может прибегнуть к дополнительному вопросу, чтобы устранить неоднозначность.
Среди приложений этого типа мы отметим автоматическое наведение справок в картотеке и программированное обучение.
Разумеется, необходимо специально исследовать проблемы интерпретации предложенной записи в рамках новых приложений. В частности, при наведении справок в картотеке может оказаться необходимым, исходя из записи на ЯП, построить некоторую последовательность команд или даже целую программу.
ПРИЛОЖЕНИЕ
000070 оооо—000070 оооо—Русская синтаксическая структура
000070 оооо—
000070 оооо—
‘DEBUT DE PHRASE’ (начало фразы)N061—атмосферный
V201—- воздух
V681—। ,
Р160—j сжимаясь
V570—। за
М271— счет
N061скоростного
N124——напора
Р140—,
Н021— нагревается
V570—। в
М271 —теплообменнике
Н180
Формула на ЯП
0007000000 ‘DEBUT0007000000 ‘DEBUTDE PHRASE’ (начало фразы)
00070
00000 ‘DEBUT
00070
00000 ‘DEBUT
АСТ2—воздух—AIR
PHRASEPHRASEнагревается CHAUFFER
PHRASE
PHRASE
CIRGEN | в DANS
АСТЗ—теплообменнике—ECHANGEUR
сжимаясь COMPRIMER
CIRGENCIRGENсчет GRACEсчет GRACE
CIRGEN
CIRGEN
счет GRACE
счет GRACE
АСТ2 ‘SUBSTITUE’
EPITHE | скоростного DYNAMIQUE
АСТЗАСТЗнапора—EXERCERнапора—EXERCER
АСТЗ
АСТЗ
напора—EXERCER
напора—EXERCER
АСТ1Е2 ‘SUBSTITUE’
точка— •
000000
Французская синтаксическая структура
О DEBUT DE PHRASE (начало фразы) GNOMO—г- -50—AIR
VIFVICVIOVIAMANINDMASSINTREINTARDVIT
VERBO—
О (ОВ/16 6LE1
— +1EST
ADVBO—7 +85 DANS
VIFVICVIOVIAMASSINVIT
VIFVICVIOSSGAVRSAXVIAINDPREMASSINTREVPPVIT
VIFVICVIOSSCADGVIAINDIN AMASSININTVIT
GNOMO-r- +1 ECHANGEUR
VIFVICVICVIAMANINDMASSINTREINTARDVIT
О(ОВ/— -16 6LE1
VIFVICVIOVIAMASSINVIT
GNOMO—i + 18 CHALEUR
VIFVICVIOVIAFMMSMITRMFEMSINTNRARRDET
О(ОВ/—
VERBO —57 COMPRIMANT O(OB/— -45 SEN
—O(OB/— -40 SEI ADVBO-r- +85 GRACE
-18 DES
vifvicviosscadgviavit
vifvicviossgetrrflviaindpremassintrevit
VIFVICVIOSSCADEVIAVIT
VIFVICVIOVIAMASSINTREREFVIT
vifaacviosscadgviaindinamassintrei№vit
GNOMO—। +1 PRESSION VIFVICVIOVIAFMMINDFEMSINIREINTARDAAT
О (ОВ/— —16 LAIО (ОВ/— —16 LAIVIFVICVIOVIAFEMSINVITVIFVICVIOVIAFEMSINVITO(OB/— —18 5A9O(OB/— —18 5A9VIFVICVIOSSCADGVIAVITVIFVICVIOSSCADGVIAVIT
О (ОВ/— —16 LAI
О (ОВ/— —16 LAI
VIFVICVIOVIAFEMSINVIT
VIFVICVIOVIAFEMSINVIT
O(OB/— —18 5A9
O(OB/— —18 5A9
VIFVICVIOSSCADGVIAVIT
VIFVICVIOSSCADGVIAVIT
ADJF—+12DINAMIQUEVIFVICVIOVIAINDPREFEMSINTREVIT
—O(OB/—+100,VIT
ADJF +46CHAUFEEVIFVICVIOSSGAVRVIAINDMASSINTREVIT
PUNCTO +100.VIT
СПИСОК ЛИТЕРАТУРЫ
Jolkovsky A., Meltchouk Y., Essai d’une theorie semantique applicable au traitement de langage, Annales de la Conference Internationale sur le traitement automatique des langues, Grenoble, 1967.
Жолковский А., Мельчук И., О семантическом синтезе, Проблемы кибернетики, 19 (1967), 177—238.
Lamb S., Outline of stratificational grammar, Georgetown University Press, 1966.
Vauquois B., Le systeme de traduction automatique du С. E. T. A., Con- gres d’EREVAN, Avril 1967.
Veillon G., Description du langage pivot du systeme de Traduction automatique du С. E. T. A.
Fuchs C., Pecheux M., Lexis et Metalexis, Linguistique mathematique. Collection de D. Herault (Dunod) (a paraitre).
Dupraz M., Rouault J., Lexis-Affirmation-Negation, Etude fondee sur les Classes, Colloque de Balatonszabadi, Septembre 1968.
Vauquois B., Veillon G., Un metalangage de grammaires transformation- nelles, Proceading of International Conference on Computational Linguistics, Grenoble, 1967.
. Вокуа Б., О деятельности центра исследований по автоматическому переводу при Национальном центре научных исследований, Франция, Сб. «Автоматический перевод», «Прогресс», М„ 1971.
. Мельчук И. А., Об одном эксперименте АП с русского языка на фран-цузский в рамках Гренобльской системы, НТИ-2, № 12 (1969), 23—29.
ВЫЧИСЛИТЕЛЬНЫЕ МАШИНЫ И МЫШЛЕНИЕ
Искусственный интеллект;темы исследованийво втором десятилетии развития1)
Э. А. Фейгенбаум
Цель настоящего сообщения состоит в обзоре последних публикаций, посвященных исследованиям в области искусственного интеллекта, и установлении и оценке основных тенденций, проявляющихся в этих исследованиях. Имея дело с областью исследований, проходящей первые этапы развития и развивающейся столь же быстро, как и та, о которой пойдет речь, но которая не обладает к тому же прочным теоретическим фундаментом, не так просто разрешить обе проблемы — и выделение тенденции, и попытки их оценивать.
Наиболее примечательным изо всех научных докладов, на которых я присутствовал, мне кажется выступление-экспромт моего коллеги профессора Дж. Лидерберга перед неформальной Стэнфордской исследовательской группой. Его доклад был посвящен проблеме, которую можно было бы определить как «обработка информации посредством РНК и ДНК». Хотя его интересы весьма разносторонни, тема того дня явно была его коронной — мало кто мог сравниться с ним в этой области.
Доклад этот, подобно двойной спирали, развивал две переплетающиеся темы. В рамках одной из них сообщались основные сведения о характере проведенных экспериментов и полученных в их ходе результатах. Другая представляла личную оценку Лидербергом содержательности отдельных экспериментов и научной ценности их результатов — обсуждалась потенциальная плодотворность продолжения определенных исследований и вероятная бесперспективность других, сравнение ключевых проблем, требующих разрешения, с самими по себе интересными, но по существу побочными проблемами и много других рассуждений оценочного характера. В общем доклад
*) Feigenbaum Е. A., Artificial intelligence: themes in the second decade, Stanford Artificial Intelligence Project, Stanford University, Memo № 67, August 1968.
содержал широкий спектр комментариев — от покоившихся на строго научной основе («практически доказано») до отражающих субъективные и интуитивные ощущения, которые может дать длительный опыт работы в данной области («Я чувствую, что...»). В результате в голове слушателя возникала «карта» лабиринта «задача — эксперимент — теория», отражавшая текущее состояние исследований в этой области молекулярной биологии и содержавшая оценки настоящего и будущего для различных путей через этот лабиринт.
Этот двойственный подход я выбрал в качестве эталона для нашего обзора. Он не должен сводиться ко всеобъемлющему набору библиографических указателей. Существенным является тщательный отбор материала, основанный в какой-то степени на личной оценке его уместности и важности; конструктивную роль играют и субъективные критерии достоверности и плодотворности отдельных аспектов исследований. "
Так как я делаю доклад, а не пишу книгу, то у меня нет возможности рассмотреть все направления исследований, которые с полным основанием можно отнести к «исследованиям в области искусственного интеллекта». Выбранные мной названия разделов не следует рассматривать как оглавление дешифратора к понятию «искусственный интеллект». Примечательные подразделы, обладающие собственными научными традициями и авторитетными публикациями, были оставлены «на произвол судьбы». Так, например, важное направление, называющее себя «исследования в области распознавания образов», отсутствует в нашем обзоре, так же как и лингвистика, машинный перевод, бионика, нейрофизиологические модели процесса обработки информации и некоторые другие.
Предметом настоящего сообщения являются эвристическое программирование, решение проблем и примыкающие к этим темам модели процесса обучения. В рамках этой тематики мы концентрируем внимание на исследованиях, проводившихся в 1963—1968 годах, так как мне кажется, что сборник «Вычислительные машины и мышление» [21] содержит соответствующий материал, характеризующий период 1956—1962 годов. Отметим, что ниже для обозначения понятия «искусственный интеллект» будет использоваться аббревиатура ИИ.
ОБЩАЯ ХАРАКТЕРИСТИКА ИССЛЕДОВАНИЯВ ОБЛАСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
«Взрыв», характеризующийся увеличением количества ставящихся задач, запускаемых исследовательских проектов и публикуемых сообщений, в первую очередь вызывает интерес. Не-
смотря на этот бурный рост уровень качества исследований оставался, с моей точки зрения, достаточно высоким1).
С самого начала исследований в области ИИ, к которым Ньюэлл и Саймон приступили в Технологическом институте Карнеги в 1955—1956 годах (их я при любых обстоятельствах рассматриваю как «НАЧАЛО»), они называли их изучением «сложных процессов обработки информации». И поныне они пользуются этим названием, хотя не одна исследовательская программа родилась с тех пор под названием «проект ИИ». Следует отдать должное предусмотрительности, проявленной в в этом отношении Ньюэллом и Саймоном. Пограничные области исследований ИИ настолько переплетены с исследованиями, выполняемыми в рамках теории и приложений вычислительных машин, что их вполне можно характеризовать понятием «сложные процессы обработки информации». Например, следует ли работы с информационными программами, обеспечивающими получение ответов на конкретные вопросы, продолжать считать исследованиями в области искусственного интеллекта или их нужно рассматривать как естественное развитие направления, определяемого понятием «информационный поиск»? Являются ли попытки совершенствовать программы решения проблем, придавая им способность создавать операционные системы [24], изучением ИИ или они представляют собой исследования в области системного программирования? Относится ли программа, обеспечивающая выдвижение гипотез при анализе масс-спектров органических молекул, к ИИ или химии [22]?
Эти вопросы не столь тривиальны, как подразумевает недвусмысленный ответ: «А какая, собственно, разница!». Мы сталкиваемся здесь практически с общей для всех направлений науки тенденцией дробления тем исследований по мере лучшего уяснения возникающих задач и включения в работы практиков, стремящихся применить полученные результаты, причем
’) Ряд наблюдателей отмечает падение продуктивности исследований в 1960—1963 годах, и оценка эта, по всей вероятности, вполне обоснованна. Я считаю, что это вызвано следующими факторами: сдвиг интересов основных исследовательских центров в сторону технических аспектов создания вычислительных устройств (например, работы по созданию вычислительной машины с множественным доступом в Массачусетском технологическом институте, проект вычислительной системы с разделением времени, осуществлявшийся в Станфорде под руководством Маккарти); необходимость переоценки смысла и значения результатов, полученных в конце пятидесятых годов; переключение внимания на такие задачи, разрешение которых требует длительного времени (например, анализ естественных языков, «роботы», проблема представления); организация в высших учебных заведениях факультетов вычислительной техники, составление программ, осуществление учебных курсов и т. п. поглотили значительную долю сил людей, творчески работавших в этой области. Каждому из этих факторов принадлежит свой «вклад» в снижение продуктивности исследований периода 1963—1968 годов.
«успех» в этих случаях приписывается отпочковавшимся дисциплинам, а вклад «делящейся» области знания игнорируется.
Исследования в области ИИ демонстрируют многочисленные примеры развития подобных процессов. Рассмотрим распознавание символов (т. е. то, что делают те самые «оптические считывающие устройства»). Большинство ранних работ по распознаванию образов были посвящены распознаванию символов, которое рассматривалось как интересная исходная задача. Это исследование, относящееся приблизительно к 1955 году, не так пыталось установить: «Каким образом можно добиться того, чтобы вычислительная машина надежно считывала алфавитные символы?», как было посвящено выяснению: «Какие представляющие интерес паттерны поведения в состоянии воспроизводить вычислительная машина, кроме решения рутинных повседневных задач (типа вычисления таблиц значений функции и составления платежных ведомостей)?» [62]. Изучение более общих проблем вдохновляло первые работы по программам решения проблем. В конце концов эта ветвь исследований ушла в прикладную область создания устройств, предназначенных для распознавания символов, и тем самым выпала практически из области ИИ. Обработка списков представляет еще один пример. Насколько я понимаю, она была введена как частная методика Ньюэллом, Шоу и Саймоном, с тем чтобы снять затруднения, возникавшие при организации памяти и иерархического (и рекурсивного) управления процессом обработки информации в программе «Логик-теоретик» и первом варианте «Универсального решателя задач». Дальнейшее развитие «списковая» методика получила в работах другого исследователя, работавшего в области ИИ, — Маккарти (LISP)1). Он предложил дальнейшие изменения («сквозные» списки, «связанные» списки, симметричные списки и т. д.), что позволило осуществить переход от «чего-то, чем занимаются эти исследователи ИИ» к «методам создания систем математического обеспечения». В настоящее время использование списочных структур является стандартным приемом для многих частных разделов, например, при реализации компиляторов и операционных систем.
Процветание любой дисциплины определяется ее успехами, в частности от этого зависит привлечение талантов и субсидирующих исследования фондов. Существует опасность, что область ИИ, монополизируя те проблемы, которые еще не решены, те, которые еще недостаточно поняты, а также проблемы, в которых провал является возмездием за их предварительную
’) Аббревиатура, употребляемая для обозначения названия List processing, — языка для обработки списков. — Прим, перев.
хищническую разработку, обретет репутацию «неудачливого» раздела теории вычислительных систем и прибежища прожекторов, «счастье которым суждено лишв на том свете». Имеется множество свидетельств развития этой тенденции; этот процесс мне кажется крайне неблагоприятным и несоответствующим истинному положению.
И наконец, бурный рост исследований ИИ сделал менее определенной «незримую корпорацию» работающих в этой области; теперь в рамках Ассоциации по вычислительной технике действует специальная группа «Искусственный интеллект», подготавливается к выпуску новый журнал *) и организовывается международная конференция.
В ПОИСКАХ ОБЩИХ МЕТОДОВ
Так называется сделанный Ньюэллом и Эрнстом на конгрессе IFIP 1965 года доклад, который стоит того, чтобы его перечитали [48]. С тех пор многие присоединились к этим поискам. Существуют две дороги — верхняя и нижняя.
Идущие верхней дорогой стремятся определить разрешающую систему самого общего типа, включающую набор методов решения проблем, не ориентированных на задачи конкретного типа, и позволяющую решать задачи, относящиеся к широкому диапазону классов. В этом случае решающее значение приобретает проблема внутреннего представления в том языке, в котором будут «работать» общие методы решения проблем. Если способ представления является достаточно общим для того, чтобы любой новый объект, предлагаемый системе, мог быть избавлен от мучительной переделки, то могут ли сами методы решения проблем и связанные с их реализацией процедуры быть настолько общими, чтобы при этом не понижалась их разрешающая способность? Мы не достигли еще удовлетворительной степени понимания проблемы общности метода решения и представления задачи. Анализ существующих программ решения проблем, как, впрочем, и обычный здравый смысл, показывают, что здесь действует некоторая разновидность «закона природы», связывающего обратнопропорциональной зависимостью степень общности метода решения (размер области применения) и его мощность (возможность получения решения, эффективность и т. п.) и прямопропорциональной зависимостью мощность метода с его специализацией (информация, выражающая специфику задачи). Нам не известно, каким образом можно строить системы решения проблем, способные воспринимать
’) Упоминаемый журнал выпускается с 1971 г. под названием Artificial Intelligence. — Прим, перев.
задачи в самом общем виде и преобразовывать их последовательно, по мере получения в процессе решения информации, воспроизводящей особенности конкретной задачи, к виду более специфическому и обеспечивающему большую разрешающую способность. Имеется один подробно рассмотренный пример системы такого рода [4], однако о реализации подобных систем ничего не известно.
Система GPS в одиночестве шествовала верхней дорогой в течение почти десяти лет и доказала жизнеспособность направления исследований, целью которого является отыскание общего метода. Новая монография Эрнста и Ньюэлла [17], содержащая анализ успехов и затруднений, которыми сопровождалось применение системы GPS при решении самых разнообразных задач, свидетельствует завершение первого этапа приключений этой системы. Совсем недавно система GPS начала, уже независимо от своих «родителей», «вторую» жизнь. Так, например, структура системы GPS в чуть более общем виде была воспроизведена в программе «Дедуктивная система на языке ФОРТРАН» [54]; она же в существенно измененном виде была реализована в программе «Разбиение графов» [15, 16]. Еще один вариант системы GPS появился только что в Швеции [61].
Идущие нижней дорогой ищут не универсальные системы решения проблем, а теоремы и обобщения метода, связанные с основными принципами, общими для некоторого класса программ решения проблем. Наилучшей иллюстрацией подобной тенденции является, пожалуй, принцип эвристического поиска.
Как и десять лет назад, краеугольным камнем исследований ИИ остается проблема эвристического поиска. Некоторый генератор используется (или может быть использован) для построения дерева «попыток» (иначе — подзадач, преобразований, потенциальных возможностей, решений, альтернатив и следствий и т. д.). Решения (различным образом определенные) находятся на некоторых (неизвестных) траекториях пути по дереву на некоторых (неизвестных) расстояниях от исходной точки. «Проблема» состоит в отыскании решения. Для любой нетривиальной задачи пространство поиска очень велико. Эвристические правила и процедуры используются для непосредственного поиска, для ограничения его продолжительности, уменьшения ветвления дерева и т. д.
В то время как часть этого аппарата поиска по дереву полностью ориентирована на конкретную задачу, его остальные элементы могут оставаться достаточно общими для того, чтобы покрывать некоторую агломерацию систем, в которых используется эвристическая процедура поиска. Классическим в этом отношении примером служит так называемая «альфа-бета» про-
цедура [70, 60]. Использование ее является «очевидным», если организация процедуры поиска тщательно продумана. Ньюэлл, Шоу и Саймон использовали этот принцип еще в своей шахматной программе 1958 года, причем он настолько органично входил в основную процедуру, что они не сочли необходимым специально выносить его «на суд общественности».
Однако очевидное для одних не всегда столь же очевидно другим. Любой исследователь, создающий новую программу, не должен, «вступив в связь» с эвристической процедурой поиска, пренебрегать (или, что еще хуже, пропускать по неведению) стандартными процедурами, облегчающими процесс поиска, особенно наиболее тонкими и квалифицированными из них.
Все вышеперечисленное уже сформировалось в небольшую, но растущую область знания. Заслуживают внимания исследования Слэгла, особенно его «Многоцелевая система» [70], представляющая по существу «конгломерат» подобных методов. Кроме того, интерес представляют статьи Нилсона «Траектории минимальной стоимости» [50], Флойда «Недетерминированные алгоритмы» [23] и Голомба и Бомерта «Программирование с коррекцией по принципу обратной связи» [25].
Можно сказать, что идущие нижней дорогой заняты, в известном смысле, созданием «инструментов», но процесс этот часто носит весьма абстрактный характер и выглядит очень элегантно.
РОБОТЫ
История зафиксирует, что в году 1968 роботы, создававшиеся в трех ведущих в области исследований ИИ лабораториях, состояли из следующих частей:
сложного рецептора (обычно телевизионной камеры), посылающего афферентные сигналы в ...;
достаточно «мощной» вычислительной машины, снабженной памятью большого объема на магнитных сердечниках, набором программ, обеспечивающих анализ афферентных видеосигналов и принятие решений, связанных с исполнительными действиями ...;
механического манипулятора типа «плечо — рука» или снабженной электроприводом тележки.
Интенсивные усилия, направленные на разработку управляемых вычислительной машиной систем типа «глаз — рука» и «глаз — тележка», представляют, с моей точки зрения, самое неожиданное событие в мире исследований ИИ в период 1963— 1968 годов.
Начало доскональным исследованиям этой проблемы положила диссертация Эрнста, посвященная управляемой
вычислительной машиной механической руке (МН—1) [18]. Он создал интересную эвристическую программу, обеспечивающую решение проблем, связанных с работой манипулятора в реальной среде. Система МН—1 отличалась почти полной «слепотой», но могла запомнить символическое внутреннее представление внешней ситуации («модель») в языке, использовавшемся для реализации процесса решений проблем. Плодотворным вкладом в исследования оптической («глазной») обработки информации является часто цитируемая работа Робертса [58], посвященная трехмерному восприятию твердых тел при подаче на вход информационной системы двумерного изображения.
Три осуществляемые в настоящее время исследовательских проекта, посвященные созданию робота, близки друг другу. Это Стэнфордский проект «Глаз — рука» (Маккарти и др.), проект «Глаз — рука» Массачусетского технологического института (Минский и Пейперт) и проект «Робот» Стэнфордского научно-исследовательского института (Нильсон, Рейфл, Розен и др.).
Было опубликовано довольно мало сведений, относящихся к этим проектам, и поэтому то, что о них известно, носит противоречивый и порой неожиданный характер.
Как можно предположить, проектирование, реализация и применение робота ставят целый ряд сложных и часто связанных с большими затратами технических и эксплуатационных проблем. Для исследователей, работающих в этой области, преодоление подобных затруднений представляет неизбежную, но чаще невознаграждаемую, чем вознаграждаемую, прелюдию, поскольку эта деятельность не способствует разрешению тех проблем ИИ, которые составляют смысл существования этих исследований. Зачем же тогда строить эти устройства? Почему бы не моделировать робот и ту среду, в которой он должен действовать? Действительно, исследовательская группа Стэнфордского исследовательского института провела полезную работу, смоделировав поведение одного из вариантов своего робота в упрощенной среде. (Имеется посвященный этой работе фильм.) Следовательно, подобный подход может быть использован, и поднятые выше вопросы правомерны.
Ответ на эти вопросы выглядит следующим образом. Группа Стэнфордского исследовательского института считает, что наиболее неудовлетворительным элементом их модели является воспроизведение среды. Кроме того, они указывают, что девяносто процентов усилий, затраченных их специалистами на моделирование, было посвящено именно этой части модели. Оказалось крайне сложным «вложить в вычислительную машину все то разнообразие свойств среды, которое необходимо роботу с хорошими адаптивными характеристиками в качестве стимула
для демонстрации интересных паттернов поведения». Легче и дешевле построить робота «во плоти» для того, чтобы выяснить в какой информации из реального мира он нуждается, чем синтезировать и воспроизвести на вычислительной машине представительную модель. Грубо говоря, точка зрения группы Стэнфордского исследовательского института сводится к тому, что наиболее экономичным и эффективным хранилищем информации о реальном мире является сам реальный мир.
Задача создания робота предоставляет, по моему убеждению, возможность изучить целый ряд проблем первостепенной важности для исследований ИИ, в том числе: формирование и планирование стратегий; способы представления ситуаций при решении проблем и последующее видоизменение этого представления по мере поступления новой информации; обработка информации при зрительном восприятии образов. Только группа Стэнфордского исследовательского института, единственная из трех разрабатывающих эту тему, опубликовала статьи, трактующие особенности и цели этого исследования с более общих позиций [57, 59].
Как в Массачусетском технологическом институте, так и в Стэнфордском университете проводилась разработка программ, обеспечивающих управление манипуляторами «плечо — рука» самых различных типов, от простейших до самых сложных, от антропоморфических до сугубо неантропоморфических. Ни один из более сложных манипуляторов не кажется достаточно удачным, хотя публикации, посвященные анализу соответствующих достижений и неудач, отсутствуют.
Во всех этих проектах важную роль играют программы, обеспечивающие восприятие зрительных образов. Большая часть усилий, связанных с составлением программ, была затрачена на поиск средств и методов, расширяющих возможности разрешения этой части задачи. Задача восприятия зрительного образа заключается в следующем: имеется телевизионное изображение объекта (цифровое), которое может быть введено в запоминающее устройство вычислительной машины; необходимо осуществить сканирование этого изображения и обработку его результатов таким образом, чтобы получить символическое описание элементов, входящих в изображение, и их взаимосвязей. Газман из Массачусетского технологического института [29] рассмотрел задачу анализа изображения в довольно общем виде (телевизионная камера исключена из рассмотрения, исследуется символическое представление подаваемого на вход изображения в условиях отсутствия помех), добившись очевидного успеха. Кстати сказать, работы Газмана должны заинтересовать психологов, занимающихся моделями процессов визуального восприятия у человека.
Смысл «игры» все-таки заключается в целостном поведении, реализуемом при решении задачи. Установки «рука — глаз — вычислительная машина», созданные как в Массачусетском технологическом институте, так и в Стэнфордском университете, были способны продемонстрировать несколько паттернов поведения, связанного с выбором отдельных кубиков и постройкой из них различных сооружений. Работа, выполненная в Станфорде, излагается в докладе, приведенном в трудах конгресса IFIP68 [53]; мне не удалось обнаружить публикации, в которой бы описывалась система МТИ, способная составлять «что-то» из кубиков.
Итак, вы хотите построить робот? Потерпите! Три могучие группы, с одаренностью и финансовыми возможностями которых едва ли можно тягаться, не разобрались еще со всеми первоочередными проблемами. Определить и оценить их, а также подготовить соответствующие публикации удастся, очевидно, в течение следующих двух лет. В настоящее время деятельность, развертывающаяся в рамках упоминавшихся нами проектов, почти полностью посвящена созданию аппаратуры и ее отладке. По сей день осталось недоказанным, что задача создания робота представляет собой рациональное и адекватное направление для разрешения общих проблем исследований ИИ.
ДОКАЗАТЕЛЬСТВО ТЕОРЕМ
Так как Робинсон специально выступает на нашем конгрессе с обзором, посвященным «автоматическому» доказательству теорем, мне не следует касаться этого материала. Однако несколько вопросов заслуживают упоминания, а ряд замечаний представляется уместным.
Многие, работающие в этой области, упорно называют свои программы, предназначенные для доказательства теорем, программами дедукции (например, упоминавшаяся выше «Дедуктивная система на языке ФОРТРАН — DEDUCOM» [69]; термин «дедуктивная информационно-поисковая программа»; в монографии Ханта [32] подобная подмена понятия встречается неоднократно). Все это — терминологические ошибки. Если внимательно проследить, каким образом эти программы отыскивают доказательства, становится очевидным, что в них реализуется значительно больше, чем чистая дедукция. Когда программа доказательства теорем использует некоторое правило вывода, например modus ponens1), реализуя пробный шаг, то
*) Так называемое «правило вывода» — аксиома исчисления высказыва- - АхА^В
иии у—, устанавливающая, что формула В истинна, если истинность формул А и A zi В была установлена. — Прим, перев.
совершенно очевидно, что в ней воспроизводится примитивная дедукция. Поиск же доказательства не есть дедукция. По существу в этой терминологической ошибке выражается тенденция подменять непосредственное исследование основных задач, например встречающихся при попытке воссоединить отдельные части некоторой области (как в случае эвристического поиска), доскональным изучением основных приемов, заложенных в продемонстрировавшую свою эффективность программу. Терминологическая практика, против которой я возражаю, далеко не безобидна, поскольку вводит неправильную классификацию направлений исследования.
Я думаю, что предпочтение следует отдать определению, введенному Амарелом, — «задачи, заключающиеся в выводе», поскольку оно является точным, понятным и содержательным. Определение «процессы поиска» мне кажется приемлемым, и его употребление может быть целесообразным при описании реализаций, приводящих к установлению способа доказательства теоремы (или определению очередного хода в некоторой шахматной позиции, или выдвижению химической гипотезы, объясняющей результаты масс-спектрографического анализа, и т. д.).
В последние годы много внимания было уделено предложенному Робинсон методу резолюции, предназначенному для доказательства теорем в исчислении предикатов. К сожалению, одновременно распространялось представление о том, что метод резолюции кладет конец «миру» эвристического поиска вместе со всеми его хаотическими предположениями и неупорядоченностями. И снова неверное определение, возникшее в результате неправильно понятых метода резолюции, либо известных эвристических программ поиска доказательства, а может быть и того, и другого, приводит к неправильной классификации всей -области исследования. Метод резолюции устанавливает систематический формальный аппарат, обеспечивающий полноту набора объектов доказательства, но он сам по себе никак не связан с хорошо известной и неизбежно возникающей проблемой множества форм выражения задачи [58а]. Итак, наложение различных стратегий поиска дало эффективный способ решения проблем, предусматривающий использование резолюции (например, «блочный приоритет», «опорное множество»), В результате оказывается, что процессы, воспроизводимые этими программами, во многом аналогичны (в некоторых случаях идентичны) реализуемым в программах нахождения доказательств, базирующихся на эвристическом поиске; в свое время считалось, что их отличия чрезвычайно велики [17]. Я уверен, что в грядущем десятилетии мы еще многое услышим по этому поводу.
В 1959 году Маккарти предложил новый класс программ («советчики»), которые должны оценивать окружающий мир на уровне здравого смысла. «Окружающий мир» при этом задается однородным представлением в исчислении предикатов. Решение предъявленных задач должно осуществляться в виде поиска доказательств в пространстве представлений. Недавно Грин и Рейфл [26] использовали процедуру метода резолюции в качестве отыскивающей доказательства «машины» в информационнопоисковой программе (программа дает «советы», отвечает на вопросы и сообщает необходимые сведения). И сама идея, и ее реализация представляют интерес; однако, как только что указывалось, эффективность и практичность подобной системы неизбежно связаны с необходимостью предусмотреть некоторую эвристическую процедуру, направляющую процесс поиска.
ИГРОВЫЕ ПРОГРАММЫ
Некоторые исследователи занимались в первом десятилетии программами, способными играть в шахматы, потому что шахматы обеспечивают интересную и сложную среду, позволяя изучать процессы решения проблем (краеугольный камень этой линии исследования — блестящая статья Ньюэлла и Саймона [49], в которой пример из обычной шахматной партии тщательно исследуется с точки зрения того, что можно выяснить о процессах решений проблем в шахматах, создавая играющие в шахматы программы). Были и другие, которые занимались такими программами, отвечая на «вызов», брошенный шахматами, — ведь уже много веков эта игра является основным интеллектуальным развлечением.
На такой основе работает группа Гринблатта. Им удалось составить программу, играющую в шахматы очень хорошо (однако еще не профессионально). Я знаком только с одной статьей, посвященной программе Гринблатта [27]. В ней, помимо краткого общего описания, приводятся примеры партий, «сыгранных» программой. В статье сообщается, что, играя с шахматистами по обычным турнирным правилам, программа победила в турнире класса D, состоявшемся в середине 1967 года в Бостоне; в ходе турнира программа обыграла шахматиста класса С1). Кроме того, отмечается существенное улучшение результатов программы к настоящему времени. Очевидно, наиболее славной победой программы является изящный выигрыш у Хьюберта Дрейфуса.
*) Хотя принципы американской шахматной классификации существенно отличаются от принятых в СССР (точнее, в США нет единой системы классификации шахматистов), можно считать, что группа С приблизительно соответствует нашему третьему разряду, а группа D — четвертой категории — Прим, перев.
Почему же эта программа играет настолько лучше предыдущих? Я не знаю ни одного человека, способного убедительно объяснить этот феномен (частично из-за скудности информации о программе). С моей точки зрения, в программу не заложены принципиально новые идеи относительно организации шахматных программ. В этой программе содержится значительно больше, чем в любой из предыдущих, конкретных сведений о шахматах. Машинное время, талантливейшие программисты, фантастические механизмы второго десятилетия (вывод данных на экран электронно-лучевой трубки, работа в режиме диалога с машиной, большой объем памяти на магнитных сердечниках)— все это было в изобилии: пациент получил любви и заботы больше, чем все предыдущие (как вы должны помнить, все остальные пациенты были выписаны в весьма печальном состоянии; большинство из них умерло). Наконец, имелась возможность, использовав сидящего за пультом управления человека, организовать прекрасный «обучающий контур». Ошибки анализировались и быстро устранялись с помощью подпрограмм изменения программы и/или введения дополнительной шахматной информации. Влияние новых подпрограмм и дополнительной информации на работу системы, если оно имело место, можно было быстро обнаружить; при возникновении каких-либо осложнений это влияние устранялось. Таким способом очень удобно улучшать (или обучать) программу, и им целесообразно пользоваться в тех случаях, когда вы больше заинтересованы в высоком качестве работы системы при разрешении конкретной задачи, чем в получении общих моделей, обеспечивающих реализацию процессов решения проблем. Я считаю, что этот метод, хотя и в более сложных формах, будет широко использоваться во втором десятилетии.
В первом международном соревновании между шахматными программами победила программа, созданная в СССР, в московском Институте теоретической и экспериментальной физики (Адельсон-Вельский и др.; подробные публикации по этому поводу отсутствуют). Проигравшей стороной в этом матче была старая программа МТИ, составленная Котоком [37] и несколько модифицированная Стэнфордской группой Маккарти. Запись партии опубликована в «SICART Bulletin» [56]. Игру и той, и другой программы на фоне средних результатов программы Гринблатта нельзя признать удовлетворительной.
Хорошо известная шашечная программа Сэмуэля была подвергнута существенной переделке [60] и теперь весьма близка к совершенству в своей области. Главные изменения были внесены в процедуры обучения, и мы несколько позже обсудим их. .
Уильямс работает над проблемой моделирования общих принципов, используемых людьми в распространенных настольных и карточных играх [74]. В его программе («General Game Playing Program» — «Игровая программа общего типа») в качестве входной информации используется описание объектов, применяемых в игре; правила игры, взятые из руководства Морхеда и Мотт-Смита (Morehead А. Н., Mott-Smith G., Hoyle’s Rules of Games, New American Library of World Literature, New York, 1963), непосредственно преобразуются в соответствующий входной язык. Программа по меньшей мере способна к действиям «по правилам» в большинстве игр, описанных в руководстве.
МАШИННОЕ ОБУЧЕНИЕ
(В ЧАСТНОСТИ, МЕХАНИЗМЫ ОБУЧЕНИЯ)1)
До сих пор в области ИИ значение машинного обучения для решения проблем осознавалось весьма слабо. Единственную, по существу за много лет заслуживающую упоминания работу представляет известная шахматная программа Сэмюэля и использованная в ней процедура обучения. (Большой интерес в свое время вызвала предложенная Ньюэллом, Шоу и Саймоном система обучения, предназначенная для программы GPS, однако она осталась нереализованной.) Как это ни удивительно, и в наши дни ситуация остается прежней.
В одной из последних работ Сэмюэля [60] описываются основные изменения, внесенные в систему оценки позиции, и соответствующие процедуры обучения шашечной программы. Вместо оценки, основанной на использовании функции, представляемой линейным многочленом, вводится сложная система нелинейных оценок. Свойства позиции, которые раньше фигурировали в виде членов многочлена, в новой системе объединяются на основе их (выявленной) взаимозависимости. Свойства эти характеризуются с помощью «грубой» системы оценок, например трех-, пяти- или семизначных функций. (Довольно старая идея; Саймон обосновал ее еще в 1951 году применительно к шахматам. Она используется в шахматной программе, разработанной Ньюэллом, Шоу и Саймоном.) Векторные величины, характеризующие свойства позиции, используются как входы в таблицах показателей первого уровня. Затем осуществляется просмотр таблицы; результат относится к одному из пяти «грубых» классов и засылается в таблицы показателей второго уровня (просмотр осуществляется по всем таблицам первого уровня). Эта операция повторяется еще раз на третьем уровне и результат, полученный при обработке этой «верхней»
*) Не рассматриваются процессы с участием человека-учителя.
таблицы показателей, используется в качестве значения оценки. Сэмюэль показал, что подобная иерархическая схема обладает существенными преимуществами по сравнению с (уже достаточно удачной) оценкой с помощью линейного многочлена.
Назвав один из разделов своей работы «Эвристический поиск эвристик», Сэмюэль указывает, что «принятие решения о выборе эвристики также представляет собой такую задачу, решение которой возможно лишь посредством использования эвристической процедуры, так как она в действительности еще сложнее, чем проблемы, возникающие в связи с собственно игрой». Интересный случай выявления эвристики с помощью эвристической программы рассмотрен в диссертационном исследовании Уотермана (Станфорд) [72]. Среда задачи представлена игрой в покер. Эвристики при этом не являются программами в обычном смысле, а «выносятся на поверхность» в виде правил поведения в конкретных ситуациях, записываемых в «Номенклатуру готовой продукции». Первоначально этот перечень содержит лишь «исходное» правило: «какова бы ни была ситуация — играй случайным образом». В принципе таблица правил может изменяться четырьмя способами. Могут быть добавлены ситуационные правила. Может быть изменен порядок применения правил (так как таблица просматривается сверху вниз в жесткой фиксированной последовательности, то это обстоятельство может привести к существенно разным видам поведения). Правило может быть обобщено с помощью изменения его ситуационной части таким образом, что не будут приниматься во внимание некоторые аспекты игровых ситуаций и, следовательно, правило будет «покрывать» большее их количество. С другой стороны, ситуационная часть правила может быть специализирована, с тем чтобы ввести большую степень дифференциации игровых ситуаций; в результате область применения правила уменьшается. Подобная процедура обучения хорошо работает в целом ряде обучающихся систем.
ОДНО ЗАМЕЧАНИЕ ПО ХОДУ: НЕКОТОРЫЕ ОСОБЕННОСТИ,СВЯЗАННЫЕ С СОБСТВЕННО ПРОГРАММИРОВАНИЕМ
В своей шашечной программе Сэмюэль применил схему обучения с «механическим» запоминанием, которая предусматривала накопление в памяти множества позиций и соответствующих им оценок, полученных в процессе работы программы. Если «заученные» позиции возникали снова, то можно было воспользоваться готовой оценкой, не вычисляя ее каждый раз заново. В программах доказательства теорем «механическое» запоминание использовалось с аналогичными целями при фиксации системы доказательств. Подобные процедуры
предусмотрены и во многих других программах, например в рассматриваемой ниже программе «Heuristic DENDRAL».
Запоминать или вычислять каждый раз заново — эта классическая проблема является достаточно общей. Мы предвидим, что наступит день, когда программы станут столь совершенны, что смогут решать, в каких случаях для получения значений оценочной функции следует обращаться к таблицам, сформированным посредством «механического» запоминания, а в каких— вычислять их (это решение будет приниматься исходя из анализа случаев применения оценочной функции и ее параметров, проводимого по мере поступления этой информации в процессе работы). Недавно в этом направлении был сделан первый шаг — в разработанный в Эдинбурге язык РОР-2 были включены «запоминаемые функции» [40]. Однако и при наличии «запоминаемых функций» программист сам должен принимать решения, и в будущем мы ждем еще большей «сэмюэлизации» систем программирования, которая облегчит выбор «запоминать или рассчитывать».
Саймон как-то составил программу решения проблем («Эвристический компилятор»), которая была способна составлять простенькие программы на языке ИПЛ-V на основе описаний тех изменений, которые должны быть введены в механизм уже существующей программы на языке ИПЛ-V [63]. Организация этой программы представляла упрощенный вариант системы GPS и оказалась весьма удачной, однако более существенные усилия в этом направлении не последовали. Вы слышите меня, соискатели звания «доктор философии»? -
СЕМАНТИЧЕСКАЯ ОБРАБОТКА ИНФОРМАЦИИИ ЕСТЕСТВЕННЫЕ ЯЗЫКИ
Это направление имеет очень большое значение для всех исследований в области ИИ. Важность его определяется не столько предполагаемыми практическими преимуществами возможности общаться с «понимающей» программой на естественном языке, но скорее постановкой и изучением некоторых весьма общих проблем. В последние годы было выполнено несколько очень ценных исследований. В книге [42] излагается большая часть из них. Подробное обсуждение содержания и особенностей направления, невозможное здесь, можно найти в предисловии Минского к этой книге. Хороший обзор имеется и в работе Колса [13]. Тем не менее стоит сделать здесь несколько дополнительных замечаний.
Все эти исследования тем или иным способом пытаются разрешить проблему, связанную со значением обычных выражений естественного языка и степенью понимания вычислительной ма-
шиной этих значений, оцениваемой на основе соответствующих результатов лингвистического анализа, решения проблем и поиска запрашиваемой информации. Значение в этом случае не рассматривается как нечто «вводимое» в программу (например, обычные словарные определения помогут здесь очень мало); оно выясняется в результате взаимодействия синтаксических анализаторов, моделей, воспроизводящих соответствие реальным объектам и соотношениям, информационных структур, устанавливающих связь символов внутренней модели, логических процедур и связанных с ними процессов, реализуемых при решении задач логического вывода. (Этот перечень отнюдь не исчерпывает всех участников взаимодействия.)
Синтаксический анализ, которому уделялось большое внимание в связи с использованием вычислительных машин для лингвистического анализа (что привело к получению изящных результатов), оказывается недостаточен при решении проблем выяснения значения выражения и понимания этих значений1). Рассмотрим следующий пример.
Программа Боброу «STUDENT» предназначена для решения проблем и воспринимает входную информацию, записанную на естественном языке (английские фразы) [8]. Предметом исследования служат алгебраические задачи, взятые из вузовских учебников; эти задачи предъявляются программе в словесном описании. Фразы упрощаются и подвергаются грамматическому разбору, идиомы расшифровываются. Соответствие реальному миру устанавливается с помощью специальной таблицы «общих соотношений». Так как обычно программе «STUDENT» сообщается весьма незначительное количество общей информации, то ее «понимание» алгебраических задач, поставленных содержательно, является в основном «синтаксическим». Для получения ответа составляется и решается соответствующая система алгебраических уравнений.
Программу «STUDENT» можно использовать для решения следующей задачи: «Доска распилена на две части. Длина одной части равна двум третям длины всей доски и в то же время короче другой части на четыре фута. Чему была равна длина всей доски до распиливания?» Программа продемонстрирует, что в определенном смысле она «понимает» эту задачу, определив правильное решение, согласно которому длина доски равна минус двенадцати футам. В ориентированных на программу «STUDENT» психологических экспериментах, поставленных Пейджем и Саймоном [51], некоторые испытуемые решали
*) Я полагаю, что чрезмерное внимание, уделяемое синтаксическому анализу в ущерб исследованиям семантических процессов, повредило развитию машинного перевода.
задачи так же, как и программа (концентрируя внимание на синтаксическом анализе, приводящем к получению «правильной» системы уравнений), другие, однако, сразу осознав нереальность задачи, не стали составлять уравнения. Эти испытуемые относятся к разряду людей, привыкших пользоваться моделями конкретных ситуаций; получив задание, они попытались найти соответствующую модель и немедленно обнаружили противоречие). Они продемонстрировали уровень «понимания задачи», который программе «STUDENT» недоступен.
Интерпретация естественного языка в терминах внутренних (содержащихся в памяти) моделей — центральная проблема большинства исследований в области семантической обработки информации. В разработанной Рейфлом семантической информационно-поисковой системе) [55] для упорядочивания генеральной совокупности данных используется модель связи в виде сети (с ограниченным набором связей). Эта модель расширяется, усваивая новую информацию об объектах и существующих между ними связях, которая выделяется в результате несложного анализа повествовательных предложений, вводимых в систему исследователем. В других программах в роли модели выступают двумерные изображения. Колс [13], развивая работы Кирша и его сотрудников [33] на тему: «Машина, использующая язык изображений»), составил программу, которая использует изображение (задаваемое исследователем на электронно-лучевой трубке с помощью светового пера) для снятия синтаксической неопределенности описывающих это- изображение английских фраз, а также для ответа на вопросы относительно изображения.
Рассмотрим несколько подробнее тему моделей и организации имеющихся данных и остановимся на следующем способе трансформации обычного словаря в «семантический граф». Представим объекты (входы словаря) символами, соответствующими вершинам, а общие и частные соотношения между объектами — ассоциативными связями между вершинами. Вершина, соответствующая каждому объекту, является вершиной подграфа, который содержит различные «значения» объекта, выраженные через другие объекты и связи семантического графа. Куильян [54] сформировал такой граф для небольшого
(однако определенно нетривиального) набора словарных дефиниций, а также создал вычислительное устройство, предназначенное для ассоциативного и семантического поиска ссылок. Я полагаю, что программа Куильянома послужит хорошей основой для дальнейших исследований моделей ассоциативной памяти человека. Она вполне заслуживает тщательного рассмотрения.
МОДЕЛИРОВАНИЕ ПРОЦЕССОВ ПОЗНАНИЯ
Недостаток места лишает нас возможности дать обзор работ в этой интересной области, находящейся на стыке теории вычислительных систем и психологии; при выдвижении и обосновании теорий, объясняющих характер информационных процессов, используемых человеком при обучении и решении проблем, как правило, но не всегда, прибегают к приемам эвристического программирования и методологии моделирования на вычислительных машинах. К счастью, недавно появились два подробных обзора [1, 31], к которым мы и рекомендуем обратиться заинтересованным читателям. Тем не менее я не могу преодолеть искушение поместить собственный вариант путеводителя по литературе.
Решение проблем: Ньюэлл [43, 46, 47].
Анализ поведения человека при решении криптариф- метических задач; основные методологические преимущества анализа процесса решения проблем человеком, предусматривающего использование протоколов, фиксирующих рассказ испытуемого о процессе мышления; изучение движений глаза человека, зарегистрированных в процессе решения проблемы.
Вербальное обучение и память: Саймон и Фейгенбаум [66]; Грег и Саймон [28]; Фейгенбаум [20]; Хинцман [30].
Результаты дальнейших исследований «Элементарной программы восприятия и запоминания» (ЕРАМ)); новая интерпретация в рамках теории многоуровневой памяти человека; обобщение Хинтцмана, расширяющее набор «объяснимых» феноменов.
Формирование понятий и вывод закономерностей: Хант, Марин и Стоун описывают большое количество экспериментов с Системой формирования понятий (CLS) ) [32].
Саймон и Котовски [67]; Саймон и Самнер [68]. Простая и остроумно организованная программа, предназначенная для решения задач на продолжение некоторой последовательности по предъявленной части, взятых из стандартных тестов оценки умственных способностей; с помощью этой программы можно также выявлять гармонические закономерности мелодий и создавать новые.
Аффекты, эмоции, представления: Теслер, Иниа и Колби [71]; Эйбелсон и Кэрролл [2]. Модели формирования системы взглядов у человека и их использование при изучении невропатического и нормального поведений.
Саймон [64]. Эмоциональные и мотивационные аспекты процесса познания.
Вынесение суждения: Клайнманц [34, 35].•
Модель процесса клинического мышления, реализуемого при воспроизведении структуры личности на основе анализа ответов испытуемых (Миннесотский проект комплексного исследования структуры личности); приводятся также и результаты изучения иных задач из числа тех, с которыми сталкивается практикующий врач.
ОЦЕНКА СОСТОЯНИЯ НАШЕЙ ОБЛАСТИ ИССЛЕДОВАНИЯ
В 1968 ГОДУ НА ОСНОВЕ АНАЛИЗА ОДНОЙ ИЗ ПРОГРАММ
Для того чтобы охарактеризовать положение дел в некоторой области исследований, часто оказывается полезным подробно рассмотреть одну из работ, выполняемых в ее рамках. Если вы хотите выяснить авторское кредо, приемы и технологию, использованные при создании, скажем, гравюры, то только крупный план, тщательный осмотр позволят получить достаточно определенное представление.
В качестве объекта подобного тщательного осмотра я выбрал ту исследовательскую работу, в которой сам участвую непосредственно. Выбор такого пути вместо анализа чужой работы определяется не только его органичностью, но и тем обстоятельством, что анализ состояния исследования предполагает знакомство с его деталями. Еще важнее то, что тема нашего исследования относится к тому направлению работ в области ИИ, которое я считаю основополагающим: решение проблемы, предусматривающее использование метода эвристического поиска.
Нашей основной задачей являлось изучение процессов формирования гипотезы при решении сложной проблемы, имеющей
научный характер и связанной с анализом экспериментальных данных. В качестве объекта данного исследования была выбрана задача, связанная с анализом масс-спектров органических молекул, — выдвижение гипотезы, наилучшим образом объясняющей полученные для спектров масс данные. Эта сравнительно новая область органической химии представляет весьма значительный интерес для физико-химиков. В связи с этим данная проблема не принадлежит к числу «условных» задач, и программа, обеспечивающая возможность решения задач подобного типа, представляет конструктивное приложение исследований ИИ к важной научной проблеме.
Мы составили программу, предназначенную для формирования гипотез о структуре молекулы на основе данных об их масс-спектрах. Программа называется «Эвристический денд- рал» (Heuristic DENDRAL). Она разработана в рамках проекта ИИ Стэнфордского университета небольшой группой исследователей, в которую входили профессор Дж. Лидерберг с кафедры генетики, д-р Б. Бьюкэнен, миссис Дж. Сатерланд и я, с помощью химиков и масс-спектрометристов стэнфордского химического факультета.
Программа состоит из 80 000 слов, записана на языке для обработки списков LISP и предназначена для воспроизведения на вычислительной машине типа PDP-6; программа ориентирована на работу в режиме диалога при наличии системы с разделением времени и именно в таком режиме она и реализовывалась [9, 22, 39].
Программа «Эвристический дендрал» позволяет решать задачи следующих двух классов:
Дается масс-спектр и химическая формула исследуемой органической молекулы; программа предлагает небольшой список представляющих молекулы графов в качестве гипотез, интерпретирующих исходные данные с точки зрения заложенных в программу моделей масс-спектрометрических процессов и устойчивости органических молекул. Список ранжирован по степени приемлемости гипотезы от наибольшей до наименьшей.
Если масс-спектр не дан и имеется только формула, то программа предлагает список всех химически осуществимых изомеров молекулы исходя из заложенной в нее модели химической устойчивости органических молекул.
Блок-схема программы представляет собой замкнутый контур, в который включены блоки, представляющие этапы рассмотрения исходных данных, формирования гипотезы, прогнозирования и проверки гипотезы, т. е. она весьма точно
соответствует контуру, характеризующему простейший «научный подход».
Сердцевину программы образует детерминированный генератор гипотез. Этот генератор работает на основе предложенного Лидербергом алгоритма «Дендрал», обеспечивающего воспроизведение всех топологических возможных изомеров для данной химической формулы. По сути дела этот генератор представляет собой тополога, не располагающего какими-либо химическими сведениями, за исключением валентности атомов; сам алгоритм, однако, гарантирует полноту пространства гипотез подобно тому, как это делает генератор допустимых ходов в шахматной программе. Так как в основе процесса генерации лежит комбинаторная процедура, для всех молекул, кроме самых простейших, предлагается огромное количество структур, возможных топологически, но маловероятных с точки зрения химических реальностей. Процесс генерации предполагает существование некоторого дерева «Потенциальных гипотез». Присутствие всех атомов, не объединенных в какую-либо структуру, соответствует вершине дерева, концевым же точкам соответствуют только полные структуры и отсутствие нелокали- зованных атомов. Каждая из промежуточных вершин дерева определяет некоторую часть структуры и группу атомов, которая осталась нелокализованной.
Дерево это в неявном виде представляет пространство задач для программы «Эвристический дендрал». Выбор траекторий решения в этом пространстве определяется рядом эвристических правил и химических моделей типа следующих:
Модель химической устойчивости органических молекул, ' основанная на выделении некоторых запрещенных и предпочтительных подграфов для искомого графа структуры. Эта модель называется априорной, так как результаты масс-спектрометрии на нее не влияют.
Для предварительного исключения, исходя из имеющихся данных целых классов структур в связи с невозможностью использовать их даже в качестве грубой аппроксимации, применяется весьма приближенная, но эффектив- ' ная теория поведения молекул в масс-спектрометре. «Теория масс-спектрометрии порядка О».
Набор эвристических правил распознавания, позволяющих проводить предварительную интерпретацию имеющихся данных исходя из наличия основных функциональных групп, отсутствия иных функциональных групп, весов радикалов, связанных с основными функциональными группами и т. п. Эта процедура названа «Системой предварительного принятия решений». Ее существование
позволяет генератору гипотез оперировать лишь с наиболее перспективными поддеревьями пространства гипотез.
Система предварительного принятия решений и генератор гипотез формируют список, содержащий те молекулярные структуры, которые могут рассматриваться в качестве потенциальных гипотез для объяснения результатов масс-спектрометрического анализа. Все эти структуры являются приемлемыми с точки зрения априорной теории, заложенной в модель, и обеспечивают разумное истолкование исходных данных на основе упоминавшейся выше теории масс-спектрометрии порядка 0. Как правило, список этот содержит несколько кандидатур (а не дюжины или сотни).
Затем эти «наиболее вероятные» гипотезы из списка сопоставляются с имеющимися экспериментальными данными. Для каждой структуры прогнозируется ее масс-спектр. Эта процедура реализуется с помощью подпрограммы «Прогнозист», являющейся машинной моделью более совершенной теории масс-спектрометрии. Программа «Прогнозист» не является эвристической. В ней реализуется сложная, но вполне очевидная процедура получения выводов, следующих из теории масс-спектрометрии, почерпнутых нами у специалистов-химиков и в соответствующей литературе. Далее прогноз масс-спектра, полученный для каждой «кандидатуры», сравнивается с исходными экспериментальными данными; реализация этой процедуры приводит к получению функции оценки. Процесс получения оценки отличается иерархичностью, эвристичностью и нелинейностью. Часть кандидатур исключается сразу из-за того, что Их прогнозированные масс-спектры не соответствуют граничным эталонам. Остальным присваивается оценка, в соответствии с ней они ранжируются и выводятся на печать в последовательности убывающей приемлемости.
Результаты применения программы для анализа некольцевых структур органических молекул, с которыми мы работали вплоть до настоящего времени, при масс-спектрометрии некоторых классов таких молекул оказываются не хуже результатов работы научного персонала лаборатории или даже превосходят их. Это относится к аминокислотам, с которыми по ряду причин связана большая часть наших работ, а также и к большому количеству простых органических групп, оказавшихся, однако, много сложнее первых с точки зрения масс-спектрометрии.
Эвристическое программирование обеспечило лишь остов для организации процессов решения проблем в программе «Эвристический дендрал» и ее воспроизведения на вычислительной
машине. Эвристические приемы для оценки «химической» приемлемости структур, осуществления предварительного принятия решений, оценки результатов прогноза, а также принципы составления для масс-спектрометрии точной теоретической модели и модели порядка 0 — все это было почерпнуто у наших коллег-химиков при работе в режиме взаимодействия человек— машина (один из наших исследователей посвятил себя этой работе). Успешное развитие этой темы — выуживание из «голов» практикующих специалистов используемых ими эвристик решения проблем—значительно превзошло то, на что мы имели основания рассчитывать, и в настоящее время рассматриваются возможности развития этого процесса «механизации».
ПРОБЛЕМА СПОСОБА ПРЕДСТАВЛЕНИЯ ДЛЯ СИСТЕМРЕШЕНИЯ ПРОБЛЕМ
Несколько ключевых проблем общего характера будут доминирующими в те годы, которые остались до завершения второго десятилетия исследований ИИ. Проблема способа представления в системах решения проблем — одна из них, причем, с моей точки зрения, важнейшая, хотя и не поддающаяся самому быстрому разрешению1).
В эвристических программах решения проблем предусматривается, что поиск решения в пространстве задачи направляется и контролируется эвристическими правилами. Представление, задающее пространство задачи, определяется отношением исследователя к данной проблеме, его точкой зрения, и оно же предопределяет вид решения. Выбрав для задачи удачный способ представления, можно существенно повысить эффективность процессов поиска решения. Выбор способа представления задачи является уделом разрабатывающего программу исследователя и есть акт творческий. Амарел считает, что процесс выбора и формирования соответствующих представлений при решении проблем представляет квинтэссенцию связанного с творческой деятельностью поведения человека [5]. Я с ним согласен.
В литературе можно найти обсуждение ряда случаев, иллюстрирующее влияние выбора способа представления задачи на качество систем решения проблем. Классическим примером
') Термин “проблема представления в системах решения проблем" употребляется нами для того, чтобы отделить эту задачу от проблемы представления данных (и структур данных), которая гораздо чаще является предметом обсуждения. Я думаю, в конце концов мы убедимся в том, что эти две группы задач обладают весьма существенными взаимосвязями, однако в настоящее время лучше обойтись без терминологических двусмысленностей
в этом отношении служит так называемый «крепкий орешек», предложенный Маккарти и исследованный Ньюэллом [45]. Исключим из шахматной доски два угловых поля, расположенные на одной диагонали, и посмотрим, можно ли такую «усеченную» доску полностью покрыть костяшками домино. Если воспользоваться стандартным способом представления игры с помощью перебора ходов по отдельным полям, то для того, чтобы убедиться в невозможности подобного покрытия, придется обратиться к чудовищной по объему и практически нереализуе- -мой процедуре поиска. С другой стороны, выбор способа представления, основанного на условии одновременного покрытия одной костяшкой белых и черных полей и подсчете количества белых и черных полей, позволяет немедленно прийти к выводу об отсутствии решения в связи с исключением при усечении доски двух полей одного цвета.
Значительно более сложный случай был рассмотрен Амаре- лом на примере классической задачи о переправе через реку в одной лодке миссионера и людоедов при задании ряда ограничений [4]. Амарел предлагает целую последовательность представлений этой задачи от используемого обычно до очень простого, но элегантного матричного, просмотр которого дает немедленное решение. Амарелу принадлежит и еще один пример, относящийся к доказательству теорем в исчислении высказываний [4а]. Кстати, Гелернтер еще в 1958 году, описывая свое устройство для доказательства геометрических теорем («геометрическая машина»), использовал в качестве вспомогательного способа представления диаграмму, с тем чтобы обеспечить повышение. эффективности поиска по дереву задач-подзадач ’).
До самого последнего времени в литературе обсуждение проблемы выбора способа представления было ограничено несколькими подробно рассмотренными примерами. К счастью, в своей новой работе Амарел [6] дает общее изложение своих взглядов на вопросы решения проблем и представления задачи, предлагая точное определение и доскональный анализ этой сложной области исследований.
Почему же изменение способа представления задачи может вести к столь существенным вариациям эффективности системы решения проблем? Это объясняется многими причинами — вот некоторые из них. Каждому способу представления задачи соответствует ряд специфических методов, определяющих
') На русском языке описание «геометрической машины» можно найти в статьях Г. Гелернтера «Реализация машины, доказывающей геометрические теоремы» и Г. Гелернтера, Дж. Ханзена и Д. Ловленда «Экспериментальное исследование машины для доказательства геометрических теорем», помещенных в сборнике [21]. — Прим, перев.
возможности оперирования элементами представления. Отказываясь от представления, для которого соответствующие теория и операционные методы не развиты, в пользу обладающего ими, мы можем употребить весь этот аппарат для решения предложенной задачи. Кроме того, специфические закономерности, присущие определенному способу представления, могут быть включены в предлагаемую формулировку задачи (часто она оказывается неполной), восполняя отсутствующие, но весьма существенные элементы ее описания. Подобная ситуация была рассмотрена Пейджем и Саймоном [51] при решении задач, связанных с водно-спиртовыми смесями (выбранный способ представления позволил получить необходимые уравнения сохранения). И наконец, каждый способ представления может принести с собой некоторые фактические сведения, дополняющие условия задачи или используемые при организации процесса поиска решения.
Амарел рассмотрел возможности автоматизации процесса изменения способа представления с помощью введения шаговой последовательной процедуры, предусматривающий эволюцию каждого представления к более эффективному варианту [4, 4а]. Эволюция эта направляется исходя из той информации о задаче (или классе задач), которая появляется при реализации процесса решения проблемы для текущего представления задачи.
Альтернативой такому последовательному шаговому процессу служит некоторая система (генератор), способная предлагать различные способы представления в виде кандидатур для просмотра при эвристическом поиске адекватного представления. На той первоначальной стадии понимания проблемы представления, которую мы проходим, создание подобного генератора— задача труднопреодолимая. Однако простейший вариант такой системы позволяет воспроизводить содержащиеся в памяти элементы представлений, уже встречавшиеся или оцененные как потенциально полезные. Этот принцип был использован в программе Персона [52] при выборе адекватного способа представления эталона для набора различных задач на продолжение последовательности.
Использование принципа аналогии между различными задачами— решающий, с моей точки зрения, момент при создании генератора способов представления. Процесс поиска, используемый для поиска, обнаружения и испытания кандидатур на роль адекватного способа представления, предусматривает применение аналогичных процедур принятия решений ко всем способам представления (и присущим им методам решения, базису, используемому для представления данных, и т. д.), введенным в память генератора. Поиску решения, в котором
используется метод рассуждений по аналогии, уделяется в исследованиях ИИ поразительно мало внимания, если учесть важность этой проблемы. Работа Эванса [19], посвященная программе, предназначенной для решения входящих в тесты оценки умственных способностей задач, содержащих геометрические аналогии, является единственной, на которую я могу сослаться.
Мы вынуждены ограничить наши соображения по проблеме представления весьма поверхностными замечаниями. Я считал, однако, необходимым привлечь к этой теме внимание из-за ее первостепенной важности. Я считаю, что длительный период вызревания для этой проблемы закончился; что наступило время решительного броска; что в следующие пять лет мы будем свидетелями существенных достижений в этой области и что всему этому будет придаваться такое же первостепенное значение, которое сейчас приписывается собственно эвристическому поиску.
ОСНОВНЫЕ ИССЛЕДОВАТЕЛЬСКИЕ ЦЕНТРЫ
Общепринято составлять обзоры исследований, ориентируясь на их темы, и весьма необычно обращаться при этом к людям, которые их проводят, и исследовательским центрам, в которых они это делают. Тем не менее в частных беседах мне неоднократно в разных формах задавали один и тот же вопрос: «Искусственный интеллект (в частности, эвристическое программирование)—где этим занимаются?» Нет оснований не попытаться ответить на эти вопросы перед лицом большой аудитории.
Сведения сообщаются по состоянию на середину 1968 года. Основной оценкой является количество выполненных в данном центре высококачественных исследований (оценка моя).
Основными исследовательскими центрами, действующими в Соединенных Штатах, являются проекты ИИ, выполняемые в Массачусетском технологическом институте, Университете Карнеги — Меллона (бывший Технологический институт Карнеги) и Стэнфордском университете. Все три центра финансируются в основном управлением перспективного планирования научно-исследовательских работ (Министерство обороны). В каждом из них значительное количество специалистов готовится к получению докторской степени, исследуя проблемы ИИ. В распоряжении групп, работающих в МТИ и Станфорде, находятся вычислительные машины типа PDP-6, обладающие обширной памятью на магнитных сердечниках; в проекте, осуществляемом Университетом Карнеги, используется вычислительная машина типа IBM 360/67, снабженная очень обширной дополнительной системой памяти на магнитных сердечниках.
В МТИ наиболее видное положение на факультете и в исследованиях занимают Минский, Пейперт и в несколько меньшей степени Вейценбаум [73], в Университете Карнеги — Ньюэлл и Саймон, в Станфорде — Маккарти, Сэмюэль, Колби и Фейгенбаум. Исследователи, работающие в Стэнфордском университете, поддерживают тесные контакты со своими «соседями»— группой из Стэнфордского научно-исследовательского института (Нильсон и Рейфл), так же как группа МТИ тесно связана с группой Боброу, работающей в компании «Болт Би- рейнек энд Нью-ман инк».
Остановимся на некоторых статистических данных, касающихся исследовательской группы Стэнфордского университета и потому известных мне лучше. Всего в эту группу входят 75 человек (профессорско-преподавательский состав, студенты и сотрудники), непосредственно связанных с-выполнением проекта ИИ; около 25 различных тем находятся в стадии разработки и выпускается серия рабочих отчетов, насчитывающая уже 67 названий1). Эти цифры приводятся для того, чтобы продемонстрировать масштабы усилий, предпринимаемых в одном из основных центров исследования ИИ.
Еще пять центров также заслуживают внимания: Западный университет Кейза (Бенерджи, Эрнст); университет штата Висконсин (Травис, Юр и Лондон; лаборатории Рэдио корпорейшн оф Америка в Принстоне (Амарел); Эвристическая лаборатория Национального института здравоохранения (Слэгл); университет штата Вашингтон (Хант).
В первом десятилетии исследований ИИ Европа не имела исследовательских центров, которые могли бы составить в этой области конкуренцию основным американским. Однако в последние несколько лет первоклассный центр был создай в Эдинбургском университете. Исследовательские центры, предназначенные для разработки проблем ИИ, создаются также в Швеции и других странах.
В Эдинбурге исследования ИИ развиваются на кафедре «Машинного интеллекта и восприятия» (например, насколько четко человек осознает (формулирует) свою проблему). Ведущую роль в исследованиях играют Миши, Грегори, Берстолл, Доран и Поплстон. Эти исследования щедро субсидируются правительством Великобритании. Диапазон исследований очень широк и включает как темы, посвященные информационным моделям процессов познания и восприятия и их приложениям [10, 11], так и работы, связанные с созданием языков программирования [12]. В последнем отчете, выпущенном кафедрой, приводятся библиографические данные о 59 оригинальных иссле-
') Данный обзор также входит в эту серию. — Прим, персе.
дованиях, проведенных начиная с 1965 года! Кроме того, эта группа обеспечивает выпуск сборников статей, образующих серию «Машинный интеллект».
В Швеции исследования в области ИИ проводятся на кафедре вычислительной техники университета в Упсала (системы GPS, планирование, моделирование роботов, язык обработки списков LISP). Руководит этими исследованиями Сандевалль, который прежде работал в Станфорде. В работе принимают участие психологи, интересующиеся моделированием процессов познания. Исследования субсидируются Шведским советом исследований в области естественных наук.
Этот обзор был подготовлен в качестве доклада на конгрессе Международной федерации по обработке информации *) IFIP 68, состоявшемся в Эдинбурге в августе 1968 года. Доклад был подготовлен при поддержке следующих организаций: Управление перспективного планирования научно-исследовательских работ, Министерство обороны (контракт SD—183), Стэнфордский проект «Искусственный интеллект» и Вычислительный центр Стэнфордского университетз. Мне бы хотелось тзкже поблзгодзрить А. Ньюэллз и Дж. Сзтерлзнд зз их зз- мечзния, сделзнные нз ззключительных стздиях подготовки выступления и рукописи.
СПИСОК ЛИТЕРАТУРЫ
Приводимый список содержит лишь те работы, которые были использованы при составлении настоящего обзора. К нему не следует относиться как к библиографии по данной области исследований. Полный список литературы, вышедшей до 1962 г. включительно, приведен в [21]. Для периода 1963—1968 гг. подобная работа еще не проделана. Группа искусственного интеллекта Ассоциации вычислительных машин занимается в настоящее время подготовкой такого указателя.
Abelson R., Computer Simulation of Social Behavior, в сб. G. Lindsley (ed.), Handbook of Social Psychology, 2nd edition, New York, Addison-Wesley, 1968.
Abelson R., Carroll J., Computer Simulation of Individual Belief Systems, American Behavioral Scientist, Vol. 8, 1965.
Amarel S., On Representations and Modeling in Problem Solving and on Future Directions for Intelligent Systems, Научный отчет (лаборатории Рэдио корпорейшн оф Америка, Принстон, штат Нью-Джерси, июнь 1968).
Amarel S., On Representations of Problems of Reasoning about Actions, в сб. Michie D. (ed.), Machine Intelligence 3, Edinburgh University Press, 1968.
4a. Amarel S.. An Approach to Heuristic Problem Solving and Theorem Proving in the Propositional Calculus, в сб. J. F. Hart and S. Takasu (eds.), Systems and Computer Science, University of Toronto Press, 1967.
■) IFIP — International Federation of Information Processing. — Международная федерация по обработке информации. — Прим, перев.
Amarel S., On the Mechanization of Creative Processes, IEEE Spectrum, April 1966.
Amarel S., On the Representation of Problems and Goal-Directed Procedures for Computers, Рабочий отчет (группа исследований в области теории вычислительных систем лаборатории Рэдио корпорейшн оф Америка, Принстон, штат Нью-Джерси). Будет напечатано в «Трудах первого ежегодного симпозиума Американского общества кибернетики».
Amarel S., Problem Solving Procedures for Efficient Syntactic Analysis. Научный отчет (лаборатория Рэдио корпорейшн оф Америка, Принстон, штат Нью-Джерси, май 1968).
Borow D. G., A Question Answering System for High School Algebra Word Problems, Proceedings of the FJCC, 25 (1964).
Buchanan B., Sutherland G.. Heuristic Dendral: A Program for Generating Explanatory Hypotheses in Organic Chemistry. Рабочий отчет «ИИ» № 62 (кафедра вычислительной техники, Стэнфордский университет), в сб. D. Michie et. al. (eds.), Machine Intelligence 4.
Burstall R. M., A Heuristic Method for a Job Scheduling Problem, Operations Research Quarterly, 17 (1966).-
Burstall R. M., Computer Design for Electricity Supply Networks by Heuristic Method, Computer Journal, 9 (1966), 3.
Burstall R. M., Popplestone R. J., POP-2 Reference Manual, в сб. E. Dale and D. Michie (eds.), Machine Intelligence 2, Edinburgh, Oliver and Boyd, 1968, и в POP-2 Papers, Edinburgh, Oliver and Boyd, 1968.
Coles S. L, Syntax Directed Interpretation of Natural Language. Диссертация на соискание степени доктора философии (кафедра вычислительной техники, Университет Карнеги — Меллона, 1967).
Darlington J. D., Machine Methods for Proving Logical Arguments Expressed in English, Mechanical Translation, 8 (1965), 3 and 4.
Doran J., New Developments of the Graph Traverser, в сб. E. Dale and D. Michie (eds.), Machine Intelligence 2, Oliver and Boyd. Edinburgh, 1968.
Doran J. F., Michie D., Experiments with the Graph Traverser Program, Proceedings of The Royal Society, A 294 (1966).'
Ernst G., Newell A., GPS: A Case Study in Generality and Problem Solving, ACM Monograph Series, Academic Press, New York — London, 1969.
Ernst H. A., MH-I. A Computer-operated ^Mechanical Hand, Диссертация на соискание степени доктора философии (Массачусетский технологический институт, 1961 г.), работа доложена на Западной объединенной конференции по вычислительным машинам в мае 1962 г.
Evans Т. G., A Heuristic Program to Solve Geometric Analogy Problems, Proceedings of the SJCC, 25 (1964).
Feigenbaum E. A., Information Processing and Memory, Proceedings of the Fifth Berkeley Symposium on Mathematical Statistics and Probability, Vol. 4, Biology and Problems of Health, University of California Press, 1967.
Feigenbaum E., Feldman J., (eds.), Computers and Thought, McGraw-Hill Book Company, 1963. (Русский перевод: сб. Вычислительные машины и мышление под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М., 1967.)
Feigenbaum Е. A., Lederberg J., Buchanan В., Heuristic Dendral, Proceedings of the Hawaii International Conference on System Sciences, University of Hawaii and IEEE, University of Hawaii Press, 1968.
Floyd R. W., Non-Deterministic Algorithms, Journal of the Association for Computing Machinery, 14 (Oct. 1967), 4.
Freeman P. Диссертация на соискание степени доктора философии (Университет Карнеги — Меллона, 1968 г.).
Golomb S. W„ Baumert L. D., Backtrack Programming, Journal of the Association for Computing Machinery, 12 (Oct. 1965), 4,
Green С. С., Raphael В„ Research on Intelligent Question Answering System, Научный отчет AFCRL-67-0370 (проект «Искусственный интеллект», Стэнфордский научно-исследовательский институт, Менло-Парк, штат Калифорния, май 1967 г.).
Greenblatt G., Eastlake D., Crocker S., The Greenblatt Chess Program, Proceeding of the Fall Joint Computer Conference, Anaheim, Calif., 1967.
Gregg L. W., Simon H. A., An Information-Processing Explanation of One- Trial and Incremental Learning, Journal of Verbal Learning and Verbal Behavior, 6 (Oct. 1967), 5.
Guzman A., Some Aspects of Pattern Recognition by Computer, MIT - Masters thesis, отчет № MAC-TR-37 (проект MAC, МТИ, февраль 1967 г.)
Hintzman D. L., Exploration for a Discrimination Net Model for Paired Associate Learning, Journal of Mathematical Psychology, 5 (Feb. 1968), 1.
Hunt E., Computer Simulation: Artificial Intelligence Studies and Their Relevance to Psychology, Annual Review of Psychology, 1968.
Hunt E., Marin J., Stone F., Experiments in Induction, Academic Press, 1966 (Русский перевод: Хант Э., Марин Дж., Стоун Ф., Моделирование про цесса формирования понятий на вычислительной машине, «Мир», М., 1970.)
Kirsch R. A., Computer Interpretation of English Text and Picture Patterns, IEEE Transaction on Electronic Computers, EC-13, (Aug. 1964).
Kleinmuntz B., Profile Analysis Revisited: A Heuristic Approach, Journal of Counseling Psychology, 10 (1963).
Kleinmuntz B., The Processing of Clinical Information by Man and Machine, в сб. В. Kleinmuntz (ed.), Formal Representation of Human Judgment, Wiley, 1968.
Kochen M., On the Representation of Limited Information by Means of Pictures, Trees, and English-like Sentences, Рабочий отчет (группа исследований в области теории вычислительных систем, лаборатории Рэдио корпорейшн оф Америка, Принстон, штат Нью-Джерси, 1965).
Kotok A., A Chess Playing Program for the IBM 7090, Неопубликованная диссертация на соискание степени бакалавра наук (МТИ, 1962).
Кронрод А., Машина становится умнее, Правда, 15 марта 1967, № 74 (17756).
Lederberg J., Feigenbaum Е., Mechanization of Inductive Inference in Organic Chemistry, в сб. В. Kleinmuntz (ed.), Formal Representation of Human Judgment, New York, John Wiley, 1968.
Michie D., Memo Functions and Machine Learning, Nature, 218 (1968).
Minsky M. L., Artificial Intelligence, Information (Freeman, 1966). (Русский перевод: Минский M., Искусственный разум, в сб. Информация, «Мир», М„ 1968.)
Minsky М. L., (ed.), Semantic Information Processing, MIT Press, 1968.
Newell A., Eye Movements and Problem Solving, Computer Science Research Review, Carnegie — Mellon University, Pittsburgh, Pennsylvania, Dec. 1967.
Newell A., Heuristic Programming: Ill Structured Problems, Рабочий отчет (Университет Карнеги — Меллона, кафедра вычислительной техники, ноябрь 1967); работа будет опубликована в сб. Progress in Operations Research.
Newell A., Limitations of the Current Stock of Ideas about Problem Solving, в сб. A. Kent and О. E. Taulbee (eds.), Electronic Information Handling. Spartan, 1965.
Newell A., On the Analysis of Human Problem Solving Protocols, Рабочий отчет (Университет Карнеги — Меллона, кафедра вычислительной техники, июль 1967).
Newell A., Studies in Problem Solving: Subject 3 on the Crypt-Arithmetic Task Donald + Gerald = Robert, Рабочий отчет (Университет Карнеги —. Меллона, кафедра вычислительной техники, июль 1967).
Newell A., Ernst G., The Search for Generality, Proceedings of the IFIP65 Congress, New York, Spartan, 1965.
Newell A., Simon H. A., An Example of Human Chess Play in the Light of Chess Playing Programs, Рабочий отчет (Университет Карнеги — Меллона, кафедра вычислительной техники, август 1964); работа опубликована в сб. J. Schade and N. Wiener (eds.), Progress in Neurocybernetics, Elsevier, Amsterdam, 1965.
Nilsson N. J., A New Method for Searching Problem-Solving and Game Playing Trees, Рабочий отчет (группа «Искусственный интеллект», Стэнфордский научно-исследовательский институт, Менло-Парк, штат Калифорния, ноябрь 1967). Работа доложена на конгрессе IFIP, состоявшемся в Эдинбурге в 1968 г.
Paige J., Simon Н. A., Cognitive Processes in Solving Algebra Word Problems, в сб. В. Kleinmuntz (ed.), Problem Solving: Research, Method and Theory, Proceedings of the First Carnegie Symposium on Cognition, Wiley, New York, 1966.
Persson S., Some Sequence Extrapolating Programs. A Study of Representation and Modeling in Inquiring Systems, Отчет CS50 (Стэнфордский университет, кзфедрз вычислительной техники, сентябрь 1966).
Pingle К- К., Singer J. A., Wichman W. М., Computer Control of a Mechanical Arm through Visual Input. Работа доложена на конгрессе IFIP, состоявшемся в Эдинбурге в 1968 году.
Quillian J. R., Hunt Е. В., The FORTRAN Deductive System, Технический отчет 68-1-01 (кафедра психологии, Университет штата Вашингтон, Сиэтл, штат Вашингтон, январь 1968).
Raphael В., A Computer Program which «Understands», Proceedings of the FJCC, 25 (1964).
Raphael B. (ed.), ACM SIGART Bulletin (June 1967), 11.
Raphael B., Programming a Robot, Рабочий отчет (проект «Искусственный интеллект», Стэнфордский научно-исследовательский институт, Менло-Парк, штат Калифорния). Работа доложена на конгрессе IF1P, состоявшемся в 1968 г. в Эдинбурге.
Roberts L. G., Machine Perception of Three Dimensional Solids, в сб. Optical and Electro-optical Processing of Information, MIT Press, Cambridge, Mass., 1965.
58a. Robinson J. A., Heuristic and Complete Processes in the Mechanization of Theorem Proving, в сб. J. F. Hart and S. Takasu (eds.), Systems and Computer Science, University of Toronto Press, 1967.
Rosen C. A., Nilsson N. J., An Intelligent Automaton, Рабочий отчет (группа «Искусственный интеллект», Стэнфордский научно-исследовательский институт, Менло-Парк, штзт Кзлифорния); рзботз доложена на Международной конференции института инженеров-электриков и электроников, состоявшейся в Нью-Йорке в 1967 году.
Samuel A., Studies in Machine Learning Using the Game of Checkers, 2,— Recent Progress, IBM Journal (Nov. 1967). Работа будет воспроизведена в Annual Review of Automatic Programming, M. Halpern (ed.), Pergamon Press.
Sandewall E., The GPS Expressed in LISP-A, Рабочий отчет (Университет в Упсала, кафедра вычислительной техники, октябрь 1967).
Selfridge О. G., Pattern Recognition and Modern Computers, Proceedings of the 1955 Western Joint Computer Conference, 1955.
Simon H. A., Experiments with a Heuristic Compiler, Journal of the Association for Computing Machinery, 10 (Oct. 1963), 4.
Simon H. A., Motivational and Emotional Controls of Cognition, Psychological Review, 1967.
Simon H. A.. Scientific Discovery and the Psychology of Problem Solving в сб. R. G. Colodny (ed.), Mind and Cosmos, University of Pittsburgh Press, 1966-
Simon Н. A., Feigenbaum Е. A., An Information-Processing Theory of Some Effects of Similarity, Familiarization, and Meaningfulness in Verbal Learning, Journal of Verbal Learning and Verbal Behavior, 3 (Oct. 1964).
Simon H. A., Kotovsky K., Human Acquisition of Concepts for Sequential Patterns, Psychological review, 70 (1963).
Simon H. A., Sumner R. K., Pattern in Music, в сб. В. Kleinmuntz (ed.), Formal Representation of Human Judgment, Wiley 1968.
Slagle J., Experiments with a Deductive Question Answering Program, Communications of the ACM, 8 (1965), 12. (Русский перевод. Слэгл Дж., Эксперименты с дедуктивной программой вопросов — ответов, Современное программирование, «Мир», М„ 1970.)
Slagle J. R., Bursky Р., Experiments with a Multi — Purpose, Theorem Proving Heuristic Program, Journal of the Association for Computing Machinery, 15 (Jan 1968), 1
Tessier L., Enea H., Colby К. M„ A Directed Graph Representation for Computer Simulation oi Belief Systems, Mathematical Biosciences, 2 (1968).'
Waterman D., Machine Learning of Heuristics, Диссертация на соискание ученой степени доктора философии (проект «Искусственный интеллект», Стэнфордский университет).
Weizenbaum J., Contextual Understanding by Computers, в сб. Kolers P. A., Eden M., (eds.), Recognizing Patterns: Studies in Living and Automatic Systems, MIT Press 1968. (Русский перевод: Вейценбаум И., Понимание связного текста вычислительной машиной, в сб. под редакцией И. Ко- лерса и М. Идена, «Распознавание образов. Исследование живых и автоматических распознающих систем», «Мир», М„ 1970.)
Williams Р. G., Some Studies in Game Playing with a Digital Computer, Диссертация на соискание ученой степени доктора философии (Университет Карнеги — Меллона, кафедра вычислительной техники, июль 1965).
Об эволюции системискусственного интеллекта)Л. Шиклоипии
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Искусственным интеллектом, кратко ИИ, называется изучение устройств, способных выполнять задачи, разрешение которых, как считается, предполагает применение интеллекта). Определение истинной природы интеллекта у животных и человека представляется делом затруднительным, а иногда и бесполезным ). Кроме того, порой ощущается недостаток единодушия в том, что на самом деле есть “машинная программа, обладающая свойствами искусственного интеллекта”. К настоящему времени, однако, уже существует значительное количество программ, которые заслуживают титула “интеллектуальные”.
Сталкиваясь с различными программами ИИ, исследователь пытается разобраться в них, устанавливая их место в некоторой структуре, а часто прибегая к какой-нибудь классификационной схеме. В исследованиях в области ИИ были выделены такие направления, как решение задач, доказательство теорем, распознавание образов, игры и получение ответов на вопросы). Ньюэлл (1967) предложил другой принцип классификации программ ИИ: поскольку при анализе программа рассматривается как объединение небольшого числа образующих элементарных блоков, ее можно охарактеризовать, указав типы использованных блоков и структуру их связи. В настоящей статье мы вводим иной подход: давайте попытаемся рассмотреть эволюцию программ ИИ ретроспективно, начиная с первого существенного достижения в этой области — программы “Логик-теоретик" (Logic Theorist), созданной Нью-
эллом, Шоу и Саймоном (1956 и 1957). Мы сопоставим хронологию развития программ ИИ со стандартной возрастной хронологией, характеризующей способности человеческого существа к решению задач, аналогичных тем, для решения которых предназначены программы.
Мы не будем рассматривать все известные программы ИИ; в частности, не будут затрагиваться программы, которые ничем не выделяются, за исключением того обстоятельства, что в них моделируются познавательные процессы. Иначе говоря, мы остановимся на программах, обладающих определенным уровнем “умения”. Предпочтение будет отдаваться программам, способным “разумно” выполнять такие задачи, с которыми человек начинает справляться, достигнув вполне определенного возраста; следовательно, такие проблемы, как доказательство теорем методом резолюции и специальные случаи распознавания образов, остаются вне нашего внимания.
ЭВОЛЮЦИЯ ТЕХНИЧЕСКОГО АРСЕНАЛА ИИ
Для подхода к пониманию ИИ с эволюционной точки зрения оснований вполне достаточно. Применение эволюционных моделей в других областях часто давало как более глубокое понимание проблем данной науки, так и стимул для ее дальнейшего развития. Хотя лишь немногие из биологов считают, что онтогенез рекапитулирует филогенез, тем не менее изучение даже мало проявляющихся соответствий в развитии индивидуума и вида, к которому он принадлежит, оказывается весьма плодотворным.
Технические средства, находящиеся в распоряжении исследователей ИИ, также существенно изменились с тех пор, как в 1956 году появились первые сообщения о машине “Логик- теоретик”. Вычислительные машины стали больше, а их быстродействие увеличилось. Таблица 1 позволяет сравнить характеристики вычислительной машины JOHNNIAC, на которую
Таблица 1
Параметры вычислительных машин типов JOHNNIAC и CDC7600
Тип вычислительной машины
Размер памяти (число слов)
Длина слова (в битах)
Время обращения к главной памяти (в наносекундах)
JOHNNIAC
4К
40
28 000
CDC7600
524 К
60
275 (благодаря использованию 10-кратного перемежения эта величина соответствует 27,5 наносекундам)
была ориентирована программа “Логик-теоретик”, и вычислительной машины типа CDC7600, появившейся в 1969 году. Если умножить преимущество, которым располагает машина CDC7600 в отношении быстродействия, на ее преимущество в скорости обращения к быстрой памяти, становится очевидно, что она более чем в 200 000 раз) превосходит машину JOHNNIAC по мощности, не говоря уже о том, что магнитный барабан на 12 К слов), приданный JOHNNIAC, мало что значит по сравнению с дополнительной памятью на сердечниках и магнитных дисках машины CDC7600.
Параллельно с развитием собственно вычислительных устройств средства программного обеспечения также претерпели эволюцию и в свою очередь расширили возможности специалистов в области вычислительных систем. Появление языков высших уровней и введение режима разделения времени облегчили создание программ и дали возможность разработать системы, обеспечивающие работу человека с вычислительной машиной в режиме диалога.
Усовершенствование доступных исследователям ИИ средств вычислительной техники и программного обеспечения в сочетании с ростом числа этих исследователей могло бы привести нас к выводу, что с течением времени задачи, выполняемые программами ИИ, будут подобны тем, которые оказываются по силам лишь более способным либо более взрослым людям. Эволюция ИИ не подтвердила, однако, этого “обоснованного” прогноза. На самом деле произошло как раз обратное.
Сейчас мы рассмотрим задачи, возможность справляться с которыми человек приобретает на различных этапах своего развития, а затем сопоставим этой хронологии программы, предназначенные для решения подобных задач.
ЗАДАЧИ, КОТОРЫЕ РЕШАЕТ ЧЕЛОВЕК
В этом разделе мы представим хронологию возрастов, показывающую, когда человек начинает справляться с решением определенных задач. В следующем разделе этой хронологии будет сопоставлена хронология эволюции программ, решающих подобные задачи.
В первом и втором столбцах табл. 2 указаны стандартный возраст, в котором обучающийся в Соединенных Штатах студент решает определенную задачу, и вид этой задачи. Для некоторых стран возраст, соответствующий решению задач определенных типов, может несколько отличаться от приведенного здесь.
Сравнительная эволюция способностей человекаи систем искусственного интеллекта к решению задач
Человек
Программы
Первый опыт
Потомки по „побочной линии"
возраст
задача
год
название
год
автор
22
Аксиоматическая
1956
“Логик-теоретик”:
логика (форма-
Ньюэлл, Шоу и Сай-
лизм Уайтхеда и Рассела)
мои
20
Шашки
1959
“Шашист": Сэмюэль
1967
Сэмюэль
19
Исчисление выска-
1959
“Универсальный решатель задач"' Ньюэлл,
1967
Эрнст
зываний
1968
Куинлан
Шоу и Саймон
1969
Файкес;
Попл
18
Анализ
1961
Символический инте-
1967
Мозез
гратор: Слэйджл
Уолдингер и Ли; Уол-
17
Программирование
1963
“Эвристический компилятор”: Саймон
1969
дингер
16
Геометрическое го- добие
Алгебраические за-
1963
“Подобие»: Эванс
15
1964
Система для решения
дачи в содержа-
алгебраических за-
тельной постанов-
дач в сопержатель-
15
ке
1959
ной постановке: Боброу
Планиметрия
“Машина для доказательства геометрических теорем"' Ге- лернтер и его сотрудники
5
Школа .
1966
3
Язык и речь
Анализ речи Редди
1968
Синтез речи: Каллер
1968
Программа, которая
учится говорить: Шиклошши
2
Двигательная ак-
1968
СтаиФорлский проект
тивность и спо-
“рука —глаз": Фельд-
собность к коор-
1969
ман и его сотрудники
диннрованным
Робот Стэнфордского
действиям
исследовательского
1968
института: Нильсон
Проект “рука—глаз”
МТИ: МАС
1
Восприятие окру-
1968
“Визуальная програм-
жающей среды
ма”: Газман
К одному году ребенок обладает вполне развитым восприятием материальной среды, в которой он существует. К двум годам его двигательная активность и ее координация становятся довольно совершенными. Около трех лет ребенок овладевает языком и речью, а еще год спустя может связно пересказывать какие-либо события и выслушивать рассказ о них. Около пяти лет от роду ребенок приходит в школу.
Пропустим около десяти лет и вернемся к нашему молодому человеку на втором году обучения в старших классах средней школы—теперь ему около пятнадцати лет. Он учится решать планиметрические и содержательно поставленные алгебраические задачи. Тесты на определение показателя умственных способностей — его старые знакомые. На 17 лет приходится его последний год в средней школе, и вполне возможно, что в отдельных лучших школах его знакомят с началами программирования.
Анализ обычно изучают в колледже. На этом этапе отмечается прогресс будущего логика или математика. В девятнадцать лет он знакомится с исчислением высказываний, а став аспирантом, встретится, по всей вероятности, где-то около двадцати двух лет с аксиоматическим построением логики, развитым Уайтхедом и Расселом. К этому времени, но, как правило, не раньше двадцати лет, он может научиться прекрасно играть в какую-нибудь из “настольных” игр (например, в шашки).
ЗАДАЧИ, КОТОРЫЕ РЕШАЮТ ПРОГРАММЫ ИИ
Как мы отметили выше, первой программой ИИ была, очевидно, программа “Логик-теоретик”. Она доказывала теоремы из логики, построенной Уайтхедом и Расселом на аксиоматической основе. Задача, поставленная перед этой программой, очень близка той последней задаче, на которой мы покинули нашего молодого человека. В третьем столбце табл. 2 отмечается год первого сообщения о программе, а четвертый столбец содержит название программы, которая предназначена для решения задачи, подобной той задаче, решаемой человеком, которая помещена во втором столбце в этой же строке.
В 1959 году Сэмюэль сообщил об очень хорошей программе, предназначенной для игры в шашки. В этом же году Ньюэлл, Шоу и Саймон представили программу “Универсальный решатель задач” (General Problem Solver — GPS); на самом деле, однако, главным достоинством программы GPS является возможность доказывать теоремы из исчисления высказываний с помощью процедуры, существенно более “близкой” человеку, чем использованная в программе “Логик-теоретик”,
Слэйджл (1961) разработал программу для решения задач символического интегрирования. Характеристики программы соответствуют уровню первокурсника колледжа, прослушавшего семестровый курс дифференциального исчисления. Программа Слэйджла может брать интегралы, например следующий:
[^-dx.
(1 - х2)л
Значение этого интеграла равно arcsin х + у tg3 (arcsin х) — — tg (arcsin х + С).
В 1963 году Саймон сообщил о своей программе “Эвристический компилятор’’ (Heuristic Compiler), способной составлять
Рис. 1. Пример задачи на установление геометрического подобия. Фигура А находится в таком же отношении к фигуре В, как фигура С к фигурам 1, 2, 3, 4 или 5.
элементарные программы исходя из изложенного на английском языке описания. В этом же году появилось описание программы Эванса, решающей геометрические задачи на подобие. Пример задачи такого типа приведен на рис. 1 (правильный ответ — фигура 3). Программа соответствует уровню ученика последнего класса средней школы. Программа Боброу (1964) опускается на год-два ниже и занимается решением алгебраических задач, поставленных содержательно, например, следующего типа: “Мэри в два раза старше, чем была Энн, когда Мэри было столько же лет, сколько Энн сейчас. Если Мэри сейчас 24 года, сколько лет Энн?"
(Ответ, выданный программой: “Энн восемнадцать лет”.)
Тому же пятнадцатилетнему уровню соответствует программа Гелернтера (Gelernter), предназначенная для решения задач из области планиметрии. Эта программа может решить символический эквивалент следующей задачи: “Пусть дан прямоугольник ABCD и точки Е, F, G и Н делят отрезки АВ, АС,
CD и BD пополам. Требуется доказать, что EFGH — параллелограмм”.
Эта программа, к сожалению, выпадает из нашей хронологии, так как она работала уже в 1959 году. Существование этого исключения демонстрирует несовершенство нашей эволюционной модели. Действительно, можно отметить, что принципы, заложенные в программу Гелернтера, крайне аксиоматичны и, следовательно, сама программа относится к тому же классу, что и “Логик-теоретик".
Мы покрыли тот длинный путь, который разделяет способности к решению задач трехлетнего ребенка и пятнадцатилетнего юноши. Упоминавшиеся программы в ряде случаев достигают уровня, вполне сравнимого с человеческими возможностями. Программы, к рассмотрению которых мы переходим, отличаются от предыдущих тем, что их возможности существенно слабее навыков даже очень маленького ребенка, с поведением которого сопоставляется их функционирование.
Очень интенсивно ведутся исследования, посвященные проблемам восприятия среды и действий (“манипуляции") в ней. Системы, разрабатываемые в Станфордском университете и Массачусетском технологическом институте в рамках проектов “рука — глаз”, располагают глазом — модифицированной телевизионной камерой и рукой, управляет которыми вычислительная машина. Глаз воспринимает окружающую обстановку, а рука может вносить в нее изменения. Последними сообщениями об этих исследованиях, проведение которых продолжается, являются доклад Фельдмана и его сотрудников (1969) и отчеты МАС (1967 и 1968).
Робот, построенный в Станфордском исследовательском институте, снабжен глазом, который управляется вычислительной машиной и установлен на тележке. Робот перемещается в среде, которую он “осматривает” своим глазом. Последние сведения о работе Стэнфордского исследовательского института содержатся в докладе Нильсона (1969).
Что касается восприятия, то программа Газмана (1968) распознает элементы изображений, составленных из прямоугольных компонент.
ЕЩЕ НЕМНОГО НА ТУ ЖЕ ТЕМУ
Побочную линию в эволюции искусственного интеллекта образует развитие программ, отпочковавшихся от некоторых из рассмотренных выше программ. Ряд таких модификаций приведен в пятом и шестом столбцах табл. 2.
В 1967 году Сэмюэль сообщил об усовершенствованной программе для игры в шашки. “Универсальный решатель задач”
обзавелся целым рядом потомков. Эрнсту (1967) удалось продемонстрировать универсальность программы “GPS”, применив ее для решения задач, относящихся к дюжине различных областей. В 1968 году Попл объединил метод “GPS”, основанный на “анализе средств и целей’’, с представлением с помощью аппарата узкого исчисления предикатов; Файкес в свою очередь создал язык для представления задач на анализ средств и целей при наличии определенных ограничений и еще один язык, ориентированный на решение задач, представленных таким образом.
В 1967 году Мозес представил очень эффективную программу, предназначенную для символического интегрирования. Программы Уолдингера и Ли (1969) — дальние родственники “Эвристического компилятора”, но все же связанные с программированием, — по описанию в языке исчисления предикатов составляют программу, не требующую отладки.
ПОИСК
Ребенок не может долго оставаться сосредоточенным и быстро разочаровывается, если не достигает поставленной цели. Став старше, человек может предпринимать многократные попытки разрешить проблему. Объем поиска, реализуемого программой вычислительной машины, можно сравнить с терпением человека: чем длиннее поиск, который “согласна” предпринимать программа, тем более “терпеливой” и “настойчивой” можно ее считать.
Одна из эволюционных моделей искусственного интеллекта основана на оценке поисковых процедур рассмотренных нами программ. Первые программы, такие, как “Логик-теоретик", GPS, символический интегратор Слэйджла, система для доказательства геометрических теорем, часто при получении решения прибегали к длительному поиску. Более поздние программы (например, программа для решения содержательно заданных алгебраических задач Боброу, программа установления геометрического подобия Эванса, “визуальная” программа Газ- мана) значительно менее “терпеливы” и получают решение, обходясь без чересчур длительного поиска. Некоторые программы “побочной линии” (например, программа символического интегрирования Мозеса) также отличаются небольшим объемом поиска.
ПРОБЕЛЫ И ПЕРСПЕКТИВЫ
Способность прогнозировать развитие — обязательное преимущество эволюционной модели. В этом отношении наша модель эволюции искусственного интеллекта разочаровывает: существует очень мало задач, с которыми может справиться
ребенок, не достигший года. Наша модель тем не менее представляет целый ряд сфер, в которых человеческий интеллект торжествует, а оппоненты со стороны искусственного интеллекта отсутствуют.
Разрыв между тремя и пятнадцатью годами медленно заполняется. Ряд программ в небольшой степени обладает свойством вербального понимания. В настоящее время продолжается работа над программой, способной понимать рассказы детей (1969). Проблема обучения, столь существенная для процесса развития человека, оказалась едва затронутой.
Другой существенный пробел относится к задачам, разрешаемым квалифицированными людьми старше двадцати двух лет. Одна программа такого рода уже существует — DENDRAL (1969). Совместные усилия химиков и специалистов в области вычислительной техники позволили создать эту программу; она воспроизводит возможные молекулярные структуры органических соединений по их масс-спектрам и эмпирическим формулам.
В будущем следует ожидать появления и других программ, связанных с научными исследованиями. Разработка “высококвалифицированных" обучающих систем (действующих на базе вычислительных машин) имеет отношение и к пробелу во “взрослой" деятельности; в настоящее время соответствующим проблемам уделяется много внимания.
ЗАКЛЮЧЕНИЕ
Мы сопоставили эволюцию задач, которые могут быть решены людьми и программами искусственного интеллекта. Эти эволюции развивались в противоположных направлениях как хронологически, так и в отношении “настойчивости” поискового поведения при решении задач. Предметом исследований в области искусственного интеллекта в будущем являются те “пробелы", которые образованы задачами, выполняемыми людьми и пока не выполняемыми удовлетворительно системами искусственного интеллекта.
СПИСОК ЛИТЕРАТУРЫ
Bobrow D. G., Natural Language Input for a Computer Problem-Solving System, Doctoral Dissertation, Massachusetts Institute of Technology, Cambridge, Mass., 1964 (перепечатано в сб. [15]).
Buchanan В., Sutherland G., Feigenbaum E. A., HEURISTIC DENDRAL: a program for generating explanatory hypotheses in organic chemistry, в сб. Machine Intelligence 4 (D. Michie and B. Meltzer, eds.), American Elsevier, New York, 1969.
Charniak E., Understanding of Children’s Stories, Project MAC, Massachusetts Institute of Technology, Cambridge, Mass., реферат: SIGART Newsletter, № 17, Aug. 1969, p. 15.
Culler G. J., Ап attack on the problems of speech analysis and synthesis with the power of an on-line system, Proc. Int. Jt. Conf. Art. Intel. (IJCAI), Washington, D.C., May, 1969.
Ernst G. W., Newell A., Generality and GPS, Report of the Center for the Study of Information Processing, Carnegie Institute of Technology, Pittsburgh, Pa., Jan. 1967.
Evans T. G., A Heuristic Program to Solve Geometric-Analogy Problems, Doctoral Dissertation, Massachusetts Institute of Technology, Cambridge, Mass., 1963 (перепечатано в сб. [15]).
Feigenbaum E. A., Feldman J. (eds.), Computers and Thought, McGraw- Hill, New York, 1963. (Русский перевод: Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М„ 1967.)
Feldman J. A., Feldman G. М., Falk G., Grape G.. Pearlman J., Sobel I., Tenenbaum J. M., The Stanford hand-eye project, Proc. Int. Jt. Conf. Art. Intel. (IJCAI), Washington, D. C., May, 1969.
Fikes R. E., A Heuristic Program for Solving Problems Stated as Nondeter- ministic Procedures, Doctoral Dissertation, Carnegie-Mellon University, Pittsburgh, Pa., 1968.
Gelernter H., Realization of a geometry-theorem proving machine, Proc. Intern. Conf. Information Processing (ICIP), Paris, France, June, 1959 (перепечатано в сб. [7]). (Русский перевод: Гелернтер Г., Реализация машины, доказывающей геометрические теоремы, в сб. Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М., 1967, стр. 145—165.)
Gelernter Н., Hansen J. R., Loveland D. W., Empirical explorations of the geometry-theorem proving machine, Proc. Western Joint Computer Conf, (WJCC), 1960 (перепечатано в сб. [7]). (Русский перевод: Гелернтер Г., Ханзен Дж., Ловленд Д., Экспериментальное исследование машины для доказательства геометрических теорем, в сб. Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М„ 1967, стр. 165—175.)
Guzman A., Computer Recognition of Three-Dimensional Objects in a Visual Scene. Doctoral Dissertation, Massachusetts Institute of Technology, Cambridge, Mass.. 1968.
MAC. Project MAC Progress Report IV, Massachusetts Institute of Technology, Cambridge, Mass., 1967.
MAC. Project MAC Progress Report V, Massachusetts Institute of Technology, Cambridge, Mass., 1968.
Minsky M. (ed.), Semantic Information Processing, MIT Press, Cambridge, Mass., 1968.
Moses J., Symbolic Integration, Doctoral Dissertation, Massachusetts Institute of Technology, Cambridge, Mass., 1967.
Newell A., Heuristic Programming: 111-Structured Problems, Carnegie — Mellon University, Doctoral Dissertation, Nov. 1967.
Newell A., Shaw J. C., Simon G. A., Empirical explorations with the logic theory machine. Proc. Western Joint Computer Conf. (WJCC), Los Angeles, Calif., Feb., 1957 (перепечатано в сб. [7]). (Русский перевод: Ньюэлл А., Шоу Дж., Саймон Г., Эмпирические исследования машины «Логик-теоретик»; пример изучения эвристики, в сб. Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М., 1967, стр. 113—144.)
Newell A., Shaw J. С., Simon Н. A., Report on a general problem-solving program, Proc. Intern. Conf. Information Processing (ICIP), Paris, France, June 1959.
Newell A., Simon H. A., The logic theory machine, IRE Trans., IT2, № 3, Sept. 1956.
Nilsson N. J., A mobile automaton: an application of artificial intelligence techniques, Proc. Int. Jt. Conf., Art. Intel., (IJCA1), Washington, D. C., May 1969.
Pople H., A Goal-Oriented Language for the Computer, Doctoral Dissertation, Carnegie — Mellon University, Pittsburgh, Pa.. 1969.
Quinlan J. R., Hunt E. B., A formal deductive problem-solving system, J. Assoc. Comput, Mach., 15, № 4 (Oct. 1968), 625—646.
.24. Reddy D. R., An Approach to Computer Speech Recognition by Direct Ana- ' lysis of the Speech Wave, Doctoral Dissertation, Stanford University, Stanford, Calif., 1966.
Samuel A. L., Some studies in machine learning using the game of checkers, IBM J. Res. Deuel., 3, № 3 (1959) (перепечатано в сб. [7]). (Русский перевод: Сэмюэль А., Некоторые исследования возможности обучения машин на примере игры в шашки, в сб. Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М., 1967, стр. 71—111.)
Samuel A. L., Some studies in machine learning using the game of che- skers. II—Recent Progress, IBM J. Res. Devel., 11, Ns 6 (Nov. 1967), 601—617.
Siklossy L., Natural Language Learning by Computer, Doctoral Dissertation, Carnegie — Mellon University, Pittsburgh, Pa., 1968.
Simon H. A., Experiments with a heuristic compiler, J Assoc. Comput. Mach., 10, № 4 (Oct. 1963), 482—506.
Slagle J., A Computer Program for Solving Problems in Freshman Calculus (SAINT), Doctoral Dissertation, Massachusetts Institute of Technology, Cambridge, Mass., 1961 (в сокращенном виде приведена в сб. [7]). (Русский перевод: Слэйджл Д., Эвристическая программа, решающая задачи символического интегрирования в объеме первого курса университета, в сб. Вычислительные машины и мышление, под редакцией Э. Фейгенбаума и Дж. Фельдмана, «Мир», М., 1967, стр. 204—219.)
Waldinger R. J., Constructing Programs Automatically Using Theorem Proving, Doctoral Dissertation, Carnegie — Mellon University, Pittsburgh, Pa., 1969.
Waldinger R. J., Lee R. С. T., PROW: a step toward automatic program writing, Proc. Int. Jt. Conf. Art. Intel. (1JCAI), Washington, D. C., May 1969.
СОДЕРЖАНИЕ
Математические вопросы .",.... У 5
Н. Дж. А. Слоэи. Обзор конструктивной теории кодирования и таблица двоичных кодов с наибольшими известными скоростями. Перевод Б. С. Цибакова ..............5
А. М. Кердок. Класс нелинейных двоичных кодов с низкой скоростью передачи. Перевод Г. Л. Роговой 33
й. Юстесен. Класс конструктивных асимптотически хороших алгебраических кодов. Перевод Б. С. Цибакова . . . .39
Д. К. Рой-Чоудхури. О связи теории графов с планированием эксперимента и некоторые последние результаты о существовании блок-схем.
Перевод В. П. Козырева51
У. Т. Татт. Теорема о плоских графах. Перевод В. П. Козырева . ... 66
Шёнхаге, В. Штрассен. Быстрое умножение больших чисел. Перевод
И. Колпакова .... 87
Л. Ходес, Е. Шпекер. Длины формул и исключение кванторов. Перевод В. Н. Захарова .. . . 99
й. Груска. Характеристика контекстно-свободных языков. Перевод С. В. Петрова .114
И. й. Мак-Вертер. Подстановочные выражения. Перевод С. В. Петрова 127
Вопросы машинного перевода 137
Д. Пейджер. Об эффективности алгоритмов. Перевод В. Л. Матросова 137
Б. Вокуа, Ж. Вейон, Н. Недобежкин, С. Бургиньон. Запись содержания текстов, не зависящая от их морфологических и синтаксических особенностей. Перевод Т. И. Коровиной148
Вычислительные машины и мышление171
Э. А. Фейгенбаум. Искусственный интеллект; темы исследований во втором десятилетии развития. Перевод И. Б. Г уревича 171
Л. Шиклошши. Об эволюции систем искусственного интеллекта. Перевод И. Б. Гуревича^04
УВАЖАЕМЫЙ ЧИТАТЕЛЬ!
Ваши замечания о содержании книги, ее оформлении, качестве перевода и другие просим присылать по адресу: 129820, Москва, И-110, ГСП, 1-й Рижский пер., д. 2, издательство «Мир».
КНВВИЯЕТИЧЕСКИП СБОРНИК
Новая серия
Выпуск 10
Редактор Л. Н. БабынннаХудожник Н. К- СапожниковХудожественный редактор В. И. ШаповаловТехнический редактор 3. И. Резник
Сдано в набор 31/1 1973 г.
Подписано к печати 31/VII 1973 г.
Бумага тип. № 1 60X90'/,е—6,75 бум. л. 135 веч. л.
Уч.-над. л. 13,34. Изд. № 1/7152Цена 1 р 54 к. Зак. 521Темплаи изд-ва «Мир» 1973 г., пор. № 10
ИЗДАТЕЛЬСТВО «МИР»
Москва, 1-й Рижский пер., 2
Ордена Трудового Красного ЗнамениЛенинградская типография № 2имени Евгении Соколовой Союзполиграфпромапри Государственном комитете Совета МинистровСССР по делам издательств, полиграфиии книжной торговли
г. Ленинград, Л-52, Измайловский проспект, 29
’) Хотя в этом случае в соответствии с теоремой 1 функция ф(г) не эффективно вычислима.
* Литература, рекомендованная переводчиком.
Кибернетическийсборник
НОВАЯ СЕРИЯ
ВЫПУСК
Сборник переводов
Под редакцией
А. А. ЛЯПУНОВА и О. Б. ЛУПАНОВА
ИЗДАТЕЛЬСТВО «МИР»
Мо с к в а 1973
удк им»
Десятый выпуск серии кибернетических сборников состоит из трех разделов: математические вопросы; вопросы машинного перевода; вычислительные машины и мышление.
В первом разделе представлены работы по теории кодирования, теории графов, синтезу управляющих систем, теории алгоритмов и по математической лингвистике. Особый интерес представляют статьи А. Шёнхаге и В. Штрассена, в которой описывается новый алгоритм умножения п-разряд- пых чисел, требующий немногим более nlgn операций, а также работа Н. Дж. А. Слоэна, содержащая обзор последних результатов по конструктивным кодам.
Ко второму разделу относится статья Б. Вокуа, Ж. Вейона, Н. Недо- бежкина, С. Бургиньона, содержащая изложение работ французских ученых в области машинного перевода.
В третьем разделе помещены статьи Э. Фейгенбаума и Л. Шиклошши, посвященные исследованиям в области искусственного интеллекта. Первая из них содержит подробный обзор работ последних лет в этой области.
Сборник рассчитан на научных работников, инженеров, аспирантов и студентов различных специальностей, занимающихся и интересующихся математической кибернетикой и ее приложениями.
0223—010К 041(01)—780223—010К 041(01)—78Редакция литературы по математическим наукам
0223—010
К 041(01)—78
0223—010
К 041(01)—78
© Перевод на русский язык, <Мир», 1973