Библиотечка "Квант"
вып. 64

А. Н. Колмогоров

Математика - наука и профессия

М.: Наука, 1988, с. 43-62

Автоматы и жизнь

Мой доклад "Автоматы и жизнь", подготовленный для семинара научных работников и аспирантов механико-математического факультета Московского государственного университета, вызвал интерес у самых широких кругов слушателей. Популярное изложение доклада подготовлено моей сотрудницей по лаборатории вероятностных и статистических методов МГУ H.Г. Рычковой. Изложение это во всех существенных чертах правильно, хотя иногда словесное оформление мысли, а следовательно, н некоторые ее оттенки принадлежат H.Г. Рычковой. Подчеркну основные идеи доклада, имеющие наиболее широкий интерес.

I. Определение жизни как "особой формы существования белковых тел" (Энгельс) было прогрессивно и правильно, пока мы имели дело только с конкретными формами жизни, развившимися на Земле. В век космонавтики возникает реальная возможность встречи с "формами движения материи" (см. статью "Жизнь" в Большой Советской Энциклопедии), обладающими основными практически важными для нас свойствами живых и даже мыслящих существ, устроенных иначе. Поэтому приобретает вполне реальное значение задача более общего определения понятия жизни.

II. Современная электронная техника открывает весьма широкие возможности моделирования жизни и мышления. Дискретный (арифметический) характер современных вычислительных машин и автоматов не создает в этом отношении существенных ограничений. Системы из очень большого числа элементов, каждый из которых действует чисто "арифметически", могут приобретать качественно новые свойства.

III. Если свойство той или иной материальной системы "быть живой" или обладать способностью "мыслить" будет определено чисто функциональным образом (например, любая материальная система, с которой можно разумно обсуждать проблемы современной науки или литературы, будет признаваться мыслящей), то придется признать в принципе вполне осуществимым искусственное создание живых и мыслящих существ.

IV. При этом, однако, следует помнить, что реальные успехи кибернетики и автоматики на этом пути значительно более скромны, чем иногда изображается в популярных книгах и статьях. Например, при описании "самообучающихся" автоматов или автоматов, способных "сочинять" музыку или писать стихи, иногда исходят из крайне упрощенного представления о действительном характере высшей нервной деятельности человека и, в частности, творческой деятельности.

V. Реальное продвижение в направлении понимания механизма высшей нервной деятельности, включая и высшие проявления человеческого творчества, естественно, не может ничего убавить в ценности и красоте творческих достижений человека. Я думаю, что это и хотела сказать редакция журнала "Техника - молодежи", сделав лозунг "Материализм - это прекрасно!" одним из подзаголовков в изложении моего доклада.

25 августа 1961 г.


* * *

Я принадлежу к тем крайне отчаянным кибернетикам, которые не видят никаких принципиальных ограничений в кибернетическом подходе к проблеме жизни и полагают, что можно анализировать жизнь во всей ее полноте, в том числе и человеческое сознание со всей его сложностью, методами кибернетики. Очень часто задают такие вопросы:

- Могут ли машины воспроизводить себе подобных и может ли в процессе самовоспроизведения происходить прогрессивная эволюция, приводящая к созданию машин, существенно более совершенных, чем исходные?

- Могут ли машины испытывать эмоции: радоваться, грустить, быть недовольными чем-нибудь, чего-нибудь хотеть?

- Могут ли, наконец, машины сами ставить перед собой задачи, не поставленные перед ними их конструкторами?

Иногда пытаются отделаться от этих вопросов или обосновать отрицательные ответы на них, предлагая, например, определить, понятие "машина" как нечто, каждый раз искусственно создаваемое человеком. При таком определении часть вопросов, скажем первый, автоматически отпадает. Но вряд ли можно считать разумным упорное нежелание разобраться в вопросах, действительно интересных и сложных, прикрываясь насильственно ограниченным пониманием терминов.

Вопрос о том, можно ли на пути кибернетического подхода к анализу жизненных явлений создать подлинную, настоящую жизнь, которая будет самостоятельно продолжаться и развиваться, остается насущной проблемой современности. Уже сейчас он актуален, годен для серьезного обсуждения, ибо изучение аналогий между искусственными автоматами и настоящей живой системой уже сейчас служит принципом исследования самих явлений жизни, с одной стороны, и способом, помогающим изыскивать пути создания новых автоматов - с другой.

Есть и другой способ сразу ответить на все эти вопросы. Он заключается в ссылке на математическую теорию алгоритмов. Математикам хорошо известно, что в пределах каждой формальной системы, достаточно богатой математически, можно сформулировать вопросы, которые кажутся содержательными, осмысленными и должны предполагать наличие определенного ответа, хотя в пределах данной системы такого ответа найти нельзя. Вот поэтому-то и провозглашается, что развитие самой формальной системы есть задача машины, а обдумывание правильного ответа на вопрос - это уже дело человека, преимущественное свойство человеческого мышления.

Такая аргументация, однако, использует идеализированное толкование понятия "мышление", с помощью которого можно легко .доказать, что не только машина, но и сам человек мыслить не могут. Здесь предполагается, что человек может давать правильные ответы на любые вопросы, в том числе и на поставленные неформально, а мозг человека способен производить неограниченно сложные формальные выкладки. Между тем нет никаких оснований представлять себе человека столь идеализированным образом - как бесконечной сложности организм, в котором умещается бесконечное количество истин. Чтобы достичь такого положения, заметим в шутку, пришлось бы расселить человечество по звездным мирам чтобы, пользуясь бесконечностью мира, организовать формальные логические выкладки в бесконечном пространстве и даже передавать их по наследству. Тогда можно было бы считать, что любой математический алгоритм человечество может развить до бесконечности.

Но вряд ли эта аргументация имеет отношение к реальному вопросу. И уж во всяком случае это не возражение против постановки вопроса о том, возможно ли создание искусственных живых существ, способных к размножению и прогрессивной эволюции, в высших формах обладающих эмоцией, волей и мышлением.

Этот же вопрос поставлен изящно, но формально математиком Тьюрингом в его книге "Может ли машина мыслить?". Можно ли построить машину, которую нельзя было бы отличить от человека?

Такая постановка как будто ничуть не хуже нашей и к тому же проще и короче. На самом же деле она не вполне отражает суть дела. Ведь, по существу, интересен не вопрос о том, можно ли создать автоматы, воспроизводящие известные нам свойства человека; хочется знать, можно ли создать новую жизнь, столь же высокоорганизованную, хотя, может быть, очень своеобразную и совсем непохожую на нашу.

В современной научной фантастике сейчас появляются произведения, затрагивающие эти темы. Интересен и остроумен рассказ "Друг" в сборнике Станислава Лема "Вторжение с Альдебарана" о машине, пожелавшей управлять человечеством. Однако фантазия романистов не отличается особой изобретательностью. И. А. Ефремов, например, выдвигает концепцию, что "все совершенное похоже друг на друга". Стало быть, у высокоорганизованного существа должны быть, по его мнению, два глаза и нос, хотя, может быть, и несколько измененной формы. В век космонавтики не праздно предположение, что нам, возможно, придется столкнуться с другими живыми существами, весьма высокоорганизованными и в то же время совершенно на нас непохожими. Сможем ли мы установить, каков внутренний мир этих существ, способны ли они к мышлению, присущи ли им эстетические переживания, идеалы красоты или чужды и т. п. Почему бы, например, высокоорганизованному существу не иметь вид тонкой пленки - плесени, распластанной на камнях?

1. Что такое жизнь? Возможно ли искусственное разумное существо?

Поставленный нами вопрос тесно связан с другими: а что такое жизнь, что такое мышление, что такое эмоциональная жизнь, эстетические переживания? В чем, скажем, состоит отличие последних от простых элементарных удовольствий - от пирога, например, или еще чего-нибудь в этом роде? Если говорить в более серьезном тоне, то можно сказать следующее: точное определение таких понятий, как воля, мышление, эмоции, еще не удалось сформулировать. Но на естественнонаучном уровне строгости такое определение возможно. Если мы не признаем эту возможность, мы окажемся безоружными против аргументов солипсизма.

Хотелось бы научиться на основании фактов поведения, например, делать выводы о внутреннем состоянии живого высокоорганизованного существа.

Как изучать высшую нервную деятельность, используя кибернетический подход? Здесь открываются следующие пути: во-первых, можно детально изучать само поведение животных или человека; во-вторых, изучать устройство их мозга; можно, наконец., иногда довольствоваться и так называемым симпатическим пониманием. Если, скажем, просто внимательно наблюдать кошку или собаку, то, и не зная науки о поведении и условных рефлексах, можно прекрасно понять, что они думают и чего хотят. Несколько труднее достигнуть такого понимания с птицами или, например, с рыбами, но вряд ли и это невозможно. Это вопрос не новый, частично он уже решен, частично легко решаем, частично - трудно. Опыт индуктивного развития науки говорит нам, что все вопросы, долго не находившие решения, постепенно разрешаются, и вряд ли нужно думать, что именно здесь существуют заранее установленные пределы, дальше которых продвинуться нельзя.

Если считать, что анализ любой высокоорганизованной системы естественно входит в состав кибернетики, придется отказаться от распространенного мнения, что основы кибернетики включают в себя лишь изучение систем, имеющих заранее назначенные цели. Часто кибернетику определяют как науку, занимающуюся изучением управляющих систем. Считается, что все такие системы обладают общими свойствами и свойство номер один у них - наличие цели. Это верно лишь до тех пор, пока все, что мы выделяем в качестве организованных систем, управляющих собственной деятельностью, похоже на нас самих. Однако если мы хотим методами кибернетики изучать происхождение таких систем, их естественную эволюцию, то такое определение становится узким. Вряд лид кибернетика поручит какой-либо другой науке выяснять, каким образом обычная причинная связь в сложных системах путем естественного развития приводит к возможности рассматривать всю систему как действующую целесообразно.

Обычно понятие "действовать целесообразно" включает умение охранять себя от разрушающих внешних воздействий или, скажем, способность содействовать своему размножению. Спрашивается: кристаллы действуют целесообразно или нет? Если "зародыш" кристалла поместить в некристаллическую среду, будет ли он развиваться? Ведь никаких отдельных органов у кристалла различить невозможно, стало быть, это есть некая промежуточная форма. И существование таковых неизбежно.

По-видимому, частные задачи, подобные этой, будут решать науки, непосредственно с ними связанные. Опытом частных наук никак нельзя пренебрегать. Но исключить из содержания кибернетики общие представления о причинных связях в целесообразно действующих системах, ставящих себе цели, так же нельзя, как нельзя, например, уже при имитации жизни автоматами не считаться, скажем, с тем, что и сами эти цели меняются в процессе эволюции, а вместе с этим изменяется и представление о них.

Когда говорят, что организация механизма наследственности, позволяющего живым организмам передавать свое целесообразное устройство потомкам, имеет целью воссоздать данный вид, придать ему определенные свойства, а также возможность изменчивости, прогрессивной эволюции, то кто же ставит эту цель? Или если рассматривать систему в целом, то кто же, как не она сама, ставит перед собой цель развития путем отсеивания негодных экземпляров и размножения совершенных?

Подводя итоги, можно сказать, что изучение в общей форме возникновения систем, в которых применимо понятие целесообразности, есть одна из главных задач кибернетики. При этом изучение в общей форме естественно предполагает знание, отвлеченное от деталей физического осуществления, от энергетики, химии, возможностей техники и т. п. Нас здесь интересуют только, как возникает возможность сохранять и накапливать информацию.

Такая широкая постановка задачи содержит в себе много трудностей, но отказаться от нее на современном этапе развития науки уже невозможно.

Если признавать важность задачи определения в объективных обобщенных терминах существенных свойств внутренней жизни (высшей нервной деятельности) какой-то незнакомой нам и непохожей на нас высокоорганизованной системы, то нельзя ли тот же путь предложить и в применении к нашей системе - человеческому обществу? Хотелось бы на общем языке, одном и том же для всех высокоорганизованных систем, уметь описывать и все явления жизни человеческого общества.

Представим себе воображаемого постороннего наблюдателя нашей жизни, который совершенно не обладает ни симпатиями к нам, ни умением понять, что мы думаем и переживаем. Он просто наблюдает большое скопление организованных существ и желает понять, как оно устроено. Совершенно так же, как, скажем, мы наблюдаем муравейник. Через некоторое время он, пожалуй, без особого труда сможет понять, какую роль играет информация, содержащаяся, например, в железнодорожных справочниках (человек теряет такой справочник и не может попасть на нужный поезд). Правда, наблюдателю пришлось бы столкнуться с большими трудностями.

Как, например, понять ему следующую картину: множество людей приходит вечером в большое помещение, несколько человек поднимаются на возвышение и начинают делать беспорядочные движения, а остальные сидят при этом спокойно; по окончании люди расходятся без всякого обсуждения.

Один из молодых математиков, может быть в шутку, приводит и другой пример необъяснимого поведения: люди заходят в помещение, там получают бутылки с некоей жидкостью, после чего начинают бессмысленно жестикулировать. Постороннему наблюдателю будет трудно установить, что же это такое - просто разлад в машине, какая-то пауза в ее непрерывной осмысленной работе, или же можно описать, что происходит в этих двух случаях, и установить разницу между ними.

Оставив шутливый тон, сформулируем серьезно возникающую здесь проблему: нужно научиться в терминах поведения осуществлять объективное описание самого механизма, это поведение обусловливающего, уметь различать отдельные виды деятельности высокоорганизованной системы. Впервые в нашей стране И. П. Павлов установил возможность объективного изучения поведения животных и человека, а также регулирующих это поведение мозговых процессов без всяких субъективных гипотез, выраженных в психологических терминах. Глубокое изучение предложенной проблемы есть не что иное, как павловская программа анализа высшей нервной деятельности в ее дальнейшем развитии.

Создание высокоорганизованных живых существ превосходит возможности техники наших дней. Но всякие ограничительные тенденции, всякое неверие или даже утверждение невозможности на рациональных путях достичь объективного описания человеческого сознания во всей его полноте сейчас явились бы тормозом в развитии науки. Разрешение этой проблемы необходимо, ибо уже истолкование разных видов деятельности может служить толчком для развития машинной техники и автоматики. С другой стороны, возможности объективного анализа нервной системы сейчас столь велики, что не хочется заранее останавливаться перед задачами любой трудности.

Если технические трудности будут преодолены, то вопрос о практической целесообразности осуществления соответствующей программы работ останется по меньшей мере спорным.

Однако в рамках материалистического мировоззрения не существует никаких состоятельных принципиальных аргументов против положительного ответа на наш вопрос. Более того, этот положительный ответ является сейчас современной формой убеждений о естественном возникновении жизни и материальной основе сознания.

2. Дискретна или непрерывна мысль?

В кибернетике и теории автоматов сейчас наиболее разработана теория работы дискретных устройств, т. е. таких устройств, которые состоят из большого числа отдельных элементов и работают отдельными тактами. Каждый элемент может находиться в небольшом числе состояний, и изменение состояния отдельного элемента зависит от предыдущих состояний сравнительно небольшого числа элементов. Так устроены электронные машины, так, предположительно, устроен и человеческий мозг. Считается, что мозг имеет таких отдельных элементов - нервных клеток 1010, а может быть, и еще больше. Несколько проще, но еще более грандиозно в смысле объема устроен аппарат наследственности.

Иногда делают вывод, что кибернетика должна заниматься лишь дискретными устройствами. Против такого подхода есть два возражения. Во-первых, реальные сложные системы - как многие машины, так и все живые существа - действительно имеют определенные устройства, основанные на принципе непрерывного действия. Что касается машин, то таким примером может служить, скажем, руль автомобиля и т. п. Если мы обратимся к человеческой деятельности - сознательной, но не подчиненной законам формальной логики, т. е. деятельности интуитивной или полуинтуитивной, например к двигательным реакциям, то мы обнаружим, что большое совершенство и отточенность механизма непрерывного движения построены на движениях непрерывно-геометрического характера. Если человек совершает тройной прыжок или прыжок с шестом или, например, готовится к дистанции слалома, его движение должно быть заранее намечено как непрерывное (для математиков: путь слаломиста оказывается даже аналитической кривой). Можно полагать, однако, что это не есть радикальное возражение против дискретных механизмов. Скорее всего интуиция непрерывной линии в мозге осуществляется на базе дискретного механизма.

Второе возражение против дискретного подхода заключается в следующем: заведомо человеческий мозг и даже, к сожалению, часто вычислительные машины, отнюдь не всегда действуют детерминированно - полностью закономерным образом. Результат их действия в некоторый момент (в данной ячейке) нередко зависит от случая. Желая обойти эти возражения, можно сказать, что и в автоматы можно "ввести случайность". Вряд ли имитирование случайности (т. е. замена случая какими-то закономерностями, не имеющими отношения к делу) может принести сколько-нибудь серьезный вред при моделировании жизни. Правда, вмешательство случайности часто рассматривается несколько примитивно: заготавливается достаточно длинная лента случайных чисел, которая затем используется для имитации случая в различных задачах. Но при частом употреблении эта заготовленная "случайность" в конце концов перестает быть случайностью. Исходя из этих соображений, к вопросу имитации случая на автоматах следует подходить с большой осторожностью. Однако принципиально это вещь во всяком случае возможная.

Только что изложенная аргументация приводит нас к следующему основному выводу.

Несомненно, что переработка информации и процессы управления в живых организмах построены на сложном переплетении дискретных (цифровых) и непрерывных механизмов, с одной стороны, детерминированного и вероятностного принципов действия - с другой.

Однако дискретные механизмы являются ведущими в процессах переработки информации и управления в живых организмах. Не существует состоятельных аргументов в пользу принципиальной ограниченности возможностей дискретных механизмов по сравнению с непрерывными.

3. Что такое "очень много"?

Часто, сомневаясь в возможности моделировать человеческое сознание на автоматах, говорят, что количество функций высшей нервной деятельности человека необъятно велико и никакая машина не может стать моделью сознательной человеческой деятельности в полном ее объеме. Одних только нервных клеток в коре головного мозга 1010. Каково же должно быть число элементов в машине, имитирующей всю сложную высшую нервную деятельность человека?

Эта деятельность, однако, связана не с разрозненными нервными клетками, а с довольно большими агрегатами их. Невозможно представить себе, чтобы, скажем, какая-нибудь математическая теорема "сидела" в одной-единственной, специально для нее заготовленной нервной клетке или даже в каком-то определенном числе их. По-видимому, дело обстоит совершенно иначе. Наше сознание оперирует небольшими количествами информации. Количество единиц информации, которое человек воспринимает и перерабатывает в секунду, совсем невелико. Вот один несколько парадоксальный пример: слаломист, преодолевая дистанцию, в течение десяти секунд воспринимает и перерабатывает значительно большую информацию, чем при других, казалось бы, более интеллектуальных видах деятельности, во всяком случае больше, чем математик пропускает через свою голову за сорок секунд напряженной работы мысли. Вообще, вся сознательная жизнь человека устроена как-то очень своеобразно и сложно, но когда закономерности ее будут изучены, для моделирования ее потребуется гораздо меньше элементарных ячеек, чем для моделирования всего мозга, как это ни удивительно.

Какие же объемы информации могут создавать уже качественное своеобразие сложных явлений, подобных жизни, сознанию и т. п.?

Можно разделить все числа на малые, средние, большие и сверхбольшие. Эта классификация нестрога, в рамках ее нельзя будет сказать, что такое-то число, например, среднее, а следующее за ним - уже большое. Здесь числа делятся на категории с точностью до порядка величин. Но большая строгость нам здесь и не нужна. Каковы же эти категории? Начнем с определений, понятных лишь математикам.

I. Число А назовем малым, если практически возможно перебрать все схемы из А элементов с двумя входами и выходами или выписать для них все функции алгебры логики с А аргументами.

II. Число Б называется средним, если мы оказываемся не в состоянии перебрать практически все схемы из Б элементов, а можем перебрать лишь сами эти элементы или (что чуть-чуть сложнее) выработать систему обозначений для любой системы из Б элементов.

III. И, наконец, число В - большое, если мы не в состоянии практически перебрать такое число элементов, а можем лишь установить систему обозначений для этих элементов.

IV. Числа будут сверхбольшими, если практически и этого нельзя сделать; они нам, как мы увидим дальше, и не понадобятся.

Поясним теперь эти определения на доступных примерах.

Пусть к одной электрической лампочке подсоединено три выключателя, каждый из которых может находиться в левом (Л) или правом (П) положении. Тогда, очевидно, возможных совместных положений трех выключателей будет 23 = 8. Перечислим их для наглядности:
 

1)ЛЛЛ 3)ЛПП 5)ПЛЛ 7)ПЛП
2)ЛПЛ 4)ЛЛП 6)ППЛ 8)ППП.

Проводку к нашим выключателям можно сделать таким образом, что в каждом из выписанных положений лампочка может как гореть, так и не гореть. Если произвести подсчет, то окажется, что различных положений выключателей, сопровожденных такими отметками, будет 223, т.е. 28 = 256. Справедливость этого последнего утверждения читатель без труда может проверить самостоятельно, дополняя выписанные положения выключателей знаками "горит", "не горит".

Всех, кто пользуется MS Internet Explorer, просим извинить нас за неспособность заставить эту программу отобразить сложные показатели степени. Просим здесь и ниже читать 223 как "2 в степени 2 в степени 3", 225 как "2 в степени 2 в степени 5", а 101010 как  "10 в степени 10 в степени 10". Может быть кто-нибудь из читателей посоветует, как решить эту проблему?

VIVOS VOCO!

Тот факт, что такое упражнение под силу читателю и не займет у него слишком много времени, и убеждает нас в том, что число 3 (число выключателей) относится к малым. Если бы выключателей было не 3, а, скажем, 5, то пришлось бы выписать 225 = 4294967296 различных совместных положений выключателей, сопровожденных отметками "горит", "не горит". Вряд ли можно за какое-нибудь разумное время практически проделать все это не сбившись. Поэтому число 5 уже нельзя считать малым.

Чтобы стал понятен термин "среднее число", приведем другой пример. Представьте себе, что вас ввели в помещение, где находится 1000 человек, и предложили с каждым из них поздороваться за руку. Правда, ваша рука после таких упражнений будет чувствовать себя неважно, но практически (по времени) проделать такое упражнение вполне возможно. Вы вполне сумеете, не сбившись, подойти к каждому из тысячи и протянуть ему руку. А если бы последовало предложение всей тысяче присутствующих обменяться друг с другом рукопожатиями, да еще каждой компании из трех человек внутри своего кружка дополнительно обменяться рукопожатиями и т. д., то это оказалось бы немыслимым. Число 1000 и есть среднее. Можно сказать, что мы "перебрали" тысячу элементов, отметив при этом каждого (рукопожатием).

Совсем простым примером большого числа является число видимых звезд на небосклоне. Каждый знает, что невозможно пересчитать звезды пальцем, а тем не менее существует каталог звездного неба (т. е. выработана система обозначений), пользуясь которым мы в любой момент можем получить справку о нужной нам звезде.

Естественно, что вычислительная машина может, во-первых, дольше работать не сбиваясь, а во-вторых, она составляет различные схемы во много раз быстрее, чем человек. Поэтому в каждой категории соответствующие числа для машины будут больше, чем для человека.
 

Числа Человек Машина
Малые 3 10
Средние 1000 1010
Большие 10100 101010

Что поучительного в этой таблице? Из нее видно, что хотя соответственные числа для машины гораздо больше, чем для человека, но остаются близкого порядка с ними. Между же числами разных категорий существует непроходимая грань: числа, средние для человека, не становятся малыми для машины, так же как числа, большие для человека, не становятся средними для машины. 103 несравненно больше, чем 10, а 10100 безнадежно больше, чем 1010. Заметим, что объем памяти живого существа и даже машины характеризуется средними числами, а многие проблемы, решающиеся путем так называемого простого перебора, - большими.

Здесь мы сразу выходим за пределы возможностей сравнения путем простого перебора. Проблемы, которые не могут быть решены без большого перебора, останутся за пределами возможностей машины на сколь угодно высокой ступени развития техники и культуры.

К этому выводу мы пришли, не обращаясь к понятию бесконечности. Оно нам не понадобилось и вряд ли понадобится при решении реальных проблем, возникающих на пути кибернетического анализа жизни.

Зато важным становится другой вопрос: существуют ли проблемы, которые ставятся и решаются без необходимости большого перебора? Такие проблемы должны прежде всего интересовать кибернетиков, ибо они реально разрешимы.

Принципиальная возможность создания полноценных живых существ, построенных полностью на дискретных (цифровых) механизмах переработки информации и управления, не противоречит принципам материалистической диалектики. Противоположное мнение может возникнуть лишь потому, что некоторые привыкли видеть диалектику лишь там, где появляется бесконечность. При анализе явлений жизни существенна, однако, не диалектика бесконечного, а диалектика большого числа.

4. Осторожно, увлекаемся!

В настоящее время для кибернетики, пожалуй, больше, чем для всякой другой науки, важно, что о ней пишут. Я не принадлежу к большим энтузиастам всей той литературы по кибернетике, которая сейчас так широко издается, и вижу в ней большое количество, с одной стороны, преувеличений, а с другой - упрощенчества.

Нельзя, конечно, сказать, что в этой литературе утверждается то, что на самом деле недостижимо, но в ней часто встречаются восторженные статьи, сами заглавия которых уже кричат об успехах в моделировании различных сложных видов человеческой деятельности, которые в действительности моделируются пока совсем плохо. Например, в американской кибернетической литературе и у нас, порой даже в совсем серьезных научных журналах, можно встретить работы о так называемом машинном сочинении музыки (это не относится к работам Р. X. Зарипова).

Под этим обычно подразумевается следующее: в память машины "закладывается" нотная запись большого числа (скажем, 70) ковбойских песен или, например, церковных гимнов; затем машина по первым четырем нотам одной из этих песен отыскивает все те песни, где эти четыре ноты встречаются в том же порядке и, случайным образом выбрав одну из них, берет из нее следующую, пятую ноту. Теперь перед машиной вновь четыре ноты (2, 3, 4 и 5), и она снова таким же способом осуществляет поиски и выбор. Так машина как бы на ощупь "создает" некую новую мелодию. При этом утверждается, что если в памяти машины были ковбойские песни, то и в ее творении слышится нечто "ковбойское", а если это были церковные гимны, - то нечто "божественное". Спрашивается, а что произойдет, если машина будет производить поиск не по четырем, а по семи идущим подряд нотам?

Поскольку в действительности двух произведений, содержащих семь одинаковых нот подряд, почти не встретишь, то, очевидно, "запев" семь нот из какой-нибудь песни, машина вынуждена будет пропеть ее до конца. Если же, наоборот, машине для собственного творчества достаточно знать только две ноты (а произведений с двумя одинаковыми нотами сколько угодно), то здесь ей представился бы такой широкий выбор, что вместо мелодии из машины послышалась бы какофония звуков.

Вся эта несложная схема преподносится в литературе как "машинное сочинение музыки", причем всерьез заявляется, что с увеличением числа нот, нужных "для затравки", машина начинает создавать музыку более серьезного, классического характера, а с уменьшением этого числа переходит на современную, джазовую.

На сегодня мы еще очень далеки от осуществления анализа и описания высших форм человеческой деятельности, мы даже еще не научились в объективных терминах давать определения многих встречающихся здесь категорий и понятий, а не только моделировать такие сложные виды этой деятельности, к каким относится создание музыки. Если мы не умеем понять, чем отличаются живые существа, нуждающиеся в музыке, от существ, в ней не нуждающихся, то, приступая сразу к машинному сочинению музыки, мы окажемся в состоянии моделировать лишь чисто внешние факторы.

"Машинное сочинение музыки" - это только пример упрощенного подхода к проблемам кибернетики. Другой распространенный недостаток заключается в том, что сторонники кибернетики настолько увлеклись возможностями кибернетического подхода к решению любых самых сложных задач, что позволяют себе пренебрегать опытом, накопленным другими науками за долгие века их существования.

Часто забывают о том, что анализ высших форм человеческой деятельности был начат давно и продвинулся довольно далеко. И хотя он и ведется в других, не кибернетических, терминах, но по существу объективен, и его необходимо изучать и использовать. А то, что сумели сделать кибернетики "голыми руками" и вокруг чего поднимают такую шумиху, зачастую не выходит за рамки исследования самых примитивных явлений.

Однажды на вечере в московском Доме литераторов один из участников вел с трибуны разговор о том, что наше время должно было создать и уже создало новую медицину. Эта новая медицина есть достояние и предмет изучения не медиков, а специалистов по теории автоматического регулирования! Самое главное в медицине, по мнению выступавшего, - это циклические процессы, происходящие в человеческом организме. А такие процессы как раз и описываются дифференциальными уравнениями, изучаемыми в теории автоматического регулирования. Так что изучать медицину в медицинских институтах теперь вроде как устарело - ее надо передать в ведение втузов и математических факультетов. Может быть, и верно, что специалисты по теории автоматического регулирования могут сказать свое слово в разрешении отдельных проблем, стоящих перед медициной. Но если они захотят принять участие в этой работе, то прежде всего им потребуется колоссальная доквалификация, ибо опыт, накопленный медициной, этой старейшей из наук, огромен, и для того чтобы сделать в ней что-то серьезное, надо сначала овладеть им.

5. Почему только крайности?

Вообще анализ высшей нервной деятельности в кибернетике сосредоточен пока на двух крайних полюсах. С одной стороны, кибернетики активно занимаются изучением условных рефлексов, т. е. простейшего типа высшей нервной деятельности. Всем, вероятно, известно, что такое условный рефлекс. Если два каких-нибудь раздражителя многократно осуществляются одновременно друг с другом (например, одновременно с подачей пищи включается звонок), то через некоторое время уже один из этих раздражителей (звонок) вызывает ответную реакцию организма (слюноотделение) на другой раздражитель (подачу пищи). Это сцепление является временным и, если его не подкреплять, постепенно исчезает. Значительная часть кибернетических проблем, которые известны сейчас под названием математической теории обучения, охватывает такие очень простые схемы, которые не исчерпывают и малой доли всей сложной высшей нервной деятельности человека и в анализе самой условно-рефлекторной деятельности представляют собой лишь начальную ее ступень.

Другой полюс - это теория формально-логических решений. Эта сторона высшей нервной деятельности человека хорошо поддается изучению математическими методами, и с созданием вычислительной техники и вычислительной математики исследования такого рода быстро двинулись вперед. И здесь кибернетики во многом преуспели.

А все огромное пространство между этими двумя полюсами - самыми примитивными и самыми сложными психическими актами (даже такие простые формы синтетической деятельности, как, скажем, механизм точно рассчитанного геометрического движения, о котором говорилось выше, пока плохо поддаются кибернетическому анализу) - изучается крайне мало, чтобы не сказать вовсе не изучается.

6. Кибернетика и язык

Особое положение сейчас занимает математическая лингвистика. Эта наука только еще создается и развивается по мере накопления кибернетических проблем, связанных с языком. Она имеет дело с анализом высших форм человеческой деятельности скорее интуитивного, нежели формально-логического характера, ибо эта деятельность плохо поддается точному описанию.

Каждый знает, что такое грамотно построенная фраза, правильное согласование слов и т. п.,  но никто пока не может адекватно передать это знание машине. Точный, логически и грамматически безукоризненный машинный перевод сейчас возможен был бы, пожалуй, только с латинского и на латинский язык, грамматические правила которого достаточно полны и однозначны. Грамматические же правила новых, живых языков, по-видимому, еще недостаточны для осуществления с их помощью машинного перевода. Необходимым здесь анализом занимаются уже давно, и в настоящее время машинный перевод стал предметом широко и серьезно поставленной деятельности. Можно, пожалуй, сказать, что именно на нем сосредоточено сейчас основное внимание математических лингвистов.

Однако в теоретических работах по математической лингвистике мало учитывается одно обстоятельство, а именно тот факт, что язык возник значительно раньше формально-логического мышления. Быть может, для теоретической науки одно из самых интересных исследований (в котором могут естественно сочетаться идеи кибернетики, новый математический аппарат и современная логика) есть исследование процесса образования слов как второй сигнальной системы. Первоначально, при полном еще отсутствии понятий, слова выступают в роли сигналов, вызывающих определенную реализацию. Возникновение логики обычно относят к сравнительно недавнему времени: по-видимому, только в Древней Греции было ясно понято и сформулировано, что слова не просто являются обозначениями неких непосредственных представлений и образов, но что от слова можно отделить понятие.

До настоящего, формально-логического, мышления мысли возникали не формализованные в понятии, а как комбинирование слов, которые ведут за собой другие слова, как попытки непосредственно зафиксировать проходящий перед нашим сознанием поток образов и т. д. Проследить этот механизм выкристаллизовывания слов как сигналов, несущих в себе комплекс образов, и создания на этой базе ранней логики - крайне благодарная область исследования, для математика в частности, что, впрочем, неоднократно отмечалось в кибернетической литературе.

Интересным может показаться и следующий вопрос: как формулируется логическая мысль у человека? Попробуем проследить этапы этого процесса на примере работы математика над какой-нибудь проблемой.

Сначала, по-видимому, возникает желание исследовать тот или иной вопрос, затем какое-то приблизительное, неведомо откуда возникшее представление о том, что мы надеемся получить в результате наших поисков и какими путями нам, может быть, удастся этого достичь, и уже на следующем этапе мы пускаем в ход свой внутренний "арифмометр" формально-логического рассуждения.

Таков, по-видимому, путь формирования логической мысли, такова схема процесса творчества. Может, вероятно, представиться интересным не только исследовать первую, интуитивную стадию этого процесса, но и задаться целью создать машину, способную помочь человеку в процессе творчества на стадии оформления мысли (математику, например, на стадии оформления вычислений), поручить, скажем, такой машине понимать и фиксировать в полном виде какие-то неясные, вспомогательные наброски чертежей и формул, которые всякий математик рисует на бумаге в процессе творческих поисков, или, например, воссоздавать по наброскам изображения фигур в многомерных пространствах и т. п. Иными словами, интересно подумать о создании машин, которые, не подменяя человека, уже сейчас помогали бы ему в сложных процессах творчества. Пока еще трудно даже представить себе, каким образом и на каких путях такую машину можно было бы осуществить. Но хотя пока еще эта задача и далека от своего разрешения, разговор обо всех таких вопросах уже возник в кибернетической литературе, что, по-видимому, можно только приветствовать.

Как можно уже увидеть из нескольких приведенных здесь примеров, различных проблем, связанных с пониманием объективного устройства самых тонких разделов высшей нервной деятельности человека, очень много. И все они заслуживают должного внимания кибернетиков.

7. Материализм - это прекрасно!

В заключение следует остановиться на вопросах, касающихся, если можно так сказать, этической стороны идей кибернетики. Встречающиеся часто отрицание и неприятие этих идей проистекают из нежелания признать, что человек является действительно сложной материальной системой, но системой конечной сложности и весьма ограниченного совершенства и поэтому доступной имитации. Это обстоятельство многим кажется унизительным и страшным.

Даже воспринимая эту идею, люди не хотят мириться с ней: такая картина всеобъемлющего проникновения в тайны человека, вплоть до возможности, так сказать, "закодировать" его и "передать по телеграфу" в другое место, кажется им отталкивающей и пугающей.

Встречаются опасения и другого рода: а допускает ли вообще наше внутреннее устройство исчерпывающее объективное описание? Предлагалось, например, поставить перед кибернетикой задачу научиться отличать по объективным признакам существа, нуждающиеся в сюжетной музыке, от существ, в ней не нуждающихся. А вдруг поанализируем, поанализируем - и окажется, что и в самом деле нет никакого разумного основания выделять такую музыку как благородную по сравнению с другими созвучиями.

Мне представляется важным понимание того, что ничего унизительного и страшного нет в этом стремлении постичь себя до конца. Такие настроения могут возникать лишь из полузнания: реальное понимание всей грандиозности наших возможностей, ощущение присутствия вековой человеческой культуры, которая придет нам на помощь, должно производить огромное впечатление, должно вызывать восхищение! Все наше устройство в самих себе понятно, но понятно и то, что это устройство содержит в себе колоссальные, ничем не ограниченные возможности.

На самом деле нужно стремиться этот глупый и бессмысленный страх перед имитирующими нас автоматами заменить огромным удовлетворением тем фактом, что такие сложные и прекрасные вещи могут быть созданы человеком, который еще совсем недавно находил простую арифметику чем-то непонятным и возвышенным.


Проф. В.А. Успенский о докладе Колмогорова
Воспроизведено по изданию:
"Очерки истории информатики в России", ред.-сост. Д.А. Поспелов и Я.И. Фет,
Новосибирск, Научно-изд. центр ОИГГМ СО РАН, 1998 

VIVOS VOCO
Сентябрь 2000