Мысль или модель мысли?

Источник: журнал «Знание – сила», №9, 1966 год.

Сотни лет люди ставили в качестве подписи своё имя, фамилию или псевдоним. Но ни то, ни другое, ни, тем более, третье нельзя считать чем-то принадлежащим только данному человеку. Желая покончить с таким ненормальным положением, автор этой статьи – кибернетик, известный далеко за пределами Академгородка, – решил подписать её своим хромосомным портретом.

Редакция рада сообщить читателям: анализ подписи показал, что она принадлежит мужчине средних лет, не страдающему никакими хромосомными болезнями.

«Мыслит» или «не мыслит»?

Громадный цех прокатки. Концов его не видно в дыму и тумане. На рольганге лежат раскалённые, светящиеся многотонные слитки стали. Вот они легко, будто ничего не весят, двинулись вперёд: очередной слиток проскользнул под пешеходным железным мостиком, на котором мы стоим, обдал нас жаром и скользнул в клеть блюминга.

В грохоте, в облаках пара могучие лапы стана поворачивают слиток с боку на бок, валы будто жуют огромную болванку, она сминается, как тесто, тёмные корочки окалины спадают с боков её и обнажают ярко светящийся металл. Ещё и ещё проход, и слиток уходит, вытянувшись длинной и тонкой змеёй, на ножницы и дальше на один из нескольких транспортных рольгангов к следующим станам.

Что из него получится? Рельс, балка, швеллер, лист? Это знает диспетчер цеха. Вот он сидит наверху, в застеклённой комнатке. Перед ним пульт, телефоны, записи, телевизор.

Он видит в цехе всё, он должен знать всё наперёд. Вот с торца цеха через ворота, в клубах морозного тумана подали состав со слитками, тепло одетыми в изложницы. Кусает мороз, обжигает раскалённая сталь...

Прибывшие слитки сейчас будут сажать (в Сибири говорят «садить») в нагревательные колодцы, и через несколько часов они пойдут «тёпленькие» в прокатку. Какой сорт подали? Какие изделия из этого сорта можно катать? Какие из них сегодня в плане? На какой стан пойдёт этот сорт? Не будет ли этот стан к тому времени поставлен на переналадку? Какие колодцы свободны? Какие нельзя занимать? Как разместить слитки, чтобы их без задержек можно было подвозить к рольгангу кранами н слитковозами? Вопросы, вопросы, вопросы...

Отвечать на них нужно быстро и без ошибок. Ждать нельзя. Меньше минуты на слиток. Пауза – простой – потеря. А рельсов, балок, листа ждут Братск. Абакан, Новосибирск... Это – как шахматная партия. Блицтурнир с огромным морозным, огнедышащим цехом. С неполадками, с неувязками, с Его Величеством Случаем... Ошибись, прозевай – и такое начнётся, за смену не расхлебаешь...

Нужно думать! Нужно выиграть эту партию у случая, выигрывать каждую партию.

Диспетчер думает...

Но вот – иная ситуация. Тот же цех, та же напряжённая, непрерывная работа без пауз – десятки, сотни, сотни тысяч тонн драгоценного металла превращаются в драгоценнейшие изделия, которые будут служить людям, но... диспетчера нет на его месте. За него принимает решения, решает все вопросы вычислительная машина. Она получает сведения обо всём, что важно для работы, запрашивает нужное и получает ответы в понятном для неё коде строчек цифр, она видит вперёд на несколько часов и предусматривает всё, чтоб не случилось беды, простоя, ошибки. Она не волнуется, не ерошит волосы, не курит. Она таинственно молчит и мигает лампочками на пульте.

А работа в цехе идёт, и идёт нормально, даже лучше, чем обычно. Только по этому последнему обстоятельству и по отсутствию возбуждённых телефонных разговоров можно догадаться, что цех управляется автоматическим диспетчером...

Но ведь диспетчер больше не думает; его нет. Значит, можно решать сложнейшие вопросы безошибочно, не думая? Как-то не верится. Стало быть, думает машина? Но тогда и автоматический светофор – думает. И автострелка. И будильник. А это уж совсем, простите, неприемлемо.

Так что же – думает или не думает? Да или нет?

Легко ли ответить на этот вопрос? Нет, нелегко. Недаром последние 10-15 лет учёные и неучёные волнуются, возбуждённо и даже ожесточённо споря на эту тему.

А можно ли решить этот вопрос? Правильно ли он поставлен? Может быть, спокойней будет, если мы объявим проблему несуществующей? Так предлагают обычно люди, любящие «порядок в доме» и предпочитающие «худой мир – доброй ссоре».

Ну а тогда как же быть с диспетчером? И с диспетчером аэропорта – тоже. И с автоматом, ведущим в банке расчёты с клиентами и посылающим им письма вроде: «...Дорогой сэр (синьор, мосье, гражданин)! Вы не пользуетесь услугами нашего учреждения уже три месяца. Здоровы ли Вы? Не желаете ли Вы произвести полный расчёт и закрыть Ваш лицевой счёт?..»

Проблему здесь, как говорится, можно «руками пощупать». Я не верю, когда мне говорят, что её нет. Если диспетчер, кассир, счетовод, бухгалтер, конструктор и многие, многие из нас, которых уже сегодня может заменить «недумающий» автомат, и в самом деле не думают на работе, то давайте подумаем о том, что же в таком случае «думать»!

Подумаем... А что это такое – «подумаем»? Подумаем о том, что такое «думать»! А может быть, сначала нужно подумать о том, что значит «подумать о том, что такое – думать»?

А не попали ли мы в беду, став на эту дорожку? Не подстерегают ли нас по пути ловушки «самоприменимости» и волчьи ямы «алгоритмической неразрешимости»? Об этом нужно подумать (опять «подумать»!) и поговорить отдельно. Сначала хочется уяснить, не мучаем ли мы себя пустяками и ненужными вопросами. Важно ли понимать – что значит «думает» и что – «не думает»! Да. Важно. Очень важно, и что ни день – то важнее. Сейчас разберём почему.

Наше народное хозяйство быстро растёт. Заводов, предприятий становится всё больше. Этот процесс будет продолжаться. Но есть угроза, что на пути непрерывного роста встретятся препятствия. Хозяйством нужно управлять, его нужно планировать, и на это приходится тратить уже сейчас большие силы людей, всё рабочее время которых целиком занято не производством продуктов, а лишь переработкой информации – планированием.

Существенно то, что по мере увеличения числа заводов число плановиков (и других категорий работников аппарата управления) растёт быстрее, чем число рабочих на заводах. Это легко показать. Планировать – значит согласовывать выпуск одного завода с потреблением другого. Плановик рассматривает заводы попарно: выпуск – затраты. Иногда – по трём, четырём и более заводам одновременно. Пусть задано число заводов сегодня, обозначим это число буквой n. Чему равно число пар заводов? Подумаем.

Если в комнате собрались одновременно nчеловек н каждый поздоровался за руку с каждым (кроме самого себя, разумеется); сколько было рукопожатий? Очень просто. Каждый (а таких n) пожал руку каждому, кроме себя (а таких на единицу меньше, то есть (n-1). Всего n*(n-1)? Нет. Мы посчитали каждое рукопожатие дважды. Если я пожал руку Иванову, то Иванов уже больше не будет жать руку мне. Стало быть рукопожатий было практически вдвое меньше, чем мы посчитали, то есть (n*(n-1))/2.

Столько же будет и пар заводов, если заводов n. Если один плановик успевает планировать сто, тысячу, любое конечное число Nпар заводов, то для планирования всего хозяйства требуется (n*(n-1)/2*N) плановиков.

Теперь пусть число заводов возрастает. Величина (n*(n-1)/2*N) будет расти быстрее, чем растёт n. А необходимое число плановиков пропорционально этой величине. И как бы ни был мал коэффициент пропорциональности (1/2*N) по мере роста количества заводов плановиков скоро потребуется больше, нежели рабочих. Если же вспомнить, что при планировании учитываются не только пары заводов, но и тройки, четвёрки и т. д., то число плановиков будет расти, как 2 в степени n. то есть 2ⁿ. Это так называемая экспоненциальная функция, и она растёт ещё гораздо быстрее, чем даже число n*(n-1).

Аккуратные расчёты, проделанные специалистами на основе проверенных данных, показывают: в нашем народном хозяйстве уже к 1980 году сложится такое положение, когда большая часть населения будет вынуждена заниматься только планированием. Этого, конечно, быть не может – кто-то должен и выполнять планы. Значит, должна измениться сама методика планирования. Оно либо резко ухудшится из-за перегрузки плановиков, и, следовательно, упадёт эффективность народного хозяйства в целом, либо плановики будут использовать вычислительные автоматы в своей работе. Первое из этих «либо» недопустимо. Остаётся только второе. Но путь к нему лежит через развитие техники и теории автоматов.

Но всё-таки может ли машина «думать», «творить»?

По этому важному вопросу существует много взаимно противоречивых мнений. Некоторые из них, взятые почти наугад, мы приводим ниже. Чтение этих коротких цитат хоть и не приводит к пониманию, но производит, по-моему, сильное впечатление. Такое явное разноречие во мнениях не может быть случайным. Чего-то мы все, видимо, не понимаем, очень важного и существенного. Чего же?

«Худой мир лучше доброй ссоры». И вот точкой компромисса явилась сегодня такая приблизительно формулировка: «Машина не мыслит, но способна моделировать некоторые, отдельно взятые функции мышления». Против этого никто резко не возражает. Я тоже согласен с такой формулировкой, будучи глубоко убеждён, что современные машины не мыслят в интуитивном понимании этого слова. Они, конечно, лишь «моделируют некоторые функции». Компромисс на этой формулировке вполне приемлем. Но он не снимает проблемы.

Директор совхоза, который экономил бы по рублю на гектар, закупая дешёвые (и низкого качества) семена, и который ради этой очевидной экономии лишился бы прибыли по три рубля на гектар из-за снижения урожайности, он, этот директор, мыслит? Или он только «моделирует некоторые функции»? По-моему, скорее второе, хотя общепризнано, что любой человек мыслит. Машина такой ошибки не допустила бы.

Далее, слово «моделирует» – что оно означает? Об этом тоже нужно бы поговорить отдельно и подробно. Говоря вкратце, «моделировать» значит изображать некоторые избранные («существенные») черты оригинала с помощью определённых средств, например автомата. Если мы моделируем работу завода с помощью вычислительной машины, мы изображаем в виде чисел и операций все события и факты, которые нас интересуют в работе завода. Модель завода в машине может без труда быть поставлена нами в любой режим, подвергнуться любой реорганизации, модификации, рационализации. «Прогнав» модель много раз (благо это стоит дёшево и протекает быстро), мы можем оценить намечаемые меры управления и выбрать предпочтительные. В ходе исследования модель завода не будет выпускать настоящих тракторов, а будет лишь выдавать символы (числа, знаки), указывающие, сколько завод выпустил тракторов. Из этого ясно, что модель – не завод и не может заменить завод, если нужны тракторы, а не информация об их выпуске. Машина лишь «моделирует некоторые функции» завода.

Но вот в машине «модель диспетчера», того самого, что управляет цехом. Это модель выдаёт приказы по цеху. Не сведения о числе выданных диспетчером приказов, а сами приказы, неотличимые по содержанию от приказов живого диспетчера. Модель заменяет, и притом полноценно, диспетчера на его рабочем месте. А между тем она всего лишь «моделирует некоторые функции», «будучи запрограммирована системой команд»...

А ученик, повторяющий слова учителя, разве не «запрограммирован системой команд» и не «выполняет лишь некоторые функции»? Да, разумеется, и каком-то смысле это так, но ученик может вести себя совсем по-иному, высказывать собственные суждения, проявлять инициативу, его поведение может измениться под влиянием эмоций, «чувств» – он человек. А машина? Её поведение зафиксировано «программой», и она поэтому – автомат! Кажется, ясно?

Нет, не совсем. Слово «программа» очень непростое. Часто это слово понимают примитивно, лишь как программу копировального станка. Действительно, существуют очень простые программы для электронных машин, которые просто перечисляют отдельные действия в заданном порядке, примерно так же, как на грампластинке записаны звуки мелодии. Такая программа повторяется всегда одинаково, как «зазубренный урок». Именно этот тип программ чаше всего представляется людям, не знакомым с программированием ЭВМ. Но это лишь самый примитивный тип.

Даже «обычная», средняя что ли, программа включает в себя ещё «проверки признаков», в результате которых избирается для исполнения та или иная «подпрограмма» или «блок». Кроме того, в программу можно включить «бросание жребия» или «случайный выбор». В результате два последовательных «прогона» на машине одной и той же программы могут протекать совершенно по-разному, демонстрируя удачное или неудачное «приспособление к внешним условиям» (исходным данным).

Далее, любые две и более программы можно свести в одну и наращивать сложность программы как угодно далеко, лишь бы позволили технические возможности машины. Таким образом, программа, в принципе, может отобразить поведение любой сложности, если только мы знаем, что мы хотим отобразить! И это уже не будет ученик-зубрилка, а будет нечто, проявляющее неожиданные черты самостоятельности и удивительную изобретательность, подчас комичную. Программист, имея дело с достаточно сложной программой, никогда не в силах предусмотреть даже самую малую толику будущей «деятельности» своей программы, как учитель не в состоянии полностью и однозначно предусмотреть будущее поведение своего ученика.

На моих глазах однажды произошло следующее: была составлена программа одного из вариантов управления упрощённой моделью народного хозяйства. В модели была предусмотрена возможность развития различных отраслей хозяйства на много лет, внешняя торговля, потребление и т. д. От программы требовалось обеспечить в заданный срок максимальное накопление определённых продуктов. Модель была довольно сложной и требовала большого количества входных данных, которые были заданы не очень осмотрительно.

После эксперимента на машине мы с удивлением обнаружили, что программа (самостоятельно!) сократила объём промышленности и бросила все средства на... «спекуляцию» через внешнюю торговлю! Это не было прямо запрещено в программе, а невнимательно подобранные цены на «внешнем рынке» допускали замкнутый цикл торгового оборота с прибылью. Программа оказалась «спекулянтом»! Было и смешно, и грустно, и очень удивительно, и совершенно неожиданно! Никто не «программировал» спекуляцию и даже не подумал о такой возможности заранее!..

Хорошо! Мы можем запрограммировать всё, что мы достаточно хорошо знаем в пределах доступной памяти машины. Но машина имеет самое большее миллион или несколько миллионов ячеек памяти, а мозг человека, как теперь уже всем известно, не менее 10¹⁰ нейронов. Значит, машина не может сравниться с мозгом! Пусть так. Но это различие лишь количественное. И оно будет сокращаться по мере усовершенствования машины, идущего быстрыми темпами. Кроме того, следует учесть, что отнюдь и далеко не все клетки мозга заняты «мышлением». Подавляющее большинство мозговых механизмов занято обширными, разнообразными и сложными функциями «внутреннего регулирования» организма. Регуляция позы, антигравитационные рефлексы, походка, координация работы внутренних органов, эмоции – всё огромное «хозяйство» организма так или иначе представлено в мозге и зависит от него. Какая часть клеток мозга обеспечивает «чисто человеческие», интеллектуальные функции, никто не знает наверняка. Ясно только, что не все 10¹⁰!

Отсюда, по-видимому, следует, что если сегодняшние машины лишь «моделируют некоторые функции», то машины будущего, или, лучше, мыслимые, идеальные, произвольно сложные машины, в принципе могли бы полноценно мыслить. Или это не так? Или всё-таки существует «непроходимая грань», «несводимость»? Существует ли «нечто», чем никогда никакая машина обладать не может и чем человек наделён от природы. Что это за «нечто»? Что об этом «нечто» можно узнать? Нельзя ли его моделировать? Ведь если оно существует, то возникает из материальных взаимодействий, как архитектура возникает из кирпичей, как рисунок – из линий, как мелодия – из звуков, как смысл – из фактов. И, стало быть, это можно «понять», а поняв, можно «сделать». И тогда уже можно сделать не только автомат, мыслящий, как человек (умный и добрый, по возможности), а гораздо замысловатее, «хитрее», «умнее», может быть, «совсем не так»! Ведь и самолёт летает «не так», как птица, и не садится на ветки, и автомобиль перемещается «не так», как лошадь, и не требует шпор и уздечки для управления, и подводная лодка плавает «не так», как рыба, без плавников...

Такой автомат мог бы, наверное, научиться делать и то, что человек делает лишь с трудом и плохо, – «читать» кардиограммы и энцефалограммы, как текст, ставить тонкие диагнозы, «угадывать» местонахождения ценных руд по ландшафту, «понимать» логику взаимодействий элементарных частиц... Если не лениться над этим подумать и не побояться это почувствовать до конца, – дух захватывает от широты открывающихся горизонтов могущества разума, от романтики и поэзии истинно человеческих поисков!

Есть ещё важное соображение. Человек существо социальное. Он живёт и может жить только в коллективе себе подобных. Робинзон Крузо разучится в конце концов говорить, а потом, быть может, – и хорошо мыслить. В какой-то мере это так. Маугли, не общавшийся в детстве с людьми, и вовсе не похож на человека и даже не может научиться, будучи взрослым, говорить. Киплинг отошёл от истины, рисуя портрет своего героя. Реальные дети, затерянные и выжившие в лесу, настоящие «маугли» научили нас правде о социальной природе человека.

А машины? Не современные автоматические арифмометры с примитивными программами, а те «идеальные» и «любой сложности», о которых мы говорили выше?

Сейчас проектируется и строится сеть вычислительных центров страны, которая будет объединена цепью каналов связи между узлами. Машины будущего не будут ни Робинзонами Крузо, ни Маугли. Со дня запуска они будут общаться и с людьми, и с другими машинами, получать и требовать информацию, задавать вопросы друг другу и людям, получать и выдавать ответы, обмениваться программами и уж, разумеется, участвовать совместно в процессе производства.

И вот мы подошли к главному. К главному в проблеме «мыслит или не мыслит». Что главное в слове «мыслит»? Что это слово означает? Быть может, спор прекратится и проблема будет решена, как только все договорятся о точном определении этого понятия? Именно «точном», а не расплывчатом, интуитивном, поэтическом, иносказательном.

Но и «точное» определение не охранит нас от беды. Как только мы примем любое «точное» определение, мы немедленно будем иметь возможность составить программу для ЭВМ в соответствии с этим определением и тут же продемонстрировать в эксперименте, как машина «мыслит» в этом «точном» смысле. Такие демонстрации делаются в наши дни довольно часто. Но каждый раз оказывается, что это «моделирование некоторых функций»...

Похоже на то, что мы окончательно запутались! В чём же правда?

Несомненная правда в том, что мы стоим перед нерешённой, крайне важной и очень трудной проблемой, и сколь бы ни был велик соблазн представить дело так, будто мы «всё знаем» и умеем уже сегодня ответить на все вопросы, это – только соблазн, которому не может и не должен поддаваться ни один серьёзно мыслящий человек.

Что же до возможных путей решения этой проблемы, то о них можно высказывать лишь догадки и строить гипотезы, предлагать их для обсуждения, искать в них ошибки и проверять их на опыте.

По-видимому, настала пора изучать человека, его деятельность, его психику, сознание, волю, эволюции его «мышления» с новых позиций и новыми методами. До сих пор «сознание» было уникальным явлением в природе, ни с чем сходным не сопоставимым и не сравнимым. Легко было спутать «уникальность» с «первичностью». В наши дни развёртываются перспективы развития огромного разнообразия «управляющих систем» и «систем обработки информации». Этот новый поток явлений и фактов, этот новый мир возможностей, несомненно, в целом шире и богаче, чем мир «естественных» управляющих систем.

Уже не раз бывало, что человек придумывал слово на первых этапах познания природы, а потом искал в природе то, что этому слову соответствует. Если слово не очень подходило, то приходилось идти на натяжки и преодолевать кучу трудностей. По-видимому, так обстоит дело с терминами «жизнь», «биологический вид» и многими другими. Лучше было бы отбросить старую терминологию и построить новую, вместе с новой системой понятий. Это дело философов и лингвистов.

Вместо слова «полёт», мы говорим теперь «баллистический полёт», «аэродинамический полет», «полет с машущими крыльями» и т. д.

Быть может, мы перестанем когда-нибудь говорить «мышление», а будем говорить «обработка информации мозгом», «обработка информации культурой клеток», «обработка информации кристалло-системой»... И тогда «собственно» мышление окажется точно и прозрачно сопоставимым с другими явлениями обработки информации и по сложности, и по механизмам, и по результатам, и по их использованию, и по физической реализации и т. д. и т. п. Мышление, воля, сознание, эмоции перестанут (и уже перестают) быть уникальными явлениями и превратятся просто в отдельные классы явлений в пределах более обширной системы явлений «обработки информации».

И если в этом есть правда, то открывается возможность объективного изучения человеческой психики во всей её сложности и во всех её проявлениях – методом построения моделей. Или же надо искать нематериальную «душу», «несводимую» сущность, существующую вне материальных, познаваемых, воспроизводимых механизмов – как архитектура без кирпичей и бетона. Третьего не дано.

Как «функционирует» человек? Человек как существо, испытывающее (или не испытывающее) желания, имеющее (или нет) волю, принимающее решение и высказывающее намерение, человек весёлый или сердитый, злой или добрый, честный или нет, человек как личность, отличная от остальных и «неповторимая».

Можно ли это познать, моделировать? Хотелось бы, чтоб это было можно. Я бы рискнул сказать, что к тому не видно принципиальных препятствий.

Более того, пора уже сегодня всерьёз приступать к этому серьёзному, трудному, нужному и даже опасному делу. «Опасному» потому, что человек «меняется» от знаний, тем более – от знаний о самом себе. Камень остаётся камнем, а планета – планетой, независимо от того, сколько и что мы о них знаем. Человек же, «познав», что он сегодня сердит, уже от одного этого становится менее сердит или сердит «по-другому». Как повлияет на человека знание (исчерпывающее!) о его природе и законах поведения? Этого нельзя предвидеть, не имея знаний о человеке и природе поведения. Поэтому действия наугад рискованны, быть может – опасны...

Рядом с традиционной психологией, психиатрией, социологией должны стать равноправно в строй методы математического моделирования, электронные машины и... человеческое дерзание – смелое и осмотрительное, беспощадное и доброе, решительное и умное.

На фоне «искусственного разума», который держат в руках инженеры и математики, разум «естественный» перестаёт и перестанет быть таинственным и пугающе необъяснимым. Уже стоят рядом два диспетчера: живой – «естественный» и неживой – «искусственный», и оба делают одно дело. Оба – «обрабатывают информацию», хотя и по-разному. Один совершает «полет мысли с машущими крыльями», другой – «баллистический полет мысли», если позволить себе вольное сравнение.

Человек – существо, с которым каждый из нас чаще всего и теснее всего общается. Каждый из нас сам – человек. Как удивительно, что при этом мы так мало знаем о человеке. Мы даже не можем договориться о том, что такое «мыслить»! Быть может, мы ленивы и нелюбопытны? Быть может, есть доля истины в комичной мудрости Козьмы Пруткова:

«Бросая камни в воду, наблюдай расходящиеся при сем круги, иначе такое занятие было бы пустою забавою».

Путь познания извилист. Сегодня ясно одно – надо искать!