Чему мы можем научиться у мозга

Источник: журнал «Наука и жизнь», №1, 1963 год. Автор: Уильям Росс Эшби.

Автор публикуемой статьи Уильям Росс Эшби – известный английский учёный, один из крупнейших специалистов в области биологических систем управления. Недавно Издательство иностранной литературы выпустило русский перевод его новой книги – «Конструкция мозга».

Статья Эшби «Чему мы можем научиться у мозга» – сокращённый перевод его лекции, прочитанной в конце июня 1962 года на 3-й Объединённой американской конференции по автоматическому регулированию. В этой лекции Эшби последовательно развивает некоторые свои взгляды, с которыми наши читатели, очевидно, знакомы по его статье «Что такое разумная машина» («Наука и жизнь» № 8, 1962).

Не со всеми посылками и выводами автора можно безоговорочно согласиться, но многие мысли, высказываемые Эшби, представляют несомненный интерес для тех, кого занимают проблемы кибернетики.

С тех пор как был разработан первый персептрон «Марк I», мы знаем, что мозг и вычислительные устройства представляют собой просто различные варианты в принципе одинаковых машин. Однако именно с тех пор и начались оживлённые дискуссии относительно выявления точной взаимосвязи между ними. Сейчас принципы построения и функционирования устройств обоих типов, а также соотношения между ними становятся всё более ясными. Здесь я хотел бы кратко остановиться именно на этих соотношениях, ибо они представляют собой ту область, с которой должны быть хотя бы относительно знакомы все исследователи живого и искусственного мозга.

Персептрон – электронное устройство. Предназначенное для автоматического восприятия и опознания визуальных образов, моделирования обоняния, слуха, осязания и других процессов сбора информации (о первом образце персептрона см., например, журнал «Наука и жизнь», №10, 1960). Более подробно о персептронах можно прочесть, например, в книге Л. П. Крайзмера «Бионика», Госэнергоиздат, 1962.

Прежде всего я хочу рассмотреть вопрос: что такое разум? Коль скоро перед нами стоит такая задача, надо перевести это древнее слово, связанное с многочисленными метафизическими ассоциациями, на новый язык вычислительной техники и механических устройств.

Первый шаг в этом направлении был сделан в тридцатых годах нашего века У. Кенноном, который установил, что всю «мудрость», приписываемую живому организму, можно рассматривать как деятельность огромного числа механизмов, каждый из которых стремится к достижению некоторой конкретной цели, выражаемой в виде точно определённой обычно физической или химической величины: температуры, концентрации ионов, количества пищи и т. п. Общая цель организма. Цель с большой буквы, представляет собой сложную комбинацию «подцелей», подобную многокомпонентному вектору. Таким образом, одним ударом обсуждение проблемы было переведено из области туманных теологических представлений древних философов в современную область систем автоматического регулирования, работающих на принципе коррекции ошибок.

Уолтер Кеннон (1871-1945) – выдающийся американский физиолог и общественный деятель. Профессор Гарвардской медицинской школы, иностранный член академии наук СССР; был личным другом И. П. Павлова. У. Кеннон занимался разработкой проблемы регуляции в организме.

Идея о равноценности «мудрости», проявляемой живым организмом, и принципа работы системы автоматического регулирования была основана на примерах сравнительно простых механизмов действия наших внутренних органов. Считалось, что справедливость такого подхода, очевидно, сохранится, если распространить его на все виды деятельности живых организмов, даже на самые сложные формы деятельности человека. Вначале возможность столь расширенного толкования представлялась всего лишь догадкой, но в течение тридцати лет, прошедших с момента, когда эта мысль была впервые высказана (то есть в течение жизни одного поколения), не отмечено ни одного примера, который бы её опровергал.

И. П. Павлов в статье «Ответ физиолога психологам» писал: «человек есть, конечно, система (грубее говоря – машина), как и всякая другая в природе, подчиняющаяся неизбежным и единым для своей природы законам; но система, в горизонте нашего современного научного видения, единственная по высочайшему саморегулированию».

Я убеждён в том, что краеугольный камень заключён в истине, что деятельность может быть «разумной» только по отношению к некоторой цели. Если не задаться предварительно целью, то разумность (или неразумность) системы просто нельзя оценить. Из «чёрного ящика» валит густой дым. Что это: горящее вычислительное устройство или эффективный дымовой генератор?

Мы не в состоянии судить о том, как работает любое устройство, если не знаем, для чего оно предназначено. В простых случаях это положение совершенно очевидно. Оно начинает играть решающую роль, когда мы стремимся построить что-либо «разумное», обладающее достаточно сложными свойствами. Если не признавать принципиальной необходимости предварительного определения цели, то при отсутствии её обнаруживаем, что мы просто не в состоянии двигаться вперёд, хотя и склонны думать, что наши затруднения объясняются недостаточным умением. На самом же деле, коль скоро для системы не определена цель, в достижении которой она может продемонстрировать свой разум, построение разумной системы не представляет «трудной» задачи, а является вообще принципиально невозможным, так как не имеет никакого смысла. Таким образом, предпосылкой для создания любой разумной системы является необходимость предварительного задания цели.

Если цель задана, то разумность системы, по сути дела, всегда оценивается исходя из того, достигает она вообще этой цели или нет, а также с учётом тех трудностей, которые ей приходится преодолевать при достижении цели.

В этой связи я хотел бы напомнить о программе для игры в шашки, составленной Сэмюэлем для вычислительной машины, которая уже играет лучше самого автора. «Разумен» ли такой процесс игры? Сформулируем этот вопрос иначе. Допустим, что мне встретился довольно оригинальный противник (человек или машина), с которым мы начинаем играть в некоторую игру. Цель её противнику не сообщается. Он узнает только о своём выигрыше или проигрыше в конце каждого тура. Вначале он проигрывает почти все партии, но его стратегия непрерывно совершенствуется. Вскоре он начинает часто выигрывать и наконец неизменно побеждает меня, несмотря на все мои ухищрения. Мы приступаем к другой игре. Ему вновь сообщают только о том, выиграл он или проиграл. И вновь он проигрывает сначала почти все игры, а затем побеждает меня всё время. Можем ли мы отказать такому противнику в эпитете «разумный»? В 1930 году никто не поколебался бы присвоить такой эпитет моему противнику, подразумевая, конечно, что он не мог быть машиной. Сегодня такая оговорка не требуется и к тому же, по существу, является неверной.

Другой пример – машина Дональда Майки, построенная из 300 спичечных коробок, каждая из которых, выдавая цветную бусину, определяет, как машина будет играть в «крестики и нолики». Отличительная особенность этой машины состоит в том, что в соответствии с сообщениями «вы выиграли» или «вы проиграли» она меняет содержащиеся в коробке бусины. Таким образом, и её стратегия меняется от игры к игре. Начав со случайного распределения бусин в коробках, она непрерывно играла в течение двух суток со скоростью «письма от руки на бумаге», прежде чем научилась сводить игру с Майки вничью и обыгрывать его восемь раз из каждых десяти игр, если он пробовал нарушать правила, пытаясь сбить машину с толку. Конечно, он может играть в «крестики и нолики» по правилам, но в данном случае это не имеет абсолютно никакого значения. Машина, вырабатывая свою финальную стратегию, совершенно не пользовалась знаниями противника. Сигналы, поступавшие в машину (не считая сигналов о ходах), содержали только информацию: «вы выиграли», «вы проиграли». Таким образом, было дано конструктивное доказательство (столь же убедительное, как любое строгое математическое доказательство в учебнике) того, что система может развить свой разум, не прибегая к получению детальной информации от её создателя. Она может обнаруживать истину сама для себя.

Для решения стоящих перед нами задач эти «забавы» являются мощнейшим орудием. Будучи весьма простыми, они позволяют нам твёрдо усвоить некоторые элементарные принципы, которые характеризуют поведение человека, но слишком сложны для непосредственного восприятия.

Попутно хотел бы отметить, что я сам разработал весьма простую машину, которую назвал «Автоматическим стратегом» (сокращённо ASS [так себе название... – прим. D]). Она играет в «крестики и нолики» и упрощена до самого элементарного уровня, но обладает тем практическим достоинством, что процесс выработки машиной стратегии, с помощью которой она в конце концов начинает выигрывать 100% партий, можно наглядно продемонстрировать за сравнительно короткое время. Этот процесс занимает около 15 минут, и ещё столько же времени требуется на пояснения принципа действия машины. ASS имеет ещё одно преимущество по сравнению с машиной Майки – она играет не в одну игру, а в целый класс игр, причём в него входят игры с прямо противоположными цепями. Следовательно, удаётся наглядно и неоспоримо продемонстрировать принципиальную универсальность машины. Многие из игр этого класса ещё не проанализированы, так что в настоящее время ASS является единственным объектом во вселенной, который знает, как в них играть!

Человеческий мозг настолько сложен, что мы пока ещё не в состоянии полностью постигнуть механизм его работы. Тем не менее мне представляется совершенно очевидным, что, когда задают вопрос: «Что же такое разум?», – мы должны отвечать на него следующим образом. Если задана цель и приведён в действие сложный управляющий механизм для её достижения, то можно считать этот механизм «разумным» в основном по степени успеха, с которым достигается цель. При этом указанное правило неизменно, идёт ли речь о механизме управления нефтеперегонным заводом, о сложной ли вычислительной системе, предназначенной для определения вибраций самолёта, об игроке в шахматы, пытающемся выиграть все игры, или о животном, стремящемся победить в битве жизни.

Здесь Эшби фактически ставит знак равенства между «разумным» и «целенаправленным». Понятно, что это не правомерно в тех случаях, когда действуют социальные, моральные и этические факторы.

Превосходство человека проявляется исключительно в огромной сложности. Он не обладает никаким магическим «разумом», который давал бы ему особую мощь. Он делает обычные вещи, но только намного лучше. Наша работа за последние двадцать лет позволяет сделать один бесспорный вывод: мозг не фокусник, он просто эффективно выполняет возложенные на него задачи. Всякий, кто хотел бы сделать «разумную» машину, должен просто заняться разработкой эффективной машины.

Итак, специалиста по автоматическому управлению должно перестать волновать старое слово «разум». Ему следует выбрать ясную задачу, относительно которой можно чётко различать успех от неудачи, и сосредоточить свои усилия на том, чтобы сделать всё, ведущее к достижению поставленной цели. Если он успешно справится с решением задачи, то о качестве побочного продукта он построит и «разумную» в полном смысле этого слова машину.

Принципиально построение разумной машины  – дело весьма несложное, хотя практически оно может быть сопряжено с любой степенью трудностей. Означает ли всё сказанное мною, что, когда задача действительно сложна, можно пренебрегать знаниями о мозге живого организма? Десять лет назад мы все полагали, что в живом мозге заключены ответы на все вопросы. Сегодня мы знаем, что полезность или уместность нейрофизиологии можно легко переоценить.

Как я сказал, функции разума в конечном счёте сводятся к осуществлению управления и регулирования. В биологической регуляции нет ничего сверхъестественного, это просто регулирование, осуществляемое в биологической системе, подобно тому, как биохимия есть в принципе отрасль обычной химии. Совершенно справедливо, что в живом организме происходят необычные химические процессы и что подчас химик считает целесообразным более тщательно их изучить или имитировать. Однако он заимствует биохимические процессы только тогда, когда они отвечают поставленной цели.

Точно так же в живом мозге, бесспорно, происходят необычные динамические процессы, но они не обладают никакими особыми достоинствами, не отличаются магической правильностью. Их следует имитировать тогда и только тогда, когда они являются средствами для решения проблемы.

Задача специалиста по автоматическому управлению в принципе проста: он должен забыть о магической силе мозга, ибо такая вещь вообще не существует, и стремиться создать сложный регулятор, который был бы эффективным. Ему следует перестать биться над решением таких пустых вопросов, вроде: может ли машина быть подобной мозгу? Могу ли я сделать машину, обладающую каким-либо магическим свойством мозга? Возникновение подобных вопросов объясняется мистическим подходом к мозгу. Их постановку в шестидесятых годах нашего века пора прекратить. Те немногие, кто ещё продолжает их ставить, должны либо дать объективное доказательство правомерности такой постановки, либо умолкнуть.

Нынешние проблемы заключаются не в том, можем ли мы построить механизмы, подобные мозгу, а в том, сколько времени это займёт, во сколько это обойдётся, каков объём кратковременной памяти, требующийся для данного устройства, можно ли обойтись одним долларом там, где раньше приходилось тратить целую сотню, можем ли мы обработать за час такой объем информации, на который прежде могло бы потребоваться целое столетие. В наши дни построение сложных систем управления сводится в основном к проблеме количества информации, и поскольку мы оперируем количествами, то речь идёт о технике переработки информации.

Новые знания отрезвляют. Сказав, что, безусловно, все механизмы мозга можно искусственно построить, мы должны немедленно добавить, что в ряде случаев количество информации, которую нужно для этого обработать, делает некоторые задачи совершенно нереальными.

Чтобы более ясно представить эту проблему, я недавно разработал новую классификацию положительных целых чисел, которая может оказаться полезной. Мы склонны считать большое число, например, превышающее 10¹⁰, «астрономическим». Я хочу предложить тем, кто работает в области информации, следующий подход.

В пределах от 10⁰ до 10¹⁰ целые числа можно назвать «практическими» в том смысле, что мы можем осуществлять над ними реальные операции и пользоваться реальными величинами, лежащими в этом диапазоне.

В пределах от 10¹⁰ до 10¹⁰⁰ числа можно точно назвать «астрономическими». К этим числам принадлежит число атомов во вселенной (10⁷³) и число микросекунд, прошедшее с момента затвердевания Земли (10²³).

Числа, с которыми мы имеем дело в теории информации, намного превышают этот предел. В качестве очень скромного примера можно взять небольшую телефонную станцию, имеющую всего 10000 реле. Если поставить вопрос, каково число состояний, в которых могут находиться эти реле, то ответ будет 2¹⁰⁰⁰⁰ или примерно 10³⁰⁰⁰. Число такого порядка совершенно неизвестно в астрономии любых реальных миров. Поэтому прилагательное «астрономический» для таких чисел просто не подходит. Поскольку такие числа и ещё гораздо большие часто фигурируют в комбинаторных задачах, я предлагаю назвать этот третий класс чисел «комбинаторным».

Итак, понятие «невозможного» приобретает два совершенно различных значения. Мысленно можно достаточно легко представить себе все возможные комбинации из 52 карт, но чтобы перебрать их все, понадобилось бы не менее 10⁶⁸ операций, то есть эта задача в настоящее время практически неотличима от невозможной. Увеличение скорости вычислительного устройства в миллион раз для достижения этой цели бесполезно, так как означает всего лишь сокращение времени с 10⁶⁸ до 10⁶², что несущественно.

Новая точка зрения, после того как мы высказали утверждение о возможности построения любых разумных машин, сразу требует добавления. Само количество операций, необходимое для переработки информации, обычно лежит за пределами астрономического диапазона в комбинаторном классе чисел. Можно было бы образно сказать: «Мы ворвались в пещеру Алладина, где заключены механизмы, подобные мозгу, и видим, что можем получить всё, чего пожелаем, но только при одном условии: за всё должны заплатить!»

К сожалению, ещё и сейчас встречаются люди, впустую растрачивающие творческие силы, выдумку на создание вечных двигателей. О трёх «настоящих» вечных двигателях,  демонстрируемых в Политехническом музее (Москва), было рассказано в статье Л. Гринилёва «Искусство верчения и кручения с двойной передачей» («Наука и жизнь», №2, 1962).

В такой ситуации, пожалуй, стоит вспомнить о том положении, в котором оказались энергетики около ста лет тому назад. В то время почти ежедневно изобретались новые двигатели, и инженеры с богатым воображением ожидали, что вот-вот будет изобретён и вечный двигатель. Одновременно физики и инженеры всё лучше понимали принципы работы преобразователей энергии, в результате чего был открыт закон сохранения энергии, установивший непреодолимый предел энергетических возможностей машины. Сегодня мы знаем, что самыми мудрыми оказались не те, кто упорствовал в попытках опровергнуть этот закон, а те, кто признал его и использовал для разработки машин с более высоким КПД. Именно они превратили паровую реактивную машинку Герона в современный ракетный двигатель.

Выдающийся греческий инженер и учёный Герон (жил, вероятно, в I веке) описал различные   механизмы, которые приводились в движение нагретым или сжатым воздухом, паром.Например, его Эолопил (шар) вращался под действием реактивных сил, возникающих при вытекании пара из трубочек, прикреплённых к шару.

В силу этих причин я полагаю, что самыми животрепещущими проблемами настоящего и будущего в области систем управления являются задачи эффективности. Сколько информации требуется для управления процессами, и какую часть из неё мы бесполезно теряем? Какие ещё можно разработать более эффективные методы переработки информации?

В настоящее время нам угрожает опасность увлечения идеями, которые, по существу, не играют фундаментальной роли. Мы приходим в восторг, узнав, что новейший полупроводник позволяет увеличить скорость операций в 10 раз, и затем применяем его в устройстве, которое, работая на основе малоэффективного метода, бесполезно теряет 99% времени.

Нам пора отказаться от мысли, что современная цифровая вычислительная машина является панацеей от всех бед, ибо, по существу, это – весьма специализированное устройство. Поскольку подавляющее большинство ячеек памяти такой машины просто ожидает, когда потребуется содержащаяся в них информация, я бы уподобил память машины миллионной армии, организованной таким образом, что в бой одновременно могут вступить только два солдата! С точки зрения критерия эффективности современные вычислительные машины далеки от совершенства. Помогая нам осознавать, что «вычислитель» – это в принципе любое устройство, выполняющее точно определённый процесс, живой мозг может навести ещё на многие мысли, которые до сих пор серьёзно не рассматривались.

Сейчас мне приходит на ум один такой пример. Слушая лекции по автоматическому управлению, я несколько раз приходил в недоумение, когда лектор быстро набрасывал структурную схему автоматического регулятора, действующего по отклонению, и сразу переходил к обсуждению свойств этой системы, очевидно, считая само собой разумеющимся, что регулятор должен начинать работать только после возникновения ошибки. Как такое утверждение далеко от истины и в какое заблуждение оно вводит! В эволюции животного мира неоднократно отмечалось развитие органов чувств, которые информируют о возможности ошибки ещё до того, как она произошла. Мы не считали бы умным человека, который проявляет благоразумие в несчастном случае, если у него есть глаза, с помощью которых он мог бы вообще не попасть в катастрофу?

В заключение я хотел бы выдвинуть одно предложение. Ничто так радикально не прояснит нынешнее положение, как построение машины, которая обыграла бы чемпиона мира по шахматам. Для многих это явилось бы поворотным пунктом: в случае победы машины ответ на вопрос, может ли существовать механический разум, был бы дан однозначный. Такая попытка, предпринятая отнюдь не для развлечения, была бы, пожалуй, чрезвычайно серьёзным и важным исследованием, которое можно провести в настоящее время. Это исследование будет отличаться всеми основными особенностями, о которых я упоминал. Поскольку общее разнообразив шахматных вариантов составляет около 10¹⁴⁰ (комбинаторный класс), то надежды получить общее решение шахматной игры в предвидимом будущем нет. Однако информация, на которой любой чемпион мира основывает свою игру, должна принадлежать к практическому классу, и пределах которого чемпиону можно с успехом противопоставить машину. Нахождение выигрышной стратегии является просто процессом выбора, переработки информации.

«Разговор об электронном гроссмейстере» – так называлась беседа между доктором физико-математических наук А. Л. Брудно и гроссмейстером Д. И. Бронштейном, напечатанная в №3 (1962) журнала «Наука и жизнь». В этой беседе затрагиваются многие вопросы, возникающие при решении проблемы создания электронной машины, которая смогла бы не просто играть в шахматы, а оказывать серьёзное сопротивление сильнейшим мастерам.

Подобное исследование, посвящённое главным образом преобразованию нынешних малоэффективных методов переработки информации, было бы весьма плодотворным. Оно приблизит нас к созданию таких методов, которые дадут нам законное право называть себя «инженерами по переработке информации».

Сокращённый перевод с английского. В. АЛТАЕВ, инженер.