Что такое разумная машина

Источник: журнал «Наука и жизнь», №8, 1962 год.

Уильям Росс Эшби (биолог по специальности) заведует исследовательским отделом «Барнвуд Хаус» – психиатрической больницы в Глостере (США). Он автор ряда статей по кибернетике и книг «Устройство мозга» (1948 г.) и «Введение в кибернетику» (1956 г.). Последняя издана на русском языке (1959 г.).

Статья «Что такое разумная машина» – изложение доклада, прочитанного Эшби на конференции по интеллектуальным машинам в Калифорнии. Вопросы, подымаемые в ней, являются дискуссионными. Публикуя статью, редакция ставит своей целью познакомить читателей с крайними взглядами некоторых зарубежных учёных.

ВВЕДЕНИЕ

Сейчас наступил поворотный этап в развитии наших взглядов на природу мозга и подобные мозгу механизмы. Последние десять лет (1950-1960 годы) были периодом брожения умов. Можно надеяться, что в ближайшие десять лет утвердятся идеи, которые на многие годы вперёд определят развитие науки о «мозгоподобных» механизмах.

До последнего времени мы все были склонны допускать, что способности мозга, в особенности человеческого мозга, неограниченны. Нам казалось, что если человек достаточно умён, то он может сделать всё что угодно – гений может разрешить любую проблему. Пора расстаться с этим представлением, так как оно препятствует дальнейшему прогрессу. В 1960 году подобное мнение так же невежественно и наивно, как и вера ребёнка в то, что его старший брат может поднять любую тяжесть. Сегодня мы знаем, что означает слово «мозгоподобный», и знаем, каковы ограничения для мозга. Мы знаем также, что как для человеческого мозга, так и для машины эти ограничения одни и те же, поскольку они присущи любой системе, поведение которой упорядочено и подчинено определённым законам. Система, которая бы могла обойти эти ограничения, обладала бы волшебными свойствами.

Прежде чем идти дальше, обсудим некоторые детали, чтобы далее их уже не касаться.

Мозгоподобные процессы можно разделить на два класса в зависимости от того, целенаправленны они или нет. Именно целенаправленные процессы являются разумными по преимуществу, независимо от того, протекают ли они в машине или в мозгу. Однако в мозгу происходит множество других процессов, которые мы и рассмотрим в первую очередь.

Живой мозг обладает рядом интересных особенностей, которые обычно нигде больше в организме не наблюдаются. В мозгу, например, протекают уникальные биохимические и электрохимические процессы. Особый интерес для инженеров, занимающихся вычислительными машинами, представляют специфические свойства нервных сетей и стохастические явления в мозгу. Основной особенностью этих нецеленаправленных процессов является то, что сами по себе они ни хороши, ни плохи: они являются такими же естественными процессами, как, например, окисление, и мозг под воздействием естественного отбора и эволюции развивает или подавляет тот или другой процесс в зависимости от того, является ли он полезным или вредным. Все эти процессы могут быть моделированы с помощью вычислительной машины, так как они являются непосредственными природными процессами.

Рассматривая мозгоподобные процессы, нужно помнить, что вычислительная машина совершеннее мозга, поскольку она может быть сделана так, чтобы её поведение совершенно не зависело от какой-либо операционной структуры. В принципе машина способна выполнять любой хорошо определённый процесс. Живой же мозг сформировался за пять миллиардов лет развития таким, что сейчас он оказывается специально приспособленным именно к земным условиям. Эти условия, как мы начинаем теперь понимать, вовсе не имеют такого всеобщего характера, как мы привыкли думать. Характерным для земных условий являются: распределение объектов в пространстве, подчиняющемся трёхмерной Эвклидовой метрике; исключительное значение непрерывности процессов, происходящих на Земле; тенденция к локализации эффектов; наконец, повторяемость некоторых свойств в различных местах.

Для того, чтобы эти свойства придать вычислительной машине, нужно было бы затратить много труда для их программирования. Поскольку живой мозг в течение длительного времени развивался в земных условиях, его операционные методы специализировались. В результате мозг, вместо того чтобы быть исключительно гибким механизмом, стал, как сейчас оценивается, в высшей степени негибкой системой.

Мы не собираемся много говорить о нецеленаправленных мозгоподобных процессах, однако отметим, что наиболее перспективным направлением исследований в этой области является изучение систем с большим числом состояний равновесия. Наших знаний об этих системах недостаточно. Хорошо изучена только статистическая механика больших физических (ньютоновских) систем; к сожалению, эти системы обычно имеют малое число состояний равновесия.

Простейшим примером системы с большим числом состояний равновесия является тарелка с песком, в которой частицы песка могут покоиться в различных конфигурациях. Однако единственной формой активности такой системы являются малые перемещения песчинок, когда они переходят из неустойчивых состояний в устойчивые, при этом перемещения настолько малы, что не представляют интереса. Нас интересуют системы с большим числом равновесных состояний, обладающие достаточной динамичностью, при которой их траектории перехода в состояние равновесия достаточно длинны и сложны.

Такие системы обладают некоторыми элементарными свойствами живых организмов.

Можно не сомневаться, что при дальнейшем изучении систем будет открыто ещё много их интересных особенностей. Нервная система, обладающая порогом чувствительности, также является примером системы с многими равновесиями. И, несмотря на то, что уже пятьдесят лет, как известен этот факт, мы в 1960 году практически ничего не знаем о том, как она себя ведёт, когда её размеры достаточно велики для того, чтобы в силу вступали законы статистической механики.

На этом мы закончим обсуждение существенно простых и естественных процессов, происходящих в мозгу. Перейдём теперь к другим мозгоподобным процессам, получившим всеобщее признание как исключительные. Это целенаправленные процессы.

ЧТО ТАКОЕ «РАЗУМ»

Ещё несколько лет тому назад было много споров о том, что понимать под «разумной машиной». Сейчас положение разъяснилось, и ответ на этот вопрос известен. Разумной следует считать систему, способную выполнять подходящий отбор. Эта способность является критерием разумности. Иными словами, разумен тот, кто разумно действует. Приведём несколько примеров, чтобы пояснить эту мысль. Если человек играет в шахматы, то мы не должны судить о его способностях, слушая его хвастовство, мы просто наблюдаем за его игрой и оцениваем, выбирает ли он из всех возможных ходов именно те несколько, которые быстро приведут его к победе.

Опять-таки разумным руководителем предприятия является тот, кто, несмотря на всю сутолоку н неразбериху дня, даёт настолько тщательно отобранные распоряжения, что необходимая работа может быть выполнена. Подобно этому, диспетчер, регулирующий движение, проявляет свой разум тем, что отбирает такие комбинации светофора, при которых даже при длительных перегрузках пути не происходит несчастных случаев. И при так называемых проверках умственных способностей, когда испытывается то, что мы считаем разумом, критерием в конечном счёте является простая констатация: «сумел ли кандидат отобрать правильный ответ?»

Таким образом, разумная машина может быть определена как система, которая использует информацию и обрабатывает её так, чтобы достигнуть высокой степени подходящего отбора. Если эта машина должна показать в самом деле высокий уровень разумности, то она должна обработать большое количество информации и при этом с высокой эффективностью.

В биологических процессах подходящий отбор и разумность проявляются в основном в регулировании: живой организм, если он действует «разумно», ведёт себя так, чтобы поддерживать себя живым. Другими словами, он действует так, чтобы поддерживать основные переменные, от которых зависит его существование, в биологических границах. Это есть непосредственное проявление подходящего отбора, и животные, чем выше они находятся на шкале разумности, проявляют своё превосходство именно большей способностью к регулированию.

Выбранный нами подход к рассмотрению природы разума позволяет привлечь новейшую теорию информации н взглянуть на проблему под углом зрения, отличным от принятого у старых философов. «Регулирование» означает просто, что, несмотря на воздействие возмущающих факторов, организм ведёт себя так, что отклонений от оптимума не происходит; иначе говоря, как бы сохраняется правильная форма существования. Такое многократное достижение конечной правильной формы, несмотря на возмущения, гомологично с коррекцией шумов в связном канале. Шумы, как известно, изменяют форму сигнала, и корректирующий канал действует так, чтобы вернуть их обратно к истинной форме. Таким образом, проблема разумности может быть рассмотрена с помощью шенонновской теории связи.

ПРЕДЕЛ РАЗУМА

Как только мы признали, что разумная система (независимо от того, живая она или механическая) та, которая ведёт себя разумно, мы должны признать, что проверкой разумности является способность к подходящему отбору. Все разумные действия являются действиями по подходящему отбору. И, значит, любая разумная система подчиняется следующему постулату: любая система, выполняющая подходящий отбор (на ступень выше случайного), производит его на основе полученной информации.

Можно думать, что это совершенно очевидно, однако часто в дискуссиях о способностях живого мозга этот постулат скрыто или очень тонко отрицается. Представим себе, однако, что бы произошло, если бы этот постулат был недействителен. В этом случае экзаменуемый студент, например, давал бы правильный ответ до того, как задаётся вопрос; человек мог бы предъявить точные требования по страховке раньше, чем случился бы пожар; наконец, вычислительные машины давали бы необходимые результаты до того, как в эти машины была заложена задача.

Ничего подобного науке неизвестно. Что может случиться в будущем, сказать нельзя, однако совершенно ясно, что в середине XX века мы должны отбросить такую возможность. Сказав, что такие явления не могут произойти, мы скрыто предположили, что любые системы, живые или механические, подчиняются высказанному постулату и могут выполнить подходящий отбор только при получении и обработке соответствующего количества информации.

Встав на эту точку зрения, мы приходим к выводу о неизбежном количественном ограничении таких систем. Поскольку подходящий отбор гомологичен коррекции шумов, постольку объем коррекции, который может быть осуществлён, подчиняется десятой теореме Шеннона. Эта теорема гласит, что если некоторое число ошибок должно быть устранено (иначе говоря, должны быть сделаны некоторые подходящие отборы), то через корректирующий канал должно пройти по крайней мере такое же количество информации. Когда человеческое существо производит корректировку, регулирование или подходящий отбор, оно действует как корректирующий канал и не .может выполнить эти функции, пока не примет и не передаст необходимую информацию.

Та же самая точка зрения может быть выражена в более простой и доступной форме, если воспользоваться законом «необходимого разнообразия», который указывает, что подходящий отбор может быть выполнен только при обработке соответствующего количества информации (если, конечно, не верить в возможность волшебства).

Мы должны признать сегодня одно из двух предположений о работе человеческого мозга. Либо она подчиняется высказанному постулату, и тогда мозг выполняет подходящий отбор в результате обработанной в достаточном количестве информации, либо мозг обладает волшебными свойствами, и тогда правильные эффекты создаются без соответствующих причин, которые бы могли их вызвать. Нельзя сказать, что человеческий мозг никогда не совершит чудеса: вселенная полна неожиданностей. Однако те, кто утверждает, что работа человеческого мозга не подчиняется постулату, должны принять вытекающий из этого отрицания вывод о возможности подходящего отбора без получения соответствующей информации. Желательно, чтобы противники нашей точки зрения привели примеры подобной работы мозга. До тех пор, пока не будут приведены такие факты, постулат останется в силе.

Интересно разобраться в причинах ошибочных представлений о природе человеческого разума н его способностей. Возможно, что подобная ошибка – следствие грубого просчёта при оценке количества информации, используемой людьми и вычислительными машинами. Когда программируется машина, мы должны выписать в задании любую деталь, при этом мы очень остро осознаем количество необходимой для этой цели информации. Создаётся впечатление, что для машины требуется весьма большое количество информации; в действительности же это далеко не так.

Математик, решая задачу трёхмерной геометрии, может справиться с ней легко и быстро, и тем самым создаётся впечатление, что использованный объём информации мал. В действительности он очень велик; точной мерой его может быть объем программы, которую должна выполнить машина, чтобы решить ту же задачу. Дело в том, что человек располагает колоссальным запасом информации, имеющей характер предпрограммирования. Перед тем, как взять в руки карандаш, решая геометрическую задачу, человек уже имеет опыт далёкого детства, когда он познакомился с трёхмерным пространством, двигая руками и ногами. Позднее, в школе, он изучал Эвклидову геометрию, затем занимался столярным делом и научился делать простые коробки и трёхмерную мебель. Наконец, за плечами у человека пять миллиардов лет эволюции, сформировавшей его представление о трёхмерном пространстве.

Поскольку выживали только те организмы, которые были лучше приспособлены к трёхмерному пространству, природа снабдила человека мозгом, который специально приспосабливался к общению с трёхмерными существами. Таким образом, когда математик решает задачу из трёхмерной геометрии, он грубо недооценивает количество информации, действительно им использованное. Когда же он решает ту же задачу с помощью машины, он грубо переоценивает его.

Если в обоих случаях применить одинаковую меру, то и машина и живой мозг способны выполнить подходящий отбор только в пределах, допускаемых количеством полученной и обработанной ими информации.

Вследствие того, что в любом человеческом существе имеется такое скрытое предпрограммирование, человек может очень легко и быстро получить нужный результат при условии, конечно, что проблема не выходит за пределы его специализации. Однако в этом нет ничего чудесного, поскольку тот же эффект можно получить от машины с большим объёмом предпрограммы. Чаще всего примеры, с помощью которых пытаются доказать какие-то особые способности человека, свидетельствуют о том, что человек подготовлен к решению проблемы или специально или за счёт наследственности.

Рассмотрим, например, обучение игре в шахматы. Первое, что нужно объяснить обучаемому десятилетнему ребёнку, – это значение строк, колонок и диагоналей на шахматной доске. Поскольку ребёнок уже знаком с некоторыми элементами планиметрии, ему достаточно просто показать шахматную доску, чтобы он понял.

Вычислительная машина сама по себе лишена каких-либо метрических представлений и поэтому нуждается в детальном описании методики шахматной доски. Правда, машина так же способна играть в любой другой метрике, которая могла бы показаться безумной и просто недоступной для человека.

То, что человек хорошо решает «человеческие» проблемы, не более удивительно, чем то, что машина дискретного счёта наиболее приспособлена к счёту при основании два или аналоговая машина – к исследованию непрерывных процессов. Можно утверждать, что проявление специфической способности человека решать какой-то класс проблем объясняется наличием соответствующей предпрограммы. В противном случае мы должны допустить существование каких-либо волшебных сил.

ЧТО ТАКОЕ «ГЕНИЙ»

Рассмотрим вкратце вопрос о так называемых «гениях». Существуют два грубых заблуждения, которые мешают понять этот вопрос.

Первое заключается в том, что мы приписываем какие-то особые способности учёному, решившему проблему, над которой безуспешно бились в течение ряда лет многие другие. Это мнение столь же неразумно, как н заключение, что человек, десять раз кряду правильно угадавший, какой стороной упадёт монета, имеет особые способности в предсказании по сравнению с тысячью человек, гадавших вместе с ним и не получивших правильного результата.

Исаак Ньютон, например, отмечал, что когда он был совсем молод, то всегда представлял себе любые явления как бы непрерывно протекающими в чём-то ещё другом. Такой метод мышления был для Ньютона естественным, близким ему по духу, и учёный применял его при рассмотрении любых вопросов. Разве удивительно, что именно он был человеком, который в момент, когда назревало открытие дифференциального исчисления, стал первым, открывшим его? Когда в начале этого века наука буквально требовала человека, могущего представлять все явления как происходящие малыми дискретными скачками, появился Планк. Если бы Ньютон имел несчастье родиться в 1900 году, то свойственный ему метод мышления помешал бы ему сформулировать квантовую теорию.

Представим себе, что много учёных, не зная заранее правильного пути, пытаются различными способами решить одну и ту же задачу. Наконец, один из них добивается успеха. После этого появляемся мы, выбираем этого человека и заявляем, что он обладает исключительными способностями. Именно таким образом возникает представление о гении. Однако эта часть отбора не была сделана этим человеком: отбор был сделан нами, когда мы выбрали его за его успех. Это весьма распространённая ошибка в статистической логике, которая, вероятно, ответственна за большинство торжественных речей в честь «гениев».

Вторым заблуждением является представление, что гений способен решать проблему без затраты труда. В действительности большая часть его работы состоит в попытках решения, которые, конечно, являются мощным средством получения информации.

Многие из признанных гениев были людьми, которые днём и ночью обдумывали какой-либо вопрос и делали в различных комбинациях многочисленные попытки подойти к решению. Возьмём, например, Гаусса, который, по общему признанию, может быть великолепным примером гения. Приведём его собственные слова из письма к Ольберсу, где рассказывается о том, как были достигнуты определённые результаты:

«Возможно, Вы помните мои жалобы относительно теоремы, которая не поддавалась никаким моим попыткам. Этот пробел портил мне всё, что я до сих пор открыл, и в течение 4-х лет редко проходила неделя, чтобы я не предпринял попытки решить эту проблему, однако все было тщетным... Несколько дней тому назад я наконец добился успеха». И несколько далее в том же письме Гаусс пишет: «Никто не имеет представления, когда я читаю эту теорему, как долго я находился в тупике».

Несомненно, что одной из причин, почему кто-либо становится гением, является то, что платит он за это тяжёлым трудом. Он вынужден обрабатывать необходимое количество информации.

Если человеческий мозг способен решать задачи, к которым он предпрограммирован, то естественно, что он оказывается исключительно глуп при решении проблем, которые противоречат его предпрограмме. До сих пор эта область очень мало исследовалась. Мы редко гордимся своими ошибками, поэтому только недавно психологи, которые всегда преувеличивали достоинства человека, начали заниматься его дефектами.

Нам известно, однако, что в ряде случаев возникают специфические для человека затруднения. Известно, с каким трудом любой из нас может разобраться в собственных любовных переживаниях, поскольку неизбежно создаётся путаница из-за смешения реального и символического. Не нужно удивляться тому, что мы способны разобраться с большой точностью и объективностью в половых отношениях корюшки. И в то же время можем совершенно запутаться во взаимоотношениях современных юношей и девушек. Всем известно, как трудно делать рукой и ногой одновременные движения, которые не соответствуют выработанным человеком навыкам.

Доказательством того, что мы всюду пытаемся видеть взаимные связи только потому, что у нас есть соответствующая предпрограмма, могут быть психологические опыты Эмса. В одном пз этих опытов испытуемый смотрел в отверстие коробки и видел внутри висящий в пространстве игрушечный стул. Затем испытуемый смотрел через боковое отверстие коробки н убеждался, что в действительности внутри нее в разных местах подвешены на проволочках отдельные части стула, п только при определенном направлении взгляда эти части можно было видеть в перспективе как целый стул. Когда испытуемый полностью убеждался в том, что отдельные части стула далеко разнесены друг от друга, ему предлагалось опять посмотреть в дырку. И он не мог заставить себя не видеть подвешенный целый стул.

НЕ СУЩЕСТВУЕТ «ИСТИННОГО» РАЗУМА

Существует ли истинный разум? Если под этим понимать способность выполнять подходящий отбор без обработки соответствующего количества информации, то такого «истинного» разума нет, это миф. Он возник так же, как возникает идея о «чистом» волшебстве у ребёнка, который видит фокус. Сначала ребёнок верит в волшебство. Позже, когда он узнает, каким образом были сделаны показанные ему трюки, оп перестаёт верить в трансцендентное «чистое» волшебство. В его голове миф заменяется подлинным знанием существа фокуса.

ВЫВОДЫ

Какие же следует сделать выводы из развитой нами точки зрения? В частности, для инженеров, занимающихся вычислительными машинами.

Нужно прекратить разговоры о двух сортах разума независимо от того, идёт ли речь о живом мозге или о машине. Существует только один сорт разума. Он проявляет себя тем, что производит подходящий отбор. Разумная работа всегда предполагает сбор необходимого количества информации (или непосредственно после того, как задана проблема, или заранее, в виде предпрограммы) и достаточно эффективную её обработку, обеспечивающую подходящий отбор. Живой мозг имел перед собой в процессе эволюции только одну задачу: как получить необходимую информацию и как обработать её с достаточной эффективностью. Задачи, стоящие перед современным инженером, по существу, точно такие же. Инженер должен перестать спрашивать: «Как я могу сделать разумную машину?», – поскольку он уже сейчас может это делать и делал это в течение последних двадцати лет. Он должен перестать относиться со сверхблагоговением к так называемой гениальности, понимая, что гений – это просто предельный образец системы, к разработке которой он непрерывно идёт. Несомненно, что он скоро разработает машины, отличающиеся от больших машин дискретного счёта, однако и они по-своему будут разумны. Существенно различие не между машинами дискретного счета и непрерывного действия или между германием и протеином, а между реальным разумом, который обрабатывает нужное количество информации, и неким мифическим разумом, которым, как предполагали люди, они обладают.

Основной постулат даёт возможность разобраться в массе различных процессов. Для этого нужно понять, что правило подходящего отбора приложимо не только к окончательной цели, но и ко всем вспомогательным целям, которые встают в процессе её достижения, в том числе и к выбору оценочных критериев.

Таким образом, если, например, целью является составление программы для игры в шахматы, то программист может выдвинуть вспомогательную цель: игра должна быть закончена в кратчайшее время. Теперь «кратчайшее время» становится самоцелью, и достижение её требует подходящего отбора (среди различных вариантов игры, характеризующихся различным временем). Это требование можно выполнить, только обработав необходимое количество соответствующей информации. Если информация (об относительной быстроте вариантов игры) не существует в 1960 году, то подходящий отбор сейчас не может быть сделан. Если цель (окончание игры в кратчайшее время) всё-таки желательна, то для достижения её нет иного средства, кроме сбора информации. Это значит, что программист может пойти только по одному пути: он должен составить какую-то программу и проверить, сколько времени требуется для её выполнения, затем составить другую программу и опять проверить её и т. д. В конце концов делая ряд попыток и ошибок (что и представляет собой «эксперимент»), он получит информацию о том, какая программа приведёт быстрее к поставленной цели.

Существует масса таких вторичных, часто трудных, вопросов, возникающих при практической реализации подходящего отбора. Любая попытка достичь главную цель влечёт за собой необходимость выполнить много второстепенных, или «оценочных», целей. Содержание основного постулата или закона необходимости разнообразия перекрывает их. Для примера рассмотрим случай, когда нужно произвести быстро поиск (быстрота является оценочной целью) и для этого может потребоваться повторная дихотомизация (последовательное деление области поиска на две части, полученных частей опять на две и т. д.). Тогда вопрос «как провести дихотомизацию» становится объектом поиска. Но нахождение ответа на вопрос «как» является актом подходящего отбора, следовательно, этот случай также подчиняется постулату.

Можно упомянуть ещё проблему, связанную с выбором местоположения корректирующей обратной связи: должна ли быть подведена обратная коррекция к этой или другой точке? Знать, к какой точке, – это значит выполнить подходящий отбор, и, опять-таки, отбор может быть выполнен только при наличии информации. Если её нет, то решение может быть принято или случайно, или на основе информации, накапливаемой в результате многократных попыток и ошибок.

Подведём общий итог. То, что часто с благоговением называют истинным разумом, есть миф. Человеческое существо спасает себя от полной глупости тем, что пользуется информацией, заключённой в предпрограмме. Эта информация включает в себя опыт многих миллионов лет эволюции и частный опыт жизни данного человека. Дайте человеку проблему, соответствующую его объёму знаний, и он её быстро разрешит, в этом состоит его истинный разум. Любая машина, одинаково предпрограммированная. будет иметь столько же истинного разума.

Однако разум человека и машины полностью ограничен. Разум машины ограничивается количеством информации, которую мы в неё внесли. Мы можем получить от машины столько разума, сколько мы хотим, но только при условии, что в неё заложено соответствующее количество информации.

Мысль о предельных ограничениях действует, конечно, отрезвляюще, однако следует вспомнить, что сложившаяся сейчас ситуация напоминает ту, которая была сто лет назад, в начале развития обычных машин. В то время было уже создано столько сложных машин, что многие инженеры считали возможным открытие вечного двигателя. Затем возникла мысль о том, что энергия не может быть создана из ничего, и можно думать, что многих инженеров того времени постигло серьёзное разочарование.

Они рассматривали закон сохранения энергии просто как ограничение. Мы же знаем теперь, что то, кто принял это ограничение, оказались реалистами. В конце концов, они построили лучшие машины, чем инженеры, пытавшиеся создать вечный двигатель. Современное положение с вычислительными машинами очень похоже. Если мы согласимся с тем, что подходящий отбор может быть выполнен только до уровня, определяемого полученной и обработанной информацией, и если мы примем, что это ограничение справедливо для всякого мозга, человеческого и машины, наша работа может стать хотя и менее увлекательной, но зато более полезной. Те, кто будет строить машины на основе этих представлений, перегонят тех, кто хочет строить их, исходя из старого и суеверного взгляда, что человеческий мозг всемогущ.