Искусственный разум

Источник: журнал «Техника – молодёжи», №8, 1968 год.

Лауреат Ленинской премии Николай Михайлович Амосов известен не только как смелый хирург-экспериментатор и автор интересных литературных произведений, но и как учёный, посвятивший себя новому направлению в науке – биокибернетике. Его перу принадлежат книги «Моделирование мышления и психики», «Моделирование сложных систем». Недавно учёный закончил новую работу – «Искусственный разум», где речь идёт о возможностях создания небиологического механизма, который будет функционировать как человеческий мозг и даже лучше.

Выводы Н. М. Амосова построены на основе гипотезы о моделировании отдельных функций мозга как сложной системы, состоящей из ряда подсистем. «Нейроны» Амосова в отличие от прежних искусственных «нейронов» весьма многообразны. Они не только работают по принципу «да – нет», но выступают как сумматоры сигналов, как различители сигналов по интенсивности, времени, пространству, скорости изменения внешних воздействий и т. д. Сеть из таких нейронов, контролируемая системой усиления торможения (СУТ), может, по Амосову, выполнять любые мыслительные функции, вплоть до сознания и творчества. Искусственный мозг должен иметь несколько «этажей», и чем выше «этаж», тем более обобщённые формы деятельности он на себя принимает.

Автор книги «Искусственный разум», отрывок из которой публикуется в этом номере журнала, считает, что в будущем проблема взаимоотношений между искусственными и естественными разумными существами обязательно возникнет. Для тех, кто внимательно следил за дискуссией о роботах в №№ 1, 3, 5 «Техники – молодёжи» за этот год, будет небезынтересно познакомиться с точкой зрения профессора Н. М. Амосова.

Что такое разум?

Ответить не просто. Пожалуй, разум есть способность целесообразно реагировать на сложную внешнюю обстановку. Однако слово «целесообразно» снова требует уточнения. Это значит с пользой для носителя разума. Правда, уже насекомые обеспечивают своё существование в сложных условиях, но разума у насекомых не признают, говорят – ими управляют инстинкты. Даже в том случае, когда животное решает лабиринтные задачи. Выходит, разум нечто большее, связанное с учётом множества факторов, с предвидением сложного переплетения событий.

Понятие разумного связано и с общественными нормами поведения – ведь общество даёт гораздо более сложную систему внешних воздействий на индивидуум, чем природа. Впрочем, преувеличивать не стоит: разум не имеет чётких границ. Никогда нельзя сказать про ребёнка, в каком возрасте он становится разумным. По всей вероятности, в процессе овладения речью.

Что нужно требовать от машины, чтобы она могла претендовать на разум? Видимо, ориентировки в человеческом круге понятий. В дальнейшем я постараюсь это уточнить.

Кибернетик может дать и такое определение: разум есть способность к выделению и переработке информации, способность к созданию моделей внешнего мира. А искусственный разум – это программы для универсальных машин или устройства, которые могли бы воспринимать воздействия, выделять из них информацию и обеспечивать целесообразное воздействие на внешний мир. Целесообразное в человеческом смысле. Для этого нужно создать некую структуру, способную к обучению как первому и необходимому этапу «разумной» переработки информации. Следующим этапом будет сознание и творчество, уже чисто человеческие приобретения.

Можно сказать и иначе. Искусственный разум – это искусственная моделирующая установка, претендующая на сравнение с естественной – мозгом – по объёму переработки информации.

Создание искусственного разума только вопрос времени. Люди овладели сложностью, научились создавать искусственные системы, которые по сложности приближаются к естественным. Можно надеяться, что они превзойдут их. И второе: учёные поняли, что выделение и переработка информации есть объективный процесс. Его можно воспроизвести отдельно от человека, в системах из неживых элементов, при условии их достаточно большой сложности. Этого достаточно. Естественный разум – моделирующая установка из биологических элементов. Она обеспечивает выделение и переработку информации. То же можно сделать искусственно.

Можно говорить о многообразии разумов. Для любого объекта можно получить бесконечное множество моделей, имея разные программы моделирования. Природа создала огромное количество биологических видов, и каждый из них обладает способностями к выделению и переработке информации. У низших животных это осуществляется на уровне клеток, у высших – в нервной системе и особенно в коре. Но даже у высших животных кора остаётся только вычислительной машиной для тела, в котором заложены программы жизни. И лишь у человека она превратилась в орудие более высокой системы – общества.

Многообразие естественных моделирующих установок доказывает, что можно создать разум и лучше человеческого, чьи возможности довольно ограниченны. Малы объём памяти и скорость переработки информации, очень медленно обучение, трудны вспоминание и выборка. Наконец, ему присущи искажения – неизбежный спутник всякого моделирования. Для того чтобы упростить сложный объект до модели, обязательно надо опустить какие-то детали, и никогда нельзя оставаться уверенным, что опущенное не важное. Моделирование всегда предполагает цель – «для чего?» – и цель определяет отбор второстепенных деталей. У человека это выражается «искажениями от субъективности».

Но это ещё не всё. Мозг воспринимает внешнюю картину поочерёдной концентрацией внимания на деталях. Степень усиления неравномерна и зависит от утомления, от чувств, отражающих важность детали в данный момент. В памяти запечатлевается последовательность восприятий, но сами они неравноценны, имеют разный вес и искажают действительность, когда человек пытается представить картину перед своим внутренним взором. Кроме того, нельзя увидеть сложность сразу, её приходится представлять поочерёдным вспоминанием частностей. Такая работа мозга делает модели разума качественными. Впрочем, это как раз то, что нужно было человеку раньше (как и животному), чтобы в каждый момент реагировать на наиболее важный раздражитель. Объективная истина для животного цены не имеет. Она понадобилась для общества, потому что необходима для воспроизведения системы. Кстати, жёсткие программы на клеточном уровне, по которым происходит размножение, отражают объективную истину, так как в генетическом коде нет места неопределённости.

Можно ли создать разум лучше, чем у человека? Конечно. Природа богата и разнообразна, но возможности построения более совершенных систем далеко не исчерпаны. Можно создать моделирующие установки, лишённые многих недостатков мозга. «Неразумных» поступков люди делают вполне достаточно. Машина сможет делать их меньше.

Можно представить себе несколько типов искусственного разума. Оперативный разум для управления сложными системами. Например, лечение больного, воспитание человека, управление обществом. Во всех этих случаях (с возрастанием степени сложности) нельзя предусмотреть жёсткой системы управления, поскольку сложность объекта значительно превышает сложность возможных моделей и, кроме того, объект имеет свойство самоорганизации. Разум для оперативного управления должен строиться по типу естественного, со всеми его человеческими программами, включая сознание и творчество. Разумеется, средства восприятия объекта и воздействия на него будут различными. В медицине – это датчики, аппараты и лекарства, в психологии главное – слово, речь, но датчики и лекарства тоже будут, в обществе на входах – статистика и анализ производства, потребления, психики граждан» а на выходах – управление производством и воспитанием.

Второй тип – разум-память, вместилище различного рода сведений и система их выборки для сообщения людям или перевода в память оперативного разума. Уже сейчас разработана техника хранения колоссальных объёмов информации. Как мне кажется, в будущем совершенствование пойдёт по нескольким направлениям. Во-первых, изменится язык науки. Словесные качественные модели уступят место количественным – структурным и математическим. В конечном итоге любую сложную систему можно представить в виде структуры и характеристик её элементов, точных или вероятностных. Как уже говорилось, возможно много подробных моделей и целая иерархия обобщённых и частных. Сейчас все они выражаются словами с добавлением цифр и рисунков. В будущем их станут кодировать цифрами. Разумеется, будут программы считывания информации словесным кодом – для людей. Надо полагать, что разум-память будет построен по алгоритмическому, а не сетовому принципу. Выборка будет осуществляться через многочисленные автоматические каталоги – наборы моделей высших этажей и качеств. Наверное, эта система будет связана с обычными библиотеками на микрофильмах.

Видимо, возможны и другие типы разума с различной спецификой программ и техники. Например, мне кажется интересным аналитический разум – установка для создания действующих моделей систем с разными этажами сложности. Ещё один тип – синтетический разум или «машина творчества». Программу создания новых моделей также можно воспроизвести искусственно, как и любую другую. Стимулом для творчества может быть удовольствие от процесса поиска и его успешных результатов. Задание для новых произведений представляет собой обобщённые модели смысла и качеств высших этажей. Общий алгоритм решения творческих задач известен. Дело сводится к поиску нужных деталей, причём иногда из совсем необычной сферы. Я думаю, что этот процесс вполне доступен искусственному разуму, имеющему в своём распоряжении огромный материал моделей из разных областей знаний.

Оперативный разум может объединять все другие типы, используя их как вспомогательные для анализа объектов управления, синтеза новых воздействий и запоминания всего необходимого фактического материала. По всей вероятности, коллективная деятельность нескольких или даже многих искусственных разумов будет гораздо эффективней, чем совместная работа людей. Дело в том, что у них будет единый количественный язык моделей в отличие от качественного словесного языка людей. Обращение между машинами будет быстрее и проще, хотя влияние индивидуальности и субъективности останется, поскольку будут чувства и самоорганизация. У человека медленно и ограниченно обучение, затруднено обращение к коллективной памяти – книгам. Все это упростится при машинных формах переработки информации. Особенно важен новый язык науки – язык структурных действующих моделей и возможность быстрого считывания их электрическими сигналами.

Проблема роботов-автоматов, способных выполнять функции человека, тесно соприкасается с моделированием психики. По существу, робот – это разум плюс органы чувств и движения. С первого взгляда кажется, что создать глаз, руку или гортань гораздо проще, чем мозг, поскольку такие органы есть у всех животных. Однако и это очень трудно. Но нет сомнения, что соответствующие конструкции будут созданы. Тогда всё дело решит технология, и мы будем получать роботов по любым заданиям. Можно ожидать их огромного разнообразия, ещё большего, чем разнообразие организмов. Они будут специализированные, универсальные, всё более совершенные по форме и функциям. У них будет важное преимущество перед животными – связь через радио и единый язык для общения.

Я не хочу фантазировать об устройстве общества будущего и влиянии на него техники, включая и разумные машины. Уверен, что такие влияния могут стать определяющими не только в материальной жизни, но и в психике. В частности, искусственный разум изменит состояние обучения и воспитания детей, регулирование психики, медицины, управление в любых сферах и внедрится во многие области науки. Однако во всём, что я перечислил до сих пор – от роботов до Госплана, – искусственный разум выступает в качестве вспомогательного орудия для человека при переработке информации, как это было до недавнего времени с энергией. Разумные машины служат на пользу обществу, и всё очень хорошо.

К сожалению, есть и другие аспекты проблемы, которые нужно учитывать уже сейчас. Их по крайней мере два.

Первый – ущерб человеку от внедрения искусственного разума в творчество. По-видимому, придёт время, когда машины смогут не только конструировать машины, но писать поэмы, музыку, открывать новые законы природы. Это повлечёт за собой ослабление стимула творчества у людей, так как немногие захотят искать, если достаточно дать заказ машине. Ограничение творчества будет первым шагом отступления человека перед грядущими хозяевами планеты – искусственными существами, которые будут обладать несравненно большей способностью к приспособлению и развитию.

Второй аспект проблемы – возможность превращения искусственного разума, действующего по программам человека, в личность с собственными интересами. Нельзя сделать разум без всяких чувств, так как они отражают степень эффективности в реализации поставленных целей. Минимальные чувства – добро и зло, приятное и неприятное. Этого уже достаточно, чтобы при самоорганизации, то есть способности к созданию новых моделей, появились новые производные чувства и новые собственные цели деятельности.

Личность тем и отличается от автомата, что имеет собственные интересы – потребности, цели, оценки. Искусственный разум неизбежно превратится в личность, как только у него будет воспроизведена самоорганизация.

Пределы независимости личности, границы её возможного отличия от первоначально заданных программ имеют количественное выражение. Поведение одних людей остаётся в пределах преподанных воспитанием норм, другие люди выходят за эти границы – вплоть до преступлений против общества. Многое зависит от прочности воспитания и «воспитуемости» – индивидуальных свойств коры и подкорки. Все эти качества будут задаваться и искусственному разуму, они будут служить некоторой гарантией «лояльного» поведения по отношению к людям (вспомните «Законы роботехники» А. Азимова!). Правда, гарантии относительные, и они тем меньше, чем выше уровень самоорганизации. В то же время поведение искусственной личности, даже если она будет умна, не обещает быть всегда «разумным». Вероятность ошибок остаётся, поскольку останется ограниченность познавательных возможностей и субъективность суждений.

Так возникает опасность не только ошибочного, но и злонамеренного поведения разумных машин. Опасность велика, если это касается машин, принимающих участие в управлении обществом хотя бы в сфере чистой экономики.

Смогут ли люди ограничить развитие систем искусственного разума или по крайней мере держать их под контролем? Боюсь, что ни то, ни другое невозможно.

Создание и совершенствование разума необходимо для целей познания и оптимального управления сложными системами – организмом, психикой, обществом. Человеческий мозг и традиционные средства переработки информации не могут обеспечить этого, особенно теперь, когда стремительно возрастающее разнообразие вещей и моделей догоняет разнообразие природы, требуя в то же время более активного управления. Развитие разума действительно необходимо, хотя и не обязательно до уровня высокой самоорганизации. Вся беда в том, что есть любознательность учёных – ещё одни психологический фактор, не позволяющий ограничить развитие любой науки. Тем более, когда дело касается такого предмета, как разум.

Контроль над сложным искусственным разумом осуществить трудно. Конечно, можно выдавать на выход все его мысли, но прочесть их практически не удастся из-за сложности и, главное, обилия. Внутренние процессы в системах машинного регулирования будут недоступны контролю, когда дело касается столь сложных программ, как управление обществом. Разумеется, внешние выходы в виде воздействий на людей будут доступны критике, но мнения будут разноречивы, а отказаться от машинного управления станет так же невозможно, как сейчас нельзя отказаться от электричества.

Ещё один вопрос: размножение машин. Природа решила проблему очень экономно – вся «фабрика» внутри и будто даже не мешает другим программам жизнедеятельности. Конечно, можно не сомневаться, что со временем люди овладеют биосинтезом и смогут воспроизвести биологические системы в их естественном виде. Но это уже другая проблема. Я не думаю, что развитие искусственного разума пойдёт по этому пути. Человек имеет в своём распоряжении больше возможностей для создания новых сложных систем и едва ли будет пытаться повторить природу, тем более что она несовершенна. Вполне мыслима фабрика искусственных организмов – от примитивных роботов до сложнейших интеллектов, – которая сможет обойтись без помощи людей. Она не только обеспечит серийное производство, но и неограниченную изменчивость, конструирование всё новых видов.

Неуютное будущее ожидает человека! Расцвет науки и техники, искусственный разум – золотой век, но за ним уже угадывается эра искусственных систем с неограниченными возможностями развития.

Так стоит ли заниматься проблемой искусственного разума? Не следует ли наложить на неё вето уже сейчас? Может быть, и следует, но для этого нет практических возможностей. Разум находится на столбовой дороге развития мира, которое можно задержать, но не остановить. Значит, вопрос только в регулировании прогресса и в поиске новых решений для проблемы человека в будущем мире. Впрочем, в научном плане об этом говорить ещё рано. Пока мы находимся лишь на дальних подступах к искусственному разуму.