Введение в интеллектронику

Источник: журнал «Знание – сила», №3, 1965 год.

Попробуйте догадаться: кто автор текста, который вы сейчас прочтёте. Его имя не раз встречалось у нас в журнале. А если вам окажется не под силу раскрыть «инкогнито», вы найдёте разгадку на странице 11 [см. конец статьи].

УСИЛИТЕЛЬ ИНТЕЛЛЕКТА

Усилитель интеллекта, впервые предложенный как реальная конструкторская задача в одном из трудов, кажется, Эшби, должен быть в сфере умственной деятельности полной аналогией усилителя физических возможностей человека, каким служит любая управляемая им машина. Усилитель мускулов – это автомобиль, экскаватор, подъёмный кран, станок, словом, любое устройство, в котором человек «подключён» к управляющей системе в качестве регулятора, а не силового привода.

Вопреки общепринятому мнению, отклонения индивидуального уровня интеллекта от среднего не больше тех же отклонений в области физических возможностей. Средний показатель интеллекта (найденный с помощью психологических тестов) составляет около 100-110. У людей, исключительно развитых в интеллектуальном отношении, он равен 140-150, а верхняя граница, достигаемая необычайно редко, лежит где-то около 180-190.

Так вот, усилитель интеллекта с таким же примерно коэффициентом усиления, как у средней машины, обслуживаемой рабочим в промышленности, имел бы показатель порядка 10000. Возможность сконструировать такой усилитель не менее реальна, чем возможность построить машину в сто раз сильнее человека. Однако я задержусь на усилителе интеллекта, ибо на этом примере легче показать основную трудность, с которой сталкивается здесь конструктор.

Дело в том, что он должен создать устройство «умнее себя самого». Ясно, что если бы он хотел действовать обычным методом, то есть начал составлять соответствующую программу для машины, то не справился бы с поставленной перед ним задачей, поскольку эта программа уже определяет уровень «интеллекта», которого может достичь создаваемое устройство. На первый взгляд – но только на первый – проблема кажется неразрешимой и парадоксальной, вроде идеи самою себя поднять за волосы (и к тому же с привязанным к ногам стотонным грузом).

Существует, однако, пока видимый лишь как гипотетическая возможность, совершенно иной подход к этой задаче. Детальное знание внутреннего устройства усилителя нам недоступно. Быть может, оно и не нужно. Быть может, достаточно отнестись к такому усилителю, как к «чёрному ящику» – устройству, о конструкции которого и принципе работы мы не имеем ни малейшего представления, интересуясь исключительно конечным результатом его действия. Усилитель этот обладает, как каждое уважающее себя кибернетическое устройство, «входами» и «выходами». Между ними простирается область нашею невежества, но какое это имеет значение, если такая машина в самом деле будет вести себя как интеллект с показателем порядка 10000?

Поскольку подобный подход нов и пока нигде не использовался, он выглядит, признаюсь, скорее чем-то вроде абсурдной идеи, а не технологическим производственным рецептом. Но вот примеры, которые, возможно, сделают его более правдоподобным. Можно, скажем (и это делалось), в небольшой аквариум, в котором обитает колония амёб, всыпать немного порошкового железа. Амёбы вместе с пищей станут поглощать и незначительные количества металла. Если мы теперь приложим изнутри к аквариуму магнитное поле, оно будет определённым образом влиять на движение амёб. Не о том речь, что пока мы не знаем, как использовать этот «амёбномагнитный гомеостат», и не о том, что в таком виде он не имеет ничего общего с гипотетическим усилителем интеллекта. Суть дела в том, что, хотя мы совершенно незнаем всей сложности отдельной амёбы, хотя не можем даже нарисовать её конструктивную схему так, как рисуют схему машины, всё же нам удалось из неизвестных в деталях элементов составить некоторое более сложное целое, обладающее свойствами системы, имеющее «входы» и «выходы» для сигналов.

Вместо амёб можно использовать, например, определённые виды коллоидов или пропускать электрический ток через сложные растворы, причём некоторые вещества могут тут выпадать в осадок, меняя проводимость раствора как целого, что даст эффект «положительной обратной связи», то есть усиления сигнала. Признаемся, что подобные попытки ещё не дали каких-либо заманчивых результатов. К тому же есть немало кибернетиков, которые неблагосклонно смотрят на этот еретический отход от традиционного оперирования электронными элементами, на эти поиски новых материалов, новых строительных кирпичиков, в некоторых отношениях сходных со строительными кирпичиками живых организмов (что совсем не случайно!).

Не предугадывая результата подобных исследований, мы можем сейчас несколько лучше понять, как можно из элементов «непонятных» создавать системы, которые функционировали бы так, как нам нужно. (Здесь происходит принципиальная смена метода, каким пользуется конструктор). Современная техника ведёт себя, как человек, который даже не пытается перепрыгнуть через канаву, пока сначала не найдёт все существенные параметры и связи между ними, то есть пока не измерит силу тяжести вблизи канавы, эффективность своих мышц, не изучит тщательно кинематику движений своего тела, характеристики процессов управления, происходящих в мозжечке, и т. д. и т. п. Технолог-еретик же из кибернетической школы сразу принимает решение попросту перепрыгнуть через канаву, полагая не без оснований, что если ему такое удастся, проблема тем самым будет решена.

При этом он ссылается на следующий факт. Любое физическое действие, вроде того же прыжка, требует в процессе подготовки к нему и его осуществления определённой работы мозга, которая представляет собой не что иное, как безмерно сложную последовательность математических операций (поскольку именно к этому сводится вообще всякая деятельность мозговой сети нейронов). Однако прыгун, который как-никак «держит н голове» всю эту мозговую математику прыжка, не в состоянии записать на бумаге соответствующие математические выражения в виде определённого количества уравнений.

Видимо, это следует из того, что «биоматематика», которой пользуются абсолютно все живые организмы, не исключая и амёб, требует при описании её средствами нашей математики многократного переложения сложных сочетаний импульсов с языка на язык. С бессловного языка биохимических процессов и чередования нейронных возбуждений на язык символов, формализацией и конструированием которого занимаются совершенно иные области мозга, чем те, что ведают непосредственно «живой математикой» и реализуют её.

Таким образом, ключ к проблеме именно в том, что усилитель интеллекта не должен формализовать, конструировать, описывать, а просто действовать так же эффективно и безошибочно, как нейронные процессы в мозгу прыгуна. Он не должен делать ничего, кроме преобразования сигналов, поступающих на «входы», и выдачи с «выходов» готовых решении. Ни сам этот усилитель, ни конструктор его, никто вообще не будет знать, как он это делает – и всё же мы получим то, что нам необходимо: результаты.

«ЧЁРНЫЙ ЯЩИК» И МОРАЛЬ

И вот «чёрный ящик» в действии. Конечно, не в жизни, а в мыслях некоторых учёных. Стаффорд Бир, один из американских пионеров кибернетизации капиталистического производства, считает возможным создать «фирму-гомеостат». Все процессы, из которых, например, складывается производство стали на крупном металлургическом    комбинате, электронный мозг должен оптимизировать.

Иными словами, сделать так, чтобы это было как можно более выгодно, эффективно и не зависело бы ни от устойчивости предложения (рабочей силы, руды, угля и т. п.) и рыночного спроса, ни от внутренних неполадок в системе (неравномерности производства, нежелательного роста собственных расходов, снижения производительности на одного работника). В представлении Бира такая производственная единица должна быть ультрастабильным гомеостатом, который немедленно реагирует на любое отклонение от состояния равновесия и тем самым возвращается к нему.

Бир сознательно смоделировал металлургический комбинат-гомеостат на принципах действия живого организма. А ведь единственным собственно критерием «ценности» организма в природе является его способность выживать – любой ценой. Это значит, при необходимости и ценой пожирания других организмов. Естествоиспытатель, понимая, что природа не имеет «систем моральной оценки», не считает поведение голодных хищников «аморальным».

Но вот вопрос: может ли «металлургический комбинат-организм» (то есть «имеет ли он право») «пожирать», в случае необходимости, своих конкурентов?

Вопросов таких, быть может менее резких, немало. Должна ли такая гомеостатная производственная единица стремиться к максимальному объёму производства или же к максимальной прибыли? А что если спустя какое-то время в результате изменения технологам окажется, что производство стали излишне? Должна ли вложенная в «мозг» такой производственной системы тенденция «выжить» побудить его к полной перестройке, так, чтобы, например, металлургический комбинат сам превратил себя в комбинат, выпускающий пластмассы? Чем он должен руководствоваться при такой коренной реорганизации – максимальной общественной полезностью? Или же прибыльностью?

Бир уклоняется от ответов на эти вопросы, заявляя, что выше «мозга» металлургического комбината есть ещё наблюдательный совет хозяев, которые и принимают решения общего характера. «Мозг» лишь реализует их оптимальным образом.

Тем самым Бир передаёт все «вопросы морали» из компетенции «чёрного ящика» наблюдательному совету. Но это не выход. «Чёрный ящик», даже ограниченный в своих действиях, всё равно будет принимать решения морального характера, например, увольняя рабочих и снижая плату им, если этого будет требовать принцип оптимальной работы металлургического комбината как целого.

Легко даже догадаться, что дойдёт и до «борьбы за существование» между «комбинатом-гомеостатом» Бира и другими, спроектированными другими кибернетиками, принадлежащими другим корпорациям. Либо они непрерывно станут обращаться за консультацией к «человеку-надсмотрщику» (не «свалить ли конкурента, ибо представляется случай?»), либо обременённая последствиями морального характера деятельность их будет всё независимее.

В первом случае нарушается сам принцип авторегуляции гомеостата-производителя. Во втором – гомеостаты начинают влиять на судьбы людей так, как это зачастую совсем не предвидели их творцы, что может привести к нарушению экономики страны как целого, например, потому что один из гомеостатов справляется с порученным ему делом чересчур хорошо – губя всех конкурентов.

Почему в первом случае нарушается принцип действия «чёрного ящика»? Да потому, что такой «ящик», такой регулятор никак не похож на человека – в том смысле, что ему нельзя задавать вопросы в процессе принимаемых им решений и что на эти вопросы (о последствии для общества его очередных действий) он не будет в состоянии ответить. Между прочим, даже «человек-надсмотрщик» часто не может представить далёкие последствия своих решений.

«Чёрный ящик», который должен «помочь выжить» металлургическому комбинату, реагируя на всевозможные изменения сигналов на «входах» (цены на уголь, руду, машины, величину зарплаты) и «выходах» (рыночная цена стали, спрос на отдельные её сорта), и такой «чёрный ящик», который вдобавок ещё принимает во внимание интересы рабочих, а быть может даже и конкурентов, – это два совершенно разных устройства. Первое будет эффективней второго в качестве производителя.

Можно ввести в основную программу, в «аксиоматику» поведения гомеостата трудовое законодательство. Это ограничит те его действия, которые приносят ущерб рабочим. И его действия по отношению к конкурирующим фирмам или же производителям стали в других капиталистических странах могут, например, усилиться. Самое важное, однако, что «чёрный ящик» просто «не знает», с ущербом для кого он действует. И нельзя от него требовать, чтобы он информировал о таких результатах своих решений, ибо по самому принципу внутреннее состояние «ящика» никому, включая конструктора, неизвестно.

Именно такого рода последствия применения гомеостатичных регуляторов имел в виду Норберт Винер, посвятив в последнем издании своей основной работы «Кибернетика» специальный раздел непредвиденным результатам их действий.

Могло бы показаться, что опасности такого рода будут ликвидированы в зародыше, если использовать «черный ящик» высшего ранга, нечто вроде «машины для управления» – нет, не людьми, а подчинёнными ей «черными ящиками» отдельных производителей. Рассмотрение следствий такого шага довольно любопытно.

ОПАСНОСТИ ЭЛЕКТРОКРАТИИ

Итак, чтобы избежать общественно вредных последствий действия «чёрных ящиков» как регуляторов отдельных производственных единиц, мы посадили на трон экономической власти Чёрный Ящик – Регулятор высшего ранга.

Допустим, что он ограничивает свободу производственных регуляторов, закладывая в их программу (это имеет силу закона) соблюдение основ трудового права, принципы лояльности по отношению к конкурентам, стремление к ликвидации резервной армии труда (то есть безработиц) и тому подобное. Возможно ли такое? Теоретически – да. На практике, однако, это будет затруднено огромным множеством всевозможных – назовём их мягко – неудобств.

Чёрный Ящик, как система весьма сложная, математическим языком не описывается, алгоритма его никто не знает и знать не может, действует он по теории вероятностей и поэтому, оказавшись два раза в одной и той же ситуации, вовсе не обязан поступать в том и другом случае одинаково. Кроме того, Чёрный Ящик – это, пожалуй, самое существенное – является машиной, которая учится в ходе конкретной обстановки на собственных ошибках.

Быть может, сначала он ввергнет страну в серию отчаянных кризисов, из которых сам же постепенно её выведет. Быть может, он заявит, что между введёнными в его программу действий аксиомами имеется противоречие. Что тогда? Трудно провести строгай анализ столь сложной проблемы. Можно сказать только одно: «чёрный ящик», будь он просто регулятором производства в одном из его рядовых звеньев или универсальным регулятором в масштабе страны, всегда действует с позиций частичного знания.

Иначе и быть не может. Даже когда после многих проб и ошибок, в ходе которых будут обездолены миллионы людей, Чёрный Ящик – Экономический Правитель приобретает огромные знания, несравнимо большие, чем знания всех капиталистических экономистов вместе взятых, то и в этом случае нет никаких гарантий, что он не попытается противодействовать очередному, новыми причинами вызванному изменению, способом, от которого у всех, вплоть до его творцов, поднимутся дыбом волосы. Рассмотрим такую возможность на конкретном примере.

Скажем, Чёрный Ящик замечает опасность для счастливо достигнутого, после многих спадов и подъёмов, состояния гомеостатного равновесия. Опасность вытекает из того, что естественный прирост населения не соответствует имеющимся возможностям удовлетворить людские потребности. Иными словами, жизненный уровень начнёт – при таком приросте – понижаться, начиная с будущего года или там через тридцать лет.

И тут оказывается, что через один из «входов» в Чёрный Ящик поступила информация о каком-то недавно найденном химическом соединении, совершенно безвредном для здоровья, которое вызывает уменьшение темпов деторождения. Чёрный Ящик принимает сразу же решение добавлять это вещество в нужных, очень незначительных, количествах к питьевой воде во всех водопроводных системах страны. Разумеется, для успеха мероприятия он должен сохранять этот свой шаг в тайне, ибо в противном случае показатель естественного прироста снова проявит тенденцию к повышению, так как многие люди, возможно, будут стараться пить воду без примеси этого вещества, беря её, например, из колодцев или рек.

Получается, что Чёрный Ящик встанет перед выбором – либо информировать обо всём общество и считаться с его возражениями, либо не информировать и тем самым сохранить ради всеобщего блага состояние существующего равновесия.

Пусть для защиты общества от стремления Чёрного Ящика к подобным формам вмешательства в жизнь людей его программа предусматривает публикацию всех намечаемых изменений. Или пусть Чёрный Ящик имеет встроенный в него «тормоз безопасности», который срабатывает всякий раз при возникновении ситуации, вроде описанной нами. Тогда «совещательный орган» регулятора, состоящий из людей, отвергает план добавлять к питьевой воде вещество, снижающее рождаемость.

Проблема, однако, заключается в том, что ситуаций столь простых будет, видимо, немного, и в огромном большинстве случаев «совещательный орган» не будет знать, надо ли включать «тормоз безопасности» или нет. К тому же чересчур частые его включения могут всю регулирующую деятельность «ящика» сделать иллюзорной и ввергнуть общество в полный хаос.

Я уже не говорю о том, что совершенно неясно, чьи собственно интересы станет представлять этот «совещательный орган». В современных Соединённых Штатах он сделал бы невозможным, например, организацию бесплатной медицинской помощи и системы пенсий. Роль предлагающего такое изменение «ящика» сыграл президент Кеннеди – и был остановлен «тормозом безопасности», которым явился Конгресс. Вероятно, раз, другой и третий будучи остановлен в своих действиях, он разработает новую стратегию. Станет, например, стремиться к тому, чтобы браки заключались как можно позже (или чтобы иметь небольшое число детей было особенно выгодно экономически). А если и это не даст нужных результатов, постарается уменьшить естественный прирост населения ещё более окольным путём.

Но почему – можно спросить – Чёрный Ящик не проинформирует общество заблаговременно об этом своём шаге? Ведь мы говорили, что согласно вложенной в него программе он должен сообщать обо всех изменениях, которые намеревается провести?

Не проинформирует он общество не потому, что руководствуется «хитростью», а просто из-за того, что сам не будет знать, что собственно делает. Ведь он вовсе не является каким-то «электронным сатаной», всезнающим существом, размышляющим, как человек или даже сверхчеловек, а всего лишь устройством, которое непрестанно отыскивает связи между отдельными общественными явлениями, каких миллионы и тысячи миллионов.

Чёрный Ящик «не ведает, что творит», поскольку не знает (то есть не обязан знать) причин замеченных общественных явлений. В конце концов лет через сто может оказаться, что цена, которую пришлось заплатить за рост жизненного уровня и падение безработицы, – хвостик, вырастающий у каждого шестого ребёнка. Или общее понижение показателя интеллекта в обществе (более развитые в интеллектуальном отношении люди больше мешают машине в её регулирующей деятельности, и поэтому она будет стремиться к уменьшению их числа). Как я полагаю, ясно, что «аксиоматика» машины не сможет учесть наперёд все возможности, начиная от «хвостика» и кончая повальной «идиотизацией». Тем самым методом «приведения к абсурду» мы на примере капиталистического общества доказали невозможность использовать Чёрный Ящик в роли Высшего Регулятора человеческого коллектива.

SUММА TECHNOLOGIAE

Так называется новая книга Станислава Лема. Эти латинские слова точнее всего можно перевести так: возможности человеческого разума. Речь в книге идёт о... Но лучше предоставим слово её автору:

«Что собственно представляет собой эта Summa..? Трактат о судьбах цивилизации! Мысли кибернетика о прошлом и будущем человека! Картина космоса, каким его видит конструктор! Рассуждения об инженерном искусстве природы и рук человеческих! Научно-технический прогноз на ближайшие тысячелетия! Всего этого есть понемногу».

Гневное в книге это загляд вперёд – через годы, десятилетия, а быть может и века. Наполовину как осторожный в своих выводах учёный, наполовину как безудержный мечтатель, Станислав Лем делится своими мыслями о науке и технике будущего. И о том, что наука и техника будущего могут дать человеку.

Одна из излюбленных тем Лема – перспективы кибернетики. Что греха таить, у многих эти перспективы связываются с надоевшим уже вопросом: может ли машина быть умнее человека? Однако в этой книге Лем говорит о другом. О «мегабитовой бомбе» – лавине информации, грозящей захлестнуть человека. Об усилителе интеллекта – устройстве, способном намного увеличить умственные возможности каждого из нас. О «чёрных ящиках» и опасности их вмешательства в судьбы людей. О моделировании с помощью электронных машин веры в бога – чтобы понять, как возникают религии. О перестройке космоса человеком, правда, в очень далёком будущем. О фантоматике – передаче эмоциональной информации непосредственно в мозг человека, минуя его органы чувств. Об установках, которые смогут выращивать информацию, словно хлореллу, в питательном растворе. О машинах, которые будут строить всевозможные научные гипотезы и проверять их опытным путём. О воздействии науки и техники будущего на искусство. О том, как может измениться физический облик человека будущего. О... но что толку в простом перечислении проблем?

Мы выбрали для вас две из них. Две главы из раздела «Интеллектроника». Усилитель интеллекта и «чёрный ящик» – правитель. Не высосаны ли эти проблемы из пальца?

Кибернетики считают, что идея усилителя интеллекта – отнюдь не беспочвенная фантазия. Правда, пока неясно, каким образом она будет воплощена в действительность. Вполне возможно, что роль такого усилителя и в самом деле будет играть «чёрный ящик» – устройство, о конструкции которого нам ничего неизвестно. С этим можно смириться – нас в основном интересует эффективность работы усилителя, а не то, как он устроен.

Однако «чёрный ящик» может преподнести человеку и неприятный сюрприз. Лем наглядно показывает это на примере кибернетического регулятора экономики. И приходит к выводу, что регулирование человеческих отношений с помощью автоматов неприемлемо. Особенную яркость, наглядность и убедительность его выводам придаёт то, что он моделирует возможные обстоятельства деятельности автоматов в условиях капиталистического общества, раздираемого анархией, социальными, экономическими противоречиями. Но не менее наглядно и то, что автоматам вообще не по плечу некоторые человеческие задачи.

Ну что же, это не должно нас удручать. Напротив! Ведь назначение автоматов – служить человеку, а не господствовать над ним.