Осознание 3/3
Программист: Аллен Ньюэлл и Герберт Саймон утверждали возможность редукции интеллекта к системе физических символов. Проще говоря, сознание и интеллект – это не более чем манипулирование символами с помощью формальных правил.
С этой точки зрения любой интеллект есть система физических символов. Любую достаточно большую систему физических символов (алгоритм, базу данных) можно организовать таким образом, чтобы она демонстрировала разум. Система физических символов обладает необходимыми и достаточными средствами для порождения разумных действий.
Философ: Это называется редукционизмом – сведением сознания к оперированию символами. Покажу, что этот подход феноменологичен. Мы наблюдаем феномены превращения одних символов в другие в рамках языков, коммуникаций и обучения. Группируя и объясняя феномены, мы, согласно редукционизму, постепенно моделируем интеллект.
Программист: Замечу, что организацию символов в этом подходе можно описать в терминах хранения и переработки информации. Таким образом, интеллект можно редуцировать к механизмам локализации, хранения и переработки информации в человеческом мозге...
Философ: Истоки своей гипотезы авторы видели в философских идеях Готлоба Фреге, Бертрана Рассела, Альфреда Норта Уайтхеда, которые, в свою очередь, были наследниками атомистической рационалистической традиции (Декарт, Гоббс, Лейбниц).
В чистом виде этот подход сформулировал Людвиг Витгенштейн в своем «Логико-философском трактате»:
– Мир есть совокупность фактов, а не вещей.
– Все факты можно разложить на простые объекты – атомарные факты.
– Факты – это и есть символы языка, научившись группировать которые, появляется интеллект.
Витгенштейн утверждает:
– Мы создаём для себя образы фактов.
– То, что элементы образа соединяются друг с другом определённым способом, показывает, что так же соединяются друг с другом и вещи.
Программист: Правильно ли я понял, что с точки зрения редукционизма, для того чтобы понять, что такое интеллект, а в более общем случае – сознание, надо отыскать в субъекте (человеке или компьютере) простые элементы и логические отношения, отражающие объекты и отношения мира. Зафиксировав эти отношения де-факто в виде правил, можно решить задачу ИИ.
Философ: Совершенно верно. Философской вершиной редукционизма можно считать работы Эдмунда Гуссерля, развившего сложную теорию интенциональности ментальной деятельности и описавшего механизм феноменологической редукции – редукции познания к анализу логических отношений между феноменами.
Программист: То есть, говоря очень упрощённо, Гуссерль объяснял сознание через возможности логических связей – правил операций и процедур. Поняв связи и отношения между феноменами, мы понимаем, как работает сознание, потому что сознание постоянно выделяет эти связи и отношения и анализирует с помощью интенциональных актов.
Философ: Да, с этой точки зрения, Гуссерля можно назвать дедушкой искусственного интеллекта – точнее, его следует назвать дедушкой редукционистского подхода к искусственному интеллекту.
Нейрофизиолог: Однако если интеллект редуцирован до хранения и переработки логических отношений между наблюдаемыми вещами в виде некоторых символов, то, очевидно, можно найти некий носитель интеллекта и носитель сознания, помогающего человеку структурировать феномены – типа программного обеспечения, но для сознания и интеллекта человека. То есть теоретически можно найти места хранения информации, записи алгоритмов её переработки – места локализации мыслей, идей, воспоминаний, которые являются своеобразными теориями, структурируя воспринимаемые феномены.
Поиски этих мест предпринимались физиологами ещё со времён Декарта, но до сих пор не увенчались успехом. Физиологи знают зависимость активности или развитости тех или иных областей мозга от интеллектуальных качеств, однако где находится информация об установленных отношениях между феноменами, где хранятся символьные массивы информации – этого мы сказать не можем.
Если мозг и содержит интеллект и сознание, как некоторое своё свойство, то не там, где мы его ищем.
Философ: Я же говорил, что не найдёте. Сознание феноменологично. Хотя я соглашусь, что у Гуссерля и вообще с этой установкой, разделяющей знание на феноменологическое и ноуменальное, не все так просто.
Программист: Что вы имеете в виду?
Философ: Парадоксы. Вот в чем тут дело. Человек пытается промоделировать своё сознание средствами своего же сознания. И попадает в замкнутый круг – так как средства описания заведомо беднее той области, которую человек описывает. Кроме того, ему надо некоторые высказывания принимать «на веру» – так как у него нет средств их доказательства или опровержения.
Программист: Вы имеете в виду работы Гёделя, которые блестяще интерпретировал ещё один последователь сильного ИИ, Даглас Хофштадтер?
Философ: Да. Предположение о наличии феноменологического и теоретического описания неизбежно порождает парадоксы, особенно тогда, когда мы не различаем высказывания о предметах и высказывания о высказываниях.
Нейрофизиолог: Но мы ведь каждый день можем наблюдать удивительную способность человеческого разума познавать вещи, не впадая в циклы и парадоксы (например, создавая теорию постфактум или вовсе её не создавая), не объявляя принципы и связи в описании феноменов в явном виде.
Философ: Тут надо понять, с чем мы имеем дело и насколько возможна здесь постановка задачи ИИ.
Ход рассуждений следующий. Можно предположить, что не все знание можно редуцировать к символьным конструкциям. Это подметил немецкий философ Мартин Хайдеггер, критикуя Гуссерля. Он обнаружил, что обыденный мир нельзя репрезентировать посредством некоторого набора бесконтекстных элементов. Именно Хайдеггер заставил Гуссерля рассмотреть эту проблему, указав, что есть иные способы встречи с вещами, нежели отнесение к ним как к объектам, заданным некоторым набором предикатов.
Программист: Как-то все это туманно и иррационально.
Философ: Постараюсь упростить. Допустим, вы умеет забивать гвоздь в стену. Как разумное существо, вы вряд ли будете каждый раз, забивая гвоздь, оперировать в мозгу символьно-алгоритмическими конструкциями. Вы не будете, как машина, всякий раз сопоставлять свои действия с неким алгоритмом. У вас уже есть некоторое нередуцируемое к символьным конструкциям знание – то есть навык, благодаря которому вы и забиваете гвоздь.
Если редукционизм ищет сознание и интеллект в системе физических символов, то коннекционизм ищет сетевое сознание. Виртуальный «орган» сознания ищется коннекционизмом в макроструктуре – паттерне отношений элементов сети.
Установка парадигмы (в ее экстремальной форме) приблизительно следующая: сознание и интеллект являются процессом коллективных взаимодействий, самоорганизации в некоторой единой сети взаимодействий. Достаточно сложная сеть может демонстрировать свойства интеллекта и сознания.
Программист: Эти красивые слова пока еще не подкреплены такими же красивыми достижениями коннекционизма. Современные операционные системы и большинство программ построены в редукционистской парадигме. Коннекционизм силён, скорее, концепциями и идеями, чем их реализацией.
Философ: Мы знаем, что коннекционизм исповедовал в 1950-х годах Франк Розенблатт– идеолог моделей с параллельной распределенной обработкой. Розенблатт создал перцептрон– модель вычислений, в которой знание об индивидуальных образах хранится не в виде некоторого конкретного паттерна, сопоставляемого с данным паттерном (как в репрезентационных схемах), а распределено по множеству связей между многими обрабатывающими элементами.
Таким образом, можно сделать вывод, что новые вычислительные способности могут возникать из коллективного поведения большого числа простых обрабатывающих элементов.
Нейрофизиолог: Выходит, сознание в коннекционизме рассматривается не как совокупность феноменов сознания, а как состояние неких сетевых структур?
Философ: Да. Изначально создается структура – сеть, результатом которой должен стать интеллект и сознание. Сознание связано, скорее, с фоновыми умениями, навыками этой сети. Оно основано, вероятнее всего, на цельных образах, а не на правилах.
Программист: А почему это естественная, а не сверхъестественная парадигма? Ведь эти структуры – паттерны сети, цельные образы – и есть ноумены сознания.
Философ: Потому, что ноумены спекулятивны. Ноумены фрейдизма или марксизма не отсылают нас к эксперименту, который бы делал их наблюдаемыми. Паттерны активности мозга, связанные с активностью сознания, можно наблюдать.
Нейрофизиолог: Действительно. Мы знаем связь между состоянием сознания и электроэнцефалограммой мозговой активности. Во время бодрствования имеют место быстрые нерегулярные волны малой амплитуды. Напротив, во время сна, мозговые волны гораздо медленнее и большей амплитуды. То есть феноменами сознания являются определенные паттерны сети нейронов мозга, генерирующие сигналы определенной формы.
Философ: Человеческое сознание предстает пограничным эффектом двух сетей единого мира – сети нейронов мозга и сети социальных коммуникаций. В этой парадигме целостный организм сцеплен с целостным миром культуры, и для описания сознания надо попытаться создать понятия и образы этого сцепления.
Принимая гипотезу сцепления, мы должны сделать вывод о подобии процессов, происходящих в сетях мозга и сетях общества. Изучая и моделируя мозг, мы изучаем и моделируем общество и культуру, и наоборот, анализируя общество и культуру, мы анализируем мозг и сознание.
Программист: Опять красивые слова... Как анализировать?
Философ: Для анализа сетевых структур постепенно формируется новая парадигма. Ее называют синергетической или хаотической. Формируется новый аппарат, новые точки зрения.
Нейрофизиолог: Интересно было бы услышать примеры.
Философ: Пожалуйста. Для меня примером новой парадигмы является голографическая гипотеза работы мозга. Я думаю, мой коллега лучше меня расскажет о работах Карла Прибрама.
Нейрофизиолог: Выдающийся американский нейрофизиолог Карл Прибрам обратил внимание на подобие концептуальных подходов голографии и нейрофизиологии. Как известно, голография реконструирует образ не по интенсивности излучения, а по волновому фронту, фиксируемому фотографической пленкой. Проще говоря, каждая точка голограммы формируется волной, которая отражается не от какой-то части, а от всего объекта. Поэтому голограмма обладает удивительным свойством – по любому ее фрагменту можно восстановить целое. Целое оказывается распределенным в каждой части своего отображения.
Прибрам выдвинул и обосновал гипотезу о том, что подобными голографическими свойствами обладает сеть нейронов нашего мозга при распределенной обработки данных восприятия.
Философ: Укажу еще на одно очень важное представление, характеризующее то, что я называю новой парадигмой сознания. Каждая парадигма несет в себе определенные топологические интуиции – интуиции пространственных форм. Голографическая гипотеза содержит представления о самоподобии структур паттернов мозга. Эти представления согласуются с представлениями фрактальной геометрии, которая сформулировала топологические интуиции новой парадигмы в явном виде.
Программист: Причем тут фракталы? Фракталы – это ведь картинки и алгоритмы сжатия.
Философ: Не только. Фракталы – это новый стиль мышления, несущий черты парадигмы. Если наши пространственно-временные интуиции становятся фрактальными, это влечет полное изменение концептуального и теоретического аппарата.
Программист: А как это связано с коннекционизмом?
Философ: Фрактал, как геометрическая форма, обладает голографическим свойством. Будучи задана через преобразование подобия, каждая часть фрактала содержит в себе целое. Это свойство фракталов Мандельброт описывает понятием самоподобия – подобия части целому.
На мой взгляд, с помощью понятий самоподобия или голографичности можно интерпретировать случаи социальной мобильности индивида, культурные трансформации групповой мобильности.
Случай такого рода социальной мобильности описывает Даниель Дефо в романе о Робинзоне Крузо. Очутившийся на необитаемом острове моряк самоподобен универсуму европейской культуры и, оказавшись в одиночестве, конструирует космос вокруг себя. То есть социальный мир Робинзона сконструирован его сознанием. Его структуры сознания самоподобны социальным отношениям. По фрагменту своего сознания Робинзон выстраивает мир вокруг себя.
Программист: В этом и проявляется фрактальность сознания и мира?
Философ: Конечно. Человек разворачивает артефакты вокруг себя таким же естественным образом, как дышит или переваривает пищу, - как правило, без апелляции к теоретическим конструкциям. Общество, культура, спонтанные контексты жизни трансформируют человека, его тело и нейронную организацию, меняя смыслы и космос его внутреннего мира.
Программист: Можно ли всё это запрограммировать?!
Философ: Запрограммировать можно. Вычислить, – наверное, нельзя. То есть мы не сможем предугадать – что натворит Робинзон в той или иной ситуации и как трансформируется его сознание.
В связи с только что сказанным можно также обратить внимание на идеи Василия Налимова.
Программист: Кстати – это пример мистика из сверхъестественной, как вы выразились, парадигмы и в то же время весьма интересного классического ученого.
Философ: Согласен. В вероятностной модели сознания Налимова распаковка делокализованного на некоторой оси mсмысла с функцией распределения p(m) осуществляется в некотором контексте y, который является условием распаковки смысла посредством возникающего фильтра p(y/m). Ситуация возникновения нового смысла с вероятностью распределения p(y/m) может быть метафорически записана в виде формулы Байеса для условной вероятности:
р (m/y) = kp(m) p(y/m),
где k – константа нормировки.
Налимов приводит следующий пример мыслительной операции: Однажды на двери Бюро переводов я прочитал такую фразу: «Из-за отсутствия переводчиков переводы будут выполняться в минимальный срок 7-10 дней».
Здесь контекст, окружающий слово «отсутствие», заставляет нас выбрать фильтр, позволяющий понять, что речь идет не об абсолютном отсутствии переводчиков, а об их нехватке.
Читая объявление - по Налимову, - мы не получаем информацию, мы распаковываем смыслы, и эта ситуация связана с двумя вещами - социокультурной ситуацией и контекстом прочтения.
Нейрофизиолог: То есть сознание субъективно «распаковывает» смыслы?
Философ: Важно, что Налимов уловил эмерджентность сознания - его статистические феномены. Можно предположить, что коллективные паттерны, на границах которых разворачивается сознание, не предопределены. Они неустойчивы и могут порождать различные причудливые структуры.
Сознание в этой парадигме формируется новой - фрактальной - логикой [3]. В ней сознание не есть результат логических выводов. Это макропаттерн случайных блужданий, трансформаций, перескоков на микроуровне.
Сознание - это фрактальное блуждание субъекта, выстраивающего когнитивные модели себя и мира с помощью интенциональных актов - бесконечных интерактивных итераций.
Программист: А это можно запрограммировать?
Нейрофизиолог: Попробуйте, коллега. Интересно посмотреть, что из этого получится...
[1] Серл Д. Открывая сознание заново. Пер. с англ. А. В. Грязнова. - М.: Идея-пресс, 2002. - 240 с.
[2] Noam Chomsky (род. 1927 г.) - американский лингвист, получивший известность благодаря теории генеративных грамматик и активно занимающийся проблемами языка и сознания. Его работы очень интересны с точки зрения понимания того, что есть интеллект.
[3] В. Тарасенко. Фрактальная логика. - М.: Прогресс-традиция, 2002.
Искусственное сознание: утилитарный аспект
Константин Вяткин
Принципиальная возможность создания разумных существ на небиологической основе открывает перед человеком перспективу не только жить бок о бок со своими творениями, но и создавать новые, искусственные миры, которые будут населены этими существами. Зачем эти миры могут понадобиться, спросите вы? А вот зачем (список, впрочем, далеко не полный).
1) Игровой, развлекательный момент моделирования. Перед наблюдателем будут разворачиваться картины зарождения, расцвета и упадка цивилизаций.
Желающие смогут принять участие в жизни какой-то части виртуального мира.
Примечание редакции:В современной игровой терминологии это называется созданием аватара. Аватарами в древней Индии назывались земные, телесные воплощения божеств.
2) Исследовательский момент моделирования. Напрашиваются следующие направления исследований нашего собственного мира:
социальные;
философские;
лингвистические;
эволюционные;
исторические и пр.
3) Пополнение нашего мира яркими, гениальными «личностями». Виртуальный мир, в котором формируются и развиваются личности, можно рассматривать как некий садок, аналогичный садку, в котором разводят мальков рыб.
Не будем останавливаться на игровых моделях и моделях, создаваемых нами для исследовательских целей. Ценность их очевидна.
Однако поистине удивительные возможности открывает реализация моделей, в которых будут культивироваться личности, предназначенные для пополнения мира, в котором живём мы. Думаю, никто не будет возражать против существ с ограниченной свободой воли и восприятия, которые бы помогали человеку в тех или иных областях социальной и производственной деятельности. Эти существа называются всем известным словом – роботы.
Но для подпитки нашей цивилизации новыми идеями, иными нравственными и моральными ценностями было бы неосмотрительно отказываться от возможности общения с созданными нами разумными существами, которые не имеют никаких ограничений в свободе воли и признаются равными нам. Эти неординарные личности, возможно, дадут новый импульс развитию нашего мира. Они будут являться продуктами эволюции в виртуальных мирах, скорее всего очень длительной в пересчёте на наше время. Мы сможем отбирать их по критериям, которые установим сами.
Примечание редакции: Полагаю, всё не так просто. Вспомним известную истину «Что посеешь, то и пожнёшь». Искусственное сознание, равное своим «родителям», вряд ли станет источником принципиально новых возможностей, а разум, который стоит выше средней массы окружающих сознаний, не воспринимается ими как равный. Чаще – наоборот. См. историю человечества.
И последнее. Имеем ли мы моральное право создавать разумные существа в виртуальных мирах и экспериментировать с ними? Первое, что приходит на ум, – это антигуманно, этого делать нельзя. Однако как вы отнесётесь к такой мысли? Предположим, что человечество тоже создано кем-то (почему бы нет?) и что над ним проводятся эксперименты. Так вот, не знаю как вы, а я предпочитаю быть частью чьего-то эксперимента, чем не быть совсем.