Осознание 2/3
Диалог о естественном и искусственном
Константин Вяткин
Участники:
Пётр (П) – Программист,
Фёдор (Ф) – Философ,
Николай (Н) – Нейрофизиолог, специалист по высшей нервной деятельности.
Программист: Сознание – тема неожиданная для компьютерных наук. Программисты привыкли говорить о моделировании интеллекта, анализе познавательных свойств. Хотелось бы узнать – корректна ли постановка задачи о моделировании сознания программными средствами? Или это область фантастики?
Философ: Постановка задач зависит от нашего понимания проблемы. То есть от того, насколько наши представления готовы к их концептуальному и инструментальному описанию. Я склоняюсь к той точке зрения, что программист моделирует не феномены человека (сознание, интеллект), а коллективные представления научного сообщества о сознании, интеллекте и пр. Согласитесь, что это разные вещи.
Философ Томас Кун называл такие коллективные представления парадигмами и утверждал, что учёный ставит задачи исходя из парадигмы. Парадигма диктует видение и точку зрения на проблему. Она связана с культурными представлениями и коллективной интуицией научного сообщества.
Поэтому мне интересно понять, какие парадигмы влияли на постановку задач исследования сознания. Ясно, что в разное время сознание понималось не одинаково, а значит, возникали различные представления о возможностях науки и техники в этой области.
Нейрофизиолог: А меня интересует понимание сознания как продукта высшей нервной деятельности. И тут же возникает задача моделирования этой деятельности. В вашей терминологии – это уже определённая парадигма.
Философ: Верно. Под сознанием обычно понимается свойство человека воспринимать себя, своё мышление и свои действия.
Следует различать феноменологию (то есть, в рамках нашей парадигмы, проявления сознания) и ноуменологию сознания (то есть его природу, внутренние сущности).
Уточним суть терминов. Допустим, человек просыпается утром. Это состояние интуитивно осознаётся им как феномен сознания. Сознание становится характеристикой субъекта: человек проснулся, он уже не спит, осознанно принимает решения, гуляет, читает книги и т. п.
Философ Джон Серл [1] описывает различные черты сознания: субъективность, интенциональность, модальность, единство, гештальтную структуру опыта сознания, избыточность сознания, структурированность сознательного опыта, зависимость сознания от настроения, удовольствия и пр. Рассмотрим основные из этих свойств.
Начнём с субъективности. Любое состояние сознания всегда чьё-то состояние сознания. Сознание всегда содержит субъективную историю и не может быть отделено от субъективных характеристик носителя сознания (индивидуальные особенности, случайные факторы и пр.). Говоря иначе, феномены сознания (переживание своего «я», боль, ощущения) всегда содержат позицию наблюдателя – конкретного и индивидуального субъекта сознания.
Программист: А можно перенести сознание одного существа на другое?
Философ: Скорее всего, нет.
Программист: Почему?
Философ: Потому, что перенос сознания, часто используемый писателями-фантастами в своих произведениях, в любом случае порождает новое сознание, формируя новое «я» и новую историю субъективности. В этом смысле сознание невозможно объективировать, то есть отделить от субъекта – его носителя. Субъективный опыт уникален. Воспроизведя его, мы сконструируем новый субъективный опыт.
Ещё одна важная черта сознания – возможность интенциональности, то есть направленности на внешние факторы. Например, осознание боли может быть не интенциональным, если боль не ассоциирована у человека с внешними факторами, или интенциональным, если боль осознается как результат травмы, драки и пр.
Интенциональность как ментальная характеристика человека, по-видимому, очень сильно связана с сознанием. Серл утверждает, что любое существо, обладающее интенциональными состояниями и актами, потенциально сознательно.
Программист: В своё время Тьюринг предложил мысленный эксперимент – тест на определение искусственного интеллекта. Существует ли какой-нибудь тест или мысленный эксперимент, позволяющий сказать, что инопланетное существо, находящееся перед нами, или, к примеру, некто посылающий нам сообщения по ICQ, обладает сознанием?
Философ: Ясно, что тест Тьюринга тут не годится. Дело в том, что интеллект объективен, поэтому его можно моделировать. Интеллект способен изобразить сознание, не будучи сознанием по существу. Сознание всегда субъективно. Его, скорее, надо выращивать через восприятие «я» и интенциональные акты субъекта.
Программист: То есть у машины, которая обыгрывает Каспарова, есть интеллект, но нет сознания, поскольку у неё нет восприятия себя – как обыгрывающей Каспарова, и нет интенциональных актов – самостоятельной активности познания внешних структур?
Философ: Совершенно верно.
Программист: Следовательно, существо, наблюдаемое нами, будет обладать сознанием в той степени, в какой оно ответит средствами языка на вопрос «Кто я такой?» и продемонстрирует активность по отношению к нам?
Философ: Вероятно, так.
Программист: Значит, если я, к примеру, общаюсь с сумасшедшим, который утверждает, что он Наполеон, и требует, чтобы я маршировал, как солдат, то этот сумасшедший обладает сознанием?
Философ: Не совсем. Сумасшедшему не интересно наше мнение. Сознанию же всегда интересно мнение окружающих о том, кем или чем это сознание является. Оно гибко и зависимо от окружения. В этом проявляется его интенциональность.
Программист: А если весь мир договорится и начнёт маршировать по приказу сумасшедшего? Значит, этот ненормальный человек вылечится и войдёт в сознание?
Философ: Если наша маршировка приведёт к процветанию нашего социума – то да, конечно. Но ведь что-то нас останавливает и заставляет говорить о нереальности требований сумасшедшего.
Нейрофизиолог: Возможно, это связано с выживаемостью человека. Выживают те, кто имеет более адекватные внешнему окружению когнитивные модели, с помощью которых организм познаёт реальность. Когнитивная модель сумасшедшего неэффективна. С ней не выживешь. Она ведёт не к жизни и продолжению рода, а к гибели. В этом, возможно, состоит связь сознания с интенциональностью. Интенциональность формирует когнитивные модели организма и постоянно уточняет их, проверяя на адекватность и жизнеспособность.
Программист: Хорошо, а какова ноуменология сознания? То есть феноменом чего является сознание?
Философ: Тут существуют разные точки зрения и, соответственно, разные парадигмы. Я их условно назову естественными и сверхъестественными.
Со сверхъестественной точки зрения, сознание есть феномен особых сущностей, постигаемых в результате трансцендентного (религиозного, мистического) опыта. А значит, человеческое тело и биология не имеют к сознанию никакого отношения.
Нейрофизиолог: Но в этом случае мне следует просто встать и удалиться. Так как, если мы станем на эту точку зрения, вы тут же начнёте утверждать, что моя профессиональная деятельность никакого отношения к сознанию не имеет, поскольку активность мозга – это не источник феномена сознания. Сознание находится в другом месте. Например, в божественных сущностях. Или берет начало в обществе – в системе социальных отношений.
Философ: Совершенно верно. Недавно был такой случай. Читаю лекцию по философии сознания. Вдруг встаёт студент и говорит, что, с его точки зрения, сознание является результатом неких инграмм, посылаемых Высшим Разумом. И начинает рассказывать о структуре инграмм и способах познания Высшего Разума с помощью дыхания, медитации и цветных светофильтров.
Всё это замечательно. Но я никак не могу к этому отнестись. Этот студент мыслит в другой, не коммуникативной мне парадигме. Я не могу найти связь между его представлениями и своими понятиями. И этот человек не хочет общаться со мной, связывать свои объяснения с научными представлениями.
Программист: А вы знаете, многие люди их запросто связывают. И занимаются одновременно сложнейшими задачами компьютерного моделирования искусственного интеллекта и наблюдением высшего разума с помощью сеансов медитации. По крайней мере, у меня есть знакомые, которые умеют это каким-то непостижимым образом совмещать.
Философ: Согласитесь, что это скорее их личная проблема, нежели вопросы философии или конкретных дисциплин, которыми занимаются ваши знакомые. Люди совмещают свои представления на уровне интуиции, но не на уровне теорий и парадигм.
Сознание человека, в силу неких малопонятных мне обстоятельств, действительно может пребывать в нескольких дисциплинах одновременно, которые находятся в некоммуникативных парадигмах.
Однако научные сообщества очень агрессивны на уровне коллективных представлений. Ваши знакомые никогда не опубликуют в научном журнале статью о связи численных моделей со своим мистическим опытом. Научное сообщество чётко проводит и рьяно защищает границы парадигм.
Программист: Значит, вы считаете, что правильной при изучении сознания является «естественная» парадигма.
Философ: Вопрос надо ставить не так. Естественная парадигма коммуникативна. То есть она совместима с другими достижениями – например, с моделями естественных наук или с науками о языке. Религиозные и сверхъестественные парадигмы уничтожают коммуникации, формируя догматы, исходя из которых ищутся доказательства или опровержения.
Кроме того, естественнонаучная парадигма интенциональна. Она, как всякое научное знание, стремится объективировать результаты исследования внешнего мира когнитивной моделью. Поэтому существует подобие интуиций сознания и интенций естественнонаучной парадигмы сознания. Хотя внутри неё есть свои конкурирующие парадигмы – направления и точки зрения.
Нейрофизиолог: Интересно, а фрейдизм, по вашему мнению, к какой парадигме принадлежит?
Философ: Конечно же, к сверхъестественной. Фрейд утверждал, что сознание зависит от неких бессознательных и внесознательных факторов. Они явно ненаблюдаемы, но их можно выявить на психотерапевтических сеансах. Например, взрослый человек, казалось бы, напрочь забыл детские травмы и стрессы, и тем не менее они определяют его сознательное поведение, заставляя принимать неэффективные решения, вводя в депрессии и пр.
Программист: А марксизм тоже находится в сверхъестественной парадигме?
Философ: И марксизм отчасти там же. В этой теории роль сверхъестественной сущности играют общественные связи и общественные отношения, которые детерминируют сознание человека. Кроме того, сверхъестественной сущностью является общественное сознание – как набор коллективных представлений, ценностей сообщества, которые формируют особенности индивидуального сознания.
В марксизме есть интересная мысль об активности сознания. Индивидуальное сознание конструирует и меняет социальный и природный мир. Человек сознательно может сконструировать нужную ему социальную реальность – более разумную и эффективную. И эта социальная реальность может порождать новых людей.
Нейрофизиолог: Но если это верно, то сознание можно менять, помещая человека в другое общество, другие социальные условия?
Философ: Совершенно верно! Во времена Советского Союза была идея формирования человека с другим сознанием за счёт целеустремленного и проектного изменения общественных ценностей и институтов. Идея оказалась невыполнимой.
Программист: Однако эта идея присутствует не только в марксизме. Индивидуальное сознание и нового человека аналогичным образом пытались формировать в ХХ веке германские национал-социалисты.
Философ: А в ХХI веке с этой идеей живут исламские фундаменталисты.
На мой взгляд, идея о проективном формировании сознания через общественные институты (религию, государство) принципиально неверна. Я согласен с тем, что государство можно метафорически уподобить селекционеру. Государство отбирает и усиливает поведенческие черты людей, формирует ценности и установки сознания. Это верно. Но я не согласен с тем, что эта задача может быть решена в форме социального проекта, что она однозначна и технологична. Нельзя вырастить человека с новым сознанием с помощью искусственно сконструированных коллективных представлений и ценностей. Сама постановка этой задачи государством или каким-то общественным движением – игра со спичками на бензоколонке. Она социально взрывоопасна и влечёт непредсказуемые последствия.
Я надеюсь, что миллионы людей, убитых и замученных в ХХ веке во благо создания нового человека, послужат уроком людям будущего. Надо понять бесперспективность любых проектов конструирования сознания нового человека. Мы можем сформировать и запустить процесс трансформации социальной реальности и выращивания человеческих индивидов с новым сознанием. Но мы неспособны предсказать, что при этом получится на индивидуальном и социальном уровнях. Уж очень сложно устроен человек.
Программист: Поэтому вы стали сторонником естественной парадигмы? Вы можете сформулировать её установки?
Философ: Да, конечно.
На мой взгляд, в рамках естественнонаучной парадигмы никаких ноуменов сознания нет. Нет особых мистических или социальных сущностей, которые определяют сознание. Все разговоры о социальных или нейрофизиологических причинах сознания ненаучны и являются либо идеологическими артефактами, либо попытками получить грант.
Нейрофизиолог: Сильно сказано! А как же свидетельства того, что дети, выросшие в стае животных, никогда не становились по уровню сознания полноценными?
Философ: Эти факты говорят не о социальной детерминированности сознания, а о социализации (формировании через вхождение в сообщество) сознания человека. Интенции всегда в сообществе. Нет человеческого сообщества – нет человеческих интенций. Нет интенциональных актов – нет сознания. Но о сознании эти факты нам не говорят ничего. Социальность – необходимое, но не достаточное условие сознания. Поэтому категория социального не есть ноумен сознания. Обезьяна никогда не осознает себя человеком в человеческом сообществе.
Программист: А как быть с общественным сознанием?
Философ: Социальный мир – развитие сознания человека. Социальный мир влияет на человека, но истоки – в биологической организации людей, а не в особых, отделённых от природы и естественных причин сущностях. Говоря метафорами русской философии, сознание и общество растут из тела человека, как трава из почвы.
Программист: Но в этом случае человек с его сознанием не слишком сильно отличается от животного. И сознание в редуцированном виде уже есть у других живых существ.
Философ: Совершенно верно. В рамках естественной парадигмы сознание видится как часть процесса развития когнитивных способностей живых существ. У человека, конечно же, как у социального и биологического вида, есть специфика. Но она объяснима в рамках естественнонаучной парадигмы и не требует привлечения дополнительных мистических или социальных сущностей.
Нейрофизиолог: А лично ваша парадигма? Она объективна или субъективна?
Философ: Она антропна – то есть содержит черты сознания и субъективность меня как человека с таким телом – мозгами, руками, ногами и когнитивными моделями. Наука антропна. Физика антропна. Антропный принцип универсален. Если бы компьютерные вирусы вдруг стали бы самостоятельно эволюционировать и дошли до разума и сознания, то они, скорее всего, выдумали бы какую-нибудь свою естественную науку – с другой физикой, химией и геометрией. Тела вирусов отличаются от тела человека.
Программист: Если сознание объяснимо в рамках естественнонаучной парадигмы, то тогда проблематика сознания согласуется с проблематикой исследования интеллекта вообще и искусственного интеллекта в частности.
Философ: Конечно! От интеллекта до сознания – один шаг. Дайте интеллекту когнитивную модель себя и интенциональности, и вы получите сознание.
Программист: Значит, мы на пороге великих открытий? Ведь конец ХХ века – время выдающихся достижений в области искусственного интеллекта. Некоторые программы достигли уровня экспертов-людей в решении различных задач. Можно сказать, что искусственный интеллект уже создан в таких областях, как медицинская диагностика, компьютерный поиск данных, распознавание почерка или голоса. Компьютерная вирусология становится, скорее, квазибиологической, чем технической наукой.
Философ: Позвольте, коллега, немного охладить ваш пыл. На мой взгляд, Искусственный Интеллект (ИИ) – научный проект или, как говорят некоторые методологи науки, исследовательская программа в компьютерных науках, целью которой является создание искусственной системы, способной заменить человека и обладающей проявлениями, неотличимыми от проявлений человеческого сознания. Такой системы у нас нет.
Программист: Вы, похоже, говорите о сильном ИИ. Мы различаем сильный ИИ – как исследовательскую программу, подразумевающую возможность технического моделирования человеческого интеллекта и сознания в целом – во всех его аспектах, и прикладной ИИ – как моделирование тех или иных сторон или способностей человеческого разума, а также моделирование сложного поведения технических систем (поиск и обработка информации, поведение роботов и пр.).
Философ: Соглашусь с вашей терминологией. Но, на мой взгляд, к концу ХХ века исследовательская программа сильного ИИ себя исчерпала. По крайней мере, в той постановке, которая была сделана при старте проекта в 1950-х годах.
Что это значит? Постановку задач на проект сильного ИИ надо рассматривать исходя из социокультурных ожиданий общества от науки в то время. Однако результаты развития технических систем за пятьдесят лет оказались более чем скромны: техника полувековой давности не слишком сильно отличается от современной. Это же, как ни странно, можно сказать и о компьютерных технологиях. Несмотря на прогресс в скорости обработки информации и вместимости памяти, компьютеры принципиально не изменились. Вряд ли можно считать эпохальным, с точки зрения задач ИИ, выигрыш машины у чемпиона мира по шахматам. Хвастаться этим – всё равно что хвастаться победой гаубицы над человеком в соревнованиях по метанию ядра…
Программист: То есть программисты, говоря метафорами, пытались создать человека, а создали гаубицу, которая никогда человеком не станет?
Философ: Я просто высказался в духе Ноама Хомского [2]. Вслед за ним я считаю, что эти шахматные победы не приблизили нас ни к пониманию того, что есть человеческий интеллект и сознание, ни к пониманию того, как этот интеллект надо моделировать.
Налицо своеобразный «кризис жанра». Кризис постановки задач на ИИ. Программисты, занимающиеся ИИ, не знают, чем они занимаются. Скажу яснее: программными методами сейчас моделируют не интеллект и даже не современные представления о нём, а представления об интеллекте у научного сообщества середины прошлого века. Само понятие ИИ находится в устаревшей парадигме!
Программист: Стоп! Программисты знают, чем они занимаются. Они люди точные – в отличие от философов. Мы можем сказать достаточно ясно, в какой постановке задачи ИИ мы находимся. Давайте я попытаюсь её сформулировать, и вы уже будете неголословно утверждать – приблизились ли мы или отдалились от понимания того, что есть интеллект и сознание.
Философ: Давайте.
Программист: Во-первых, мы можем распознать наличие или отсутствие интеллекта по поведению системы. Например, мы говорим, что поведение пчелы не является осознанным. Почему? Потому, что оно инстинктивно. Пчела обладает набором инстинктов – встроенных поведенческих программ, в соответствии с которыми она себя ведёт. Если эти программы адекватны с точки зрения задач, решаемых пчелой, и изменения условий жизни, то пчела живёт. Если нет – пчела всё равно «работает» по этим программам, не видя изменений, и зачастую погибает из-за того, что не способна менять инстинкты.
Нейрофизиолог: То есть ваша трактовка интеллекта исходит из представления психологов, согласно которому интеллект – это способность к целенаправленному адаптивному поведению: извлечению пользы из опыта, решению задач, логическому рассуждению.
Программист: Верно. Интеллект нельзя описать одной формулой, поэтому задача ИИ состоит в том, чтобы промоделировать и запрограммировать различные функции человеческого интеллекта – изучение и обучение, умозаключение и рассуждения, решение проблем, восприятие, языковые способности.
Философ: Не совсем понял – в вашем понимании, это сильный ИИ или прикладной?
Программист: Это сильный ИИ.
Нейрофизиолог: То есть моделирование интеллекта методами ИИ – это моделирование функций высшей нервной деятельности человека?
Программист: Да. Рассмотрим, как мы понимаем эти функции. Ясно, что основной функцией является процесс обучения. Например, можно с помощью системы правил смоделировать запоминание тех или иных случаев, классификацию событий, выделение признаков. Сложнейшей проблемой является обобщение – выделение прошлого опыта в виде набора правил, которые надо учитывать в будущем.
Аналогичным образом обстоят дела с моделированием рассуждения. Можно «научить» машину правилам вывода суждений, однако сложно учесть и формализовать многозначность и контекстуальность суждений – зависимость значений суждения в цепочке рассуждений от контекста.
Отдельная область ИИ – моделирование принятия решений. Идея в том, что те или иные решения, характерные для различных проблемных областей можно формализовать и описать. В частности, можно сформировать множество целей и, исходя из их достижимости, сформировать принципы и ограничения принятия решений технической системой.
Отдельная задача ИИ – моделирование восприятия. Уже появляются роботехнические системы, оснащённые сенсорами, сигналы от которых влияют на поведение робота. Например, пылесос, который включается, заряжает батареи и путешествует по рабочей поверхности, «принимая во внимание» степень запыленности, наличие препятствий, уровень заряда батарей.
И, наконец, ключевой проблемой ИИ является моделирование разумного лингвистического взаимодействия людей.
Философ: Вы великолепно описали феноменологию интеллекта – то, как нам видится интеллект; сформулировали наблюдаемые нами показатели интеллекта – то, чем, на ваш взгляд, интеллект характеризуется. Но вы не сказали, чем, с точки зрения парадигм компьютерных наук, интеллект является.