Заключение

В этой книге мы попытались рассмотреть основные проблемы и достижения в области искусственного интеллекта. Попробуем теперь ответить на вопрос, возможно ли создание сильного ИИ и чего для этого не хватает. Если не накладывать никаких ограничений на способы его создания, то под искусственным разумом можно понимать и искусственно сконструированный мозг, состоящий из биологических нейронов. Возможность построения такого ИИ можно отрицать, пожалуй, только с религиозной позиции, основанной на вере. В основном неверие людей в реализуемость хоть в какой-то форме ИИ связано с подсознательной попыткой защитить свою уникальность, которой исследования мышления как будто угрожают. Чтобы не углубляться в неуместную дискуссию на этот счет, процитируем достаточно стандартные (для специалистов, изучающих мышление) высказывания на этот счет:

«У некоторых людей может возникнуть опасение, что такого рода материалистическая концепция, рассматривающая мозг как некую супермашину, лишит нашу жизнь очарования и отвратит нас от духовных ценностей. Это сродни опасению, что знание анатомии человека помешает нам восхищаться формами человеческого тела. Художники и медики знают, что верно как раз обратное». (Д. Хьюбел)

«Современным исследователям мышления уличный „здравый смысл” приписывает стремление все на свете формализовать и обессмыслить творчество через создание механических суррогатов мысли. Реально происходит обратное. Каждая программа искусственного интеллекта — это метафора мысли, требующая для своей реализации подъема на новую ступень мышления, разрушающая стереотипическое мышление „одномерного человека”, не ведающего, что он творит». (М. В. Сергеев)

Нас, однако, интересовал более конкретный вопрос о реализуемости алгоритмического ИИ, против которой выдвигаются гораздо более наукообразные аргументы. Эти аргументы можно в основном разделить на математические (связанные с алгоритмической неразрешимостью и проблемами порождения новой информации), физические (отталкивающиеся от тезиса, что мышление или его часть — это специфический физический процесс, который нельзя заменить никаким процессом другой природы) и психологические (указывающие на то, что с помощью алгоритмов не могут быть реализованы такие когнитивные функции, как понимание, переживание эмоций, самосознание и т. д.).

Однако, как мы видели, многие аргументы перестают работать применительно к открытым безостановочным алгоритмическим системам (или воплощенному интеллекту). В частности, для таких систем некорректным оказывается доказательство неразрешимости проблемы останова (и множество следствий из него), а также неприменимыми оказываются теоремы Гёделя, накладывающие ограничения на возможности формальных систем. Обоснования недостижимости функции понимания, отчасти справедливые для замкнутых систем, оказываются некорректными по отношению к системам, осуществляющим формирование понятий в результате взаимодействия с реальным миром. Часто у человека внутренний протест вызывают высказывания о том, что можно запрограммировать мораль и нравственность, но для таких обучаемых систем (снабженных также эмоциональной подсистемой) корректнее будет говорить об их «воспитании», а не программировании. Физические же аргументы, не подкрепленные указанием на то, какие именно функции не могут быть выполнены алгоритмическими системами (будь то решение неразрешимых задач или понимание), оказываются весьма слабыми: в конце концов, если какие-то иные процессы обеспечат искусственному интеллекту то же поведение, которое демонстрирует человек, нам будет не важно, являются ли эти процессы «мышлением» в таком узкофизическом смысле.

Иногда в качестве аргументов против алгоритмического подхода приводятся архитектурные различия между компьютерами и мозгом, которые как будто свидетельствуют о невозможности алгоритмического воспроизведения упоминавшихся когнитивных феноменов. Однако, как писал ведущий специалист в когнитивной психологии Б. М. Величковский, «…Исследование этих феноменов обычно ведется в контексте дихотомических теоретических противопоставлений: последовательный или параллельный, периферический или центральный, непрерывный или дискретный, врожденный или приобретенный… При этом действительно важные вопросы остаются неизученными». Под действительно важными вопросами понимается структура процессов, реализующих соответствующие операции. И мы действительно неоднократно это видели. Так, дискретные операции могут реализовываться на основе непрерывных процессов, и наоборот (если, конечно, речь не идет о нереалистичных бесконечных точностях), а врожденные навыки формируются в процессе эволюции, которая по структуре немногим отличается от обучения. Для описания структуры процессов ничего лучше алгоритмов еще не придумано.

Пока рано говорить о том, что все загадочные феномены — от самоорганизации до самосознания — могут быть описаны в алгоритмических терминах. Однако, по крайней мере, именно вопрос о том, что эти феномены представляют собой с алгоритмической точки зрения, позволяет избавиться от всякой мистики и гораздо точнее сформулировать их сущность.

Таким образом, серьезных научных аргументов против возможности алгоритмического ИИ в настоящее время нет, а имеющиеся аргументы порой даже противоречат друг другу. В частности, можно одновременно встретить утверждения о том, что человек может решать NP-полные задачи, что недоступно компьютеру (а значит, подразумевается гарантированное нахождение полного решения), и о том, что человеку, опять же в отличие от компьютера, свойственно ошибаться.

Нередко приводят аргумент и другого рода. Он заключается в якобы имеющемся кризисе в области ИИ. Мы, однако, видели, что развитие в этой области шло путем последовательного повышения самостоятельности интеллектуальных систем. Самостоятельность алгоритмов поиска в пространстве решений распространялась лишь на конкретную задачу, в которой могли меняться только начальные данные. Методы представления знаний позволили компьютеру решать разные задачи, принадлежащие описанной человеком предметной области. Развитие машинного обучения позволило ослабить и эту зависимость от человека. Принципы воплощенного интеллекта подразумевают создание полностью автономных (хотя поначалу и сильно упрощенных) систем, которые обладают собственным поведением.

Кроме того, на стыке разных парадигм ИИ возникли и новые направления исследований: автоматическое формирование баз знаний в процессе обучения заставило исследователей всерьез заняться проблемой представления нечетких знаний, применение для которых методов поиска в пространстве решений (или методов манипулирования знаниями) рождает проблему рассуждения в условиях неопределенности. В рамках воплощенного интеллекта все прочие проблемы также приобретают дополнительное содержание: возникают вопросы обучения осмысленным понятиям, разработки когнитивных архитектур и т. д. «Периферийные» проблемы восприятия, речевого общения, управления, обычно рассматривающиеся весьма изолированно (им, к сожалению, и в этой книге не удалось уделить должного внимания, несмотря на их чрезвычайную важность), начинают все чаще изучаться в комплексе с «центральными» мыслительными процессами, и сейчас уже мало кто думает, что, скажем, систему распознавания произвольных изображений можно реализовать в качестве независимого модуля, который бы напрямую программировался и просто подключался к блоку мышления. Задачи, которые на сопоставимом с человеком уровне нельзя решить без построения сильного ИИ, иногда называют ИИ-полными. Перечень ИИ-полных задач, частичные решения которых традиционно создаются в рамках «слабого» искусственного интеллекта, все возрастает.

Ни одна из общих проблем в ИИ пока полностью не решена. Однако причина этого может быть понята именно в рамках алгоритмического подхода. От «сильного» ИИ компьютер отделяет трудность в реализации способности работать в алгоритмически полном пространстве: это относится и к проблеме поиска, и к проблеме представления, и к проблеме обучения (равно как и к проблемам восприятия, языка и управления). Конечно, речь не идет о том, чтобы ИИ мог гарантированно находить абсолютно произвольный алгоритм, решающий дедуктивную задачу или являющийся оптимальной моделью в индуктивной задаче: в любом случае на практике это невозможно хотя бы из-за ограниченности вычислительных ресурсов. Однако включать в рассмотрение лишь незначительную часть возможных решений даже низкой сложности, как это делается в методах «слабого» ИИ, для «сильного» ИИ недопустимо. Это объективная трудность, от которой нельзя спрятаться и в рамках «неалгоритмических» подходов. Игнорирование этой трудности в проектах, ориентированных на создание сильного ИИ, приводит к тому, что цель этих проектов не может быть достигнута. Примером может служить «революционный» подход Джеффа Хокинса, описанный в его книге «Об интеллекте» в соавторстве с Сандрой Блейксли. Несмотря на то, что этот подход заимствовал некоторые мощные идеи (типа адаптивного резонанса) и имел заметную направленность на воспроизведение особенностей устройства человеческого мозга (преимущественно неокортекса), он не привел к существенному прогрессу, поскольку не преодолевал и даже не рассматривал главную трудность — работу в алгоритмически полном пространстве, без чего интеллект любой системы будет принципиально ограничен. Конечно, сейчас нельзя однозначно утверждать, что эта трудность в достаточной степени может быть разрешена в рамках самого алгоритмического подхода, но нет оснований предполагать и обратного, пока возможности алгоритмического подхода не исчерпаны. И в качестве одной из возможностей здесь видится исследование алгоритмических основ самоорганизации.

В физике нередко высказывалось мнение, что все наиболее интересное в ней уже открыто. Хоть это мнение всегда оказывалось неверным, оно продолжает периодически озвучиваться из-за того, что сделать действительно фундаментальное открытие здесь очень сложно. Аналогичное мнение в области ИИ сейчас вряд ли кто-то осмелится высказать из-за наличия сложных нерешенных проблем, которые делают работу в ней особенно интересной.

Стоит, правда, иметь в виду, что вряд ли в ИИ может быть найдена простая идея, которая решит все проблемы. Этим данная область отличается от физики, где фундаментальные законы имеют простой вид (низкую алгоритмическую сложность). Хотя можно надеяться, что некоторые наиболее фундаментальные принципы в ИИ тоже достаточно просты, их одних будет недостаточно для построения мыслящей машины (примерно в той же степени, в которой формулы E = mc^2 недостаточно для построения реактора, вырабатывающего электричество путем аннигиляции вещества). Это следует из того, что естественный интеллект обладает достаточно высокой алгоритмической сложностью и на его построение природой были затрачены огромные «вычислительные» ресурсы. Возможно, на высоком уровне абстракции разум — штука очень простая, но для реализации успешного поведения в реальном мире в наш мозг заложено множество специализированных механизмов (и не исключено, что вовсе не общие принципы, а именно эти механизмы и представляют собой то, что мы привыкли понимать под мышлением; в конце концов, сложность мышления обусловливается сложностью решаемых им задач, источником которых является внешний мир). В этой связи для создания ИИ придется либо затрачивать огромные вычислительные мощности для воспроизведения процесса самооптимизирующегося поиска, в результате которого возник естественный интеллект, либо вручную воплощать все необходимые механизмы (вероятнее всего, реализуется какой-то промежуточный вариант).

Логика глобальной эволюции подсказывает, что компьютеры (алгоритмические системы) стали ее неотъемлемой частью, очередным метасистемным переходом, а значит, они будут играть первоочередную роль в дальнейшем развитии, вероятнее всего, связанном с возникновением систем, находящихся на новом интеллектуальном уровне по сравнению с человеческим. Это является косвенным свидетельством возможности компьютерного воплощения разума. Конечно, имеются и альтернативы, например, новый интеллектуальный уровень может быть достигнут, если компьютер будет играть роль усилителя человеческого интеллекта (и этот сценарий в некотором смысле может быть предпочтительнее).

Уже давно компьютер стал неотъемлемой частью научных исследований, хотя и выполняет в них в основном низкоуровневые функции. Творческие функции остаются пока за человеком, ограниченные возможности которого, однако, становятся все более очевидными. Дальнейший прогресс науки подразумевает синтез многих знаний, но, как писал выдающийся ученый Ганс Селье в книге «От мечты к открытию», «…для того чтобы связать воедино многочисленные факты и прийти хоть к какому-то их пониманию, все они должны быть представлены в голове одного человека». Возможно, для человека это в принципе не по силам, и именно для этого может потребоваться ИИ (иногда говорится, что искусственным интеллектом занимаются те, кому не хватает своего естественного, с чем вполне можно согласиться, дополнительно отметив, что заметить нехватку интеллекта  можно лишь используя его). Правда, и сама проблема создания ИИ носит аналогичный метасистемный характер.

Мы убедились в тесных взаимосвязях данной области с другими научными дисциплинами, к которым относятся не только когнитивные науки. И связи эти двусторонние. Если раньше высказывания о том, что «понятие сознания является одним из первичных и независимых понятий физического описания мира», можно было встретить в основном у философов (так писал М. Мамардашвили, обсуждая воззрения Декарта), то сейчас аналогичные утверждения встречаются и у физиков. В частности, со следующим высказыванием Р. Пенроуза во многом можно согласиться: «Научное мировоззрение, которое на глубинном уровне не желает иметь ничего общего с проблемой сознательного мышления, не может всерьез претендовать на абсолютную завершенность. Сознание является частью нашей Вселенной, а потому любая физическая теория, которая не отводит ему должного места, заведомо не способна дать истинное описание мира». Добавим лишь, что до сих пор все физические модели не выходили за рамки алгоритмического подхода.

Итак, исследования загадок мышления, которые сейчас трудно представить без попыток его алгоритмического описания и компьютерного воспроизведения, по своему влиянию на науку и технику, вероятно, окажутся наиболее значимыми. Иными словами, эти исследования заслуживают того, чтобы принять в них участие (правда, в скобках все же нужно отметить, что, по справедливому высказыванию Селье, не следует смешивать важность целей со значимостью самих исследований, которая зависит только от достигнутых результатов).