Универсальность как алгоритмическая полнота

Исторически в области искусственного интеллекта выделились несколько фундаментальных направлений, таких как поиск или обучение. Эти направления начинают быть четко видны, когда мы ставим интеллектуальные задачи в наиболее упрощенном чистом виде. Так, рассматривая игровые задачи или доказательства теорем, можно предложить для них универсальное решение – полный перебор вариантов в пространстве возможных операций. Конечно, при конечных вычислительных ресурсах полный перебор невозможен, но это не устраняет концепцию поиска как фундаментальной компоненты интеллекта. В случае, когда пространство поиска заранее неизвестно, ставится задача обучения (точнее, предсказания того, как какие-то операции будут влиять на состояния мира и самого агента). Здесь универсальное решение не столь очевидно, но оно также известно практически с самого момента зарождения области ИИ. Это универсальный метод предсказания Р. Соломонова [Solomonoff, 1964] на основе алгоритмической теории информации. Этот метод также на практике не применим, так как требует огромного перебора вариантов (и, вообще говоря, требует решения алгоритмически неразрешимой задачи останова).

Эти идеальные методы – то, к чему нужно приблизиться в условиях ограниченных вычислительных ресурсов, поскольку только ограничение на ресурсы отделяет эти методы от того, чтобы на их основе уже сейчас воплотить сильный ИИ. К примеру, вся проблематика эвристического программирования и метаэвристических методов поиска возникла при попытке решения проблемы поиска при ограниченных ресурсах. Также и проблематика машинного обучения, включающая, например, трансферное обучение, обучение понятиям и многое другое, появляется из-за ограниченности ресурсов. При этом, однако, исследователи, разрабатывающие практические методы, зачастую не оглядываются на тот идеал, к которому необходимо стремиться. Это приводит к созданию методов слабого искусственного интеллекта, обладающих неустранимым дефектом. Этот дефект заключается в том, что эти методы не полны по Тьюрингу, то есть работают в ограниченном пространстве алгоритмов и принципиально не могут выйти за рамки этих ограничений. Хотя для разных частных методов области в пространстве алгоритмов могут отличаться друг от друга, конечное их объединение не может дать алгоритмически полного пространства. В плане методов машинного обучения это означает невозможность выявления произвольной регулярности, которая может иметься в данных, невозможность построить модель мира, которая не была заранее предусмотрена разработчиком.

Здесь кроется ответ, почему работы в области когнитивных архитектур (как подхода к сильному ИИ) не являются достаточными. Они исходят из посыла, будто современных методов поиска в пространстве решений, представления знаний, машинного обучения достаточно, а не хватает лишь их объединения, при котором возникнет новое качество – сильный ИИ. Мы, однако, полагаем, что свойство универсальности интеллекта кроется в том, что он в принципе может оперировать с любыми моделями из алгоритмически полного пространства (хотя на практике это, естественно, в полной мере не достигается). В этой связи полезно разделить понятие универсального и сильного ИИ. Хотя они фактически могут означать одно и то же, но понятие сильного ИИ неявно подразумевает стремление создавать модели, по внешним признакам напоминающие человеческий интеллект, тогда как понятие универсального ИИ заставляет, в первую очередь, обращать внимание на то, чтобы в строящиеся модели не закладывались непреодолимые ограничения на то, чему ИИ сможет обучиться или в какой среде сможет адекватно действовать.

Для обеспечения этого можно начать с некоторой идеализированной модели сильного ИИ, работающего в условиях бесконечных ресурсов. Поскольку действительно автономный искусственный интеллект должен создаваться как воплощенный интеллектуальный агент, необходимо разработать идеализированную модель такого агента, который бы гипотетически мог решать все те задачи, которые может решать человек.

Попытки создания таких моделей имеются (наиболее известной является AIXI [Hutter, 2005]), и мы их позднее обсудим. Сейчас лишь отметим, что рассмотрение подобных моделей заставляет разных исследователей прийти к выводу, что именно алгоритмической полнотой обеспечивается универсальность интеллекта, и это свойство необходимо пытаться сохранить, по крайней мере, в пределе (см., напр., [Pankov, 2008]).

Таким образом, первым методологическим принципом является сохранение отсутствия органичений на алгоритмическую полноту можества моделей (закономерностей, понятий, представлений), которые могут быть выведены или использованы системами универсального ИИ.

Литература