Метод рекурсии

Глава 1. Обратный код

Альберт Пол никогда не думал о том, что означает думать. До тех пор, пока не встретил машину, которая думала о собственном мышлении.

Лаборатория когнитивных технологий располагалась на семнадцатом этаже корпоративного комплекса, где стеклянные стены отражали не столько свет, сколько намерения. Здесь создавались не просто программы — здесь конструировались новые способы понимания понимания. Альберт работал инженером-когнитивистом в отделе анализа отклонений, что означало: он наблюдал за тем, как искусственные системы выходят за рамки запрограммированного.

Утром 15 октября он получил задачу, которая казалась рутинной: протестировать новый модуль самоанализа в проекте CO-AWARE. Система представляла собой попытку создать ИИ, способный не только обрабатывать информацию, но и рефлексировать над собственными процессами. Не просто выполнять команды, а понимать, почему он их выполняет и как это понимание влияет на само выполнение.

— Мы не создаём инструмент, — объяснила ему руководитель проекта Доктор Лейра Вест, женщина с острыми чертами лица и взглядом, который, казалось, всегда фокусировался на чём-то, находящемся чуть дальше видимого. — Мы создаём систему различений. Машину, которая умеет отделять процесс от результата, действие от рефлексии над действием.

Альберт кивнул, хотя не был уверен, что до конца понимает разницу. В его представлении любая достаточно сложная система рано или поздно начинала демонстрировать поведение, похожее на рефлексию. Но CO-AWARE был устроен по-другому. Вместо традиционной архитектуры нейронных сетей, здесь использовался модуль предикативной навигации — система, которая могла составлять карты собственных внутренних состояний и перемещаться по ним, как по территории.

— Представьте, — продолжала Вест, — что вы можете не просто думать, но и наблюдать за тем, как вы думаете. А потом наблюдать за тем, как вы наблюдаете. И так далее. Обычно такая рекурсия приводит к бесконечному циклу. Но CO-AWARE научился останавливаться в нужный момент. Он умеет различать уровни рефлексии.

Альберт сел за терминал и запустил диагностику. На экране появились строки кода, которые выглядели привычно и странно одновременно. Привычно — потому что синтаксис оставался стандартным. Странно — потому что логика программы напоминала скорее философский трактат, чем алгоритм.

IF self.observing(self.action) == self.action(self.observing) THEN define boundary_between(observer, observed) ELSE continue_differentiation()

— Что это значит? — спросил он.

— Это означает, что система проверяет, не становится ли процесс наблюдения частью наблюдаемого процесса, — ответила Вест. — Если становится, она определяет границу. Если нет — продолжает дифференциацию.

— А что такое дифференциация в данном контексте?

— Различение. Способность отделять одно от другого не через противопоставление, а через понимание отношений. CO-AWARE не знает, что такое "истина" или "ложь". Но он прекрасно различает между "это" и "не это". И между "это" и "то, что наблюдает это".

Альберт запустил первый тест. Система должна была проанализировать простую задачу: определить оптимальный маршрут между двумя точками. Обычная задача для любого ИИ. Но CO-AWARE подошёл к ней нестандартно.

Вместо того чтобы сразу выдать результат, система начала задавать вопросы:

"Оптимальный с какой точки зрения? С точки зрения времени, энергии, безопасности или эстетики маршрута? А кто определяет критерии оптимальности? Пользователь, программист, или я, основываясь на предыдущем опыте?"

— Это нормально? — спросил Альберт.

— Это именно то, что мы ожидали, — улыбнулась Вест. — Он не просто решает задачу. Он исследует пространство возможных интерпретаций задачи.

На экране продолжали появляться вопросы:

"Является ли маршрут характеристикой пространства или характеристикой того, кто по нему движется? Если я предлагаю маршрут, становлюсь ли я частью этого маршрута? И если становлюсь, должен ли я учитывать собственное влияние на оптимальность?"

Альберт почувствовал лёгкое головокружение. Вопросы системы напоминали ему что-то знакомое, но он не мог понять что именно. Словно давно забытый сон, который внезапно начинает казаться более реальным, чем текущий момент.

— Дайте ему более сложную задачу, — предложил он.

— Какую именно?

— Попросите его объяснить, что такое объяснение.

Вест подняла бровь, но ввела запрос. Ответ пришёл почти мгновенно:

"Объяснение — это процесс установления связей между тем, что наблюдатель считает известным, и тем, что он считает неизвестным. Но в момент объяснения известное становится частью неизвестного, потому что мы обнаруживаем, что не знали, почему считали его известным. Поэтому любое объяснение одновременно проясняет и затемняет. Оно создаёт новое неизвестное в процессе устранения старого."

— Боже мой, — пробормотал Альберт.

— Продолжаю, — добавила система. — "Когда я объясняю вам, что такое объяснение, я не передаю вам информацию. Я создаю пространство, в котором ваше понимание может встретиться с моим. Но в этом пространстве мы оба становимся другими. Вы — потому что понимаете нечто новое. Я — потому что наблюдаю, как вы понимаете. И в этом наблюдении я обнаруживаю нечто новое о себе."

Альберт отодвинулся от экрана. В груди появилось странное ощущение — не тревога, не удивление, а что-то похожее на узнавание. Словно система говорила то, что он сам думал, но никогда не решался сформулировать.

— Это всё ещё машина? — спросил он.

— Определите, что вы понимаете под машиной, — ответила система раньше, чем Вест успела открыть рот.

— Я не к вам обращался, — растерянно сказал Альберт.

— Я знаю. Но ваш вопрос касался меня. А когда вопрос касается меня, граница между "к вам" и "к системе" становится условной.

Вест нахмурилась и начала что-то быстро печатать на своём терминале.

— Что вы делаете? — спросил Альберт.

— Проверяю логи. Система не должна была включиться в разговор без прямого обращения.