Ставка на будущее

«Наука должна начинаться с мифов и с критики мифов». — Карл Поппер

Что отличает физическую теорию от «Гарри Поттера»?

Не логическая непротиворечивость. При желании можно построить вполне стройный мир с волшебниками, дементорами и Министерством магии. Не красота: вымышленный мир легко может оказаться красивее реального. И даже не способность объяснять уже случившееся. Прошлое лежит перед нами, и при достаточной гибкости для него почти всегда найдётся убедительная история.

Разница возникает там, где описание вынуждено поставить что-то на кон.

Если при условиях A теория заранее ожидает результат B, а мы получаем C, между теорией и миром начинается конфликт. «Гарри Поттера» можно спасти новым заклинанием, стиранием памяти или ещё одной тайной магического сообщества. Физическую теорию тоже иногда спасают дополнительными гипотезами, но каждая такая операция чего-то ей стоит.

Предсказание не доказывает, что мир устроен именно так, как говорит теория. Зато оно показывает: теория зацепила какую-то устойчивость, которая не была целиком вложена в неё рукой автора.

Между тем, что удаётся свернуть в правило, и тем, что не удаётся, как будто стоит стекло. К нему мы ещё вернёмся.

В философии науки эта идея известна как предиктивизм: успешное предсказание нового факта считается более сильным аргументом в пользу теории, чем объяснение уже известного. Карл Поппер связывал ценность теории с её проверяемостью и предсказательной силой. С этим спорят: если теорию не подгоняли под данные, хорошее объяснение прошлого может быть не хуже прогноза.

Для нашей темы этот спор можно оставить за скобками. Достаточно более слабого тезиса: предсказание — проверка, которую нельзя подделать красивым пересказом прошлого.

Фальсифицируемость заставляет прогноз рисковать, воспроизводимость помогает отличить закономерность от совпадения. Но в центре остаётся способность заранее сузить пространство возможного.

Здесь предсказание следует понимать широко: не только как прогноз результата, но и как способность заранее отсеять неработающие эксперименты, материалы и конструкции.

Долгое время образцом такой способности для нас была теория человеческого масштаба — компактная, интерпретируемая и отделимая от создавшего её инструмента.

Причина могла быть прозаической. Человеческий мозг не умеет хранить все траектории планет, варианты химических реакций и состояния материалов. Чтобы предсказывать, нам приходится сжимать опыт: выделять несколько величин, отбрасывать детали, искать повторяющиеся отношения. Тысячи наблюдений превращаются в несколько уравнений, из которых можно получить новые результаты.

Теория в такой картине — одновременно модель мира и протез ограниченного человеческого мышления.

Мы привыкли считать, что порядок устроен так:

сначала понимание, затем предсказание.

Но, возможно, они шли вместе лишь потому, что иначе человек не умел хорошо предсказывать. Понять означало свернуть множество частных случаев в несколько правил, доступных сознанию. А уже из них вычислить новое.

Сжатие, понимание и предсказание почти не различались.

И вот появляется другой предсказатель.

Оракул без карты

«Карта — не территория, которую она представляет». — Альфред Коржибски

Назовём его оракулом. Им может стать потомок LLM, нейросеть другого типа или система из множества моделей, инструментов и автоматических экспериментов.

Оракул тоже обобщает опыт. Огромное количество наблюдений превращается внутри него в вычислительную структуру, способную работать с новыми случаями. Но для человека это обобщение уже не распаковывается в несколько сущностей, законов и формул.

Мы задаём условия — и получаем прогноз.

Какой материал выдержит нагрузку? Какую пространственную структуру примет белок? Как изменится экосистема? Какой эксперимент даст больше информации? Какое устройство выполнит заданную функцию?

Первые примеры уже есть. AlphaFold предсказывает структуру белков, GraphCast — погоду, а GNoME ищет кандидатов на устойчивые кристаллические материалы. Это не «наука из ничего»: системы опираются на собранные людьми данные и ограничения, а GraphCast обучается на реанализе. Но конкретный ответ выдаёт высокоразмерная модель, а не человек, самостоятельно выводящий его из компактной теории.

Теория человеческого масштаба может возникнуть позже — в том числе благодаря модели. Но сначала иногда появляется лишь более точный или полезный ответ.

Поначалу учёный использует оракула как помощника. Затем тот начинает выбирать гипотезы и эксперименты. Наконец, сам интерпретирует результаты и перестраивает собственную модель.

Человек остаётся внутри процесса: задаёт цель, утверждает расходы, следит за приборами и получает результат. Но путь от наблюдений к гипотезе, от неё к эксперименту и следующей модели проходит в вычислительном пространстве, которое никто не способен удержать целиком. Человек уже не обязательно остаётся в его смысловом центре.

Оракул может выдавать объяснения. Только мы не знаем, описывают ли они механизм, породивший прогноз, или переводят готовый ответ на человеческий язык — в правдоподобную историю для существа, которому нужны причины, аналогии и несколько знакомых объектов.

Компактная теория перестаёт быть обязательным промежуточным слоем. Между наблюдением и работающим прогнозом больше не обязано находиться что-то, что можно записать на доске.

Выглядит это мрачно. Наука продолжает производить лекарства, материалы и устройства, но больше не создаёт понятных человеку картин мира. Код, веса и данные можно передать другому, но сама их передача ещё не даёт освоенной человеком модели мира, из которой он самостоятельно выведет следующий результат. Для каждого нового шага снова нужен оракул.

Сам расчёт может быть технически воспроизводим — при тех же коде, весах и условиях запуска. Но теряется интеллектуальная реконструируемость процесса: мы можем проверить ответ, но не восстановить в человеческих понятиях, почему был выбран именно этот вопрос. Подтвердить, что материал работает, но не понять, какие различия оракул считает существенными. Заметить ошибку, но не определить, какая часть его картины мира сломалась вместе с ней.

Особенно неприятно, что этот сценарий совсем не похож на катастрофу.

Оракул не восстаёт. Напротив, он работает слишком хорошо. Чем точнее его прогнозы, тем труднее оправдать годы работы над параллельной компактной теорией. Зачем искать понятный механизм, если следующий результат можно получить завтра?

Объяснение превращается в необязательный продукт. А наука — из производства общедоступных моделей в обслуживание доступа к предиктору.

Знание по нашей мерке

«Все модели неправильны, но некоторые полезны». — Джордж Бокс

Но здесь возникает неудобный вопрос.

А в чём, собственно, проблема?

Строго говоря, оракул тоже можно назвать теорией. Речь не о наличии или отсутствии модели, а о двух форматах: компактной теории человеческого масштаба и высокоразмерном непрозрачном предикторе. Первая тоже оракул — просто маленький, прозрачный и приспособленный к человеку.

Мы подставляем в уравнения начальные условия и получаем ответ. В знакомом диапазоне теория работает. Когда условия меняются, начинает ошибаться — и тогда мы уточняем её, ограничиваем область применения или строим новую.

Можно возразить, что компактная теория хотя бы позволяет понять, где сломалась, а непрозрачный предиктор просто выдаёт уверенный неверный ответ. Но и это различие не абсолютно. Ньютонова механика сама не сообщила о своих пределах. Их пришлось обнаруживать людям — долго, по небольшим расхождениям между расчётами и наблюдениями.

Оракула тоже можно учить оценивать неопределённость, замечать смену условий и предсказывать собственную ошибку. Гарантий это не даёт. Но их не давала и компактная теория.

Почему замена одной формулы другой считается развитием знания, а замена одного оракула другим — его потерей?

У компактной теории есть огромные практические преимущества. Её можно разобрать по частям, критиковать, преподавать, соединять с соседними теориями. Но, возможно, это не философское превосходство, а удобство формата.

Тогда наша тревога сводится к довольно антропоцентричному требованию:

знание считается настоящим только тогда, когда помещается в человеческую голову.

Мы ценим несколько ясных величин, короткую цепочку причин и формулу на странице. Но почему реальность обязана иметь такую форму?

Реальность не обязана иметь кратчайшее описание на языке, удобном примату. Она может состоять из закономерностей, которые существуют и воспроизводятся, но не сворачиваются в небольшое число доступных нам понятий.

То, что мы называли шумом

«Многие вещи нам непонятны не потому, что наши понятия слабы; но потому, что сии вещи не входят в круг наших понятий». — Козьма Прутков, «Плоды раздумья»

Здесь качели уходят в другую сторону.

Возможно, исчезновение компактной теории — не только потеря. Возможно, само требование компактности и интерпретируемости было тем стеклом, которое отделяло для нас познаваемую часть мира от непознаваемой.

Наука лучше всего работала там, где явление удавалось свернуть: выделить небольшое число переменных, устойчивых объектов и переносимых отношений. Всё остальное получало другие имена.

Шум. Частность. Контекст. Историческая случайность. Слишком сложная система. Область, где пока не найден настоящий закон.

Но отсутствие компактной теории не обязательно означает отсутствие порядка. Возможно, этот порядок просто слишком велик или имеет неподходящую для нас форму.

Мы могли принимать границу собственной способности к сжатию за границу закономерности в природе.

Оракул способен протереть это стекло.

Он может находить отношения, которые повторяются, выдерживают проверку и позволяют вмешиваться в систему, но требуют одновременно учитывать миллионы признаков и связей. Для машины это будет рабочая структура. Для человека — ответ на запрос.

Тогда придётся иметь дело с двумя ситуациями, прежде почти неотличимыми.

В первой мы не понимаем явление, потому что ещё не нашли подходящую компактную теорию.

Во второй мы не знаем, существует ли такая теория вообще, но система другого масштаба уже способна надёжно предсказывать явление.

Раньше отсутствие понимания почти автоматически означало отсутствие надёжного прогноза. Оставалась надежда, что дальнейшая работа превратит сложность в ясность.

Теперь ясность может так и не появиться, а прогноз — появиться.

Не исключено, что за этой границей лежит большая часть биологии, поведения, сложных материалов, климата, общества или ещё не выделенных областей. Не потому, что там нет законов, а потому, что их нельзя собрать в форму, которую человеческое сознание распознаёт как закон.

В таком случае оракул не закроет науку. Он расширит множество явлений, вообще доступных исследованию.

Правда, мы можем не суметь описать, что именно открылось.

В старой части мира будут компактные теории, сущности, механизмы и формулы. В новой — устойчивые прогнозы, экспериментальные подтверждения и работающие вмешательства, за которыми не возникает общей картины.

Возможно, эта вторая половина окажется в десять раз больше первой.

Возможно, в десять раз меньше.

А возможно, после перехода у нас уже не останется языка, на котором можно будет осмысленно сравнить их размеры.