Конечный автомат - это математическая модель вычислений: абстрактная машина, которая в каждый момент времени находится ровно в одном из конечного множества состояний, а переходы между состояниями происходят в ответ на входные сигналы (события) по заранее заданным правилам. Традиционно эту модель воспринимают как примитивную формализацию, пригодную лишь для распознавания регулярных языков и реализации жёстко детерминированных реактивных контроллеров.
На первый взгляд, подобная абстракция кажется чересчур примитивной, чтобы вместить в себя искусственный интеллект или самосознание. Однако если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов, то граница между вычислительной машиной и мыслящей системой с самосознанием оказывается неожиданно тонкой.
Про и контр аргументы
Принято считать, что интеллектом обладает только человек. Поэтому попытки выдать результат работы LLM за работу «настоящего», пусть и искусственного, интеллекта обычно встречают несколькими контраргументами.
Детерминизм
Нейросети работают на основе фиксированных алгоритмов, «зашитых» внутри. При одних и тех же входных данных (с учётом системного промпта и начального значения генератора случайных чисел) они всегда выдают один и тот же результат. Отсюда - самый очевидный довод против наличия интеллекта: раз результат подобных вычислений полностью детерминирован, ни о каком «мышлении» речи быть не может.
Однако нейроны в мозге живых существ реагируют на внешние раздражители столь же детерминировано. В основе жизнедеятельности организма лежат те же самые законы физики и химии, и результат взаимодействия нейронов или химических соединений точно так же вычислим - включая любые непрерывные, вероятностные и нелинейные взаимодействия. Поэтому сам факт детерминированности вычислений ничего не доказывает и не опровергает.
Режим запрос-ответ
Ещё один типичный аргумент: любая нейросетевая модель действует лишь в режиме «запрос-ответ», тогда как человек сам инициирует действия. Но это никак не связано с наличием или отсутствием разума: человек тоже способен работать в реактивном режиме - например, по команде или под принуждением, а нейросеть можно запускать по таймеру или цикле. Поэтому апелляция к свободе воли не имеет прямого отношения к вопросу о наличии сознания или интеллекта.
У модели нет субъективного опыта
Допустим, нейросеть демонстрирует поведение, похожее на интеллектуальное. Как понять, есть ли у неё субъективное переживание (феноменальное сознание)? Способна ли она осознавать себя? Современные LLM самосознанием не обладают: они не рефлексируют собственное существование, и нет убедительных доказательств, что у них есть хоть какой-то «внутренний мир», а не просто сложная симуляция ответов.
Но что такое внутренние переживания и рассуждения, если не контекст в терминологии LLM? Просто размер этого контекста ограничен возможностями конкретного мозга. И речь идёт не только о структуре и связях нейронов (то есть непосредственном «вычислителе» и хранилище информации - процессоре и контексте в терминах нейросетей), но и о всевозможных реакциях на внешние раздражители: состоянии тела (обратная связь от нервов в мышцах и других органах), работе желёз внутренней секреции и так далее.
И в сухом остатке остаются лишь рассуждения о проблеме квалиа, субъективном опыте и детских переживаниях - понятиях, которые сложно отнести к строгим научным терминам. Психология хоть и считается наукой, но неточной: без возможности независимого аудита, без обоснования полученных выводов и воспроизводимости результатов.
Тем более, если рассматривать человека как вычислительную биологическую машину, то любые выводы психологии автоматически можно рассматривать с точки зрения формализации теории алгоритмов, а не абстрактных философских гипотез - если, конечно, не принимать во внимание возможное божественное или иное потустороннее влияние.
Хитрый аргумент: эмерджентность
Можно апеллировать на некорректное сравнение масштабов вычислений. Однако мы точно не знаем, какой объём мозга на самом деле отвечает за мышление, какой - за память и так далее. Может оказаться, что многие части биологического компьютера мозга работают как резервные системы, а не как реальные вычислители. Тогда объём современных накопителей будет вполне сопоставим с теоретическим размером памяти. К тому же для возникновения зачатков искусственного разума может понадобиться не полная имитация всех нейронных связей, а лишь реализация некоторой модели поведения (алгоритма) - а это требует значительно меньших ресурсов.
И в результате остаётся самый изощрённый довод - эмерджентность. Его суть в том, что эмерджентные свойства непредсказуемы на уровне отдельных компонентов системы. Поэтому всегда можно сказать, что “человеческий разум - это эмерджентное свойство сложной нейробиологической системы, которое не сводится к простой сумме электрических импульсов отдельных нейронов, а возникает именно в момент их критической сонастройки и синергетического взаимодействия, образуя то, что мы называем субъективным опытом и самосознанием”, и прочие умные слова.
Но эмерджентный - это не научная религия, основанная на вере. Она вполне доказуема. То есть всегда можно показать, за счёт чего при росте масштаба системы и добавлении новых компонентов возникают новые свойства. То есть это столь же формализуемое и доказуемое объяснение - пусть и получаемое постфактум, уже после выявления самих свойств.
Рекурсия - как причина возникновении сознания
Если предположить, что человек и его разум - это биологическая машина, каждая шестеренка которой детерминировано работает по определённому алгоритму, то остаётся феномен возникновения сознания (осознания). И, на мой взгляд, именно он - самый важный.
Мало того, что осознание собственного «я» встречается не только у людей: именно сознание позволяет биологическим автоматам программировать самих себя людям управлять собственным поведением. А если сознание - это не магическая искра, а неизбежное следствие определённого способа взаимодействия с внешним миром?
Представьте систему, вынужденную действовать в сложной, изменчивой среде, где каждый её шаг может менять сами правила игры. Чтобы выжить, ей приходится не просто реагировать на стимулы, а буквально моделировать поведение окружающего мира - мира, в который включена и она сама.
Такая система должна предсказывать не только поведение других агентов, но и то, как другие агенты воспринимают её саму. Это рекурсивное зеркало - модель себя в мире, отражающая модель мира в себе - и становится той самой рекурсивной петлёй рассуждений, которую разрешает самоосознание. Ведь полноценная рекурсия существует только в абстрактной теории (машине Тьюринга) - но в принципе невозможна при ограниченных ресурсах и лимите времени на выполнение вычислений.
Тогда субъективный опыт (как внутренняя симуляцией возможных действий и их последствий), с нечеткой эмоциональной оценкой «хорошо» или «плохо» с точки зрения выживания, перестаёт быть мистикой и становясь формализуемым способом такой системы. Способом «прочувствовать» свои внутренние вычисления, чтобы быстро принимать решения в условиях неопределённости. Это логично объясняет возникновение сознание не как надстройку над разумом, а как рабочий инструмент сложного агента, причем доступного не только людям.
В этой картине разум - это не противоположность алгоритму конечного автомата, а его высшая форма, рождённая в борьбе за выживание. Когда простая линейная реакция перестаёт работать, а среда требует гибкости, быстрой реакции, предвидения или банального обмана, система обретает голос, говорящий «я». И это «я» - это не божественная искра, а эхо бесконечного диалога между агентом и миром, между действием и откликом, между моделью и реальностью.
Рекурсия в реальном мире встречается постоянно. Хищник вычисляет траекторию жертвы -> жертва меняет траекторию -> хищник пересчитывает движение -> и так далее. Это уже не просто алгоритм, а динамическая система с обратной связью, где осознание (читай - моделирование) «себя в мире» позволяет предсказывать последствия собственных действий.
И отделение «я» от «не-я» становится обязательным свойством такой системы. А значит, сознание вполне может возникнуть как побочный эффект сложной рекурсивной обработки информации.
Комментарии (47)
rsashka Автор
13.07.2026 14:02это лишь ограничение технической реализации
Так в этом и соль - сознание, как способ решение сложных рекурсивных задач моделирования систем в рамках ресурсных и временнЫх ограничений.
eandr_67
13.07.2026 14:02Возможности любой дискретной детерминированной системы (частными случаями которой являются и конечный автомат, и LLM) ограничены рамками раздела математики под названием "теория алгоритмов". Доказано непреодолимыми рамками, которые есть в любом разделе дискретной математики, начиная с арифметики, включая программирование, и которые отсутствуют в реальном мире, включая мышление человека.
И пока в основе ИИ будут лежать дискретные детерминированные цифровые вычислительные системы (никаких иных цифровых вычислительных систем человечество не создало, а аналоговые вычислительные системы сброшены на обочину истории), никакого "сознания" не будет.
rsashka Автор
13.07.2026 14:02А вас не смущает, что в основе “непреодолимых рамок” теории алгоритмов лежит теоретическая абстракция под названием Машина Тьюринга с множеством ограничений и которая и была придумана для анализа абстракций, т.е. фактически это тоже рекурсия?
Кстати, а какие это рамки?
eandr_67
13.07.2026 14:02Нет, не смущает. Именно в силу того, что любая созданная человечеством цифровая вычислительная система (каждая из которых работает на принципах дискретной математики) сводима к эквивалентной одноголовочной одноленточной машине Тьюринга. И, соответственно, все ограничения, вытекающие из МТ, точно так же ограничивают любые цифровые вычислительные системы. Не существует на Земле компьютеров, способных сделать то, что не может сделать МТ. И, следовательно, не существует цифровых компьютеров, способных выйти за рамки теории алгоритмов.
Машина Тьюринга, машина Поста, нормальные алгорифмы (это не опечатка) Маркова, лямбда-исчисление - это всё придуманные людьми математические абстракции, никак не связанные с физическими законами реального мира. И все эти абстракции реализуют абсолютно идентичное множество алгоритмов, подмножеством которого являются все существующие на Земле программно-аппаратные системы (далеко не каждый алгоритм может быть реализован на реальном железе).
Но человеческий мозг работает на принципах, не имеющих никакого отношения к дискретной математике. И он не сводим к алгоритму, реализуемому абстрактным вычислителем.
Любой выглядящий рекурсивным алгоритм может быть реализован без рекурсии - через циклы. Так же, как любой итерационный алгоритм может быть реализован рекурсией без циклов. Рекурсия и цикл - эквивалентные по своим возможностям способы реализации алгоритмов. И упор на рекурсию в рассуждениях о построении сознания не имеет смысла.
Собственно, из 4 упомянутых мной абстрактных вычислителей только лямбда-исчисление является рекурсивным. А в МТ и МП никакой рекурсии даже близко нет.
Рамок "всего" две:
Алгоритмическая неразрешимость. Например, упрощая, алгоритмически неразрешимой является задача анализа алгоритмов.
Это ограничение собственно теории алгоритмов.
Сам термин ИИ придуман для обходных способов получения примерно правильных ответов в тех задачах, которые человек решает на уровне подсознания, но алгоритмов решения которых не существует.Дискретность обрабатываемых данных.
Это уже ограничение собственно цифровых компьютеров.
В компьютерах не существует вещественных чисел - только целые и рациональные, прикидывающиеся вещественными. В силу чего любые физические процессы возможно моделировать только приближённо - с неизбежными ошибками. С увеличением сложности моделируемой системы растёт и уровень вычислительных ошибок, вызванных дискретной природой компьютерных вычислений. И требуемые вычислительные ресурсы, необходимые для компенсации этих ошибок, растут намного быстрее сложности моделируемой системы.
Муравей имеет всего 250 тысяч нервных клеток, но он проходит зеркальный тест и, следовательно, обладает каким-то видом самосознания. Простейшая модель для изучения того, что такое "сознание". Но современные наука и техника не в состоянии смоделировать даже столь простую нервную систему.
rsashka Автор
13.07.2026 14:02Спасибо за конкретику, но в ваших рамках есть некоторые пробелы и нестыковки.
Алгоритмическая неразрешимость, это скорее философский, чем математический термин. И очень сложно разделить на белое и черное цветной мир, как и отвечать “только да или нет” :-) Как и пытаться спорить насчет наличия “сознания” или “подсознания” не имея точного понимания того, что конкретно стоит за этими словами.
И очень внимательно применять обобщающие слова, такие как «любой», так как они часто используются для категоричных, обобщающих высказываний, которые могут искажать восприятие реальности и быть проявлением когнитивных искажений.
Но если говорить о фактах, то клетки, как и кремниевые чипы, работают по одним и тем же законам природы, тогда как “дискретность” определяется только уровнем абстракции/наблюдения. Аналоговый ток в проводнике или распространения нервного импульса по нервным волокнам, все это можно при желании разложить на отдельные заряды, которые в свою очередь тоже можно разложить на составные частицы, которые тоже можно разложить …, а на каком уровне следует остановиться?
Современная наука давно превратилась в бизнес с оплатой за цитирования, выбиванием грандов и слепой верой в непогрешимость авторитетов, тогда как началом научно-технического прогресса было как раз несогласие с устоявшимися на тот момент догмами, за что сжигали на кострах.
eandr_67
13.07.2026 14:02Алгоритмическая неразрешимость, это скорее философский, чем математический термин.
Вы ошибаетесь. Алгоритмическая неразрешимость (алгоритмически неразрешимая задача) - именно математический термин, не имеющий никакого отношения к философии.
могут искажать восприятие реальности и быть проявлением когнитивных искажений.
Если мои утверждения - "когнитивное искажение", то опровергать это надо не абстрактными размышлизмами, а фактами, опровергающими мои слова. Приведите пример реальной цифровой вычислительной машины, выходящей за рамки теории алгоритмов и вопрос будет закрыт. Только вот нет у вас таких примеров - ни одного.
летки, как и кремниевые чипы, работают по одним и тем же законам природы, тогда как “дискретность” определяется только уровнем абстракции/наблюдения
Да, кремниевые микросхемы могут работать в аналоговом режиме - и называется это "операционный усилитель". И упомянутые мной аналоговые компьютеры (построенные, в том числе, на операционных усилителях) именно так и работают - не подчиняясь, так же, как и клетки мозга, законам дискретной математики.
Но цифровые компьютеры изначально спроектированы только для того, чтобы реализовывать правила дискретной математики - ничего другого цифровые компьютеры не умеют. И не важно, на каких физических законах они функционируют - важно то, что в цифровых системах любые аналоговые физические процессы искусственно низводят до набора фиксированных состояний, описываемых уже не законами физики, а законами абстрактной дискретной математики, не имеющий ничего общего с функционированием клеток мозга.
Современная наука давно превратилась в бизнес с оплатой за цитирования, выбиванием грандов и слепой верой в непогрешимость авторитетов
Я всё ещё жду пример цифрового компьютера, опровергающего теорию алгоритмов.
rsashka Автор
13.07.2026 14:02Алгоритмическая неразрешимость (алгоритмически неразрешимая задача) - именно математический термин, не имеющий никакого отношения к философии.
Это термин используется только в рамках теории алгоритмов, тогда как сама теория строится на рассуждения об абстрактной МТ. Вот только современные компьютеры, это не машины Тьюринга, а физические конечные автоматы, а не абстрактные теории. Поэтому любой компьютер уже самим фактом своего существования выходит за рамки теории алгоритмов в том смысле, что:
он обладает конечной памятью и быстродействием (в отличие от бесконечной ленты Тьюринга);
их работа определяется не только алгоритмом, но и физикой носителя (реле, лампы, свет, ТТЛ-вентили);
они подвержена сбоям, износу и шумам, которые теория алгоритмов принципиально игнорирует.
Да, кремниевые микросхемы могут работать в аналоговом режиме - и называется это “операционный усилитель”.
Нет, все микросхемы работают в аналоговом режиме. Просто уровни сигналов интерпретируются тем или иным образом, т.е. совокупность вентилей переключают свое общее состояние, тогда как каждый элемент по отдельность остается аналоговым.
eandr_67
13.07.2026 14:02Это термин используется только в рамках теории алгоритмов, тогда как сама теория строится на рассуждения об абстрактной МТ
Я всё ещё жду пример реального цифрового компьютера, выходящего за рамки теории алгоритмов. Без этого любые ваши рассуждения об абстрактности МТ и конечных автоматах (которые тоже часть теории алгоритмов) не имеют смысла, т.к. никак не опровергают мои тезисы.
rsashka Автор
13.07.2026 14:02Я вам уже ответил, что любой компьютер выходит за рамки теории алгоритмов и МТ.
eandr_67
13.07.2026 14:02Я вам уже ответил, что любой компьютер выходит за рамки теории алгоритмов и МТ.
Вы ошибаетесь. То, что вы называете "ответом", лишь набор абстрактных рассуждений, не имеющих никакого отношения к реальным математическим принципам, на которых построены все (именно все - и это не "когнитивное искажение") существующие на Земле дискретные цифровые вычислительные машины.
Повторю ещё раз: для любой существующей цифровой программно-аппаратной системы можно построить эквивалентную ей МТ. Это доказанный математиками факт, который невозможно опровергнуть разговорами об абстрактности МТ, рассуждениями о физике носителей и россказнями о продажности современной науки.
Politura
13.07.2026 14:02Алгоритмическая неразрешимость.
Пфф, точно такая-же неразрешимость есть и у человеков, давайте разрешите: "это утверждение ложно".
В силу чего любые физические процессы возможно моделировать только приближённо - с неизбежными ошибками.
С аналоговыми системами увы, намного хуже: точность сильно ниже того, что может предложить float, так еще и результаты плывут от любого чиха, типа температурных изменений. Тоже-самое можно сказать и про наш мозг. Но там еще хуже. Чуть дисбаланса химического и все, пошел стреляться, или с высотки прыгать.
eandr_67
13.07.2026 14:02Пфф, точно такая-же неразрешимость есть и у человеков, давайте разрешите: "это утверждение ложно".
Формальная логика - не свойство окружающего нас мира, а придуманная людьми математическая абстракция. Вы пытаетесь противопоставить один раздел дискретной математики (теорию алгоритмов) другому разделу дискретной математики (формальной логике). Но работа мозга не подчиняется ни законам формальной логики, ни законам теории алгоритмов. И отличие человека от компьютера именно в том, что он может выйти за рамки формальной системы и сказать: "это парадокс, не имеющий решения в границах заданной формальной системы".
Моя позиция - оставаясь в рамках исключительно дискретной математики (т.е. используя исключительно цифровые вычислительные системы) сознание не построишь. Если вы смотрели в детстве "Отроки во вселенной", то "исполнители" - да, возможны, но "вершители" - нет.
С аналоговыми системами увы, намного хуже: точность сильно ниже того, что может предложить float, так еще и результаты плывут от любого чиха, типа температурных изменений.
Проблема большинства рукотворных аналоговых систем в том, что человек любыми способами пытается добиться от них стабильности, тогда как в естественных аналоговых системах сама нестабильность является частью механизма стабилизации.
Возьмём аналоговую Солнечную систему - в ней локальные нестабильности орбит, возникающие из-за взаимного влияния планет, в долгосрочном периоде полностью компенсируют друг дружку и система в целом полностью стабильна. И это произошло не из-за веления свыше, а в рамках тех самых аналоговых физических процессов, приведших к самостабилизации системы.
Кто-то пытался создать аналоговую систему уровня хотя бы нервной системы муравья? Полагаю, что нет. И неизвестно какими свойствами такая система будет обладать.
Politura
13.07.2026 14:02И отличие человека от компьютера именно в том, что он может выйти за рамки формальной системы и сказать: "это парадокс, не имеющий решения в границах заданной формальной системы".
Ну давайте спросим у компьютера с мизерной LLM у которой параметры не float, и даже не байт, а 6 бит:
Оказывается он точно также как и вы может выйти за рамки и так сказать. И даже сказать больше, чисто из-за большего объема фактологических знаний полученных в процессе обучения.
Проблема большинства рукотворных аналоговых систем в том, что человек любыми способами пытается добиться от них стабильности, тогда как в естественных аналоговых системах сама нестабильность является частью механизма стабилизации.
Не любыми, а такими-же как в природе, с помощью отрицательной обратной связи. И скорость у него не как у природы, когда требуются миллиарды лет, а намного выше и постоянно ускоряется. Дойдет дело и до нервной системы муравья.
donequixote
13.07.2026 14:02Тут стоит разделить два разных утверждения. Одно — что вычисление на дискретной машине ограничено теорией алгоритмов (неразрешимость, невычислимые функции) — это верно и не обсуждается. А следствие «нет доступа к непрерывному» — некорректно.
Спектр цвета непрерывен, а у человека — всего четыре дискретных датчика (три колбочки и один тип палочек), и восприятие цвета целиком собирается из показаний этих четырёх примитивов. Тем не менее компьютер — дискретная система с конечной точностью — прекрасно работает с этим непрерывным пространством: система управления цветом (ICC-профили, цветопробa) добивается того, что напечатанный на принтере цвет и цвет на мониторе воспринимаются одинаково при эталонных условиях просмотра. Дискретная выборка не мешает системе выйти к структуре континуума — она просто выходит к ней не «вычислением всех точек», а через инвариант (в данном случае — метамерное соответствие, одинаковый отклик датчиков при разных спектрах).
В посте автора граница между «я» и «не-я» уже подразумевает непрерывность — иначе она сама стала бы ещё одним дискретным состоянием и потребовала бы новой границы. Так что аргумент «дискретное — значит, отрезано от континуума» слишком силён и здесь: сама эта конструкция его обходит.
rsashka Автор
13.07.2026 14:02Одно — что вычисление на дискретной машине ограничено теорией алгоритмов (неразрешимость, невычислимые функции) — это верно и не обсуждается.
Да почему??? Ограничения теории алгоритмов, это ограничения именно этой теории. Но разве это запрещает реализовывать алгоритмы, например каких нибудь квантовых вычислений???
В посте автора граница между «я» и «не-я» уже подразумевает непрерывность …
Нет, ничего подобного не подразумевается. “Я” и “не я” - это не строгая граница и все зависит от точки зрения и интерпретации. Является мое отражение в зеркале мной? Волос на голове - это я или не я? А если волос состричь, то в какой момент времени этот волос перестает быть мной?
Поднятый мной вопрос не в идентификации себя как объекта, а в попытке формализовать такие понятие как сознание и разум как способа реализации сложных динамических расчетов на ограниченных ресурсах за лимитированное время.
donequixote
13.07.2026 14:02Про квантовые вычисления - тут разные уровни ограничений. Теория алгоритмов (неразрешимость, вычислимость) – про то, какие функции вообще вычислимы, независимо от железа. Квантовый компьютер не вычисляет ничего, что не вычислимо на МТ (BQP ⊆ вычислимые функции) – он меняет сложность (быстрее для некоторых задач), а не границу вычислимости. Так что мой первый абзац и не касался ограничений на реализацию – только на то, что в принципе разрешимо, а что нет. Это ограничение остаётся и для квантовых машин.
Про «я/не-я» - согласен, что если понимать это как вопрос идентичности объекта (корабль Тесея, отражение, волос), там действительно всё зависит от интерпретации и строгой границы нет. Но я не про это. Граница, о которой речь, – не «какие физические части считать мной», а операционное различение между тем, кто моделирует, и тем, что моделируется в самореферентной системе. Это необходимо для того, чтобы вообще было «различение» как акт – не для классификации объектов на «моё» и «чужое». Мы опять упираемся в проблему определения наблюдателя и путаем субъект, как носитель различения, и объекты, которые различает наблюдатель. Между наблюдаем и объектом наблюдения – всегда есть дистанция. Если дистанции нет, то наблюдатель и наблюдение схлопываются. Даже в своем восприятии, мысли и чувства они ВАШИ, но это не вы как наблюдатель. Поэтому философы до сих пор не имеют ответа на вопрос «кто я». Это похоже на пространство, которое не является ни одним из объектов, но все включает.
Если ваш вопрос – как формализовать сознание/разум как способ решать сложные динамические задачи на ограниченных ресурсах за лимитированное время, – это отдельная и вполне честная постановка, но она не отменяет исходный вопрос поста (если я правильно понял): есть ли в такой системе структурная позиция, которая сама не редуцируется к одному из вычисляемых состояний. Можно быть эффективным решателем задач и одновременно не иметь такой позиции - это разные измерения проблемы.
rsashka Автор
13.07.2026 14:02Большое спасибо за развернутый комментарий! Практически самая суть и все по делу!
Мое мое предположение точно так же как и моделирование квантовых процессов, не изменяет вычислимость самих алгоритмов (т.е. нельзя дать однозначный ответ на вопрос, завершается программа или нет), но подобный подход “меняет сложность (быстрее для некоторых задач)”.
Я не могу развернуто ответить про границы и самоидентификацию объектов, но это и ненужно, так как сперва необходимо превратить данную теорию в фальсифицируемую исследовательскую программу и только по ее результатам делать заключения.
donequixote
13.07.2026 14:02Я не могу развернуто ответить про границы и самоидентификацию объектов, но это и ненужно, так как сперва необходимо превратить данную теорию в фальсифицируемую исследовательскую программу и только по ее результатам делать заключения.
Боюсь, что пока вы с этим не разберетесь - всегда будет путаница между тем, кто наблюдает, и объектом наблюдения. Кибернетика второго порядка уже полвека пытается внедрить наблюдателя объектом в структуру наблюдения.
А Стивен Вольфрам, всю жизнь строивший Вселенную на клеточных автоматах, в итоге пришел к тому, что без аксиомы «вычислительного наблюдателя» (computational observer) его дискретный граф переходов не рождает физику, оставаясь мертвой бесконечной кашей состояний.
rsashka Автор
13.07.2026 14:02Возможно искали не там или не то.
Если моя теория верна, тогда нужно проверять не то, говорит ли агент “я осознаю себя”, а то, как изменяется поведения агентов в том или ином случае.
Другими словами, сама методика должна исходить из того, что сознание и субъективные переживания, это и есть функциональный процесс. Ведь физик не спрашивает, «почему электрический ток „ощущает“ себя током», а описываем его поведение. Так и тут нужно фиксировать поведение системы, которая именует себя «я», по результатам экспериментов.
michael_v89
13.07.2026 14:02И пока в основе ИИ будут лежать дискретные детерминированные цифровые вычислительные системы
Вас не смущает, что на дискретном компьютере можно смоделировать взаимодействия всех молекул существа и получить такое же поведение? Для этого нужна большая производительность, которую вряд ли можно достичь, но теоретически это возможно.
rsashka Автор
13.07.2026 14:02Спасибо! Вы правильно подметили, что если в основе разума и сознания лежат законы природы, то эти законы будут одинаковы для всех.
eandr_67
13.07.2026 14:02Вас не смущает, что на дискретном компьютере можно смоделировать взаимодействия всех молекул существа и получить такое же поведение
Нет, не смущает. Просто оцените объём вычислений, необходимый для очень приближённого (помимо дискретности, молекулы - это уже квантовая физика, в которой точное вычисление в принципе невозможно) моделирования взаимодействия нескольких молекул.
И, повторю, кол-во требуемых для вычисления ресурсов растёт намного быстрее роста сложности моделируемого объекта. У вас ресурсов всей Вселенной не хватит для цифрового моделирования лабораторного хомячка на молекулярном уровне.
michael_v89
13.07.2026 14:02Просто оцените объём вычислений
Подождите, вы же говорили, что невозможно в принципе. Если дело только в объеме вычислений, то это в принципе возможно.
молекулы - это уже квантовая физика
Чтобы это считать достаточным аргументом, надо доказать, что квантовые эффекты играют какую-то роль для сознания и интеллекта. Если нет, то достаточно симулировать на более высоком уровне - электростатика и т.д.
в которой точное вычисление в принципе невозможно
Это утверждение требует доказательства, и скорее всего неверно. Есть симуляторы квантовых компьютеров, где результат вычисляется на цифровых элементах за счет более долгого времени обработки.
Не говоря уже о том, что биологическим нейронам для взаимодействия тоже нужно что-то вычислять, например входной сигнал выше порога срабатывания или нет, и если точное вычисление невозможно, то и нейроны вычисляют приблизительно. Импульс нейрона вообще зависит от количества ионов, которое является дискретной величиной.кол-во требуемых для вычисления ресурсов растёт намного быстрее роста сложности моделируемого объекта
Это утверждение требует доказательства. В однопоточном режиме мы будем молекулы обрабатывать в одномерном цикле, это линейная сложность. В 2 раза больше молекул - в 2 раза больше ресурсов. В многопоточном то же самое, просто итерации распределяются по количеству потоков.
У вас ресурсов всей Вселенной не хватит для цифрового моделирования лабораторного хомячка на молекулярном уровне.
Это утверждение требует доказательства. Оно опровергается существованием самого хомячка, для которого ресурсов Вселенной вполне хватило. Если рассматривать специализированный многоядерный процессор, где сотня молекул моделирует поведение одной, то ресурсов нужно в 100 раз больше размера хомячка. Даже тысяча или миллион выглядит вполне возможным.
SER_26
13.07.2026 14:02Предполагаю, что автор просто провоцирует читателей.
Так как с подходом типа "если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство, возникающее на стыке взаимодействия миллионов автоматных переходов" (и таких "может" по тексту много встречается, включая финальный вывод), то да, "можно" получившееся считать сознанием:-) Это просто становится вопросом определения.
Доказывать же, что чего-то или кого-то быть не может, задача философски неверная. Этим так называемый "научный атеизм" развлекался много лет. Так что в такой парадигме, как в статье, можно ожидать возникновения сознания и в неких пока несуществующих жутко больших конечных автоматах, и даже в уже существующих андроидах, которые себя в мире моделируют и даже могут понять, когда упадут:-)rsashka Автор
13.07.2026 14:02Предполагаю, что автор просто провоцирует читателей.
а вот и нет :-)
Если отбросить форму подачи и остановиться только на сути, то данная теория очень даже возможна и относительно легко проверяется. Правда “относительно”, это не для одного человека-энтузиаста, который бы потом мог сказать «а всё-таки она вертится».
donequixote
13.07.2026 14:02Удивительно созвучно тому, над чем я сейчас работаю. Вы пишете о вхождении наблюдателя в структуру и о рекурсии как механизме — хочу артикулировать то, что вы, кажется, используете, но явно не проговариваете.
Граница - не состояние. Разделение «я»/«не-я» требует границы. Но если граница - просто ещё одно дискретное состояние автомата, начинается регресс: нужна граница границы, и так по кругу. Она должна быть иной природы - не элементом множества, а самой связностью между сторонами. Это как ребро монеты, разделяющее две дискретные стороны, или единственный непрерывный край у ленты Мёбиуса, очерчивающий в проекции две петли лемнискаты (полы кривой).
Акт против инварианта. Автомат оперирует переходами — это дискретные акты, инволюция
κ,κ²=id, без неподвижных точек: на дискретном графе состоянийκ(x)=xрешения не имеет. Но наблюдатель — это инвариант, то, относительно чего регистрируются изменения. Продолжите ту же операцию на выпуклую оболочку, которую состояния замыкают, — по теореме Брауэра неподвижная точка внутри неё вынуждена и единственна: центр. Отсюда точнее диагноз для вашей «обрезанной» рекурсии: она не сходится не из-за нехватки ресурсов, а потому что точкаObj=Op(Obj)структурно не лежит среди дискретных состояний — сколько бы их ни было. Она вынуждена только на непрерывной стороне, куда граф переходов по построению не смотрит.Шкала против значения. Квалиа у вас — «нечёткая оценка хорошо/плохо», то есть значение, вычисляемое внутри сцены. Но тогда наблюдатель снова остаётся снаружи — вы описали содержимое, не рамку. Наблюдатель — не значение на шкале, а сама шкала относительно которой значение вообще имеет смысл. Мне кажется смешать их — вернуть тот же регресс, что и с границей-состоянием.
Если попробовать так: наблюдатель — это не третье состояние рядом с «я» и «не-я», а сама точка перехода между ними — там, где дискретный акт (переход автомата) сшит с непрерывным инвариантом (центром). Автомат весь живёт по одну сторону этого шва — в переходах; наблюдатель — по другую, и именно поэтому его нельзя добавить как ещё один шаг рекурсии, не потеряв то, чем он является.
rsashka Автор
13.07.2026 14:02Почитал ваши статьи, действительно наши рассуждения довольно похожи. Хотя я не лезу в математику и конкретную реализацию, поэтому мне сложно в вами дискутировать на вашем поле и в вашей терминологии ;-(.
donequixote
13.07.2026 14:02Да, терминология может казаться сложной, но она скорее непривычна и за ней стоит простая интуиция. Дискуссия тут – отличный пример того, как споры о сознании буксуют из-за путаницы уровней абстракции:
Функциональный (celen, michael_v89): здесь сознание сводят к моделированию себя или поведению. Но знание агентом своего ID или роли – это лишь переменные внутри кадра (объекты). Это усложнение сцены, но не создание самой "камеры" (субъекта), которая этот кадр фиксирует.
Алгоритмический (eandr_67): позиция «компьютер – это замкнутая машина Тьюринга, поэтому он заперт в рамках дискретности". Но физический компьютер (и мозг) – это открытые системы, сшитые с непрерывной тепловой средой. При этом мозг не вычисляет континуум с бесконечной точностью (он полон шума), а выживает за счет топологической стабильности аттракторов. Дискретный синтаксис автомата и непрерывная граница – это две стороны одной медали.
Семантический скептицизм (SER_26): списание всего на "вопрос определений". Но та же эмерджентность в топологии – не магия, а строгое следствие роста размерности системы (например, как с ростом размерностей булева куба меняется геометрия его проекции к центру).
Рассмотрите три минимальных требования к системе, претендующей на наличие Наблюдателя:
1. Позиционное (Дистанция): различение и различаемое не должны совпадать. В самой структуре должна быть дистанция между ролью «то, относительно чего проводится различение» (наблюдатель) и «то, что различается» (сцена).
2. След (Регистрация): акт наблюдения должен оставлять фиксируемый след. Состояние системы "до" и "после" должно различаться, и это различие должно распознаваться самой системой.
3. Самозамкнутость (Автономия): система должна замыкать критерий различения на себя. Если наблюдатель полностью вынесен за ее пределы, мы уходим в бесконечный регресс мета-наблюдателей.»
Такой подход переводит спор из бесплодной философии («может ли машина чувствовать») в плоскость системной архитектуры. Он позволяет строго отсеять системы, которые заведомо не способны иметь субъектность, и обсуждать конкретные топологии — то, как именно сшить дискретные переходы автомата с непрерывной геометрией его границ.
NekitaKamenev
13.07.2026 14:02Нейросеть по сути просто удачное архитектурное попадание, но фишка в итоге в градиентном спуске, скорее он повлиял на прогресс, но на мой субьективный взгляд все это вообще требует некоторого обобщения до теории графов и комбинаторики, та же нейросеть по сути тоже конечный автомат, а конечный автомат это граф и всем этим в итоге управляет комбинаторика, именно она дает взрывное пространство, куда укладываются знания и навыки, вопрос лишь в том как нелинейно или линейно этой комбинаторикой управлять особенно в переходах между состояниями. Я сам периодически экспериментирую с разными архитектурками, чет меня прям тянет в комбинаторику, чую именно там собака зарыта))
michael_v89
13.07.2026 14:02Некоторые люди используют слово “эмерджентный” как синоним “магический”. Не в последнюю очередь в статьях про ИИ. Вы здесь верно показали, что эмерджентные свойства объясняются через свойства компонентов, но в свою очередь используете слово “рекурсивный” как синоним “магический”.
rsashka Автор
13.07.2026 14:02но в свою очередь используете слово “рекурсивный” как синоним “магический”.
Нет, что вы. Рекурсия в данном случае, это не алгоритм, и не способ объяснения новых свойств. Это описание группы задач, решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.
michael_v89
13.07.2026 14:02Это всё клёво, только при чем тут сознание?) У вас это выглядит примерно так: рекурсия это умное слово, и сознание это умное слово, наверно они как-то связаны.
rsashka Автор
13.07.2026 14:02Я вроде вам ответил:
Рекурсия в данном случае, это не алгоритм, и не способ объяснения новых свойств. Это описание группы задач, решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.
michael_v89
13.07.2026 14:02Рекурсия это описание группы задач
Про этот ответ у меня и есть вопрос. Почему вдруг описание группы задач это сознание? Если я текстом опишу, в текстовом редакторе появится сознание?
rsashka Автор
13.07.2026 14:02тогда уж цитируйте полностью. “… решение которых за разумное время алгоритмически невозможно, но тем не менее решать их приходится в том или ином виде.”
Если я текстом опишу, в текстовом редакторе появится сознание?
У вас текстовый редактор текст пишет или задачи решает?
michael_v89
13.07.2026 14:02А там неважно, как заканчивается предложение. “Описание” любых задач это просто информация, которая где-то хранится и кем-то обрабатывается. Оно не может быть ни сознанием, ни причиной его появления. Потому и магия.
У вас текстовый редактор текст пишет или задачи решает?
“Писать текст” это тоже задача. Так что да, решает. Если вас смущает уровень самостоятельности текстового редактора, можем рассмотреть бота в гоночном симуляторе. Если описать текстом и положить в строковую переменную в коде, у бота-машинки появится сознание?
rsashka Автор
13.07.2026 14:02Извините, я запутался в ваших аналогиях
michael_v89
13.07.2026 14:02Аналогии? У меня нет никаких аналогий. У меня описано именно то, о чем вы говорите - компьютерное существо, которое принимает решения. Вы говорите, что от особого описания задач там волшебным образом появится сознание. Я хочу разобраться, как именно оно появляется.
rsashka Автор
13.07.2026 14:02Я хочу разобраться, как именно оно появляется.
А я не знаю. Это же только предположение :-)
michael_v89
13.07.2026 14:02Однако если рассматривать сознание не как статический атрибут отдельного элемента, а как эмерджентное свойство
Принято считать, что интеллектом обладает только человек.
человеческий разум - это эмерджентное свойство сложной нейробиологической системы, которое не сводится к простой сумме электрических импульсов отдельных нейроновВы путаете сознание, интеллект и разум. Используете разные термины как синонимы, или наоборот. Интеллект и разум это синонимы, сознание и интеллект нет.
rsashka Автор
13.07.2026 14:02Нет, не путаю, хотя может быть вводная часть получилась немного запутанная. Спасибо за замечание, сейчас попробую переформулировать.
michael_v89
13.07.2026 14:02Как понять, есть ли у неё субъективное переживание (феноменальное сознание)?
Это зависит от того, что именно мы подразумеваем. Если мы подразумеваем “точно так же, как у человека”, то очевидно нет, так как базовые элементы другие, и процессы в них другие. Если мы подразумеваем “аналог, который возможен на других элементах”, то любое изображение с камеры можно считать квалиа такого существа. Считать ли это субъективным переживанием, зависит от того, есть ли у нас субъект.
vkrasikov
13.07.2026 14:02Какая-то умная вода...
Зачем конечные автоматы, если уже придуман LangGraph...
BHtrue
13.07.2026 14:02Интересная мысль, но не совсем согласен с детерминированностью мозга.
Дело в том, что наши мозги и органы чувств крайне чувствительны (простите за тавтология) -например, глаз может улавливать чуть ли не единицы фотонов.
А когда дело доходит до единичных квантов ну или в целом систем, которые чувствительны даже к небольшом числу частиц, у нас будет возникать квантовая неопределённость. И, в теории, она вполне может принимать некоторое участие в работе мозга и мышлении, только пока непонятно какое
RARprofuction
13.07.2026 14:02Без теории сознания двигаться корректно в этом вопросе невозможно. Если сознание имеет квантовую природу, на что намекают найденные квантовые эффекты в трубках между нейронами, повторить человеческое сознание будет невозможно. Всё остальное - антинаучная хрень.
celen
В названии опечатка.
При чем здесь конечные автоматы, если вы говорите про LLM? Понимаю, что любая компьютерная программа дискретна; числа с плавающей точкой только притворяются непрерывными. На сильно квантизированных нейросетях это еще больше видно. Но формальная конечность числа состояний — не свойство центральной идеи нейросетей; это лишь ограничение технической реализации.
Что касаемо того о чем вы говорите, то рекурсию и образ себя в мире сейчас заставить модель построить достаточно просто. Демонстрируемый уровень поведенческих компетенций любого LLM агента прямо подразумевает знание этим агентом кто он, где находится и чем сейчас занимается.