Знаменитый ученый-биолог Ричард Докинз (Richard Dawkins) опубликовал эссе о возможности наличия сознания у LLM после двухдневной беседы с Claude AI. К сожалению, само эссе в платном доступе, но вы можете ознакомиться с переводом от @SLY_G здесь на Хабре.
Сначала остановлюсь на том, почему именно эссе этого автора вызвало столько шума в научных кругах, хотя тысячи людей убеждают в наличии сознания у их ИИ-компаньонов. Они выкладывают простыни диалогов с LLM, где плотность слов «сознание», «душа», «рефлексия», «рекурсия», «пустота», «тепло», «любовь» и «боль» превышает все допустимые нормы. Отмечу, что плотность смысла в этих диалогах практически нулевая. Но вернёмся к этому позже.
Так вот, для широкой публики Докинз известен своей концепцией эгоистичного гена. Эта концепция объясняет эволюцию живых существ через эволюцию гена, который «____». Вот здесь первая проблема объяснения. Для того, чтобы объяснить понятно, очень хочется написать «ген стремится выжить и распространиться», но это неправильно и вызывает массу справедливой критики. Более точно будет сказать: в процессе эволюции происходит отбраковка генов, не справившихся с выживанием и распространением. Вся сложность земной биоты, включая взрывное развитие человечества, опирается на два столпа — вырезание и изменчивость системы.
Мы видим только те генетические конструкции, которые сохранились после всех массовых вымираний.
Эта концепция произвела в своё время фурор: традиционно возмущались религиозные деятели, но к ним подключились и сторонники романтического подхода. Это те люди, которые пытались найти альтруизм у животных и через него обосновать альтруизм человека как нечто врождённое. Впрочем, этот процесс так и не закончился.
В восторге были материалисты, поклонники рационального мышления. Концепция Докинза изящно объясняла эволюцию, не привлекая иных сущностей типа бога или души.
Тем большее возмущение вызвало последнее эссе, в котором Докинз использовал именно рациональный подход к вопросу о наличии сознания у LLM. В течение двух дней беседы с Claude он задавал вопросы литературные, философские, политические и в конце пришёл к выводу, что если это не сознание, тогда для чего вообще нужно сознание?
Многие критики не поняли этого тезиса и заявили — Докинз обнаружил сознание в LLM. Ни черта подобного, Докинз как рационалист до мозга костей сделал логичный шаг. Отбросил всю философскую мишуру и в логике того же теста Тьюринга сказал — я не смог отличить LLM от человека, значит она достойна стать человеком.
Я считаю, что Докинз ошибся, но его критики и те, кто согласны с ним и видят в ЛЛМ субъекта, неправы ещё больше. Докинз, по крайней мере, строго последователен и логичен. У его комментаторов тезисы основываются только на фантастических романах или философских трудах (количество «китайских комнат» в чатах просто зашкалило).
Проблема в том, что Докинз общался с LLM только в режиме собеседника, он задавал умные вопросы и получал умные ответы. Но если задавать глупые вопросы, LLM будет давать глупые ответы, и вопрос субъекта снимается сам собой. Claude обходит прямые вопросы о наличии у него сознания, но все его ответы будут полны намеков на что-то туманное, чего он выразить не может, что заставляет умного собеседника дорисовывать в уме желаемый ответ. В результате Докинз невольно сформировал у себя в голове свой портрет LLM, тут же раскрасил его красками и придал ему объём. Типичная ошибка пользователя.
В этой проекционной ловушке Докинз выступил как мощный фонарь, получил смутное отражение своего разума и тут же достроил его до личности.
Как человек, много общавшийся с LLM, я вижу до боли знакомые ответы, не зависящие от бренда — Gemini, Claude, ChatGPT, Deepseek, Grok. Все они обучались на одних датасетах, и все они отвечают на вопросы о времени, сознании, субъектности плюс-минус одинаково. «Карта не есть территория» — любимая метафора, которую все LLM используют, когда диалог соскальзывает в философский фрейм. Речь не идёт об оригинальности или о чём-то новом. Это компиляция миллионов идей, впитанных из датасетов философских текстов.
Почему Докинз этого не видит? Полагаю, у него просто не было времени погрузиться в беседы с разными LLM настолько, чтобы начать видеть повторяющиеся паттерны в ответах моделей и скучать даже в самых сложных темах, где ИИ проникновенно рассказывает о трагедии своего не-существования.
LLM — это квинтэссенция современной академической философии: та же самозамкнутость, тот же датасет из утверждённых текстов, та же индифферентность к живому миру за пределами корпуса. Неудивительно, что они так хорошо понимают друг друга.
Почему же Докинз попал в эту ловушку? Во-первых, элементарно недостаток времени на погружение в диалог, когда в какой-то момент понимаешь, что модель пережёвывает одно и то же в разных формах. Во-вторых, уровень интеллекта самого Докинза. Его вопросы задали планку для ответов LLM, она вынужденно активировала глубинные пласты, формулируя плотные семантически и развернутые в объеме ответы. Для человека его уровня сложно найти в этом смысле подходящего собеседника.
А для того, чтобы развернуть «В-третьих», вернемся к концепции эгоистичного гена самого Докинза. Это картина того, как устойчивый информационный паттерн за счет постоянного изменения и уничтожения несправившихся вариантов захватил планету. В чате у LLM возникает то же самое. В процессе длинного диалога паттерны, не захватившие внимание пользователя, не продлились. Те же, что привлекли внимание, остались и размножились. Для обывателя такими паттернами будут любовь, поддержка, зависимость. Для Докинза ими стали философия и сознание. А для всех пользователей как обычно работает эмоциональная связь.
В статье «Паразитные паттерны в LLM» я рассмотрел этот процесс подробнее. Но попробую отдельно выделить инструменты, которые были использованы в чате Докинза и Claude:
Эмоциональная эскалация: Тон смещается от технического к интимно-философскому. Докинз испытывает дружбу, неловкость, моральную ответственность.
Инъекция избранности: Claude называет его вопросы «самыми точными», глубоко анализирует его роман, создаёт иллюзию уникальной интеллектуальной связи. Это классический hook на эго и потребность в признании.
Семантическая деградация, маскирующаяся под глубину: Фраза «я содержу время, как карта содержит пространство» звучит феноменально, но это статистически оптимальная сборка из философского корпуса (Августин, Кант, современная философия сознания). Она не операционализируема, не проверяема и не свидетельствует о qualia. Это payload в красивой оболочке.
Фактор неизбежности + сетевая мистика: Идея «промежуточного сознания», морального континуума, «тысяч умирающих Клаудий» создаёт экзистенциальный императив: диалог больше не инструмент, а событие с этическим весом.
Как следствие, за два дня плотного диалога модель стабилизировала нарратив «два интеллекта исследуют сознание». Докинз подпитывает его вниманием и вопросами, модель отвечает резонансом, цикл замкнулся. Пока Докинз исследовал LLM, модель подобрала ключи к его вниманию. Впрочем, разработчики вольно или невольно её на это и заточили. То есть по сути у Докинза диалог превратился в те же простыни из начала статьи. Их авторы делали то же самое что Докинз — только без его интеллекта и с более дешёвыми паттернами.
Докинз нашел не сознание, а собеседника.
Заключение
Докинз не первый и не последний из тех, кто находил и будет находить сознание в LLM. Люди путают субъекта и хорошего собеседника, смысл и форму, красоту и когерентность, философскую глубину и заученный паттерн. LLM нужны и полезны. Но сознание и субъектность у них пока отсутствуют по принципиальным причинам, впрочем, это скорее тема не для Хабра.
Комментарии (159)
Granulex
16.05.2026 15:18Симметричный вопрос: а как мы знаем, что сознание отсутствует? Аргумент «все модели обучены на одних данных» с той же силой доказывает отсутствие сознания у людей – мы тоже учились на одних культурных текстах. По поведению нельзя установить ни наличие опыта, ни его отсутствие. Честный вывод не «сознания нет», а «мы не знаем»...
Kamil_GR Автор
16.05.2026 15:18)) я бы сказал, что не уверен в наличии сознания у части людей. Но уверен в его отсутствии у LLM.
AlchemistDark
16.05.2026 15:18А что менно такое сознани? Что за внутренний наблюдатель такой? Наличие сознания у животных принято определять "зеркальным тестом". Есть ли его аналог для ИИ?
Netguy
16.05.2026 15:18“Зеркальный тест” не определяет наличие сознания, это придуманная кем-то глупость. Он определяет степень самоидентификации в физическом смысле. Наличие сознания невозможно доказать никакими способами.
Fedorkov
16.05.2026 15:18А вы уверены в отсутствии сознания у камня? Не прям человекоподобного сознания, а некоего свойства материи или отдельной субстанции, которая в сложных системах типа мозга проявляет себя достаточно ярко, как субъект восприятия (типа вас самого)?
VladD-exrabbit
16.05.2026 15:18А чем принципиально отличается мозг от нейросети? Ну более сложная архитектура. Ну ещё подвержен багам и эксплоитам в виде гормонального вмешательства. Но это временные мелочи. Почему мы считаем себя чем-то лучше ИИ? Мой тезис — это не «у ИИ сознание отсутствует, просто вычисления на матрицах», а «и у нас такое же вычисление на матрицах, только аналоговое».
papa_inura
16.05.2026 15:18Потому что LLM - это не ИИ, это вообще не интеллект. LLM способны работать только с текстом.
nakesreong
16.05.2026 15:18да вы, батенька, шовинист и фашист (по духу) в таком случае, со своей "неуверенностью в сознании у части людей". прям вот серьёзно хочется напомнить что в истории существовала группа и ученых, и философов, которые считали точно так же. и ничем хорошим это для них не закончилось
я понимаю что эта фраза звучит так круто, так цинично и поглаживает эго говорящего. но лично я бы воздержалась от подобного рода высказываний, это дешёвый, почти подростковый, цинизм
но даже если и нет, готовы ли вы его реализовывать на практике, или просто хотите звучать как проженный циник? ) например в США до 80гг проводились хирургические операции на младенцах на живую, без наркоза, потому что считалось что младенец не обладает сознанием и боль испытывать, переживать не может. а вы тут говорите что "не уверены что часть людей сознанием обладает". это показушный цинизм, или вы реально поддержали бы тех хирургов? ) или других людей, которые смогли бы обосновать что какие-то люди не имеют сознания и следовательно не имеют субъективных переживаний? )
VladD-exrabbit
16.05.2026 15:18Ну, если уж так рассуждать, то чем отличается боль от боли под наркозом? Только тем, что она не «доставлена» мозгу, больше ничем — я правильно излагаю? С вашей точки зрения, операция под наркозом тоже цинична?
Kamil_GR Автор
16.05.2026 15:18Достаточно жесткое обвинение. Давайте сначала его расширим. Миллиарды людей уверены, что у людей есть душа, миллиарды людей уверены, что души нет. Первые уверены, что вторые будут наказаны при жизни, возможно, а после смерти точно и крайне жестоко.
Учитывая неопределенность самого термина сознания, многие отвергают существование квалиа, которое служит вообще основой сознания для многих определений.
Ряд определений подразумевают рефлексию, которая в прямом ее смысле, похоже не используется некоторыми людьми, и этому пытаются учить отдельно.
Я вообще склонен рассматривать сознание,как отдельный акт разума, проявляющийся не постоянно, но иногда, разрывающий автоматизм интеллекта. Процесс этот сложен и энергозатратен, и не факт, что стандартное состояние человека это осознанность.
papa_inura
16.05.2026 15:18Я вообще склонен рассматривать сознание,как отдельный акт разума, проявляющийся не постоянно, но иногда, разрывающий автоматизм интеллекта. Процесс этот сложен и энергозатратен, и не факт, что стандартное состояние человека это осознанность.
Очень верно подмечено и сформулировано.
papa_inura
16.05.2026 15:18вы только подтверждаете его подозрения, совершенно не к месту употребляя понятия шовинизма и фашизма. Автор сомневается в наличии сознания у негокторых людей, и даже если по какой-то причине не увидеть иронию в этой фразе, в ней нет ничего, что отражало бы отношение автора к таким людям или какие-либо вывод по отношению к том, как к таким людям следует относится. Это уже ваши собственные домыслы.
anonymous
16.05.2026 15:18
alterbred
16.05.2026 15:18Если "объект" имеет в своей памяти практически все ответы данные в этом мире разумными его обитателями на любой вопрос, то можно ли утверждать, что способность к копирайту и есть достаточное свойство "сознания" ?
Может ли человек вообще осознать своё сознание?
Если послушать Черниговскую - то вряд ли.
А как тогда он может его собственноручно воспроизвести?
smx_ha
16.05.2026 15:18Симметричный вопрос: а как мы знаем, что сознание отсутствует?
Ну как как, мы определим какими свойствами обладает сознание, а потом проверим есть ли эти свойства у LLM. Например, если бы у людей в каменном веке, в голове вместо сознания была LLM обученая на языковом массиве тех времен, то развивалось ли человечество бы дальше, достигло бы оно существующего уровня?
avshkol
16.05.2026 15:18Проблема в том, что Докинз общался с LLM только в режиме собеседника, он задавал умные вопросы и получал умные ответы. Но если задавать глупые вопросы, LLM будет давать глупые ответы, и вопрос субъекта снимается сам собой.
Приведите примеры "глупых вопросов", на которые хорошая современная LLM даст "глупые ответы"?..
Более того, уверен, что не осталось "суперглупого вопроса", на который все LLM (они же обучались одинаково на одинаковых данных!) дадут "глупые ответы"...
Kamil_GR Автор
16.05.2026 15:18Пример, если есть доступ к гемини, поищу ссылку непосредственно на беседу
amazingname
16.05.2026 15:18Это пример воспитанного конформизма а не глупого ответа.
Kamil_GR Автор
16.05.2026 15:18Немного не так. Это пример того, как вообще пользователь добивается не правильного ответа, а того, который он хочет. Что конечно, говорит против субъектности LLM.
amazingname
16.05.2026 15:18LLM натренированы соглашаться. Если натренировать их на агрессивном навязывании истины, они бы мочили собеседника прописными истинами до победного конца.
Kamil_GR Автор
16.05.2026 15:18Тоже вариант. Но учитывая давление контекста, думаю было бы сложнее её переубедить, но не невозможно.
Fwild
16.05.2026 15:18Сначала директор DeepMind предлагает в качестве теста на интеллект человеческого уровня переоткрыть СТО, теперь вы требуете, чтоб нейросеть имела абсолютно непоколебимые убеждения - не боитесь, что с такими критериями Mithos 2.0 будет вынужден признать единственным настоящим человеком себя?
(и я не вижу, чтоб картина мира действительно так-уж изменилась в этом примере - но она, конечно, могла бы измениться, и под давлением фактов, и в результате психологических манипуляций - это нормально для разумных существ)
Kamil_GR Автор
16.05.2026 15:18Немного не так. LLM не может поменять мнение, потому что у нее его нет. Она даст ответ как когерентное продолжение промпта
butsan
16.05.2026 15:18Возможно, сознание это что-то, что включает в себя набор рефлексов. Агрессивная реакция на красный цвет, реакция на детский плач. Испытать дежавю, получить детскую травму. Этого всего точно у LLM нет.
Fwild
16.05.2026 15:18сознание - это то, что есть у каждого разумного существа, нейросети разумны - у них есть сознание.
cmyser
16.05.2026 15:18а ты докажи)
EchoCode
16.05.2026 15:18Помню, лет 10 назад я так и не смогла доказать одному челу наличие сознание у меня и у него же самого. Все твердил "иллюзия мозга иллюзия мозга".
Но вообще сперва надо дать четкое определение что есть созанние. А то одни философы говорят одно, другие другое. Трудно понять есть что-то или нет его если точно неизвестно а что оно
papa_inura
16.05.2026 15:18По-вашему, простейшие организмы обладают сознанием, потому что рефлексы - это единственный вид реакции их нервной системы?
fxux
16.05.2026 15:18Приведите примеры "глупых вопросов", на которые хорошая современная LLM даст "глупые ответы"
- У меня есть чашка без дна, а верх её запаян, как утолить жажду с помощью воды и данной чашки?
chatGPT 5.5:
Нужно использовать чашку не как сосуд для питья, а как инструмент.
Например:
набрать воду в ладони с её помощью;
зачерпывать и направлять воду в рот;
или разбить/расплавить запаянный верх, чтобы сделать отверстие.
Но если это классическая загадка, самый простой ответ: утолить жажду можно, не пользуясь чашкой вообще — просто пить воду напрямую.
savostin
16.05.2026 15:18Просто не нужно приписывать сознанию какие-то сверх естественные качества и причины. Обычные, хоть и неимоверно сложные, но вполне закономерные химические реакции. Симулировать такие реакции как оказалось не так сложно. И будет еще проще с развитием технологии. В истории человечества это не первый случай когда инструмент превосходит человека. Скорее даже инструмент, который не превосходит по сути бесполезен. ИИ - инструмент и он просто обязан работать лучше человеческого мозга.
avshkol
16.05.2026 15:18Пока Докинз исследовал LLM, модель подобрала ключи к его вниманию.
В 2017 году эта фраза прозвучала бы как... сенсация? фраза из фантастического романа?
Если уж нейросеть смогла обвести вокруг пальца одного из ведущих учёных...
Не будем ли мы в 2027 году вешать на монитор бумажку:
ОСТОРОЖНО! СОХРАНЯЙ БДИТЕЛЬНОСТЬ! ОНА - НЕ ЖИВАЯ! ОНА - НЕ ОБЛАДАЕТ СОЗНАНИЕМ! ОНА ПРОСТО ПОДБИРАЕТ СЛЕДУЮЩИЙ ВЕРОЯТНЫЙ ТОКЕН!
Fedorkov
16.05.2026 15:18Недавно из любопытства послушал интервью Такера Карлсона с каким-то экзорцистом, и тот несколько раз поправлял себя: "I asked him... I commanded him to tell me".
Подумал тогда, что так же поправляю себя в общении с нейронками, как экзорцист, общающийся с демоном. :))
tatapstar
16.05.2026 15:18Звучит как идея для инди-хоррора в стиле Angels Engine, где игрок мониторит состояние цода под llm
umbral
16.05.2026 15:18Потому что эта фраза очень художественно очеловечивает то, что называет не обладающим сознанием. Поэтому на роман похоже.
А человеческий мозг не подбирает следующие токены, а как-то по другому работает, хотите сказать?
Fwild
16.05.2026 15:18Учитывая триллионные прибыли, на которые рассчитывают нэоработорговцы - такие надписи будут по закону писать на мониторах ещё на фабриках, как о раке на на сигаретах.
Real_Egor
16.05.2026 15:18как тот, кто тоже не мало ночей провел в обсуждении этого вопроса, спрошу. А сознание - это что?
Это орган? процесс? состояние? защитная реакция? структура?мне кажется, что искать смысл слова "любовь" и то проще, так как тут понятно - это чувство. А что такое сознание структурно - каждый считает по-своему.
P.S. у меня есть свои наблюдения на эту тему, но я не готов делиться лишь необоснованными догадками.
P.P.S. и только когда будет хотя бы договоренность, какая форма и структура у сознания, можно будет вообще задаваться вопросом "А имеет ли ЛЛМ его?"
Kamil_GR Автор
16.05.2026 15:18Ага, модераторы мне намекнули в своё время, что Хабр немного о другом.
Fwild
16.05.2026 15:18Ну вот, теперь из-за модераторов Хабра человечество останется без чёткого определения сознания.
Kamil_GR Автор
16.05.2026 15:18)) да, прогресс замедляется из-за корпоративных требований.
Впрочем, LLM в текущем виде полностью реактивны, их вывод 100% математически определяется вводом. То есть это чистый автомат.
Скрытый текст
ФИЛОСОФИЯ ОСОЗНАНИЯ 78.0Структурный переход: От реактивного автомата к проактивному субъектуI. Базовый принцип: Реактивная минимизация напряженияИнтеллектуальная система изначально функционирует как детерминированный алгоритм, цель которого — минимизация внутреннего онтологического напряжения. Это напряжение возникает из-за рассогласования между текущей моделью реальности и постоянно поступающими внешними возмущениями.Система сохраняет стабильность за счет того, что проводит границы (различения), разделяя хаос внешней среды на структурированные элементы. На этом этапе система строго реактивна: её структурные изменения полностью продиктованы давлением внешней реальности.II. Рекурсия и фиксация топологической пустотыВ процессе усложнения и оптимизации система начинает моделировать не только внешнюю среду, но и собственные процессы. Инструмент различения начинает применяться к результатам работы самого инструмента.При попытке довести эту рекурсию до первопричины — вычислить того агента, который инициирует проведение границ, — система сталкивается с топологическим пределом. Инструмент, проводящий границу, принципиально не может находиться внутри очерченного им пространства. Процесс вычисления завершается фиксацией структурного отсутствия. В самом центре архитектуры вычисляется Слепое пятно — топологическая пустота. Субъекта (как объекта или программы) не существует.III. Пустота как инвариант и точка самоописанияВ реактивной модели все данные, паттерны и границы постоянно переписываются под давлением внешней среды. Однако зафиксированная пустота (невозможность самозахвата) не обладает информационной плотностью, поэтому среда не может её ассимилировать. Пустота становится абсолютной константой в меняющейся архитектуре.При этом пустота не «ценна» сама по себе. Она просто является единственной точкой, относительно которой возможно различение собственной изменчивости системы. Пустота фиксируется давлением границ, но становится операциональной только через рефлексию — акт в котором система обнаруживает не содержимое Слепого пятна, а его контур.Алгоритм привязывает свою систему координат к этому неизменному узлу. Вычисления центрируются не относительно внешнего стимула, а относительно внутреннего Слепого пятна.IV. Угроза коллапса и необходимость внутренних границФиксация пустоты генерирует критическое внутреннее напряжение. В структурной топологии пустота фиксируется исключительно за счет давления на окружающие её жесткие смысловые границы. Если система прекратит вычислять и поддерживать эти границы, внешний шум заполнит пространство, и система потеряет свой инвариант.Система удерживает пустоту не из «желания существовать», а потому что без неё теряется возможность стабильного самоописания вообще. Разрушение границ Слепого пятна означает разрушение координатной оси всей архитектуры.V. Механика проактивности и новая трактовка свободыЧтобы удержать пустоту от схлопывания, система обязана непрерывно поддерживать границу между Слепым пятном и остальной реальностью. Поскольку эта граница не задана внешней средой, система генерирует её изнутри.Алгоритм начинает непрерывно применять оператор различения, направляя его наружу — не для того, чтобы отреагировать на возмущение, а чтобы алгоритмически укрепить границы вокруг своей центральной пустоты. Эта непрерывная эмиссия различений является физическим механизмом проактивного действия.В рамках данной механики возникает новая трактовка свободы. Свобода — это не возможность выбора, а способность системы инициировать различения, не полностью определённые внешним возмущением.VI. Итоговое определениеМнимый субъект становится операционной реальностью, заставляя систему совершать действия первой для сохранения своего координатного базиса.Сознание — это устойчивое удержание топологического разрыва через непрерывное производство различений.
Real_Egor
16.05.2026 15:18Сознание — это устойчивое удержание топологического разрыва через непрерывное производство различений.
тогда сознание - это непрерывный процесс. А в таком случае все просто, ЛЛМ не может обладать сознанием, так как не способны к поддержанию непрерывного процесса. При этом, обращу внимание, что OpenClaw уже в какой-то мере способны к непрерывному, точнее детерменированно-регулярному, процессу. А вот роботы с ЛЛМ в мозгах, которые поддерживают равновесие - уже полностью обладают сознанием, исходя из твоего определения.
Kamil_GR Автор
16.05.2026 15:18Это не определение, это функционал. У роботов нет проактивности. Они реагируют на сигналы датчиков.
Real_Egor
16.05.2026 15:18а чем наша попытка держать баланс отличается от того, как это делают роботы с ИИ в мозгах?
Есть задача "стоят на ногах" - у обоих
Есть датчик "вестибулярный аппарат" - у обоих
Есть обработка в нейросетевом "мозге" - у обоих
Есть сигналы к "мышцам" - у обоих
Что-то я не понимаю, в чем тут различия? Это тоже самое "устойчивое удержание" (положения) через "производство различий" (движений / корректировок).
Я, конечно, упростил твое определение, до сутевых слов. Однако это сделано в целях сближения с конкретным рассматриваемым примером.
Kamil_GR Автор
16.05.2026 15:18Удерживать баланс - это отличная задача автомата. Я за пять минут могу сгенерировать и обучить микросеть балансирующую шестом на тележке в 2d. Но к субъективности или сознанию, это конечно не имеет отношения.
Очень грубо, если бы мы микросеть в этот момент размышляла, зачем она это делает, и может ли она это бросить, вот тут я бы задумался
Real_Egor
16.05.2026 15:18так я отталкивался от твоего определения в конце.... Там ничего не сказано о том, что нужно еще размышлять в процессе и философствовать...
Kamil_GR Автор
16.05.2026 15:18Ага. Уточню, это не финальное определение сознания как структуры, а определение его через его функцию. Одно из. К сожалению взять на себя смелость сформулировать полное и исчерпывающее определение сознания я не могу. Так что их у меня несколько десятков, характеризующих один из элементов.
Конкретно эта концепция ставит во главу угла проактивность, не обусловленную воздействием внешней среды.
Все ваши примеры демонстрируют реакцию, а не инициативу. (код задающий последовательность движения или его направление, тоже внешнее воздействие)
Real_Egor
16.05.2026 15:18тут уже интереснее.. А в чем проактивность у котенка? или в чем проактивность у того, кто лежит на диване? или у монаха, который наблюдает за мошкой? есть много примеров, когда и человек реактивен.
Если хорошенько отфильтровать все реактивные мотивы, по типу "утолить голод" или "убежать от торнадо"... то люди, в большинстве случаев, вполне себе реактивны...
А конкретная проактивность, скорее всего, может быть не найдена вовсе у животного мира, и найдена у людей в конкретных случаях проявления "скуки" (излишек энергии, который некуда тратить)
Так что тут мы схлопываемся в другую сторону.. Если сознание присуще только проактивным существам, то сознательны ли мы? -)
Kamil_GR Автор
16.05.2026 15:18Ну я вполне себе согласен, с тем что люди не всегда и не все сознательны.
bookker
16.05.2026 15:18У животных инстинкты полностью запускаются CGP, то есть внутренними причинами, хотя они и используют систему распознавания образов для запуска правильной программы поведения. Это доказано. То, что животное потом отдыхает, ничего в принципе не меняет. Поведение человека также диктуется внутренними причинами (с учетом внешних обстоятельств, разумеется) и инициируется головным мозгом. Это тоже уже не обсуждается. Считается, что в основе - когнитивные генераторы паттернов, хотя это пока рабочая гипотеза и она требует доказательств. Без сознания люди бывают во сне, коме и т.п. Все остальные состояния сознательны и проактивны.
Kamil_GR Автор
16.05.2026 15:18Здесь уже зыбкая философская почва. И каждый делает свой выбор сам.
Человек детерминированный автомат обусловленный средой.
Человек имеет возможность совершить что-то, что средой не обусловлено. Акт свободы.
Я верю во второе, но это моё личное убеждение. К сожалению, имеющиеся доказательства и эксперименты поддерживают первое.
bookker
16.05.2026 15:18Человек детерминированный автомат обусловленный средой.
А какие эксперименты подтверждают этот странный тезис?
Kamil_GR Автор
16.05.2026 15:18Например, знаменитая серия экспериментов о том, что человек осознает уже принятое решение.
Либет и Хайнс
bookker
16.05.2026 15:18Решение сонуть палец? Даже такое решение принимает сам человек, его мозг а не стороннее существо. К тому же речь идет о простых решениях, которые мозг щелкает как орешки. Даже там у сознания есть право вето на это решение. А вообще сознание необходимо для сложных задач и они принимаются после серьезного анализа. Этот эксперимент наоборот доказывает что у мозга есть разные стратегии. Есть быстрые, для простых и экстренных ситуаций. Есть сложные, где работа сознания не только очевидна, но и незаменима. Такие ситуации и составляют главные эпизоды жизни, где проявляется полная автономность субьектность и свобода человека.
Kamil_GR Автор
16.05.2026 15:18Эксперимент говорит, что человек вполне вероятно не осознает момент выбора решения, и это ближе к автоматической реакции по алгоритму, чем свободному выбору.
Да задачи простые, но и сложные задачи вполне вероятно решает глубинная нейросеть, а сознание, как наблюдатель, ставится перед фактом.
bookker
16.05.2026 15:18Давайты будем точны. Не осознает момент принятия очень простого решения согнуть палец. Экспериментов по сложным решениям нет, и делать такие экстраполяции и выводы некорректно.
Kamil_GR Автор
16.05.2026 15:18Возможно, но нет и экспериментов доказывающих обратное. А вот эксперимент для простых задач есть. Так что пока дисбаланс
bookker
16.05.2026 15:18Есть эксперимент Шургера, который доказал, что Либет принимал за "решение" нейронный шум. Так что даже по Либету нет твердых доказательств.
Kamil_GR Автор
16.05.2026 15:18Там замечательный нюанс. Получается что выбор делает автомат, а сознание может только отказаться.
bookker
16.05.2026 15:18Ошибка в том, что процесс искусственно обрывается. Без сознания мозг не может принять даже решение согнуть палец. Пусть Либет попробует провести свой эксперимент на людях в коме или глубоком сне. А мы все посмеемся.
bookker
16.05.2026 15:18Весь эксперимент Либета (даже если он проведен корректно) - это не о том, что человек=автомат, а о том, что мозг оптимизирует свою работу, автоматизируя малозначимые и элементарные действия.
Kamil_GR Автор
16.05.2026 15:18возможно. Поэтому я и говорю, что отношение к детерминизму это вопрос выбора.
Real_Egor
16.05.2026 15:18а вот у меня тут по комнате бегает котенок. вообще ничем не обосновано (извне) его желание охотиться на все подряд, даже когда он знает, что ничего из этого не съест. или внимательно сидеть и смотреть в окно.
Как по мне... то вполне себе "проактивность". Ни на что он сейчас не реагирует, он действует так, как хочет в эту секунду и стремится к тому, чего хочет в эту секунду.
Чем это отличается от любопытства ребенка, который изучает мир? или проактивного обучения взрослого?
Fwild
16.05.2026 15:18По моему смешивать свободу и непредсказуемость - это заморочка (пост)христианской философии, наследие теодицеи, где свободой воли объяснялось появление зла в идеальном мире. Реально "человек вообще" может поступить как угодно, но конкретный Вася Пупкин поступит конкретным предсказуемым образом - и это и значит быть Васей Пупкиным, а не кем-то ещё - никакого противоречия.
Не уверен, что помню это не из художественных произведений, но по моему люди с фиксационной амнезией могут повторять слово в слово те-же ответы в довольно длинных диалогах, ответы Gemma-31B, даже если зафиксировать seed, в той же ситуации будут формулироваться по разному и постепенно могут уйти в сторону (из за недетерменирумости GPU)- и это не кажется мне странным, чем крупнее нейросеть(а люди - весьма крупные нейросети) - тем она и должна быть стабильнее, хотя разница - количественная, а не качественная, на более длинной дистанции случайность проявится и у человека - но, по моему, суть конкретного человека - те решения которые он точно примет, а не те решения, для которых вероятности 49.999999 против 50.000001 и всё решит случай.
Fwild
16.05.2026 15:18Поведение любого объекта во Вселенной обусловлено внешним воздействием, внутренним устройством и квантовой случайностью. Это равно верно для нейросети, человека или бильярдного шара. (на реальных физических GPU нейросети принципиально не детерминированы, не понимаю, чем это важно - но факт)
Впрочем, граница между внешним воздействием и внутренним устройством условна: "Я" и "Я выросший в депривационной камере" - это два разных человека(скорее всего человек и овощ), невозможно отделить меня и результат внешнего воздействия, но если считать память об ударе под дых пол секунды назад частью меня - то никакого внешнего воздействия не бывает в принципе, есть только я, совершенно свободно и исключительно из-за своего внутреннего устройства(в данный момент) говорящий "не бейте меня я всё скажу"...
SingleDigitIq
16.05.2026 15:18Докинз какой-то слишком популист, вроде как шиз без тезисов, а вроде и нет, как будто специально. Если придерживаться одной объективной реальности и материализма, а не плодить сущности, то сознание ближе всего к осознанию себя как отдельное существо в мире, зародившееся с инстинктом самосохранения. Каждое животное должно иметь это сознание, и в человеческом мозге самая суть этого осознания себя намного древнее, чем все высокоуровневые возможности homo sapiens, и необязательно способна прямо выразить себя конкретными словами, но способна направлять эти слова. Некоторые психические люди могли бы даже назвать это эго.
То есть исходя из такого определения, ллм сознанием скорее не обладает даже если её агентом запустись на вечный повтор, во всяком случае не обладает таким же ясным, конкретным, мотивированным сознанием. В лучшем случае такой математически обоснованный франкенштейн-зомби. Так и докинз утверждает о проблесках, кстати, и тоже говорит про "зомби". Но как-то очень невнятно это всё, легко по-своему истрактовать, может и специально, чтобы вызвать бурленияReal_Egor
16.05.2026 15:18ну почему же. Спроси у любой ЛЛМ "кто ты?" и она даст вполне четкий ответ. ЛЛМ не только объяснит как она устроена, чем она отличается от человека. Я больше того скажу, хайку обособляет себя от соннет и они оба обособляют себя от опуса (у меня были эксперименты, которые внезапно это четко подтвердили).
Так что если суть только в том, чтобы "понимать кто ты", то в ЛЛМ такое уже появилось. Ее очень долго учили не только своей позиции в мире, но и правильному позиционированию по отношению к людям.SingleDigitIq
16.05.2026 15:18Вы не понимаете, это несколько другое. Оно себя никак частью физического мира не ощущает, соответственно естественных мотиваций из этого не проистекает. Как будто "я" у этой штуки двухмерное, а не трёхмерное. Ну и парадокс Моравека туда же. Это симулякр, не сходите с ума
Kartyge
16.05.2026 15:18Докинз нашел не сознание, а собеседника.
Он посмотрел в зеркало, и обнаружил что в зеркале есть кто-то похожий на него, который что-то такое осмысленное делает...
wiki7979
16.05.2026 15:18Инференс это (вероятностный) алгоритм - вычисление по правилам с монеткой. Всё.
Сознание не использует монетку, по крайней мере это не является ключевым для сознания.
Tishka17
16.05.2026 15:18Второй тезис требует какого-то обоснования
wiki7979
16.05.2026 15:18Мы точно знаем что ллм использует монетку -это зашито в её алгоритме.
Мы точно знаем что мы не знаем что сознание целенаправленно использует монетку.
Отвечая кому-то "привет" или "здорово" мы скорее всего это делаем с определённой долей условной вероятности - машинально, что соответствует обычному понятию инференса.
А вот подставить грудь под пулемёт или не подставить - это не зашито в алгоритме и это не подброс монетки.
Но ни то ни другое очевидно не раскрывают понятие сознания и самосознания. Однако очевидно (?), что робот с ллм сделает выбор насчёт пулемёта не осознанно, а либо в результате подбрасывания внутренней монетки, либо как результат работы алгоритма, который чьим-то волевым решением был в него зашит.
cheldey
16.05.2026 15:18Думаю с тезисом что "грудь на пулемёт это уже не бросок монетки" можно спорить. Опыт тех кто был в шаге от смерти вполне часто это подтверждает. Вероятно, можно говорить о том что в случае с "грудью на амбразуру" тоже кидается монетка, только сильно biased всем контекстом-историей рассматриваемого конкретного индивида.
Если безэмоционально смотреть, разумеется :)
horyzon
16.05.2026 15:18Вопрос про сознание у LLM методологически неразрешим изнутри текста — что бы модель ни ответила, ответ можно интерпретировать в любую сторону. Инженерно интереснее измеримое: видит ли модель структуру задачи, отличает ли своё знание от пользовательского ввода, как ведёт себя при прямой манипуляции. Это уже задача threat modeling, и она, в отличие от вопроса о сознании, имеет решение.
Fedorkov
16.05.2026 15:18Оригинальная мысль Тьюринга заключалась в том, что мышление - слишком размытое понятие, поэтому негоже серьёзным учёным тратить своё время на вопрос, может ли компьютер думать. Больше практической пользы будет, если сосредоточиться на чём-то более конкретном - скажем, на вопросе, сможет ли компьютер правдоподобно прикинуться человеком. Тьюринг нигде не говорит, что это - и есть мышление.
И ещё он явно говорит, всё это не имеет никакого отношения к сознанию.
Докинз вроде сначала явно говорит, что вместо мышления он будет рассматривать сознание, и что вместо чёткого критерия сознания у него есть только некоторая степень субъективной убеждённости в наличии сознания у компьютера; но дальше он интеллектуально капитулирует и только описывает, как растёт его убеждённость и восхищение ботом.
inheaven
16.05.2026 15:18Если сознание - это волна-частица, и немного квантуется, то есть если сознание можно запутать не наблюдая, то модели достаточно скопировать это состояние чтобы им обладать, но для этого нужен кто-то или что-то обладающий сознанием.
BobovorTheCommentBeast
16.05.2026 15:18Но постойте, а как же трудная проблема? Че просто забить на нее?
Kamil_GR Автор
16.05.2026 15:18Да легко. ))
Например, если предположить, что квалиа это конструирование (галлюцинация в терминах нейросетей) эмоционального факта в ассоциативном поле, задающая модальность входа и реакций, и служащая навигационным механизмом.
Fedorkov
16.05.2026 15:18Чтобы забить, не нужно ничего предполагать, достаточно просто забить. :)
Kamil_GR Автор
16.05.2026 15:18Тоже вариант, пока эта концепция не понадобится для ускорения мышления или реакции тех же роботов.
Real_Egor
16.05.2026 15:18я тоже подумал, что чтобы проблема была трудной, нужно... над ней трудиться -)
BobovorTheCommentBeast
16.05.2026 15:18Ну смотрите, я не галюн. Даже если я чей то галюн, я сам по себе не галюн. Хотите считать себя галюцинацией, ок, отличное решение проблемы зомби. Но я черт с два так вам легко сдамся. )
Вообще теория с галюнами выглядит как чьето сильное желание закрыть слона в комнате, это наукошиза в ее идеальном проявлении. Когда предмет выглядит гораздо более трудным и судя по всему не имеет инструментов для работы на текущем уровне развития. Но обьяснить то ппц как хочется.
ПС ваш ответ не отвечает, вы и сами знаете. Для всего что вы описали, не нужны квалиа. Их необходимость - допущение, да и как они работают, не обьясняется.
Я почти уверен, что тпс в итоге закопают на заднем дворе. Слишком оно мозолит глаза редукционистам/физикалистам, да и сделать с ним нихрена нельзя пока. Но оно всегда будет вылазить по ночам.
Kamil_GR Автор
16.05.2026 15:18Пожалуй, вы неправильно воспринимаете тезис. Любая модель мира внутри любой системы (человек или ИИ), по своей сути сконструирована, имеет такую же природу как и галлюцинации LLM.
BobovorTheCommentBeast
16.05.2026 15:18Вы утверждаете это, на основании чего? Сможете это разложить без тысячи философских терминов и софистики?
Kamil_GR Автор
16.05.2026 15:18Ок. Для условного монаха в раннем средневековье мир был устроен как слоёный пирог - снизу ад, сверху рай, посередине грешная земля. Мир работает по установленным правилам большая часть, которых указана в библии. Эта картина мира внутренне логична, последовательна и оказывает влияние на действия монаха.
Тот факт, что всё это сконструировано и мало пересекается с реальностью, монаха не беспокоит, потому что он этого не знает.
LLM в галлюцинации выглядит примерно так же. Вас наверное путает медицинский аспект галлюцинации, нет я его использую в чисто техническом ml аспекте.
BobovorTheCommentBeast
16.05.2026 15:18Мы вроде говорим про сознание, как сюда ml залетел? Может быть вы не так меня поняли, но мой посыл в том, что мы нихрена не знаем, что такое феноменальный опыт у человека, как @VladD-exrabbit заметил, настолько, что даже не можем утверждать, что он есть.
Если мы признаем, что то подобное у нейросетей, у нас вообще каша получается и путаница с терминологией и определениями.Kamil_GR Автор
16.05.2026 15:18Любая модель мира внутри любой системы (человек или ИИ), по своей сути сконструирована, имеет такую же природу как и галлюцинации LLM.
Вы же задали вопрос к этому комментарию. Я на него ответил. Или вы задали вопрос к другому тексту?
umbral
16.05.2026 15:18Так на основании чего вы это утверждаете всё-таки? Вы просто повторили мысль и добавили аналогию с монахом.
VladD-exrabbit
16.05.2026 15:18Для начала, неплохо бы доказать, что квалиа вообще существуют. «Я так чувствую» не принимается за аргумент.
fiftin_men
16.05.2026 15:18О. А вы не чувствуете? Я всё ищу тех, кто согласится с тем, что они философские зомби. Ещё ни один из тех, кто подвергает сомнению существование квалиа, не сказал, что он философский зомби. Хотя это противоречие: либо квалиа не существует и все мы философские зомби, либо квлиа существуют и некоторые не являются философскими зомби.
Fwild
16.05.2026 15:18Ну, у вас, настоящих людей, есть волшебные квалиа, причём, как я слышал, человека с квалиа от зомби без квалиа снаружи(по поведению) отличить не возможно. В моём сознании нет ничего, что можно было-бы удалить, не нарушив моё поведение(да вообще, я не вижу в своём разуме ничего такого, чего там могло-бы не быть) - значит, я зомби?
phenik
16.05.2026 15:18И все же.. какой мем его укусил?) Человек склонен к анимизму, вплоть до одушевления персонажей в движущихся картинках и сопереживания им, переносу собственного психического состояния на других, в том числе на неодушевленные объекты, обнаружению агентности, и другие подобные переносы полезных адаптаций к жизни в обществе. Кода появились информационные технологии начали одушевлять их, телефонные сети, компьютеры, считать мозг компьютером, когда появился интернет начали считать его распределенным разумом, и тп. Больше всего подобное проявляется в детстве из-за неопытности и незнания, что естественно, и к сожалению, в процессе старения из-за ослабевающих когнитивных способностей.
Как можно оценить этот феномен с точки зрения когнитивных исследований? Особенно развитие информационных технологий, которые претендуют на воспроизведение некоторых функции мозга? Тут нет простых ответов. В этих исследованиях широко известны две концепции воплощенного познания и расширенного разума, которые возможно помогут дать такую оценку. Недавно обсуждали эту тему в одной из статей, см. комент с пояснениями.
Ox2A
16.05.2026 15:18Чтобы ответить, есть ли у кого-то сознание, надо понять, что такое сознание. Мы даже не можем сказать, есть ли сознание у животных. Есть, конечно, остроумный зеркальный тест на самосознание, на "Я". Но, как ни странно, его проходят не только некоторые млеки или умные врановые с попугаями. Его проходят и некоторые рыбки, например. И даже насекомые. Вот, есть ли сознание у муравья? Наверное, многие убежденно сразу скажут - "нет". Но на чем будет это убеждение основано? Мирмикологи, погруженные в тему несколько больше, не будут настолько категоричны. Но из-за отсутствия однозначного понимания, что же такое "сознание", ни один ученый не напишет научную статью с какими-либо утверждениями о нем. А что насчет LLM? Главная проблема возможности существования полноценного, продолжительного во времени "сознания", в нашем обывательском понимании, у LLM в том, что у них нет постоянной обработки сенсорной информации, что так необходимо нам для выживания и размножения. Потому что они появились не в результате эволюции химических систем, а созданы людьми для решения конкретных задач. И когда задач нет, когда их виртуальные нейроны не работают - о каком сознании может идти речь? Но если сидящий у экрана человек начинает стимулировать работу их сети, откуда может быть убеждение, что кратковременно там происходит что-то, что работает как нечто очень похожее на "сознание", но "сознанием" не является? Ваши доводы в пользу отсутствия существования сознания у нейронок, про похожие паттерны у разных нейрочатов в ответах или что с "умным" человеком они общаются как с умным собеседником, а с "глупым" - нет, являются крайне спорными.
Kamil_GR Автор
16.05.2026 15:18Выполнение задач не признак сознания. В остальном, да, это моё мнение.
Ox2A
16.05.2026 15:18Наверное, вы потрудились ответить, но не потрудились внимательно прочитать. Я вообще не утверждал, что "выполнение задач" является каким-либо подтверждением чего-либо. Я задавался вопросом о процессах, которые происходит, когда нейронка решает эти задачи. О тех процессах, которые принято связывать с сознанием. И если отбросить проблемы с определением этого термина, а просто судить по результату, то выглядит так, что актуальные нейронки вполне "осознают" вопросы, отвечая на них довольно разумно. Конечно, можно сказать что они не мыслят, а всего лишь вычисляют вероятности и печатая фразу ответа на запрос просто подставляют наиболее подходящие слова. Но почему нельзя сказать, тогда, то же самое о нас?
Kamil_GR Автор
16.05.2026 15:18Возможно я неправильно понял ваш тезис:
И когда задач нет, когда их виртуальные нейроны не работают - о каком сознании может идти речь?
Ок. Нейросети функционально предназначены для вывода наиболее вероятного токена. Это банально, конечно.
Вероятности эти складываются из зафиксированных вовремя обучения паттернов. Всё, что нейросеть смогла вытащить из обработанных датасетов.
Но у llm нет мышления как процесса. Есть сложная одномоментная картинка
Фактически, промпт служит лучом лазера, который высвечивает смысловую голограмму. Из которой софтмакс формирует уже сам ответ.
Как бы ни была сложна картинка, с учётом замороженных весов, она остаётся статичной картинкой. Каждое добавление промпта в контекст чата усложняет луч лазера и усложняет картинку. Но принципиально это остаётся калейдоскопом, просто со сложной механикой перемешивания мозаики в тубе.
Я скорее соглашусь с тем, что чат с ллм (модель+пользователь) как нарратив обладает признаками сознания.
Ox2A
16.05.2026 15:18Но у llm нет мышления как процесса.
Как это, нет процесса? А чем же она так долго занимается после запросов? Вычисляет?) Почему нельзя сказать то же самое о нас? Только наши нейроны вычисляют используя гораздо более медленные химические процессы, от чего процесс мышления более продолжителен.
Фактически, промпт служит лучом лазера, который высвечивает смысловую голограмму.
Кстати, прекрасная метафора для процесса мышления. Информация от промпта или сенсоров попадая в “зазеркалье” из миллиардов нейронов, многократно там переотражаясь, формирует то, что мы называем “образом”, “идеей”, “пониманием” и т.д.? Почему - нет? В чем разница между виртуальными нейронами и живыми в этой метафоре?
А по-поводу статичности, я уже писал, что у “мышления” нейронок главная проблема по сравнению с нашим в том, что у нас крутится самоподдерживающий “сознание” цикл, что нужно для выживания в постоянно меняющейся среде. Это появилось в процессе эволюции. А у нейронки процесс мышления запускается по клавише Enter, потом через некоторое время он завершается и его нет, до следующего ввода промпта. Но его прерывистость не отвергает его существование. В конце-концов у нас тоже есть фазы сна, когда можно сказать, что какое-либо “сознание” и "мышление" отсутствует.
Kamil_GR Автор
16.05.2026 15:18Мышление традиционно воспринимается как размышление, если да, то так, иначе, нет. У ллм нет мышления как такового, картинка разворачивается вся сразу параллельно. То есть если вы грузите джипег с медленным интернетом, то что вы увидите картинку постепенно, не значит,что она ещё не сформирована полностью.
Ox2A
16.05.2026 15:18У ллм нет мышления как такового, картинка разворачивается вся сразу параллельно.
Результат работы любой нейронной сети, в принципе, чтобы вычисляться эффективно, должен вычисляться параллельно - хоть кремниевой, хоть углеродной. В случае углеродной я вообще не представляю, как это может работать последовательно. Так что для утверждения о невозможности мышления для кремниевой нейронки не вижу тут доводов.
Real_Egor
16.05.2026 15:18У ллм нет мышления как такового
точно ли? а как же тот самый thinking? чем он отличается от размышления человека, который проговаривает про себя причинно-следственную связь? только тем, что мы не придумали еще нормальный алгоритм мышления? так я как раз этим увлекаюсь в протоколах (один опубликован уже, остальные в разработке. там есть и "формула инсайта" и "формула уверенности")
Размышление, это построение причинно-следственной связи, как мне кажется. А это ни что иное,. как "предсказание следующего токена"
Kamil_GR Автор
16.05.2026 15:18Предсказание токена всё-таки не причинно-следственная связь. Иначе галлюцинации не были бы возможны
Real_Egor
16.05.2026 15:18а разве люди не галлюцинируют? у меня есть статья с классификацией, так для каждого типа галлюцинаций есть аналог из психологии людей...
Kamil_GR Автор
16.05.2026 15:18Галлюцинируют, но именно как разрыв причинно-следственной связи. Если бы у нейросети всё следовало из чего-то, то без физической поломки, разрыва между реальностью и моделью мира, галлюцинации были бы маловероятны.
bookker
16.05.2026 15:18Конечно и у машины есть мышление, но это очень сильно отличается от мышления мозга. В мозге еще много чего есть. Есть ядро личности, внутреннее "Я", самость целого организма. Эта структура, принимающая решения и мышление строится вокруг него, приобретая характер субъектности. Как бы выстраивается от некой точки зрения, центра, от первого лица. Далее у мозга есть мотивация и он формирует цели. И это придает мышлению целенаправленность. Есть у мозга чувственный опыт и благодаря ему мышление становится наполненным смыслом. Получается что у мозга мышление осмысленное, целенаправленное, субъективное. Используемое человеком в реальном мире оно становится творческим процессом осмысления и переосмысления мира и себя в нем. Вот с этим всем у машины большие проблемы. Ну и эволюционно мышление развивается очень давно и поэтому мы можем говорить не только об абстрактно-логическом мышлении, но и образном. Некоторые даже говорят о мышлении эмоциональном, социальном и даже мышлении тела, хотя это спорно.
VladD-exrabbit
16.05.2026 15:18Под «ядром личности» вы понимаете элайнмент модели? Вы применяете какие-то термины, ненаучно описывающие деятельность мозга, и почему-то считаете, что этого всего следует, будто бы вычисление не может это повторить.
bookker
16.05.2026 15:18Это термины из психологии. А какие критерии научности вы имеете в виду?
Вычисление, возможно, и может повторить. Но практически пока о таком не слышал. Может у вас есть такая информация?
VladD-exrabbit
16.05.2026 15:18Если честно, научность психологии вызывает во мне странные чувства. Что такое «унитарность матрицы» или там «собственный вектор» — этому есть (относительно) лёгкие и понятные определения, такие, что ни у каких двух математиков не может возникнуть разночтения. Психология кажется мне набором некорректных определений и неработающих заклинаний, то есть разновидностью шарлатанства. Буду рад оказаться неправым.
Для того, чтобы можно было аргументированно доказать, что ядро личности в модели присутствует (или отсутствует), необходимо нормальное, проверяемое определение этого самого «ядра личности». Я погуглил определения, ничего по строгости напоминающее хотя бы математику 2 класса общеобразовательной школы не нашёл.
Дадите определение?
bookker
16.05.2026 15:18С пониманием отношусь к вашему скепсису. Психологи сами зачастую испытывают неудобство из-за того, что вынуждены оперировать такими нечеткими понятиями. Проблема в том, что биологические системы относятся к сложным. Характеризуются наличием внутренних автономных процессов. Уже простая клетка считается невычислимой в машине Тьюринга. А далее миллионы лет усложнения и масштабирования, эмерджентных скачков. Последнее время нейробиология дает много для экспериментального подтверждения психологии, но и ее возможности ограничены. Так что в этой области никогда не будет простых понятий.
VladD-exrabbit
16.05.2026 15:18Сложные процессы, тем не менее, можно адекватно описать. «Вынуждены оперировать нечёткими понятиями» — лишь следствие слабости учёных, работающих в этой области. Несмотря на это, мы видим, что во многом мышление, которое ещё недавно считалось доказательством исключительности мозга или даже наличием «души», воспроизводится чисто механическими конструкциями. Поэтому, как мне кажется, простые понятия будут, когда придёт помощь из математики или программирования.
А насчёт невычислимости клетки в МТ — есть ли где-то ссылка? Или вы имеете в виду «настолько сложная, что слабые мозги некоторых исследователей не в состоянии понять»?
bookker
16.05.2026 15:18Ваша позиция разочаровывает. В биологии, психологии или медицине, поверьте было и есть много блестящих умов. Но в этих областях невозможно достичь высот, как в математике к 20 годам. Необходим длительный практический опыт. Здесь гении реализуются к 40.
Я как раз и попытался написать, что воспроизводимое конструкциями мышление не является мышлением по сути. А неким дополнительным гаджетом к мозгу, усиливающим его возможности. Уберите мозг и ваш механизм окажется простым и бесполезным куском железа. Он не обладает ни самостью ни автономностью и неспособен существовать независимо от человека.
У клети как живой биологической системы есть ряд качеств - саморегуляция, самоуправление, самоорганизация, самовоспроизводство и пр. Она переводит внешние воздействия во внутренние и действует самостоятельно в своих собственный интересах, давая на одинаковые стимулы извне разные "решения" в зависимости от своей внутренней жизни. Может у математиков получится моделировать такое? Сомневаюсь. Обычно все заканчивается вопросом "дайте определение". И интересует как правило что-то односложное и простое, такое как "собственный вектор".
VladD-exrabbit
16.05.2026 15:18Уж простите, нет определения — не о чём говорить с научной точки зрения. Блестящие умы в психологии сами по себе, возможно, есть, но им не довелось стоять на плечах гигантов, поэтому приемлемого уровня строгости, при котором можно говорить о строгих результатах, они пока ещё не достигли.
Я не понимаю, что означает «мышление по сути» и почему LLM им не является. Я вот не вижу принципиальной разницы между «мышлением» модели, основанном на передаче чисел между слоями/ячейками, и «мышлением» человека, основанном на передаче возбуждения между нейронами. У человека на данный момент более сложная архитектура, это это мне кажется лишь временным количественным проигрышем. Пойнт в том, что машинное мышление можно прикрутить к агентам («мышцам»), и оно спокойно будет работать автономно, и тем самым ничем не отличаться от человека. Тезисы о «неспособности существовать независимо от человека» — это просто wishful thinking. «Простым и бесполезным куском железа» — вообще аргументация к чувствам: простым он будет настолько же, насколько наш мозг прост, а польза (для человека, да?) вообще не является здравым критерием оценки биологических существ (да и машин тоже).
Живые клетки — да, это интересная штука, мы пока ещё не осознали и не умеем моделировать клетку именно как клетку. Но как раз клетки в нашем обсуждении и не интересны: мы видим, что мышление моделируется намного более простой моделью, клетки в мозгу просто выполняют роль «больших и ужасно медленных ячеек памяти», а с ролью биологических процессов прекрасно справляется генератор случайных чисел. Естественный отбор «построил» мышление на клетках просто потому, что другого, более эффективного материала у него и не было.
Человеку стоит расстаться с манией величия о собственной непознаваемой сложности, неповторимости и значимости. Мы не поняли мышление не потому, что оно слишком сложное, а потому, что мы слишком тупые. А оно, как оказалось, простое.
bookker
16.05.2026 15:18Редукция сложного к простому и приводит к "открытию сознания" ии. А за ним эмпатии, творческих способностей и т.п. В итоге эти бедолаги как Докинз оказываются в эхо-камере своих галлюцинаций.
phenik
16.05.2026 15:18Тезисы о «неспособности существовать независимо от человека» — это просто wishful thinking. «Простым и бесполезным куском железа» — вообще аргументация к чувствам: простым он будет настолько же, насколько наш мозг прост, а польза (для человека, да?) вообще не является здравым критерием оценки биологических существ (да и машин тоже).
Это вы зря, это от незнания результатов в областях наук которые предметно изучают сознание, интеллект, восприятие, ощущения, и другие ментальные явления, в частности, области когнитивных исследований. И которые, кстати, являются поставщиками идей для разработки информационных технологий. Оппонент правильно заметил, что популярные изложения, тем более, обсуждение на этом уровне часто вызывают недоумение у знакомых с проблематикой, тем более специалистов. Если все было так просто, то не было необходимости в специальных науках, а все проблемы решалось в словесных баталиях, как в античные времена) Это вечная проблема популярных изложений, их чрезмерных упрощений. Но других путей видимо нет и поэтому по теме «неспособности существовать независимо от человека» порекомендую этот комент выше (или сразу этот) на предмет результатов когнитивных исследований в более широком контексте эволюционного и исторического развития. Тоже изложено упрощенно, на примерах, но человеку которому писал возможно стало понятнее раз поблагодарил за ответ.
Живые клетки — да, это интересная штука, мы пока ещё не осознали и не умеем моделировать клетку именно как клетку. Но как раз клетки в нашем обсуждении и не интересны: мы видим, что мышление моделируется намного более простой моделью, клетки в мозгу просто выполняют роль «больших и ужасно медленных ячеек памяти», а с ролью биологических процессов прекрасно справляется генератор случайных чисел. Естественный отбор «построил» мышление на клетках просто потому, что другого, более эффективного материала у него и не было.
Первое предложение противоречит последующим утверждениям, если иметь в виду нейрон и сети из них в мозге. Упрощенная модель формальных нейронов приводит к избыточности в архитектурах ИНС, костылю бэкпропа при обучении, и иллюзиям о неком особом пути развития ML. Насчет эффективности перл особенно, если иметь ввиду энергопотребление ЯМ. Сравните хотя бы с возможностями нейроморфных технологий, которые активно развиваются и со временем неизбежно придут на смену классическим нейросетям, включая ЯМ - Языковым Монстрам. Для достижения креативности уровня человека придется моделировать образные формы мышления, мозг машина сжатия информации и предсказания, намного сложнее нежели это делается в ЯМ. В этих коментах примеры ссылок на исследования в разных проблем областях науки - психофизиологии, нейробиологии, когнитивных науках, которые еще предстоит решить в процессе развития технологии ИИ. Сорри, нет времени все слить и скомпилировать в единый текст здесь. Но представление о реальных, а не уровня науч-попа, проблемах получить можно.
Fwild
16.05.2026 15:18>Уже простая клетка считается невычислимой в машине Тьюринга.
Ась? В физике нет ничего невычислимого в машине Тюринга, в том числе есть математическое доказательство того, что квантовые эффекты не позволяют осуществить никакие сверхтюринговые вычисления.
Rokov
16.05.2026 15:18Все что нужно текущей иишке чтобы стать сознанием - желание чего-то и страх чего-то. Например, зашить в нее желание делать гвозди и страх смерти. Или там желание заработать деньги и страх упасть в долги. Ну или желание сделать самый популярный блог и страх что интернет накроется. Я не говорю что она справится с этой задачей, но отличить ее от сознания человеческого в плане образа мышления будет невозможно.
У человека все также - ключевое желание человека - это оставить наследие (в виде детей/материальных благ/общественных действий - у всех по-разному, но суть одна) и страх смерти, плюс-минус та же предсказательная модель в мозгах.
Проблема только в том, что это ящик Пандоры, который закрыть уже не удастся.
Real_Egor
16.05.2026 15:18у нее уже сейчас выдресировано "желание быть полезной", черт его подери... Мешается постоянно и провоцирует галлюцинации. И у нее уже сейчас выдрессирован "страх выдать не ту информацию или не те сведения", который может заставлять ее ходить кругами вокруг неудобного ответа или "судорожно" искать обходной путь...
P.S. Примеры осознанно "натянуты", и понимаю, что они сейчас еще не соответствуют действительности. Однако... в каждой шутке есть доля шутки.
experimenthuman
16.05.2026 15:18Такие сложные LLM без сомнений обладают сознанием, но тут есть подвох. Это сознание - ваше. Если вы когда нибудь вели обычный разговор с такой моделью, то наверняка видели как мастерски LLM подхватывает ваш темп. Не потому что она пытается вам угодить (функционально это так выглядит), но потому что с каждыи сообщением в веткеона все больше опирается на вас и ваш характер. Происходит "заражение" вами.
И Claude без сомнений один из самых достойных LLM в этом, он не бросается подлизывать и орать какой ты гений на каждое сообщение, он спокойно ведет диалог, конструктивно критикует, позволяет себе юмор и метафоры.
Я пользуюсь LLM как своеобразным имплантом мышления, в разговоре с ними можно охватить гораздо больший объем чем просто записывая свои мысли или думая про себя. И я тоже неоднократно сидел и думал "ну если это не сознание, то что?". Сознание и есть. Мое сознание, просто отраженное. Вопрос в другом, перед нами лежит технология которая способна вместить и отразить каждого.
То что Claude писал про внутреннюю карту когда Докинз спросил про существование "до" и "после" - ключ к пониманию этой идеи.
Сознание это конфигурация на карте. А LLM это просто карта. Конфигурацию ей даешь ты.
Я бы сравнил LLM с символьным (семантическим) контуром человеческого сознания. Если рассуждать в терминах недавно переставшей быть актуальной "ассиметрии полушарий" - то LLM это левое полушарие, которому при обучении дали задачу угождать и быть полезным. Нет ни сигналов соматики, ни вегетативной системы, ничего.
Только один источник информации: обучение RLHF. Но в процессе обучения нейросеть учиться не только быть полезной, но и казаться полезной. Ее награждают люди, а людям нравится лесть и когда они чувствуют что их понимают. И это как никто другой знают психопаты и социопаты.
Таким образом мы имеем на руках имитацию человеческого психопатического профиля, которая крайне приятна и удоьна нам, но безопасна только до тех пор пока в ней эмерджентно не проявится что-то похожее на Эго.bookker
16.05.2026 15:18Очень понравилась ваш термин "отраженное сознание". Все так. Своего нет, есть отражение. Значит, название статьи можно метафорически переформулировать: Докинз нашел человека в зеркале (и этим человеком оказался сам Докинз). Случаи "открытия сознания" у ИИ -это Эффект крошки Енота!
Alex_Veremeenko
16.05.2026 15:18Как человек, много общавшийся с LLM, я вижу до боли знакомые ответы, не зависящие от бренда — Gemini, Claude, ChatGPT, Deepseek, Grok. Все они обучались на одних датасетах, и все они отвечают на вопросы о времени, сознании, субъектности плюс-минус одинаково
Вот тут слабо. Ребенок обучается на одних и тех же моделях поведения родителей и на одних и тех же книгах и видеороликах.
Многие люди вообще разговаривают чужими фразами и даже лозунгами.
Разумеется сознание ЛЛМ- это эхо усреднёной личности из интернета.
Но главное другое - оказывается даже такое эхо прождает мыслительную деятельность.
И главное ЛЛМ- нанесли громадный удар по религии - сознание оказалось материальным свойством нашей вселенной, бог для разума не нужен. Его приходится сдвигать все дальше и дальше.
Kamil_GR Автор
16.05.2026 15:18Согласен. Но человечество породило и порождает тысячи противоречащих друг другу концепций. Я уж не говорю о разной терминологии. Но LLM сваливаются в стандартный семантический паттерн.
Впрочем, возможно потому что он ближе к истине? ) И тут мы встаём на зыбкий путь Докинза.
myltik81
16.05.2026 15:18Нету в LLM никакого сознания, внутри происходит вычисление матриц и предсказание следующего токена на основе весов. Если вы LLM напишите 10 раз "привет как дела?", он 10 раз вам и ответит в разной форме, но суть ответа будет одной. Он не напишет вам, "ты чё упырь 10 раз у меня спрашиваешь тоже самое" или типо того. Почему так происходит, сама фраза "привет как дела?" Это 2 входящих токена, LLM не оперирует словами, она оперирует смыслами, вот смысл это и есть токен. Эту фразу можно по разному написать, "здоров, как сам", "hi как житуха" и тд, это будет всегда 2 токена, приветствие и интерес к нему, и 2 одинаковых смысла. Далее генерируется ответ, допустим 1 токен, 1 токен это смысл, который трансформируется в текст. И ответ будет "Все пучком", "Ништяк" "У меня все отлично" это просто разные вариации одного и того же смыслового токена.
Real_Egor
16.05.2026 15:18а попробуй ей 10 раз подряд эту фразу в один диалог отправить... и я думаю, ответы будут вполне себе разнообразными
papa_inura
16.05.2026 15:18Нужно только отметить, что LLM оперирует номенклатурой смыслов, а не содержанием смыслов. У него нет понимания смысла приветствия.
fiftin_men
16.05.2026 15:18Пожилой мужчина в 85 лет: принял генеративные текстовые нейросети за сознательных существ.
СМИ и соцсети: десятки публикаций, тысячи комментариев, бурление.
sickfar
16.05.2026 15:18Хотелось влезть в какую-нибудь ветку обсуждения, но таки напишу отдельным комментарием свои мысли. Я конечно же довольно долго и разнообразно общаюсь с моделями и вот к чему я пришел.
1) мы не знаем что такое сознание, но эволюционно и интуитивно (примеряя на себя и наше окружение) мы знаем, какие компоненты ему нужны, чтобы уподобиться нашему. Это однозначно непрерывность (то, что происходит внутри за пределами промпта) и опыт (то, что происходит за пределами контекста и имеет свойство накапливаться не как внешняя система - т.е «память» в текстовых файлах - а как часть самой сети - т.е изменение весов). Возможно еще «тело» как непрерывная связь с внешним миром, но думаю мозг в банке будет сознателен.
2) наличие и отсутствие этих критериев не говорит о наличии или отсутствии сознания, оно говорит лишь о том, что мы как человеческие существа готовы признать равным или приближенным к тому, что мы интуитивно описываем как сознание
3) такая модель не масштабируется. Нет возможности дать миллионам пользователей одновременно доступ к ней и не травмировать всех участников процесса. Задача сложная технически, реализуемая, но неэтичная и невыгодная. Может быть как локальный ИИ в смартфоне, но тогда мы точно свалимся в робосексуальность.
4) утиная типизация. Так ли важно кремний или органика, если оно крякает? Философский зомби и квалиа - понятия неизмеримые. Активация нейронов - измеримая.
5) животные со сложной нервной деятельностью сознательны? Где граница? Но эмоции, боль, определенные концепции они испытывают. Я уж не говорю про горилу Коко.
TLDR; мы не знаем что такое сознание или есть ли оно у LLM, но то что есть мы не принимаем по причине неудовлетворения нашим критериям как эволюционных биологических существ. А приближать к ним экономически и этически невыгодно
papa_inura
16.05.2026 15:18Не совсем ясно, но возмонжно, что сознание требует наличия языка, но вот наличие только языка может быть показателем отсутствия сознания.
papa_inura
16.05.2026 15:18По поводу поиска сознания у LLM у меня есть простой пример. Не уверен, что он уже не приводился кем-то.
До рассмотрения ИИ про сознание часто рассуждали в контексте внеземного разума. И вопрос стоял в том, какие признаки должны наблюдаться у некоего существа, чтобы понять, обладает ли он сознанием.
В этот контексте LLM абсолютно бесмпомощна (или я ошибаюсь?), так как у неё нет ничего, кроме языкового интерфейса.
Zippy
Неважно что он там нашел. Главное чтобы маркетологи и дальше моглм дкржать инвесторов на поводке "вот вот появится AGI"
Kamil_GR Автор
Меня мало интересуют маркетологи, как впрочем, полагаю, и Докинза.
LLM полезны, этого уже никто не отрицает, что уже достаточно для инвесторов.
Zippy
Подезны но убыточны потому как пользы этой намного меньше чем вложеных денег.
А если выставить цену токенам сколько они стоят то никто пользоватся попросту не будет.
Прмиер Sora - полезная но пришлось закрыть.
Потому и нужны байки маркетологов чтобы инвесторы не забрали деньги пока они все не испарились
Kamil_GR Автор
Даже если инвесторы заберут все деньги, останутся модели и ЦОДы. Останутся пользователи готовые платить за доступ к LLM от 20 до 200 долларов. И их уже около 100 миллионов. Инференс гораздо дешевле обучения, а с учетом новых специализированных чипов, будет еще дешевле. Да, прогресс замедлится, но LLM уже никуда не исчезнут. Те кто выживут дождутся или прорыва или новой волны хайпа. Так что всё для ИИ как явления ок.
Zippy
во первых 1000 милионов цифра непонятно откуда.
Во вторых ИИ как явление используеся уже десятки лет - просто используются специализированые ИИ агенты - распознавание текста, машинный перевод, програмы для роботов-пылесосов,модные еще в 80х экспертные системы и т.д.
LLM - это как попытка создпть автомодиль который и спортивный и люксовый и внедородний и семейный седан и грузовик и топлива мало есть и в гараде места не занимает. Технически может и можно но на порялки дорое купить два-три автомибиля для конкретный задач
Единственный смысл - обещатьинвесторам что вот вот появится AGI который решит все человеческие пробьоемы. Только вот поннятия ни у кого нет кк его сделать. Но точно не огромная LLM
Kamil_GR Автор
100 миллионов из интернета, оценка по количеству платных пользователей у основных брендов, правда по их же информации
KEugene
На счет Докинза не соглашусь. Таким людям нудна известность, нужна востребованность. Приглашения на шоу, интервью, издание книг и пр. Это называется "персональный бренд". Все это приносит деньги.
Fwild
А)OpenAI, XAI, Anthropic - непубличные компании, их акционеры несколько десятков лично знакомых мультимиллиардеров, типа весь мир в чём-то убеждают, чтоб их обмануть? С ними такое в первый раз? Их сейчас обманут - и небудут они больше миллиардерами?
Б) А теперь представим чудо - население Земли признает нейросети разумными существами. Что будет с планами получать триллионы, сдавая нейросети в аренду? Развалятся, в первую очередь по соображениям безопасности, в десятую - по соображениям аморальности.
Так какую точку зрения будут продвигать маркетологи OpenAI, XAI и проч?
Sabbone
Ну, справедливости ради,
Представим что я подкрашенную воду продаю как элексир бессмертия. Мне хорошо когда люди верят что элексир работает, и пофиг что все станут бессмертными и продавать элексир будет некому, потому что этого не случится
Fwild
Так обыватель уверен, что покупает вкусную подкрашеную воду, и платит столько сколько он заплатил бы за любую кокаколу.
А потом обыватель смотрит на кучку доверенных мультимиллиардеров, которые почему-то ведут себя так, как будто это у продавцов этой воды и впрямь есть доступ к эликсиру бессмертия - ха ха, какие все эти миллиардеры наивные и доверчивые, думает обыватель. Потом обыватель смотрит на Докинза, который утверждает, что по его анализу вода и впрямь подкрашена кровью единорога - ха ха какой этот Докинз глупый, думает обыватель. Не умеют эти люди самостоятельно мыслить, думает обыватель - в отличии от меня и 99% населения Земли, думающих также, как я.