Девочка Салли прячет шарик в корзинку и уходит. Тетя Анна достает его и перекладывает в коробку. Салли возвращается.
Вопрос двум детям, которые наблюдали: где Салли будет искать шарик?
Трехлетний ответит — в коробке. Там же шарик, логично.
Четырехлетний — в корзинке. Там, где его нет, но там Салли его оставила.
Чувствуете логическую дыру? А ее нет.
Только что я воспроизвел вам известный научный эксперимент, который по сей день оставляет науке когнитивного восприятия незакрытый вопрос. Сегодня поговорим об одной из самых загадочных и простых теорий психологии, с которой не могут разобраться полвека.
Невидимый орган
В 1978 году двое исследователей — Дэвид Премак и Гай Вудрафф — опубликовали статью с вопросом в заголовке: «Есть ли у шимпанзе теория разума?» (Тheory of Mind — ToM). По тем временам это звучало примерно как «Умеет ли ваш кот притворяться?».
Они показывали шимпанзе по имени Сара видеозаписи: человек заперт в клетке, не может дотянуться до еды, мерзнет у неработающей печки — и предлагали разные фотографии на выбор, с намерением понять, что, по мнению шимпанзе, пригодится человеку. Из множества фото Сара выбрала фото ключей и включенной горелки. Исходя из эксперимента исследователи решились на вывод: она понимала намерение.
Так появилось определение, которое держится до сих пор.
Теория разума — это когда существо приписывает другим ненаблюдаемые состояния (убеждения, желания, знания) и использует их, чтобы предсказать поведение.
Слово «теория» здесь в научном смысле: ментальное состояние нельзя увидеть — его можно только вывести.
Из этого «нельзя увидеть» сразу вырастает вопрос: как тогда проверить? Философ Дэниел Деннет предложил «кислотный тест» — понять, что у другого человека сформировано ложное убеждение.
Знать, что шарик в коробке, и при этом держать в голове, что Салли уверена, будто он в корзинке. Два разных «мира» одновременно — реальный и чужой. В 1983-м Виммер и Пернер собрали из этой идеи первый эксперимент на детях, а Барон-Коэн, Лесли и Фрит в 1985-м запустили тест на детях с аутизмом.
Статья называлась так: «Есть ли у ребенка с аутизмом theory of mind?».
Дети с обычным развитием начинают проходить его примерно с четырех лет, потому что в более раннем возрасте нет смысла проводить такой тест. Трехлетний отлично запоминает окружение, хорошо понимает вопрос — у него просто еще нет инструмента держать чужое убеждение отдельно от реального положения дел. Ближе к четырем годам что-то щелкает, и инструмент появляется. Что это за щелчок и где он происходит — наука пытается понять до сих пор.
“Теория разума — достижение, но не врожденная данность. Оно включается, и, как выясняется дальше, может работать совершенно по-разному у разных людей.
После того как основы теории прижились, возник новый вопрос: а что именно мы, собственно, измеряем?
Трещина в фундаменте
Вернемся к определению Премака. Теория разума — это про ненаблюдаемые состояния. Убеждение нельзя увидеть, его можно только вывести из поведения. Звучит как философская оговорка, но на самом деле это структурная проблема всей области.
Потому что любой тест на теорию разума немедленно упирается в один и тот же вопрос: откуда мы знаем, что испытуемый именно моделирует чужой ум, а не просто считывает поведенческую закономерность? Четырехлетний, который показывает на корзинку, действительно держит в голове убеждение Салли или он просто запомнил правило «ищи там, куда клали»? Шимпанзе Сара выбирала нужную фотографию, потому что понимала намерение человека или потому, что научилась угадывать паттерн в задаче?
Убеждение только вывести — и эта невозможность прямого наблюдения будет преследовать нас до конца статьи. В каждом эксперименте и каждой теории о том, как именно мозг это делает, — везде одна и та же трещина. Мы измеряем поведение и называем это чтением умов.
Как рухнул главный тест
В 2005 году японские исследователи Кристин Онищи и Рене Байаржон провели еще одно исследование, которое перевернуло представления о том, когда именно появляется теория разума.
Они вообще ни о чем не спрашивали детей — просто наблюдали, куда те смотрят. Дети 1–2 лет видели такую сцену: женщина прячет игрушечный арбуз в одной из коробок. Затем игрушку перекладывали: в одних условиях женщина наблюдала за перемещением, а в других не видела его и поэтому сохраняла ложное представление о местонахождении игрушки.
После возвращения женщина протягивала руку к одной из коробок. Исследователи измеряли, как долго младенец смотрит на сцену после ее действия. Дети дольше наблюдали за происходящим, когда женщина искала игрушку там, где ее, согласно ее собственному убеждению, быть не должно. Авторы интерпретировали более долгий взгляд как удивление: ребенок ожидал, что поведение женщины будет соответствовать тому, что она видела и знала о местонахождении игрушки.
Грубо говоря, ученые создали убеждение в голове ребенка и тут же его сломали.
Вывод: уже 15-месячные малыши, судя по взгляду, как-то понимают ложное убеждение. Не в четыре года, как предполагали Виммер и Пернер. Выходит, явный тест с куклами не обнаруживает способность, а лишь проверяет, может ли ребенок ее выразить вербально. Сама способность формируется гораздо раньше. По-научному назвали это явление антиципирующим взглядом (позже — айтрекингом).
Эксперимент называли революцией. На парадигме антиципирующего взгляда выросло целое направление — десятки лабораторий и сотни статей. Имплицитный ToM, который есть у всех с рождения, противопоставляли явному, который появляется в четыре года. Появилась красивая теория двух систем: быстрая автоматическая и медленная осознанная.
А потом теория разума посыпалась.
Ученые стали честно перепроверять результат: заранее, до того как увидеть данные, записывали, как именно будут считать и анализировать. Чтобы потом не подгонять цифры под нужный вывод. И при такой проверке эффект на детях не повторился. Крупное лонгитюдное исследование прошло с тем же количеством детей (185 испытуемых). Ни в одной возрастной группе не нашлось устойчивого имплицитного ToM. На взрослых парадигма работала, а на детях — нет.
Теория двух систем при этом никуда не исчезла. Она по-прежнему объясняет расхождение между результатами на взрослых и детях, между взглядом и словами. Но революция стала заплаткой. Хорошая заплатка, прям рабочая, но заплатка. Мы по-прежнему не умеем понимать, как работает теория разума.
А если просветить мозг?
Пока психологи спорили о тестах, нейробиологи предложили более практично-аналогичный путь: просто заглянуть внутрь мозга. Запихнуть человека в МРТ-сканер, дать ему задачу на ложное убеждение — и посмотреть, что там внутри загорится.
В начале 2000-х Ребекка Сакс из MIT положила испытуемых в МРТ-сканер и давала им читать короткие истории двух типов. Первый: «Джон думает, что ключи в ящике» — история про чужое убеждение. Второй: «ключи в ящике» — тот же факт, но без чужой головы внутри. Когда человек читает оба варианта, мозг работает в обоих случаях — идет чтение, понимание языка, обработка смысла. Но в первом случае добавляется кое-что еще: нужно смоделировать, что именно находится в голове у Джона.
Сакс смотрела на разницу в активации между двумя условиями — то есть буквально вычитала одно из другого. Что горит в первом случае и не горит во втором?
Особенно заметной разница оказалась в правом височно-теменном узле, или TPJ — области на стыке височной и теменной долей, примерно над и позади уха. Она устойчиво активировалась сильнее, когда участникам требовалось представить, что думает другой человек.
Но здесь нужна оговорка.
Выражение «зона убеждений» звучит так, будто мозг состоит из отдельных отсеков: один отвечает за зрение, второй за речь, третий — за чтение чужих мыслей. Современная нейробиология описывает его устройство сложнее: отдельные участки действительно могут быть относительно специализированы, но сложные способности возникают благодаря работе распределенных сетей и взаимодействию их узлов.
Поэтому TPJ — нельзя назвать отдельной четко очерченной зоной, в которой хранится теория разума, а скорее одним из узлов сети ментализации. Рядом с ним находится участок, участвующий в переключении пространственного внимания. Долгое время их активацию было трудно разделить, но исследования с более точной локализацией показали: это соседние, однако функционально различимые области. Достаточно близкие, чтобы на усредненной карте мозга выглядеть одним пятном, но достаточно разные, чтобы выполнять неодинаковые роли.
TPJ — один из наиболее устойчиво обнаруживаемых узлов, но работает он не один. Моделирование чужого ума оказалось задачей, которую мозг решает словно оркестр, но не как солист. Верхняя височная борозда считывает социальные сигналы — взгляд, жесты, направление движения — и передает их дальше.
Медиальная префронтальная кора занимается более общим вопросом: кто вообще думает о ком и чем чужая точка зрения отличается от моей? Предклинье подключает память и воображение — когда нужно представить, как ситуация выглядит с позиции другого человека. Височные полюсы связывают все это с конкретными социальными знаниями, накопленными за жизнь. Когда вы пытаетесь понять, что у кого-то на уме, все эти зоны включаются одновременно и координируют работу друг с другом.
Казалось бы, вот оно — орган найден, адрес известен. Но и тут есть проблема. МРТ измеряет кровоток: когда нейроны активны, туда идет больше крови. Мы видим, где горит, но не что именно там происходит. Корреляты ментализации это не само убеждение. Заглянув в мозг, мы снова упираемся в то же: ненаблюдаемое так и остается ненаблюдаемым, просто теперь у него есть почтовый индекс.
Хуже того, орган оказался не единым.
Исследования с пациентами, у которых повреждены разные зоны мозга, обнаружили устойчивое расщепление. Theory of mind распадается на два независимых маршрута.
Когнитивный ToM — способность выводить, что другой думает: его убеждения, намерения, знания.
Аффективный ToM — способность понимать, что другой чувствует: его эмоции, переживания.
Психопатия делает это расщепление почти наглядным. Человек с психопатическими чертами отлично считывает, что у вас в голове — он понимает ваши намерения, предсказывает ваши действия, моделирует картину мира точнее, чем среднестатистический человек. Когнитивный ToM у него цел, но ему безразлично, что вы при этом чувствуете.
Аффективный маршрут — тот, что идет через орбитофронтальную кору, работает иначе. По профилю аутизм выглядит почти зеркально: глубокое сопереживание при трудностях с выводом чужих убеждений через логику.
И это доказательство, что читать мысли — не единое умение, а минимум два, с разными нейронными путями и разнородными точками отказа. Мозг дробит способность на части — и при этом все равно не дает прямого доступа к тому, что внутри другого человека.
Бесконечный спор
Допустим, мы нашли зоны мозга. Это все равно не отвечает на вопрос: что именно там происходит, когда мы моделируем чужой ум? Тут у исследователей два лагеря, и они они достаточно жарко спорят.
Первый — теория-теория.
Ее сторонники, прежде всего психолог Элисон Гопник (такая фамилия, что поделать), предлагают думать о ребенке как о маленьком ученом. Он наблюдает за поведением людей вокруг, строит гипотезы о том, как устроена их психика, проверяет их и обновляет под новые данные.
«Мама расстроилась, когда я разлил молоко. Значит, она не хотела, чтобы молоко разливалось. Значит, у людей есть желания, которые можно нарушить».
Постепенно в голове складывается рабочая теория чужой психики — отсюда и название.
Второй лагерь — теория симуляции.
Философы Роберт Гордон и Джейн Хил, а следом психолог Элвин Голдман предложили другой механизм: мы ничего не теоретизируем. Мы просто запускаем себя в чужих обстоятельствах. «Если бы я спрятал шарик в корзинку и ушел — где бы я его искал, вернувшись?» Не теория о другом человеке, а симуляция от первого лица.
Спор между ними начался в 1986 году и формально оформился в 1992-м, когда оба лагеря свели лоб в лоб в специальном выпуске журнала Mind and Language. С тех пор прошло больше тридцати лет — и проблема в том, что снаружи оба механизма дают одинаковый результат. Если человек правильно предсказал поведение другого, непонятно: он построил теорию или симулировал?
Казалось, в 1990-х спор вот-вот закроется — с неожиданной стороны.
В лаборатории Джакомо Риззолатти в Парме исследователи вживляли электроды в нейроны моторной коры макак, чтобы изучать движение. Однажды один из нейронов сработал не тогда, когда обезьяна взяла еду, а когда она просто наблюдала, как еду берет человек. Тот же нейрон, то же срабатывание — но движения не было. Так случайно нашли зеркальные нейроны: клетки, которые активируются и при выполнении действия, и при его наблюдении.
Для сторонников симуляции это выглядело как готовый нейронный механизм. Витторио Галлезе и Элвин Голдман написали об этом в 1998 году: зеркальные нейроны как физическая основа симуляции.
Дальше идея быстро разошлась — зеркальными нейронами начали объяснять эмпатию, язык, социальное познание и, конечно, theory of mind. Появилась «теория сломанного зеркала» при аутизме: если система зеркальных нейронов работает иначе — нет симуляции и эмпатии.
Далее, в 2008 году нейробиолог Грегори Хикок написал книгу «Миф о зеркальных нейронах» — и планомерно разобрал эту конструкцию. У людей зеркальных нейронов никто не регистрировал напрямую: все данные косвенные, перенесенные с макак.
Повреждения зон с предполагаемыми зеркальными нейронами у людей не приводят к нарушениям эмпатии или понимания чужих действий. Объяснять ими все сразу — значит объяснять ничего конкретно. Выводы, говорит Хикок, просто опередили данные.
«Теория сломанного зеркала» при аутизме рухнула вместе с этим.
И на ее месте появилось кое-что интереснее.
В 2012 году исследователь Дэмиен Милтон (кстати, сам имеет аутизм) предложил концепцию двойной эмпатии. Трудности в общении между аутичными и нейротипичными людьми, говорит он, взаимные. Нейротипичные люди так же плохо читают аутичных собеседников, как аутичные — нейротипичных. Просто об этом не принято говорить, потому что нейротипичное общение считается нормой по умолчанию.
Дело не в дефиците у одной стороны, а в том, что две разные группы плохо моделируют друг друга.
И это нельзя просто отнести к теории аутизма, это другой вопрос. Сформулировал бы я его как «почему мы решили, что читаем их лучше?». Два хайп-цикла — зеркальные нейроны и сломанное зеркало, и один урок: когда нельзя увидеть механизм напрямую, соблазн придумать красивое объяснение окажется сильнее, чем данные.
И как быть?
Вопрос, с которого все началось в 1978 году, так и остался открытым. Есть ли theory of mind у животных — конкретно у шимпанзе?
Следующие тридцать лет давали один и тот же ответ: нет. Шимпанзе раз за разом проваливали тесты на ложное убеждение: они отлично понимали, где спрятана еда, умели обмануть конкурента, но стандартный тест, где нужно предсказать поведение агента с ложным убеждением, им не давался. Выходило, что способность моделировать чужой ум в том смысле, в каком ее понимали Виммер и Пернер, есть только у людей.
В 2016 году вышла статья в Science, которая это перевернула.
Кристофер Крупенье и Сатоши Кано взяли три вида человекообразных — шимпанзе, бонобо и орангутанов — и адаптировали для них ту самую парадигму антиципирующего взгляда. Обезьяны смотрели видео: человек в костюме гориллы прячет мяч под одну из коробок, агент видит это — и уходит. Пока его нет, мяч либо перекладывают под другую коробку, либо убирают совсем. Агент возвращается.
Камера фиксировала взгляд обезьяны.
Куда та смотрела в момент, когда агент шел искать?
Все три вида смотрели туда, где агент оставил мяч — туда, где тот лежал по его ложному убеждению, а не туда, где мяч находился на самом деле. Та же логика, что у четырехлетнего ребенка с корзинкой Салли. Авторы заключили: способность моделировать чужое ложное убеждение появилась не у людей — она досталась нам от общего предка, который жил 13–18 миллионов лет назад.
Но здесь уже знакомая трещина.
Обезьяны могли смотреть туда вовсе не потому, что моделировали убеждение агента. Они могли просто запомнить правило: «этот существо в последний раз видело мяч вон там — значит, туда и пойдет». Поведенческое предсказание без всякой модели чужого ума. И инструмент, которым это проверяли — парадигма взгляда, — это та же самая методология, которая не воспроизводится на детях в предзарегистрированных экспериментах. Круг замкнулся.
Пятьдесят лет наука ходит по кругу
Сейчас мы умеем многое: локализовать ментализацию в мозге, дробить ее на когнитивный и аффективный маршруты, ловить момент, когда она включается у ребенка, находить ее следы у человекообразных. Но каждый раз, когда мы пытаемся доказать, что именно там происходит — моделируется ли чужое убеждение по-настоящему или мозг просто считывает поведенческую закономерность, — упираемся в одно и то же.
Ментальное состояние нельзя увидеть напрямую, но, возможно, это просто вопрос поставлен неправильно.
Есть другой фрейм — и он приходит из нейронауки, от той же Ребекки Сакс. Вместо того чтобы спрашивать, есть ли убеждение в голове, можно спросить: как мозг строит предсказания о поведении другого человека? Мозг в этой модели — не детектор убеждений, а машина предсказаний, которая постоянно обновляет модель мира, в том числе модель чужих намерений.
Это предиктивное кодирование — и в этом фрейме граница между «настоящим» пониманием чужого ума и «просто предсказанием поведения» перестает быть такой очевидной. Может, это и есть одно и то же — только мы привыкли называть это красивым словом.
Вернемся к Салли и корзинке. Четырехлетний показывает правильно — туда, где Салли оставила шарик. Он знает, что там его нет. Но он предсказывает, куда пойдет Салли. Это убеждение в его голове о ее убеждении — или точное предсказание ее поведения на основе наблюдения?
Спустя полвека исследований мы все еще не знаем…
Комментарии (42)
zkutch
19.07.2026 07:35Но так и в физике - мы не видим гравитацию, мы не видим электрическое поле, магнитное и т.д. Просто у нас есть уравнения которые более или менее предсказывают результаты экспериментов. Такая трещина всегда есть - может мы выдумали очередной теплород или эфир и опять и т.д. Что есть причина и что есть следствие это еще суметь надо "увидеть" - увидеть точно, что это вот именно гравитация кого-то тянет за попу, это надо именно суметь. В математике нет времени, а то было бы неплохо заявить, что, например, если из лжи заключить правду, то это всегда истинна. Или если из истинны вывести ложь, то это ложь. Но нет времени, нет сперва и потом. Может быть нужно что-то вроде случайного процеса для определения причинно-следственной связи.
ponikrf
19.07.2026 07:35Но так и в физике - мы не видим гравитацию, мы не видим электрическое поле, магнитное и т.д. Просто у нас есть уравнения которые более или менее предсказывают результаты экспериментов.
Это абсолютно не так.
Не видим - не значит что это не существует. Опора на видимое - абсолютно ошибочное решение."Более или менее" - это просто космически сильное преувеличение. Квантовая электродинамика (КЭД) - Самая точная физическая теория из существующих - ее предсказания подтверждены ЭКСПЕРИМЕНТАЛЬНО с точностью до 10 в -12 степени.
Если вы сводите физику к уравнениям, значит вы игнорируете сами концепции - как что работает, и почему это так работает.
Например - мы можем свести (очень утрированно) ток переменного напряжения к форумле I=UωC. Но эта формула не объясняет - почему переменный ток проходит через емкость!
У вас не правильное представление о науке.
Про остальное я вобще молчу.
iamkisly
19.07.2026 07:35Не видим - не значит что это не существует
Это и не утверждалось, вы сами придумали этот тезис. zkutch5 явно имел ввиду постановку гепотезы, и ее потверждение, или опровержение. И то что сам физический процесс мы наблюдать чаще всего не в состоянии, поэтому выводы превращаются в общепринятую условность, где мы доверяем определенным центрам с достаточной репутацией. Где же он не прав ?
ponikrf
19.07.2026 07:35явно имел ввиду постановку гепотезы, и ее потверждение, или опровержение
Причем тут гепотеза и ее опровержение. Когда моя претензия была в том, что человек грубо сводит науку, наблюдаемый мир к формулам.
Tiriet
19.07.2026 07:35Ии-коммент детектед: "в физике - мы", " есть р может", "" увидеть" - увидеть"
Часто использование дефиса вместо тире!
qvvah
19.07.2026 07:35Ближе к четырем годам что-то щелкает, и инструмент появляется. Что это за щелчок и где он происходит — наука пытается понять до сих пор.
Примерно в 4 года я осознал, что голос в моей голове принадлежит мне, то есть осознал свои собственные мысли и своё авторство. Не знаю тот ли это щелчок, но в принципе логично провести цепочку дальше: если у меня свои мысли, то и у других свои мысли, и они отличаются. Но это слепая догадка.
ToxaBes
Как вычитывать и приводить к нормальному виду сгенерированный ИИ слоп выдаваемый за обзорную статью.
Ludens3
Почему так тошнит от сгенерированного текста?
ToxaBes
Дело в том, что при обучении больших моделей использовался не только русский корпус текстов, но и аугментация в виде машинного перевода английских текстов на русский язык с дальнейшим использованием таких переводов в обучении. Отсюда такие ломающие глаза предложения. ИИ не специально это делает, так исторически сложилось. Это можно довольно просто причесать, если прочитать текст перед отправкой и исправить то за что цепляется глаз. Но, видимо, проще молча пройтись по моей карме. Как-то так.
Mimizavr
Про это много говорили: ИИ не создает новые приемы -- она только использует старые. И часто авторам прилетает именно за те приемы, которые они используют сами. В итоге каждый видит что-то свое и докапывыются вообще до всех.
DaneSoul
У меня конечно "замыленный" взгляд потому что я на английском тоже много читаю. Но что именно то глаза ломает?
Я понимаю если бы ИИ писал как Йода с не обычным порядком слов, что например характерно для японского языка и хоть и допустимо для русского но звучит странно. Но английский язык использует вполне привычную нам схему subject–verb–object (SVO) которая отлично ложится на русский язык.
ToxaBes
Как я понимаю, главная проблема была в не самом качественном машинном переводе, который в итоге и дал "AI-generated gloss" ИИ текстам. Более детально, в отдельном комментерии.
DSSilver
Согласен, какое-то ощущение ускользающего смысла. Все-таки даже от плохого человеческого текста такое ощущение возникает достаточно редко. Этот текст авторам нужно было ещё раз вычитать и отредактировать.
Mimizavr
А какие конкретно моменты смущают? Собственно, я - та самая нейросеть, которая этот текст смотрела и аппрувила. Ощущение может идти от сложности темы. Собственно, сама идея статьи как раз заключается в ускользающем от исследователей понимании устройства разума.
ToxaBes
Давайте по частям разберем (не) вами написанное. Я попробую сформулировать претензии к тексту в общем виде, т.к. это относится ко всем текстам, авторы которых не вычитывают и не корректируют выхлоп нейронной сети:
Тире используется как знак препинания через слово.
Оно становится основным связующим элементом почти в каждом абзаце: “Теория разума — это когда…”, “Убеждение только вывести — и эта невозможность…”, “Тот же нейрон, то же срабатывание — но движения не было”, “Мозг в этой модели — не детектор убеждений, а машина предсказаний”.
У живого автора тире это акцент, редкий инструмент. Здесь оно заменяет двоеточия, скобки и просто точки, т.е. выполняет работу, которую в обычной русской пунктуации распределяют между разными знаками. Из-за этого текст звучит однообразно ритмично: тук-тире-тук, тук-тире-тук, кто-там.
Постоянное использование антитезы “не X, а Y”.
Это отдельный маркер, который встречается настолько часто, что превращается в тик: “не единое умение, а минимум два”, “не теория о другом человеке, а симуляция от первого лица”, “не в дефиците у одной стороны, а в том, что…”, “не детектор убеждений, а машина предсказаний”.
Приём хорош один-два раза за текст как риторический жест. Когда он повторяется семь-десять раз, мозг узнает шаблон, и красивая мысль перестаёт восприниматься как мысль, вместо этого она становится частью стиля повествования не-тук-а-тук, не-тук-а-тук, войдите.
Однострочные абзацы-обрывы для драматического эффекта.
“А потом теория разума посыпалась.”, “Хуже того, орган оказался не единым.”, “Но здесь уже знакомая трещина.”, “Круг замкнулся.”. Это классический приём для нагнетания сюжетного поворота в тексте, который вообще-то научно-популярный обзор, а не детектив. Один такой обрыв смотрится эффектно. Пять-шесть на статью и мозг уже автоматически детектирует потсоянное “а вот и не так!”.
Заголовки-клиффхэнгеры со схематичной структурой.
“Невидимый орган”, “Трещина в фундаменте”, “Как рухнул главный тест”, “Бесконечный спор”, “И как быть?” и тд. Каждый подзаголовок построен по одной и той же формуле: метафора + обещание драмы. Причём под каждым заголовком текст идёт по одинаковой схеме: тезис, пример, неожиданный поворот, вывод-афоризм. Такая жёсткая повторяемость структуры на уровне разделов именно та вещь, на котороую мозги читателя реагируют негативно.
Слова-связки, которые ничего не говорят, но создают видимость логики.
“Грубо говоря”, “казалось бы”, “на самом деле”, “по сути”, “выходит”, “хуже того” и тд. Эти слова используются для связывания абзацов, а не потому что автору правда нужно смягчить или уточнить мысль. Уберите половину и смысл не изменится. Туда же идет постоянное использование слова “честно” в текстах от некоторых ИИ.
Афористичные “закрывающие” фразы в конце почти каждого блока. “Мы измеряем поведение и называем это чтением умов.”, “Круг замкнулся.”, “Спустя полвека исследований мы все еще не знаем…”. Cтремление закончить каждый смысловой кусок красивой фразой-выводом у человека получается редко, потому что не каждая мысль естественно сворачивается в афоризм. У ИИ это происходит почти всегда, потому что это оптимизируется под “цепляющую” подачу.
Искусственная симметрия и триады там, где не нужно. “Не в четыре года… Способность формируется гораздо раньше”, “быстрая автоматическая и медленная осознанная”, “когнитивный ToM… аффективный ToM” и т.д., все это парность, поданная как открытие. Мозг любит закономерности, и ИИ-текст их производит слишком равномерно, без той шероховатости, которая бывает у настоящих рассуждений.
Затухание “живых” деталей ближе к концу текста. Первая половина статьи (эксперимент с Салли, шимпанзе Сара) написана с частностями. К середине-концу текст всё больше уходит в обобщённые формулировки метафор клише (“оказался не единым”, “оркестр, но не солист”). Генерация теряет специфику по мере разворачивания длинного текста.
Обобщить эти пункты можно общей претензией: проблема в частоте и монотонном чередовании этих приемов: тире - антитеза - короткий обрыв - риторический вопрос - афоризм, и так по кругу в каждом разделе. Это и создаёт странное ощущение: вроде читаешь увлекательно написанный текст, но подсознательно чувствуешь усталость от предсказуемости конструкций быстрее, чем от объёма материала.
Предлагаю хабравчанам добавить свои пункты, т.к. наверняка я что-то упустил.
bookker
Все так. И главное, за всем эти прослеживается отсутствие мысли. Живой и адекватный мозг всегда держит в голове смысл высказывания, основную идею, вокруг которой выстраивает повествование и аргументацию. И еще перепроверяет насколько все это соотносится и сочетается. Машина напоминает резонера. При формальной складности текста, смысловая .ось или отсутствует или размыта настолько, что перестает считываться. Короче, китайская комната.
Mimizavr
Все так, только все эти пункты -- проявление авторского стиля, который я, как редактор, сохраняю. Я пройдусь по всем пунктам под спойлером.
Скрытый текст
1. Тире -- интонационный знак препинания. В принципе -- он может ставиться, где душе угодно. И это вполне себе проявление авторского стиля -- я знаю коллег, которые его использовали давно -- лет десять назад. В этом посте на 18К знаков 70 тире -- никак не через слово. С учетом формата обзора с большим количеством пояснений -- вполне себе допустимо. Да, в начале оборот с двумя последовательными предложениями с похожей структурой -- там это оборот для усиления контекста и передачи эмоций.
2. Снова обращаемся к поиску: не "постоянное использование", а 6. К тому же из них 1 немного по другой схеме. Опять же это не ошибка, а усилительный элемент. Не "хорош один-два раза за текст", а используется при необходимости. В целом при работе с текстами надо не цепляться, а уходить от абсолютных оценок: столько-то за столько знаков, на текст не более хх того-сего токсично сказываются на качестве текстов.
3. Ну.... Тут я не согласен. Сильная сторона Хабра -- как раз комбинация живой и драматичной подачи с научно-популярным содержанием. Как мне как-то раз сказал один из клиентов: "Да вы прогрессоры -- доносите понятно сложные вещи широкой аудитории". Формат разбиения на подзаголовки позволяет это делать. Мать его, авторский стиль!
4. И снова это результат выбора формата и как художественный элемент используется для передачи эмоции восхищения сложностью и величия научного направления.
5. Казалось бы, да, они засоряют текст. Но есть нюанс: если вы пристальнее посмотрите, то они встречаются точечно и без повторений. Грубо говоря, автор снова использует их для сглаживания переходов и создания эффекта живой речи.
6. Просто это хороший автор владеющий выразительными средствами и чувствующий язык. Omnia simplex.
7. То есть если человек научился красиво писать до нейросетей, он должен разучиться и специально допускать ошибки?
8. Ну это побочный эффект структуры повествования от конкретики к абстракции. Показали конкретику, ввели в контекст, сделали выводы. Классика сторителлинга.
То есть вы считали авторский стиль и он у вас вызвал негатив. В целом моя позиция, что обезличивание авторского стиля -- ошибка, а подобные претензии -- проявление ситуации, когда происходит смещения восприятия на формы вместо сути. В результате мы получаем "охоту на ведьм", мешающую и авторам, и читателям. И тут уместно вспомнить эту цитату Николая Заболоцкого:
А если это так, то что есть красота
И почему ее обожествляют люди?
Сосуд она, в котором пустота,
Или огонь, мерцающий в сосуде?
ToxaBes
Можно было бы расставить все точки над i: взять тексты автора до 2022 (начало использования LLM в текстах) и после, сделать два корпуса текста и сравнить по указанным выше признакам, посчитать "становление авторского стиля" так сказать математически.
Но, к сожалению, я не нашел текстов автора до 2022 года (возможно, плохо искал). Получается, что проследить эволюцию авторского стиля "похожего на LLM" до появления LLM не представляется возможным.
Поэтому я не вижу смысла спорить, пусть каждый останется при своем мнении. Лично для меня (как для читателя) плотность LLM-признаков в статье зашкаливает и вызывает отторжение при прочтении, хотя сама тема интересная. Можете считать это профдеформацией человека, который седьмой год плотно работает с нейросетями.
Mimizavr
Авторский стиль -- очень вариативная штука, зависящий от многих факторов. От окружающей обстановки до личной жизни и прочитанного накануне произведения. То есть два корпуса дадут изменения стиля, но не ответят на вопрос, чем этот вызвано.
И скорее всего негатив возникает как раз из-за того, что в куче других случаев ЛЛМ неудачно воссаздает авторский стиль и само его наличие становится триггером. А при длительной работе это ощущение действительно может усилиться. Я вот из-за перегруза информацией вообще не могу смотреть фильмы и сериалы, но я не отрицаю этот формат.
vvzvlad
Удивительно, как много авторов научились красиво писать в стиле нейросетей! Особенно удивительно, что их расцвет пришелся почему-то ровно на время после появления нейросетей, и на предложение “а покажите пожалуйста ваши статьи в таком же стиле 3-4 летней давности” они отмалчиваются.
Astroscope
Вы исчерпывающе перечислили все мои, скажем так, литературные приемы, которыми я охотно злоупотребляю. Но только я ими, как уже сказал - злоупотребляю, вручную. Для собственного, так сказать, удовольствия. И, что ожидаемо, мне даже за комментарии, вы не поверите - прямо здесь, на Хабре, кидали предъявы, что это ИИ-генерация. В смысле дегенерация.
Tiriet
Да у вас даже в этом комменте два дефиса! Правильно кидали...
А я- тоже ИИ. Я часто использую троеточия...
ToxaBes
Сарказм хорош, но ровно до слова "дефис", LLM-маркером является не он, а тире.
ToxaBes
Охотно поверю. Более того, я ничего не имею против использования ИИ в качестве помощника для написания текстов как таковых, при условии доработки его автором до читаемого состояния.
Тут сугубо проблема восприятия. Когда много читаешь "человеческие" тексты, а потом годами работаешь в ML постоянно сталкиваясь с сгенерированным текстом в NLP (обработка естественных языков), получаешь определенную насмотренность текстов и LLM генерация вызывает ощущение песка в глазах.
Думаю, стоит исследовать эту проблему более детально, сформулировать методику и проанализировать русскоязычные тексты различных статей авторов на Хабре. Цель: не поймать за руку тех кто использует LLM (ее только луддиты не используют), а определить что именно раздражает при прочтении.
Надеюсь, это поможет авторам сделать свои статьи более "живыми" понимая что именно делает текст похожим на LLM-ный. А пользователи перестанут попадать в ситуацию "читать это интересно, но больно".
Mimizavr
Посмотрите тему ритмики и мелодики русского языка. В текстах всегда есть повышение/понижение интонации (в этом, например разница простого, вопросительного и восклицательного предложения). Разные приемы меняют ее направление, усиливают повышения и создают дополнительные паузы, но в целом у авторских текстов он достаточно ровный. Плюс в зависимости от задачи и формата может быть свой интонационный рисунок. Вот нейросети из-за обучения на иностранных корпусах ломают мелодику русского языка, а разные промпт-извращения добивают ритм, делая его скачущим и неестественным.
Я уже месяца три хочу про это написать. Наверное, на следующей неделе выкрою пару часов на тесты.
ToxaBes
Предлагаю направить нашу дискуссию в конструктивное русло и раскрыть эту тему с обеих сторон. Я попробую с технической стороны выработать если не методику определения, то хотя бы систематизировать характерные признаки и на их основе предоставить рекомендации для авторов как бороться с ИИ-шностью собственных текстов, те как улучшать свой материал при активном использовании ИИ.
Вы же, как редактор с огромной насмотренностью текстов, можете раскрыть эту же мысль в своей статье так сказать с гуманитарной стороны.
Таким образом, мы получим взгляд на текущую ситуацию и со стороны читателей и со стороны писателей.
digrobot
Я тоже пока читал, ни разу не возникло ощущение, что нейрослоп. А вот в других статьях, бывает, с первого абзаца в глаза бросается.
Видимо, детекторы у всех разные.