Я, как технический писатель-аналитик, каждый день делегирую искусственному интеллекту создание текстов, структурирование и генерацию документации. Но иногда модель выдаёт такие глупые логические ошибки, что хочется ̶н̶а̶о̶р̶а̶т̶ь̶ ̶н̶а̶ ̶н̶е̶е̶ ̶ закрыть чат и переписать всё руками.

Благодаря трёхнедельному отпуску удалось наконец поизучать фундаментальное устройство нейросетей с точки зрения когнитивных наук, чтобы разобраться, как же им удаётся писать крутые тексты за считанные секунды.

Кто и как исследует ИИ с точки зрения лингвистики

В Массачусетском технологическом институте, он же MIT, работает знаменитая лаборатория Ev Lab под руководством нейробиолога Эвелины Федоренко. С помощью функциональной МРТ её команда исследует, как человеческий мозг обрабатывает речь.

Главный прорыв лаборатории: они начали сопоставлять паттерны активации мозга живых людей со скрытыми математическими слоями больших языковых моделей (LLM) вроде ChatGPT и Claude при чтении одних и тех же текстов.

Вот их три ключевых исследования 2024–2026 годов:

• Мышление — это не язык. В статье Evidence from formal logical reasoning reveals that the language of thought is not natural language учёные доказали, что человеческий язык — это лишь «кабель» для трансляции мыслей, а не само мышление. При решении логических, математических и инженерных задач языковая сеть мозга человека полностью «молчит» — работает отдельная логическая система.

• ИИ учится на статистике. В работе From Language to Cognition: How LLMs Outgrow the Human Language Network выяснилось, что на этапе изучения грамматики и синтаксиса ИИ математически полностью копирует языковую сеть человека. Модели-трансформеры работают на чистой статистике предсказания. Но когда модель заставляют одновременно и логически мыслить, её архитектура начинает неестественно раздуваться, перерастая биологическую норму.

• Анатомия контекста. Исследование The Extended Language Network: Language-Responsive Brain Areas Whose Contributions to Language Remain To Be Discovered показало, что наш языковой центр занимает всего 5% мозга, но он намертво сшит с гиппокампом (центром памяти). Это позволяет нам мгновенно и бессознательно вытягивать из контекста нужные ассоциации. LLM делает то же самое.

Главный вывод учёных: Современные LLM — это идеальные языковые процессоры (они безупречно симулируют речевую зону человека), но очень слабые мыслительные движки. ИИ не понимает «смысл», он лишь статистически угадывает следующее наиболее вероятное слово.

Как с этим работать: 3 главных правила с примерами

Понимание этих принципов позволяет нам перестать общаться с ИИ как со «всезнающим сверхразумом» и начать управлять им как точным инструментом.

Разделяйте этапы логики и генерации текста

У человека за логику отвечает одна зона мозга, а за текст — другая. У LLM они засунуты в один «флакон», поэтому модель путается, если просить её одновременно и думать над технической сутью, и писать чистовик.

Представьте, что вы заставляете новичка-джуна на испытательном сроке одновременно набрасывать сложную архитектуру базы данных и параллельно следить, чтобы в тексте были красивые деепричастные обороты. Он завалит и то, и другое. Сначала утвердите у него схему, а потом просите описать её словами.

Как применять: Сначала заставьте ИИ выполнить логическую работу, зафиксируйте её, а затем — языковую.

Как делать не надо (всё в кучу):

«Изучи эти сырые логи разработчиков и напиши подробную техническую инструкцию для техподдержки, как исправлять ошибку 500 в модуле авторизации, красивым академическим языком».

ИИ попытается угадывать слова и, скорее всего, завалит логику шагов.

Как надо по науке (Двухэтапный промпт):

Шаг 1 (Логика): «Изучи эти сырые логи. Составь строгое логическое дерево: Причина ошибки, Пошаговый алгоритм исправления. Не пиши связный текст, дай только маркерный список шагов.

Шаг 2 (Язык): «Опираясь на это утверждённое дерево шагов, разверни его в подробную техническую инструкцию для техподдержки. Используй повелительное наклонение, активный залог, пиши сухо».

Жёстко ограничивайте «семантическое поле»

Нейросети, как и наш мозг, работают за счёт ассоциаций памяти. Если ваш запрос абстрактен, ИИ начнёт вытягивать случайные ассоциации из всей своей гигантской базы данных, что и приводит к галлюцинациям в документации.

Наш ИИ-джун невероятно исполнителен, но у него СДВГ. Если вы скажете ему на созвоне: «Принеси мне какую-нибудь аналитику по проекту», он увлечётся по дороге и принесёт вам 67 мемов про человека-паука. Джуну нужны чёткие рельсы и рамки. А лучше — примеры!

Как применять: Не пишите абстрактных правил вроде «пиши ёмко». Насыщайте промпт жёстким контекстом, ограничениями и примерами (Few-Shot Prompting).

Как делать не надо:

«Перепиши этот текст про интеграцию систем простыми словами без канцеляризмов».

ИИ перепишет, но может исказить технический смысл.

Как надо по науке:

«Переведи технический текст на язык, понятный бизнес-пользователю. Вот пример хорошего перевода: "Рефакторинг", "Переписка кода для наведения порядка". Используй строго спецификацию OpenAPI 3.0. Запрещено заменять термины "эндпоинт" и "запрос" синонимами. Если в сыром тексте не хватает данных, не выдумывай их, а пиши заглушку ТРЕБУЕТСЯ УТОЧНЕНИЕ».

Управляйте «окном контекста»

Исследования Федоренко показали, что наш мозг обрабатывает информацию порциями. У LLM это контекстное окно. Многие совершают логичную ошибку: ведут гигантские чаты-простыни на сотни сообщений, надеясь, что «ИИ помнит контекст и лучше понимает задачу». Но чем длиннее диалог, тем сильнее размывается внимание модели к деталям в начале разговора.

Вспомните затянувшийся рабочий созвон. На втором часе обсуждения коллеги всё ещё помнят общую тему встречи, но уже напрочь забыли точные цифры и требования, которые вы озвучили на первых пяти минутах. Внимание рассеивается. ИИ, как и наш с вами интеллект, «устаёт» аналогично — его математическое внимание перегружается фоновым шумом из старых сообщений.

Как применять контекстный менеджмент:

1. Когда оставаться в одном чате: Если вы настраиваете стиль, глоссарий или формат документов. ИИ отлично держит общие правила игры. Например, сгенерировать 5 похожих release notes подряд в одном окне — отличная идея.

2. Когда открывать новый чат: Как только вы переходите от формата к новым сложным техническим данным (другие куски кода, новая Swagger-спецификация). Если вы скинете технические данные для задачи №2 в чат, где только что обсуждали задачу №1, веса нейросети сместятся. Модель начнёт непроизвольно подмешивать старые переменные и логические связи в ваше новое решение, что приведёт к скрытым «галлюцинациям».

3. Лайфхак с системным промптом: Вместо того чтобы копить историю сообщений ради контекста, соберите один идеальный стартовый промпт (роль, глоссарий, требования к оформлению). Каждый раз при переходе к новой аналитической задаче открывайте чистый чат, отправляйте этот стартовый промпт + новые сырые данные. Так модель всегда будет со «свежей головой».

4. Безжалостно вычищайте из промптов вежливый шум («Будь добр, если тебя не затруднит, посмотри пожалуйста…»). Для ИИ это просто пустые токены-паразиты, которые занимают место в его оперативной памяти и размывают фокус. Пишите промпты структурировано, императивно и строго по делу.

So…

Cоветы вроде «разделяйте задачи на подзадачи» или «избегайте лишнего шума в запросах к LLM» набили оскомину. Бла-бла-бла, понятное дело. Для меня это долгое время оставалось скучными очевидными рекомендациями.

Лично мне сильно помогло залезть вглубь научных публикаций, продраться через технический английский и посмотреть на снимки МРТ человеческого мозга. Когда ты физически видишь, как природа разделила «язык» и «логику» по разным углам, всё мгновенно встаёт на свои места. Надеюсь, этот нейролингвистический взгляд изнутри поможет и вам перестроить работу с ИИ, сэкономить кучу нервов (и токенов!), поднять качество технической документации и аналитики на новый уровень.

Ну, или спустя 30 лет моё Лирическое отступление озаглавится как «Эвелина Федоренко ошиблась»! Я стяну противогаз с лица, сотру серную слезу и улыбнусь.