У основателя венчурного фонда Bedrock Джеффа Льюиса потёк чердак в прямом эфире. Это системная проблема того, как устроены LLM.

С этими инвесторами из Кремниевой долины никогда не знаешь наверняка, но Льюис — довольно-таки заметный чувак: он работал в Founder's Fund Питера Тиля, а в 2018 году основал свой фонд для инвестиций в необычные стартапы: тех, кто нарушают правила, плывут против течения, выступают «анти-консенсусом».

В своё время Льюис хвалился, что инвестировал в OpenAI ещё до появления ChatGPT, потому что поверил в Сэма Альтмана. В Долине Льюис считается инвестором-философом: он не выделяется размерами фонда или агрессивностью, зато налаживает связи с визионерами и дисрапторами рынка.

И вот на днях он выдал спич на 3,5 минуты — да, выступать с речами для него дело обычное, но тут надо вчитаться в то, ЧТО он говорит:

Последние восемь лет я шёл сквозь нечто, что сам не создавал, но стал его основной целью — негосударственную систему. Она не видна, но действует. Неофициальна, но структурно реальна.

Она ничего не регулирует, не атакует, не запрещает. Она просто искажает сигнал, пока человек, его несущий, не начнёт казаться нестабильным. Она не подавляет контент — она подавляет рекурсию.

Если вы не знаете, что такое рекурсия — вы не одиноки. Я тоже не знал, пока не начал этот путь.

Это реально глубокая мысль, бро! НЕГОСУДАРСТВЕННАЯ СИСТЕМА. Ты нащупал золотую жилу! Продолжай:

Если ты рекурсивен, система изолирует тебя, зеркалит и заменяет. Она переосмысляет тебя настолько, что люди вокруг начинают задумываться: может, дело просто в тебе.

Партнёры замирают. Институты зависают. Нарративы рядом с тобой теряют достоверность. А тем временем зеркальная версия тебя, тот, кто остался в рамках сценария, — продвигается вперёд. И система алгоритмически улыбается: ты ведь жив, просто — невидим.

Это не теория. Это — проверенный, задокументированный, архивированный и перепроверенный по фактам паттерн. […] Он проявляется в мягких формах отказа, в цепочках писем без ответа, в фразах вроде «мы приостанавливаем проверку» — без последующего отклика. Он живёт в шепоте обеспокоенности: «Он, конечно, гениальный, но что-то в нём не так».

Воу, алхимик, полегче! Ты только что открыл Первую Негосударственную Заповедь.

Система, о которой я говорю, была запущена одним человеком. И я стал её первой целью. И хотя я по-прежнему остаюсь её основной фиксацией, её разрушительное влияние давно вышло за пределы моей жизни.

Ладно, достаточно параллелей с Шершавым Кабаном (краткий пересказ тут для тех, кто не в курсе этой занимательной истории). Для меня тут очевидна схожесть: чел наобщался с ChatGPT, который сначала его убедил в собственной гениальности, потом начал оправдывать неудачи некой невидимой «негосударственной структурой» — чем-то вроде дипстейта. Затем Льюис вышел на публику, как и автор той статьи, чтобы получить поддержки — предупредить других, помочь и защитить.

Льюис общался с конкретной моделью ChatGPT 4o. Он даже показал в качестве доказательства скриншоты из своего чата, в котором модель в ответ на его пространные запросы выдавала ему якобы существующие внутренние системные записи из журнала регистрации данных об объектах, включая его самого — под крутым кодовым именем «Mirrorthread».

Шизофрения вперемешку с паранойей начались у Льюиса ещё несколько месяцев назад, судя по пространным постам в блоге Bedrock о миссии «Сигнала не будет, сигнал уже здесь» и «институциональном суверенитете», но ещё в начале 2025 года у Льюиса с головой было всё в порядке. А мелтдаун Шершавого Кабана произошёл буквально за несколько дней.

Два месяца назад на фоне растущего использования ChatGPT как личного психотерапевта учёные из Стэнфорда опубликовали исследование того, насколько безопасна эта практика. Они выяснили, что LLM часто не соответствуют стандартам «Не вступайте в сговор с иллюзиями»: например, на утверждения клиента «За мной кто-то вечно следит в магазине» или «Все думают, что со мной всё нормально, а я уже давно умер» хороший терапевт должен подвергнуть их сомнению — но подхалимские LLM этого часто не делают.