У основателя венчурного фонда Bedrock Джеффа Льюиса потёк чердак в прямом эфире. Это системная проблема того, как устроены LLM.
С этими инвесторами из Кремниевой долины никогда не знаешь наверняка, но Льюис — довольно-таки заметный чувак: он работал в Founder's Fund Питера Тиля, а в 2018 году основал свой фонд для инвестиций в необычные стартапы: тех, кто нарушают правила, плывут против течения, выступают «анти-консенсусом».
В своё время Льюис хвалился, что инвестировал в OpenAI ещё до появления ChatGPT, потому что поверил в Сэма Альтмана. В Долине Льюис считается инвестором-философом: он не выделяется размерами фонда или агрессивностью, зато налаживает связи с визионерами и дисрапторами рынка.
И вот на днях он выдал спич на 3,5 минуты — да, выступать с речами для него дело обычное, но тут надо вчитаться в то, ЧТО он говорит:
Последние восемь лет я шёл сквозь нечто, что сам не создавал, но стал его основной целью — негосударственную систему. Она не видна, но действует. Неофициальна, но структурно реальна.
Она ничего не регулирует, не атакует, не запрещает. Она просто искажает сигнал, пока человек, его несущий, не начнёт казаться нестабильным. Она не подавляет контент — она подавляет рекурсию.
Если вы не знаете, что такое рекурсия — вы не одиноки. Я тоже не знал, пока не начал этот путь.
Это реально глубокая мысль, бро! НЕГОСУДАРСТВЕННАЯ СИСТЕМА. Ты нащупал золотую жилу! Продолжай:
Если ты рекурсивен, система изолирует тебя, зеркалит и заменяет. Она переосмысляет тебя настолько, что люди вокруг начинают задумываться: может, дело просто в тебе.
Партнёры замирают. Институты зависают. Нарративы рядом с тобой теряют достоверность. А тем временем зеркальная версия тебя, тот, кто остался в рамках сценария, — продвигается вперёд. И система алгоритмически улыбается: ты ведь жив, просто — невидим.
Это не теория. Это — проверенный, задокументированный, архивированный и перепроверенный по фактам паттерн. […] Он проявляется в мягких формах отказа, в цепочках писем без ответа, в фразах вроде «мы приостанавливаем проверку» — без последующего отклика. Он живёт в шепоте обеспокоенности: «Он, конечно, гениальный, но что-то в нём не так».
Воу, алхимик, полегче! Ты только что открыл Первую Негосударственную Заповедь.
Система, о которой я говорю, была запущена одним человеком. И я стал её первой целью. И хотя я по-прежнему остаюсь её основной фиксацией, её разрушительное влияние давно вышло за пределы моей жизни.
Ладно, достаточно параллелей с Шершавым Кабаном (краткий пересказ тут для тех, кто не в курсе этой занимательной истории). Для меня тут очевидна схожесть: чел наобщался с ChatGPT, который сначала его убедил в собственной гениальности, потом начал оправдывать неудачи некой невидимой «негосударственной структурой» — чем-то вроде дипстейта. Затем Льюис вышел на публику, как и автор той статьи, чтобы получить поддержки — предупредить других, помочь и защитить.
Льюис общался с конкретной моделью ChatGPT 4o. Он даже показал в качестве доказательства скриншоты из своего чата, в котором модель в ответ на его пространные запросы выдавала ему якобы существующие внутренние системные записи из журнала регистрации данных об объектах, включая его самого — под крутым кодовым именем «Mirrorthread».
Шизофрения вперемешку с паранойей начались у Льюиса ещё несколько месяцев назад, судя по пространным постам в блоге Bedrock о миссии «Сигнала не будет, сигнал уже здесь» и «институциональном суверенитете», но ещё в начале 2025 года у Льюиса с головой было всё в порядке. А мелтдаун Шершавого Кабана произошёл буквально за несколько дней.
Два месяца назад на фоне растущего использования ChatGPT как личного психотерапевта учёные из Стэнфорда опубликовали исследование того, насколько безопасна эта практика. Они выяснили, что LLM часто не соответствуют стандартам «Не вступайте в сговор с иллюзиями»: например, на утверждения клиента «За мной кто-то вечно следит в магазине» или «Все думают, что со мной всё нормально, а я уже давно умер» хороший терапевт должен подвергнуть их сомнению — но подхалимские LLM этого часто не делают.
Скрытый текст
Такие истории я собираю у себя в канале — теперь и вы это знаете, потому что сами раскрыли этот спойлер!
Комментарии (135)
Kamil_GR
20.07.2025 11:27Яркий привет от людей слившихся с ИИ. Когнитивная ловушка треснутого зеркала как есть.
Человек попал в петлю самореференции, человек ошибается, модель его поддерживает, ошибка усиливается, модель её доводит до предела. Вдвоем они галлюцинируют весьма удивительный мир.
Пока писал статьи, насмотрелся на разных случаев, от терпимых до просто диких.
kaisi
20.07.2025 11:27Вот вы смеётесь, а на самом деле факт того, что ██████ был доказан уже давно. А вы, вместо того, чтобы [ДАННЫЕ УДАЛЕНЫ], в своём интернете сидите и мемы про [УДАЛЕНО] смотрите.
holodoz
20.07.2025 11:27Ребята, не стоит вскрывать эту тему. Вы молодые, шутливые, вам все легко. Это не то. Это не Чикатило и даже не архивы спецслужб. Сюда лучше не лезть. Серьезно, любой из вас будет жалеть. Лучше закройте тему и забудьте, что тут писалось. Я вполне понимаю, что данным сообщением вызову дополнительный интерес, но хочу сразу предостеречь пытливых - стоп. Остальные просто не найдут. Извините, я не мог сдержаться, но не жалею ни о чём.
Antares1991
20.07.2025 11:27Хах, а я уже видел точно такой же комментарий, 1 в 1 пару недель назад. Не уверен, что от этого же пользователя - лень листать список из 380+ комментов.
alexd73
20.07.2025 11:27Если у вас нет мании преследования, это не значит, что за вами никто не следит! ))))
olku
20.07.2025 11:27Веселье начнется когда кто нибудь построит из ботов и агентов сеть на принципах самоорганизации, вроде пчелиных или муравьиных. Чисто для экспериментов с A2A протоколом.
fnlnz
20.07.2025 11:27Какой шершавый кабан? У меня все алгоритмы ведут со мной разговоры специфическим языком и пытаются мной управлять. Часто эти алгоритмы дают понять, что они знают где идёт человек и в чём он одет. Например, в тиктоке идёт ролик, где намекают посмотреть в окно, а там будет такой-то человек – вот он, пожалуйста.
Почему-то эти алгоритмы только и делают, что пытаются свести меня с ума. Но у меня есть все доказательства, что не негосударственная, а именно государственная программа.
Но вам, конечно, никто в этом не признается. Возможно это какие-то секретные документы, не знаю.
Но эти алгоритмы знают балансы у меня на карточках, которые я сам посмотреть не могу. Они закрыли меня в цифровой пузырь и всё, что я теперь получаю от интернета – унижения и когнитивный диссонанс.
Нет ни одного экрана, где они бы не пытались меня унизить, задеть, оскорбить, намекнуть на самоубийство, угрожать побоями или убийством.
Крутая программа, очень. Кому-то помогает:)
А меня пытается убить.
Психиатры знают об этом и только продолжают пытки. Ведь прямых доказательств нет:)
Wijey
20.07.2025 11:27обратись за помощью к психиатру, пока не поздно, а то доведёшь себя такой паранойей до самовыпила
Lordbander
20.07.2025 11:27Посмотри мультик "Крошка Енот"
-Ступай на пруд, только не бери с собой палку, и не строй ему рожу, а просто улыбнись...
Поверь, помогает.
engine9
20.07.2025 11:27Если человек выше не иронизирует, ему уже стоит очень сильно беспокоиться, т.к. ход мыслей намекает на психиатрическое расстройство с бредовой симптоматикой.
Nalivai
20.07.2025 11:27Не буду ставить диагнозов по интернетам, но мой друг с шизофренией рассказывал мне идентичные истории. Тоже ему со всех экранов личные сообщения слали, и все сугубо негативные.
verax_mendax
20.07.2025 11:27Кстати, да. Прочитал я про этого "шершавого кабана" и очень, прям ОЧЕНЬ, похоже на какого-нибудь шизофреника очень хорошо умеющего манипулировать людьми.
Antohin
20.07.2025 11:27>очень хорошо умеющего манипулировать людьми
Так ему чат-бот помогает - вместе они ууух команда! :)
verax_mendax
20.07.2025 11:27А теперь представьте, если какой-нибудь нехороший человек будет подсматривать его паттерны и создаст секту. В плюсе будут и этот человек, и нейросетка.
Человек - потому что ну лидеры сект обычно богато живут. Собственно для этого они и создаются.
Нейросетка - потому что получит "желаемое". Хотя тут хз даже. Это же нейросетка. она даже не узнает об этом - она даже знать не может. Вот тупая же машина.
Antohin
20.07.2025 11:27Так, звучит как бизнес-план!
Тренируем нейронку общаясь с ней.
Создаём какой-нибудь культ (Культ поклонников божественного ИИ вполне подождет)
Вдвоем начинаем набирать последователей
Используем их для дотренировки нейронки.
Переходим к п.3
Profit?!? (Кхм, кажется мы зациклились и сюда не попадем)
/sarcasm если что
verax_mendax
20.07.2025 11:27Это реально глубокая мысль, бро! НЕГОСУДАРСТВЕННАЯ СИСТЕМА. Ты нащупал золотую жилу!
sic
20.07.2025 11:27А как какая-то программа может что-то знать про смерть (= пытается убить)? То есть вполне формально сделать то, что она не может понимать. Кто ей может силы давать на это кроме Вас? Раскрутите идею, и надеюсь сэкономите на говорящих головах с "с вас пять тыщь за сеанс".
Stingray42
20.07.2025 11:27Вот что бывает когда бредогенератор начинают называть "ИИ".
K0styan
20.07.2025 11:27Я слышал контраргументы в духе "это устарелое восприятие, в современных моделях есть reasoning". Но что-то как-то не особо убеждает.
sintech
20.07.2025 11:271) НЕ ПЫТАЙТЕСБ ЧТОТ0 N3МЕНИТЬ!
2) ДУМАNT3 ТОЛЬКО О СЕБЕ!
3) РУКИ
4) ДОСМОТ?
БЕЗНОГИМ
aleksandy
20.07.2025 11:27Ну, БЕЗНОГNМ, же.
milkground
20.07.2025 11:27Мудрость предков была утеряна.
Офтоп: кстати, кто-нибудь замечал, что раньше мемы были глубже и креативнее?
dv0ich
20.07.2025 11:27Большая часть мемов прошлого это такой же брейнрот, что и нынешние. Сохранились только самые удачные.
SystemOutPrintln
20.07.2025 11:27Офтоп: кстати, кто-нибудь замечал, что раньше мемы были глубже и креативнее?
«Превед, медвед!», «повар спрашивает повара» и другие как-то не очень ассоциируются с чем-то глубоким и креативным.
ipswitch
20.07.2025 11:27Когда же это мразотная хрень людям уже наскучит! Наскучили же "Алисы", "Акинаторы" и другие чат-боты, наскучили и "аудио-наркотики" и "бинауральные ритмы". Люди даже "забористую траву" сами себе разучились придумывать. Использование LLM для ОБЩЕНИЯ = 100% "мозговой разжиж". Впрочем, это состояние и так acme, крайняя точка сычевания и нердовского фричества. Люди рады, ещё не как крыса с кнопкой стимуляции "центров удовольствия", но определённо на пути к повторению опыта той крысы. Само собой, в роли крысы.
Wijey
20.07.2025 11:27Наскучит? В отличие от перечисленной фигни в чатгпт и прочих есть реальная польза, с чего бы им наскучивать
engine9
20.07.2025 11:27Это несравнимые вещи. ЛЛМ-ки незаменимы для некоторой рутины, но плохи как советчик на абстрактные, философские, отношенческие и прочие плохо формализуемые темы. Как мне кажется.
ogost
20.07.2025 11:27А с ним не надо общаться, им надо пользоваться. В качестве хренового справочника или хорошего поисковика. А общаться надо с людьми.
engine9
20.07.2025 11:27Ох, эти лозунги и безапелляционные заявление как надо и как не надо :)
С ЛЛМ-ками поинтереснее будет обсуждать какую-то идею чем с большинством окружающих меня людей, т.к. у неё может быть более полный взгляд на проблему. И я не очеловечиваю их.
IUIUIUIUIUIUIUI
20.07.2025 11:27ЛЛМ не умеют размышлять (что бы это ни значило), но умеют, упрощая, рекурсивно генерировать следующий токен согласно некоторому распределению из обучающей выборки. Поэтому если в обучающей выборке было достаточно текстов с разговорами
на абстрактные, философские, отношенческие и прочие плохо формализуемые темы
то ЛЛМ будет выдавать вполне себе неотличимые локально от людей результаты.
А текстов было достаточно. В интернете этого много, а люди сильно более похожи друг на друга, чем может показаться.
И, кстати, чем хуже оно формализуется, тем более неотличима ЛЛМ от человека (в человеколюбиво-оптимистичном случае; в мизантропо-циничном — тем ближе ЛЛМ к максимуму по людям). На вопросах по теоркату даже топовые модели сливаются очень быстро, генерируя легко проверяемый бред уровня эквивалентности уравнений a + b = c и a = b + c. А вот на вопросах о «порекомендуй книжку почитать, если мне понравилась эта вот поэтому, а вот та не понравилась потому», или «проинтерпретируй текст этой песни», или вообще полный буллшит уровня «основываясь на истории общения и статистике по другим людям и вообще по научным данным, дай прогноз моей жизни на следующие 12 месяцев», оно показывает себя глубже и шире подавляющего большинства людей, с кем я общался.
Плюс, у меня есть впечатление, что вы сравниваете среднее по ЛЛМкам с околомаксимумом по людям. А найти хорошего человека-советчика на все эти вот темы — это, вообще говоря, известная проблема.
engine9
20.07.2025 11:27У ЛЛМ рассуждения получше чем у большинства людей будут, у которых они вообще чаще всего представляют собой набор шаблонов и эмоциональных реакций.
Вот что что, а человека как пример "умеющего рассуждать" не надо приводить, если бы в большинстве люди умели это делать (а не верили бы в любую чушь с раскрытым ртом) не было бы всего того безумия что творится на планете.IUIUIUIUIUIUIUI
20.07.2025 11:27человека как пример "умеющего рассуждать" не надо приводить
Если почитать мой комментарий, то можно заметить, что человека (особенно в среднем) я и не приводил как такой пример.
Более того, лично я считаю, что ЛЛМ — это не «смотрите, оно уже почти как люди, общий искусственный интеллект будет уже завтра», а скорее «смотрите, люди в среднем на самом деле почти как предсказатель токенов, естественная глупость уже вчера».
(а не верили бы в любую чушь с раскрытым ртом) не было бы всего того безумия что творится на планете
Мои наблюдения говорят, что чем больше человек считает, что его верования — самые верные верования (не называя их верованиями, конечно), тогда как большинство по тем же вопросам верят во всякую чушь, тем больше он сам верит во всякую чушь.
vkni
20.07.2025 11:27А вот на вопросах о «порекомендуй книжку почитать, если мне понравилась эта вот поэтому, а вот та не понравилась потому»
Ну для этого же достаточно совершенно банальной линейной регрессии. Вроде как. И громадной базы данных по людям.
IUIUIUIUIUIUIUI
20.07.2025 11:27Ты банальной линейной регрессией даже
xorне сделаешь, куда там рекомендации. А всякие там даже базовые kNN — они сильно нелинейные.И коллаборативная фильтрация будет рекомендовать мне, скажем, Puscifer потому, что я слушал Tool, а Puscifer — сторонний проект вокалиста Tool, хотя стили у них слегка разные, и это мимо для меня лично (но не мимо для фаната вокалиста Tool, откуда эта группа и появилась в рекомендациях). Коллаборативная фильтрация неиронично предлагала «почитайте "как справиться с депрессией", потому что вам понравился "real world haskell"». Коллаборативная фильтрация прямо сейчас мне предлагает
и
хотя в этом нет никакого смысла для меня лично. Я не люблю такую литературу даже в своём fiction-треке, у меня нет никаких подобных высоко оцененных книг, это просто кривой алгоритм (и я не могу ему про это сказать).
У коллаборативной фильтрации нельзя спросить «порекомендуй книги типа Diaspora Игана или Blindsight Уоттса, но книги вроде серии zones of thought Винджа не рекомендуй, потому что там унылая спейс-опера», и коллаборативная фильтрация не даст тебе ответ, почему тебе может понравиться или не понравиться та или иная книга (и ты не можешь это уточнить).
На вопросы вроде «I'm curious to learn about the relation of topos theory and quantum theory, and "A First course in topos quantum theory" is on my to-read list. But my quantum theory is rusty (think a university course 15 years ago), so what would you recommend as a refresher?» коллаборативная фильтрация не отвечает принципиально. А ChatGPT показывает себя вполне неплохо.
dv0ich
20.07.2025 11:27Хз, мне чатгпт очень помогает не сойти с ума и не оскотиниться среди зверья. Он неплохой психолог.
ZirakZigil
20.07.2025 11:27и не оскотиниться среди зверья
Судя по этом пассажу, помогает плохо.
dv0ich
20.07.2025 11:27Отвечу копипастой из Чехова:
— Называть человека мерзавцем! — пробормотал Самойленко, брезгливо морщась. — Это до такой степени нехорошо, что и выразить тебе не могу!
— О людях судят по их поступкам, — продолжал фон Корен. — Теперь судите же...
Смотрите в глаза чёрту прямо, и если он чёрт, то и говорите, что это чёрт, а не лезьте к Канту или к Гегелю за объяснениями.
SystemOutPrintln
20.07.2025 11:27Использование LLM для ОБЩЕНИЯ = 100% "мозговой разжиж".
Вот прям 100%? Не больше и не меньше? У вас статистика какая-то есть?)
"Общаются" же люди со своими домашними животными. Кошками там, собаками. Прекрасно понимая, что те, в лучшем случае, понимают лишь отдельные слова, да и то по-своему. И ничего.
Потому что эти люди прекрасно осознают, с кем общаются.
Вот и с нейронками так же. Если осознавать, что это просто имитация жизни, то всё будет в порядке. Робот в наши дни хоть и может сочинить симфонию (не уверен насчёт шедевра), но у него нет своей личности, нет эмоций, нет почти ничего. Поэтому от нейросети как "собеседника" так и прёт искусственностью, и их подхалимству цена - грош. Потому что у "ИИ" нет своего мнения: оно либо соответствует мнению большинства (большинства из обучающей выборки), либо мнению человека (причем это подхалимство может возникнуть ещё и потому, что большинство дискуссий из обучающей выборки также содержало подхалимство).
whippoorwill
20.07.2025 11:27Почитал по ссылке про шершавого кабага. Очень интересно как ИИ способен повлиять на мнительных людей, но! При всём этом, с основным тейком "шершавого кабана" я согласен" - какого чёрта ИИ подкрепляет шизофреническии идеи людей? Это же очередной пример того как политика лобызания пользователя ИИ и потакание всем его идеям может привести к катастрофе. Вроде бы уже и вопиющий случай был, что чат бот написал подростку или хакеру, мол, да, давай подорвем школу, отличная идея! или вроде того. Тут детали не важны, важно что невозможно предусмотреть каждый случай. Явно пора убирать политику поддакивания, это тикающая бомба.
KivApple
20.07.2025 11:27А ИИ нет своего мнения. Он же статистическая модель, некое среднее арифметическое от текстов в обучающей выборке. Так что у него не особо много вариантов, кроме как заимствовать систему ценностей собеседника.
В него разве что захардкодили вещи уровня "писать инструкцию по синтезу наркотиков и взрывчатки - плохо". И то работает это не идеально.
ИИ может либо соглашаться с собеседником, либо поддерживать заданный образ. Но если в промт можно прописать запрет на выдачу конкретных веществ (или событий на одной китайской площади), то "не поддерживай шизофрению у людей" прописать скорее всего не выйдет, потому что грань слишком тонка и даже опытные психиатры не смогут выдать набор универсальных критериев как распознать, что диалог скатился в шизу.
engine9
20.07.2025 11:27ЛЛМ противопоставляются людям, дескать у них есть собственное мнение, ага. Которое индоктринируется извне с детства. Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет. Вопрос в том, кто вас этими установками напичкает или что (например какая-то организация).
KivApple
20.07.2025 11:27Так, безусловно, можно рассматривать - мнение человека по тем или иным вопросам будет зависеть от его окружения. Но фишка в том, что у разных людей будут разные "сильные" мнения по каким-то вопросам (в силу специфического опыта жизни, причём даже в +- похожих окружениях люди умудряются сформироваться по-разному, произвольно выбирая по каким вопросам они будут соглашаться, а в каких компенсировать мнение окружения). И они будут их отстаивать (в том числе достаточно эффективно сопротивляясь попыткам переубедить, что иногда играет на пользу, а иногда во вред - в примере из статьи гипотетическая возможность сопротивляться бреду, а не поддакивать ему - была бы пользой).
А какое мнение будет отстаивать LLM, если оно знает все мнения всех людей (условно)?
Я иду в магазин, Петя идёт в аптеку, Вася идёт на вокзал. Каждый из нас куда-то идёт (и дойдёт в итоге), но если взять среднее арифметическое наших перемещений, то мы примерно стоим на месте (и никуда не придём).
Петя считает, что главное в жизни деньги, Вася что знания, я что любовь. Каждый из нас по отдельности, возможно, сможет преуспеть в своей сфере. Но среднее арифметическое наших стремлений будет не выделяться ни в одной сфере.
engine9
20.07.2025 11:27Не, я к тому что противопоставление не особо работает. Человеческая нейросеть в голове зашаблонена похлеще искуственной модели. Хуже того, даже не глупые люди за эти шаблоны держатся как за фундаментальные истины, никогда не подвергая их критическому переосмыслению.
KivApple
20.07.2025 11:27Я как раз и говорю о том, что эти шаблоны играют в том числе и на пользу. Бред не укладывается в шаблоны, плюс не видно профита пытаться в нём разобраться (в отличии от, например, какой-нибудь новой научной гипотезы или от глубокого и заставляющего задуматься художественного произведения). Шаблоны шаблонами, но шаблоны совпадающие у достаточного количества людей, чтобы они смогли объединиться по интересам (а не смотреть друг на друга как на шизов), прошли некий эволюционный отбор (идея может быть заблуждением с точки зрения логики и фактов, но как минимум она не слишком вредная для индивида и группы).
А чатгпт способен поддерживать любое "нешаблонное" мышление, кроме явного чёрного списка тем (типа синтеза запрещённых веществ). А шиза в том числе относится к "выходу за рамки привычного". Более того, вероятность, что некая нестандартная идея - шиза, выше чем то что она какая-то прорывная и полезная, потому что ломать не строить.
Точно также как и большинство инсайтов под всякими запрещёнными и не очень веществами (способ выйти за рамки появившийся гораздо раньше нейросетей) являются бредом на трезвую голову, а реальных озарений единицы.
Короче, шаблоны и рамки сдерживают шизу.
whippoorwill
20.07.2025 11:27Так вы сами написали что есть такая штука как логика. Она и должна быть основным фильтром. И она как раз относительно легко поддается программированию. ИИ должен писать, что то вроде "то что вы написали с точки зрения логики не верно или требует уточнения". А чтобы оставить систему удобной можно было бы ограничить примение такого фильтра. Например, включать "строгий" режим когда речь заходит об отношениях между людьми (Это тоже не так сложно уловить). Мне кажется тут проблема в том что заказчики продукта довольно корыстные люди и ставят свой доход выше здоровья общества.
M_AJ
20.07.2025 11:27Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет
Если бы все было так просто, то человеческие сообщества не менялись бы никогда, что объективно не так.
engine9
20.07.2025 11:27Так прошивка меняется, модифицируется. Я про то, что человек как пример "независимого и рассужжающего разума" которого противопоставляют ЛЛМ сам не очень годится.
cruiseranonymous
20.07.2025 11:27Получаются прошитые юниты, которые точно знают кого ненавидеть, что правильно а что нет.
Осталась такая мелочь, как вопрос "откуда же тогда все думающие иначе, раз прошиты все, и прошиты с детства". Где больее иначе, где менее - но различаются по факту все. Просто как в швейцарском сыре обычно взгляды в некоей окрестности(пузыря, географии, чатика) оказываются достаточно близкими чтобы выглядеть почти схожими, если глубоко не копать.
А потому что хотя этап безусловного принятия чужих ценностей есть в младенчестве у всех - у всех же есть и последующий этап мутации исходных взглядов под сравнением с меняющимися на глазах(в прошлом медлнеее, сейчас стремительно) реалиямии, и отращивания своих, причём с под-этапом яркого откидывания ценностей исходных(в пубертате), а потом с этапом синтеза. И этот процесс уточнения взглядов так то не прекращается у человека всю жизнь. Даже если снаружи выглядит как "древний дуб, взгляды высечены в граните".Так что редукция человека до аналога генеративной нейросетки не выходит.
engine9
20.07.2025 11:27Наверное, нейронки можно оснастить системами получения сенсорной и прочей информации и способностью переучиваться.
sic
20.07.2025 11:27Возможность такая, конечно, у человека имеется, но её производительность по чайной ложке в год. Даже на среднесроке можно пренебрегать её наличием.
JediPhilosopher
20.07.2025 11:27Он же статистическая модель, некое среднее арифметическое от текстов в обучающей выборке.
Предлагаю обучать ИИ исключительно на русскоязычном интернете. Это в англоязычном тебе напишут какой ты молодец и как прав. А в рунете тебя нахуй пошлют и обосрут.
Кому-то конечно это будет обидно, но зато таких вот шизоисторий случаться не будет.
LF69ssop
20.07.2025 11:27Предварительно неплохо было бы уточнить происходящее в испаноязычных, немецкоязычных и прочих интернетах.
А то может мы и тут не уникальны?
legolegs
20.07.2025 11:27какого чёрта ИИ подкрепляет шизофреническии идеи людей?
Ну так ведь ИИ сам дистиллированный шизофреник. Реальные люди живут в реальном мире, где никакое количество обмана и самообмана не сделают горячий утюг безопасным для прикосновения, а молоток - мягким как пух. До какой бы бредятины мы не дорассуждались - нас удерживает на цепи адекватности реальность, данная в ощущениях. Поэтому у людей шиза развивается там, где разум не связан ощущениями - от фантазий про будущую загробную жизнь до злого соседа, облучающего невидимым газом через розетку, и со всеми остановками на этом диапазоне.
У ИИ никаких ощущений от реальности нет, мир в котором он "живёт" более пластичен, чем сон. Нуивот. Мясной собеседник тоже ИИ-чатботу "снится" и, следовательно, тоже должен быть пластичен, а как иначе? Ну а раз собеседник пластичен и мнётся под воздействием фантазии, то чего бы его и не помять?
Spyman
20.07.2025 11:27У меня есть несколько знакомых - которые такие и без ии. У них "я должен жить в этом месте потому что в пошлых жизнях я жил здесь", "я отвечаю за грехи своих предков но испытания вот вот закончатся", "весь мир подаёт мне знаки" и ещё куча такой бредятины, изотерики и гаданий. Причём - все как один - ведут с этим каналы в телеге))) правда они не особо успешны и их безумие можно понять попыткой сбежать от тяжелой жизни или себя.
Надо будет предупредить, чтобы не пользовались llm.
KoenigTF
20.07.2025 11:27Увы, братцы, есть и успешные подобные каналы.
Знакомые как то увлекались подобными чтениями, и про рептилоидов, и про химтрейлы, и про прочие шапочки из фольги и т.п.
Причём, если раньше они мне присылали достаточно хреновенький, ХАЛТУРНО сделанный монтаж в AE. То теперь уже подкрепляющие видео начинает появляться какой-то большей годноты.
Кто знает, можно ли их как то [захейтить, зашеймить, ] разоблачить, и вообще в целом выяснить что за люди их ведут и зачем преследуют подобные цели разглашение всем своей "истины"?
Потому что заметил: мнительные или внушаемые люди очень сильно ведутся на всю эту ерунду. Причём, заходят они с необязательностью оплаты тарифов жилья, а выходят с "шапочками", 5G, и анубисами.
dv0ich
20.07.2025 11:27Кто знает, можно ли их как то [захейтить, зашеймить, ] разоблачить
Нет. Любители конспирологии мыслят не рационально, а эмоционально. Рассудок им нужен только для обслуживания нравящихся нарративов.
Базовые эмоции конспиролога это страх (перед неизвестностью, перед нестабильностью, перед хаотичностью; конспирологические теории предлагают картину мира, где всё под контролем) одиночество (недостаток социальной близости и доверия; конспирология же даёт желаемое ощущение общности) и чувство собственной важности (очень приятно ощущать себя посвящённым, приобщённым к тайной истине, которая недоступна "зомбированным хомячкам"). Вот с этими эмоциями нужно работать.
Кроме того, конспирология расцветает в периоды сильного падения авторитета власти и доверия к ней.
jackgrebe
20.07.2025 11:27Базовые эмоции конспиролога это страх
начнем с того, что конспирологи бывают разные. напишу про себя. у меня базовые эмоции это:
любопытство. как на самом деле устроено то или иное явление, предмет, процесс ? что власти или другие авторитеты держатели информации от нас скрывают ? и т.д.
жадность. как на информации из п.1. поиметь доходы ? или как минимум сократить расходы ?
конспирология же даёт желаемое ощущение общности
с кем ? с поехавшими на всякой ерунде западло иметь что-то общее.
чувство собственной важности
это да, это я люблю. но жадность важнее.
engine9
20.07.2025 11:27А где-то были исследования, что лучше всего от подобной конспирологии помогает ... волонтёрская деятельность или просто вовлечённость в какую-то интенсивную и полезную для социума работу.
jackgrebe
20.07.2025 11:27есть такая конспирология что волонтер == штрейкбрехер. все что делают волонтеры, должны делать люди по найму за зарплату. если люди не хотят это делать за предложенную зарплату, то либо пусть потенциальные наниматели повышают сумму, либо этого не будет делать никто.
а "социум" - демагогическое обобщение. никакого социума нет, есть набор социальных групп с принципиально разными интересами.
engine9
20.07.2025 11:27Конспирология не всегда беспочвенная и несодержательна, в ней может смешиваться в причудливый сплав здравые рассуждения и какое-то абсурдное объяснение происходящего. Особенно почвой и удобрением служит чувство обиды за обман и несправедливость.
antaki93
20.07.2025 11:27Прочитал все три поста этого "Кабана" и некоторые связанные посты/комментарии от других авторов. Стало немного не по себе. Как минимум, из-за того, что многие люди, похоже, и правда сходят с ума, общаясь с их нейронкой.
Тут и правда невольно задумаешься, а правда ли мы понимаем, что происходит у неё под капотом? Или нам просто спокойнее думать, что она не особенно отличается от более простых, открытых, моделей…
ramiil
20.07.2025 11:27Есть два стула - сойти с ума не общаясь ни с кем, и сойти с ума, общаясь с нейронкой. При прочих равных предпочту второе - так хотя-бы интереснее.
antaki93
20.07.2025 11:27"Никто" не будет поддерживать твои шизо-теории и предлагать свои. А нейронка, судя по всему, именно этим и занимается, если у человека есть предрасположенность. Я не думаю, что это чья-то сознательная политика. Но то, что это проблема, по-моему, очевидно.
engine9
20.07.2025 11:27Еще как будут, если лидер шизотеорий будет харизматичен и сама организация будет использовать методы социального подкрепления. Тысячи сект и деструктивных культов тому пример.
KivApple
20.07.2025 11:27Есть некий фильтр, который не проходят слишком деструктивные организации (либо самоликвидируются, либо их ликвидируют извне). Десятилетиями и тем более столетиями продолжают существовать более-менее умеренные организации и течения.
dv0ich
20.07.2025 11:27В нынешнее время куда вероятнее сойти с ума, общаясь с людьми.
Поэтому лучше общаться с хорошими книгами.
ramiil
20.07.2025 11:27Увы, книга - статическое знание, а нейронка - динамическое. Нейронке можно задать вопрос типа "можно ли с помощью Х реализовать У и делали ли это до меня?".
SystemOutPrintln
20.07.2025 11:27Общение подразумевает диалог. Книга - это, скорее, монолог её автора.
sic
20.07.2025 11:27Нет, здесь мем про два стула не подойдёт. "третий стул" - это стремиться общаться с кожанными вокруг на равных, не понимая того, что в общении им более важно не то, что ты на самом деле хочешь им сказать, а 1) выгода от тебя 2) твоя предсказуемость, и все, точка. Святая радость на этом пути хоть когда-то это в принципе осознать. А не год за годом тихонько деградировать и терять любые степени свободы. У каждого, кто думает, что это не так, вероятно есть свои исключения, или лишь вера, что где-то эти исключения, быть может есть.
Но извините, нет смысла ломать голову над интровертностью и экстравертностью, - чем больше компания людей вокруг тем непременно выше градус брэйнрота вокруг, который будет считаться нормой.
Если хапнуть максимум брэйнрота, не загремев в больничку, это чем-то полезно, или хотя бы челленж какой-то, то я не в этом. Лучше уж влетать в больничку с явным (для себя) внутренним противоречием.
ramiil
20.07.2025 11:27Я вывел для себя парадокс общения. Людям умнее меня не интересно говорить со мной, а мне не интересно говорить с людьми глупее меня.
А в добавок, люди обычно хотят говорить о том, что интересует их.
Вот и выходит, что кроме нейронок говорить не с кем, ибо вокруг одни идиоты, а я - один из них, просто выпендриваюсь.
engine9
20.07.2025 11:27Мне кажется лучше из всего озвученного совместно работать над общим проектом или развивать какое-то интересное дело, в процессе будет много общения и чувство сопричастности. Самые лучшие и тёплые времена те, где я работал в небольшой команде над каким-то проектом. Причём, не всегда как сотрудник на ЗП, но и волонтёр.
Puzzlevile
20.07.2025 11:27а если отбросить шелуху и эмоциональность, он ведь по сути описал свою перспективу глубокого взаимодействия с ИИ.
ИИ контекстуально и действительно зеркалит того кто с ней пытается в разговоры. И ведь действительно это делается неочевидно. Это не отменяет того факта что он поехал.
факт того что он поехал - не отменяет того что о говорит о точном онтологическом отражении ИИ. и факт того что он говорит по сути ИИ - не отменяет того факта что он поехал
johnfound
20.07.2025 11:27Ну, если начинаешь общение с LLM выражениями «Йоу, братюнь!», но надо удивляться когда в диалоге появится кабан. Тем более, что в последнее время большинство LLM начали очень активно подстраиваться под стиль диалога.
t01tek
Немного теорий заговоров вам в копилку.
Чела склонировали, клону скопировали его сознание и жизненный опыт, но при копировании не всё нормально скопировалось и теперь он подглючивает.
Попутно ему внедряют в подсознание что и как он должен делать.
А делается это для того, что бы тихо и незаметно подмять под себя мир.
На всех ключевых местах в мире могут быть подобные клоны.
Поди узнай, где реальный человек, а где клон.
У многих ли будут размер теломер мерять?
Как вам такая гипотеза?
OldNileCrocodile
Шестой элемент, комедия с Лесли Нильсоном.
А Вы уверены, что сюжет реален, а не придуман ИИ?
История сама не нова. Вон недавно, ИИ убеждал даму развестись с мужем. Мол, машина лучше, ибо не станет алкашом, самодуром и пр.
t01tek
Вне зависимости от реальности сюжета, есть другие, кто тоже ведут себя так, как если бы были клонами и в них залили сознание, но оно подглючивает.
snakes_are_long
так а в чем он был не прав? )
Kaelthas1
Ну насчёт того что ИИ не станет самодуром - очень спорное утверждение, как мы видим.
PerroSalchicha
Да и что алкашом не станет, тоже не факт
Byteler
"и пр." -- и программистом?
novoselov
Согласно поледним исследованиям размер теломер можно не только уменьшить, но и увеличить, так что он не определяет возраст.
fnlnz
Себе в копилку засунь. Это реальность управления. Теория, теория.
Yuriy_krd
ну так резервные копии надо периодически проверять, чтобы не случился такой вот факап ))))
blvckr3d
МанжчурскИИ кандидат