В последнее время мы привыкли бояться Терминаторов и Скайнет. Но, кажется, мы ищем угрозу не в том месте. Настоящий «Конвейер смерти» — это не красные глаза робота-убийцы, а банальная экономическая целесообразность и наша собственная самоуверенность. Рассмотрим сценарий заката человечества, который уже идет полным ходом. И закат этот наступит не из-за того, что ИИ станет слишком умным, а из-за того, что мы станем слишком тупыми.
Часть 1. Черный ящик и зеленый доллар
Первый камень в фундаменте нашего апокалипсиса — это отсутствие истинного понимания природы LLM. Да, есть люди, которые понимают математику трансформеров на уровне подсознания. Но давайте честно: 99% бизнес-аналитиков, СЕО и даже middle-менеджеров видят перед собой «волшебную кнопку», которая генерирует код, текст и картинки. Да что уж там, не каждый разработчик понимает, что за инструмент ему попал в руки.
Нам кажется, что мы создали разум. По крайней мере, нам так твердят ото всюду (искусственный интеллект же!). Но на самом деле мы создали архиватор. Это как если бы у нас был доступ ко всей библиотеке Конгресса США, и мы научились мгновенно составлять рефераты по запросу. Это гениальный плагиат, но это не мышление. И пока ученые спорят о возникновении «искры AGI», капитализм уже взял свое.
Капитализм превыше всего. А это значит, что расходы надо сокращать. Самый дорогой ресурс в любой корпорации — это человек (зарплата, налоги, больничные, кофе-пойнты).
И вот мы подходим к первому витку спирали: «Сократим джуниоров, оставим одного сеньора и ИИ». Логика железная. Это уже происходит. Повсеместно в мире. Первую станцию поезд уже проехал.
Часть 2. Порочный круг остановки развития
Практически в любой профессии давно известна проблема: «Я не могу найти работу, потому что у меня нет опыта, потому что я не могу найти работу». С приходом ИИ этот круг трансформируется в нечто более страшное:
Компания увольняет мидлов.
Оставшийся сеньор генерирует код через GPT. Все счастливы и не видят проблем.
Спустя 10 лет сеньор выходит на пенсию (или его тоже увольняют, оставляя одного ИИ-агента).
Компания работает. Но никто не понимает, как именно работает система в целом. ИИ написал 90% кода, используя паттерны из StackOverflow десятилетней давности.
Компания начинает искать нового сеньора — но его просто нет.
И вот тут компания начнет вопрошать — как это так, сеньора на рынке нет? А как же очередь за забором?
А за забором никого. Почему? — ответ прост: откуда же при таком сценарии взяться новому сеньору? Да куда уж там, сеньору, хотя бы джуниору!
Человечество само, прямо сейчас, роет себе могилу. Собственными руками.
Круг превратился в отрезок, конечная точка которого — деградация человека как вида.
Часть 3. Где новые законы физики?
ИИ в нынешней форме не способен создать новое. Это критическое утверждение, которое многие хотят оспорить, мол, «он же придумал новый белок!» или «нашел новый материал!».
Стоп. Он не придумал. Он перебрал триллионы комбинаций существующих данных, которые загрузили в него люди. ИИ — это чемпион по комбинаторике, но он плохой первооткрыватель.
Вспомните историю науки. Теория относительности родилась из мыслительного эксперимента, который нарушал интуицию. Квантовая механика родилась из того, что Планк решил «схитрить» с математикой, чтобы подогнать формулу под эксперимент, а потом сам удивился от результата.
Может ли нейросеть додуматься до теории струн? Нет. Она выдаст среднее арифметическое от уже написанного людьми ранее.
Физика — это лишь пример. Так будет во всех областях науки.
Часть 4. Смерть интеллекта
Здесь мы подходим к самой страшной части. Наша идентичность в животном мире — это интеллект. Мы не самые быстрые, не самые сильные. Наш эволюционный козырь — способность решать абстрактные задачи.
А теперь представьте мир через 10 лет. В лабораториях, где раньше кипела работа сотен специалистов, сидят 3–4 человека, окруженных мощными серверами. Все инженерные расчеты, все симуляции и даже написание статей делает ИИ. Эти 3 человека — лишь операторы, которые следят, чтобы не упал аптайм.
Что произойдет, когда перед человечеством встанет новая глобальная проблема? Например, астероид, или эпидемия нового типа, или угроза ядерной войны (которую, кстати, тот же ИИ мог бы спровоцировать).
Где армия специалистов? Их нет. Их уволили 10 лет назад, потому что «ИИ справляется дешевле». Новых специалистов нет, потому что:
образовательные учреждения переключились на «промпт-инжиниринг», а не на фундаментальную науку. Эту станцию поезд проезжает прямо сейчас — весь ed-tech, как мировой, так и в РФ, перестраивается под потребности рынка. Надежда лишь на то, что ВУЗы выстоят.
но даже если ВУЗы выстоят и продолжат выпускать людей, имеющих качественные фундаментальные знания, то специалистов мы так и не увидим, ведь им неоткуда взять опыт, так как позиций для джуниоров и даже мидлов нет. Человек, обладающий лишь теоретической базой, пускай и мощной, не является специалистом.
Часть 5. Сценарий «Тихого заката»
Нас уничтожит не злоба машин, а мы сами. В мире, где все решения принимаются на основе усредненных данных, невозможно совершить прорыв. Прорыв всегда иррационален, он всегда «не по учебнику».
ИИ будет оптимизировать расходы, улучшать логистику, лечить типовые болезни. Но как только возникнет нестандартная ситуация (а в истории человечества они возникают постоянно), система даст сбой.
У нас не останется «ручного режима». Мы разучимся думать. Мы станем идеальными потребителями в уютной клетке, где всё работает «как часы», пока эти часы не сломаются. А починить их будет некому, потому что все часовщики были заменены автоматами, которые знают, как чинить старые часы, но ничего не смыслят в механике новых.
Когда при таком сценарии будет закат — точно не известно. Возможно, запаса прочности в виде знаний, накопленных человеком, хватит и на 100, и на 500 лет. Но кривая эволюции уже идет вниз.
Заключение:
Бойтесь не восстания машин. Бойтесь того момента, когда ваш начальник скажет: «Зачем нам команда из 10 разработчиков, если есть ИИ?» В этот момент запускается обратный отсчет не только для вашей карьеры, но и для прогресса всей цивилизации.
Если мы позволим ИИ заменить человеческий интеллект, мы законсервируем себя в янтаре собственного прошлого опыта. И это будет самый эффективный способ самоуничтожения, который только мог придумать человек.
Комментарии (10)
Yevgeny_VS
25.06.2026 06:01Тут ещё принцип трагедии общин играет против нас - как бы ни понимали всю пагубность этого пути на уровни субъектов экономики или стран, все будут идти по нему, иначе их сожрут конкуренты.
zgwerby
25.06.2026 06:01Вольный пересказ перевода, который недавно тут уже был.
Слишком много экспресии и эмоций.
Посылки неверные:
3.1. Исходит из того, что токены и даже доступы будут и дальше продаваться по нынешним демпинговым "первая доза бесплатно"-ценам, а ЫЫ-барыга (как корпората не называй, по факту это - барыга) никогда не будет взвинчивать цены для вывода на окупаемость и прибыльность.
3.2. Исходим из того, что ЫЫ никогда не упрётся в плато производительности: каждое последующее улучшение НЕ будет требовать (в худшем случае) экспоненциального роста затрат на этот шаг, полностью обнуляя его экономическую целесообразность.
3.3. Исходим из того, что внедрение ЫЫ равномерно и однородно по планете, а не является ныне очередным buzzword-бесием Штатов, Китая и примкнувших к ним сателлитам.Неверное промежуточное и итоговое обобщение: кто "мы"? Мы, как профессия? Как народ? Или мы - группа ковидных вкатунов в ИТ? Кто - "мы"? Человечество неоднородно, как бы, а религиозные ограничения, которые до сих пор сильны у 2/3 населения планеты, внезапно могут стать эффективным противовесом.
Лучше бы сравнил с наркотиком, чесслово.
abve_san
25.06.2026 06:01Самое забавное на мой взгляд в ИИ оптимизме. Это то что оптимисты в принципе не представляют как живёт примерно шесть миллиардов людей, у которых электричество не каждый день дома есть. И что реальных осмысленных пользователей ИИ в мире если и наберётся миллиард (из восьми на секундочку), то с большим трудом и это вместе с теми для кого ИИ это просто Ворд переросток. И это похоже максимум в виду, чисто инфраструктурных ограничений и это при дешёвых токенах, при токенах по себестоимости, пользователей будет ещё меньше.
UstasAlex
25.06.2026 06:01Неверные возражения.
3.1 Естественно, использование ИИ будет дорожать, но вряд ли за счет цены токена как такового, просто возрастающий объем и сложность задач, либо модификация ИИ, будут требовать их больше и больше. Однако, если пользователь уже перестроил свой бизнес под ИИ, то вернуться "обратно" для него будет гораздо дороже, а, через какое-то время (тут я полностью согласен с автором) уже и невозможно. Компьютерная техника поямо на глазах подорожала в разы, но я не слышал, чтобы кто то от нее отказывался.
3.2 Ну, упрется оно в производительность, себнстоимость, и что? Будут пользоваться тем, что есть, только и всего. Просто возможности ИИ будут на какое то время законсервированы
Просто такая ситуация будет еще одним доказательством, что ИИ вовсе не интеллект. Человеческому интеллекту для развития от какого-нибудь питека до Энштейна не потребовалось в 100500 раз увеличивать размер мозга и/или скорость обиена веществ и/или скорость передачи нервных импульсов.
3.3 Развитие по планете не было и не будет однородным. Но кто определяет напрвление развития, США, Китай, Япония или Мали и Сенегал?
pg_expecto
25.06.2026 06:01И закат этот наступит не из-за того, что ИИ станет слишком умным, а из-за того, что мы станем слишком тупыми.
В прошлый раз видимо тоже самое говорили про пишущие машинки, текстовые редакторы и электронные таблицы ;-)
ИИ в нынешней форме не способен создать новое.
Признаюсь, я тоже так думал, пока не начал использовать нейросеть не только для написания текстов и генерации картинок.
Но, как выяснилось - я ошибался и имел очень слишком поверхностного представление о работе и практическом применении нейросетей для реальных инженерных задач.
В текущей теме исследований, нейросеть сгенерировала столько новых идей и гипотез(публикаций на эту тему в интернете нет), что можно уверенно сказать - без нейросети производительность и эффективность исследований была бы ниже минимум на 60-80%. А возможно, что скорее всего, я просто бросил бы заниматься текущей темой, в виду неожиданной сложности и трудоемкости.
Если мы позволим ИИ заменить человеческий интеллект, мы законсервируем себя в янтаре собственного прошлого опыта.
Совсем наоборот - "мы законсервируем себя в янтаре собственного прошлого опыта. " - если позволим паранойе и страху перед новым инструментом закрыть новые возможности и перспективы развития.
select26
25.06.2026 06:01И закат этот наступит не из-за того, что ИИ станет слишком умным, а из-за того, что мы станем слишком тупыми.
В прошлый раз видимо тоже самое говорили про пишущие машинки, текстовые редакторы и электронные таблицыНа мой взгляд, оба утверждения верны:
Такое было в известной истории уже не раз. Люди действительно в массе своей глупеют. Кто сомневается, может сам сравнить экзаменационные билеты по математике (арифметике) за седьмой класс в 2015 и в 1915 годах.
При этом прогресс человечества в целом не стоит на месте. Мы, лучшие из худших, построили за последние полвека совершенно новое общество. В котором не нужны умные люди. Достаточно всего несколько тысяч головастых, которые будут тянуть (или понукать?) всех остальных в прекрасное будущее.
Я не футуролог. Но читал много книг про будущее, в которых человечество разделяется на техников и остальных, для которых мир наполнен чудесами и магией. Начиная с Г.Уэлса об этом пишут уже пару сотен лет. Это логичный вывод - он был виден еще на заре НТР.
Своих детей учу всему. Поясняю, что все можно потерять, но то, что у тебя а голове - потеряешь в последнюю очередь.
iiibax
25.06.2026 06:01Проблема не в том, что LLM непознаваемая магия, а в том, что её часто используют как магическую кнопку.
При наличии reasoning/trace/runtime-слоя поведение модели уже можно частично наблюдать и дебажить: где она потеряла контекст, где нарушила правило, где сделала ложный вывод. Это не делает LLM полностью прозрачной, но сильно снижает уровень шаманства.
Поэтому сценарий деградации специалистов возможен не из-за LLM, а из-за управленческого желания заменить инженерную культуру дешёвой автогенерацией.
select26
25.06.2026 06:01Проблема не в том, что LLM непознаваемая магия,
А Я думаю, что проблема именно в этом: для подавляющего большинства пользователей, LLM это именно магия.
Ещё заметил: умные люди, те кто действительно имеет представление о принципах работы LLM, обычно не использует название "искусственный интеллект", AI и т.п.
Прямо очень заметно.
saag
25.06.2026 06:01Еще ни на одной обитаемой планете трансформация цивилизации не происходила безболезненно:-)
Bardakan
Тогда что такое zero-shot?