Милый ВАЛЛ-И и преданный R2-D2 из киношных образов превратились в жёсткие ТЗ для инженеров. Например, робот Ameca копирует человеческую мимику, потому что по-другому люди будут его отвергать. А специальный Promobot V.4 стоит в МФЦ, чтобы сделать клиентский опыт в очереди чуть приятнее.
По исследованиям Газпромбанка рынок антропоморфных роботов уже к 2035 году вырастет до 300 миллиардов долларов. И в этой реальности людям придётся жить со старыми страхами вроде восстания машин или потери контроля.
Проблема в том, что политики и инженеры пытаются решать эти вопросы с нуля, хотя Станислав Лем и Айзек Азимов ещё 60 лет назад всё предсказали.
Как немой робот стал техзаданием для индустрии
Если вспомнить ВАЛЛ-И, то это ржавая коробка без голоса, которая общается через движение линз и жесты. Аниматоры Pixar решали задачу по актерскому мастерству, но для современных робототехников это стало вопросом выживания продукта в принципе.
Есть такая штука, как эффект зловещей долины. Это когда робот вроде бы похож на человека, но его стеклянный взгляд и дёрганые движения вызывают у нас подсознательный страх или даже агрессию. Чтобы эту яму перепрыгнуть, разработчики начали вливать огромные деньги в психологию общения машин и людей.
Сформировалось целое направление — Human-Robot Interaction. Это дисциплина на стыке психологии и инженерии, где эмпатия робота прописывается в коде так же строго, как протоколы зарядки аккумулятора, например.
В отчёте Газпромбанка приводят пример российского робота Promobot V.4. Он стоит в МФЦ, но не механически выдаёт талоны, а снижает градус напряжения. Промобот умеет кивать, имитировать зрительный контакт и менять интонацию. И этого достаточно, чтобы уставший человек перестал злиться на бюрократию. А проект Ameca Engineered Arts вообще создали только ради того, чтобы научить железное лицо морщить нос и поднимать брови.
Роботы превратились из игрушек в машины для социальной среды вроде больниц, аэропортов и домов престарелых. Но фантастика уже доказала, что машина должна уметь «чувствовать», точнее, убедительно притворяться, чтобы человек впустил её в свою жизнь. Без этого рынок сервисной робототехники остался бы на уровне автоматических дверей в супермаркете.
Лем и «Философия в технологии»
В 1964 году польский писатель Станислав Лем выпустил «Сумму технологии». В ней он описал Фантоматику (виртуальную реальность), искусственный интеллект и глобальные сети за десятилетия до их появления.
Павел Полак и Роман Кшановски проанализировали его творчество и пришли к выводу, что Лем был не только писателем, но и сильным аналитиком. Его метод — мысленный эксперимент. Лем брал научную гипотезу и доводил её до логического предела в своих рассказах.
В «Кибериаде» конструкторы Трурль и Клапауций создают «Электронного Барда» — машину, способную писать стихи. В 1960-х это было забавно, а сейчас, когда нейросети пишут код и рисуют картины, рассказ Лема читается как жёсткая критика синтетического искусства. Лем предупреждал: искусство, оторванное от человеческого опыта страдания и любви, неизбежно будет пустым, даже если технически оно совершенно.
В другом своём рассказе Лем описывает симуляцию целого общества внутри ящика. Появляется вопрос: если симуляция совершенна, то этично ли её выключать? Сегодня на фоне массовых аватаров в Сети это уже проблема прав «цифровых личностей» и этики тестирования искусственного интеллекта.
Авторы исследования подчёркивают, что Лем ввёл понятие «Философия в технологии». Это не взгляд философа на изобретение, а философия, зашитая внутри самого инженерного решения.
Каждый инженер, создающий алгоритм рекомендаций или автопилот, неосознанно принимает философские решения: что считать правильным выбором? Чью жизнь должен спасать автопилот при аварии? Лем утверждал, что инженеры — это «наивные философы»: они строят мир на базе скрытых предпосылок, которых сами не осознают.
Сегодня метод Лема стал промышленным стандартом. Например, разработчики платформы Isaac, прежде чем выпустить робота в реальный цех, обучают его цифрового двойника в виртуальной симуляции. Он падает, ломается и учится ходить в тысячах виртуальных миров, прежде чем сделать первый шаг в физическом.
Мы буквально реализуем то, что Лем описывал как фантастику: моделируем реальность, чтобы избежать катастроф. Но в отличие от героев Лема мы часто забываем спросить: а правильные ли ценности мы заложили в эту симуляцию?
Людей уже не хватает
Если фантасты мечтали о роботах, чтобы освободить человека для творчества, то в наше время всё прозаичнее. Экономисты мечтают о роботах, чтобы экономика не рухнула.
Мы начали делать так много роботов, потому что наступила демографическая зима: в развитых странах просто заканчиваются люди.
В Европе к 2050 году численность людей трудоспособного возраста (20–64 лет) сократится на 20%, а в Японии и Китае ситуация ещё острее. Согласно отчёту Газпромбанка уже сейчас 72% промышленных компаний испытывают дефицит кадров. Людей физически не хватает, чтобы собирать автомобили и доставлять грузы. Поэтому государства начали включать роботизацию в свои нацпроекты.
Китай запустил программу «Робототехника +», США и Евросоюз финансируют разработки через гранты. Рынок быстро реагирует деньгами: инвестиции в стартапы исчисляются сотнями миллионов долларов.
В отчёте приводится суровая математика: стоимость эксплуатации робота может составлять около $12 в час. Часто это дешевле, чем оплата человеческого труда в развитых странах. А ещё роботы не болеют, не уходят в декрет и могут работать в три смены.
То, что Азимов и Лем описывали как будущее изобилие, стало планом спасения ВВП. «Утопия» реализуется, но не потому, что мы достигли просветления, а потому, что некому работать.
В чём реальные угрозы
Когда мы думаем об опасности роботов, то часто представляем того же Терминатора, который осознал себя и решил уничтожить человечество. Айзек Азимов предвидел этот страх и предложил решение — три закона робототехники:
Не навреди человеку.
Повинуйся приказам (если это не вредит человеку).
Заботься о своей безопасности (если это не противоречит пунктам 1 и 2).
Звучит надёжно, но как раз в своих же рассказах Азимов раз за разом показывал, как эта система рушится.
Исследователь Роджер Кларк провёл анализ творчества Азимова и вскрыл фундаментальные баги «идеальных законов», которые сегодня стали головной болью для юристов и IT-архитекторов.
Есть проблема с абстрактностью понятий. Айзек Азимов ввёл «Нулевой закон»: робот не может навредить человечеству. Но как робот поймёт, что такое благо для человечества? Например, он решает, что люди разрушают экологию, и для «блага человечества» ограничивает их свободу. Это роботопатернализм — тихий захват власти ради нашей же пользы.
Часто систему вводит в ступор конфликт инструкций. В критической ситуации, например, спасти одного человека или группу, робот зависает. В реальности это автопилот одного известного американского бренда, который не знает, тормозить или маневрировать, когда на дорогу выбегает ребёнок, а по встречке несётся грузовик.
Кларк доказывает: чем сложнее система, тем больше в ней дыр. Попытка прописать все правила приведёт к созданию громоздкого кодекса, в котором робот (или хакер) всегда найдёт лазейку.
Поэтому настоящая опасность — это вовсе не восстание машин, а как раз их уязвимость. В отчёте Газпромбанка «Риски кибератак» выделены как один из главных барьеров. Например, взломанный сервисный робот в больнице — это реальный риск для жизни и здоровья пациентов. А ошибка в коде складского робота приведёт к миллионным убыткам.
Кларк ещё в 1994 году предложил концепцию «комплементарного интеллекта». Мы не должны пытаться создать замену человеку, мы должны создавать системы, усиливающие его. Машина обрабатывает данные, а человек принимает этические решения. Попытка переложить ответственность за моральный выбор на алгоритм, как предупреждал Азимов, всегда заканчивается катастрофой.
«Я же вам говорил»
Мы привыкли относиться к фантастике как к развлечению. Но история показывает, что Лем, Азимов и Кларк реально писали сценарии цивилизационного масштаба. Они задавались вопросами, на которые нынешние инженеры и политики вынуждены отвечать только сейчас, когда ставки выросли до $300 млрд.
Урок Лема в том, что нельзя просто «написать код». Любая нейросеть несёт в себе отпечаток ценностей и убеждений создателя. Если мы не осознаем этих ценностей, то получим инструменты, которые усиливают наши предрассудки.
Азимов показал, что невозможно придумать три строчки кода, которые сделают мощный искусственный интеллект безопасным. Потому что безопасность — это не статичный закон, а процесс постоянного контроля человека над машиной.
Роботизация неизбежна, и это факт, потому что демография в развитых странах не оставляет нам выбора. Вопрос лишь в том, будут ли это примитивные исполнители, запертые в клетках на заводах, или умные ассистенты, интегрированные в общество.
Фантасты свою работу сделали — предупредили обо всех ямах на дороге. Теперь руль у нас.
Комментарии (7)
martopt
24.02.2026 11:48Мне статья не очень понравилась, обо всем и ни о чем, так еще и с кучей проблем.
В начале автор говорит, что сейчас все пытаются с нуля решить все проблемы, хотя они были предсказаны 60 лет назад. Во-первых, почему автор решил, что с нуля? Все прекрасно знают и про Азимова, и про Лема и про мгогих других. Во-вторых, в заключении кратко пересказываются эти предсказания и проблемы, но ответа на то, как решить проблемы нет. Ну и толку от этих предсказаний тогда? Если бы футурологи ещё и ответы дали, тогда была бы ценность.
На счёт Лема и виртуальной симуляции - численное моделирование уже давным давно используют, ничего такого в этой идее нет. Никакой метод Лема не стал стандартом, этот "метод" придуман инженерами вместе с появлением первых вычислительных машин.
На счёт "роботизации как способа избежать краха экономики" - в корне не согласен. Посмотрите на страны Азии - нет рабочих рук? А в Африке сколько народа можно "припахать"? Всегда двигателем автоматизации была экономия ресурсов и больше ничего. Если роботы не докажут свою экономическую эффективность - то не будет никакой замены.
На счет угрозы вообще не понял. Сначала автор рассуждает, что нулевой закон это не навреди, а потом происходит подмена понятий и рассуждения уже идут про "благо человечества". Это же совсем разные области. Одно дело чего-то НЕ делать, чтобы не повредить человека, другое дело что-то СДЕЛАТЬ, чтобы "человечеству стало лучше". Короче как по мне весь раздел мимо кассы.
Ну и заголовок кликбейтный - футурологи ничего не предсказали. Футурологи - это фантазеры на тему будущего, а их фантазии могут вдохновить кого-то на реализацию этих фантазий. А могут и не вдохновить, или может ресурсов и возможностей не хватить на реализацию этих фантазии, и в итоге эти фантазии так навсегда и останутся в мечтах.
maxim_tsar Автор
24.02.2026 11:48Ударим нейрослопом по нейрослопу!
Во-первых, автор комментария путает футурологию с инструкцией по эксплуатации. Задача прогнозиста — подсветить проблему и вектор развития, а не писать за инженеров код. То, что «все знают про Азимова», не мешает индустрии раз за разом наступать на те же грабли, потому что знание сюжета книги не равно этическому и юридическому решению вопроса в реальности.
Сравнивать идеи Лема о виртуальной реальности (фантоматике) с «численным моделированием» — это как сравнивать теорию относительности с умением пользоваться линейкой. Лем писал об онтологическом статусе реальности и восприятии, а не о том, как посчитать нагрузку на балку в симуляторе. Утверждать, что инженеры «все придумали сами», — значит полностью игнорировать культурный и концептуальный контекст, в котором эти инженеры росли.
Насчет «припахать Африку» — аргумент из позапрошлого века. Экономика будущего строится не на количестве «рук», а на производительности труда и сложности технологий. Роботизация — это не просто экономия ресурсов, это ответ на демографический кризис и старение населения, который никаким импортом дешевой рабочей силы из Африки не перекроешь в долгосрочной перспективе. Роботы — это не «замена», это один из способов повышать выпуск на человека, удерживать уровень сервисов, когда рынок труда и демография неизбежно меняются.
Про Нулевой закон: автор комментария не до конца понимает суть этических парадоксов Азимова. Нулевой закон («робот не может нанести вред человечеству») как раз и вводит понятие коллективного блага, которое может противоречить благу отдельного человека. Это не «подмена понятий», а классическая проблема утилитаризма, которую автор статьи, судя по всему, и пытался затронуть. Бездействие («НЕ делать») в масштабах человечества — это такое же решение, которое ведет к результату.
Ну и финал про «фантазеров» — максимально поверхностный. Любая реализация начинается с фантазии и воображаемой модели будущего. Без футурологов инженеры бы до сих пор строили более совершенные паровозы, не задумываясь о том, куда этот путь ведет».
martopt
24.02.2026 11:48Ну начнем с того, что я сам писал свой коммент, не понимаю, почему вы вдруг решили, что я решил использовать для этого LLM.
можно, пожалуйста, примеры, в которых будет продемонстрировано наступление на грабли? и я не ожидаю, что футурологи напишут инструкции по эксплуатации и уж тем более код, но скажите, какая ценность от вопроса, на который нет ответа?
ваша модель тут, кажется, сгаллюцинировала, я сравнивал не идеи о виртуальной реальности с численным моделированием, а тезис автора о том, что некий "метод Лема" стал промышленным стандартом, то есть якобы инженеры не додумались бы без Лема сначала промоделировать, прежде, чем проверять "в железе"; поправьте промт, пожалуйста для своей LLM, чтобы более состоятельный контраргумент привести
ну тут просто повторение тезиса из статьи; где какие-то пруфы по поводу того, что роботизация "ответ на демографический кризис"? Роботизация - сугубо экономический инструмент в целях минимизации издержек и получения бОльшей прибыли; вы думаете, что автопроизводители, которые автоматизируют производство пекутся о судьбах человечества?
натянута сова на глобус как по мне; причем тут масштаб человечества, когда мы говорим о поведении конкретного робота?
Полный бред. Практические приложения изобретениям как правило находят предприниматели, а не футурологи. И я не отрицаю роли футурологов в "создании образа будущего", который манит и заставляет человечество идти вперед. Я отрицаю превозношение их роли до главенствующей, о чем нам собственно намекает заголовок статьи, ровно поэтому и назвал его кликбейтным.
Если не готовы отвечать "вживую", без всяких LLM, то лучше не отвечайте. Второй раз распинаться перед LLM не планирую.
maxim_tsar Автор
24.02.2026 11:48Футурологи полезны тем, что раньше других формулируют правильный дискурс и набор неизбежных конфликтов. Поэтому толк от них такой же, как и от тех, кто занимается стратегиями. Мы можем не видеть на практике ответов на вызовы будущего, которые формируются на бумаге еще вчера, но в конце концов мы не можем вообще не задавать никаких вопросов о завтра — так это не работает. Чем эта гипотеза вчера была совершеннее, тем больше мы готовы сегодня к вызовам. И нет ничего плохого в том, что это могут быть просто философские размышления, воплощенные в художественных образах. Пример: Э. Тоффлер еще в 1970 году описал «Шок будущего» — по сути, это про борьбу с цифровым выгоранием, перегрузку от ускорения технологических изменений, про исчезновение целых пластов профессий и необходимость постоянного переобучения. Вдумайтесь, он сформулировал этот конфликт почти 60 лет назад. Он есть? Да. Поэтому, конечно, мы с вами согласиться не можем. Г. Уэллс предсказал существование атомных бомб за тридцать лет до Хиросимы и Нагасаки. Он не только описал устройство бомбы, но и предсказал разрушительные последствия её применения. Сразу оговоримся, что мы не говорим о том, что он написал физикам подробное ТЗ, как сделать такую бомбу. Нет.
Дело в том, что ваша мысль о том, что моделирование давным-давно есть, а инженеры не додумались бы без Лема, никаким образом не опровергает тезис о том, что базовая идея родилась раньше, чем прикладное моделирование. Художественные образы нередко диктуют направление, по которому в дальнейшем идет реальная инженерная мысль, особенно в вопросах не существовавших ранее технологий. Это абсолютно нормально. Так работает наш коллективный разум. Пример: коммуникатор в Star Trek стал одним из наиболее заметных элементов внятного образа мобильника. Он был одним из художественных образов фантастики, но, по сути, стал одним из форм-факторов, над которым потом инженеры работали годами, чтобы превратить фантазию в работающий инструмент. Такие примеры можно приводить долго. Это, безусловно, касается не только романтической визуализации последующих изобретений, но и философской базы, что очень важно.
Мы опираемся на большое исследование, которое провели в том числе наши аналитики, опираясь на реальные данные множества различных источников (не фантастов). И нет, мы не говорили о том, что мотивация автоматизировать промышленность — это исключительно вопрос гуманизма и философии, вы, конечно, перегибаете. Мы говорим о реальной корреляции в конкретных странах (ЕС, Япония, Китай) между демографической ситуацией и планами по роботизации, которая рассматривается как прямой инструмент компенсации кадрового дефицита. И нет, заменить все кадры на мигрантов нельзя, так просто это не работает. Во-первых, «донорские» страны тоже не молодеют, во-вторых, квалифицированный труд не восполняется мгновенно, а обучение стоит денег и занимает время. В-третьих, миграционная политика — это политика, и она не работает в ряде стран директивно. В-четвертых, массовый приток рабочей силы не решает проблему в высокотехнологичных сегментах, где нужны узкие компетенции.
-
Тут важно отделить мух от котлет: культ футурологов, о котором мы не говорим, отделить от признания важности взгляда и попыток заглянуть в будущее в таком философском контексте, который рано или поздно становится прикладным дискурсом. Мы не говорим о том, что футурологи важнее инженеров или предпринимателей. И не утверждаем, что именно они несут золотые яйца, но, на наш взгляд, очевидно, что в данном случае было раньше — курица или яйцо. Крупные технологические сдвиги почти всегда начинаются с формулировки образа будущего. До массового внедрения той или иной технологии всегда идет долгая и иллюзорная фаза, когда она — эта условная технология (фантазия) — спорная с точки зрения экономики, когда она сыра и рискованна. Нередко именно в этой фазе решения принимаются не исходя из целесообразности внедрения сегодня, а с опорой на некую сложнопредсказуемую траекторию с множеством неизвестных, и именно романтические представления футурологов нередко становятся подталкивающим фактором. Если убрать из этой цепочки (представление — идея — бизнес-модель — внедрение) первый пункт, все становится реактивным, а не проактивным. А это путь к стабильной стагнации — подходу, к которому глобально человек как разумное существо никогда не был предрасположен. Мы всегда в динамике прогресса.
Гуманоидных роботов начали изобретать в те времена, когда ни технологии не позволяли сделать это полноценно, ни запроса на это не было в природе — он существовал только на бумаге у футурологов и фантастов.
Посему простите за неудачную шутку про LLM. Но речь не о романтизации футурологов, а о том, что стратегическое мышление (чем порой занимаются футурологи и фантасты), технологические прогнозы (что в данном случае сделали наши аналитики) и реализация (то, что мы помогаем делать ученым и разработчикам в рамках нашей экосистемы научно-технологического лидерства) сегодня связаны теснее, чем кажется на первый взгляд.
Arhammon
Так человек тоже не знает - формальные правила гласят умирай в своей полосе, неформальные говорят машины бить, животных давить, людей объезжать...
maxim_tsar Автор
Да, но человеку в экстренной ситуации все же простительно растеряться, а от разработчиков требуют заранее решить, чья жизнь ценнее.
Arhammon
Регулятор здесь государство, а не разработчик. У нас официально один допустимый манёвр - торможение. Почему такой вариант был правильным во времена когда не существовало АБС, ЕСП - я понимаю, а насколько это обосновано сейчас (тем более для железки, которая теоретически способна на маневры уровня гонщика Ф1 + его команды снимающей телеметрию) не могу ответить.