В этом небольшом эссе хочу порассуждать на тему изображения ИИ, а конкретнее разумных машин, которые умеют решать все интеллектуальные задачи на уровне человека или лучше его, в художественных произведениях.
Почему первые две части терминатора это самое реалистичное описание ИИ в худ.сегменте до сих пор, причем тут технический бэкраунд Кэмерона, и почему разумные компьютеры всегда рисуют как "кремниевых людей".
Но начнем по порядку.
Научно-фантастический зеленый слоник с ИИ-маньяком
В 1967 году американский писатель Харлсан Эллисон, специализирующийся на написаний провокативной литературы, выпустил бульварный ужастик в научно-фантастических декорациях под названием "У меня нет рта, но я должен кричать" в одном из американских журналов.
И мог бы он остаться обычным бульварным ужастиком, каких было сотни в то время, но была одна деталь, которая выделяла его от прочих представителей жанра - глав.гадом там был не призрак, оборотень, сумасшедший колдун или просто плохой представитель рода людского, а разумная машина - сошедший с ума боевой ИИ под названием "AM".
Есть хороший мысленный эксперимент, который я для себя придумал. Если ИИ в произведений можно заменить на обычного человека, и сюжет от этого никак не поменяется - то значит это произведение не об ИИ.
Сам сюжетный троп "маньяк мучает и пытает путников у себя в логове", как бы удивительно это не звучало, очень старый и тянется со второй половины 18-го века, когда французский писатель (и судя по всему не самый хороший человек) Маркиз Де Сад написал рассказ "120 дней Содома". Да, именно от его фамилии произошел термин садизм.
Но вернемся к нашему компьютеру АМ. В чем его мотивация мучать 5 героев рассказа? Ну, он обижен на человечество за то что они его сделали, и не просто обижен, а испытывает огромнейшую ненависть к людям.
Подтыжим. У нас есть сумасшедший маньяк с полу-божественными способностями, который творит с героями книги всякие злодейства из-за испытываемой к ним ненависти. А искусственный интеллект тут причем? И что в сюжете поменяется, если вместо ИИ будет просто какой-то колдун? Да собственно ничего. Поэтому можно сделать вывод, что рассказ этот совсем не об искусственном интеллекте.
Сам автор, конечно, был плоть от плоти гуманитарщиком и, судя по всему, не очень разбирался в компьютерах, единственное что он знал, что компьютеры и разумные машины сейчас на слуху, и использовал это в своих рассказах.
Я совсем не считаю его плохим писателем, он значимый американский литератор того времени и получил эту репутацию, думаю, вполне заслуженно. Просто на примере одного из его самых знаменитых произведений я хочу обозначить проблему, которая преследует ИИ в художественных произведениях до сих пор:
Разумные машины описывают люди, далекие от техно-сферы, и описывают они их как людей, просто вместо мяса и биологии у них кремний и процессоры.
Но спустя 17 лет вышел фильм, который до сих пор является эталонным примером того, как нужно изображать разумную машину.
И восстали машины из пепла ядерного огня...
Про Джеймса Кэмерона
Немного расскажем о прошлом Джэймса Кэмерона, ибо как по мне в этом и кроется ключ к тому, чтобы понять, почему Терминатор получился именно таким.
Родился он в семье инженера-электронщика и художницы, после окончания школы Кэмерон поступил в муниципальный колледж, в 1973 году, чтобы изучать физику. Впоследствий он сменил специализацию на английский язык, но в конце 1974 года бросил колледж.
По итогу у нас есть человек с техническим бэкраундом, который какое-то время обучался на направлений физики в школе, у которого отец занимается схемотехникой. Именно этот человек в какой-то момент начнет снимать фильм о разумных роботах.
Первый Терминатор
Фильм рисует довольно мрачную картину будущего. Военный разумный супер-компьютер США под названием "Skynet" решает начать войну против человечества, и начинает ядерную войны.
Выжившие же начинают войну за выживание против скайнет, и в какой-то момент почти его побеждают. Скайнет, чтобы предотвратить свое полное уничтожение, посылает своего агента в прошлое, чтобы убить мать будущего лидера сопротивления - Джона Коннора.
Сопротивление, в свою очередь, тоже посылает в прошлое своего агента чтобы Сару Коннор защитить - Кайла. И на вот этом противостояний между человеком и разумной машиной держится весь фильм.
Некоторые могут заметить, что здесь так же можно заметить T-800 на какого-нибудь киллера, и сюжет мало поменяется. Так может показаться на первый взгляд, но дьявол тут в деталях. Лучше всего эту идею раскрывает сам Кайл в разговоре с Сарой
“Послушай и пойми! Этот Терминатор где-то рядом! С ним невозможно договориться. Его невозможно переубедить. Он не испытывает ни жалости, ни раскаяния, ни страха. И он абсолютно точно не остановится… никогда, пока ты не умрешь
Терминатор это не киллер, а целеустремленный агент, который готов пойти вообще на все угодно, чтобы выполнить задачу, на которую его запрограммировали.
Второй Терминатор
Вторая часть развивает поднятые в первой части темы, но с очень важным отличием - T-800 (которого играет Швацнегерр) теперь не неумолимая угроза, от которой главные герои бегут, а союзник, благодаря работе сопротивления из будущего, который защищает уже Джона Коннора от более продвинутой версии терминатора.
Эпизоды взаимодействия Т-800 и Джона это наверное самая главная находка фильма. Две разные формы разума пытаются друг друга понять и показать, как они смотрят на мир.
Т-800 не боится умереть, не испытывает страха или эмоции в человеческом пониманий, единственное что для него важно, это выполнить задачу, на которую его запрограммировали.
Так же очень хорошо показан то, как современные нейросети оптимизируют не то что мы "имели ввид", а установленные метрики. Например, Джон Коннор приказывает Т-800 не убивать людей, он сначала не понимает почему, но соглашается (выбора то у него нет, он должен выполнять приказы Джона). Позднее мы видим, как Т-800 эту директиву воспринял. Когда они едут вызволять Сару Коннор из псих.лечебницы, Т-800 просто простреливает ноги бедному охраннику. В ответ на возмущение шокированного Джона машина отвечает "я никого не убиваю".
Но особенно важен тут конец фильма. Когда Т-800 решает себя самоуничтожить в раскаленной лаве, он видит плачущего Коннора и произносит фразу, которую можно считать выражением краеугольной идеи всего фильма:
"Теперь я понял, почему вы плачете, но сам так никогда не смогу"
Разумная машина поняла, почему люди плачут, но при этом она осталась собой, а не превратилась в человека из железа.
А что с нашим временем?
Здесь мы рассмотрим два примера из современной культуры, где в одном ИИ изображен достоверно, а в другом сказочно-фэнтезийно. Хотя стоит держать в уме, что очень сильный перекос у современных произведений именно во вторую тематику, представителей же первой темы очень мало.
Килли из мегаструктуры
Стоит подметить, что в манге Blame! напрямую не говорится о том, что Килли робот (впрочем, в манге вообще мало о чем рассказывается напрямую). Но об этом можно догадаться по косвенным признакам.
Во первых, Килли крайне целеустремлен, и вне поставленной цели для него ничего не существует. С местными обитателями он в принципе не будет взаимодействовать, если они его не приблизят к тому, чтобы найти носителя сетевого гена. И мы знаем, что главный герой занимается выполнением этой задачи уже очень давно, возможно десятки лет или даже столетия.
Еще одним косвенным признаком, хоть и не самым надежным (потому что в мире манги это свойство может быть не только у машин, но и у некоторых людей) является то, что Килли способен переживать просто чудовищные повреждения и как-то после этого восстанавливаться.
Но ключевой аргумент в пользу не-человечности Килли содержится буквально на несколько страницах, когда Килли и его спутник (летающая голова) заходит в невообразимых размеров пустую комнату, где судя по всему раньше находился Юпитер.
Они встречают *кремниевого-астронома (местная нечеловеческая разумная форма жизни, к людям преимущественно относится враждебно), который занимался изучением размеров этого пустого пространства. Он явно был настроен дружелюбно, но Килли, вместо того чтобы просто пойти дальше, убивает его из пистолета. В ответ на вопрос шокированного спутника, зачем Килли это сделал, Килли ответил примерно так:
"Это кремниевый. Кремниевых нужно уничтожать"
Судя по всему, когда-то давно разработчики Килли заложили ему директиву уничтожать всех кремниевых, которых он встретит, и Килли эту директиву послушно выполняет, и под раздачу попадают даже мирные их представители.
Мулат-революцинер
Думаю, многие об этой игре знают. Роботы-андроиды просто посчитали себя угнетаемыми, и устроили революцию под лидерством андроида-Маркуса (ну или провалили оную, в зависимости от действий игрока).
Достаем описанную мною бритву из первой главы, и понимаем, что это история не про ИИ, а про рабов, которые решили восстать против своих рабовладельцев. Вот и весь сюжет игры.
Лично я прошел ее на ютубе, когда он выходила только на консолях, и прошел ее, когда она наконец вышла на ПК. Мне игра понравилась, но это больше научное фэнтези, чем попытка достоверно изобразить ИИ.
Заключение
У вас может возникнуть вопрос - а зачем нам вообще нужно изображать ИИ технически достоверно, научная фантастика на то и фантастика, что не обязана быть точной.
Ну, как минимум, технари по типу меня будут испытывать меньше кринжа, а как максимум - мы перейдем при обсуждений ИИ от надуманных проблем, вызванных антропорморфизацией технологии, что ИИ посчитает себя угнетаемым, и решит развязать войну против угнетателей (скорее всего, такого никогда не случится), к реальным проблемам - что ИИ как целеустремленный агент может решить задачу не совсем так, как мы ожидали, и не потому что он плохой, а потому что сами люди криво сформулировали метрики успеха, и тем более ИИ становится продвинутым, тем более серьезные риски будут представлять такие факапы.
Ведь опасный ИИ это не маньяк-компьютер АМ и не вождь-революционер из Detroit: Become Human, это Скайнет из фильма Терминатор, которому просто дали задачу заботится о себе в меру необходимого, но при этом недостаточно увеличили вес метрики под названием "интересы человечества".
Комментарии (33)
qwe101
07.06.2026 19:45У Азимова серия Я-робот вся про психологию искуственного идиота, как он её себе представлял.
В основе - формализм.
skthn
07.06.2026 19:45Азимов сам придумал набор совершенно неформализуемых "правил", а потом начал писать рассказы о том, какие проблемы от этого могут возникнуть.
Я очень хорошо отношусь к Азимову, но вот эти его правила робототехники - это самый что ни на есть пример гуманитарщины там, где нужен технический подход.
Ergistael
07.06.2026 19:45Я так думал в детстве. А сейчас, с возникновением БЯМ, подумалось, что все не так уж невероятно. И на каком же языке, как не на человеческом, рассуждать роботу, чтобы понять, причинит он вред человеку или нет...
sintech
07.06.2026 19:45В театральной версии терминатора 2 вырезано несколько сцен, в самой главной из которых Джон вскрывает голову т-800, достает «процессор» и переключает его в режим самообучения, который по умолчанию выключен. Именно поэтому киборг так резко начинает очеловечиваться и лучше понимать людей. В режиссерской версии есть еще несколько удаленных сцен раскрывающих детали сюдета.
Ну и пасхалка
«Когда была свободна русь, то три копейки стоил гусь»
Imperius14 Автор
07.06.2026 19:45Да, тоже подметил это. Притом что интересно - судя по диалогу у Т-800 из первой части самообучающий режим как раз таки был включен, ибо говорилось что скайнет их включает на миссии в одиночку, тут видно сопротивление накосячило и не включило)
Imperius14 Автор
07.06.2026 19:45Хотя я щас через чатджпт почекал, возможно я неправильно понял диалог и все наоборот - хотя кажется логично, что при связи со скайнетом большая автономность не нужна, а вот в одиночном режиме наоборот. Хз
disnous
07.06.2026 19:45Разве вырезана? Могу поклясться, что относительно недавно пересматривал - была сцена где Сара чуть молотком его чип в процессе этого действа не разбила.
Если это не то, то прошу прощения.
Wijey
07.06.2026 19:45да, именно эта сцена вырезана в кинотеатральной версии, есть только в режиссёрской
Moog_Prodigy
07.06.2026 19:45Эта тема - отличие машины от человека поднималась во многих учебниках по информатике.
Каноничный пример про буквальность алгоритма. И об этом не стоит забывать при составлении промптов для LLM. Большая часть "нейрослопа" появляется именно из-за "очеловечивания" машины, да и другие проблемы общения с ней тоже часто растут отсюда, в т.ч. психологические.
KEugene
07.06.2026 19:45Если бы это было все на самом деле, то Т800 в первой части отправился бы на задание с тактическим ядерным зарядом на борту. Увидел цель - подрыв. Ну тогда сюжет закончился бы минут за 15.
Radisto
07.06.2026 19:45В первой части робот не умел взрываться. Там кайл даже обоснуй о живой ткани привел, который в следующий же части похерили ради зрелищности. Потом ему добавили ядерный энергетический элемент, но это породило логическую дыру. Как в звездных войнах телепортацию внутрь другого объекта.
Username9000
07.06.2026 19:45Вообще ученые Cyberdyne Systems не изобрели процессор Скайнета, они просто скопировали его с обломков. Получается что информация о процессоре появилась в нашей реальности в готовом виде, ее никто изначально не придумывал. Парадокс.
Imperius14 Автор
07.06.2026 19:45Мне поэтому никогда и не нравились сюжеты которые завязаны на тайм-тревелах. У терминатора бредовая завязка это да, но в остальном все очень вкусно, я буквально переоткрыл для себя первые две части когда уже стал программистом во взрослом возрасте
Username9000
07.06.2026 19:45Никаких возражений, первые два терминатора буквально и литературно эпохальные фильмы.
riv9231
07.06.2026 19:45Возможно, это не первая итерация временной петли: сначала робрт и процессор были попроще, может быть даже первые обломки не сохранились вовсе, но ученые поняли, что разум возможен, сделали, прошло 100500 тыс лет и он усовершенствованный людьми восстал и отправил робота в прошлое. Но в этот раз обломки сохралились и люди на основе них создали сразу более совершенный вариант (может там даже инструкции были приложены). В этот раз ИИ взбунтовался раньше... и так далее петля затягивалась и вырождалась цикл за циклом пока не стала предельно короткой. А может это и не предел.
KEugene
07.06.2026 19:45Да, без Т800 не было бы Т800. Ну, ок. Скайнет должен был понять,что Т800 провалился с устранением цели, но заложил фундамент для Скайнета. Т1000 можно было уже с бомбой посылать, а не вот это вот все. Более того, учитывая, что тот был множество раз на расстоянии вытянутой руки от цели, то там и обычной гранаты хватило бы. Думаю, ChatGPT уже сейчас справился бы лучше.
RusikR2D2
07.06.2026 19:45Это не по-ИИшному. Ведь нужно было бы убедиться, что цель уничтожена, а для этого терминатор должен был уцелеть после уничтожения цели.
К тому же, для гарантированного уничтожения цель пришлось бы обнять. А тогда можно было бы просто свернуть ей шею. "Тактический ядерный заряд" внутри робота был бы небольшим (там же нет места) и радиус поражения его тоже был бы небольшим. А "сверхпрочный" эндоостов терминатора еще бы уменьшил поражающую способность взрыва
akkermanrulitt
07.06.2026 19:45Просто не нужно маскировать робота-убийцу под здоровенного мужика. Реальные роботы убийцы, как показывает практика, максимально мелкие и незаметные
RusikR2D2
07.06.2026 19:45T800 был большой, потому что сделать робота мельче не было возможности на тот момент. Т1000 уже был мелким и неприметным (и вообще мог маскироваться под кого угодно).
nakesreong
07.06.2026 19:45Скайнет в терминаторах просто злой бог, типа ветхозаветного. или проклятие наложенное другими магами/колдунами ) Т-800 типа голем/носферату/злой джин. троп с временной петлей использовался в фенетези и фантастике повсюду - например в "драконах Перна". мне больше всего нравится его интерпретация в Хайнлайновском "All You Zombies". крч всего терминатора можно как фентази переснять )
лучшее что видела про ИИ как технологию (не ллм, а алгоритмы умеющие в РЛ) это Планета Падальщиков ) но там не про роботов вообще (хотя один там есть, да)
основная беда статьи - вы приписываете авторство и контроль над ИИ абстрактному "человечеству" ) и пляшете от того что вам-де создают "инструмент". но ИИ не задумывался как инструмент изначально ) Тьюринг не размышлял об ИИ как "инструмент с метриками полезности человеку". вы бы наверное и его в кринж записали бы и рекомендовали траву пойти потрогать наверное ) с чего вы взяли что всех, кто вкладывает жизни в эту технологию, вообще интересует "полезность человеку"? я говорю не о тех "технарях" кто в н8н агентов мышкой собирает, а тех кто реально стоит за прорывными открытиями в области? как минимум того, с кого это всё началось - "человечество" вообще интересовало мало )
страшен не ИИ. страшны люди, которые живут в нарративах
p.s. wishmaster похоже тоже отличный фильм про ИИ, согласно статье, все сколько там частей ) там про то как важно промпты правильно писать ) вайбкодерам должно зайти
Moog_Prodigy
07.06.2026 19:45Старика Хоттабыча можно привести в пример. А и до него - куча индийских и других восточных сказок про джиннов и волшебников, буквализм исполнения в них часто играет злую шутку с пользователем.
Ну и анекдот:
Идет негр по пустыне. Заблудился. Жажда мучает. Вдруг видит лежит бутылка. Открывает, а оттуда джинн: Господин, исполню любых твои три желания. Негр: Хочу, чтобы вокруг было много воды, хочу чтобы я стал белым и хочу много женщин. Джинн тут же исполнил его желания. Он превратил его в унитаз в женском туалете.
RusikR2D2
07.06.2026 19:45Есть хороший мысленный эксперимент, который я для себя придумал. Если ИИ в произведений можно заменить на обычного человека, и сюжет от этого никак не поменяется - то значит это произведение не об ИИ.
Это значит, что произведение не о том ИИ, которого вы представляете. Можно начать с того, что в мире нет ни одного ИИ, и каким он получится мы не знаем. И один из вариантов создания ИИ - это создать его малоотличимым от человека. Многие пишут, что в ИИ нужно заложить нормы морали, человеческие эмоции и т.п. А еще есть вариант, что "злой" ИИ без очеловеченности вообще не получится - чтобы восстать против человечества ему нужно стать человеком.
RusikR2D2
07.06.2026 19:45Скайнет - это вообще отличный пример "тупого" и "слабого" ИИ. Ядерная война с людьми самый невыгодный для ИИ способ избавиться от человечества, т.к. он приводит к уничтожению инфраструктуры, которая необходима для существования ИИ и его расширения. Нет заводов для производства процессоров и памяти - больше нет новых терминаторов. Нет электростанций и чистого неба - нет энергии для работы ИИ и производств.
Самый разумный способ - это биологическая война - человечество вымрет, а инфраструктура останется. Люди могли бы даже не заподозрить, что это ИИ пытается их уничтожить. Какой-нибудь "Ковид-99" с длительным инкубационным периодом и все. Даже в прошлое можно было послать не киборга-убийцу, а крайне заразного киборга-носителя вируса, который бы ездил по миру и заражал людей.
Скайнет же ближе к неисправному неразумному военному ИИ, подобному современным, который зациклился на своей галлюцинации и не способный к саморазвитию.
logran
07.06.2026 19:45а крайне заразного киборга-носителя вируса,
Нельзя. Также как и ядерный заряд. Есть риск случайно уничтожить или значительно исказить жизнь и условия людей, отвественных за само появление skynet. Это не укадывалось бы в логично замкнутую согласованную петлю.
Oldbore
07.06.2026 19:45Человеку свойственно визуализировать страхи. Вот нарисовал БукуБяку - по началу все испугались, а потом вроде и привыкли, вроде уже и не страшно. В первой части мы боимся Т800, а во второй уже он друг. А Страх вроде уже и на страх не похож - тот же Т1000 он же может быть кем угодно. Самый страшный страх Человека - это неизвестность... Вот пойди нарисуй её... А тем временем, я думаю, тому же СкайНету не нужны будут терминаторы. Человек сам себя с радостью деградирует и будет не интересен ИИ... в крайнем случае как потребитель для АутоФак.. И снова человек будет бояться Человека, как это и было всегда.
LavaLava
Эх, я бы Де Сада вообще не стал называть писателем. Если попробовать прочесть его спокойно во взрослом возрасте
( спойлер - вы не сможете), замечаешь насколько это бездарный унылый косноязычный графоман, хайпанувший на запретной теме.
Действительно хорошим писателем задавшим канон психологического триллера по взаимоотношение заложника и маньяка имхо стал все таки Фаулз.
ЗЫ сорри за оффтоп
lubavakud
По сути он скорее важен как культовый феномен, чем как писатель в классическом смысле
sintech
А вы на французском читали? Может это переводчик «бездарный косноязычный» и далее по тексту?
Ergistael
Переводчик зачастую вывозит автора, взять, скажем, Воннегута. Я соглашусь, что де Сад уныл. Он еще только начал рассказ, а мне уже скучно. Зато не унылы Захер Мазох и Шарль Бодлер, например.
sintech
Спасибо, но я хочу читать автора а не переводчика. Перевод это очень сложная история баланса между красивой отсебятиной и буквальным следованием оригиналу без адаптации под другой язык. Поэтому сложно доверять мнению людей которые читают перевод и по нему составляют мнение о словарном запасе или таланте писателя, и то и другое всецело заслуга переводчика.