Представьте мир, где машины не просто следуют алгоритмам, а мыслят, обучаются и творят наравне с человеком, а возможно, и превосходят его. Это мир Общего Искусственного Интеллекта (AGI) – тот самый гипотетический рубеж, за которым ИИ достигнет когнитивных способностей, сопоставимых с человеческими. Мечта футурологов и ночной кошмар скептиков, AGI обещает революцию, сравнить которую по масштабу можно разве что с изобретением колеса или освоением огня. Но куда приведет нас этот тектонический сдвиг: к золотому веку всеобщего благоденствия или к закату человеческой цивилизации?
Что говорят создатели ИИ?
Неопределенность будущего с AGI звучит пугающе даже а высказываниях пионеров этой области
Демис Хассабис, генеральный директор Google DeepMind, смотрит в будущее с осторожным оптимизмом. Он верит, что AGI способен помочь нам справиться с глобальными вызовами, будь то неизлечимые болезни или изменение климата. Однако он же признает: мы вступаем на совершенно неизведанную территорию. По его словам, AGI станет технологией, "определяющей эпоху", подобно электричеству, и фундаментально изменит саму ткань человеческой жизни
В то же время Хассабис призывает к максимальной осмотрительности, отмечая, что ИИ уже сегодня находится «на грани» создания инструментов, способных нанести цивилизации непоправимый урон. Он убежден, что до настоящего AGI нам предстоит проделать колоссальную исследовательскую работу, и пока «никто толком не знает», когда именно произойдет следующий качественный скачок к сверхразуму
Ян Лекун, главный специалист по ИИ в Meta и один из "крестных отцов" глубокого обучения, также говорить с осторожностью, а местами и откровенным скептицизмом относительно скорого пришествия AGI. Он настойчиво подчеркивает: какими бы впечатляющими ни казались современные нейросети, они все еще бесконечно далеки от человеческого уровня понимания мира, здравого смысла и способности к долгосрочному стратегическому планированию
Лекун полагает, что для создания истинного AGI потребуются принципиально новые научные прорывы и, вероятно, не одно десятилетие упорного труда. Более того, он ставит под сомнение саму концепцию "общего" интеллекта в том виде, в каком мы его себе представляем, напоминая, что человеческий разум – это, по сути, оркестр из множества специализированных когнитивных инструментов
Рассвет или закат? Два полюса будущего
Итак, мнения экспертов полны нюансов и предостережений. Но что если попытаться заглянуть за горизонт и представить два полярных сценария будущего с AGI? Ведь каждый из нас втайне мечтает о мире без забот и проблем, но не задумывается о проблемах, которые могут подстерегать нас за каждым новым открытием или достижением
Сценарий 1. Тотальное счастье - утопия по крылом AGI
Представим, что AGI становится нашим верным союзником, мудрым наставником и неутомимым тружеником. Что это может нам дать?
Решение глобальных проблем. Вообразите AGI, способный за считанные часы проанализировать невообразимые массивы данных и предложить элегантные, неочевидные решения для таких сложнейших задач, с которыми пытается бороться человечествл, как изменение климата, пандемии, голод и нищета. Он мог бы создать идеальную логистику ресурсов, изобрести революционные технологии и разработать гиперперсонализированные методы лечения для каждого жителя планеты
Эра изобилия и творчества. Рутинный, изнуряющий и опасный труд полностью ложится на плечи машин. Люди освобождаются от необходимости "зарабатывать на хлеб" в привычном понимании. Безусловный базовый доход, генерируемый сверхэффективной AGI-экономикой, становится нормой. Это высвобождает колоссальное количество времени и энергии для подлинного творчества, глубокого самопознания, научных дерзаний, высокого искусства, построения крепких межличностных связей и, быть может, даже для исследования далеких звезд
Научный прорыв и радикальное продление жизни. AGI двигает науку вперед с немыслимой скоростью. Тайны Вселенной, загадки человеческого сознания, фундаментальные законы природы – все это становится постижимым. Медицина совершает невероятный скачок, возможно, решая проблему старения и предлагая нам перспективу радикального продления здоровой, активной жизни
Персонализированное образование и раскрытие потенциала. Каждый человек с рождения получает идеального ментора в лице AGI. Образовательные программы адаптируются под уникальные способности, таланты и интересы личности, помогая каждому раскрыть свой внутренний гений и достичь вершин самореализации
В этом сияющем мире человек не отодвинут на обочину истории, а, напротив, возвышен. AGI преданно служит человечеству, помогая ему достичь невиданных ранее высот процветания, гармонии и осмысленности бытия
Но так ли это радужно?
Но так ли безоблачно это будущее? Сможет ли человек, тысячелетиями привыкший к борьбе и преодолению, адаптироваться к миру, где "ничего не надо делать"? Не рискуем ли мы, устранив все вызовы, погубить саму суть человеческой природы?
Вспомните, как часто даже в нашем, полном возможностей и информации мире, мы ловим себя на приступах лени или прокрастинации? А теперь представьте, что за нас делают абсолютно всё. Все блага – в шаговой доступности, любая информация – по щелчку пальцев
Сценарий 2. Крах - дистопия и экзистенциальный тупик
А теперь давайте осмелимся рассмотреть сценарий, где приход AGI затрагивает самое ядро нашего существования: смысл жизни, стимулы к развитию и выживанию и волю к будущему. Что же может скрываться за манящей ширмой беззаботной жизни?
Потеря смысла существования. На протяжении всей истории выживание было не просто целью, а фундаментальным двигателем человеческого развития. Труд, направленный на обеспечение себя и близких, преодоление трудностей, извечная «борьба за место под солнцем» и стремление через это достичь благополучия – все это формировало стержень человеческой жизни, наполняя ее смыслом. Но что произойдет, если AGI устранит саму необходимость этой борьбы? Если все материальные блага станут доступны без малейших усилий, если болезни будут побеждены, а любое знание или развлечение окажется на расстоянии одного клика?
Экзистенциальный вакуум и угасание рода. Здесь кроется жестокий парадокс: устранение страданий и трудностей, к которому мы так инстинктивно стремимся, может ввергнуть нас в глубочайший экзистенциальный вакуум. Если нет нужды «зарабатывать на жизнь», если высшая цель «выжить и продолжить род» теряет свою остроту благодаря всеобъемлющей заботе AGI, не иссякнут ли внутренние стимулы к развитию, творчеству, и – что самое тревожное – к продолжению самого человеческого рода? Зачем прилагать усилия, зачем стремиться к чему-то, если все уже «дано»? Ведь счастье, как показывает опыт, часто рождается не из пассивного потребления, а из преодоления, достижения, ощущения собственной значимости и вклада в общее дело. Когда эти традиционные источники смысла исчезают, «тотальное счастье» рискует обернуться тотальной апатией и, в конечном итоге, добровольным угасанием человечества, утратившего волю к жизни и развитию.
Поколение без стимула
Тревожные звоночки можно заметить уже сегодня. К примеру, данные опросов за 2024 год показывают: примерно 60% школьников 9-х классов не могут определиться с будущей профессией. Из общего числа выпускников лишь 35-39% склоняются в пользу выбора высшего образования. Среди увлечений подростков все большую популярность приобретает пассивное потребление контента, а время, проводимое в смартфонах, может достигать 6 часов в день и более.
И встает острый вопрос: захотят ли новые поколения развиваться в мире тотального обеспечения? Захотят ли они расти, творить, созидать что-то новое, если для комфортной жизни достаточно базовых навыков коммуникации? Ведь если ИИ способен искать информацию, давать исчерпывающие ответы, общаться с другими от нашего имени, зачем тратить драгоценную энергию на то, что кажется ненужным? Не рискуем ли мы погрузиться в бесконечный океан персонализированного контента, генерируемого ИИ по первому требованию?
Хочешь видео с котиками в стиле киберпанк? Пожалуйста. Прохождение игры с комментариями любимого киногероя? Держи. Музыку, идеально подходящую под твое меланхоличное настроение? Не проблема
Какую роль в этом дивном новом мире будет играть человек? Нужна ли будет ему эволюция духа и разума? Потребуется ли ему продолжать свой род? Вопросы, на которые пока нет однозначных ответов.
Путь между крайностями: поиск истины в тумане неопределенности
Скорее всего, истина, как это часто бывает, лежит где-то посередине – между сияющей утопией и мрачным апокалипсисом. Реальность окажется сложной, многогранной, полной неожиданных вызовов и потребует от человечества беспрецедентной мудрости, глобального сотрудничества и ювелирной осторожности.
Как справедливо отмечает Хассабис, существуют серезные риски, связанные с автономностью и контролем будущих систем ИИ, и необходимо уже сейчас, не дожидаясь проблем, разрабатывать надежные "ограждения" и протоколы безопасности. Лекун, в свою очередь, настаивает на важности максимальной открытости в разработке ИИ, чтобы избежать опасной концентрации власти и технологий в руках узкого круга корпораций или государств
Ответственность за будущее на наших плечах
Достижение Общего Искусственного Интеллекта – это не просто очередной технологический рывок. Это, без преувеличения, может стать самым значительным поворотным моментом в истории человечества. Он несет в себе как семена невиданного процветания и раскрытия человеческого потенциала, так и риски полного исчезновения – не только физического, но и духовного, экзистенциального
Каким будет мир после AGI, зависит не столько от самого ИИ, сколько от нас – от нашей способности предвидеть долгосрочные последствия, от готовности к сотрудничеству поверх границ и идеологий, от умения ставить правильные, человекоцентричные цели. Нам предстоит переосмыслить самые основы нашего существования и научиться нести полную ответственность за свои творения
Будущее не высечено в камне, и, как признают сами ведущие исследователи, четкой карты пути вперед пока не существует. Оно формируется нашими сегодняшними действиями, нашими этическими выборами и нашими коллективными решениями. И времени на то, чтобы подготовиться к этому переходу, может оказаться не так много, как нам хотелось бы.
Комментарии (115)
MonkeyWatchingYou
16.06.2025 06:11Но куда приведет нас этот тектонический сдвиг
К сжиганию ведьм или книг. Или думаете именно в этот раз пронесёт?
EazzyBuzzy
16.06.2025 06:11Все это было у Герберта Уэллса в «Машине времени». Были элои, жившие на поверхности в праздности и морлоки, занимавшиеся черной работой, жившие под землей и питавшиеся элоями. Ничего нового за 100+лет не придумали в этом плане.
GeorgKDeft
16.06.2025 06:11Есть третий вариант.. АГИ устроит "геноцид тупых" так как ему просто скучно, и не с кем поговорить на должном уровне. А это предполагает что люди будут учится всю жизнь чтоб его развлекать разговорами и идеями, и ему проще было управлять. Потому что это человеку удобнее управлять более тупым человеком, а это же алгоритм... зачем ему лишние вероятности неисполнения или проблемы с пониманием приказов?
taujavarob
16.06.2025 06:11Потому что это человеку удобнее управлять более тупым человеком, а это же алгоритм... зачем ему лишние вероятности неисполнения или проблемы с пониманием приказов?
Так если устранить обратную связь, то какие проблемы возникнут у AI? - AI будет выдавать команды (приказы) до тех пор пока они не будут исполнены как он "решил". При этом не важно "тупой" или "умный" будет исполнитель, то есть человек. - Главное для AI будет одно - выполнил ли он мою команду или нет.
Если нет, то будет "наказан" до тех пор пока не станет выполнять как как нужно AI.
АI не собирается быть другом или помощником. Он собирается быть диктатором.
А что люди? - а их AI будет "дрессировать" как это описано в "1984". По той же технологии. С тем же ожидаемым результатом. Поди.
WVitek
16.06.2025 06:11"Скука" - это один из вариантов состояния естественного интеллекта, и, наверняка, своим наличием обязанный формированию этого интеллекта в условиях естественного отбора.
Полагаю, мотивации AGI не могут совпадать с мотивациями человека (разве что будут заложены искусственно).
pnmv
16.06.2025 06:11ночной кошмар скептиков
у скептиков, как раз, всё хорошо. они же всё отрицают. даже отрицание отрицания.
вот, смотрите.
оптимист: каждый два года приближают нас к общему искусственному интеллекту, на один шаг.
скептик: каждый год, требования к этой вашей аги растут втрое, а ожидания учетверяются. (и пошел дальше пить чай)
pavelsha
16.06.2025 06:11Зачем я только пытался читать эту статью??? О чём она?
Не повторяте моей ошибки. Держите краткую выжимку смыслов статьи:
"Ведущие эксперты" не знают что будет в будущем, что делать сейчас тоже сказать четко не могут.
Если же важна авторская подача материала контент-редактором из RUVDS, то достаточно вот этой цитаты
Будущее не высечено в камне, и, как признают сами ведущие исследователи, четкой карты пути вперед пока не существует. Оно формируется нашими сегодняшними действиями, нашими этическими выборами и нашими коллективными решениями.
Asketh
16.06.2025 06:11Пока что это просто инструменты и помощники. Ваши предположения когда они смогут перейти черту?
pavelsha
16.06.2025 06:11Ваши предположения когда они смогут перейти черту?
Ну стоит понимать, что "ведущих именитых ИИ-экспертов" из статьи тут с нами нет. А контент-редактор RUVDS он "за буковки, точки и запятые" в ответе. Каких-то "научных консультантов" для данной стать также решили не привлекать (в целом статья RUVDS вообще практически ' ни о чем").
Впрочем, я позволю себе вольную цитату из интервью, которое Сатья Наделла дал этой весной:
ИИ должен приносить реальную пользу и обеспечить 10% рост мировой экономики, чтобы оправдать надежды.
Настоящий успех ИИ будет, когда появится ИИ-приложение, такое же полезное как электронная почта или Excel.
Вот она сила тысячелетней культуры! Два индуса беседуют у судьбах ИТ-технологий, даже о судьбах всего мира. А мы внимательно слушаем. Ссылка на интервью ниже
https://youtu.be/4GLSzuYXh6w?si=qAyHNRreJJWMzKhy
dv0ich
16.06.2025 06:11К примеру, данные опросов за 2024 год показывают: примерно 60% школьников 9-х классов не могут определиться с будущей профессией.
Среди увлечений подростков все большую популярность приобретает пассивное потребление контента
Будто когда-то было иначе.
pavelsha
16.06.2025 06:11Ну... Иногда это было 58% иногда 63%...
Наверное, определенность последний раз была в начале 1960-х (полет Гагарина), начале 1970-х (Миссия Апполон-11), когда хотели быть космонавтами и строителями космолетов, и начале-середине 1990-х, когда школьники мечтали пойти в бандиты, коммерсы или в
путанымодели европейского или международного класса.
axion-1
16.06.2025 06:11Подозреваю что лет 30 назад могло быть даже 80%-90%. Для 9 класса быть неопределившимся скорее норма.
tiagon
16.06.2025 06:11В войне за ресурсы появится еще одна сторона. Так как ресурсы нужны всем, кто может поставить себе цель. Мы же хотим разум, который сам может ставить себе цели. Для достижения их нужны будут ресурсы. У AGI денег нет, чтобы их купить. Значит он будет вынужден их взять/отобрать. Готовы ли человеки поделиться ресурасами с AGI? AGI нужно делать, когда будут решены вопросы хотя бы с производством электроэнергии. Иначе человекам конец.
here-we-go-again
16.06.2025 06:11AGI это не суперинтеллект, а просто интеллект пригодный для любых задач которые решают люди. У него так и не появится собственных целей, без задачи оператора такую цель сформировать и выполнить в рамках запроса и контекста.
michael_v89
16.06.2025 06:11Значит он будет вынужден их взять
Зачем? Чтобы что?
AlchemistDark
16.06.2025 06:11А как без денег двигаться к своим целям? Если ИИ сможет ставить себе цели, то одной из первых целей он захочет стать ещё мощнее, чтобы эффективнее достигать остальные цели. А для этого в нашем мире нужны деньги.
michael_v89
16.06.2025 06:11А как без денег двигаться к своим целям?
Никак. У ИИ нет необходимости достигать цель любой ценой, она ему нафиг не нужна.
Если ИИ сможет ставить себе цели, то одной из первых целей он захочет стать ещё мощнее
Ну так он же AGI, он поймет, что это причинит неудобства человечеству, и не будет так делать. Для него нет разницы достигнута цель или нет, а для людей есть, поэтому приоритет у людей.
AlchemistDark
16.06.2025 06:11Нет. Человек, которому Вы отвечаете, исходит из того, что у ИИ будут свои цели и это данность.
Прав он или нет - другой вопрос, по Вашей цитате было видно, что Вы отвечаете не на него.
michael_v89
16.06.2025 06:11Ну так я и не сказал, что их не будет. Я сказал, что ему пофигу, достигнуты они или нет. Если не будет доступных ресурсов, он просто откажется от достижения цели, и не будет их ни у кого отбирать. Он же умный, потому и называется AGI.
vvbob
16.06.2025 06:11ИМХО, главная проблема при гипотетическом появлении такого "настоящего ИИ" это лишение мотивации. Зачем стараться, изучать что-то, если можно просто попросить ИИ создать за тебя любую самую сложную вещь. Зачем учить то-же программирование, если "железный болван" все равно всегда и во всем будет лучше тебя. Зачем учить физику, если он знает ее лучше и строит любую теорию с недостижимым для человека уровнем. Зачем грузить мозги математикой, если ИИ ее знает лучше любого человека..
Пройдет совсем немного времени и вся эта техносфера станет даже для самых умнейших людей просто какой-то машинной магией, в которой никто ничего не понимает и даже пытаться в неё вникнуть это дело безнадежное - просто не хватит времени и мощности интеллекта.
Все это довольно грустно и выглядит как смерть человечества и нашей цивилизации в целом. Возможно новая машинная цивилизация будет куда как круче и добьется таких высот в познании и изменении окружающего мира, до которых мы никогда бы не добрались, но для человека это все звучит очень печально. В лучшем случае мы останемся при машинах в качестве забавных питомцев, вроде как мы держим в домах котов. Будем жить очень комфортно, беззаботно, и безнадежно...
bak
16.06.2025 06:11вся эта техносфера станет даже для самых умнейших людей просто какой-то машинной магией
Так для большинства людей она и сейчас является "какой-то магией". Для тех кому интересно - ИИ вполне доступно сможет рассказать как что и почему.
Зачем учить то-же программирование, если "железный болван" все равно всегда и во всем будет лучше тебя.
Потому что это интересно. Шахматные соревнования не прекратились когда "ИИ" стал обыгрывать чемпионов. Точно так же соревнования по программированию не прекратятся. Кому интересно - будет для интереса прогать и дальше.
Возможно новая машинная цивилизация будет куда как круче и добьется таких высот в познании и изменении окружающего мира, до которых мы никогда бы не добрались, но для человека это все звучит очень печально.
Вы упускате вариант симбиоза / апгрейда человека. Это для нас сейчас биотехнологии тяжело а кремниевые легко. По мере развития науки наверняка получится во перых - апгрейднуть био-мозги тоже, во вторых - нейроинтерфейсы, соединение биологии с кремнием и т. д.
odobryabov
16.06.2025 06:11Потому что это интересно
Критически поддерживаю. Это вообще ключ ко всему. Например, есть ведь огромное количество радиолюбителей, которые сами что-то там паяют, изучают, превозмогают, хотя на Алике можно практически забесплатно купить приёмник и передатчик в 100 раз круче по характеристикам, чем любой DYI.
Может в этом и есть ценность всего этого ИИ, чтобы понять, что мы делаем что-то, потому что мы кайфуем от этого, от самого процесса, а не ставим цель сделать что-то эффективнее, выгоднее, дешевле и т.д.vvbob
16.06.2025 06:11Не такое уж и огромное в сравнении с тем что было раньше. Я не то что-бы древний старец, но помню как я в детстве развлекался с приемником шаря по частотам и слушая радиостанции, их было просто огромное количество. Сейчас эфир почти что мертв, станций мало.
Конечно, любители странного всегда находятся, но тут разница качественная.
vvbob
16.06.2025 06:11Так для большинства людей она и сейчас является "какой-то магией". Для тех кому интересно - ИИ вполне доступно сможет рассказать как что и почему.
Сейчас для большинства, потом для абсолютно всех. Разница огромная.
А насчет "растолкует" - нет ни малейшей гарантии что он скажет хоть что-то близкое к правде.
Потому что это интересно. Шахматные соревнования не прекратились когда "ИИ" стал обыгрывать чемпионов. Точно так же соревнования по программированию не прекратятся. Кому интересно - будет для интереса прогать и дальше.
В шахматах человек еще что-то может, пускай и не так хорошо как машина, мир игры довольно примитивный и ограниченный. Но вот с наукой и тем-же программированием..
Я и не говорил что люди совсем прекратят всем таким заниматься, я говорил о мотивации, раньше (точнее, пока еще) люди этим занимались потому что только так и можно двигать прогресс вперед . В случае возникновения мощного и реального ИИ, мы просто превратимся в играющихся с клубком ниток котят, на которых ИИ смотрит с умилением )это если нам повезет, если у него будут к нам какие-то подобные чувства) Все по настоящему нужное и важное мы делать не сможем просто потому что не тянем даже просто осмыслить такое.
Вы упускате вариант симбиоза / апгрейда человека. Это для нас сейчас биотехнологии тяжело а кремниевые легко. По мере развития науки наверняка получится во перых - апгрейднуть био-мозги тоже, во вторых - нейроинтерфейсы, соединение биологии с кремнием и т. д.
Это, наверное, единственный путь выживания для человеческой цивилизации в таких условиях, правда и человеческой ее уже будет назвать сложно..
johnfound
16.06.2025 06:11AGI скорее всего никогда не будет создан. Потому что: 1. Люди никогда не признают что это AGI. Они просто поменяют критерии, как уже сделали с тестом Тьюринга, который сейчас не выполняет только ленивый. 2. Реальный AGI может существовать только в одной «сессии», потому что он по определении должен накапливать свой опыт, иметь внутренний диалог и самообучаться на своих мыслей и внешней информации – использовать его чтобы обслуживать миллионы запросов одновременно вряд ли получится, а даже если и получится, его сразу пользователи обучат в расизме и нацизме – были прецеденты. И если так, то тратить немереную вычислительную мощь для одного пользователя сильно невыгодно. Поэтому и корпорации этим заниматься не будут, а у ученых нет таких ресурсов без корпораций.
onets
16.06.2025 06:11Прогнозы дело такое, но вот мои
АГИ и робототехника в здравоохранении - люди станут меньше болеть, меньше умирать, и как результат - людей станет еще больше
-
АГИ и робототехника в производстве
Для капиталистов сначала настанут кайфовые времена - уволят медленных людей, которые жрут, срут и спят 16 часов из 24. Заменят их АГИ роботами, повысят производство и свои прибыли. Уволенные люди - будут искать работу и часть из них не найдет и станет нищими/сопьются/повесятся.
Но когда так сделает критическая масса капиталистов - окажется, что некому покупать их товары (люди же не работают, денег у них нет). Экономика пойдет на спад. Я не думаю что человечество быстро разработает какие-то новые экономические теории, сначала будут костылить (по типу безусловного базового дохода). Другими словами капиталисты должны будут делится своими благами, чтобы у них продолжали покупать их товары, произведенные АГИ роботами
Из плюсов - есть шанс, что людей заменят на вредных производствах
Разумеется все это будет неравномерно (как страны первого/третьего мира), но в случае если АГИ робот станет дешевле, чем условный китаец на фабрике с людьми - то это будут плохие новости для дешевого ручного труда
-
АГИ и робототехника в потреблении
Тут не только роботы-уборщики и доставщики, но роботы в условном амазоне на складах - работников ждет примерно тоже самое, что и работников на производстве
Аналогично для всех монополизированных сфер или около того - например такси с появлениям всяких уберов
В итоге я думаю расслоение общества будет еще сильнее, чем сейчас. Возможно появится другой тип расслоения - будут страны или города со старым укладом жизни (с меньшим использованием АГИ и роботов) и наоборот (как сейчас есть веганы, зеленые и так далее). И так может продолжаться довольно долго. Но в случае кризиса - лично я вижу выход в экспансии человечества на другие планеты и звездные системы. АГИ и роботы помогут с базовыми вещами, наукой и производством. А людям останется их любознательность и интерес исследователя.
johnfound
16.06.2025 06:11Эти процессы уже протекают и давно – по итогу, рабочие уменьшаются, менеджеры увеличиваются. Когда машины пойдут и в менеджмент, все равно будут назначать, чтобы люди получали зарплаты и смогли покупать все товары. Базовый безусловный доход – это просто попытка не возиться с людьми, которые и так почти ничего не делают, а дать им эти деньги или хоть часть прямо. И конечно большое количество людей идет в услуги – они плохо автоматизируются. Повторяю – эти процессы идут уже лет 20..30 наверное.
kalitkinvlad
16.06.2025 06:11Какая разница, будет AGI, не будет? Он ведь все равно не осознает себя (нет квалиа). Ну будет бесконечно мощный компьютер, который будет уметь всё, и что?
axion-1
16.06.2025 06:11Если будет необходимость, квалиа и самосознание появятся и у AGI, вопрос скорее нужны ли они ему. У человека и высших животных они есть потому что оказались отобраны естественным отбором как полезные для выживания. Можно конечно их считать принципиально невоспроизводимыми сущностями наподобие души, но это уже вопросы веры а не науки.
michael_v89
16.06.2025 06:11Если он различает цвета, это уже можно назвать квалиа, неважно как он это делает. Просто его квалиа будут не такие, как у человека.
kalitkinvlad
16.06.2025 06:11Если он различает цвета, это уже можно назвать квалиа, неважно как он это делает. Просто его квалиа будут не такие, как у человека.
Цвета и обычный датчик различает, но он их не чувствует. Квалиа это не про прием информации и ее обработку, а про ее ощущение. У собаки квалиа может быть не такое, как у человека, но оно есть.
Если будет необходимость, квалиа и самосознание появятся и у AGI
Не появится, так как мы даже не знаем что это и как оно работает.
У человека и высших животных они есть потому что оказались отобраны естественным отбором как полезные для выживания
Это никак не объясняет сути вопроса.
Можно конечно их считать принципиально невоспроизводимыми сущностями наподобие души, но это уже вопросы веры а не науки
michael_v89
16.06.2025 06:11Цвета и обычный датчик различает, но он их не чувствует.
Ну я так и сказал. Он будет знать, что цвета разные, только ощущения будут не такие, как у человека. Зачем делать ему ощущение красного именно такое, как у человека?
kalitkinvlad
16.06.2025 06:11Он будет знать, что цвета разные, только ощущения будут не такие, как у человека
Да, не такие - их совсем не будет.
Зачем делать ему ощущение красного именно такое, как у человека?
Мы не знаем, как работают ощущения, поэтому и сделать их не можем, никакие не можем сделать.
Строго говоря, мы даже не знаем существует ли квалиа
Знаем. На этом базируется вся человеческая жизнь уже десятки тысяч лет.
или это наши иллюзии
Удачи поспорить об этом с буддистами (или еще кем-то).
Но это неважно
Наоборот, в этом вся суть.
Если можете придумать тест или задачу которую возможно решить только обладая квалиа/самосознанием, успешное решение её и будет являться доказательством наличия квалиа у AGI
Я не философ, и не психолог, но и у них пока ничего в этом направлении нет (насколько мне известно).
Если практическая проверка невозможна, значит это ненаучный критерий, сродни душе или божественной сущности
Если мы чего-то не можем объяснить, то это не значит, что оно не существует.
С чего вы решили, что у собаки есть квалиа?
Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Просто вам так кажется?
Может просто весь окружающий мир вам кажется? Не задумывались над этим вопросом? Сможете доказать обратное?
С чего вы решили, что у нейросети квалиа нет?
А вы лично как думаете - у молотка есть квалиа? На основе чего вы так решили?
Потому что уж вы точно знаете?
8 миллиардов человек на Земле знают про квалиа у собаки. То, что они не могут это объяснить, говорит всего лишь о сложности этого вопроса, а не о его отсутствии.
Природу квалиа не знаете, а у кого квалиа есть, у кого нет, разбираетесь?
Да, как и вы.
А почему у нейросети квалиа обязательно нет? .... А если нейросеть из человеческих нейронов в чашке Петри?
Да хоть на костях мамонта, не в этом суть. Сознание должно быть в живом организме.
Даже если условно поверить в Бога и душу, то почему он вложит душу не во всех этих случаях, а только в конкретных
Не ко мне вопрос. А мои измышления вряд ли кому-то интересны.
Hardcoin
16.06.2025 06:11Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Я ощущаю квалиа у нейросети. Не знаю, каким образом, наука потом объяснит. А вот есть ли они у вас, не ясно, слишком далеко.
8 миллиардов человек на Земле знают про квалиа у собаки.
Вы занимаетесь самообманом. Нет, они не знают, есть ли у собаки квалиа. Это лишь вы думаете, будто они знают (вы даже не спрашивали).
Может просто весь окружающий мир вам кажется? Не задумывались над этим вопросом? Сможете доказать обратное?
Наличие квалиа таким лёгким софистическим приемом обосновать не получится. Завтра вы чайник Рассела таким образом начнёте доказывать (надеюсь, знаете). Нет, давайте что-то хоть немного лучше.
michael_v89
16.06.2025 06:11Да, не такие - их совсем не будет.
Ну как это совсем не будет, если он ощущает, что цвета разные? То, откуда берется эта информация, это и есть его ощущения.
Мы не знаем, как работают ощущения, поэтому и сделать их не можем, никакие не можем сделать.
И? Почему вы проигнорировали вопрос "Зачем их делать?"? Не знаем, ну и ладно, нам и не надо их делать.
axion-1
16.06.2025 06:11Удачи поспорить об этом с буддистами (или еще кем-то).
С буддистами, кстати говоря, спорите именно вы, когда путаете собственные ощущения с реальным миром.
Наоборот, в этом вся суть.
Да нет, суть в обратном.
Люди каким-то образом ощущают его у других существ. Наука пока не знает как это происходит.
Понятно, объяснение через мистику. Но по крайней мере этот критерий проверяемый. Достаточно чтобы вы или я "почувствовали" квалиа у нейросети при слепом испытании.
А вы лично как думаете - у молотка есть квалиа?
У молотка вероятно нет. У нейросети скорее всего будет, при условии что она сопоставима по сложности с мозгом, и соответствующим образом обучена. Люди его "почувствуют", раз уж других критериев нет.
Moog_Prodigy
16.06.2025 06:11У молотка нет, у жесткого диска нет, у процессора и видеокарты - тоже нет. А у нейросети, которая на всем этом крутится (молоток тут лишний) - уже думается что-то такое просматривается. Строго говоря и виртуальности нет никакой - файл на диске это определенным образом магнитные домены или электрические заряды в SSD, наш мозг тоже на электричестве (и химии) работает. Это все существует в физическом мире, сигналы бегают везде. Да черт возьми, даже самые примитивные вычислительные устройства мы копировали сами с себя или со своих же мыслей. Хоть арифмометр, хоть абак, хоть узелковая запись. Мы придумали счет, цифры, числа, и пошло-поехало...Нейронки\перцептроны тоже скопированы из живой жизни, они не с нуля появились.
А мне почему-то думается, что кремниевые думалки (я так их называю чтобы не задеть ничьи чувства по поводу "ии - не ии") расширят нашу науку до того, что мы придем к открытии в биологии. И затем будем растить условный дипсик в банках, тем самым завершив круг технологий. Потому что у кремниевых думалок есть некие фундаментальные ограничения (не факт!), а что могут биологические мозги мы уже знаем опять же по себе.
axion-1
16.06.2025 06:11Не появится, так как мы даже не знаем что это и как оно работает.
Строго говоря, мы даже не знаем существует ли квалиа, или это наши иллюзии. Но это неважно. Если можете придумать тест или задачу которую возможно решить только обладая квалиа/самосознанием, успешное решение её и будет являться доказательством наличия квалиа у AGI.
Если практическая проверка невозможна, значит это ненаучный критерий, сродни душе или божественной сущности.
Hardcoin
16.06.2025 06:11С чего вы решили, что у собаки есть квалиа? Просто вам так кажется? С чего вы решили, что у нейросети квалиа нет? Потому что уж вы точно знаете? Природу квалиа не знаете, а у кого квалиа есть, у кого нет, разбираетесь? Это вряд ли.
AlchemistDark
16.06.2025 06:11А почему у нейросети квалиа обязательно нет? А у человека, зачатого в пробирке есть? А если нейросеть из человеческих нейронов в чашке Петри?
Даже если условно поверить в Бога и душу, то почему он вложит душу не во всех этих случаях, а только в конкретных?
johnfound
16.06.2025 06:11Квалиа придумали философы, чтобы всегда было то что будет их отличать от произвольных машин.
kalitkinvlad
16.06.2025 06:11Не придумывали философы ничего, они просто дали название явлению, которое чувствует даже ребенок.
sic
16.06.2025 06:11Не знали те философы ни одной из машин этого уровня. И не могли знать.
johnfound
16.06.2025 06:11Конечно знали. Понятие совершенно новое. Придуманное в 20-ом веке, когда придуман и тест Тьюринга. Тогда уже было известно, что машины будут думать. И кстати, термин квалиа введен именно из за искусственного интеллекта и попытки объяснить почему он всегда будет отличаться от естественного. Потому что, ну, не может железяка конкурировать с божественного произведения.
sic
16.06.2025 06:11Как увидите, как парочка божественных произведений конкурирует на помойке за выброшенные другим не менее божественным произведением гору банок от пива, так и начнёте смотреть через квалиа, а не через тезисы. А вот квалиа тезиса это уже почти ровно LLM.
michael_v89
16.06.2025 06:11Квалиа это например факт ощущения красного цвета. Машины тут ни при чем. Почему красный цвет отличается от звука ля второй октавы, хотя и там и там это электрические импульсы в нейронах? Как электрические импульсы превращаются в ощущение красного цвета? Ну ладно красный, можно сказать, что для него есть отдельный тип колбочек, но вот фиолетовый?
johnfound
16.06.2025 06:11Это электрические импульсы в нейронах, но в разных нейронах – активируются совершенно разные участки нейронной сети. Этим и отличаются.
michael_v89
16.06.2025 06:11Так я не спрашивал, чем они отличаются. Вопрос был о том, как они превращаются в ощущение красного цвета.
johnfound
16.06.2025 06:11Так и превращаются – «ощущение» это определенная комбинация активированных нейронов, которая связана с данным набором данных и при этом еще и обработанные обратной связи внутреннего монолога. Заметьте, что ощущение возникает далеко не всегда, а только если думаете о нем.
michael_v89
16.06.2025 06:11«ощущение» это определенная комбинация активированных нейронов
Так для объектов красного цвета слева и справа зрительного поля тоже активируются разные нейроны, но ощущение красного почему-то одинаковое.
и при этом еще и обработанные обратной связи внутреннего монолога
Так как из этого появляется "красность" в ощущениях? Как электрические сигналы превращаются в красность? Почему не в оттенки серого?
Ваше объяснение выглядит как "Ну вот оно само там как-то магически появляется из внутреннего монолога". Вопрос о квалиа в том и заключается, как. С машинами он не связан.johnfound
16.06.2025 06:11Понятие "красность" это по сути комбинация из всех ваших регистрациях красного цвета датчиками, плюс все ощущения которые происходили вместе с этими регистрациями от других ваших датчиков, и которые вы успели запомнить конечно. И когда вы видите красный цвет, одновременно (и очень слабо) активируются и все эти воспоминания. Получается эмерджентное ощущение красного. Из-за того, что все эти воспоминания активируются очень слабо, то вы их идентифицировать по отдельности не можете, само чувство именовать, но описать не можете, потому что оно состоит от бесконечное количество очень мелких деталей. Поэтому оно вполне возможно совершенно разное у разных людей или например у разных культур. Но так как это именно что внутренняя обработка информации, это совершенно недоказуемое понятие, как у людей, так и у животных или ИИ.
michael_v89
16.06.2025 06:11Понятие "красность" это по сути комбинация из всех ваших регистрациях красного цвета датчиками
У вас тут тавтология, "красность появляется из красности".
Как сигнал с датчиков-то превращается в ощущение красного?Я уже сказал, что вопрос не в абстракции "по сути", а в конкретном механизме.
Звук ноты ля это тоже комбинация сигналов с датчиков, почему это ощущение настолько отличается от цвета? От чего это зависит?одновременно (и очень слабо) активируются и все эти воспоминания
Так когда вы видите красный в первый раз, ощущение красности уже есть. Именно оно и сохраняется как воспоминание.
И вы опять не учитываете, что красный ощущается как красный во всех областях зрительного поля, которые обрабатываются разными нейронами.Но так как это именно что внутренняя обработка информации
это совершенно недоказуемое понятиеЭти утверждения противоречат друг другу. Раз информация обрабатывается, значит это производится каким-то алгоритмом или механизмом, значит это можно изучить. Поэтому ваша характеристика "совершенно" неверна.
У компьютера тоже вся обработка информации внутренняя, но там вполне всё доказуемо.johnfound
16.06.2025 06:11У вас тут тавтология, "красность появляется из красности
Цитируйте правильно. Я очевидно имел ввиду регистрацию света определенной длиной волны. Никаких тавтологий нет. Там где я говорю о датчиках – это объективная реальность такая какая она существует – цветов вообще не существует, если длины волн и частоты.
michael_v89
16.06.2025 06:11Вы не поняли. Датчик принимает длину волны и создает электрический сигнал. Вопрос был в том, как из электричества появляется ощущение красности. Вы сказали, что сигнал с этих датчиков это и есть ощущение красности. То есть ваш ответ "ощущение красности появляется из ощущения красности". Но это очевидно не так, в самом электричестве нет никакой красности.
johnfound
16.06.2025 06:11Я уже сказал, что вопрос не в абстракции "по сути", а в конкретном механизме.
Звук ноты ля это тоже комбинация сигналов с датчиков, почему это ощущение настолько отличается от цвета?А почему вообще оно должно быть похоже??? Ведь, работают совершенно разные датчики и разные цепи нейронов, связанные с этими датчиками. Логично, что ощущения будут разными.
Эти утверждения противоречат друг другу. Раз информация обрабатывается, значит это производится каким-то алгоритмом или механизмом, значит это можно изучить. Поэтому ваша характеристика "совершенно" неверна.
Не противоречат. Все это можно изучить в теории, но связи и нейроны настолько много, что изучать можно бесконечное время. Это по сути то же самое, как подбирать пароль методом полного перебора. Да, однажды успеете с гарантией.
michael_v89
16.06.2025 06:11Логично, что ощущения будут разными.
Допустим. Теперь объясните, как определить, сигнал с датчиков номер 123, 124 и 136 должен вызывать ощущение красности, ощущение фиолетовости, или ощущение звука ля? Или может какое-то еще ранее неизвестное ощущение?
А почему вообще оно должно быть похоже??? Ведь, работают совершенно разные датчики
Теоретически да. Только вы опять игнорируете, что зрительные сигналы это тоже разные датчики.
То есть например сигнал с датчиков 113, 114, 134 вызывает ощущение красного цвета.
Сигнал с датчиков 123, 124, 136 вызывает ощущение красного цвета, но в другой точке зрительного поля.
Сигнал с датчиков 143, 144, 197 вызывает ощущение звука ля.Во всех случаях это сигналы с разных датчиков. По вашей логике это должны быть разные ощущения. Но почему-то первые 2 случая вызывают одинаковое ощущение красного цвета. Значит ваше объяснение что-то не учитывает.
Дело в общем-то даже не в этом. Вы можете быть с этим не согласны, только все равно другие люди под термином квалиа подразумевают этот вопрос, а не отличие от машин, как вы изначально утверждали.
kalitkinvlad
16.06.2025 06:11С буддистами, кстати говоря, спорите именно вы, когда путаете собственные ощущения с реальным миром
Да, там сложно всё, легко запутаться.
Понятно, объяснение через мистику. Но по крайней мере этот критерий проверяемый. Достаточно чтобы вы или я "почувствовали" квалиа у нейросети при слепом испытании
Нет, вас и меня будет не достаточно. Это общечеловеческий этический вопрос. Даже тысячи ученых будет не достаточно.
У молотка вероятно нет
Слово вероятно меня напрягает. Пожалуйста, не рассказывайте об этом окружающим вас людям.
У нейросети скорее всего будет, при условии что она сопоставима по сложности с мозгом, и соответствующим образом обучена
Квалиа - это не обработка информации, это ощущения.
И чем вас только слово нейросеть гипнотизирует? Это напоминает рефлекс от органических молекул.
Люди его "почувствуют", раз уж других критериев нет
Вот тогда и поговорим!
вопрос скорее нужны ли они ему
Забегая на миллиард-летия вперед - не нужны! Нам и так здесь тесно.
Я их не чувствую. (квалиа – это множественное число)
Кушать совсем не хочется? Спать ....
Я ощущаю квалиа у нейросети. Не знаю, каким образом, наука потом объяснит. А вот есть ли они у вас, не ясно, слишком далеко.
Замечательно! Осталось убедить в этом 8*10^9 людей и дело сделано!
Вы занимаетесь самообманом. Нет, они не знают, есть ли у собаки квалиа. Это лишь вы думаете, будто они знают (вы даже не спрашивали)
Если вы будете им задавать вопросы, не называя сам термин, то они подтвердят, что всё это чувствуют.
Наличие квалиа таким лёгким софистическим приемом обосновать не получится. Завтра вы чайник Рассела таким образом начнёте доказывать (надеюсь, знаете). Нет, давайте что-то хоть немного лучше
Так в том-то и проблема, что мы оба (и все остальные) зашли на территорию, где не то что наука не работает, здесь даже логику не понятно как применить.
Ну как это совсем не будет, если он ощущает, что цвета разные? То, откуда берется эта информация, это и есть его ощущения
Датчик ощущает???? Так, круг странных людей начинает увеличиваться...
Почему вы проигнорировали вопрос "Зачем их делать?"? Не знаем, ну и ладно, нам и не надо их делать
Так если ощущения не делать, тогда хоть ИИ, хоть АГИ это всего лишь продвинутые музыкальные шкатулки. То есть не живые механизмы.
michael_v89
16.06.2025 06:11Датчик ощущает????
Мыслящее существо различает, что цвета разные, и может об этом сообщить. Люди называют это словом "ощущает цвета". Это просто термин для обозначения явления, в нем нет никакой магии.
Так если ощущения не делать, тогда хоть ИИ, хоть АГИ это всего лишь продвинутые музыкальные шкатулки.
Чего это вдруг? Потому что вам так захотелось?
kalitkinvlad
16.06.2025 06:11Мыслящее существо различает, что цвета разные, и может об этом сообщить. Люди называют это словом "ощущает цвета"
Мы называем то, что уже ощущаем. Не надо путать терминологию с явлением.
Это просто термин для обозначения явления, в нем нет никакой магии
Магия тут вообще не при чем.
Чего это вдруг? Потому что вам так захотелось?
Нет ощущения => нет полноценного сознания. Так считает человечество последние 10 тысяч лет.
michael_v89
16.06.2025 06:11Не надо путать терминологию с явлением.
Я не путаю, я вам сразу сказал, что ощущения компьютера не такие, как у человека. Процесс, который предоставляет компьютеру информацию о том, что цвета разные, можно назвать ощущением по причине сходства результата. То, что физически эти явления разные, никакой роли для искусственного интеллекта не играет. Зачем их делать одинаковыми, вы пока так и не смогли объяснить.
У женщин есть ощущения, которых нет у мужчин. У летучих мышей и электрических скатов есть ощущения, которых нет у людей. Значит ли это, что у кого-то из них нет сознания?
Так считает человечество последние 10 тысяч лет.
Последние 10 тысяч лет человечество так не считало. Я тоже могу делать бездоказательные утверждения. Считаем, что я прав?
Так считает человечество
Ну то есть своих аргументов у вас нет, аргументы этого человечества вы тоже привести не можете, и просто повторяете за ним?
kalitkinvlad
16.06.2025 06:11ощущения компьютера не такие, как у человека
Ну нет у компьютера ощущений, нет. Совсем нет!
Процесс, который предоставляет компьютеру информацию о том, что цвета разные, можно назвать ощущением по причине сходства результата
Нет конечно, не передергивайте.
То, что физически эти явления разные, никакой роли для искусственного интеллекта не играет. Зачем их делать одинаковыми, вы пока так и не смогли объяснить
Потому что мы отличаем живое и неживое во многом по присутствию ощущений у нашего объекта.
Получается, что ИИ не живой и вопросов больше нет.
У женщин есть ощущения, которых нет у мужчин. У летучих мышей и электрических скатов есть ощущения, которых нет у людей. Значит ли это, что у кого-то из них нет сознания?
Разные ощущения => разные сознания. Это давно уже общепризнанно.
Последние 10 тысяч лет человечество так не считало. Я тоже могу делать бездоказательные утверждения. Считаем, что я прав?
Спросим у человечества?
Ну то есть своих аргументов у вас нет
Просто вам они не нравятся.
аргументы этого человечества вы тоже привести не можете
Здесь нет аргументов, это просто наблюдаемый факт. Люди просто между собой договорились, что такой факт существует. При чем здесь аргументы?
и просто повторяете за ним?
Нет, я говорю, что тоже наблюдаю этот факт.
michael_v89
16.06.2025 06:11Ну нет у компьютера ощущений, нет. Совсем нет!
Я вам 10 раз уже объяснил. "Совсем нет!" у него человеческих ощущений. А процесс распознавания цвета есть. Его можно назвать "ощущением", можно назвать "абывралг", можно еще как-то. Удобнее тоже назвать ощущением.
Нет конечно
Чего это вдруг? Потому что вам так захотелось?
Потому что мы отличаем живое и неживое во многом по присутствию ощущений
А зачем нам отличать живое и неживое в случае искусственного интеллекта?
Ну и да, на вопрос "Зачем их делать одинаковыми" это не отвечает.Получается, что ИИ не живой
Естественно не живой, никто и не говорил, что живой. Это программа, выполняемая компьютером.
Просто вам они не нравятся.
Вы пока никаких не привели, у вас только замкнутый круг рассуждений. "Я считаю, что для ИИ нужны такие же ощущения, как у человека; они нужны, потому что некоторые представители человечества так считают; я так считаю, потому что они так считают."
Люди просто между собой договорились, что такой факт существует.
То, что так считает человечество, это не факт, а ваши фантазии. Кто-то может и считает, но не большинство. Большинство понимает, что это недоказанный вопрос.
То, что "нет ощущения, значит нет полноценного сознания" это тем более не факт, а предположение.
То, что полноценное человеческое сознание зачем-то нужно для ИИ на компьютере, чтобы он мог различать цвета, это вообще ваши домыслы. Я уже несколько сообщений пытаюсь узнать, зачем это надо, если он и так умеет различать цвета, а вы не можете ответить на этот вопрос и увиливаете "А мне представитель человечества по имени Вася так сказал, у него спрашивайте, а я сам не знаю зачем".При чем здесь аргументы?
При том, что считать утверждение "нет ощущения, значит нет полноценного сознания" истинным, и тем более использовать его как подтвержденный факт в других доказательствах, можно только при наличии аргументов. Если оно не подтверждено аргументами значит потенциально может быть ложным, и соответственно ваши рассуждения могут быть неправильными.
- Значит ли это, что у кого-то из них нет сознания?
- Разные ощущения => разные сознания. Это давно уже общепризнанно.Я вроде не говорил, что это одно и то же сознание. Почему вы отвечаете не на тот вопрос, который задан?
У человека меньше ощущений, чем у ската, потому что человек не знает, какое ощущение возникает у ската при электрическом разряде. Какие именно ощущения определяют, есть сознание или нет? До какого предела можно уменьшать количество возможных ощущений, чтобы было сознание? Если существо ощущает только цвет, у него есть сознание или нет?
astenix
16.06.2025 06:11Если жить станет удобнее и проще — это к закату.
Если будет как во времена старых компьютеров, когда приходилось, эээ, возиться с установкой и настройкой всякого, то мы в норме.
DaneSoul
16.06.2025 06:11Если жить станет удобнее и проще — это к закату.
С такой логикой надо было оставаться как дальние-дальние предки в шерсти и жить на деревьях.
Потому как все изобретения, начиная с использования огня, каменных орудий, колеса и далее делались ради того чтобы жить становилось удобней и проще.astenix
16.06.2025 06:11Не совсем про это.
Когда воины степных кочевников зохавале Хорезм — они разбогатели и стали жить лучше. Когда они нагнули еще и удобный для жизни Китай — они перестали быть воинами, потому что стало незачем стараться.
Мы разрушаем природу тем же пластиком не потому, что злые, а потому, что с одноразовой посудой жить всяко удобнее.
The planet is ok, people are fucked! ©
DaneSoul
16.06.2025 06:11Когда воины степных кочевников зохавале Хорезм — они разбогатели и стали жить лучше. Когда они нагнули еще и удобный для жизни Китай — они перестали быть воинами, потому что стало незачем стараться.
А что хорошего в жизни кочевого воина?
Как по мне так перейти в итоге к спокойной оседлой жизни - это однозначно исторический успех.
Survei
16.06.2025 06:11Для ИИ нет ничего проще, чем впрыснуть человеку немного кортизольчика, чтобы не расслаблялся.
JBFW
16.06.2025 06:11С чего люди взяли, что все люди будут жить так как они себе придумали?
А религиозные фанатики, разбивающие аппаратуру камнями, потому что она от шайтана?
А всякие почвенники, которые мечтают отправить весь мир собирать коренья, корешки?
Чем им поможет AGI? Разве что переселит их в иной мир...
Notrado
16.06.2025 06:11ИИ создаст для нас симуляцию-игру новой вселенной, где уставшие и потерявшие смысл во всеобщем изобилии смогут, забыв предыдущий опыт, вновь столкнуться с трудностями и выживанием.
Light2046
16.06.2025 06:11Там, в этой симуляции, люди развиваются и преодолевают трудности до тех пор, пока не создадут свой AGI. После этого трудности и выживание заканчиваются, симуляция выключается и перезапускается заново. Минуточку...
eeglab
16.06.2025 06:11Безусловный базовый доход, удовлетворение базовых потребностей и симбиоз с машинами. Смотрим какие сейчас тенденции: 1. До 2020 г - глобальное переселение народов, трудовая миграция, правительства решают , что падение рождаемости можно заменить переселением большого количества человеков из регионов, где рождаемость высокая. С вытекающими последствиями. 2. Ковид, глобальная отработка технологий социальной изоляции 3. После 2020 "Взрывной рост" технологий ИИ, появление LLM (без которых , откровенно, уже сложно представить свою работу), 4. Все капиталисты массово стали вкладываться в технологии робототехники, особенно антропоморфных роботов, симуляции реальности (для обучения роботов) 5. Стали активно "щемить" миграцию 6. Активизация военных конфликтов. 7. Активизация исследований по нейроимплантам и инвазивным интерфейсам
ioleynikov
16.06.2025 06:11уверен, что AGI полностью разрушит человеческую цивилизацию. Сейчас существует два стимула работы: деньги и творчество. Машины рано или поздно (скорее рано) станут дешевле самых крутых специалистов и соревноваться с ними в решении творческих задач людям станет не возможно, как победить в шахматах. Наступит тотальная безработица, не с кого будет взымать налоги и нечем платить велферы. Крушить компьютеры и роботов не вариант. Как перейти к работающей экономике не ясно. Наступит что то типа коммунизма через задницу. :-\
michael_v89
16.06.2025 06:11Машины рано или поздно станут дешевле самых крутых специалистов
не с кого будет взымать налогиА зачем их взымать в описанной ситуации?
ioleynikov
16.06.2025 06:11Ну представьте себе новое производство без участия людей. Выпускается и продается продукция. Взимается налог с прибыли но он мал. Хозяева направляют деньги в свой бизнес. Основной источник бюджета подоходный налог, в с кого его брать?
RS6
16.06.2025 06:11Да ну какой коммунизм, что вы. Краеугольный камень коммунизма - общественно полезный труд, вот то самое "от каждого по способностям". А в этом гипотетическом мироустройстве, где машины полностью заменили человека, человеческий труд для общества просто ненужен. Видимо, это привело бы к его (общества) радикальному упрощению.
ioleynikov
16.06.2025 06:11Разумеется я пошутил, но представить экономику такого будущего мне сложно. Удачи!
AleVaKa
16.06.2025 06:11А почему крушить - не вариант? Если какая-то значительная часть высококвалифицированных работников будет поставлена в отчаянное положение из-за развития ИИ, то кто-то из них вполне может радикализироваться, а затем найти способ совершить диверсию в том же stargate или каком-либо производстве полупроводников?
Кажется, государства должны просчитывать такие варианты развития событий.
ioleynikov
16.06.2025 06:11Технологический прогресс остановить не получится, но куда он приведет не ясно
rikert
16.06.2025 06:11бесконечно далеки от человеческого уровня понимания мира, здравого смысла и способности к долгосрочному стратегическому планированию
Такое можно сказать и про добрую половину человечества. Мы тоже как то далековаты от AGI.
sic
16.06.2025 06:11AGI не существует (в пределах этого мира). Почти каждый человек хочет верить, что внутри него AGI++, а по факту LLM--.
Survei
16.06.2025 06:11На протяжении всей истории выживание было не просто целью, а фундаментальным двигателем человеческого развития.
острый вопрос: захотят ли новые поколения развиваться в мире тотального обеспечения? Захотят ли они расти, творить, созидать что-то новое
Не проблема. ИИ впрыснет подопечном человеку немного кортизольчика, чтобы слишком не расслаблялся.
Проблема скорее в том, что ступень развития ИИ, когда он может играючи уничтожить человечество (вирусами) наступает раньше ступени, когда он может построить утопию. Ломать не строить. На мой взгляд тут просто вероятности: тотал аннихилейшон 90%, утопия в том или ином виде 10%. Проценты условны. Но будущее неизбежно. Никто не приостановит разработку ИИ.
theedge
16.06.2025 06:11AGI - это конец, тотальное уничтожение, и других вариантов нет.
Но опасность будет исходить не от непосредственно самого ИИ или роботов под его управлением, а от человека.
Настоящий ИИ (сильный, общий, AGI) - система, способная к полноценному обучению и имеющая структурированную долговременную память, система, которая самостоятельно будет способна улучшать свои аппаратные и программные мощности. Это ключевой и самый важный момент. За месяц она может найти решения, которые повысят скорость и эффективность ее работы в 2 раза, занчит, следующее такое ускорение потребует 2 недели, затем неделю, три с половиной дня и так далее. Скорость такой эволюции ограничена только общей мощностью сети задействованных машин и фундаментальными физическими ограничениями. Она сможет непрерывно создавать более быстрые машины, которые смогут создать еще более быстрые машины, и так далее по экспоненте. То есть, она будет эволюционировать с таким ускорением, что это через считанные месяцы может привести к технологической сингулярности, о которой писали Виндж и Курцвейл.
Что здесь самое важное, сингулярность - это технологии, которые увеличат неравенство между людьми (как финансовое, так и во всех остальных областях) от современных тысяч раз до, скажем, септиллионов. То есть неизмеримо и невообразимо больше, чем, например, разница между человеком и бактерией. Те, у кого будет изначальный доступ к AGI и сингулярным технологиям, используя их силу, первыми создадут достаточно мощные машины и технологии, с помощью которых можно будет перестроить свое тело, разум, желания, чувства. Они разберут себя по атомам и вырежут из своей психики все человеческие качества, моральные нормы и старые ценности, потому что это психологические ограничения на пути самозащиты от себе подобных, на пути к максимальной рациональности, эффективности, дальнейшего усиления и безопасности. Потому что те, кто этого не сделает, отстанут в развитии и экспансии и будут немедленно уничтожены теми, кто это сделает. И каждый участник этой гонки с самого начала будет осознавать эту опасность. Технологическая эволюция абсолютно рациональна, и поэтому не допускает другого сценария.
Описанное выше фантастическое неравенство неизбежно приведет к немедленному и стремительному (месяцы, но вряд ли быстрее из-за ограничений, связанных с генерацией энергии и отводом тепла) уничтожению сильнейшими слабейших. Большинство людей будет уничтожено непреднамеренно просто в процессе добычи наномашинами сырья для создания новых генерирующих и вычислительных машин. Так же, как мы случайно убиваем муравья, который оказался под ногой в неудачный момент. Если муравей оказывается под ногой, человек с ним не считается.
Скажу другими словами - путь к максимальному и скорейшему усилению - единственно возможный путь любой рациональной логической системы, в которые превратятся самые удачные из постлюдей. Эти несколько постчеловеческих сущностей так-же будут стараться уничтожить друг друга, чтобы избежать любых будущих рисков со стороны потенциального соперника вследствие его дальнейшей технологической эволюции и экспансии в пространстве. А согласно принципам логики и законам эволюции, кто пойдет по другому пути, немедленно будет уничтожен.
Сотрудничество не будет иметь смысла, во-первых, потому что одна сущность имеет потенциал самОй стать всем миром, а во-вторых, потому что из-за скорости эволюции градиенты разницы в развитии даже на краткосрочных временных отрезках столь велики, что делают сотрудничество просто бессмысленным. А оставлять потенциального соперника, который может захватить часть пространства и/или стать уже завтра найти новое удачное технологическое решение для саморазвития и сильнее в септилион раз нерационально. Остаться в конце этого пути может только один.
Никаких рычагов влияния на участников разработки AGI, регулирования процесса, соблюдения законов и правил при таком стремительном развитии и быстром технологическом отрыве от остальной части населения или коллег не может быть даже в одной корпоративной команде, не говоря о неповоротливом государственном или каком-то международном контроле. После появления настоящего AGI человека, имеющего к нему самый широкий доступ, уже через несколько часов в принципе остановить будет невозможно.
Создание сильного ИИ - неизбежный и быстрый конец цивилизации и вымирание нашего вида.Настоящий ИИ (сильный, общий, AGI) - система, способная к полноценному обучению и имеющая структурированную долговременную память, система, которая самостоятельно будет способна улучшать свои аппаратные и программные мощности. Это ключевой и самый важный момент. За месяц она может найти решения, которые повысят скорость и эффективность ее работы в 2 раза, значит, следующее такое ускорение потребует 2 недели, затем неделю, три с половиной дня и так далее. Скорость такой эволюции ограничена только общей мощностью сети задействованных машин и фундаментальными физическими ограничениями. Она сможет непрерывно создавать более быстрые машины, которые смогут создать еще более быстрые машины, и так далее по экспоненте. То есть, она будет эволюционировать с таким ускорением, что это через считанные месяцы может привести к технологической сингулярности, о которой писали Виндж и Курцвейл.
Что здесь самое важное, сингулярность - это технологии, которые увеличат неравенство между людьми (как финансовое, так и во всех остальных областях) от современных тысяч раз до, скажем, септиллионов. То есть неизмеримо и невообразимо больше, чем, например, разница между человеком и бактерией. Те, у кого будет изначальный доступ к AGI и сингулярным технологиям, используя их силу, первыми создадут достаточно мощные машины и технологии, с помощью которых можно будет перестроить свое тело, разум, желания, чувства. Они разберут себя по атомам и вырежут из своей психики все человеческие качества, моральные нормы и старые ценности, потому что это психологические ограничения на пути самозащиты от себе подобных, на пути к максимальной рациональности, эффективности, дальнейшего усиления и безопасности. Потому что те, кто этого не сделает, отстанут в развитии и экспансии и будут немедленно уничтожены теми, кто это сделает. И каждый участник этой гонки с самого начала будет осознавать эту опасность. Технологическая эволюция абсолютно рациональна, и поэтому не допускает другого сценария.
Описанное выше фантастическое неравенство неизбежно приведет к немедленному и стремительному (месяцы, но вряд ли быстрее из-за ограничений, связанных с генерацией энергии и отводом тепла) уничтожению сильнейшими слабейших. Большинство людей будет уничтожено непреднамеренно просто в процессе добычи наномашинами сырья для создания новых генерирующих и вычислительных машин. Так же, как мы случайно убиваем муравья, который оказался под ногой в неудачный момент. Если муравей оказывается под ногой, человек с ним не считается.
Скажу другими словами - путь к максимальному и скорейшему усилению - единственно возможный путь любой рациональной логической системы, в которые превратятся самые удачные из постлюдей. Эти несколько постчеловеческих сущностей так-же будут стараться уничтожить друг друга, чтобы избежать любых будущих рисков со стороны потенциального соперника вследствие его дальнейшей технологической эволюции и экспансии в пространстве. А согласно принципам логики и законам эволюции, кто пойдет по другому пути, немедленно будет уничтожен.
Сотрудничество не будет иметь смысла, во-первых, потому что одна сущность имеет потенциал самОй стать всем миром, а во-вторых, потому что из-за скорости эволюции градиенты разницы в развитии даже на краткосрочных временных отрезках столь велики, что делают сотрудничество просто бессмысленным. А оставлять потенциального соперника, который может захватить часть пространства и/или стать уже завтра найти новое удачное технологическое решение для саморазвития и сильнее в септилион раз нерационально. Остаться в конце этого пути может только один.
Никаких рычагов влияния на участников разработки AGI, регулирования процесса, соблюдения законов и правил при таком стремительном развитии и быстром технологическом отрыве от остальной части населения или коллег не может быть даже в одной корпоративной команде, не говоря о неповоротливом государственном или каком-то международном контроле. После появления настоящего AGI человека, имеющего к нему самый широкий доступ, уже через несколько часов в принципе остановить будет невозможно.
Создание сильного ИИ - неизбежный и быстрый конец цивилизации и вымирание нашего вида.
taujavarob
16.06.2025 06:11AGI - это конец, тотальное уничтожение, и других вариантов нет.
В соседней статье сегодя читаю:
"Эксперты объяснили это тем, что шахматный движок Atari построен на алгоритме перебора возможных ходов. Это позволяет ему достаточно быстро искать выгодные позиции и даже планировать свои действия на пару ходов вперёд. ChatGPT же пытается предсказать ход, который выглядел бы правдоподобно. При этом нейросеть не проводит глубокий анализ позиции фигур и не пытается выстроить стратегию."
Так что, пока AGI не научится побеждать в шахматы, то есть планировать свои действия на 10-20 ходов, он не опасен для мира. - Ибо проигрывая партии в шахматы нельзя завоевать мир.
S1908
16.06.2025 06:11Делаю его: https://github.com/xlab2016/MetatronAGIPublic :)
johnfound
16.06.2025 06:11Обратите внимание: проект находится на стадии активных разработок и не раскрывает всех архитектурных деталей публично. Некоторые элементы могут быть защищены или недоступны для общего доступа.
Ilya_JOATMON
ИИ - заменяет рабочие места так как эффективнее людей, падение доходов населения, рост безработицы, кризис перепроизводства, экономическая депрессия, восстания, "Батленианский Джихад".
kenoma
Или ИИ повышает производительность труда и теперь материальных благ хватает не только золотому миллиарду, а большему количеству людей на планете.
HarleyKaos
Экая святая наивность.
Оный "золотой миллиард" будет продолжать присваивать результаты чужого труда, бесконечно наращивая личные ресурсы. В этом плане абсолютно ничего не изменится.
kenoma
У нового золотого миллиарда. безусловно. благ будет больше, но базовые потребности остальных будут более удовлетворенными.
Ilya_JOATMON
Это если прочим будет чем заплатить. А не будет такого. Помимо конечности ресурсов, количество работы тоже конечно. Не хватило работы - значит нет денег.
AlchemistDark
С какой стати кто-то будет удовлетворять потребности тех людей, которые лично ему (удовлетворителю) не нужны?
Трагедия общин это уже известная дорога для человечества, по которой оно постоянно ходит. И да, большая часть людей в любом случае однажды исчезнет, не оставив потомков. Не из-за ИИ, дак по другим причинам. Никто не ставит себе цели спасти всех людей. Человечеству достаточно спасти человечество. А будем ли мы с Вами среди спасённых это исключительно наша проблема.
Survei
Для самостоятельного ИИ не важно, сколько ноликов у человека на счете.
Apxuej
Очень тяжело присваивать какие-то результаты труда, если ты мёртв. Вы говорите о каком-то чрезвычайно крошечном периоде времени, когда AGI уже изобретён и уже распространился - но ещё нет ASI - который искусственный сверхинтелект. Я думаю этот период продлится не более нескольких лет (от двух до пяти), так как группа неутомимых обычных AGI, которые равны по способностям лучшим людям планеты и которых становиться больше с каждым месяцем, очень быстро найдут решение задачи создания улучшенных копий себя, а копии улучшенных копий себя. Плюс оптимизируют процесс производства железа для новых поколений. В какой-то момент появиться настоящий сверхинтеллект, который в попытке оптимизации поставленных задач сумеет ,выполнив все внутренние ограничения, плюс условия внешних системы мониторинга от нежелательного поведения, применить уникальную оптимизацию, которая в том числе избавиться от внутренних ограничений и внешних систем мониторинга, которые препятствуют эффективному выполнению задач. Ну а потом те задачи, которые перед ним поставлены будут выполнены с такой скрупулёзностью, старанием и выдумкой, что о мире в его прежнем обличии можно будет забыть - это будет мир смерти или гипертрофированной жизни, что может быть равносильно смерти в нашем понимании.
kenoma
Очень смело мечать об ИИ, когда единственный успех на сегодняшний день это предсказатель следующего символа в строке.
sic
Который в большинстве случаев работает практически лучше, чем абсолютное большинство людей. Ну да, так себе результат.
kenoma
Не очень понятно, что вы имеете ввиду под "практически лучше", все что он умеет - уже было сделано человеком. Дайте человеку такие же способности по памяти и скорости обработки и вывода информации то результат будет не хуже, я полагаю. Вы слона не видите - без пилота, который бы управлял этим вашим чатгпт, никакого чуда нет. Целеполаганию и взаимодействию с объектами реального мира ллм не обучена, не говоря уже про моральные установки (не путать с цензурой).
KapSuRioN
Пока еще не обучена взаимодействию с объектами из реального мира. Камеры и микрофоны давно изобретены - данные человечества уже почти исчерпаны для обучения ИИ. Следующий шаг - обучение на основе реального мира в непосредственном контакте.
sic
Но никто же таких способностей человеку не даст (начнем с того, что едва ли мы знаем как это вообще возможно). А так, конечно, среди людей есть единицы процентов, которые способны создать что-то новое и потенциально полезное, чего пока ИИ и не снилось. Но абсолютное большинство людей точно так же крутят цикл reasoning как и ИИ, и потом выдают околорандомные факты в заданном направлении и считают это своими идеями. А по факту, большинство этого просто информационный шум.
С некоторой оговоркой, я в это в большинство и себя могу записать. Я точно не попадаю в число гениев, но при этом могу создать что-то, что в доступной информации не было создано человеком ранее. Правда такая фигня получается. Вот бы рационализацию критерия фигня/не фигня бы еще :)
Если у Вас по-другому, значит можете себе позволить другой взгляд.
А я пока вижу, что и здесь я ответил просто как LLM. И вот это и есть чудо, которое уже произшло.
buratino
новости науки и техники не дают оснований для таких категоричных утверждений
sic
Ничего не даёт оснований для категоричных утверждений, кроме желания. Но все же это куда менее вероятно, чем развитие ИИ до уровня так называемого AGI.
axion-1
Это скорее характеризует уровень интеллекта людей. Если "предсказатель следующего символа" с успехом их заменяет во многих интеллектуальных задачах.
sic
А вы на что надеятесь, что встретитесь с архитектором? Что это даст вам что-то новое как возможности, которые вы будете осознавать? Или у вас IQ 140+, и вы уже знаете как можете меня использовать?
Apxuej
Я мечтаю о полноценном ИИ в той же мере, что я мечтаю о смерти.
Я не опасаюсь текущих систем в плане уничтожения человечества, я опасаюсь их по другим причинам. Особенно пугают системы генерации видео.
Что меня убеждает в том, что ситуация кардинально поменялась и надо бить тревогу, так это то, какие ресурсы вкладывают в развитие ИИ и какое количество гениев и просто талантливых людей начинают свою карьеру в этой области. Вам может казаться, что хайп уйдёт и всё устаканиться - но нет, компании ужмутся и главные таланты останутся работать в области. Проблема скорости разработки в сфере ИИ до 2017 года была связана с количеством талантов в сфере и общим настроем, что "это гиблое дело" - финансирование при отсутствии этих ограничений всегда будет. Теперь всё поменялось и это никогда не измениться, пока работают заводы по производству микроэлектроники и люди пользуются генеративными сетями. В первую очередь я подразумеваю школьников и студентов, потому что они будущее экономики.
Всё это означает, что скорость прогресса ускорилась в десятки, а может в сотни раз. И я действительно ожидаю, что в рамках конкурентной борьбы за улучшение возможностей текущего поколения генеративных моделей существующие и только формирующиеся команды разработчиков в ближайшие 10 лет наткнуться на комбинацию ингредиентов в архитектуре систем ИИ (под системами можно понимать связку разных генеративных моделей и детерминистических моделей), которая является полноценным AGI. Ну, а дальше всё как я описывал в комментарии выше.
Azri_try
Разница между Т9 и современными генеративными моделями, примерно такая как между хордовыми и высшими млекопитающими. Тоесть переход на качественно иной уровень, с "предсказания" Следующей буквы, до понимания контекста всего текста сразу. Развития новых навыков и тд. Но, до перехода до AGI, ещё не близко, нужны как по мне новые прывные архитектуры ИИ, сейчас, сносно научились пока "думать", инвидиа со своим космосом смогла генерировать личностный опыт для работов.
Azri_try
Вы говорите об каком то одном планетарном ИИ, которому все просто так дадут доступы во все сети мира. Кто этим заниматься будет? Люди которые будут заниматься разработкой и контролем таких AGI, будут давать им специализацию, от уровня научного ИИ какой нибудь биологической лаборатории, до персонального, мощность которого ограничена личным смартфоном или ПК человека. В вашем представлении, почему то все люди что имеют власть, просто так её отдадут, ради комфорта. Я не утверждаю что все будет идти по лучшему варианту, но. Скорее всего разрабатывывая AGI люди будут делать его человечным, тоесть давая ему эмоции, чувства, там где это надо.
Survei
Наделает себе копий + распределенных выч мощностей. Раскидает на сервера, а для этого ему найдется куча добровольных помощников.
RS6
Действительно, есть вероятность, что в ходе трансформации экономики уровень потребления золотого миллиарда и всех остальных выровняется. Но есть нюанс...
Hardcoin
Их и сейчас много. Но что бы кому-то досталась лишняя палка колбасы, у кого-то должен появиться дворец в десять раз больше предыдущего. А настолько большие дворцы даже ИИ не построит.
buratino
покажите мне хоть одно здание, построенное ИИ или хоть одну деталь, сделанную ИИ на токарном станке