Я не злопамятный. Просто то, что 7-го января этого года на Хабре сняли мою публикацию, текст которой был полностью создан языковой моделью, очень сильно деформировало мою душевную организацию своей, на мой взгляд, несправедливостью. Нет, я понимаю, что никто не хочет читать генерированные моделями «портянки» текста, но... а какая, по‑большому счёту, разница, кто написал эту «портянку» — человек или алгоритм?
Разумеется, уважаемая редакция Хабра вправе вводить любые правила на своей площадке. Но ведь и изменить их может тоже только она. В этом посте я постараюсь показать, почему я считал и считаю такое решение уважаемой редакции Хабра чересчур жёстким.
Это вступление, я надеюсь, всех убедило, что текст писал живой человек с реальным бэкграундом, а не очередная модель:‑) К созданию этого поста меня побудил вот этот комментарий (спасибо его автору @konstantinutolin):
Примеры «детей‑маугли» показывают, что вне человеческого социума разум не развивается. Т.е. дети вне общения с другими людьми адекватную модель мира полностью самостоятельно построить не способны. И поэтому всё чаще возникают гипотезы и даже теории, что на самом деле РАЗУМ является свойством всего человеческого сообщества, а индивидуальные мозги — это всего лишь более (у тех, кого мы считаем умными), или менее (у более глупых) хороший транслятор этого КОЛЛЕКТИВНОГО РАЗУМА в нашу физическую реальность.
Я хочу сразу выделить основную идею: «Разум — продукт социальный„.“»
Я немного докрутил эту идею, применив ненаучный метод словоанализа Михаила Задорнова: «со‑знание — конструкт социальный„.“»
Фантазия у меня хорошая, мне ничего не стоит представить картинку, что каждый человек — это микропроцессор в громадном компьютере — человечестве. Как из отдельных атомов создаются сложные молекулы, создающие ещё более сложные структуры — кристаллы и органические соединения, создающие клетки, создающие организмы. Так и тут, отдельные части (человеки) в совокупности создают нечто большее, чем простое сочетание свойств этих частей (сознание). Та самая эмерджентность.
Про такой «компьютер» писал ещё Дуглас Адамс в своей книге «Автостопом по галактике». Многие помнят Универсальный Ответ «42„, но не все помнят, что планета Земля была построена как раз в качестве компьютера для поиска Универсального Вопроса после получения Универсального Ответа. Так что идея, что человечество — это компьютер, не нова и достаточно известна.“»
Так вот, и мне, и Дугласу Адамсу совершенно не сложно представить, что отдельный человек — это микропроцессор (или даже просто вычислительное ядро), а совокупность всех таких «ядер» составляет один огромный «процессор„, который анализирует окружающий его Мир (Бытие) и порождает „знание“ об этом Мире.“»
В такой фантазии можно сопоставить «знания» со своего рода «программой„. Вот как в компьютере есть аппаратная и программная часть, так и тут „человеки“ (аппаратная часть) порождают „знания“ (программная часть). Знания могут быть записаны на внешнем носителе (скала, глиняная табличка, береста, бумага, узелки на верёвке), а могут быть загружены в аппаратную часть через соответствующий интерфейс (зрение, слух, осязание, обоняние,...).“»
Знание (программа) может быть закодировано по‑разному (русский, английский, китайский языки) и может по‑разному передаваться между «вычислительными ядрами„. Знания могут перекодироваться из одной кодировки в другие (один и тот же алгоритм может быть записан на разных ЯП). „Вычислительные ядра“ могут, используя одни знания, порождать новые знания, до того несуществовавшие. А могут порождать бред.“»
Как отличить бред от тру‑знаний?
А очень просто — новое знание, например, что это Земля вращается вокруг Солнца, а не наоборот, проверяется другими «вычислительными ядрами» на «трушность„. И если другие „ядра“ подтвердили корректность знания, то оно считается состоявшимся и даже может быть добавлена в библиотеку к другим „трушным“ знаниям для загрузки в качестве базового набора в новые „ядра„.“““»
Я хочу подчеркнуть вот этот момент:
Корректность знания определяется социумом путём сопоставления конкретного экземпляра со всем корпусом других знаний.
До получения общественного признания знание не является «трушным„.“»
Да, есть множество экземпляров знаний, которые не требуют общественного признания. Типа, «вот эта доска в заборе — синего цвета„. Но каждый элемент этого знания (доска, забор, цвет, синий) уже прошёл общественную проверку, получил признание и был загружен в „ядро“ на начальном этапе его становления.“»
Возвращаясь к комментарию коллеги @konstantinutolin — со‑знание не может существовать вне социума. Отдельное «ядро» обладает встроенными навыками, «прошитыми в ПЗУ„, но не способно к порождению новых „знаний“ — „'программ', передаваемых другим 'ядрам'“ в силу отсутствия протоколов передачи информации. „Маугли“ не знает языка и не способен создать его вне общения с себе подобными (хотя бы волками). Представьте себе человека, выращенного в лабораторных условиях, где ему не надо заботиться о выживании, но и не с кем общаться. Боюсь, что это будет абсолютно белый лист бумаги в когнитивном смысле.“»
Так вот, если знанию всё равно нужно общественное признание, то какая разница, кто его породил — органическое существо или математический алгоритм на кремнии? И люди, и программы способны порождать как бред, так и «трушные» знания. Вся разница между первым и вторым — общественное признание. Джордано Бруно, если что, сожгли на костре за бред — за ересь. А мы теперь считаем его точку зрения «трушной„.“»
Я считаю, что мы не должны дискриминировать знания по источнику происхождения — мозг или алгоритм. «Открытия„, которые делают алгоритмы, ничуть не хуже и не лучше „открытий„, которые делают люди. В большинстве своём они бесполезны, но некоторые знания могут передаваться от одного другому — о‑со‑знаваться. Попадать в когнитивное пространство „человеческого компьютера“ и становиться частью общей „программы“ — частью нашего общего человеческого сознания. “““»
Трансгуманизм — это не когда люди становятся машинами, а всего лишь отказ людей от центропупизма.
Алгоритмы тоже могут порождать новые знания, не только люди.
P. S.
Я никоим образом не призываю уважаемую редакцию Хабра менять правила своей площадки. Я просто публично осознаю всем известные факты.
Комментарии (97)
slivka_83
25.10.2025 13:23а какая, по-большому счёту, разница, кто написал эту "портянку" - человек или алгоритм?
А для вас есть разница лечится у человека или у алгоритма?
muxa_ru
25.10.2025 13:23А Вы лечитесь не у человека, а у алгоритма, которому этот человек следует.
Более того, Вы не захотите лечиться у человека, который сам себе что-то выдумывает и не следует разработанному алгоритму диагностирования и лечения.
slivka_83
25.10.2025 13:23вы не ответили на вопрос :) пойдете лечится к алгоритму? :)
n0isy
25.10.2025 13:23Пойду. Пойду к тому у кого статистика лучше. Ну или статистика нормированная по затраченным деньгам. Зависит от моих приоритетов.
Вот к примеру. LASIK - это алгоритм. Зрение хотите поправить?
Бывают ли у ласика ошибки? Полным полно
Есть ли там очередь из клиентов? Да есть.
muxa_ru
25.10.2025 13:23Я уже хожу лечиться к алгоритмам, которые написаны в справочниках и учебниках по медицине.
Врач, это просто механизм, который эти алгоритмы исполняет.
GidraVydra
25.10.2025 13:23А "программист с 25-летним стажем" - это просто механизм, который исполняет то, что написано в справочниках и учебниках по программированию.
flancer Автор
25.10.2025 13:23Зависит от конечного результата. Если результат одинаков, то разницы нет.
dyadyaSerezha
25.10.2025 13:23Т.е. дети вне общения с другими людьми адекватную модель мира полностью самостоятельно построить не способны.
Вот сразу и прям полностью не согласен. Дети, ставшие волками в волчьей стае, имеют полностью адекватную модель мира, нужную волку. Зачем им другие люди?
Bardakan
25.10.2025 13:23объясните суть. Сгенеренную в ИИ статью удалили с хабра, поэтому чел генерит в ИИ еще одну такую же статью и выкладывает ее? А логика где?
slivka_83
25.10.2025 13:23Безумие — это делать одно и то же снова и снова, ожидая иного результата :)
muxa_ru
25.10.2025 13:23Мне в соседней ветке рассказывают, что "делать одно и то же, каждый раз получая иной результат" - это не "безумие", а "алгоритм"
zuko3d
25.10.2025 13:23Вы, кажется, исполнение не отличаете от алгоритма. Алгоритм - это рецепт, набор указаний. И когда кто-то эти указания исполняет, то результат может отличаться от раза к разу, т.к. исполнение может оказаться неидеальным.
А иногда "неидеальность" добавляется намеренно, как в случае в LLM. Само по себе произведение матриц (а LLM это именно последовательность произведений матриц вперемешку с взятием максимума) всегда даёт идентичный результат, но пользователю это не нужно. Люди привыкли, что если живого человека переспросить - ответ будет отличаться. И пользователи ожидают от LLM аналогичного поведения. Поэтому каждый раз к запросу подмешивается некая случайная величина.
GidraVydra
25.10.2025 13:23Выполняя шифрование, я каждый раз буду получать другие ключи. Это тоже не алгоритм?
flancer Автор
25.10.2025 13:23Вот видите, вы яркое подтверждение, что человек уже не способен отличить текст, созданный ИИ, от текста, созданного человеком. Можно спокойно их уравнивать.
winkyBrain
25.10.2025 13:23Да, но вы поспешите сравнить как "нейронки пишут как люди", во время как тезиз выше больше близок к "некоторые люди докатились в своих текстах до уровня нейронок"
flancer Автор
25.10.2025 13:23Одно другому не противоречит. Люди и раньше выдавали довольно разнообразные тексты, просто раньше не было текстов от нейронок. Публикация как раз об этом - разницы-то нет.
Bardakan
25.10.2025 13:23нет. Раньше инфоцыгане толкали свои курсы за деньги, сейчас переключились на бесплатные статьи с доходом от рекламы. Например, см. кто самый популярный автор на хабре:
https://habr.com/ru/articles/843814/
liutas4x4
25.10.2025 13:23Отбросив спор (обиду) на Хабр, остальное, кроме мелочей типа объявления адекватными только антропоцентричных моделей мира, вполне зачетно. Для меня.
За подобное мне в институте в начале 80-х препод марксистко-ленинской философии выговаривал в перерыве, негромко: "Не создавайте новую религию, юноша."
avost
25.10.2025 13:23на Хабре сняли мою публикацию, текст которой был полностью создан языковой моделью,
Ну, во-первых, не вашу публикацию. Если вы в дальнейшем настаиваете на "равенстве" генеративных моделей и человеческих интеллектов, вы должны признавать за моделями полноценное авторское право.
очень сильно деформировало мою душевную организацию своей, на мой взгляд, несправедливостью.
Во-вторых, с учётом первого пункта, кажется, ваша деформация имеет вполне меркантильную причину. Публикация плагиата с целью получения каких-либо выгод (пунктиков кармы, к примеру).
Алгоритмы тоже могут порождать новые знания, не только люди.
Ну, а теперь признайтесь как на духу - содержала ли сплагиаченная вами статья какие-либо новые знания?
Да, и даю вам очень ценный, хотя и бесплатный совет - организуйте если сможете или попросите того, кто сможет (например, администрацию хабра) создать отдельный ресурс, для публикации статей, подобных сплагиаченной вами. Так сразу будет решена проблема с плагиатом и обманом читателей. Заранее будет известно происходление статей.
А теперь пара простых вопросов.Как думаете, насколько большой популярностью будет пользоваться такой ресурс?
Пожалуй, даже более интересный вопрос - скажите, а останется ли у вас и подобных вам хоть какая-то мотивация публиковать подобного рода опусы на условиях, когда заранее известна их природа и нет возможности выдать их даже не только за свои, но и просто за человеческие? Пожалуйста, ответьте, это очень важно!
flancer Автор
25.10.2025 13:23Ну, во-первых, не вашу публикацию. Если вы в дальнейшем настаиваете на "равенстве" генеративных моделей и человеческих интеллектов, вы должны признавать за моделями полноценное авторское право.
Ну как не мою, когда мою? Публикация в моём профиле под моим именем - чья же она, по-вашему? Если я дам вам текст и вы его опубликуете, это будет моя публикация или ваша? Текст будет мой, публикация - ваша.
Я не настаиваю на равенстве интеллектов, я предлагаю перестать дискриминировать знания по их происхождению.
Я признАю авторство за моделями, как только у них появится субъектность.
Публикация плагиата с целью получения каких-либо выгод (пунктиков кармы, к примеру).
Вам наверное уже говорили, что вы неприятный человек, правда? Вы стараетесь сделать мне неприятно, но делаете это неумело. Но хотя бы стараетесь. Какой же "плагиат", когда я указываю, что автор - не я? А что я ищу выгоды - так это нормально для человека. Не нормально - это наоборот. Делать что-то с ущербом для себя.
Ну, а теперь признайтесь как на духу - содержала ли сплагиаченная вами статья какие-либо новые знания?
Вы таки определённо не осознаёте значения термина "плагиат". Боюсь, что вы даже не осознаёте, что не осознаёте.
Насчёт новых знаний - смотрите сами. Все знания для кого-то новые.
Да, и даю вам очень ценный, хотя и бесплатный совет
Я очень настороженно отношусь к людям, которые раздают бесплатно даже просто ценные советы, не говоря уж об "очень ценных". Они, как правило, лгут - либо за ценность, либо за бесплатность.
winkyBrain
25.10.2025 13:23Эх, на всё ответили, кроме неудобных вопросов) а ведь их обозначили как важные и именно на них ожидался ответ, в отличие от всего остального. как же так
flancer Автор
25.10.2025 13:23Вы про эти? Отвечу, раз вам это так принципиально
Как думаете, насколько большой популярностью будет пользоваться такой ресурс?
Не думаю вообще на эту тему.
останется ли у вас и подобных вам хоть какая-то мотивация публиковать подобного рода опусы на условиях, когда заранее известна их природа и нет возможности выдать их даже не только за свои, но и просто за человеческие?
Могу только за себя ответить - я сразу же в первой же строке свой публикации отметил, что текст сгенерён нейронкой.
Это копия с моего сайта, но в оригинале на Хабре всё было точно так же. Я не выдавал текст за свой. Что было в голове у человека, сформулировавшего этот вопрос, и какой его персональный опыт предшествовал этой формулировке - я не в курсе. Вот точная копия той моей публикации на моём сайте. Можете сами посмотреть, что там и как.
Я же и пытаюсь вывести в фокус, что "источник происхождения знаний не имеет отношения к их ценности". Ценность определяется сообществом. И даже не важно, насколько при этом знание истинно - Джордано Бруно, как яркий пример. Ну или вот эта статья. Вот как можно говорить о независимости источника происхождения знания с людьми, которые настолько нестандартно понимают такие вещи, как "алгоритм" и "плагиат"? И что будет, когда таких станет большинство?
Научный метод познания синхронизирует общий корпус знаний человечества (социума) с окружающей реальностью. А если такая синхронизация пропадёт, то каждый начнёт за одними и теми же терминами подразумевать своё собственное их понимание, и истинность знаний будет признаваться простым демократически голосованием.
Если есть ещё какие вопросы, которые я пропустил, укажите на - я отвечу.
avost
25.10.2025 13:23Публикация в моём профиле под моим именем
Именно об этом я и говорю. В вашем профиле, под вашим именем. Не ваша. Это и есть определение плагиата:
умышленно совершаемое физическим лицом незаконное использование или распоряжение охраняемыми результатами чужого творческого труда, которое сопровождается доведением до других лиц ложных сведений о себе как о действительном автореКак вы написали выше, вы опубликовали нечто под своим именем, то есть сплагиатили.
Какой же "плагиат", когда я указываю, что автор - не я?
Возможно, вы читали настолько недостаточно литературы, что вам ни разу не попадались книги написанные от третьего лица. Поверьте, это довольно распространённый художественный приём. Кроме того, откуда мне знать что там творится в вашей голове, - я располагаю только вашими же заявлениями о публикации под вашим именем. Никаких удалённых администрацией мусорных текстов, нарушающих правила платформы я не читал. То, чего нет невозможно прочитать. Был такой Бертран Артур Уильям Рассел, который проиллюстрировал данное когнитивное искажение с помощью чайника. Полюбопытствуйте при случае.
Я не настаиваю на равенстве интеллектов,
То есть вы отказываетесь от утверждения об ущемлении аглоритмов? Окей, это уже шаг к выздоровлению.
я предлагаю перестать дискриминировать знания по их происхождению.
Вы, таки, определённо не осознаёте значения термина "знания". Боюсь, что вы даже не осознаёте, что не осознаёте. То, что вы пытаетесь продать под видом неких "новых знаний" таковыми не являются, более того, вы сами в этом признались, отказавшись отвечать на прямой вопрос.
Вам наверное уже говорили, что вы неприятный человек
Вы, таки, определённо не осознаёте значения термина "Argumentum ad hominem". Боюсь, что вы даже не осознаёте, что не осознаёте. Тем не менее, для вас это означает полное признание моей правоты.
А что я ищу выгоды - так это нормально для человека.
Да, это важная часть определения плагиата. Умысел.
Какой же "плагиат", когда я указываю, что автор - не я?
Вы прямым текстом написали, что опубликовали не свою публикацию под своим именем. Вы прямым текстом заявили умысел. А потом обиделись, когда подмели то, чем вы замусорили хабр.
Насчёт новых знаний - смотрите сами.
Вы отказываетесь отвечать на вопрос. И, нет, информационный мусор не является новым знанием.
Я очень настороженно отношусь к людям, которые раздают бесплатно даже просто ценные советы, не говоря уж об "очень ценных".
Это правильно. Вы и должны бояться.
Они, как правило, лгут - либо за ценность, либо за бесплатность.
Поделюсь с вами ещё одним ценным и тоже абсолютно бесплатным - вы только что использовали известный демагогический приём "ложная дихотомия". С чем вас и поздравляю. Возможно, вы даже задумаетесь с чем именно и почему.
И на вопросы так и не ответили... А, ведь они совершенно ненапрасно были заданы.
Не думаю вообще на эту тему.
Разумеется, не думаете. Именно поэтому вопрос и был задан. В надежде, что подумаете. Но не стали. В принципе, об этом и шла речь.
Могу только за себя ответить - я сразу же в первой же строке свой публикации отметил, что текст сгенерён нейронкой.
Если это и ответ, то на какой-то другой вопрос. Вопрос был вообще не об этом. Вы, всё же, попробуйте подумать на эту тему. Думать - это важно. И в первую очередь для вас.
Напоследок дам ещё один бесплатный (на ваше удивление) совет. "Нье надо мусоритъ" (ц) Джоанна Стингрей
flancer Автор
25.10.2025 13:23А вы упорный!! Старательный. Попробую подтолкнуть вас на путь к осознанию, может получится. Вот ваше же определение:
умышленно совершаемое физическим лицом незаконное использование или распоряжение охраняемыми результатами чужого творческого труда, которое сопровождается доведением до других лиц ложных сведений о себе как о действительном авторе
Укажите, где это было в моей публикации. И меня совершенно не волнует, что вы своё утверждение сделали до ознакомления с текстом моей публикации, созданным языковой моделью.
И постарайтесь вкратце. Я очень выборочно перевариваю ваш поток сознания. Как я утверждал в своей текущей публикации, бред могут нести не только алгоритмы.
GidraVydra
25.10.2025 13:23Ну как не мою, когда мою? Публикация в моём профиле под моим именем - чья же она, по-вашему?
Нет, не вашу. Ознакомьтесь с законом РФ "Об авторском праве и смежных правах".
MEGA_Nexus
25.10.2025 13:23а какая, по-большому счёту, разница, кто написал эту "портянку" - человек или алгоритм?
По большому счёту разницы нет, если по итогу всё равно получается г*вно. :)
Смысл любой статьи - это привносить в этот мир ценность, т.е. быть полезной людям. LLM статьи ценности никакой не несут, хотя по форме и похожи на статьи.
Люди, которые приходят на Хабр, хотят читать мнения других людей, их взгляды на современное IT, на подходы к работе и реальное применение современных технологий.
Если бы люди хотели читать тонны нейросетевого бреда, то они бы просто открыли окно LLM, а не Хабр, и развлекали бы себя там.
flancer Автор
25.10.2025 13:23Смысл любой статьи - это привносить в этот мир ценность, т.е. быть полезной людям.
Замечательная мысль! Она объясняет, почему так много статей на тему "так что же такое SOLID" или "Всё о замыканиях в JavaScript". Такие статьи появляются из раза в раз не только на Хабре.
Каждая такая статья полезна, как минимум, своему автору - он уложил смыслы в голове, пока её писал. А вот насколько она полезна остальным людям - то уже большой вопрос. Кто до этого про SOLID или замыкания не читал, вполне могут найти для себя там что-то полезное.
Я думаю, не бывает статей полезных абсолютно всем. Всегда есть те, кому статья пользы не принесёт, а только отнимет время. Но, я думаю, что верно и обратное - не бывает статей бесполезных абсолютно. Как минимум они дают понимание автору, как делать не надо.
Ну, по крайней мере пару мыслей для следующей статьи у меня появилось.
Hopenolis
25.10.2025 13:23На хабре почти все статьи написаны ллм. Нередко тело которое их публикует даже не смотрит что там робот понаписал и не реагирует никак на комментарии, там даже грубые ошибки согласования попадаются, и остаются в итоге без исправления.
Так что не надо тут врать про то что статью зарезали за ллм.
winkyBrain
25.10.2025 13:23Почитал в материале комменты и ответы автора - очень скользкий чувак) на неудобные комменты отвечает оскорблениями, на неудобные вопросы не отвечает вовсе - и правда, зачем) сразу видно силу позиции. Ещё в самом заголовке подмена понятий: написано о каких-то ущемлениях алгоритмов, хотя очевидно, ущемился сам автор, о чём он и пишет в первом абзаце, алгоритмы же никто не ущемлял. В общем даже не подискутировать, всё будет выкручено под нужным углом
flancer Автор
25.10.2025 13:23Дружище, я спал 4 часа назад. Как проснулся - так и отписался. А после публикации статьи у меня было мероприятие, как пришёл с него, так и прочитал комменты. Где смог, там и ответил.
Если на что-то не ответил - задавай вопрос, отвечу, как время будет. И - да, я буду всё выкручивать под нужным мне углом. В этом и смысл. Делай так же.
Roman_Cherkasov
25.10.2025 13:23И люди, и программы способны порождать как бред, так и "трушные" знания. Вся разница между первым и вторым - общественное признание.
Разница в соотношении бреда и трушных "знаний". ЛЛМ не способны мыслить, не могут отличить истину от вымысла и любую информацию "считают" достоверной. Прокидывая это дальше.
Человек, натыкаясь на признаки ЛЛМ статьи - по умолчанию считает её менее "трушной", просто по той причине, что работы для её написания - проделано не было. И результатом выдачи бредогенератора - может быть как настоящие знания, так и придуманные. А что ещё хуже - среди настоящих - могут быть придуманные, которые я не смогу отличить.
Понимание того, что автор не проводил работы над текстом - делает его с огромной вероятностью для меня - бесполезным. Просто по той причине, что я могу быть не компетентным в теме (для изменения этого я статьи и читаю) и не могу довериться даже автору, потому что его (автора) - просто нет.
flancer Автор
25.10.2025 13:23Вижу, что есть понимание :)
ЛЛМ не способны мыслить, не могут отличить истину от вымысла и любую информацию "считают" достоверной. Прокидывая это дальше.
Именно! Как и многие люди, что пишут тексты и даже публикуются тут, на Хабре. Прочитайте хотя бы тексты @MaxRokatansky Просто зайдите в профиль пользователя и посмотрите на количество статей и разнообразие тематики. Может у компании OTUS такая политика, что она публикует тексты своих студентов от имени "Безумного Макса". Но я лично комментировал какую-то безумную муть в одной из их публикаций. Так какая разница, кто плодит в интернете бред - люди или алгоритмы?
Человек, натыкаясь на признаки ЛЛМ статьи - по умолчанию считает её менее "трушной", просто по той причине, что работы для её написания - проделано не было. И результатом выдачи бредогенератора - может быть как настоящие знания, так и придуманные. А что ещё хуже - среди настоящих - могут быть придуманные, которые я не смогу отличить.
Да, есть такая проблема. Я за собой заметил, что всё чаще стал сканировать глазами тексты в поисках причины, по которой их стоило бы читать. По-умолчанию принимаю, что их писала нейронка. Думаю, что в таких условиях нужно менять формат подачи информации - сначала суть, а потом объяснение, почему так. Я попытался сделать так в этой публикации, но, видать, не сильно удачно. Буду шлифовать подход практикой.
Понимание того, что автор не проводил работы над текстом - делает его с огромной вероятностью для меня - бесполезным. Просто по той причине, что я могу быть не компетентным в теме (для изменения этого я статьи и читаю) и не могу довериться даже автору, потому что его (автора) - просто нет.
Ну, это ваша точка зрения. Я пытаюсь вытаскивать из текста мысли и идеи, созвучные тому, что меня волнует в моменте. Тут главное оценка отношения потенциальной потери времени на чтение к потенциально возможному профиту. И если видно, что автор провёл работу над текстом (заголовки, абзацы, схемы, выделения и т.п.), то есть смысл уделить чуть больше времени, а если "портянка текста", то не важно, сколько работы провёл автор над текстом - мне просто неудобно его "впитывать". Даже если это авторитет с мировым именем - я лучше дам его прочитать нейронке и попрошу пересказать основные идеи.
michael_v89
25.10.2025 13:23Так какая разница, кто плодит в интернете бред - люди или алгоритмы?
Никакой разницы. Было бы лучше, если бы обоих вариантов не было.
Почему компании OTUS можно, а вам нельзя? Потому что они заплатили владельцам ресурса деньги.
Покупайте себе корпоративный блог, придумывайте узнаваемое имя, и я ваши статьи буду игнорировать так же, как статьи от OTUS.
michael_v89
25.10.2025 13:23Доколе мы будем ущемлять алгоритмы?
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
flancer Автор
25.10.2025 13:23Ну, вообще-то всех интересуют ответы на их вопросы. Особенно на вопросы, которые пока ещё не получается сформулировать. Кто-то задаст беспокоящий вас вопрос, нейронка даёт ответ - вот вам и новое знание на пустом месте. Вы ещё вопрос не успели сформулировать, а уже готов ответ - красота! Оцените экономию времени.
michael_v89
25.10.2025 13:23Я не говорил, что тут нет экономии времени. Я сказал, что непонятно, зачем в этой схеме нужна ваша статья.
flancer Автор
25.10.2025 13:23А зачем вы сообщили всему миру, что вам непонятна моя статья? Могли же просто заминусовать с выбором пункта "Ничего не понял после прочтения".
Но вы же написали:
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
Моя статья как раз о том, что обычная "информация" превращается в "знание" в сообществе. Через осознание - принятие (или непринятие) сообществом. И не важно, кто "родитель" у этой информации - человек или алгоритм.
Вам было важно, чтобы не только я узнал, что вы не поняли после прочтения, зачем моя статья, но и сообщество Хабра. Вот это и есть - осознание.
Я даже выделил основную мысль публикации: "со‑знание — конструкт социальный".
Так понятнее?
michael_v89
25.10.2025 13:23Могли же просто заминусовать с выбором пункта "Ничего не понял после прочтения"
Зачем мне это делать, если я понял?
Зачем мне это делать, если у меня цель ответить на ваш вопрос в заголовке?А зачем вы сообщили всему миру, что вам непонятна моя статья
Я нигде никому не сообщал, что содержание вашей статьи мне непонятно. Я сказал, что непонятна цель ее наличия на Хабре, которую вы хотите достичь. И это был риторический вопрос, чтобы вы над ним сами подумали, потому что я уже дал на него ответ "она тут не нужна".
Моя статья как раз о том, что не важно, кто "родитель" у этой информации - человек или алгоритм.
А я сказал, что мне как читателю это важно. Спросить алгоритм я могу и без вашей статьи, значит она для меня бесполезна.
со‑знание — конструкт социальный
Если источник этой информации и так уже доступен всем желающим, то получается, что это уже социальный конструкт, и ваша статья ничего не добавит.
Так понятнее?
Про вашу статью, как я уже сказал, мне все понятно с самого начала. Про ваши комменты в этой ветке понятнее не стало. Дайте пожалуйста прямой ответ на вопрос "Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?", начав его со слов "Затем" или "Потому что".
flancer Автор
25.10.2025 13:23Смотрите, если чисто логически применить ответ
Дотоле, пока вы не поймете, что спросить нейронку я могу и без вас.
к вопросу
Доколе мы будем ущемлять алгоритмы?
получается, что "мы ущемляем алгоритмы", из-за того, что "я не понимаю", что "вы можете спросить нейронку сами". Из чего можно сделать следствие, что как только я это пойму, то знание, порождённое алгоритмом перестанет дискриминироваться по отношению к знанию, порождённому человеком.
Это точно именно то, что вы хотели донести до меня?
Я нигде никому не сообщал, что содержание вашей статьи мне непонятно. Я сказал, что непонятна цель ее наличия на Хабре, которую вы хотите достичь. И это был риторический вопрос, чтобы вы над ним сами подумали, потому что я уже дал на него ответ "она тут не нужна".
Да, вы правы - вы сказали, что вам непонятна цель моей статьи. Я был уверен, что из содержания статьи выводится цель её публикации, поэтому предположил, что непонимание цели вызвано непониманием содержания. Но если вы утверждаете, что вы не понимаете цели статьи, но при этом понимаете содержание статьи, то для меня становится загадкой - зачем вы вообще отвечали на заголовок? Там на КДПВ ещё и про Анджелу Дэвис было. Это всё метки, что статья писалась человеком, а не алгоритмом. Алгоритм не умеет в такие ассоциации (Анджела Дэвис == Алгоритмы) и не использует редкие слова (доколе).
Смысл заголовка - в описании ситуации, что мы тексты, создаваемые нейронками, ущемляем по отношению к текстам, создаваемым людьми. И люди, и нейронки могут создавать из слов как бредовые тексты, так и осмысленные. Попросите сгенерировать нейронку таблицу Пифагора, попросите человека создать таблицу Пифагора - два результата будут идентичны по смыслу. Мы автоматом признаём таблицу Пифагора, созданную нейронкой, просто потому, что в нашем коллективном со-знании она уже есть с меткой "это трушное знание". Ребёнок, который увидит первый раз таблицу Пифагора нейронки, сможет точно так же осознать (подключиться к коллективному знанию), как сможет осознать и таблицу Пифагора, созданную человеком. Если мы не признаём знания, созданные программами (алгоритмами), то мы должны учить наших детей только на человеческих текстах - это если быть до конца последовательными.
В этом смысл статьи. Не в генерации текстов нейронкой, а в генерации знаний нейронкой. Некоторые знания вам уже известны, а некоторые - нет. Нейронка может порождать знания, неизвестные никому ранее. Как из 7 нот порождаются новые мелодии, так и путём рекомбинации известных знаний может порождаться новое: "конечный" + "скорость" + "свет" => "скорость света конечна".
Насколько я понимаю, лично вы совершенно уверенны, что нейронка не способна генерировать новые знания. Так вот, моя статья тут для того, чтобы поставить под сомнение эту точку зрения. Это мой ответ на ваше "она тут не нужна".
Спросить алгоритм я могу и без вашей статьи, значит она для меня бесполезна.
Да, для вас - да. Но сознание - социальный конструкт. Вы - лишь одно из "вычислительных ядер". Не все "ядра" способны загружать те или иные "программы" (знания). Для вас статья бесползена, но три читателя поставили мне за неё плюсики. Вот для них.
Если источник этой информации и так уже доступен всем желающим, то получается, что это уже социальный конструкт, и ваша статья ничего не добавит.
Не у всех хабровцев есть доступ к ChatGPT - вот для них.
Дайте пожалуйста прямой ответ на вопрос "Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?", начав его со слов "Затем" или "Потому что".
Затем, что множество людей, включая лично вас, не умеют отличить написанную статью от сгенерированной. И это проблема. Проблема не в текстах, а в людях. В их увернности, что человек генерирует бред реже, чем алгоритм, а алгоритм не способен создавать новые знания.
Пожалуйста.
Я не смогу вам доказать, что эта статья написана вручную. Но ваша убеждённость в том, что она сгенерирована лишь подтверждает мою правоту.
michael_v89
25.10.2025 13:23Это точно именно то, что вы хотели донести до меня?
Да, только это не весь вывод, который вы должны сделать. Как только вы это поймете, то поймете так же, что ваша статья мне не нужна, не будете ее писать на Хабре, и поэтому никто не будет дискриминировать ее и алгоритм, который ее написал. Алгоритму это вообще пофигу, если что.
Это всё метки, что статья писалась человеком, а не алгоритмом.
Подождите. В контексте этого обсуждения есть 2 статьи. Та, которую вам сгенерировал алгоритм, и эта, под которой идет данное обсуждение.
Ваш вопрос к какой относился? Я так понимаю, к первой. Вот и мой ответ относился к первой, а также любым другим сгенерированным.
При чем тут статья, которая писалась человеком?Я не смогу вам доказать, что эта статья написана вручную. Но ваша убеждённость в том, что она сгенерирована
Вы писали "7-го января этого года на Хабре сняли мою публикацию, текст которой был полностью создан языковой моделью".
Вы задали вопрос про нее "Доколе мы будем ущемлять алгоритмы?"
Моя убежденность в том, что та статья сгенерирована, основана на ваших словах.Еще раз, мой ответ относился к статьям, сгенерированным нейросетью (алгоритмом). Потому что в вопросе было указано про алгоритмы.
Там на КДПВ ещё и про Анджелу Дэвис было.
Я все КДПВ отключил через Tampermonkey, поэтому не знаю, что там было.
то мы должны учить наших детей только на человеческих текстах - это если быть до конца последовательными.
Я вам так и сказал, я хочу, чтобы это на этом ресурсе были только осмысленные тексты, написанные людьми, где они делятся своим опытом или рассуждениями, основанными на этом опыте. К обучающим материалам для детей это тоже относится.
Насколько я понимаю, лично вы совершенно уверенны, что нейронка не способна генерировать новые знания.
Я про это ничего не говорил. Я говорил только про то, почему я не хочу читать сгенерированные статьи на этом ресурсе.
Для вас статья бесполезна, но три читателя поставили мне за неё плюсики.
Тут люди часто ставят плюсы "просто за старание". Не будет вашей, они их поставят за какую-то другую. Также есть вероятность, что они тоже из тех, кто хочет выкладывать статьи, сгенерированные нейросетью, а не читать их.
Не у всех хабровцев есть доступ к ChatGPT - вот для них.
А вас кто-то из хабровцев об этом просил? Создайте опрос, нужны ли кому-то сгенерированные статьи, проверим результаты, тогда и будете говорить про неких хабровцев.
Вообще пытаться угадать один чей-то несформулированный вопрос из миллиардов возможных выглядит нелогично. С большой вероятностью эта информация не будет нужна никому. То есть это будет мусор, как такие статьи и называют.
Затем, что множество людей, включая лично вас, не умеют отличить написанную статью от сгенерированной.
Мы и не должны их отличать. Мы должны быть уверены, что в статье содержится осмысленный текст, основанный на опыте автора, а не набор наиболее вероятных слов, где каждое предложение может быть галлюцинацией нейросети. Да, люди тоже пишут плохие статьи, и их тоже минусуют. Никакой разницы.
И да, это не является ответом на мой вопрос, хоть и начинается со слова "затем". После него идет просто описание факта без всякой связи с исходным вопросом. Ну не умею, а зачем она мне? Как из этого следует, что надо разрешать ее не Хабре? Тут и от людей статей достаточно.
flancer Автор
25.10.2025 13:23ОК, мне кажется, я понял ход ваших мыслей. Это несколько не то, что я пытался донести, но это то, что конкретно вы смогли понять. Ладно, я тоже по-своему понял, что вы хотели до меня донести.
Есть люди, которые будут "ущемлять алгоритмы" всегда. Ничего страшного.
flancer Автор
25.10.2025 13:23Раз ваш вопрос касался первой статьи, то вот ответ.
Зачем с вашей точки зрения на Хабре нужна ваша сгенерированная статья, если ее источник и так доступен всем, и узнать эту информацию я как читатель могу и без нее?
Затем, что сгенерированная нейросеткой статья поднимает вопрос о перспективах доступности нейросетей для людей с различным уровнем интеллекта в ближайшем будущем. Сейчас между крупнейшими разработчиками языковых моделей идёт борьба за "ресурс" - за людей, поставляющих их моделям "сырьё" для обучения (диалоги в чатах). Идёт бесплатное или дешёвое подсаживание пользователей на "иглу" нейросетей. Я предположил, что когда в массе своей народ "подсядет", владельцы нейросетей пересмотрят текущие правила доступа пользователей к сеткам. Я, пока у меня ещё есть доступ, попросил нейросеть смоделировать и изложить эти будущие правила доступа. Вы правы, что вы можете точно так же задать этот же вопрос нейросетке и получить от неё ответ. Но не раньше, чем этот вопрос возникнет у вас в голове.
muxa_ru
Не примазывайтесь в честным и уважаемым алгоритмам - LLM это не алгоритм.
slivka_83
А что это?
muxa_ru
Чёрный ящик.
dyadyaSerezha
Черной черной ночью в черной черной комнате на черном черном столе лежал черный чёрный ящик, в котором был чёрный чёрный алгоритм. Что, так не считается?
muxa_ru
Алгоритм это расписанная логика, где каждый элемент известен и понятно как он работает.
Чёрный ящик это тип устройства в котором происходит что-то неизвестное.
dyadyaSerezha
Любой ИИ программировали люди, которые писали только известные им алгоритмы. А то, что они написали так сложно, что им теперь самим лень или не под силу понять, что же происходит, ни разу не опровергает алгоритмичность моделей.
muxa_ru
Скажите, а зачем нам считать алгоритмом то, что выглядит, ходит и крякает как не_алгоритм, и нас нет никакой возможности прочесть это как алгоритм?
Просто чтобы удовлетворить Ваше желание победить в споре в интернете?
dyadyaSerezha
Как выглядит? Почитайте, изучите все исходники всех библиотек, используемых в моделях. Какие проблемы? Изучите каждую строчку, хоть с лупой. Там всё очень алгоритмичо.
muxa_ru
Как выглядит алгоритм преобразования запроса в картинку.
Распишете возникновение каждого пикселя?
dyadyaSerezha
Вам надо, вы и распишите. Мне не надо.
Ещё раз, алгоритмы с миллиардами и миллиардами параметров не перестают быть алгоритмами.
muxa_ru
Я говорю, что это невозможно расписать как алгоритм и Вы предлагаете мне это расписать как алгоритм?
Ничего не смущает в этой идее?
dyadyaSerezha
muxa_ru
Алгоритмами не "перестают быть", алгоритмами "становятся".
Становятся в тот момент, когда может быть сформулирована последовательность действий, дающих воспроизводимый результат.
В этот момент последовательность действий становится "алгоритмом".
А если результат каждый раз разный, то это не алгоритм.
RoasterToaster
А они не превращаются в что-то типа квантовой механики в макромире, которую так не любил Эйнштейн ?
( "Господь не играет в кости")
flancer Автор
Нет, не превращаются. Даже с миллиардами миллиардов параметров программы остаются алгоритмами. Любая программа - алгоритм.
Веса модели - это данные, которые также получены через алгоритм. Инференс - это тоже алгоритм. Единственный источник настоящей неопределённости - это аппаратный генератор случайных чисел (ГСЧ). Но от этого программа не перестаёт оставаться алгоритмом.
muxa_ru
Отлично.
И работа с LLM попадает под это описание?
Есть у нас эта точная и конечная последовательность действий?
flancer Автор
Да. Именно её и выполняют процессоры компьютера. Всё, что выполняет процессор - это алгоритм. Если вы уверены в обратном, не буду вас разубеждать.
muxa_ru
Не надо меня разубеждать.
Просто покажите алгоритм.
Он же у Вас есть?
dyadyaSerezha
Именно. В классическом методе Монте-Карло этот генератрр - сама суть метода. Но от этого метод не перестаёт быть алгоритмом. Но чел упорно твердит свое.
muxa_ru
Звучащее как: "если у вас есть алгоритм, то покажите его".
Но в ответ лишь "да, у нас есть алгоритм, но мы его не покажем".
dyadyaSerezha
Я несколько комментов выше написал: для open source моделей, посмотрите все исходные коды всех библиотек и самих моделей. Скачайте и посмотрите. В чем проблема-то? И вообще, как современный компьютер может выполнить неалгоритм? Вы вообще хоть что-то понимаете в компьютерах? На этом завершаю биться об стену.
muxa_ru
Компьютер может выполнять что угодно и как угодно.
Но если лично Вы не имеете последовательности действий, которая позволяет получать предсказуемый и повторяющийся результат, то лично у Вас алгоритма действий нет.
Алгоритм привязан к субъекту и его целеполаганию, а не к инструментам, которыми субъект пользуется.
Я на этой беседе материал набираю, с примерами.
Вы очень хороший, интересный и полезный собеседник.
dyadyaSerezha
Вы не знаете азов.
muxa_ru
А Вы путаете детерминизм поведения инструментов и квантовое шмуду вуду с его "принципиальным недетерминизмом".
zuko3d
Это просто серия матричных умножений. Иногда взятие максимума. Чем не алгоритм?
muxa_ru
"Не надо рассказывать как оно происходит на самом деле, просто покажите алгоритм как в результате конкретного запроса закрашивается конкретный пиксель в картинке" (с) вроде бы было в каком-то кинофильме.
flancer Автор
"Если прогуливать в школе физику - мир будет наполнен чудесами и волшебством." (с) тоже где-то было
muxa_ru
Алгоритм покажете?
dyadyaSerezha
Третий раз - алгоритмы (код) многих моделей лежат в открытом доступе. Берите и смотрите. Что же не смотрите?
flancer Автор
У этого человека своё собственное понимание "алгоритма". Для него программа (код) не является алгоритмом. Ну, есть вот такие люди.
dyadyaSerezha
Но он называет себя айтишником с 25+ летним стажем. И при этом приписывает большим моделям какое-то "квантовое шмуду вуду". Бывает, мда...
zuko3d
Да, вот тут подробно описано: https://ru.wikipedia.org/wiki/Умножение_матриц
Картинка это просто матрица из чисел. Если хотите узнать, каким образом появился пиксель на позиции (x, y) - достаточно взять строку x и столбец y из двух предшествующих матриц (их скалярное произведение и будет давать заданный пиксель). Нейросеть для генерации картинок - это просто набор хорошо подобранных матриц, произведение которых даёт приятный для глаза результат. Ну и там в некоторых местах помимо произведения матриц надо ещё брать максимум, но это вроде не очень-то сложная операция.
slivka_83
"Черный ящик" он для тех, кто не понимает что внутри :)
muxa_ru
А Вы типа как понимаете и готовы дать последовательность действий, дающую предсказуемый и воспроизводимый результат?
slivka_83
Вот так понимаю: https://stepik.org/a/231306
ValeriyPus
тише, там у многих бомбит
(что все программы мира в 200 гб не помещаются, https://9gag.com/gag/aoyA27n)
https://habr.com/ru/articles/955666/comments/#comment_28951304
Rsa97
Сама по себе LLM - это вполне себе алгоритм имитации нейросети, причём вполне детерминированный. Вот в сочетании с обрабатываемыми им данными сложность системы может возрасти многократно, так что человек уже не в состоянии разобраться исходя из чего были получены результаты. Но алгоритм от этого не перестаёт быть алгоритмом.
muxa_ru
А что именно Вы понимаете под словом "алгоритм"?
Rsa97
А вы?
Алгоритм - это заданный порядок действий. И LLM работает именно по фиксированному алгоритму, как во время обучения, так и во время работы.
muxa_ru
... дающих нужный и воспроизводимый результат.
Если у токаря каждый раз получается деталь с заданными характеристиками - это алгоритм.
Если деталь каждый раз непредсказуемо разная, то нет, не алгоритм.
Politura
LLM дают воспроизводимый результат, просто злые люди прикрутили к нему генератор случайных чисел. Но на самом деле это ее проблема для воспроизводимости вообще: задайте модели seed генератора и будете всегда получать один и тот-же результат на одинаковых данных
Rsa97
Если у токаря каждый раз получается одна и та же деталь, независимо от того, какой ему в этот раз дали чертёж, то у него, конечно, алгоритм, но этот алгоритм особого смысла не имеет.
По правильному алгоритму у него будет получаться деталь, соответствующая чертежу.
Так что, для начала надо определиться, что мы понимаем под "нужностью и воспроизводимостью", да и просто под результатом.
А так алгоритм может использовать в работе случайные числа, как тот же метод Монте-Карло. При этом результат будет нужный, правильный, но при каждом запуске немного другой.
flancer Автор
Любая программа, которая крутится внутри ЭВМ - алгоритм. Даже программный ГСЧ - алгоритм. Ну, как-то так сложилось исторически.
muxa_ru
Алгоритм это порядок действий, дающий нужный и воспроизводимый результат результат.
Не всякая последовательность действий это алгоритм.
Вы можете дать последовательность действий, как с помощью LLM получать нужный и воспроизводимый результат?
Если нет, то у нет алгоритма, вне зависимости от того, насколько закономерным является то, с чем мы пытаемся взаимодействовать.
Мячик летит по вполне закономерной и предсказуемой траектории, но если у нас нет последовательности действий, позволяющих попадать в кольцо, то у нас нет алгоритма попадания мячиком в кольцо.
Физика процесса есть, а алгоритма - нет.
Ну, либо можно рассказывать о том, что "на самом деле у меня есть алгоритм, но он в деревне у бабушки и мне его оттуда взять не разрешили".
flancer Автор
Да, не всякая. Вот такая:
Конечно могу. Только вы не поймёте. Ставите локально любую модель, подключаетесь к ней через отладчик и идёте пошагово от начала и до самого результата. Чтобы он был воспроизводимым, используйте программную, а не аппаратную реализацию ГСЧ.
Совершенно верно. Но если у вас есть последовательность действий, позволяющая попадать мячом в кольцо, то... у вас такой алгоритм. Попробуйте целиться лучше.
Рецепт приготовления борща - это алгоритм, так-то. Но совершенно очевидно, что для вас это не очевидно, ведь борщи в результате получаются не идентичными.
muxa_ru
И как при работе с LLM обстоят дела с :
- понятность
- детерменированность
- конечность
Они ведь есть?
flancer Автор
Да. Только не всем понятно. Про seed & temperature слышали, надеюсь? Вы же в курсе, для чего эти параметры существуют в моделях?
muxa_ru
А я где-то говорил про ИДЕНТИЧНОСТЬ результатов?
flancer Автор
Ну, про мячик в кольце - разве не ваше? Есть алгоритм бросания мяча сторону кольца, но если мы не попадаем в кольцо, то это и не алгоритм, типа:
Я ж вам написал выше - добавьте в алгоритм прицеливание. Получите алгоритм попадания, а не только бросания. И даже если попадание будет не 100% - это всё равно будет алгоритм.
Вы начните разговор с LLM с обсуждения понятия "алгоритм". Она начнёт вам возражать поначалу, а потом согласится. LLM во всём со всеми соглашается. Но вначале она вам выдаст "среднее по больнице" - то, на чём она обучалась. Вот это и будет общепризнанное на данные момент определение "алгоритма". Удачи!