Запускаем GPT-OSS-120B на 6 Гб GPU и ускоряем до 30 t/s. Вам нужна RAM, а не VRAM. Параметр -cmoe для ускорения MoE LLM +64
Все публикации
Психосоматика: до чего можно «доработаться» в IT +1
Компилер-пассы и тегированные локаторы: делаем плагинную архитектуру на DI +1
Front & Back End инновационного процесса +2
«Разработка алгоритма программного управления пространственной ориентацией КА» +2
Как мы в Авито обучили ML-модель находить «договорённости» без данных о сделках +22
IT-отдел не пит-стоп, а болид F1 +2
systemd-nspawn: запускаем FidoIP на Arch Linux +9
Эволюция и применение диффузионных моделей -1
Изучаем Python: модуль Pytest для начинающих с домашним заданием +3
«Машина останавливается»: как в антиутопии 1909 года появились утонувшие в соцсетях хикки на самоизоляции? +73
Собеседование QA-инженера: 5 вещей, к которым нужно быть готовым +2
«Бессмысленный» запрет сингулярности +4
Подключаем нейронки в n8n без иностранной карты +3
Что может запомнить клетка? +4
