С нуля до чипа: программирование FPGA на t27 +7
Публикации с тегом квантование
Как Splash ускоряет локальные LLM на Mac +7
CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами +5
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт +10
12 ГБ VRAM и WAN 2.2 I2V‑A14B: как заставить RX6700XT генерировать видео неограниченной длины +8
Сайзинг RAM и vCPU для локальной языковой модели: считаем стартовый размер VM
Qwen3.8. MTP и тензорный параллелизм в llama.cpp: 75 ток/сек на двух RTX 3090 +16
Селф-хост на RTX PRO 6000, продолжение: 2-битный DeepSeek V4 Flash x Ornith1.5-35B, как оно? +3
RGB‑значения нужно нормализовать делением на 255 или на 256? +27
Квантование ломает вызов инструментов не так, как показывает BFCL: проверил на MCP-серверах +5
Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM +7
Всё, что вы хотели знать про локальные LLM, но боялись заинференсить +11
4.6-битные сети: от теории к практике. Причём здесь HardTanh? +5
Как оптимизировать LLM-инференс в 2026 году +18
- GPGPU
- Блог компании Cloud.ru
- Машинное обучение
- Параллельное программирование
- DevOps
- Искусственный интеллект
