Публикации с тегом инференс
Ловушка дешевого GPU: почему цена за час ничего не говорит о реальных затратах на ИИ‑проект +3
«Давайте просто развернём свою LLM на 1Т параметров»: что пришлось построить вокруг неё в Битрикс24 +28
Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1 +60
Что делать, если доступ к Claude пропал, а на нем уже завязан рабочий процесс? +2
Память, которая сама обрабатывает данные: как устроена LPDDR5X‑PIM +6
- Блог компании mClouds.ru
- Компьютерное железо
- Читальный зал
- Искусственный интеллект
- IT-инфраструктура
LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026 +6
Купил мини‑ПК с приставкой «AI» ради локальной LLM. Что может NPU на самом деле +92
Битва поколений: сравниваем Qwen3.5 и Qwen3.6 в локальном инференсе. Новое не всегда лучше +11
CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами +5
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт +10
Российский нейрочип от НТЦ «Модуль» +36
Векторный поиск: деплой без GPU на Triton Inference Server +5
Open‑weight LLM догнали закрытые? Проверка на продакшене +5
- Блог компании OTUS
- Машинное обучение
- Искусственный интеллект
- Natural Language Processing
- Open source
Давай по новой, Миша: speculative decoding от черновика до проверки +5
