Масштабирование LLM: от одного чипа до ЦОДа. Глава 3. Сколько ресурсов нужно для LLM?
Публикации с тегом видеокарты
DRAйверы для GPU: как Kubernetes научился выделять устройства через стандартный API
20 лет видеокарт в цифрах: как росли FLOPS и TDP и кто вёл в дуэли NVIDIA vs AMD (+ открытый датасет на 13 500 GPU)
Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 3 — Запуск локальных моделей ИИ
Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг
Китайцы ответили на H200 — обзор Zhenwu M890 от Alibaba
- Блог компании Selectel
- Видеокарты
- Компьютерное железо
- IT-инфраструктура
- Производство и разработка электроники
LLM-инференс на фотонах? Препарируем передовые технологии, представленные в апреле
Как развернуть Mistral 7B на GPU-сервере через vLLM
GDDRHammer и GeForge— анатомия атак, превративших видеопамять в оружие
Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?
Зачем AMD это сделали? Instinct MI350P на 144 ГБ
Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 2 — Тестирование в бенчмарках и играх +1
SpaceX собирается выпускать собственные GPU +17
Мы уткнулись в потолок. Почему видеокарты перестали быстро расти — и что с этим делать +4
Обзор серверного ускорителя NVIDIA Tesla V100 16 Gb в корпусе от RTX 4090: Часть 1 — Внешний вид, установка и настройка +7
