Запускаем LLM локально на Windows: WSL2, Docker, CUDA и vLLM +4
Публикации с тегом CUDA
ROUGE‑V: как я транслировал CUDA/PTX в LLVM IR и запускал его без CUDA runtime +3
Локальные нейросети без Python, CUDA и терминала: делаю программу, в которой всё настраивается само +19
Построение карты проходимости на GPU по данным RGB-D камеры & лидара +4
Маленькие тонкости большого дела +2
Что значит развернуть LLM локально: два дня с vLLM, DGX Spark и настоящими ограничениями +7
753B на одной видеокарте: разбор FreeToken +9
Таинственный остров: находим геолокацию с помощью геометрии и программирования GPU CUDA +19
Как найти остров по одной фотографии: геолокация через геометрию и CUDA +10
MoE на 5090 недобирает полтора раза, и дело не в маршрутизации +4
NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана? +6
Подводные камни ИИ-инфраструктуры: что узнаёт заказчик через полгода после запуска (и как мы предусмотрели это в ПАК) +15
- Блог компании Группа Rubytech
- Высоконагруженные системы
- Искусственный интеллект
- Kubernetes
- IT-инфраструктура
Python: как один из самых медленных языков стал королем нейросетей +24
Перенёс ByteTrack на GPU и ускорил мульти-камерный трекинг в 6 раз +5
Запуск и оптимизация локальной LLM с llama.cpp +9
