vLLM vs LMDeploy vs Triton: обзор бэкендов для инференса LLM +35
Публикации с тегом triton-inference-server
От 0 до 10 миллионов ИИ-проверок в месяц: как мы продуктивизировали CV в Пятёрочке за 8 месяцев +15
- Блог компании X5 Tech
- Машинное обучение
- Искусственный интеллект
- Обработка изображений
- Высоконагруженные системы
От 0 до 10 миллионов ИИ-проверок в месяц: как мы продуктивизировали CV в Пятёрочке за 8 месяцев +2
- Блог компании X5 Tech
- Машинное обучение
- Искусственный интеллект
- Обработка изображений
- Высоконагруженные системы
ASR на CPU. Как выбрать бэкенд, настроить Triton и не потерять в точности +11
- Блог компании MWS AI
- Блог компании МТС
- Блог компании Конференции Олега Бунина (Онтико)
- Машинное обучение
- Natural Language Processing
ASR на CPU. Как выбрать бэкенд, настроить Triton и не потерять в точности +14
- Блог компании MWS AI
- Блог компании МТС
- Блог компании Конференции Олега Бунина (Онтико)
- Машинное обучение
- Natural Language Processing
Как мы автоматизировали модерацию карточек товаров с помощью Computer Vision в Wildberries +7
- Блог компании Wildberries & Russ
- Блог компании Конференции Олега Бунина (Онтико)
- Big Data
- Искусственный интеллект
- Машинное обучение
PyTriton inference server c Gradio: быстро и просто делаем демо для ML-проектов +1
