Техно‑аквариум в стиле адской Обители: запускаем локальную LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта +2
Публикации с тегом локальные нейросети
Домашний ИИ: простой способ добавить «интеллект» своему компьютеру +11
Локальные нейросети без Python, CUDA и терминала: делаю программу, в которой всё настраивается само +19
Как я выбирал локальную модель для кодинга на 16 ГБ VRAM — и трижды менял победителя +7
Qwen3.8. MTP и тензорный параллелизм в llama.cpp: 75 ток/сек на двух RTX 3090 +16
8 open-source AI-проектов, которые могут заменить часть платного софта -1
Тест Qwen3.5 9b, Gemma 4 12b и Bonsai 27b на легенде пенсионного возраста GTX 1080 ti +5
Я печатаю медленнее, чем думаю: локальная диктовка на Whisper для Windows, телефона и Telegram +16
DeepSeek 0731 на DGX Spark: разгоняю до 68 tok/s и разбираюсь, почему у автора карточки 57 +7
Сколько на самом деле стоит решённая задача: считаем экономику self-hosted моделей vs API токены +15
Как утки с СДВГ довели меня до опенсорса: зачем я собрал утилиту для перевода коротких видео на домашней видеокарте +7
Выжать больше из локальных LLM. Ollama медленнее llama.cpp в 3 раза. UD_Q4_K_XL лучше чем Q4_K_M, а вес тот же и т.д +162
Сборка дешевого домашнего вычислительного кластера на двух процессорах и 6 «почти» RTX3080 +29
Запускаем настоящую DeepSeek R1 671B на игровом ПК и смотрим вменяемая ли она на огромном контексте (160к) +128
Представлена языковая модель Mistral Large 2 размером 123B. Как запускать. Локальный Сopilot. Открытый конкурент GPT-4o
