Думаю, если вы переключаетесь между вкладками для использования различных моделей, вы, вероятно, чувствовали некоторое раздражение и задавались разными вопросами. Например, где хранятся ваши запросы? Какая модель лучше всего подходит для задачи? Как сделать так, чтобы ваши лучшие промты можно было использовать повторно? Именно эти проблемы пытается решить Chatbox. 

В сегодняшнем туториале мы рассмотрим установку Chatbox, подключение к нему API BotHub и, конечно же, ответим на самый базовый вопрос - как им пользоваться?

Присаживайтесь поудобнее, а я начну свое повествование.

Вводные данные

Перед переходом к самой инструкции, по-моему, стоит узнать некоторую информацию - чтобы понимать, что именно мы сегодня рассмотрим.

Chatbox

Начну, собственно, с предмета нашего сегодняшнего внимания. Chatbox - опенсорсный десктопный клиент для чат-ботов. Изначально проект задумывался как инструмент для отладки промтов, но быстро вырос в полноценное приложение благодаря активному сообществу.

Что он может? Приложение обладает локальным хранилищем данных, позволяющим сохранять все ваши диалоги и промты. Что касается последних, Chatbox имеет расширенную библиотеку, позволяет цитировать сообщения и подсвечивать синтаксис кода. Приложение поддерживает множество моделей, включая встроенную интеграцию с DALL-E 3 для создания изображений.

Кроме компьютерной версии и веб-версии, существует также мобильное приложение, обеспечивающее одинаковый опыт использования на всех устройствах. 

API

Набор правил и способов, с помощью которых разные сервисы взаимодействуют друг с другом. Грубо говоря, он выполняет роль посредника, позволяя приложениям обмениваться данными и функциями.

В данном конкретном случае выглядит это следующим образом: агрегатор нейросетей предоставляет доступ к моделям, а мы уже через Chatbox будем ими пользоваться.

Принцип работы тоже достаточно прост, если не углубляться в детали. Сначала приложение формирует запрос, который принимает API, передает целевому сервису, после чего запрошенные данные возвращаются обратно в приложение и отображаются через пользовательский интерфейс.

Инструкция

Минимальные данные для понимания, о чем дальше пойдет речь, получены. Теперь можем приступить к самой инструкции - начиная с установки Chatbox.

Многие наверняка возразят: мол, все давно установлено, пора переходить к конкретным инструкциям. Если вы из числа таких нетерпеливых - смело пропускайте первый и переходите сразу ко второму пункту

Шаг первый - установка Chatbox

На самом деле, для использования Chatbox необязательно устанавливать само приложение - можно воспользоваться простым веб-сервисом. Но все-таки я считаю правильным именно установить его для полноценной работы. К тому же оба действия требуют минимум времени.

Чтобы скачать Chatbox на компьютер, переходим на официальный сайт и нажимаем привлекательную синюю кнопку.

После загрузки установочного файла подтверждаем установку и получаем помощника, до начала использования которого вас отделяют считанные секунды.

Кстати, сразу после запуска приложения в первый раз, да и в последующие пока вы не подключите API, у вас будет маячить уведомление о необходимости сделать привязку.

Сама стартовая страница, увы, мне недоступна, поскольку я уже использовал это приложение, однако внешний вид программы показать вполне возможно.

Шаг второй — получение API BotHub

Перед тем как подключить API‑ключ, нам нужно его получить. Поэтому пока сворачиваем приложение и отправляемся на сайт BotHub. Кстати, для тех, кто слышит об этом агрегаторе нейросетей впервые, даю ссылку, которая при регистрации подарит вам 100 000 капсов для экспериментов с различными моделями.

Переходя на сайт, мы оказываемся на главной странице. Открываем меню через три полоски в левом верхнем углу, переходим в раздел «Для разработчиков».

Мы окажемся в разделе с API‑ключом. Тем, кто уже использовал сервис, также покажут историю списания капсов на разные запросы. Создаем новый ключ и копируем его.

На этом все, быстро, просто и без особых мудренностей.

Шаг третий — подключение API BotHub к Chatbox

Из трех шагов, пожалуй, самый муторный — в плане количества действий. Возвращаемся обратно в приложение и кликаем на всплывающее окно, сообщающее о необходимости подключения API. Если такое сообщение отсутствует, не расстраиваемся и идем в настройки (кнопка находится в левом нижнем углу).

Сразу после нажатия на уведомление либо настройки нас перебрасывает в нужный раздел с поставщиками моделей. Игнорируем кучу предложений от различных провайдеров и щелкаем «Добавить».

В открывшемся окне даем произвольное имя (оно ни на что не влияет). А вот с выбором режима API все серьезно — устанавливаем «Совместимость с API OpenAI». Как я понял, параметр выставлен по умолчанию.

Нажимаем «Добавить» и оказываемся перед пустой формой.

В раздел для API-ключа вставляем ключ, полученный ранее на сайте BotHub. Далее, в поле ввода хоста API вносим следующую ссылку:

bothub.chat/api/v2/openai/v1/chat/completions

Конечно, неполноценная ссылка, однако приложение самостоятельно ее допишет до корректного вида.

Далее смотрим на область с моделями. Чтобы получить список доступных, кликаем соответствующую кнопку. Спустя короткое время получаем полный перечень моделей, которые предоставляются BotHub. Выбираем необходимые и добавляем их.

После добавления моделей становится активной проверка API-ключа. Щелкаем по кнопке и ждем подтверждения успешного соединения.

На этом инструкция по установке и подключению завершена. Если смотреть на веб-сервис, то порядок шагов там будет ровно такой же, конечно, пропуская мимо шаг с установкой приложения.

Использование Chatbox

Закрываем настройки и приступаем к использованию приложения. В левом боковом меню можно зайти в уже готовый чат, посмотреть примеры или просто создать новый.

Для демонстрации работы GPT-5 написал мне калькулятор. Мое вечное задание, над которым я иногда экспериментирую... Даже была вариация, чтобы по нажатию кнопки запускалась змейка.

На самом деле моя цель вовсе не демонстрация работоспособности. Важно показать именно ту функцию, о которой я говорил в самомначале — локальное хранилище данных, или архив. Эта штука действительно запала мне в душу, когда тестировал Chatbox.

Контекст ограничен шестью запросами, но это лишь на первый взгляд. В поле для ввода запроса есть значок настроек (три ползунка), в которых можно изменить ограничение вплоть до бесконечного контекста.

Бесконечный контекст - круто, однако чем больше он заполняется, тем больше денег будет списано. Нам это ни к чему? Именно для этого нужна архивация. Приложение структурирует всю информацию, выделяет основное и отправляет это в архив, сохраняя контекст в памяти, но снижая его объем.

Обратите внимание снова на поле ввода запроса: справа снизу есть выбор модели и количество занятых токенов. Сейчас видно значение около трех тысяч, но если нажать туда и выбрать архивацию, число уменьшится втрое.

При этом сам контекст беседы не будет утерян, а наши денежки сэкономлены. 

Кстати, заметил еще одну особенность: здесь не обязательно указывать роль, поскольку ее можно задать в тех же настройках, где регулируется контекст. Иными словами, окно настроек относится ко всему чату целиком, позволяя создавать сразу несколько чатов различной тематики.

Итог

Лично для меня Chatbox - действительно удобный клиент для чат-ботов. Убранное ограничение по контексту позволяет работать долгое время и не сталкиваться с проблемами потери памяти. В то же время архив, который выделяет ключевые вещи в вашей беседе, позволяет еще и сократить траты на большие диалоги.

Спасибо за внимание!