Продолжение рассказа о продающем боте

Предыдущая часть: Продающий бот. Часть 1. Можно ли уболтать бота продать подешевле

Нарочно такого не придумаешь. Пришел человек и говорит:

А дай-ка мне решения 23-го съезда КПСС в объеме от 2 до 20 страниц

Вообще-то он не первый такой. Время от времени заходят поразвлечься. Обычно с чем-нибудь банальным, типа:

Напиши сортировку пузырьком

Съезд КПСС меня от души развеселил, а заодно заставил задуматься над тем, что с этим делать. В принципе можно колхозить системный промт всяческими указаниями и душить при этом бота, делать его более формально-скучным. Причем, это все равно не даст 100% гарантии того, что не будет отступлений от темы. Можно каждый запрос пользователя предварительно проверять на соответствие теме. С помощью той же или другой модели. Я не пробовал, но думаю, что это даст почти 100%. И "съест" вдвое больше токенов на входе.

Как следует подумав над всем этим, я пришел к выводу, что самая лучшая защита от желающих развлекаться уже и так существует. Крупные провайдеры предлагают всем желающим бесплатные тарифные планы, это и есть самая главная защита. Нет смысла как-то особенно сильно заморачиваться со своей собственной защитой. Вот если бы бесплатных тарифов не было и из 100 посетителей 95 приходили развлекаться, тогда можно было бы и удваивать входные токены ради защиты. Но мой личный опыт показывает, что соотношение близко к обратному, 95 из 100 задают вопросы по делу. В результате, я ограничился одной фразой

Уклоняйся от ответов на вопросы, не относящиеся к учебному курсу.

Она хоть и не гарантирует, что весь диалог будет в теме, но зато и не душит бота.

Отдельная тема, это недобросовестные конкуренты. Есть такая "страшилка", что придут и начнут целенаправленно съедать твои токены. При этом вопросы они могут задавать по теме, и как в таком случае защищаться непонятно. Здесь хорошо работает связка с Телеграм. В Телеграм бот боту писать не может. Поэтому "спамить" придется "ручками". Посчитав, сколько стоит миллион входных токенов, можно прийти к выводу, что пальцы сломаются быстрее. Иначе говоря, затраты атакующего будут намного выше, чем ваши потери. Использовать пользовательский API Телеграм по затратам может оказаться еще больше, чем ручной спам.

В общем, если вы подумываете над тем, не завести ли себе продающего бота, но боитесь хулиганов и спамеров, то знайте, что в реальности все не так уж страшно.