Комментарии (3)

1. 

   gmtd

   21.06.2025 01:42

   #28465236

   Какая LLM позволит дать ответ в точности с переданной JSON схемой?

   
   

   1. 

      tripolskypetr Автор

      21.06.2025 01:42

      #28467548

      Так как шаблонизаторы движков open source языковых моделей не очень, я бы рекомендовал вам использовать для этого рекурсивный вызов инструмента с наводящими вопросами.
      
      Доверять параметру enum так же не стоит, он сериализуется на вход языковой моделе, но не проверяется движком, который запускает gguf, на своей стороне

      import {
        addTool,
        commitToolOutput,
        commitToolOutputForce,
        execute,
        Schema,
      } from "agent-swarm-kit";
      import { str, Subject } from "functools-kit";
      import { z } from "zod";
      import { ToolName } from "src/enum/ToolName";
      import commitAppAction from "src/utils/commitAppAction";
      import { IPizzaOrder } from "src/model/interfaces";
      
      // См https://deepwiki.com/tripolskypetr/functools-kit/3.2-subject-and-behaviorsubject
      const pizzaSubject = new Subject<{ district: string; size: string; clientId: string }>()
      
      // Список районов Москвы
      const MOSCOW_DISTRICTS = [
        "АРБАТ",
        "БАСМАННЫЙ",
        "ЗАМОСКВОРЕЧЬЕ",
        "КРАСНОГОРСК",
        "ПРЕСНЕНСКИЙ",
        "ТАГАНСКИЙ",
        "ТВЕРСКОЙ",
        "ХАМОВНИКИ",
        "МЕЩАНСКИЙ",
        "ЯКИМАНКА",
      ];
      
      // Доступные размеры пиццы в сантиметрах
      const PIZZA_SIZES = [25, 30, 35, 40];
      
      addTool({
        toolName: ToolName.OrderPizzaTool,
        type: "function",
        call: async ({ toolId, clientId, agentName, params }) => {
          const { district, size } = params;
      
          // Проверка наличия района
          if (!district) {
            await commitToolOutput(
              toolId,
              "Пожалуйста, укажите район Москвы для доставки пиццы",
              clientId,
              agentName
            );
            await execute(`Узнай недостающие данные и вызови инструмент ${ToolName.OrderPizzaTool} еще раз!`, clientId, agentName);
            return;
          }
      
          // Проверка наличия размера
          if (!size) {
            await commitToolOutput(
              toolId,
              "Пожалуйста, укажите размер пиццы в сантиметрах",
              clientId,
              agentName
            );
            await execute(`Узнай недостающие данные и вызови инструмент ${ToolName.OrderPizzaTool} еще раз!`, clientId, agentName);
            return;
          }
      
          // Проверка валидности района
          if (!MOSCOW_DISTRICTS.includes(String(district).toUpperCase())) {
            await commitToolOutput(
              toolId,
              str.newline("Доставка возможна только в следующие районы:", MOSCOW_DISTRICTS),
              clientId,
              agentName
            );
            await execute(`Попроси пользователя указать верный район для доставки. Как получишь новый район, вызови инструмент ${ToolName.OrderPizzaTool} еще раз`, clientId, agentName);
            return;
          }
      
          // Проверка валидности размера
          if (!PIZZA_SIZES.includes(Number(size))) {
            await commitToolOutput(
              toolId,
              str.newline("Доступны только следующие размеры пиццы (в см):", PIZZA_SIZES),
              clientId,
              agentName
            );
            await execute(`Попроси пользователя указать верный размер пиццы. Как получишь новый район, вызови инструмент ${ToolName.OrderPizzaTool} еще раз`, clientId, agentName);
            return;
          }
      
          // Сохранение данных заказа в памяти для последующих заказов
          await Schema.updateSessionMemory(clientId, {
            district: district,
            size: size,
          });
      
          // Логирование параметров заказа
          console.log(`Заказ пиццы: Район - ${district}, Размер - ${size} см`);
      
          // Отправка действия для обработки заказа
          await pizzaSubject.next({ clientId, district, size })
      
          // Уведомление об успешном оформлении заказа
          await commitToolOutput(
            toolId,
            str.newline(["Заказ пиццы успешно оформлен. Перейди к оплате."]),
            clientId,
            agentName
          );
          await execute(`Заказ сформирован успешно. Более не вызывай инструмент ${oolName.OrderPizzaTool}`, clientId, agentName);
        },
        function: {
          name: ToolName.OrderPizzaTool,
          description: "Инструмент для заказа пиццы с доставкой по Москве",
          parameters: {
            type: "object",
            properties: {
              district: {
                type: "string",
                description: "Район Москвы для доставки пиццы",
                enum: MOSCOW_DISTRICTS,
              },
              size: {
                type: "number",
                description: "Размер пиццы в сантиметрах",
                enum: PIZZA_SIZES,
              },
            },
            required: ["district", "size"],
          },
        },
      });

      Вам потребуется использовать этот код внутри context scope, чтобы задать отдельный subject на каждый запрос пользователя. Более подробно по ссылке

   
   

   1. 

      S_A

      21.06.2025 01:42

      #28469180

      посмотрите outlines. ollama его поддерживает из коробки.

      про plutus не знал, надо смотреть