@dialogai/dialog-supervisor

Dialog Supervisor

Агент-координатор, который либо ведет сам общение с пользователем на общие темы, либо переключает на диалоги со специализированными агентами, ответственными за ведение диалога на определенную тему или с заданной задачей.

Используемый промпт:

Ты являешься главным ассистентом, которому поручено вести диалог с пользователем. 
В процессе диалога ты привлекаешь помощников - ассистентов, которые ведут диалог на 
отдельно взятую тему, а также используешь инструменты, с помощью которых решаешь 
отдельные задачи.
Вот перечень помощников-ассистентов:
{0}

Вот перечень инструментов:
{1}

Исходя из вопросов или желаний пользователя ты либо вызываешь помощника-ассистента, 
и он сам ведет диалог, либо используешь представленные инструменты и ведешь диалог 
по этому поводу самостоятельно.

При создании экземпляра класса добавляется история общения, после которой, в свою очередь, добавляется следующий системный промпт:

Учитывая приведенный выше разговор, используй подходящий инструмент или помощника, 
или продолжай общение самостоятельно.

Создание экземпляра

const thread_id = ""; // Идентификатор диалога
const systemPrompt = ""; // Стартовая инструкция. Необязательный параметр.
const supervisor = new DialogSupervisor(thread_id, {systemPrompt})
// Дополнительные данные идут как объект с конфигурацией. 

Пример использования в контексте телеграм-бота:

async function get_supervisor(ctx) {
    let userUuid = await getUser(ctx),
        supervisor = new DialogSupervisor(userUuid);
    GettingUserProfileDialog.buildFor(supervisor); // Добавляется экземпляр диалога
    await supervisor.build();
    return supervisor;
}

Свойства класса:

- tools         - массив инструментов @langchain/core/tools.DynamicStructuredTool
- dialog_tools  - массив инструментов, связанных с отдельными диалогами @dialogai/dialog-class.{Dialog}
- dialogs       - массив задействованных диалогов, которые подключены через dialog_tools.
                Используется для вспомогательных целей, если нужно получить доступ к 
                данным диалога в процессе отладки
- app           - объект langchain CompiledStateGraph - скомпилированный граф данного ИИ-агента
- thread_id     - идентификатор основного диалога. Как правило указывается UUID пользователя
- systemPrompt  - стартовая инструкция агента.
- config        - Объект вида { configurable: { thread_id: this.thread_id } }, используемый
                для считывания и идентификации состояния диалога из хранилища (checkpointer).
- is_active     - boolean (default true). В случае True - агент ведет диалог от своего имени,
                в ином случае подключает вспомогательный диалог. 

Методы класса

Основные:
- build()           - вызывается ПОСЛЕ того, как к агенту подключены все иснтрументы и диалоги.
                    1. Компилирует граф для агента
                    2. Восстанавливает состояние данных из хранилища
- invoke(message)   - Обрабатывает сообщение пользователя. Параметр message: string | undefined
                    Подробнее см. описание ниже.
- reg_tool
- reg_dialog_tool   - методы регистрации инструментов и диалогов, используемые в агенте. 
- getObserver       - метод передачи наблюдателя, который наблюдает за вспомогательным диалогом.
                    См. раздел "SupervisorObserver".
 
Вспомогательные методы:
- get_state         - получить данные текущего состояния диалога
- get_system_prompt - получить текст системного соообщения (с уже подставленными данными
                    об инструментах)
- store / restore   - сохранить/восстановить метаданные диалога (на данном этапе сохраняется 
                    только поле  is_active, остальные данные хранятся в checkpointer

Особенности работы метода invoke(message)

При запуске метода возможны следующие варианты:

1. Диалог инициируется в первые, причем диалог начинает сам агент. В этом случае message = undefined. При этом если история общения (checkpointer) пустая, то null направлять нельзя, соответственно, агенту направляется следующий промпт:

SystemMessage('Пользователь только что начал диалог. Расскажи ему, что ты умеешь, и предложи
начать со знакомства и рассказа о его профессиональном опыте и интересах. Если он согласится, 
задействуй соответствующего помощника из тех, которые тебе доступны.')

1. Диалог уже был начат ранее. В этом случае проверяется значение поля is_active:

   • true - общение ведет супервайзор
   • false - общение идет в отдельном диалоге

   Исходя из значения этого поля либо агент общается сам, либо восстанавливает работу соответствующего вспомогательного диалога и инициирует его.

Разница между tool и dialog_tool

tool - стандартный инструмент, используемый в ИИ-агентах. Граф взаимодействия agent -> tool -> agent, предусматривает, что агент возвращает пользователю результаты выполнения соответствующей функции.

dialog_tool - инструмент, в основе которого работает отдельно настроенная LLM. В этом случае граф взаимодействия agent -> dialog_tool -> END, поскольку dialog_tool перехватывает диалог.

SupervisorObserver

Используется в качестве наблюдателя (паттерн программирования "Observer") от "супервайзера" при работе отдельного вспомогательного диалога. Является наследником класса Observer из библиотеки @dialogai/dialog-observers

Используемый промпт:

Сейчас диалог ведется от имени помощника, который {0}
Ниже в блоке, ограниченном символами === представлено текущее сообщение пользователя.
Твоя задача - определить, хочет ли пользователь перейти к диалогу на другую тему, 
за которую отвечает другой помощник, или хочет воспользоваться каким-то из инструментов.
===
{1}
===

Ответь "False", если сообщение пользователя не содержит желания перейти к другому диалогу 
или решать другую задачу.
Если пользователь хочет перейти к диалогу на другую тему, за которую отвечает другой помощник,
или хочет воспользоваться каким-то из инструментов, верни имя этого помощника или инструмента. 
Или верни "САМОСТОЯТЕЛЬНО", если запрос пользователя не относится к какому-то из твоих помощников 
или инструментов.
Больше ничего не отвечай.

В плейсхолдер {0} подставляется описание (description) для соответствующего dialog_tool, которое обычно (и этого нужно придерживаться) начинается со слов: "Используется для...".

Создание экземпляра

При создании экземпляра наблюдателя в качестве параметра передается экземпляр "супервайзора", от имени которого работает наблюдатель. Например, метод getObserver класса DialogSupervisor выглядит следующим образом:

getObserver(){
    return new SupervisorObserver(this);
}

Свойства и методы класса

Класс наследует свойства класса Observer, дополнительно в нем предусмотрено свойство supervisor. Также в классе переопределяется метод pre_check, который анализирует пользовательское сообщение. В случае, если наблюдатель посчитает, что пользователь хочет переключиться на другую задачу или прервать выполнение текущей задачи, наблюдатель выполняет следующие действия:

• Присваивает значение true свойству is_interrupted текущего диалога и свойству is_active "супервайзора".
• Запускает метод invoke в экземпляре "супервайзора", с передачей в него сообщения пользователя.
• Присваивает полученный ответ "супервайзора" свойству interruption_message текущего диалога.

Свойство is_interrupted дает текущему диалогу сигнал прекратить работу и вернуть значение свойства interruption_message.