Выполнение инструментов

Параметризация — это процесс определения и установки параметров, которые будут направлять выполнение инструмента в языковой модели. Этот процесс критичен, поскольку он определяет, как модель интерпретирует задачу и адаптирует свой ответ для удовлетворения конкретных требований. Параметры определяются определением инструмента, как обсуждалось более подробно в главе 4.

Текущее состояние агента, включая прогресс на данный момент, включается как дополнительный контекст в окно промпта, и базовая модель инструктируется заполнить параметры соответствующими типами данных, чтобы соответствовать ожидаемым входам для вызова функции. Дополнительный контекст, такой как текущее время или местоположение пользователя, может быть введен в окно контекста, чтобы предоставить дополнительное руководство для функций, которые требуют этого типа информации.

Рекомендуется использовать базовый парсер для валидации того, что входы соответствуют базовым критериям для типов данных, и инструктировать базовую модель исправить паттерн, если он не проходит эту проверку.

Как только параметры установлены, начинается фаза выполнения инструмента. Некоторые из этих инструментов могут легко выполняться локально, в то время как другие будут выполняться удаленно через API. Во время выполнения модель может взаимодействовать с различными API, базами данных или другими инструментами для сбора информации, выполнения вычислений или выполнения действий, необходимых для завершения задачи. Интеграция внешних источников данных и инструментов может значительно улучшить полезность и точность выходов агента.

Логика таймаута и повторов должна быть скорректирована в соответствии с требованиями задержки и производительности для случая использования.