Skip to main content

Конфигурация использования инструментов

API базовых моделей от OpenAI, Anthropic, Gemini и других позволяют вам явно контролировать использование инструментов моделью через параметр tool-choice — переходя от гибкого вызова, управляемого базовой моделью, к детерминированному поведению. В режиме "auto" модель решает, вызывать ли инструменты на основе контекста; это хорошо для общего использования. В отличие от этого, "any"/"required" заставляет модель вызвать по крайней мере один инструмент, идеально, когда выход инструмента необходим. Установка этих параметров в "none" блокирует все вызовы инструментов — полезно для контролируемых выходов или тестовых окружений. Некоторые интерфейсы даже позволяют вам закрепить конкретный инструмент, обеспечивая предсказуемые, повторяемые потоки. Выбирая соответствующий режим, вы решаете, позволить ли базовой модели гибко управлять задачами или навязать структуру — балансируя гибкость, надежность и предсказуемость.

Обработка ошибок и отказов​

Даже лучшие агенты могут ошибаться — пропускать необходимые вызовы инструментов, выводить недопустимый JSON или запускать инструменты, которые выдают ошибки — поэтому вам нужны надежные механизмы отката и постобработки. После каждого ответа модели проверяйте, вызвал ли он правильные инструменты, произвел ли валидный JSON и успешно ли выполнился без ошибок времени выполнения. Если что-то сломается, ответьте корректирующим потоком:

  • Валидируйте сначала, используя вашу схему (например, через jsonschema или Pydantic). Это ловит отсутствующие поля или неправильно сформированные структуры. Если инструмент был пропущен, запустите его автоматически; если JSON недопустим, попросите модель исправить его.

  • Повторяйте интеллектуально, используя структурированную логику, такую как экспоненциальная задержка для временных сбоев, или регенерируйте только проблемную часть вместо перезапуска всего обмена.

  • Откатывайтесь корректно, когда повторы терпят неудачу. Варианты включают переключение на резервную модель или сервис, запрос уточнения у пользователя, использование кэшированных данных или возврат безопасного значения по умолчанию.

  • Логируйте все — промпты, вызовы инструментов, ошибки валидации, повторы, откаты — для наблюдаемости, отладки и непрерывного улучшения.

Валидируя выходы, повторяя стратегически и корректно откатываясь — все время логируя каждый шаг — вы преобразуете случайные сбои в управляемое, предсказуемое поведение. Этот сдвиг необходим для предоставления надежных, готовых к производству агентов.