Оркестрация (Orchestration)

Теперь, когда у вашего агента есть набор инструментов, которые можно использовать, пришло время оркестрировать их для решения реальных задач. Оркестрация включает в себя больше, чем просто решение о том, какие инструменты вызывать и когда — она также требует построения правильного контекста для каждого вызова модели, чтобы обеспечить эффективные, обоснованные действия. В то время как простые задачи могут требовать только одного инструмента и минимального контекста, более сложные рабочие процессы требуют тщательного планирования, извлечения из памяти и динамической сборки контекста для точного выполнения каждого шага.

В этой главе мы рассмотрим стратегии оркестрации, инженерию контекста, выбор инструментов, выполнение и топологии планирования для создания агентов, способных эффективно и надежно обрабатывать реалистичные многошаговые задачи.

Оркестрация — это то, как система использует доступные ей ресурсы для эффективного решения пользовательского запроса. Она координирует вызовы базовых моделей, внешних и локальных инструментов, а также различных баз данных для получения дополнительной информации.