По данным Beating, OpenRouter запустил серверный агентный инструмент 'openrouter:subagent' в бета-тестировании. Он позволяет крупным языковым моделям делегировать подзадачи более мелким, дешёвым и быстрым альтернативным моделям при генерации контента. Когда основная модель сталкивается с самодостаточными задачами, не требующими её полных возможностей — например, суммированием документов, извлечением структурированных данных, черновиками по шаблонам и форматированием текста, — она может вызвать инструмент, указав название задачи и описание. Делегированная задача выполняется моделью-воркером, которая возвращает результат обратно в основную модель для интеграции.
Модели-воркеры могут быть любыми моделями, поддерживаемыми OpenRouter, и наследуют основную модель, если она не указана явно. Они могут получать доступ к серверным инструментам, таким как веб-поиск и веб-скрейпинг, для многошагового рассуждения перед генерацией итогового вывода. Чтобы предотвратить бесконечную рекурсию и перерасход средств из-за вложенных вызовов, OpenRouter внедрил двойные меры защиты: запрещение самоссылок в определениях инструментов и ограничение максимальной глубины вложенности через заголовки запросов, а также установку лимита на общее число выполнений задач в рамках одного API-запроса.
Связанные новости