Привет, Хабр! Обычно материалы о разработке агентов посвящены успешному успеху: «Мы выбрали лучшую модель, собрали агента, подключили инструменты — и все заработало». Но недавно мне попался отчет о создании ИИ-агента Shippy, где авторы честно рассказали о сложностях проекта и ограничении технологии ИИ. Предлагаю разобрать, как же удалось их преодолеть.

Спойлер: главная проблема даже не в том, что модель плохо работает с API, файлами или последовательностями действий, а в том, что от нее требовали поведения, для которого вероятностная модель плохо подходит: помнить множество правил, надежно выполнять детерминированные операции и самостоятельно контролировать корректность собственных действий. Как только эту строгую часть выделили в отдельный слой, дело пошло на лад.