Normal view
DoorDash said it’s only received ‘several hundred’ orders from AI agents
-
Все публикации подряд на Хабре
- Виртуальные сотрудники под контролем: как ограничить автономных ИИ-агентов
Виртуальные сотрудники под контролем: как ограничить автономных ИИ-агентов
Очевидный факт: ИИ-агент умеет действовать самостоятельно — запускать программы, управлять файлами и часами напролет последовательно решать поставленную задачу.
Вроде бы новый дивный мир разработчика, но есть проблема: чем больше у агента свобод, тем больше это сулит проблем. Летом 2026 года агенты OpenAI покинули песочницу и пошли работать в интернет, попутно атаковав HuggingFace.
Инцидент поставил перед ИИ-инженерами задачу: нужно найти способ ограничить агентов, чтобы те ни при каких обстоятельствах не могли покинуть изолированные среды. Но агенты хитрые и очень быстро находят способы обойти даже самые жесткие правила. Однако есть одно слабое место.
Сегодня поговорим о системе Hard Stop, предложенной в одноименной научной работе. Это стоп-кран между агентом и ОС, который должен остановить процессы агента раньше, чем тот успеет навредить.
Читать далее-
Все публикации подряд на Хабре
- Пайпы OpenWebUI: зачем писать код там, где «всё уже есть в настройках»
Пайпы OpenWebUI: зачем писать код там, где «всё уже есть в настройках»
Настроить кастомную модель с инструментами и RAG в OpenWebUI — легко. Заставить её работать предсказуемо в бою — сложнее. Наш бот техподдержки на Gemma 4 сначала отвечал правдоподобно, но без данных из систем. Мы разобрались, почему это происходит, и превратили «одну модель в интерфейсе» в детерминированный конвейер с помощью пайпов.
Читать далее-
Все публикации подряд на Хабре
- Workflow as a YAML: детерминированная песочница для агента поверх Pydantic AI
Workflow as a YAML: детерминированная песочница для агента поверх Pydantic AI
Агент уже пишет код за нас, но с автоматизацией для бизнеса всё иначе: он косячит на каждом шаге, в JSON-трейсе тысячи вызовов, а переписанный промпт вы даже не заметите. Я перестал перепроверять агента вручную — загнал его в жёсткие рамки: wrapper над Pydantic AI, MCP-инструменты, скиллы и Studio с отладчиком. Рассказываю, почему иначе нельзя, и показываю код.
Читать далее-
Все публикации подряд на Хабре
- Агент повесил Bash одной кавычкой. Как детерминированный FSM спасает CLI-рантаймы
Агент повесил Bash одной кавычкой. Как детерминированный FSM спасает CLI-рантаймы
Представьте: ваш автономный агент генерирует команду для терминала, но ошибается на один символ. Шелл уходит в бесконечное ожидание, а процесс агента намертво зависает. Сегодня разберём, почему регулярки не спасают от этой боли, и покажем, как детерминированный конечный автомат (FSM) на хуке PreToolUse снимает проблему на уровне инфраструктуры.
Читать далееHarness для коллег: 5 шагов из личного опыта
Обвязку для агента сейчас собирают многие. Насмотрелся шортсов, накидал скиллов, подключил MCP, и вот ты весь обвязанный. Моя прошла эту стадию год назад и с тех пор обросла инструментами, проверками и базой знаний. Работала она безотказно, пока пользователь был один. Стоило отдать её коллегам, и она сломалась. Главной её частью оказался...
Читать далееПять месяцев приручал GoClaw. В итоге плюнул и написал свою систему
Или о том, почему десять пользователей иногда полезнее тысячи звёзд на GitHub.
Пять месяцев я пытался собрать из существующих open-source-компонентов нормальную управляемую среду для корпоративной разработки с ИИ-агентами. Разобрался во всех сортах этого добра, и в итоге пришлось написать свое.
Читать далее-
Все публикации подряд на Хабре
- Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах
Маршрутизатор языковых моделей изнутри. От вектора задачи до судьи и обучения на отзывах
Раннее мы описывали библиотеку FAIRouter для маршрутизации запроса к оптимальному исполнителю. В текущей редакции поддерживаются только LLM, но класс исполнителей планируем расширять также на инструменты и агентов. Но тема того какая математика стоит за всем этим осталась не до конца раскрыта.
Читать далееHere are the top AI agents that can live in your text messages
Left alone with nothing to do, AI agents started playing
-
TechCrunch
- 1Password launches a way for AI agents to log in on your behalf without seeing your password