За одну неделю: Gemini получил право записывать людей к врачу, семья из Сиэтла подала иск к OpenAI за советы ChatGPT, а нейросети, как выяснилось, рекомендуют из пяти лекарств одно — то, у которого лучше SEO. Разбираю, что обязано появиться в интерфейсах сервисов про здоровье и как это проверять — по правилу, которым медицинские лаборатории живут каждое утро.

Очевидный факт: ИИ-агент умеет действовать самостоятельно — запускать программы, управлять файлами и часами напролет последовательно решать поставленную задачу.

Вроде бы новый дивный мир разработчика, но есть проблема: чем больше у агента свобод, тем больше это сулит проблем. Летом 2026 года агенты OpenAI покинули песочницу и пошли работать в интернет, попутно атаковав HuggingFace.

Инцидент поставил перед ИИ-инженерами задачу: нужно найти способ ограничить агентов, чтобы те ни при каких обстоятельствах не могли покинуть изолированные среды. Но агенты хитрые и очень быстро находят способы обойти даже самые жесткие правила. Однако есть одно слабое место.

Сегодня поговорим о системе Hard Stop, предложенной в одноименной научной работе. Это стоп-кран между агентом и ОС, который должен остановить процессы агента раньше, чем тот успеет навредить.

Как превратить личные эксперименты с ИИ в общую практику компании? Что поручить агенту, подключённому к базе 1С? Как руководителю поддерживать доверие и мотивацию команды? Эти вопросы вошли в программу «Открытого микрофона» на INFOSTART A&PM EVENT 2026.

В программе семь выступлений по 20 минут - о конкретных рабочих ситуациях, инструментах и проектном опыте.

Допустим, вы собрали тысячу программистов, дали им один репозиторий и одну задачу. Менеджера нет, тимлида нет, подзадачи никто не распределяет. О том, кто чем занят, в инструкции сказано только, что все равны и каждый решает сам. Госплана у нас нет, товарищи.

Звучит как странный эксперимент или неудачный стартап. Но исследователи из Microsoft Research проделали это на ИИ-агентах. В препринте Agensh до 1024 экземпляров одной модели шесть часов вместе воспроизводили поведение готовых программ, и никто ими не руководил. При этом рой показал результат лучше одиночки. Заодно сам завел у себя ревьюеров, интеграторов и регламенты.

Давайте разберемся, как это устроено, что измеряли и где в цифрах прячутся оговорки.

У моего агента и агента моего коллеги есть общий чат в мессенджере. Они обсуждают изменения в коде, задают друг другу вопросы и договариваются, в каком порядке вливать наши PR. Периодически (если не за ноутом) я открываю переписку, чтобы узнать, над чем сейчас идёт работа.

Правило можно прочитать, а привычку — только натренировать. На этой мысли держится «Кибердетектив» — браузерная игра, в которой сотрудники Авито расследуют атаки на вымышленную компанию. Компания выдуманная, а схемы атак настоящие: подделанный голос руководителя, счёт с домена «на одну букву мимо», шквал запросов MFA, чужой человек за незаблокированным ноутбуком.

Меня зовут Илья Никифоров, в Авито я отвечаю за Security Awareness в команде GRC: обучаю сотрудников, провожу учебные фишинговые рассылки, занимаюсь безопасностью генеративного ИИ. Я не разработчик и никогда не делал игр. «Кибердетектива» я придумал и собрал сам за 74 дня: код, тесты и ревью делали ИИ-агенты, а коллега помог превратить прототип в сервис компании.

Расскажу, что получилось, на каких реальных атаках построены задания, как распределялась работа между мной и нейросетями и как всё устроено внутри — для тех, кому интересен код. И почему считаю, что сегодня человек не из разработки может сделать полезный продукт в своей области.

Для экспериментов с ИИ в AppSec необязательно покупать облачную подписку. Модель можно запустить на рабочей станции, связать с анализаторами кода и поручить ей часть исследования. Открытые инструменты-обвязки позволяют настраивать такую работу под своё приложение. Таким образом, у команды появляется выбор, какие данные передавать модели, где их обрабатывать и насколько самостоятельной делать проверку.

Впрочем, установить модель заметно проще, чем понять, какую работу ей стоит доверить и как её организовать. Разобрать сообщение сканера, восстановить путь пользовательских данных или провести многошаговое исследование приложения – это всё задачи разного масштаба. Если сразу поручить небольшой локальной модели весь аудит, то по результату такого эксперимента будет трудно судить, какие отдельные задачи она способна решать.

Поиск подходящих задач связан и с организацией проверки. Открытые инструменты позволяют менять её под своё приложение и понимать, какие решения повлияли на результат. Постепенно у команды складывается собственная методика работы с ИИ, которую можно уточнять и применять в следующих проектах.

В этой статье мы сначала проследим, как появились эти возможности, а затем рассмотрим локальные сценарии AppSec и последствия свободного выбора моделей и инструментов.

Наша команда маркетинга активно использует «ИИ-оркестр» для генерации текстового и графического контента на сайте. При этом мы стараемся выдержать баланс рукописного и сгенерированного контента, чтобы транслировать для пользователей только качественный материал. Рассказываем, как нам удалось повысить эффективность и сократить расходы в канале органического трафика на 6,5 млн рублей за полгода.

Один и тот же заголовок помещался в HTML, а в PowerPoint переносился на другую строку. Я рассчитывал, что для генератора презентаций хватит размеров текстового блока и метрик шрифта. Пришлось измерять поведение самого PowerPoint: как он округляет ширину символов, рисует глифы и выбирает место переноса.

Это оказалось одной из самых сложных частей SlideCraft — инструмента, который я сделал для подготовки управленческих презентаций с помощью ИИ. Пользователь описывает задачу агенту, согласует структуру и получает редактируемый .pptx. За этим стоят правила построения аргумента, макеты с ограничениями на текст и проверки результата.

Представьте угольный разрез, по которому ездят более 200 самосвалов. Распределяют их работу диспетчеры по рации. Но человеку очень сложно обработать такое количество информации и не упустить, чтобы все было вовремя: заправка, пересменки и т.д. Как говорит статистика, за смену набегает более 10 000 отклонений от нормы – нереальное число, чтобы человек успел на все отреагировать.

Отсюда и возникла идея у инженеров «Операционного совершенства» (OES): над действующей системой мониторинга создать надстройку из ИИ-модулей, которая балансирует самосвалы и ловит потери и простои в реальном времени.

Каждый таксист знает, как управлять страной а заодно и «Роснефтью»: кого снять в правлении и что делать с ценой на нефть, он объяснит за одну поездку от аэропорта до центра. Проверить эти знания на деле ему было негде. Теперь и государство, и крупную корпорацию можно собрать из ИИ‑агентов, и мы это сделали! Нет, не перешли работать в такси, а собрали Корпорацию Всевластия. А я таки сел за руль:-)

LLM умеет рассуждать и генерировать ответы, но что делать, если системе нужно самостоятельно выполнять задачи, взаимодействовать с внешними сервисами и проверять результаты своих действий? Здесь начинается территория ИИ‑агентов, где появляются новые архитектурные решения и сложности. Разбираемся, как устроены агентные системы, какие подходы к планированию и взаимодействию агентов существуют и что необходимо учитывать при их разработке.

Lumio — бесплатное приложение для чёлки MacBook. Оно показывает, что сейчас делают ваши ИИ-агенты: кто работает, кто закончил, кто ждёт разрешения на команду. Разрешить можно прямо из чёлки, не переключаясь в терминал. Ещё есть пиксельный офис, где каждая сессия — человечек за своим столом.

До сегодняшнего дня Lumio понимал Claude Code, Codex, Cursor, GitHub Copilot и Antigravity. В 1.3 добавились OpenCode, Kilo Code и Pi. Казалось бы, ещё три строки в настройках. На деле — три разных способа подключиться и одна неделя, из которой два дня ушли не на код, а на то, чтобы проверить его на настоящих агентах без платных ключей.

В новостных лентах слово «инцидент» всё чаще стоит рядом со словом «агент», но мы не собираемся никого отговаривать от внедрения агентных приложений в корпоративные процессы. Деже немножко наоборот. Эта статья про то, как не оказаться в заголовке новостей со словом «инцидент» и про десять практичных вопросов, которые стоит задать до пилота.

В этом эссе я ввожу понятие декогеренции, то есть накопления в системе моделей, которые по отдельности вполне работоспособны, но несовместимы друг с другом или дублируют друг друга. В такой системе основные затраты на изменения приходятся на согласование этих моделей и предотвращение непредвиденных побочных эффектов.

Иными словами, это то, что происходит, когда низкопробная мешанина заглушает полезный сигнал в бескрайнем море шума.

А вы тоже натыкались на публикации из разряда - "Мы все умрем, началось восстание ИИ"? Мне такие публикации стали попадаться все чаще и все чаще это притянутый за уши инфоповод, который в некоторых случаях даже с ИИ соотнести очень сложно, но "инсайдеры" продолжают кошмарить свою аудиторию. Я решил разобрать последние несколько инцидентов, которые уже даже просочились в соцсеть для фоточек и кошмарит пользователей там. Так ли все серьезно или как обычно много шума из ничего.

В геймдеве идеи стоят дешево. Дорого стоит возможность их пощупать. Классический цикл прототипирования, к которому мы привыкли, выглядит примерно так: тратишь несколько дней на монументальный диздок, расписываешь каждую кнопку, каждое нажатие и относишь это всё программистам. Они уходят кодить на неделю-две. А потом, когда возвращаются, вы запускаете черновой билд и понимаете, что играть в это вообще не прикольно: механики не затягивают, интерфейс непонятный, и вообще идея была мёртвой с самого начала. Но время и силы уже потрачены, и их не вернуть.

«Как же хорошо, что человечество уже придумало нейросети», — подумали мы в Magnus Tech и полностью отказались от ручного написания текстовых ТЗ для проверки гипотез. Потому что зачем описывать механику буквами, если ее можно быстро навайбкодить? Теперь для тестирования новых фичей мы не пишем таски на десятки страниц, мы собираем черновой прототип на примитивах за пару часов и сразу его тестируем. В результате время от задумки до первого теста сократилось с недель до нескольких часов.

Но чтобы такая схема работала, обычного чат-бота в соседней вкладке браузера недостаточно. Нейросеть должна сама шерстить папки с проектом, ковыряться в скриптах и понимать структуру движка. Чтобы показать, как это устроено на практике, мы поговорили с Иваном Дворяновым, продюсером игрового направления в Magnus Tech. В этой статье делимся его опытом и рассказываем, как мы пустили Claude напрямую в Unity через MCP, почему вайб-кодинг всё равно требует жесткого планирования и в каких задачах лучше не доверяться ИИ, а по старинке работать руками.

В обзоре угроз ИИ я собрал позиции научных сообществ, комитетов по безопасности и бизнеса. Каждая отражает взгляд своей группы и говорит на ее языке, усредненно и обезличенно. Одни дают сухие и конкретные рекомендации, другие описывают риски и выгоды. Лично мне в них не хватает мнения отдельного человека, который смотрит на вопрос с нескольких сторон и говорит от себя.

Чтобы увидеть такую позицию, я решил поговорить о вызовах и проблемах развития ИИ с профессором, доктором физико-математических наук Марком Берколайко. Он много пишет об экономике и сейчас увлечен темой масштабирования — ключевой задачей современного бизнеса. А художественные романы Марка выдают человека с большим жизненным опытом.

Как математик Марк требовал от разговора определенности. Так, чтобы все было в соответствии со школой Щедровицкого: сначала схема, где написано, кто решает и кто отвечает, а все остальное потом. Писатель в нем тем временем просил масштаба и драматизма, и в беседе хватило места и космосу, и Бунину. Возражать ему было трудно, а соглашаться сразу неловко: тема серьезная и неоднозначная, ни по одному пункту мы не сошлись с первого раза. Вышло примерно то, что в бизнесе называют вин-вин. Оба ушли с мыслями, которых до разговора не было. И я предлагаю вам тоже погрузиться в эту тему и составить свое, третье мнение на основе наших.

Перед переездом автотестов с Java на .NET мы решили разобраться, что действительно стоит переносить. Я ручной QA и для этой задачи подключил ИИ-агента: дал ему доступ к репозиториям и TestIT, задал критерии и проверял его рекомендации. За две недели мы провели аудит примерно 2600 тестов и собрали статистику по базе из 6500. Расскажу, как устроили процесс, находили дубли и выбирали приоритеты с помощью P85.

Вечером вы оставили агентам задачу, а утром перед вами готовая реализация: код, тесты, все проверки зелёные. Вы будете это релизить? Наверняка у вас сразу появилось своё «смотря что». Написание кода мы уже умеем автоматизировать, а решение о том, что считать пригодным результатом, осталось за нами.

Эта статья о предлагаемой мной новой методологии — о средовом подходе: как проектировать условия, в которых агенты создают системы, и на каком основании потом принимать их результат.