Привет, Хабр! Меня зовут Дмитрий Юдин, я являюсь ведущим научным сотрудником лаборатории когнитивных систем искусственного интеллекта AIRI и заведую лабораторией интеллектуального транспорта в Центре когнитивного моделирования Института искусственного интеллекта МФТИ. В последние годы мы с коллегами системно занимаемся трехмерными симуляторами, которые, в том числе, позволяют промоделировать физические взаимодействия между мобильными роботами, манипуляторами или мобильными манипуляторами с объектами 3D‑сцены. 

В этой статье я расскажу про бенчмарк GPUSimBench, созданный вместе с коллегами из Shanghai AI Lab. Написать её мне помог Чжан Хучжэньюй, первый автор работы и выпускник аспирантуры Физтеха. Бенчмарк оценивает производительность, точность и детерминизм семи современных общедоступных робототехнических симуляторов при работе на графических процессорах, а для одной из симуляций мы даже провели настоящий физический эксперимент. Мы представили GPUSimBench на ведущей робототехнической конференции IROS’2026 (статья и код).

Два из трех API-вызовов возвращали HTTP 500. Агенты поколениями лепили заплатки поверх заплаток, пока код не превратился в клубок нейросоплей.

Вместо очередного исправления я перенес систему в чистый контур, где агент пишет новую реализацию, не видя старой.

В статье механизм переноса, 15 правил защиты от новых костылей и эксперимент на 36 запусках DeepSeek: насколько поведение агента зависит от того, какой код и какие правила ему показывают.

Для экспериментов с ИИ в AppSec необязательно покупать облачную подписку. Модель можно запустить на рабочей станции, связать с анализаторами кода и поручить ей часть исследования. Открытые инструменты-обвязки позволяют настраивать такую работу под своё приложение. Таким образом, у команды появляется выбор, какие данные передавать модели, где их обрабатывать и насколько самостоятельной делать проверку.

Впрочем, установить модель заметно проще, чем понять, какую работу ей стоит доверить и как её организовать. Разобрать сообщение сканера, восстановить путь пользовательских данных или провести многошаговое исследование приложения – это всё задачи разного масштаба. Если сразу поручить небольшой локальной модели весь аудит, то по результату такого эксперимента будет трудно судить, какие отдельные задачи она способна решать.

Поиск подходящих задач связан и с организацией проверки. Открытые инструменты позволяют менять её под своё приложение и понимать, какие решения повлияли на результат. Постепенно у команды складывается собственная методика работы с ИИ, которую можно уточнять и применять в следующих проектах.

В этой статье мы сначала проследим, как появились эти возможности, а затем рассмотрим локальные сценарии AppSec и последствия свободного выбора моделей и инструментов.

Обвязку для агента сейчас собирают многие. Насмотрелся шортсов, накидал скиллов, подключил MCP, и вот ты весь обвязанный. Моя прошла эту стадию год назад и с тех пор обросла инструментами, проверками и базой знаний. Работала она безотказно, пока пользователь был один. Стоило отдать её коллегам, и она сломалась. Главной её частью оказался...

Хочу представить лёгкий UI-фреймворк на Rust, работает на Windows (x64, ARM), macOS, Linux, Android, iOS/iPadOS и даже в браузере через WASM. Снабжён примерами использования на Rust, C, C++ и даже ASM.

Отличительная особенность: фреймворк имеет два формата – либо отображает графический UI для людей, либо же рендерит UI в JSON так, чтобы с ним могли взаимодействовать AI-агенты без снятия скриншотов. Эта же фишка позволила добавить возможность перебросить UI по SSH.

Я хотел убрать все слои абстракции между собой и компьютером. Оставить своё намерение, ИИ и байты, которые исполняет процессор.

В процессе появились программы на RISC-V и ARM64, флешка с собственным UEFI-приложением, физический Dell, цветные объекты на экране и кот, которому можно передать новый мир по Bluetooth. Исчезли далеко не все слои. Зато стало понятнее, что именно они делают и сколько работы за нас обычно выполняют.

В геймдеве идеи стоят дешево. Дорого стоит возможность их пощупать. Классический цикл прототипирования, к которому мы привыкли, выглядит примерно так: тратишь несколько дней на монументальный диздок, расписываешь каждую кнопку, каждое нажатие и относишь это всё программистам. Они уходят кодить на неделю-две. А потом, когда возвращаются, вы запускаете черновой билд и понимаете, что играть в это вообще не прикольно: механики не затягивают, интерфейс непонятный, и вообще идея была мёртвой с самого начала. Но время и силы уже потрачены, и их не вернуть.

«Как же хорошо, что человечество уже придумало нейросети», — подумали мы в Magnus Tech и полностью отказались от ручного написания текстовых ТЗ для проверки гипотез. Потому что зачем описывать механику буквами, если ее можно быстро навайбкодить? Теперь для тестирования новых фичей мы не пишем таски на десятки страниц, мы собираем черновой прототип на примитивах за пару часов и сразу его тестируем. В результате время от задумки до первого теста сократилось с недель до нескольких часов.

Но чтобы такая схема работала, обычного чат-бота в соседней вкладке браузера недостаточно. Нейросеть должна сама шерстить папки с проектом, ковыряться в скриптах и понимать структуру движка. Чтобы показать, как это устроено на практике, мы поговорили с Иваном Дворяновым, продюсером игрового направления в Magnus Tech. В этой статье делимся его опытом и рассказываем, как мы пустили Claude напрямую в Unity через MCP, почему вайб-кодинг всё равно требует жесткого планирования и в каких задачах лучше не доверяться ИИ, а по старинке работать руками.

Модель почти идеально выучила ответ, а градиент правильного класса уже стал машинным нулём. При дистилляции возможна обратная ситуация: ученик повторяет учителя, но вычисление всё ещё выдаёт сигнал ошибки. Разбираю исправления DeepMind на школьной алгебре, проверенных примерах NumPy и четырёх графиках: где теряются маленькие числа, как это влияет на обучение и что стоит проверить в своей среде.

В статье есть практические рекомендации, как понять, нужно ли это учесть в ваших программах и нейросетях, и если нужно — как исправить в своем коде ошибку из стандартных библиотек.

Самое удивительное тут то, что, казалось бы, подобная тема должна быть исследована вдоль и поперек еще на заре развития машинного обучения, а в реальности важнейший научный препринт от DeepMind об этом вышел 22 октября, то есть меньше недели назад.

Кроме того, рекомендую включать этот материал в базовые учебные курсы.

В предыдущей серии: Краткое содержание части 1 и 2.

• Часть 1. «Прайс из Китая»

История о том, как в ИТ-отделе крупной компании "ИнвестБолт", которая знает цену специфики ВЭД с Китаем, наступило начало прекрасного дня: сеньор Михалыч флегматично чистил воблу, тимлид Антон Павлович пил кофе, а амбициозный 22-летний джуниор Данила (самопровозглашенный «Промпт-Архитектор») радовался жизни. Это был его первый официальный рабочий день после долгих месяцев штурма Хедхантера, и Данила чувствовал себя баловнем судьбы. Он искренне верил, что ИИ уже заменил сеньоров, ведь нейросеть по его первому запросу сгенерировала синтаксически идеальный код для управляемых форм, решил загрузить «быстренько и красивенько» китайский прайс на 300 000 строк из Гуанчжоу. Доверившись ИИ, он скормил файл платформе через ТабличныйДокумент.Прочитать(). Итог: Данила уронил рабочий сервер в разгар закрытия квартала у бухгалтерии.

• Часть 2. «Визит Анастасии Марковны»

Решив, что один поток — это прошлый век, Данила выбил из нейросети новый «универсальный рецепт» и бахнул многопоточность через ФоновыеЗадания.Выполнить(). Одно нажатие кнопки — и сервер 1С породил неуправляемую лавину фоновых процессов. Михалычу пришлось вручную вычислять сеанс «Пациента Зеро» в консоли администрирования и спасти базу, чтобы сменить гнев на милость главбуха Анастасии Марковны.

Часть 3. Скидка трейдеров Гуанчжоу.

Действующие лица:

• Сеньор (Михалыч) — излучает абсолютное спокойствие.

• Джуниор (Данила) — смотрит на Михалыча как на средневекового инквизитора.

Достаточно, часто при коммуникации Вам, мой читатель, встречались манипуляции из разряда "сегодня в школу не пошел, завтра в университет, потом на работу не устроишься и тебя аннигилируют на Солнце", ну или "мир существует потому что есть растения, растения существуют потому что есть мир" и прочие такие приколы. Нутро подсказывает, что что‑то тут не так, и есть инструменты позволяющие разобраться в этом лучше. Причём стоит понимать, что логика она нужна и может быть везде: в речи, в программировании, в электрике и сантехнике, поэтому нужно начать хотя бы с суждений.

В этой публикации: 67 логических ошибок и когнитивных искажений, немножко вводных и в конце немного инструментов, надеюсь Вы будете уничтожать софистику в нашей работе, чтобы было меньше манипуляций на рабочем месте. Не пытайтесь её читать за раз, но если попытались, удачи, обнял-приподнял, материал копился достаточно давно :3

В примерах будут и рабочие кейсы и жизненные, смешнявки-шизокартинки, а также местами пояснения. Погнали!

В предыдущей серии: Краткое содержание Части 1

В ИТ-отделе крупной компании "ИнвестБолт", которая знает цену специфики ВЭД с Китаем, наступило начало прекрасного дня: сеньор Михалыч флегматично чистил воблу, тимлид Антон Павлович пил кофе, а амбициозный 22-летний джуниор Данила (самопровозглашенный «Промпт-Архитектор») радовался жизни. Это был его первый официальный рабочий день после долгих месяцев штурма Хедхантера, и Данила чувствовал себя баловнем судьбы. Он искренне верил, что ИИ уже заменил сеньоров, ведь нейросеть по его первому запросу сгенерировала синтаксически идеальный код для управляемых форм.

Идиллия рухнула, когда в отдел влетела менеджер по закупкам Таня с розовой флешкой с «маленьким» прайсом от китайских поставщиков на 300 000 строк Excel, который нужно было загрузить «быстренько и красивенько». Данила не растерялся и скормил ИИ новый промпт. Нейросеть авторитетно заявила, что для кроссплатформенной работы на Linux идеально подходит объект ТабличныйДокумент. Джуниор скопировал код, нажал кнопку «Загрузить» и… серверный процесс rphost сожрал все 64 ГБ оперативной памяти, нагрузил процессор на 100% и упал. База рухнула в разгар закрытия квартала у бухгалтерии, выкинув из системы главбуха Анастасию Марковну.

Опытный сеньор Михалыч отложил воблу, взял маркер и пошел к офисной доске и стал объяснять Даниле, как устроен реальный мир СУБД на физическом уровне.

Часть 2. Визит Анастасии Марковны -  главбуха

Действующие лица:

Анастасия Марковна (Главбух) — 60 лет. Взгляд прожигает насквозь даже тимлида. Причёска в виде монолитного куба, зафиксированная лаком «Прелесть». Носит с собой огромные счёты как холодное оружие.