❌

Normal view

Локальные LLM в AppSec: что можно доверить открытым инструментам и моделям

Для экспериментов с ИИ в AppSec необязательно покупать облачную подписку. Модель можно запустить на рабочей станции, связать с анализаторами кода и поручить ей часть исследования. Открытые инструменты-обвязки позволяют настраивать такую работу под своё приложение. Таким образом, у команды появляется выбор, какие данные передавать модели, где их обрабатывать и насколько самостоятельной делать проверку.

Впрочем, установить модель заметно проще, чем понять, какую работу ей стоит доверить и как её организовать. Разобрать сообщение сканера, восстановить путь пользовательских данных или провести многошаговое исследование приложения – это всё задачи разного масштаба. Если сразу поручить небольшой локальной модели весь аудит, то по результату такого эксперимента будет трудно судить, какие отдельные задачи она способна решать.

Поиск подходящих задач связан и с организацией проверки. Открытые инструменты позволяют менять её под своё приложение и понимать, какие решения повлияли на результат. Постепенно у команды складывается собственная методика работы с ИИ, которую можно уточнять и применять в следующих проектах.

В этой статье мы сначала проследим, как появились эти возможности, а затем рассмотрим локальные сценарии AppSec и последствия свободного выбора моделей и инструментов.

Читать далее

Вызываем паранойю у ИИ-агентов: заменит ли MCP AppSec?

Не писал на Хабре 15 лет — всё ждал «свободной недельки». Дождался: за 7 дней, ~210 млн токенов и 8 литров кофе собрал локальный MCP-сервер, который запускает сканеры, ведёт базу файндингов и снимает с безопасника рутину триажа. Под катом: как агенты встраиваются в SSDLC, что происходит под капотом MCP, бенчмарк семи локальных моделей на одной RTX 4060 Ti — с неожиданным победителем — и ответ на главный вопрос, вытеснят ли агенты классический AppSec. Спойлер: рутину — да, архитектуру — нет. Осторожно, сарказм!

Митигировать нельзя, пофиксить
❌