LLM-бум породил не только новые возможности, но и новое поколение атак. За два года мы увидели реальные атаки на агенты: один вредоносный email и Copilot сливает платёжные данные клиентов, одно фальшивое GitHub issue и CI/CD пайплайн скомпрометирован, один тщательно настроенный промпт и AI-агент выполняет удалённый код на вашей машине. Это уже далеко не теория, а зафиксированные исследователями в 2025 - 2026 годах атаки на Microsoft Copilot, OpenAI Atlas, Claude Code и Apple Intelligence.
Атаки становятся изощрённее: злоумышленники маскируют вредоносные инструкции под XML-политики, шифруют в base64, вставляют невидимые символы и даже прячут джейлбрейк в стихи. Встроенные фильтры LLM пропускают до 76% таких атак.
Значит, нужен другой подход - лёгкий, быстрый (чтобы не тормозить агента) и понятный (чтобы вы знали, почему запрос заблокировали). И главное, работающий без вызовов внешних API, внутри вашей инфраструктуры. Потому что в эпоху zero-click атак доверять безопасность облачному провайдеру, который пропускает почти всё, как минимум рискованно.
В этой статье разберем основные виды атак и посмотрим на примере, как выстроить базовую защиту с моделью безопасности OGL-Mini.
Читать далееA growing number of people are rediscovering their love of plastic bricks in later life and boosting the Danish company’s bottom line
In a cosy cafe in Kingston upon Thames on the outskirts of London, nine people gather in the early evening to drink and talk. To the casual observer it may look like a book club, but when the friends reach into their bags it’s not paperbacks they produce – but packs of Lego.
Geoff Lay, who organised the gathering, worked in software development before recently starting Noble Brick, a Lego-focused events organisation.
Continue reading...
© Photograph: Antonio Olmos/The Guardian
© Photograph: Antonio Olmos/The Guardian
© Photograph: Antonio Olmos/The Guardian
Login