Normal view

Как защититься от AI-атак и промт-инъекций: мой рецепт барьера

Осенью 2025 исследователи показали: достаточно попросить AI-браузер «суммаризируй страницу» на подготовленном сайте — и агент вместо пересказа лезет в Gmail пользователя и отправляет данные атакующему. Без вирусов, без эксплойтов, без «скачайте файл». Просто текст на странице.

Это prompt injection — промт-инъекция. В статье: как устроен этот класс атак на пальцах, хроника громких взломов AI-браузеров за последний год со ссылками на первоисточники, и решение, которое мне собрал сам Claude Code по моему ТЗ: хук-«рубильник», отрубающий чувствительные коннекторы после того, как агент читал внешний веб. С механикой, тестами и честными ограничениями.

Читать далее

От near miss до CPA: как устроен технологический стек зависимости? Разбираем неэтичный маркетинг

Откройте статистику экранного времени за неделю — не для цифрового покаяния с торжественным удалением трёх приложений и их возвращением через два дня, а ради простого вопроса: сколько открытий было вашим решением и сколько раз палец оказался на знакомой иконке раньше, чем в голове появилась хотя бы приблизительная причина туда идти?

Если вы не киборг, результат вряд ли порадует, и здесь очень удобно обвинить слабую волю: пользователь опять не справился с собой, платформа ни при чём, отдел удержания может расходиться по домам. Только слабая воля не масштабируется до отрасли с миллиардными оборотами, собственной аналитикой, платёжной инфраструктурой, партнёрскими сетями и людьми, которые получают премию за дополнительный день вашей активности. Для такого масштаба мало человеческой слабости — требуется инженерия.

За онлайн-казино, серым дейтингом, нутрой, агрессивным инфобизнесом и партнёрским арбитражем стоит не особенно бессовестный копирайтер, которого однажды можно уволить и вернуть экономике нравственность, а полный технологический стек: уязвимость восприятия превращается в интерфейсную механику, механика — в измеримое действие, действие — в выплату партнёру, а выплата сообщает всей системе, какой именно способ давления нужно производить чаще.

Но серые ниши не получили патент на человеческую психику. Социальные сети, маркетплейсы, стриминговые сервисы, мобильные игры и вполне респектабельные подписочные продукты используют часть того же арсенала, различаясь не происхождением механики, а интенсивностью, прозрачностью и ценой ошибки. Казино оказалось одной из лабораторий, где эти решения довели до предела, измерили на реальных деньгах и вернули приличному рынку уже под названиями engagement («вовлечённость»), retention («удержание») и product growth («продуктовый рост»). На конференции всё звучит заметно спокойнее; банковская выписка пользователя сохраняет прежнюю терминологию.

Читать далее

«Оригинальное видение»: как геймеры сменили гнев на милость к DLSS 5 и что это говорит о восприятии нейросетей в целом

Вчера произошло интересное событие. В сеть утекла ранняя версия DLLS 5, технологии, которая при помощи искусственного интеллекта улучшает (кто-то скажет ухудшает) графику в играх.

Я знаю, что это очень узкая тема, относительно редко обсуждаемая на Хабре, но на нее можно взглянуть шире. Изначальная реакция на DLSS 5 и то, что произошло вчера, многое говорят о том, как мы относимся к нейросетям -- да и вообще к любой новой технологии.

Читать далее

H-Neurons: 0.1% нейронов, из-за которых LLM врут

А вы когда-нибудь задумывались, почему ваша любимая LLM-ка на 70 лярдов параметров, обученная на всем интернете, может с уверенностью университетского профессора выдать, например, что Наполеон изобрел электричество? Откуда это берется?

Долгое время индустрия списывала галлюцинации на плохие данные, кривой RLHF или декодинг. Но группа ученых из Университета Цинхуа залезла внутрь нейросети и нашла конкретных виновников — 0.1% нейронов, которые буквально заставляют модель врать. И это не метафора, это реальные веса в FFN-слоях трансформера.

В этой статье расскажу, что же обнаружили китайские исследователи, как нейроны-галлюцинаторы связаны с чрезмерной уступчивостью модели и почему корень зла лежит в претрейне. Возможно будет любопытно ML- и дата-инженерам, а также всем, кто не хочет быть одураченным в очередном диалоге с GPT-шкой.

Читать далее

Как я «нанял» локального ИИ-сисадмина для автономного управления домашней сетью (и адаптировал под это llm wiki)

Моя домашняя сеть уже давно перестала быть просто «вайфаем в квартире». Сейчас этот зоопарк состоит из: нескольких роутеров, прошитых под на OpenWrt, NAS, МФУ, а также IoT-устройств (робот-пылесос, умные лампочки, бризер, кондиционер, три канарейки, черепаха, золотые рыбки и старый глупый хомяк). А на роутерах ещё куча сервисов крутятся (например, https-over-dns и сервис-который-нельзя-называть).

В какой-то момент я поймал себя на мысли, что трачу кучу времени на рутину: копаться в заметках, вспоминать команды для OpenWrt, вручную проверять сервисы; понял, что выступаю для своей сети сисадмином на побегушках. Так я и решил настроить локально Qwen3.6-35B-A3B + несколько инструментов.

В этой статье я расскажу о MVP моего домашнего Skynet-а: настроенный агент умеет сам ходить по SSH на роутеры, проверять статус сервисов — и сам поддерживает документацию по сети (на основе подхода llm wiki). Чтобы не бояться, что LLM случайно уронит сеть, я выстроил строгие правила: все деструктивные действия требуют моего подтверждения, а любые скрипты, которые агент напишет, я запускаю только после ручного ревью (не самый оптимальный вариант — но для MVP хватило).

Итак, далее вас ждёт пошаговая инструкция для новичков, как поднять подобную систему в вашем контуре. И пример, как с её помощью поднять себе РКН следить за состоянием принтера по протоколу SNMP.

И сразу скажу: я фанат Powershell, так как эта командная оболочка работает и под Windows, и под Linux и построена на основе горячо любимого мною .NET. Поэтому все дальнейшие действия (и генерируемые скрипты) будут приведены для кроссплатформенного Powershell.

Читать далее
❌