Reading view

Как защититься от AI-атак и промт-инъекций: мой рецепт барьера

Осенью 2025 исследователи показали: достаточно попросить AI-браузер «суммаризируй страницу» на подготовленном сайте — и агент вместо пересказа лезет в Gmail пользователя и отправляет данные атакующему. Без вирусов, без эксплойтов, без «скачайте файл». Просто текст на странице.

Это prompt injection — промт-инъекция. В статье: как устроен этот класс атак на пальцах, хроника громких взломов AI-браузеров за последний год со ссылками на первоисточники, и решение, которое мне собрал сам Claude Code по моему ТЗ: хук-«рубильник», отрубающий чувствительные коннекторы после того, как агент читал внешний веб. С механикой, тестами и честными ограничениями.

Читать далее
  •  

От near miss до CPA: как устроен технологический стек зависимости? Разбираем неэтичный маркетинг

Откройте статистику экранного времени за неделю — не для цифрового покаяния с торжественным удалением трёх приложений и их возвращением через два дня, а ради простого вопроса: сколько открытий было вашим решением и сколько раз палец оказался на знакомой иконке раньше, чем в голове появилась хотя бы приблизительная причина туда идти?

Если вы не киборг, результат вряд ли порадует, и здесь очень удобно обвинить слабую волю: пользователь опять не справился с собой, платформа ни при чём, отдел удержания может расходиться по домам. Только слабая воля не масштабируется до отрасли с миллиардными оборотами, собственной аналитикой, платёжной инфраструктурой, партнёрскими сетями и людьми, которые получают премию за дополнительный день вашей активности. Для такого масштаба мало человеческой слабости — требуется инженерия.

За онлайн-казино, серым дейтингом, нутрой, агрессивным инфобизнесом и партнёрским арбитражем стоит не особенно бессовестный копирайтер, которого однажды можно уволить и вернуть экономике нравственность, а полный технологический стек: уязвимость восприятия превращается в интерфейсную механику, механика — в измеримое действие, действие — в выплату партнёру, а выплата сообщает всей системе, какой именно способ давления нужно производить чаще.

Но серые ниши не получили патент на человеческую психику. Социальные сети, маркетплейсы, стриминговые сервисы, мобильные игры и вполне респектабельные подписочные продукты используют часть того же арсенала, различаясь не происхождением механики, а интенсивностью, прозрачностью и ценой ошибки. Казино оказалось одной из лабораторий, где эти решения довели до предела, измерили на реальных деньгах и вернули приличному рынку уже под названиями engagement («вовлечённость»), retention («удержание») и product growth («продуктовый рост»). На конференции всё звучит заметно спокойнее; банковская выписка пользователя сохраняет прежнюю терминологию.

Читать далее
  •  

«Оригинальное видение»: как геймеры сменили гнев на милость к DLSS 5 и что это говорит о восприятии нейросетей в целом

Вчера произошло интересное событие. В сеть утекла ранняя версия DLLS 5, технологии, которая при помощи искусственного интеллекта улучшает (кто-то скажет ухудшает) графику в играх.

Я знаю, что это очень узкая тема, относительно редко обсуждаемая на Хабре, но на нее можно взглянуть шире. Изначальная реакция на DLSS 5 и то, что произошло вчера, многое говорят о том, как мы относимся к нейросетям -- да и вообще к любой новой технологии.

Читать далее
  •  

H-Neurons: 0.1% нейронов, из-за которых LLM врут

А вы когда-нибудь задумывались, почему ваша любимая LLM-ка на 70 лярдов параметров, обученная на всем интернете, может с уверенностью университетского профессора выдать, например, что Наполеон изобрел электричество? Откуда это берется?

Долгое время индустрия списывала галлюцинации на плохие данные, кривой RLHF или декодинг. Но группа ученых из Университета Цинхуа залезла внутрь нейросети и нашла конкретных виновников — 0.1% нейронов, которые буквально заставляют модель врать. И это не метафора, это реальные веса в FFN-слоях трансформера.

В этой статье расскажу, что же обнаружили китайские исследователи, как нейроны-галлюцинаторы связаны с чрезмерной уступчивостью модели и почему корень зла лежит в претрейне. Возможно будет любопытно ML- и дата-инженерам, а также всем, кто не хочет быть одураченным в очередном диалоге с GPT-шкой.

Читать далее
  •  

Как я «нанял» локального ИИ-сисадмина для автономного управления домашней сетью (и адаптировал под это llm wiki)

Моя домашняя сеть уже давно перестала быть просто «вайфаем в квартире». Сейчас этот зоопарк состоит из: нескольких роутеров, прошитых под на OpenWrt, NAS, МФУ, а также IoT-устройств (робот-пылесос, умные лампочки, бризер, кондиционер, три канарейки, черепаха, золотые рыбки и старый глупый хомяк). А на роутерах ещё куча сервисов крутятся (например, https-over-dns и сервис-который-нельзя-называть).

В какой-то момент я поймал себя на мысли, что трачу кучу времени на рутину: копаться в заметках, вспоминать команды для OpenWrt, вручную проверять сервисы; понял, что выступаю для своей сети сисадмином на побегушках. Так я и решил настроить локально Qwen3.6-35B-A3B + несколько инструментов.

В этой статье я расскажу о MVP моего домашнего Skynet-а: настроенный агент умеет сам ходить по SSH на роутеры, проверять статус сервисов — и сам поддерживает документацию по сети (на основе подхода llm wiki). Чтобы не бояться, что LLM случайно уронит сеть, я выстроил строгие правила: все деструктивные действия требуют моего подтверждения, а любые скрипты, которые агент напишет, я запускаю только после ручного ревью (не самый оптимальный вариант — но для MVP хватило).

Итак, далее вас ждёт пошаговая инструкция для новичков, как поднять подобную систему в вашем контуре. И пример, как с её помощью поднять себе РКН следить за состоянием принтера по протоколу SNMP.

И сразу скажу: я фанат Powershell, так как эта командная оболочка работает и под Windows, и под Linux и построена на основе горячо любимого мною .NET. Поэтому все дальнейшие действия (и генерируемые скрипты) будут приведены для кроссплатформенного Powershell.

Читать далее
  •  

Нейросети как дофаминовая яма для взрослых

Раньше существовал естественный барьер между «мне интересно» и «я пошёл это делать». Чтобы попробовать написать музыку, нужно было хотя бы немного разобраться в DAW. Чтобы полезть в SEO, требовалось прочитать документацию, собрать инструменты, понять терминологию. Чтобы сделать сайт на WebGL, сначала неплохо было научиться оптимизировать такие сайты.

Теперь этот барьер почти исчез. И неожиданно оказалось, что это не только преимущество…

Читать далее
  •  

1360+ промтов для генерации изображений: реклама, товары, инфографика, профили. Забирайте бесплатно в одной таблице

Пригодится дизайнерам, блогерам, предпринимателям, маркетологам. Более тысячи промтов для генератора картинок. 

Просто копируете, вставляете в нейросеть, если надо правите промт по-своему, и генерируете изображение. В таблице есть пример-картинка для каждого промта.

Читать далее
  •  

Что внутри ANE на самом деле, или почему ЫЫ нельзя поручать reverse engineering

Нейронке сказали — «разберись как оно работает». Пошевелив гигабайтами матриц, она полезла ковырять список классов в AppleNeuralEngine.framework— и нашла там то, что искала — «40+ private classes, including _ANEInMemoryModel». Код работал. Делал то что от него требовалось — запускал математику на ANE. Но было в этом что‑то… не то.

Читать далее
  •  

Снятся ли трансформерам электроовцы

В 2015 Google выкатила серию изображений, которые выглядели так, словно фотографию отдали на редактуру художнику, а потом забыли вовремя его остановить. На обычном пейзаже появлялись десятки глаз, в облаках начинали угадываться собаки, архитектура покрывалась повторяющимися узорами, а деревья превращались во что-то среднее между растительностью и фантазией художника. Изображения быстро разошлись по интернету, а DeepDream довольно быстро стал отдельным визуальным стилем.

Изначально исследователей интересовали не столько сами картинки, сколько возможность понять, что происходит внутри нейросети. Классификатор снаружи выглядит довольно просто: фотография поступает в модель, а на выходе появляется список вероятностей — собака, кошка, автомобиль, самолет. Между этими двумя точками находится огромное количество вычислений, и по одному ответу модели далеко не всегда понятно, почему она пришла именно к нему.

Можно посмотреть на значения активаций отдельных нейронов и каналов, построить карты признаков, найти изображения, которые вызывают сильный отклик. Есть и более радикальный способ исследования: специально изменить входное изображение так, чтобы какой-то внутренний сигнал модели стал сильнее. Так появился DeepDream.

Читать далее
  •  

Четыре роли нейросетей в обработке фото

Словосочетание «Нейросетевая обработка фото» звучит красиво и технологично. А кое-кто от неё уже даже устал, ибо ассоциирует её с потоком нейрослопа.

Но вот проблема. Что вообще значит обработать фото нейронкой? Слово «нейросеть» здесь слишком общее понятие, сродни слову «электромотор». А последний, как известно, работает и в электромобиле, и в зубной щётке.

В предыдущих двух частях мы очень подробно погрузились в теорию и разобрали, как вообще ИИ работает с изображением и какие у этого есть подводные камни. В этой статье мы чуть всплывём из глубины теорий и посмотрим на то, как решаются реальные задачи.

Для иллюстрации всего описанного я буду использовать фото, которые сделал сам в разные года. Кроме того, мне помогут несколько ИИ-инструментов. В моём арсенале примерами послужат Adobe Photoshop и его дополнение Camera Raw, плагины PortraitPro и Retouch4me, а также перспективная разработка Evoto.

Важно! Это не самоучитель по этим инструментам и уж точно не подборка «что нужно молодому нейросетевому художнику». В этой статье мы классифицируем реальные инструменты по принципу их работы. А ПО из списка выше поможет нам проиллюстрировать работу.

Итак. Что общего у шумодава и дорисовки? Почему маску проверить легко, а результат генерации — нет? И что за модель, в которую нужно загрузить пять тысяч ваших кадров, прежде чем она начнёт приносить пользу? Все ответы ниже.

Читать далее
  •  

Qwen3.8. MTP и тензорный параллелизм в llama.cpp: 75 ток/сек на двух RTX 3090

Плотная 27-миллиардная модель на двух RTX 3090 в llama.cpp из коробки даёт 32 токена в секунду. Интуитивно понятно, что это не предел: две карты по 24 ГБ и 936 ГБ/с каждая не должны выдавать столько, сколько выдаёт одна. Значит, где-то узкое горлышко — и надо разобраться, что и где подкрутить.

Горлышек оказалось несколько, и все снимаются флагами запуска: те же веса — 75 токенов в секунду. Под катом каждый флаг описан по одной схеме: зачем, что писать, что даёт в цифрах, где ломается и с какой строкой в логе. В конце — готовый docker run, три проверки после каждой смены флага и список того, что не сработало. Текст можно отдать целиком агенту с доступом к серверу — это инструкция, а не история.

Читать далее
  •  

Современный ИИ: над чем останется работать?

«What will be left for us to work on?» (Что останется для нас, когда ИИ станет умнее?)

Посмотрела часовой доклад профессора Принстона Arvind Narayanan на ICML 2026 за вас и подготовила структурированный обзор.

Читать далее
  •  

8 open-source AI-проектов, которые могут заменить часть платного софта

Локальный аналог NotebookLM, фильтр от AI-slop, маршрутизатор для сотен LLM-провайдеров, агент для поиска работы, автоматический пентестер и ComfyUI. Посмотрел, что из этого действительно можно использовать, а где «бесплатно» заканчивается после git clone.

Open source не значит бесплатно.

У проекта может не быть подписки, но останутся расходы на API, Claude Code, GPU, сервер, электричество и несколько часов на настройку. Поэтому ниже не будет обещаний «восемь сервисов, за которые больше никогда не придётся платить».

Зато есть восемь любопытных проектов, которые позволяют забрать себе часть привычного AI-стека, изменить его под свои задачи и в некоторых случаях вообще убрать SaaS из цепочки.

Смотреть подборку
  •  

ИИ в 1С, инфраструктура и цифровизация: что будет на Петербургском цифровом хабе

3 сентября в Санкт-Петербурге пройдет Петербургский цифровой хаб 2026. Программу уже утвердили: за один день на площадке соберут несколько ИТ-треков, прямые встречи заказчиков и поставщиков решений, а также сессию Инфостарта об искусственном интеллекте в 1С.

Форум в первую очередь рассчитан на ЛПР, ИТ-директоров, руководителей цифровых подразделений и представителей компаний, которые выбирают решения для автоматизации и развития ИТ-инфраструктуры. Но отдельные сессии будут полезны и практикам: разработчикам, архитекторам, администраторам, аналитикам и руководителям команд.

Читать далее
  •  

Как фундаментальная математика помогает переосмыслить градиентный спуск

Градиентный спуск — стандартный инструмент обучения нейросетей. Но с точки зрения линейной алгебры операция обновления весов выглядит некорректно: мы складываем вектор и ковектор. Авторы статьи из MIT CSAIL предлагают формальное решение этой проблемы через теорию двойственности и модулей. Разбираем их подход.

Читать далее
  •  

Замочек в адресной строке есть, а список ваших сайтов всё равно виден

Про публичный Wi-Fi принято говорить одно из двух. Либо «там воруют пароли, не подключайтесь», либо «сейчас везде HTTPS, всё в порядке». Обе формулировки неточные, и обе мешают понимать, что происходит на самом деле.

Пароли при работающем HTTPS действительно не украдут — с этим всё в порядке. А вот список сайтов, куда вы ходите, виден любому, кто сидит на том же канале — владельцу точки доступа, провайдеру, соседу с ноутбуком, если сеть открытая. Причём видно его в открытом виде, никакого взлома для этого не требуется.

Читать далее
  •  
❌