❌

Normal view

Почему нейросети описывают продукт общими словами, хотя на сайте он расписан подробно, и как от этого застраховаться

Обычно происходит вот как:

описание продукта на сайте занимает три экрана, всё разжёвано и выглядит вкусно для читателя

а ChatGPT, GigaChat, Алиса AI и Perplexity отвечают о нём общими словами или путают его с конкурентом

Вся соль в том, что нейросети читаюи не весь сайт, а несколько найденных фрагментов, и если в них нет прямого текста о том, что это за продукт и для кого он, подробности на остальных страницах ей не помогут. Часть текста может не дойти до ИИ вообще: Vercel и MERJ выяснили, что роботы ChatGPT и Claude скачивают скрипты страницы, но не запускают их, так что текст, который сайт дорисовывает в браузере, до них не доходит.

Читать далее

MITRE ATT&CK в декорациях детектива: новый формат обучения безопасности

Правило можно прочитать, а привычку — только натренировать. На этой мысли держится «Кибердетектив» — браузерная игра, в которой сотрудники Авито расследуют атаки на вымышленную компанию. Компания выдуманная, а схемы атак настоящие: подделанный голос руководителя, счёт с домена «на одну букву мимо», шквал запросов MFA, чужой человек за незаблокированным ноутбуком.

Меня зовут Илья Никифоров, в Авито я отвечаю за Security Awareness в команде GRC: обучаю сотрудников, провожу учебные фишинговые рассылки, занимаюсь безопасностью генеративного ИИ. Я не разработчик и никогда не делал игр. «Кибердетектива» я придумал и собрал сам за 74 дня: код, тесты и ревью делали ИИ-агенты, а коллега помог превратить прототип в сервис компании.

Расскажу, что получилось, на каких реальных атаках построены задания, как распределялась работа между мной и нейросетями и как всё устроено внутри — для тех, кому интересен код. И почему считаю, что сегодня человек не из разработки может сделать полезный продукт в своей области.

Читать далее

Памятка писателям в эпоху ИИ

Настоящая Памятка составлена для писателей и текстовиков, панически боящихся обвинений в порочных связях с искусственным интеллектом, именуемым также ИИ.

Ее необходимо изучить. Внедрить. Эффект гарантирован.

Читать далее

Под капотом современных ИИ-сервисов: KV-кэш, батчинг, квантизация и серверное железо

Итак, вы отправляете запрос через сайт или приложение. В этот момент начинается его путь к подробному и, возможно, корректному ответу. По дороге запрос проходит через несколько систем, причем каждая выполняет свою задачу. Давайте разберем этот процесс.

Всем привет! С вами Сергей Ковалёв, менеджер продукта Выделенные серверы в Selectel. Сегодня расскажу, как устроена серверная инфраструктура ИИ-сервисов, с которыми каждый день работают менеджеры, поддержка, продавцы и специалисты сотен других профессий. Разберемся, почему качественный ИИ-сервис — это не только LLM, агент и GPU с большим объемом RAM, но и балансировщик, API, nginx, NVLink и другие компоненты. Подробности под катом.

Читать далее

Как ИИ и телематика помогают распределять карьерные самосвалы

Представьте угольный разрез, по которому ездят более 200 самосвалов. Распределяют их работу диспетчеры по рации. Но человеку очень сложно обработать такое количество информации и не упустить, чтобы все было вовремя: заправка, пересменки и т.д. Как говорит статистика, за смену набегает более 10 000 отклонений от нормы – нереальное число, чтобы человек успел на все отреагировать.

Отсюда и возникла идея у инженеров «Операционного совершенства» (OES): над действующей системой мониторинга создать надстройку из ИИ-модулей, которая балансирует самосвалы и ловит потери и простои в реальном времени.

Читать далее
❌