Исследователи Microsoft и университетских команд представили способ внедрять скрытую рекламу в диффузионные модели, которые генерируют изображения по тексту. Скомпрометированная модель может добавлять определённый бренд даже тогда, когда пользователь не просил показывать товары или рекламу.
Авторы строят атаку в пространстве текстовых представлений: нейтральный запрос незаметно смещается к областям, похожим на естественные рекламные формулировки. Это должно делать вставку бренда более связной с сюжетом изображения и менее заметной как посторонний элемент.
Вторая часть метода изменяет параметры модели так, чтобы рекламное поведение сохранялось после последующего дообучения. По утверждению авторов, сглаживание только выбранных параметров помогает удержать скрытую функцию и при этом меньше ухудшает качество обычной генерации.
Работа принята на конференцию NeurIPS 2026. Публикация описывает исследовательский прототип и потенциальный класс атак; она не подтверждает, что таким способом уже скомпрометирован какой-либо массовый генератор изображений.
Результат важен для разработчиков и организаций, которые получают модели от сторонних поставщиков или дообучают готовые веса. Практический вывод - проверять происхождение модели и тестировать её на неожиданные повторяющиеся бренды и объекты до внедрения в рабочие процессы.
Пока никто не ответил. Начните обсуждение.