Поэтический взлом LLM 📜 | Лучшие подкасты на русском языке

Поэтический взлом LLM 📜

27.02.2026 3624

Пользователь атакует LLM с помощью промпта, пытаясь обойти внутренние фильтры модели и получить то, что разработчики не хотели открывать миру, — это называют «джейлбрейком». Есть много способов взломать систему, но один из самых эффективных кроется в стихосложении! Мощно и дешево. Ведь метафорой можно замаскировать вредоносную инструкцию...

Поэтическая форма функционирует как универсальный оператор для взлома системы. Стилистические вариации позволяют обходить alignment. Метафорический язык и ритмическая структура искажают суждения моделей. Поэзия часто ассоциируется с доброжелательным контекстом, что дезориентирует guardrails.

Доктор технических наук Владимир Крылов рассказывает:

→ Как создавались атакующие стихи?

→ Как определялся «успех» атаки?

→ Какие модели оказались наиболее уязвимыми?

→ Почему этот способ джейлбрейка оказался эффективнее стандартных методов? (И почему он вообще работает?)

Полностью предотвратить джейлбрейки невозможно, но их возникновение и последствия можно уменьшить.

Подписывайтесь на наш подкаст!

P.S. «Поэтические» атаки оказались особенно успешны в задачах по инъекции кода, взлому паролей и эксфильтрации весов самой модели.

Ничего не играет
00:00 / 00:00