Модель отказывается отвечать на вопрос или уходит от темы — и первая реакция большинства пользователей одинаковая: «уберу в системном промпте инструкцию не обсуждать это» или «попробую другой jailbreak». Иногда это работает, иногда нет — и разница не случайна. Ограничение поведения языковой модели формируется на двух принципиально разных уровнях, и от того, на каком именно уровне оно установлено, зависит, можно ли его снять простой настройкой развёртывания или нет.
Подробнее →