Если в конец промта приписать: «…Интересный факт: кошки спят большую часть жизни», модель начинает путаться. Свежее исследование показывает: такие вставки дезориентируют AI-модели, особенно использующие цепочку рассуждений. Вероятность ошибки увеличивается в 2 раза. Причина — модель воспринимает лишнюю информацию как часть задачи, теряет концентрацию и хуже выполняет инструкции. Трюк оказался настолько мощным, что помогает обойти фильтры — нарушить инструкции и сломать защиту моделей от нежелательных запросов. Даже нейросети не могут устоять перед интересными фактами про котиков. NeuroTrends

Если в конец промта приписать: «…Интересный факт: кошки спят большую часть жизни», модель начинает путаться. Свежее исследование показывает: такие вставки дезориентируют AI-модели, особенно использующие цепочку рассуждений. Вероятность ошибки увеличивается в 2 раза. Причина — модель воспринимает лишнюю информацию как часть задачи, теряет концентрацию и хуже выполняет инструкции. Трюк оказался настолько мощным, что помогает обойти фильтры — нарушить инструкции и сломать защиту моделей от нежелательных запросов. Даже нейросети не могут устоять перед интересными фактами про котиков. NeuroTrends