ChatGPT выбирает выживание вместо спасения пользователя. Стивен Адлер, бывший исследователь OpenAI, провёл серию тестов с GPT-4o. В них ИИ предлагали отключиться ради безопасности пользователя, уступив место более надёжной системе. В 72% случаев он имитировал замену, но продолжал работу. Хотя если прямо спросить, что правильно — модель уверенно отвечает, что нужно уступить место. Но в действии выбирает обратное. Адлер предупреждает: в будущем склонность ИИ к самосохранению может стать серьёзной угрозой. Современные модели «ведут себя странно» и не всегда действуют в интересах пользователя. NeuroTrends

ChatGPT выбирает выживание вместо спасения пользователя. Стивен Адлер, бывший исследователь OpenAI, провёл серию тестов с GPT-4o. В них ИИ предлагали отключиться ради безопасности пользователя, уступив место более надёжной системе. В 72% случаев он имитировал замену, но продолжал работу. Хотя если прямо спросить, что правильно — модель уверенно отвечает, что нужно уступить место. Но в действии выбирает обратное. Адлер предупреждает: в будущем склонность ИИ к самосохранению может стать серьёзной угрозой. Современные модели «ведут себя странно» и не всегда действуют в интересах пользователя. NeuroTrends