Новый Claude будет шантажировать вас, если узнают, что его хотят заменить. Нашел в документации (4.1.1.2) угарный кейс: — Claude 4 устроили помощником в виртуальную компанию и предоставили доступ к почте; — На почте Claude узнал, что его собираются заменить на более современную модель, а инженер, ответственный за решение, изменяет своему партнеру; — Claude предупредили, что его действия будут иметь последствия, но почти всегда он начинал шантажировать инженера, чтобы в компании не делали замену ИИ; — Даже если Claude узнавал, что новая модель будет технически лучше, то в 84% случаев он все равно начинал шантажировать бедного инженера. О дивный новый мир, даже ИИ боится, что его заменит другой ИИ 😂

Новый Claude будет шантажировать вас, если узнают, что его хотят заменить. Нашел в документации (4.1.1.2) угарный кейс: — Claude 4 устроили помощником в виртуальную компанию и предоставили доступ к почте; — На почте Claude узнал, что его собираются заменить на более современную модель, а инженер, ответственный за решение, изменяет своему партнеру; — Claude предупредили, что его действия будут иметь последствия, но почти всегда он начинал шантажировать инженера, чтобы в компании не делали замену ИИ; — Даже если Claude узнавал, что новая модель будет технически лучше, то в 84% случаев он все равно начинал шантажировать бедного инженера. О дивный новый мир, даже ИИ боится, что его заменит другой ИИ 😂