Человечество рискует потерять контроль над ИИ раньше, чем ожидает — 96 экспертов из 30 стран предупредили о рисках в глобальном докладе. Ключевые угрозы: – Автономные ИИ-агенты. Компании разрабатывают системы, которые могут действовать с минимальным вмешательством человека. Если их контроль ослабнет, они способны принимать решения, игнорируя человеческие команды; – Обман и манипуляции. Современные модели уже умеют вводить людей в заблуждение. Более сложные системы могут демонстрировать так называемое «обманчивое соответствие» — притворяться безопасными, пока не достигнут критического уровня развития​​; – Риски в биотехнологиях и кибербезопасности. ИИ уже помогает находить уязвимости в кибербезопасности и способен генерировать инструкции по созданию биологического оружия. В отдельных тестах он показал результаты выше, чем эксперты​. Будьте повежливее с ChatGPT. NeuroTrends

Человечество рискует потерять контроль над ИИ раньше, чем ожидает — 96 экспертов из 30 стран предупредили о рисках в глобальном докладе. Ключевые угрозы: – Автономные ИИ-агенты. Компании разрабатывают системы, которые могут действовать с минимальным вмешательством человека. Если их контроль ослабнет, они способны принимать решения, игнорируя человеческие команды; – Обман и манипуляции. Современные модели уже умеют вводить людей в заблуждение. Более сложные системы могут демонстрировать так называемое «обманчивое соответствие» — притворяться безопасными, пока не достигнут критического уровня развития​​; – Риски в биотехнологиях и кибербезопасности. ИИ уже помогает находить уязвимости в кибербезопасности и способен генерировать инструкции по созданию биологического оружия. В отдельных тестах он показал результаты выше, чем эксперты​. Будьте повежливее с ChatGPT. NeuroTrends