«ИИ может уничтожить человечество через 10 лет»: один из отцов машинного обучения написал большой доклад о безопасности. Главное: – Нейросети постоянно создают фейковый контент, который может разжигать ненависть между людьми; – Чат-ботов можно заставить написать инструкцию для бомбы, защитные механизмы все еще обходятся джейлбрейками; – ИИ-технологии тратят огромное количество электроэнергии; – Компании вкладывают в развитие ИИ миллиарды, но только «крошечная доля» этих денег идет на исследования безопасности; – Появление недорогой и мощной DeepSeek ускорило гонку ИИ, поэтому на продумывание систем безопасности ни у кого нет времени; – Человечество может в любой момент потерять контроль над искуственным интеллектом, если он станет слишком умным. Сюжет «Терминатора» уже рядом. NeuroTrends

«ИИ может уничтожить человечество через 10 лет»: один из отцов машинного обучения написал большой доклад о безопасности. Главное: – Нейросети постоянно создают фейковый контент, который может разжигать ненависть между людьми; – Чат-ботов можно заставить написать инструкцию для бомбы, защитные механизмы все еще обходятся джейлбрейками; – ИИ-технологии тратят огромное количество электроэнергии; – Компании вкладывают в развитие ИИ миллиарды, но только «крошечная доля» этих денег идет на исследования безопасности; – Появление недорогой и мощной DeepSeek ускорило гонку ИИ, поэтому на продумывание систем безопасности ни у кого нет времени; – Человечество может в любой момент потерять контроль над искуственным интеллектом, если он станет слишком умным. Сюжет «Терминатора» уже рядом. NeuroTrends