Илон Маск и Стив Возняк испугались «слишком умного» ИИ. Глава Tesla Илон Маск и соучредитель Apple Стив Возняк призвали прекратить улучшать ИИ.
Глава SpaceX и Tesla Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще более тысячи исследователей искусственного интеллекта призвали немедленно приостановить обучение систем на основе ИИ, «более мощных, чем GPT-4» от OpenAI. Об этом говорится в письме, опубликованном на сайте некоммерческой организации Future of Life.
Авторы письма, среди которых числятся Маск и Возняк, указали на риски для человечества из-за дальнейшего развития систем ИИ с «человеко-конкурентным интеллектом». Они призвали полностью приостановить обучение любых систем ИИ на шесть месяцев.
«Мощные системы искусственного интеллекта следует разрабатывать только в том случае, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми», — говорится в тексте.
Под обращением также подписались соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из компании DeepMind, университетов Гарварда, Оксфорда и Кембриджа.
В письме описаны потенциальные риски для общества и цивилизации со стороны «слишком умных» систем ИИ в виде экономических и политических потрясений.
«Должны ли мы развивать «нечеловеческие умы», которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий», — заключили авторы письма.
#ValliServis#ValliPraha
