Самый богатый предприниматель мира по версии журнала Forbes Илон Маск вместе с группой технологических экспертов призвали приостановить обучение новых систем искусственного интеллекта из-за возможной угрозы, которую обучаемые модели могут нести обществу. Письмо опубликовала финансируемая Маском американская некоммерческая организация Future of Life Institute, его подписали больше тысячи человек.
В тексте утверждается, что системы искусственного интеллекта могут изменить развитие человечества и должны управляться с соразмерным масштабу вниманием и ресурсами. «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что эффекты от их работы будут положительными, а риски управляемыми», — говорится в тексте.
Авторы отмечают, что современные системы ИИ способны конкурировать с человеком в решении широкого спектра задач, поэтому человечество должно решить, должны ли быть полностью автоматизированы работы, должны ли люди рисковать «потерей контроля над цивилизацией» и должны ли люди разрабатывать системы, которые будут умнее людей и сделают человека «безнадёжно устаревшим».
В обращении говорится, что такие решения не должны доверяться лидерам технологической отрасли, которых никто не избирал. Подписанты предлагают на полгода приостановить разработку любых систем искусственного интеллекта, мощнее, чем уже вышедшая для работы в публичном пространстве модель GPT-4, разработанная компанией OpenAI.
Среди подписавших текст есть известные учёные в области искуственного интеллекта, канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем ИИ, конкурирующих с продуктами OpenAI. Сам Маск был сооснователем этой компании, но покинул её в 2018 году, позднее продав принадлежавшие ему акции.
