Илон Маск призвал приостановить обучение новых систем искусственного интеллекта «из-за угрозы обществу»
Самый богатый предприниматель мира по версии журнала Forbes Илон Маск вместе с группой технологических экспертов призвал приостановить обучение новых систем искусственного интеллекта из-за возможной угрозы, которую обучаемые модели могут нести обществу.
Письмо опубликовала финансируемая Маском американская некоммерческая организация Future of Life Institute, его подписали более тысячи человек, пишет Радио Свобода.
В письме утверждается, что системы искусственного интеллекта могут изменить развитие человечества и должны управляться с соразмерным масштабу вниманием и ресурсами.
«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что эффекты от их работы будут положительными, а риски управляемыми», – говорится в письме.
Авторы отмечают, что современные системы ИИ способны конкурировать с человеком в решении широкого спектра задач, поэтому человечество должно решить, должны ли быть полностью автоматизированы работы, должны ли люди рисковать «потерей контроля над цивилизацией» и должны ли люди разрабатывать системы, которые будут умнее людей и сделают человека «безнадежно устаревшим».
В обращении говорится, что такие решения не должны доверяться лидерам технологической отрасли, которых никто не избирал. Подписанты предлагают на полгода приостановить разработку любых систем искусственного интеллекта мощнее, чем уже вышедшая для работы в публичном пространстве модель GPT-4, разработанная компанией OpenAI.
Среди подписавших текст есть известные ученые в области искусственного интеллекта, канадец Йошуа Бенжио и британец Стюарт Рассел. Кроме того, там есть разработчики систем ИИ, конкурирующих с продуктами OpenAI. Сам Маск был сооснователем этой компании, но покинул ее в 2018 году, позднее продав принадлежавшие ему акции.
