Принц Гарри, Брэнсон и Возняк высказываются против развития сверхразумного ИИ, обсуждая потенциальные риски и этические последствия технологий будущего.
Более 800 человек, среди которых принц Гарри, пятеро обладателей Нобелевской премии и рэпер Will.i.am (в полном составе — Уильям Джеймс Адамс-младший), подписали открытое письмо, призывающее к остановке исследований в области сверхразумного искусственного интеллекта до тех пор, пока не будет достигнуто общее понимание относительно безопасного и контролируемого внедрения этой технологии.
В публикации, выпущенной некоммерческой организацией «Институт будущего жизни» (Future of Life Institute, FLI), группа ученых и общественных деятелей высказалась за запрет на разработку искусственного интеллекта, превосходящего человека по своим возможностям. «Многие ведущие компании в секторе ИИ стремятся создать сверхинтеллект, который сможет значительно превзойти человека по всем когнитивным задачам в течение следующего десятилетия, — говорится в заявлении. — Это вызывает множество беспокойств, начиная от экономической отсталости и потери прав человека, свободы, достоинства и контроля, вплоть до угроз для национальной безопасности и потенциального вымирания человечества».
Среди подписантов можно увидеть принца Гарри и его супругу Меган Маркл, рэпера Will.i.am, а также Сьюзан Райс, которая ранее была советником президента США по вопросам национальной безопасности. К этому списку присоединились основатель Virgin Group Ричард Брэнсон, соучредители Apple Стив Возняк и Skype Яан Таллинн, актер и режиссер Стивен Фрай, советник папы римского по ИИ Паоло Бенанти, отставной адмирал ВМС США Майк Маллен и бывший президент Ирландии Мэри Робинсон.
Кроме того, письмо подписали и лауреаты Нобелевской премии: программист Джеффри Хинтон, экономист Дарон Аджемоглу, астрофизик NASA Джон Мазер, физик Франк Вильчек, а также обладательница Нобелевской премии мира Беатрис Фин. В августе издание The Wall Street Journal сообщило, что нейросеть ChatGPT в последние годы стала часто выдавать абсурдные и ложные утверждения, что приводит пользователей в замешательство.
Однако OpenAI отметила, что такие случаи редки. Представитель компании, Ник Терли, заверил, что они серьезно относятся к данной проблеме и консультируются с медицинскими специалистами во время разработки.
В письме также подчеркивается необходимость создания международных стандартов и нормативных актов, регулирующих развитие ИИ. Ученые и эксперты призвали к активному диалогу на уровне правительства, научных кругов и общественности для формирования безопасного и этичного подхода к развитию технологий. В связи с этим многие организации и компании в сфере ИТ начинают разрабатывать стратегии управления рисками, связанными с ИИ, чтобы обеспечить их безопасное применение в различных областях жизни.
