Открытое письмо с призывом запретить создание сверхинтеллекта подписали сотни известных людей — это предприниматели, политики, ученые и общественные деятели. Речь в документе идет о такой форме ИИ, которая могла бы превзойти человека по уровню мышления, сообщает CNBC.
Число подписантов в целом уже преодолело отметку в 25 тысяч человек. Среди них много публичных персон, их подписи верифицированы на сайте. В частности, за запрет выступили сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, «крестные отцы» современной ИИ-индустрии Йошуа Бенжио и Джеффри Хинтон, Принц Гарри и Меган Маркл и многие другие.
Авторы обращения потребовали запретить разработку сверхинтеллектуальных систем до тех пор, пока не будет научно доказано, что это безопасный и полностью подконтрольный человеку процесс. Они убеждены, что перспектива появления сверхинтеллекта грозит серьезными последствиями, от потери экономической независимости и свободы до угрозы национальной безопасности и возможного исчезновения человечества.
В заявлении подчеркивается, что руководители крупнейших IT-компаний ранее предупреждали о колоссальных рисках. Так, еще в 2015 году глава OpenAI Сэм Альтман писал, что создание машинного разума, превосходящего человека, может стать главной угрозой для существования человечества.
По данным исследований, только 5% американцев поддерживают быструю и нерегулируемую разработку подобных технологий, напоминают авторы письма. Большинство же выступает за строгие меры контроля и отсрочку создания систем.
Один из пионеров ИИ, канадский ученый Йошуа Бенжи, отметил, что развитие искусственного интеллекта должно сопровождаться научными гарантиями безопасности и более широким участием общества в принятии решений, определяющих будущее всей планеты.
