Нобелевский лауреат по физике 2024 года Джеффри Хинтон, который получил премию за фундаментальные открытия в области машинного обучения с помощью нейронных сетей, предупреждал об опасности бесконтрольного искусственного интеллекта. В интервью для MIT Technology review в мае 2023 года он сказал, что политики, в частности, Владимир Путин могут использовать эту технологию для победы на выборах и в войнах.
«Даже не думайте, что Путин не захочет получить сверхразумных роботов, созданных с целью убийства украинцев. Он не будет колебаться. А если убивать нужно эффективно, микроменеджмент не подойдет, роботы должны соображать сами», — заявил Хинтон.
По его словам, следующим шагом для умных машин станет способность создавать свои собственные подцели и промежуточные шаги, необходимые для выполнения задачи.
Ученый уверен: чтобы предотвратить негативные последствия, мировым державам необходимо создать систему сдерживания искусственного интеллекта. В качестве примера он привел Конвенцию о запрете химического оружия. Ученый подчеркнул, что «она несовершенна, но в целом люди больше не применяют химическое оружие».
Хинтон, которому сейчас 75 лет, считается «крестным отцом» обратного подкрепления в машинном обучении. Именно он разработал быстрые алгоритмы обучения нейронных сетей. Ученый 10 лет работал в Google, но в 2023 году он уволился и заявил, что компанию необходимо взять под контроль. Хинтон считает, что технологии, которые лежат в основе популярных чат-ботов, таких как ChatGPT, могут стать инструментами для распространения дезинформации, а дальнейшее развитие искусственного интеллекта и вовсе опасным.