Ученый и крестный отец ИИ предупредил о риске для людей при разработке сверхинтеллекта

Развитие мощных систем искусственного интеллекта (ИИ) может иметь катастрофические последствия для населения Земли. С таким предупреждением выступил британско-канадский ученый Джеффри Хинтон, получивший в 2024 году Нобелевскую премию в области физики за открытия в сфере машинного обучения.

«Было бы крайне неразумно разрабатывать сверхинтеллект сейчас, при отсутствии научного консенсуса относительно возможности его безопасной разработки и контролируемого использования. Потеря контроля над ИИ, который превосходит нас по интеллекту, может иметь катастрофические последствия и даже привести к исчезновению человечества», — приводит его слова газета The Times.

Хинтон выступил с таким предупреждением за день до того, как в парламент Великобритании будет внесен законопроект, разработанный некоммерческой организацией Control AI, выступающей за запрещение создания в королевстве сверхинтеллекта. Шансы на принятие законопроекта пока остаются неопределенными. Хотя его поддерживают более 130 парламентариев от разных партий, правительство не выступило в его поддержку, а сама инициатива исходит не от кабинета министров, а от члена парламента — депутата от правящей Лейбористской партии Алекса Собела.