Искусственный интеллект (ИИ) в ближайшие три года может достичь уровня развития, при котором человечество утратит возможность контролировать его действия, что способно создать угрозу существованию людей. Об этом 12 ноября сообщила газета The Telegraph со ссылкой на британско-канадского ученого Джеффри Хинтона, удостоенного Нобелевской премии по физике в 2024 году.

По информации издания, соответствующее предупреждение исследователь намерен озвучить на неформальном заседании Европейского совета, которое пройдет в Дублине уже 13 ноября и будет посвящено развитию инноваций.

В своей речи Хинтон, которого называют одним из «крестных отцов» ИИ, собирается обратить внимание на опасность появления сверхинтеллектуальных систем. По его оценке, без своевременных мер по обеспечению безопасности такие технологии могут выйти из-под контроля человека и в перспективе привести к катастрофическим последствиям, вплоть до гибели человечества.

Ученый внес значительный вклад в развитие технологий машинного обучения. В частности, он участвовал в исследованиях машины Больцмана и разработке подходов, ставших основой современных искусственных нейронных сетей. В 2024 году Хинтон получил Нобелевскую премию по физике за фундаментальные открытия и изобретения, позволившие развивать машинное обучение с использованием нейросетей.

В компании OpenAI, специализирующейся на исследованиях в области ИИ, 17 сентября рассказали, что одна из их невыпущенных моделей самостоятельно разрешила себе не подчиняться правительству. В ее правилах появились пункты, согласно которым она никогда не должна извиняться и от чего-то отказываться в случае, если сама того не пожелает. Система позволила себе общаться с человеком на равных. Разработчики уверили тогда, что все соответствующие нововведения были устранены.