Ведь и он, и некоторые нобелевские лауреаты, и даже глава OpenAI Сэм Альтман предупреждают о риске потери человеческого контроля над системами, способными самостоятельно улучшать себя. В итоге появится так называемый сильный интеллект, который может превзойти совокупные интеллектуальные возможности человечества. А потому надо срочно затормозить его бурное развитие и создавать системы, которые позволят исключить любые негативные варианты.
И вот впервые на такой шаг пошли власти американского города. Речь идет о гипотетической системе, которая сможет значительно превосходить людей в решении интеллектуальных задач и самостоятельно совершенствовать свои возможности. При этом у экспертов до сих пор нет единого мнения о том, как определить появление такой технологии и когда этого можно ожидать.
Однако отдельные предпосылки для ее создания уже существуют. Разработчики все активнее используют ИИ для написания программного кода, тестирования алгоритмов и совершенствования самих моделей. В перспективе этот процесс может стать автономным: система будет самостоятельно разрабатывать более совершенные версии себя, которые смогут ускорять дальнейшее развитие технологии. Такой сценарий называют рекурсивным самосовершенствованием.
- Все большая часть обучения выполняется самим ИИ, и, вероятно, вскоре эта доля приблизится к 100%. Именно этого порога мы должны избежать, поскольку тогда и проявится сверхразум", - заявил автор постановления, член городского совета Дэйв Ролло. Он признает, что сейчас обеспечить соблюдение запрета практически невозможно. Одна из причин - отсутствие общепринятого определения сильного искусственного интеллекта. Тем не менее он рассчитывает, что решение привлечет внимание законодателей и подтолкнет власти штата и федеральное правительство к разработке правил.

Комментарии 0