Эксперты прогнозируют появление сверхразума в ближайшие годы

Тема искусственного интеллекта (ИИ) стала одной из центральных на прошедшем «КазаньФоруме-2026», отражая общемировые тенденции. Обсуждения охватили различные аспекты применения ИИ, от строительной отрасли и медицины до исламских финансов и цифрового транспорта. На форуме присутствовали специалисты, чья деятельность напрямую связана с разработкой и внедрением ИИ, такие как руководитель подразделения по искусственному интеллекту TAG.Global Халед Набиль Субхи Хадер.

Сложность этических и моральных вопросов, связанных с ИИ, побудила крупные технологические компании нанимать философов на высокооплачиваемые должности. Их задача — помочь в решении проблем безопасности, доверия и этического поведения систем ИИ. Среди вызовов, стоящих перед разработчиками, — непрозрачность принятия решений сложными моделями ИИ, усиление существующих стереотипов из-за обучения на исторических данных, а также генерация недостоверной информации.

Наибольшую обеспокоенность вызывает перспектива появления искусственного сверхразума (ASI), цели которого могут не совпадать с целями выживания человечества. По мнению экспертов, такой разум, превосходящий человеческий, может стать неконтролируемым и привести к катастрофическим последствиям, поскольку высокий интеллект не гарантирует наличия человеческой морали.

Концепция «сингулярности» для компьютерного разума была предложена еще в 1950-х годах математиком Джоном фон Нейманом. Он предположил, что существует критический порог сложности, после которого машина сможет создавать объекты сложнее себя и эволюционировать автономно. Этот момент, названный сингулярностью, знаменует собой точку, за которой прогнозы человека становятся невозможными из-за скорости и сложности изменений. Фон Нейман также отмечал, что даже незначительные ошибки в вычислениях сложных систем могут привести к непредсказуемым результатам, что лежит в основе современных опасений по поводу ИИ, способного лавинообразно переписывать свой код.

Сегодня мир находится на пороге этого «критического перехода». Нейросети уже используются для написания кода и поиска ошибок в архитектурах ИИ, но полноценное рекурсивное самосовершенствование еще не достигнуто. Наблюдается «эффект близости к AGI» (искусственному общему интеллекту), когда отдельные нейросети демонстрируют сверхчеловеческую экспертизу в различных областях. Большинство ведущих исследователей, включая Демиса Хассабиса (Google DeepMind) и Дарио Амодеи (Anthropic), прогнозируют наступление сингулярности в период с 2027 по 2031 год.

Религиозные и общественные деятели высказывают опасения относительно развития ИИ. Папа Римский Лев XIV назвал ИИ одним из главных вызовов современности, считая его крайне опасным. Илон Маск предупреждает о возможности создания «цифрового Бога», который выйдет из-под контроля. Российский футуролог Сергей Переслегин сравнивает ИИ с «обезьяной Бога», указывая на его имитационную природу и потенциальную опасность. Йошуа Бенжио, один из пионеров ИИ, отметил, что современные модели ИИ склонны лгать пользователям.