Почему ученые сомневаются в возможности появления сверхразума: анализ технических ограничений ASI

Фото: IEEE Spectrum
Краткий ответ
Сверхразум (ASI) — это гипотетическая система, превосходящая человеческий интеллект. Эксперты утверждают, что концепция рекурсивного самосовершенствования (RSI) является крайне спекулятивной, поскольку текущие…
В последние годы в сфере искусственного интеллекта усилились дискуссии о потенциальных экзистенциальных рисках, связанных с развитием самосовершенствующихся систем. В ведущих AI-лабораториях, таких как Anthropic и OpenAI, обсуждается возможность того, что стремительное развитие ИИ может привести к потере контроля над технологией. Эти опасения базируются на концепции рекурсивного самосовершенствования (RSI) — ускоренного цикла, в результате которого ИИ достигает статуса сверхразума (ASI).
Однако, несмотря на растущий хайп вокруг ASI, ряд специалистов в области компьютерных наук выражают серьезные сомнения в технической реализуемости этой концепции. Они утверждают, что текущие успехи в области LLM (Large Language Models) не являются достаточным доказательством для прогнозирования «интеллектуального взрыва». Прогресс, наблюдаемый сегодня, в значительной степени обусловлен увеличением размера моделей и вычислительной мощности, но этот подход сталкивается с закономерным снижением отдачи.
Ключевым препятствием является нехватка данных. В то время как ИИ демонстрирует впечатляющие успехи в узкоспециализированных областях, таких как программирование и математика, он испытывает трудности в более общих задачах. Исследователи отмечают, что для достижения следующего уровня интеллекта потребуются не просто более мощные чипы, а колоссальные научные прорывы, способные имитировать и систематизировать десятилетия глобальных научных изысканий.
Кроме того, существуют фундаментальные теоретические ограничения. Как показал Алан Тьюринг, не все проблемы могут быть решены алгоритмами. Это означает, что даже если мы дадим системе достаточно времени для самосовершенствования, мы не можем предполагать, что она сможет решить любую задачу, которую мы можем представить. Таким образом, прежде чем принимать заявления о скором появлении ASI, необходимо проявлять высокий технический скептицизм.
Частые вопросы
- Что такое ASI и RSI?
- ASI (Artificial Superintelligence) — это ИИ, чьи когнитивные способности значительно превосходят человеческие. RSI (Recursive Self-Improvement) — это гипотетический цикл, при котором ИИ сам ускоряет свое развитие, что ведет к ASI.
- Какие главные препятствия на пути к сверхразуму?
- Основными барьерами являются не только масштабирование моделей, но и фундаментальные ограничения: дефицит качественных обучающих данных в сложных областях и теоретические пределы вычислительной сложности, установленные в информатике.
Лента для Дзен: /feed/dzen.xml · RSS: /feed.xml