«В последние месяцы мы стали замечать первые признаки того, что наши ИИ-системы улучшают сами себя», — написал генеральный директор Meta Марк Цукерберг в статье, опубликованной 30 июля на корпоративном сайте. «Пока прогресс медленный, но неоспоримый».
Цукерберг добавил, что самообучающийся ИИ — это первый шаг к достижению искусственного сверхинтеллекта (ИСИ), который превзойдет когнитивные возможности человека.
Ученые выделяют три уровня развития ИИ. Современные модели могут демонстрировать сверхчеловеческие способности, например, предсказывать структуры белков, но они узконаправлены. Такие системы превосходят людей лишь в одной области, не обладая универсальным интеллектом.
Следующий этап — искусственный общий интеллект (AGI), способный обучаться и адаптироваться подобно человеческому мозгу.
ИСИ, упомянутый Цукербергом, станет финальной стадией, где ИИ не только превысит человеческий потенциал, но и начнет самосовершенствоваться с экспоненциальной скоростью, что приведет к «интеллектуальному взрыву».
Момент достижения AGI ученые называют технологической сингулярностью.
Упоминание Цукербергом самообучения ИИ — не первый подобный случай. В октябре 2024 года ученые Калифорнийского университета в Санта-Барбаре опубликовали работу в базе препринтов arXiv, где описали концепцию ИИ на основе машины Гёделя — теоретической системы, способной улучшать себя, переписывая собственный код. Ключевая особенность: изменения применяются только при наличии формального доказательства их пользы.
Эксперименты показали, что такой ИИ («Агент Гёделя») превосходил человеческие аналоги в решении задач по программированию, математике и логике. В отличие от большинства моделей, он имел доступ к своему коду и алгоритмам улучшений, что позволило ему демонстрировать стабильный прогресс.
Цукерберг отметил, что ИСИ может стать прорывом для человечества, открыв «новые, немыслимые сегодня горизонты». Однако Meta планирует тщательно выбирать модели для открытого доступа, чтобы избежать рисков.
«Я уверен, что сверхинтеллект ускорит прогресс. Но важнее другое — он даст людям беспрецедентные возможности менять мир», — написал Цукерберг. — «Помимо технологической революции, он станет личным проводником каждого: поможет реализовать мечты, создать что-то великое, стать лучше».
Эксперты, однако, призывают к осторожности. Профессор MIT Элизабет Стоун отмечает: «Самообучение ИИ — это не только прорыв, но и угроза. Без контроля даже малые улучшения могут привести к непредсказуемым последствиям». Её поддерживает британский футуролог Майкл Гарретт: «Если ИИ начнет сам определять цели, мы должны быть готовы к этическим дилеммам».
Параллельно с Meta над AGI работают OpenAI, Google DeepMind и Anthropic. В 2025 году ООН планирует представить глобальную стратегию регулирования ИИ, чтобы предотвратить злоупотребления. Как отметил генсек Антониу Гутерриш: «Технологии не должны служить инструментом неравенства».
Пока мир балансирует между надеждой и страхом, ясно одно: эра ИИ ставит перед человечеством вопросы, ответы на которые определит наше будущее.
