«Последний ИИ, созданный людьми»: китайские учёные описали путь к самосовершенствующемуся искусственному интеллекту

Учёные в Китае исследуют, что потребуется для разработки «последнего ИИ, созданного людьми» — мощной, самосовершенствующейся системы искусственного интеллекта (ИИ), способной создавать собственных преемников.

В новой работе исследователи рассматривают, как подходы к рекурсивному самосовершенствованию (RSI) могли бы помочь справиться с растущими финансовыми и вычислительными затратами на разработку всё более продвинутых моделей ИИ.

RSI относится к идее, что будущие модели ИИ могли бы направлять собственное обучение и разработку, используя то, чему они научились на каждом раунде улучшений, чтобы направлять последующие раунды развития.

Этот рекурсивный цикл обратной связи в конечном итоге мог бы позволить системам ИИ разрабатывать новые, более мощные поколения моделей с минимальным участием человека.

Исследование, загруженное в базу препринтов arXiv 10 сентября, но ещё не прошедшее рецензирование, предлагает framework для классификации систем ИИ на основе их способностей к самосовершенствованию — от уровня 1 (низший) до уровня 5 (высший).

На нижних уровнях разработка остаётся в значительной степени управляемой людьми. По мере продвижения по шкале системы ИИ становятся всё более способными выявлять свои слабости и решать, как их устранять, в конечном итоге приобретая способность делать собственные «метаулучшения» — улучшать то, как они улучшают себя.

Является ли самосовершенствующийся ИИ «чепухой»?

Сможет ли ИИ когда-либо достичь такого уровня устойчивого самосовершенствования, остаётся открытым вопросом. Однако предыдущие эксперименты продемонстрировали более ограниченные формы RSI.

В одном исследовании в начале этого года система ИИ под названием A-Evolve-Training получила задачу улучшить производительность большой языковой модели (LLM) с 30 миллиардами параметров.

За четыре раунда A-Evolve-Training скромно улучшила эталонную производительность LLM, тестируя различные методы обучения и используя результаты, чтобы изменить то, как она подходила к последующим экспериментам.

Питер Бентли, профессор цифровой биологии в Университетском колледже Лондона, поставил под сомнение, предлагают ли такие эксперименты достоверный путь к RSI.

«Эта идея, что какой-то ИИ волшебным образом начнёт генерировать всё лучшие и лучшие ИИ самостоятельно, — чепуха», — сказал Бентли Live Science в электронном письме.

Бентли указал, что самосовершенствующиеся компьютерные системы существуют уже десятилетия. Эволюционные вычисления и обучение с подкреплением, например, оба основаны на принципе систем, совершенствующих свою производительность со временем в ответ на обратную связь.

Гораздо большая проблема, сказал он, — разработка систем ИИ, способных автономно проводить исследования, необходимые для создания более мощных преемников — не говоря уже о преодолении их зависимости от человеческой экспертизы и физической вычислительной инфраструктуры.

«Вы не можете „рекурсивно самосовершенствоваться“, если вы также не можете улучшить своё собственное обучение, улучшить своё оборудование и тщательно протестировать его в реальных условиях», — добавил Бентли.

Проблема истинного RSI

Авторы исследования признали некоторые из этих проблем. Разработка систем, способных к RSI, может потребовать огромных инвестиций в вычислительную мощность, а также человеческого надзора, чтобы гарантировать, что последовательные улучшения дают значимые результаты. Всё это становится фактически избыточным, если ресурсы, необходимые для разработки и тестирования последующих моделей ИИ, перевешивают любые выгоды, которые они предлагают, отметили авторы.

Учёным также понадобился бы надёжный способ определить, действительно ли система ИИ становится более способной с итерациями, а не эксплуатирует слабости в тестах, используемых для измерения её возможностей. Это известная проблема в разработке ИИ, где модели могут достигать более высоких результатов в бенчмарках, эксплуатируя методы тестирования или cherry-picking результаты.

Кайла Бломквист, исследовательница ИИ в Оксфордском университете и соучредитель Оксфордской лаборатории политики Китая, сказала, что, хотя работа не предоставляет практической дорожной карты к RSI, она может помочь разработчикам и политикам понять технические проблемы и риски безопасности, связанные со всё более автономными системами ИИ.

Она также поставила под сомнение, будет ли когда-либо чёткий момент, когда ИИ станет полностью независимым от человеческой разработки. «В работе описывается постепенная передача ответственности, а не единичный момент, поэтому может никогда не быть очевидной „последней“ модели, созданной людьми», — добавила Бломквист.

Источники: Live Science; arXiv (препринт, 10 сентября 2026); комментарии Петера Бентли (UCL) и Кайлы Бломквист (Оксфорд).