ИИ и математика: почему человеческое суждение важнее объёма результатов

ИИ и математика: почему человеческое суждение важнее объёма результатов

ИИ всё чаще выдаёт математические результаты, включая претензию на доказательство гипотезы Римана. Пора менять критерии оценки экспертизы и значимости.

 

Математик из Anthropic, использующий Claude, заявляет, что доказал самую знаменитую проблему математики — гипотезу Римана. Это последний, но, возможно, наиболее значимый пример того, как искусственный интеллект (ИИ) выдаёт ошеломляющие математические результаты.

ИИ стремительно ворвался в математическое сообщество. Доказательство Anthropic, несомненно и справедливо, будет подвергнуто тщательной проверке, но вместо того, чтобы разбирать на части каждый отдельный результат, который выдают эти модели, нам следует ответить изменением того, как мы оцениваем и вознаграждаем экспертизу, — уделяя меньше веса объёму результатов и больше — человеческому суждению, необходимому для решения, какие вопросы и ответы имеют значение.

Без этого сдвига мы рискуем утонуть в потоке правдоподобной, но плохо понятой математики.

Математическое суждение — это способность отличать результат, который правилен, но скучен, от того, который может фундаментально изменить то, как мы думаем о проблеме или даже о всей области математики, окружающей проблему.

ИИ мог бы генерировать сотни тысяч сложных вариаций теоремы, но эти вариации могут добавить очень мало к математическому знанию, каждая из них в конечном итоге доказывает тупик. По-настоящему значимый результат мог бы решить давнюю нерешённую проблему или связаться с явно несвязанными областями. Именно математическое суждение позволяет нам отличать одно от другого.

Ранее в этом году система OpenAI произвела контрпример к давней проблеме плоских единичных расстояний, опровергнув гипотезу Пола Эрдёша, которая сопротивлялась математикам десятилетиями. Совсем недавно OpenAI объявила об очевидном решении проблемы Навье — Стокса — знаменитого вопроса о том, могут ли уравнения, описывающие течение жидкости, развивать сингулярности, или бесконечные значения. Это одна из «Проблем тысячелетия» Математического института Клэя — набор из семи известных и сложных математических проблем, каждая с призом в 1 миллион долларов.

Устоит ли результат OpenAI в конечном итоге под проверкой — ещё предстоит увидеть. Но ясно то, что системы ИИ теперь работают на уровне, который многие математики не ожидали увидеть в течение многих лет, если не десятилетий. С тех пор OpenAI выпустила сотни дальнейших математических результатов, оставив математиков в спешке оценивать их правильность и значимость.

Это не означает, что математики вот-вот станут ненужными. Но это означает, что нам нужно тщательно переосмыслить, в чём именно заключается их предназначение.

Традиционно экспертиза тесно ассоциировалась с производством: эксперты решают сложные проблемы, доказывают теоремы, строят модели и пишут статьи. Если ИИ может генерировать доказательства, гипотезы и исследовать области исследований с беспрецедентной скоростью и масштабом, математическое производство больше не обязательно является узким местом. Вместо этого многие чистые математики утверждали бы, что именно математическое суждение станет более дефицитным ресурсом.

Человеческое суждение остаётся необходимым, потому что доказательства, сгенерированные ИИ, не обязательно освещают, понятны или даже надёжны. Некоторые доказательства могут быть настолько длинными или непрозрачными, что их проверка требует значительной работы специалистов и ещё больше работы, чтобы переинтерпретировать их способом, значимым для человеческих математиков.

Доказательство может быть валидным, не предлагая понимания того, почему оно истинно или как его идеи могут быть использованы в другом месте. Задача человеческих математиков будет состоять в том, чтобы стать арбитрами правильности доказательств, но также тщательно изучать рассуждения и извлекать лежащие в основе идеи, определяя, говорит ли результат что-либо, что значимо продвигает область.

Значимость против объёма

Математика как исследовательское сообщество должна быстро реагировать на это изменение. Математики и журналы должны приоритизировать значимость над объёмом. Математика включает решение, какие результаты важны, а также их генерацию. Доказательство может быть правильным, не будучи проницательным. Приведём упрощённый пример: ИИ мог бы «доказать», что квадрат числа, делящегося на два, делится на четыре, а затем доказать, что квадрат числа, делящегося на три, делится на девять, и так далее со всё большими целыми числами. Однако каждое новое «доказательство» не является примером проницательной математики, а просто вариацией на одну и ту же элементарную идею.

ИИ может создавать аргументы быстрее, чем сообщество может их проверить, интерпретировать или усвоить. Существующие гарантии не были рассчитаны на такой дисбаланс.

Напротив, значимое доказательство могло бы решить давний вопрос, раскрыть неожиданную связь между разрозненными областями или разработать технику, полезную в решении многих других проблем.

Поэтому журналы должны требовать от авторов чётко объяснять, что является действительно новым, почему это важно — и какую роль сыграл ИИ. Рецензенты должны судить, углубляет ли результат понимание, а не просто проверять, работает ли аргумент. Это не означает отклонения работ, чья возможная важность неопределённа. История математики полна идей, значимость которых стала очевидной лишь десятилетия спустя, поэтому журналы должны продолжать оставлять место для фундаментальных, исследовательских и любознательных исследований.

Но есть разница между результатом с пока неизвестными последствиями и тем, который вряд ли когда-либо будет проницательным. Математическое суждение не может гарантировать, что ничего ценного никогда не будет упущено. Оно может, однако, отличить работу, содержащую действительно новые идеи или возможности, от автоматизированного производства неинтересных тупиков.

Университеты и финансирующие организации также должны перестать рассматривать количество публикаций как удобный прокси качества. Карьеры строятся вокруг статей, цитирований, грантов и наград, но эти меры были разработаны, когда производство сложной математики требовало значительного человеческого времени и усилий. В эпоху ИИ работа, которая ранее могла занять годы тщательного размышления, теперь может быть произведена за недели или даже дни.

Следовательно, по мере того как стоимость генерации математических результатов резко падает, эти меры качества становятся менее полезными. Снижение зависимости от традиционных метрик может быть не плохой вещью, но учреждениям нужны надёжные альтернативы: оценки наиболее важных вкладов исследователя, свидетельства интеллектуального лидерства и объяснения того, как их работа изменила понимание. Это срочно, потому что математики уже изо всех сил пытаются оценить sheer объём производимого материала.

Наконец, математическое образование должно продолжать вознаграждать понимание. Письменная работа сама по себе станет менее надёжным ориентиром индивидуальных способностей, когда статьи, отчёты и заявки можно писать в основном с помощью ИИ. Семинары, дискуссии и collaborations могут выявить, понимает ли кто-то аргумент, может ли его защитить и связать с другими идеями. Демонстрация понимания всегда была более важным качеством у университетских студентов, чем просто представление ответа; образование и набор должны теперь отражать этот принцип более явно.

Критики могли бы возразить, что это чрезмерная реакция. Математические утверждения по-прежнему требуют доказательства, рецензирование уже оценивает значимость, а ИИ — просто ещё один инструмент, как калькулятор или система компьютерной алгебры. В каждом возражении есть доля истины. Однако взрыв числа опубликованных статей меняет природу игры. Калькулятор не генерирует сотни исследовательских утверждений, которые специалисты должны тратить драгоценное время на проверку. ИИ может создавать аргументы быстрее, чем сообщество может их проверить, интерпретировать или усвоить. Существующие гарантии не были рассчитаны на такой дисбаланс.

Недавние достижения, понятно, вызвали как волнение, так и тревогу. Правильный ответ — не отвергать ИИ и не безоглядно праздновать каждое найденное им открытие. Журналы, университеты и финансирующие организации должны адаптировать свои стимулы сейчас, прежде чем количество полностью подавит суждение.

В среде, всё более способной автоматически генерировать математику исследовательского уровня, наиболее ценными экспертами будут те, кто знает, какие вопросы стоит задавать, какие результаты заслуживают доверия и какие идеи заслуживают нашего внимания.


Источники: Live Science (мнение эксперта), материалы о результатах OpenAI и Anthropic, проблема Навье — Стокса и «Проблемы тысячелетия» Математического института Клэя.