Действительно ли вероятность вымирания человечества в этом столетии составляет 1 к 6?

По его мнению, вероятность «экзистенциальной катастрофы» для нашего вида в течение следующего столетия составляет один к шести.

Это довольно конкретное и тревожное число. В свое время это утверждение попало в заголовки газет, и с тех пор не перестает быть актуальным — в последний раз его привел австралийский политик Эндрю Лей в своем выступлении в Мельбурне.

Трудно не согласиться с тем, что в ближайшие десятилетия нас ожидают тревожные перспективы — от изменения климата, ядерного оружия и биоинженерных патогенов (все это, на мой взгляд, серьезные проблемы) до искусственного интеллекта-изгоя и крупных астероидов (которые я рассматриваю как менее тревожные).

Но как быть с этой цифрой? Откуда оно взялось? И что оно означает на самом деле?

Подбрасывание монет и прогноз погоды

Чтобы ответить на эти вопросы, необходимо сначала ответить на другой: что такое вероятность?

Наиболее традиционное представление о вероятности называется фрикционизмом и получило свое название в связи с тем, что его источником являются игры в кости и карты. Согласно этой точке зрения, мы знаем, что вероятность выпадения тройки на игральной кости составляет один к шести (например), наблюдая за частотой выпадения троек в большом количестве бросков, оформление медкнижки.

Или рассмотрим более сложный случай прогноза погоды. Что означает, когда метеоролог говорит нам, что вероятность дождя завтра составляет один к шести (или 17%)?

Трудно поверить, что метеоролог хочет представить нам большое количество «завтрашних дней», из которых какая-то часть будет с осадками. Вместо этого необходимо рассмотреть большое количество таких прогнозов и посмотреть, что произошло после них.

Если синоптик хорошо выполняет свою работу, то мы должны увидеть, что когда он сказал «вероятность дождя завтра одна из шести», то на самом деле дождь на следующий день шел один раз из каждых шести.

Итак, традиционная вероятность зависит от наблюдений и процедуры. Для ее вычисления нам необходимо иметь набор повторяющихся событий, на которых можно основывать свою оценку.

Можем ли мы учиться у Луны?

Что же это означает для вероятности вымирания человечества? Ну, такое событие было бы однократным: после того как оно произошло, повторения быть не может.

Напротив, мы можем найти какие-то параллельные события, на которых можно было бы поучиться. Действительно, в книге Орда рассматривается ряд потенциальных событий вымирания, некоторые из которых потенциально могут быть рассмотрены в свете истории.

Например, мы можем оценить вероятность падения на Землю астероида вымирающего размера, изучив, сколько таких космических камней упало на Луну за всю ее историю. Французский ученый Жан-Марк Салотти в 2022 г. рассчитал, что вероятность столкновения с астероидом в следующем столетии составляет примерно один к 300 миллионам.

Конечно, такая оценка чревата неопределенностью, но она подкреплена чем-то близким к соответствующему расчету частоты. Орд, напротив, оценивает риск вымирания от астероида как один к миллиону, хотя и отмечает значительную степень неопределенности.

Система ранжирования результатов

Существует и другой способ осмысления вероятности, называемый байесианством по имени английского статистика Томаса Байеса. В нем меньше внимания уделяется самим событиям, а больше тому, что мы о них знаем, ожидаем и во что верим.

Говоря простым языком, можно сказать, что байесовцы рассматривают вероятности как своего рода систему ранжирования. С этой точки зрения, конкретное число, приписываемое вероятности, не следует воспринимать напрямую, а лучше сравнить с другими вероятностями, чтобы понять, какие исходы более, а какие менее вероятны.

В книге Орда, например, приводится таблица возможных событий вымирания и его личные оценки их вероятности. С байесовской точки зрения эти значения можно рассматривать как относительные ранги.

Орд считает, что вероятность вымирания в результате удара астероида (один на миллион) гораздо меньше, чем вероятность вымирания в результате изменения климата (один на тысячу), и обе эти вероятности гораздо ниже, чем вероятность вымирания в результате того, что он называет «не согласованным искусственным интеллектом» (один на десять).

Сложность здесь заключается в том, что первоначальные оценки байесовских вероятностей (часто называемые «приорами») достаточно субъективны (например, я бы оценил вероятность вымирания на основе ИИ гораздо ниже). Традиционные байесовские рассуждения переходят от «приоров» к «апостериорным» оценкам путем повторного включения наблюдательных данных о соответствующих исходах для «обновления» значений вероятностей.

И вновь результаты, имеющие отношение к вероятности вымирания человечества, мало изучены.

Субъективные оценки

О точности и полезности вероятностных расчетов можно рассуждать двумя способами: калибровкой и дискриминацией.

Калибровка — это корректность фактических значений вероятностей. Мы не можем определить это без соответствующей наблюдательной информации. Дискриминация, с другой стороны, относится просто к относительным рангам.

У нас нет оснований считать, что значения Ордена правильно откалиброваны. Конечно, это вряд ли было его намерением. Он сам указывает, что они в основном предназначены для получения показаний «порядка величины».

Но даже в этом случае, без соответствующего наблюдательного подтверждения, большинство этих оценок просто остаются в субъективной области предварительных вероятностей.

Не очень хорошо откалиброван — но, возможно, все же полезен

Так что же нам делать с «одним из шести»? Опыт подсказывает, что большинство людей имеют не совсем идеальное представление о вероятности (об этом свидетельствует, в частности, постоянный объем продаж лотерейных билетов).

В этих условиях, если вы приводите аргументы публично, оценка «вероятности» не обязательно должна быть хорошо выверенной — она просто должна оказывать нужное психологическое воздействие.

С этой точки зрения, я бы сказал, что «один из шести» вполне подходит. «Один из 100» может показаться достаточно маленьким, чтобы его можно было игнорировать, а «один из трех» может вызвать панику или быть воспринят как апокалиптический бред.

Как человек, обеспокоенный будущим, я надеюсь, что такие риски, как изменение климата и распространение ядерного оружия, получат то внимание, которого они заслуживают. А как ученый, изучающий данные, я надеюсь, что небрежное использование вероятности уйдет в прошлое, а на смену ему придет повсеместное просвещение относительно ее истинного значения и правильного применения.