Жизнь проста. Как бритва Оккама освободила науку и стала ключом к познанию тайн Вселенной - Джонджо МакФадден

город, это место стало одним из самых популярных английских курортов. Однако с тех пор город приобрел скандальную репутацию. Джон Уилмот, граф Рочестер, в сатире «В долгу у удовольствий» (The Debt to Pleasure)[442] в 1685 году описывает его как «место, где можно встретить разного рода шутов, фигляров, болтунов и сплетников, мужей-рогоносцев, проституток, а также достойных граждан с женами и дочерями».

Преподобный Томас Байес не был особенно популярен как священник в этом «городе греха», однако его знали как человека науки, и однажды в 1740 году он даже был приглашен для публичной демонстрации опыта таяния льда перед «тремя гостями из Ост-Индии», посетившими город. В 1742 году он был принят в Лондонское королевское общество, скорее всего, благодаря своей статье в защиту методов Ньютона, однако с тех пор он больше не публиковал трудов по математике. По этой причине случайно обнаруженная работа о проблемах вероятности вызвала у Ричарда Прайса большое удивление. Через два года после смерти Байеса, благодаря стараниям Прайса, работа была зачитана на заседании Лондонского королевского общества и опубликована.

БРИТВА ВЕРОЯТНОСТИ

Скорее всего, Байес впервые заинтересовался проблемой вероятности, прочитав «Трактат о человеческой природе» шотландского философа Дэвида Юма. Юм усомнился в обоснованности индуктивного метода, доминировавшего в науке с начала эпохи Просвещения, и сформулировал философскую проблему, которая стала известна как проблема обоснования индукции. Как упоминается в главе 10, идея использования метода индукции для получения научно обоснованных результатов на основании серии наблюдений принадлежала Фрэнсису Бэкону. Например, наблюдая за тем, что Солнце встает каждое утро на протяжении всей истории человечества, мы можем, используя метод индукции, сделать вывод о том, что так происходит всегда. Юм отмечал, что такой вывод не подкрепляется вескими доводами. Предположение, что «поскольку Солнце всегда встает по утрам, значит, оно встанет и завтра», не более доказуемо, чем предположение, что «Солнце всегда встает по утрам, однако не взойдет завтра». Оба предположения не противоречат имеющимся данным и совпадают по логическим и эмпирическим основаниям. Юм утверждал, что выводы, сделанные на основе индуктивных умозаключений, говорят лишь о вероятности, а не об определенности.

Байес принял это утверждение Юма, однако сделал ставку на вероятность, полагая, что из нее можно извлечь пользу. Он решил проверить свою интуицию математически. Вероятно, по делам службы ему приходилось заниматься сбором благотворительных средств, а для этого ему доводилось участвовать во всевозможных лотереях и розыгрышах призов. Неслучайно он начинает свою книгу с того, что предлагает читателям «представить человека, который пришел на розыгрыш лотереи, не зная, как она организована, и не представляя соотношения выигрышных и невыигрышных билетов». Здесь я предлагаю заменить лотерею на игральные кости, чтобы нам было проще оценить роль бритвы Оккама в байесовской статистике. Представим, что у друга преподобного мистера Байеса, мистера Прайса, есть две игральные кости. Одна из них обычная, в виде шестигранного кубика, а другая, более сложная, имеет 60 граней. Далее представим себе, что мистер Прайс предлагает своему другу сыграть в такую игру: стоя за ширмой, он будет бросать кубик, называя выпавшее число, а мистер Байес должен угадать, какой кубик брошен.

Рис. 38. Игральные кости

Вероятно, поначалу интуиция преподобного Байеса подсказывает, что это может быть любой кубик. Используя современные статистические термины применительно к посмертно опубликованной работе Байеса, мы назовем эту вероятность априорной, поскольку она возникает прежде, чем мистер Прайс бросит кубик, и составляет 1/2 или 0,5 как для предположения в пользу шестигранного кубика, так и для предположения в пользу шестидесятигранного. Допустим, что мистер Прайс называет число 29. Байес, конечно же, говорит, что это кубик с 60 гранями, и мистер Прайс утвердительно кивает головой. Однако не стоит забывать, что Байес – математик, и во время игры он наверняка выполнил простое вычисление, следуя правилам, о которых говорится в его работе. Для шестидесятигранного кубика он умножает априорную вероятность 0,5 на значение условной вероятности, то есть вероятности того, что число 29 выпадет на этом кубике. Поскольку выпасть может любое из шестидесяти чисел, условная вероятность для каждого из них, включая число 29, составит 1/60 или 0,016. Умножив это значение на априорную вероятность 0,5, Байес получает значение апостериорной вероятности (вероятность после того, как получены данные), которая для шестидесятигранного кубика составляет 0,008[443].

Байес применил этот метод вычисления и при расчете аналогичной вероятности для шестигранного кубика, умножив априорную вероятность 0,5 на условную вероятность того, что выпадет число 29. В результате получился ноль, поскольку в шестиграннике нет ни одной грани, которая бы показывала число 29. Умножая любое число на ноль, мы получаем ноль, таким образом, апостериорная вероятность, что число 29 выпадет на шестигранном кубике, равна нулю. Сравнивая значения двух апостериорных вероятностей, Байес представил их как соотношение 0,008/0. Поскольку деление любого числа на ноль дает бесконечность, относительная вероятность того, что число 29 выпадет на шестидесятигранном кубике, бесконечна. А это значит, вероятность того, что Прайс бросил кубик с шестьюдесятью гранями, возрастает в бесконечное количество раз. Одно очко в пользу Байеса.

Может показаться, что в основе теоремы Байеса лежит просто здравый смысл и обычная интуиция, однако посмотрим, как сложится игра в следующем раунде. Интересно, какой кубик выберет мистер Прайс на этот раз? Итак, он снова бросает кубик и называет число 5. Ситуация становится неопределенной, поскольку это число может быть на любом из двух кубиков. Будут ли в этом случае обе гипотезы правдоподобны в равной степени? Преподобный Байес считал, что нет, и разработал собственные методы статистических вычислений для решения проблемы индукции равновероятных событий, когда две, несколько или бесконечное количество гипотез или моделей соответствуют данным наблюдений. Как в этом случае сделать правильный выбор?

Ключевым моментом в статистическом методе Байеса является принцип правдоподобия. Первым на эту идею обратил внимание Гарольд Джеффрис в книге по теории вероятностей, опубликованной в 1939 году[444], а в дальнейшем она получила развитие в работах других сторонников байесовской статистики[445]. В основе байесовского подхода лежит принцип бритвы Оккама, поскольку предпочтение отдается простым моделям, а сложные отбрасываются. Мы можем легко в этом убедиться, если продолжим игру и посмотрим, как на этот раз будут соотноситься априорная и апостериорная вероятности. Байес снова исходит из того, что априорные вероятности обеих гипотез составляют 0,5. Для шестидесятигранного кубика условная вероятность, что выпадет число 5, ничем не отличается от условной вероятности, что выпадет число 29 – в обоих случаях вероятность составляет 1/60, или 0,016. Если умножить это значение на априорную вероятность, апостериорная вероятность снова составит 0,008.

Однако, если выполнить те же вычисления для шестигранного кубика, окажется, что условная вероятность, что выпадет число 5, будет значительно