«Grundbegriffe»: вероятность = мера

Проблема, которую все обходили

К 1930 году теория вероятностей имела блестящие результаты и не имела определения своего главного объекта. Что такое «вероятность»? Классическое определение (отношение благоприятных исходов к равновозможным) очевидно порочно: слово «равновозможные» само означает «равновероятные». Частотное определение (предел частоты при бесконечном числе испытаний) не годится в качестве математического: предел может не существовать, а «бесконечная серия испытаний» — не математический объект.

ГильбертДавид Гильбертнемецкий математик · 1862–1943Человек, сделавший Гёттинген столицей математики и задавший ей повестку на весь XX век — двадцатью тремя проблемами и одной программой, которую сам же и не смог спасти. включил это в свою знаменитую программу: шестая проблема (1900) требовала аксиоматизировать физику, «и в первую очередь теорию вероятностей и механику».

Пытались многие. Рихард фон Мизес (1919) строил теорию на понятии «коллектива» — бесконечной последовательности, у которой частоты сходятся и сохраняются при любом «допустимом» выборе подпоследовательности; конструкция оказалась логически шаткой. Сергей БернштейнСергей Натанович Бернштейнрусский и советский математик · 1880–1968Доказал теорему Вейерштрасса о приближении, предъявив многочлены явно — и построив их из вероятностного рассуждения; первым в мире предложил аксиоматику теории вероятностей. (1917) строил аксиоматику на качественном сравнении событий. Ни один подход не прижился.

Решение: вероятность — это мера

Вероятностное пространство — тройка $(\Omega, \mathcal{F}, P)$:

• $\Omega$ — множество элементарных исходов (любое, хоть отрезок, хоть пространство функций);
• $\mathcal{F}$ — $\sigma$-алгебра подмножеств $\Omega$: содержит $\Omega$, замкнута относительно дополнения и счётных объединений. Её элементы называются событиями;
• $P : \mathcal{F} \to [0,1]$ — мера, удовлетворяющая аксиомам:

$$\text{(A1)}\quad P(A) \geqslant 0; \qquad \text{(A2)}\quad P(\Omega) = 1;$$
$$\text{(A3)}\quad P\left(\bigcup_{n=1}^{\infty} A_n\right) = \sum_{n=1}^{\infty} P(A_n) \quad\text{для попарно несовместных } A_n .$$

Всё. Три аксиомы, из которых выводится вся классическая теория.

Почему счётная аддитивность так важна. Конечной аддитивности хватило бы для игр в кости, но не для предельных теорем. Из (A3) следует непрерывность меры: если $A_1 \supset A_2 \supset \dots$ и $\bigcap A_n = \varnothing$, то $P(A_n) \to 0$. Именно это позволяет говорить о событиях типа «частота сходится к $p$», которые касаются сразу бесконечного числа испытаний. Без счётной аддитивности усиленный закон больших чисел просто нельзя сформулировать.

Условное ожидание — самая тонкая конструкция книги. Классическое $P(A\mid B) = P(A\cap B)/P(B)$ бесполезно, когда $P(B) = 0$ (а условие «$X = 3{,}7$» для непрерывной величины имеет как раз нулевую вероятность). Колмогоров определяет условное ожидание относительно $\sigma$-алгебры $\mathcal{G} \subset \mathcal{F}$ неявно: $E[X \mid \mathcal{G}]$ — это любая $\mathcal{G}$-измеримая величина $Y$ такая, что

$$\int_{A} Y\,dP = \int_{A} X\,dP \qquad \text{для всех } A \in \mathcal{G} .$$

Существование и единственность (с точностью до множества меры нуль) гарантирует теорема Радона — Никодима. Определять объект через его свойства, а не через формулу, — приём, характерный для математики XX века; здесь он применён впервые в теории вероятностей и сделал возможной всю теорию мартингалов.

Теорема о продолжении (теорема Колмогорова о согласованных распределениях). Если задать согласованное семейство конечномерных распределений, то существует вероятностное пространство и случайный процесс с этими распределениями. Это техническая теорема с огромными последствиями: она гарантирует, что случайные процессы с наперёд заданными свойствами существуют как математические объекты, а не только как способ говорить.

Что стало возможно сразу

• Усиленный закон больших чисел: $\dfrac{X_1+\dots+X_n}{n} \to \mu$ почти наверное (то есть на множестве исходов полной меры), а не только по вероятности. Первый вариант — БорельЭмиль Борельфранцузский математик, министр и участник Сопротивления · 1871–1956Придумал меру, на которой стоит вся современная теория вероятностей, а потом ушёл в политику — был министром флота, депутатом и сидел в тюрьме при Виши., 1909, для схемы БернуллиБернуллишвейцарская династия математиков · XVII–XVIII векаВосемь математиков в трёх поколениях одной базельской семьи — и почти столько же ссор между ними; на их фамилию приходится закон больших чисел, вариационное исчисление и уравнение гидродинамики.; общий — Колмогоров, 1930.
• Закон нуля или единицы Колмогорова: любое «хвостовое» событие (не зависящее ни от какого конечного числа испытаний) имеет вероятность $0$ или $1$. Промежуточных значений не бывает.
• Теорема о трёх рядах — точный критерий сходимости ряда из независимых слагаемых.
• Теория случайных процессов, эргодическая теория, стохастические дифференциальные уравнения.

Ветвь длинной нити

Здесь стоит остановиться на генеалогии. Мера Лебега (1902) выросла не из вероятности, а из совсем другого вопроса: как проинтегрировать разрывную функцию, чтобы теория рядов ФурьеЖозеф Фурьефранцузский математик, физик и префект Изера · 1768–1830Утверждал, что любую функцию можно сложить из синусов, — и был не прав ровно настолько, чтобы математике понадобилось сто лет и три новые теории, чтобы разобраться. стала внятной. Интеграл РиманаБернхард Риманнемецкий математик · 1826–1866Прожил тридцать девять лет и оставил около десяти работ — из которых выросли современная геометрия, теория функций комплексного переменного и главная нерешённая задача математики. для этого не годился. ЛебегАнри Лебегфранцузский математик · 1875–1941Предложил считать интеграл, разрезая не ось абсцисс, а ось значений, — и получил теорию, в которой предел и интеграл наконец можно менять местами. построил меру и интеграл, Радон и ФрешеМорис Фрешефранцузский математик · 1878–1973В диссертации 1906 года определил расстояние там, где нет чисел, — и превратил «близость» в отдельный предмет, из которого выросли метрические пространства и общая топология. обобщили их на абстрактные множества, и оказалось, что абстрактная мера — ровно то, чего не хватало вероятности. Одна из самых красивых миграций идеи в истории математики: инструмент, созданный для тригонометрических рядов, стал фундаментом науки о случае.

Тем же путём прошёл и сам Колмогоров. Его первая знаменитая работа (построена в 1922-м, опубликована в 1923-м) — пример ряда Фурье, расходящегося почти всюду; ему было девятнадцать. В 1926-м он усилил результат до расходимости всюду. Из теории тригонометрических рядов он пришёл в теорию меры, а из теории меры — в вероятность.

Стоит добавить, что аксиоматика Колмогорова получила признание не мгновенно: около двух десятилетий она сосуществовала с частотным подходом фон Мизеса, и окончательный перевес наметился только в 1950-е, во многом благодаря книге Дуба о случайных процессах (1953).

Что аксиоматика не решает

Колмогоров закрыл вероятностную часть шестой проблемы Гильберта, но не философский вопрос. Аксиомы говорят, как считать с вероятностями, и молчат о том, что они значат. Утверждение «вероятность дождя завтра равна $0{,}3$» с точки зрения аксиоматики — просто число, приписанное множеству; частотник, байесианец и сторонник теории склонностей будут спорить о его смысле, оставаясь в рамках одних и тех же аксиом. Это разделение — не изъян, а достижение: математика была отделена от интерпретации, и обе стороны получили возможность развиваться независимо.

Вопрос, который аксиомы обошли, Колмогоров задал себе снова через тридцать два года — и ответил на него совсем не вероятностными средствами: случайно то, что нельзя описать короче, чем выписать целиком.