Жорданова кривая: очевидное — труднее всего

Утверждение

Теорема о жордановой кривой. Пусть $\gamma$ — непрерывный образ окружности в плоскости без самопересечений (простая замкнутая кривая). Тогда её дополнение состоит ровно из двух связных частей — ограниченной («внутренность») и неограниченной («внешность»), — и $\gamma$ является границей каждой из них.

Камиль Жордан (1838–1922) сформулировал и доказал это в третьем томе своего «Cours d'analyse de l'École Polytechnique» (1887).

Первая реакция всякого читателя — недоумение: что тут доказывать? Нарисуйте замкнутую петлю, и видно же.

Почему это трудно

Дело в слове «кривая». К 1887 году анализ успел показать, что непрерывность допускает объекты, о которых интуиция ничего не знает.

• Функция ВейерштрассаКарл Вейерштрасснемецкий математик · 1815–1897Пятнадцать лет учительствовал в провинциальной гимназии, а потом переписал анализ на языке $\varepsilon$ и $\delta$ — и предъявил функцию, у которой нигде нет касательной. (1872) непрерывна всюду и не имеет производной ни в одной точке — «монстр», разрушивший веру в то, что непрерывное можно себе представить.
• Кривая ПеаноДжузеппе Пеаноитальянский математик и логик · 1858–1932Аксиоматизировал натуральный ряд, векторное пространство и математическую запись — и построил кривую, которая проходит через каждую точку квадрата. (1890) — непрерывный образ отрезка, заполняющий целый квадрат. У неё есть самопересечения, так что она не жорданова, но она показывает, на что способна непрерывность.
• Кривая Осгуда (1903) — простая замкнутая кривая положительной площади. Жорданова, и тем не менее занимает часть плоскости.

Такая кривая может иметь бесконечную длину, не иметь касательной ни в одной точке и извиваться на всех масштабах сразу. Ни один аргумент вида «пойдём вдоль кривой и посмотрим, что справа» для неё не работает.

Наглядная проверка того, что задача не пуста: возьмите изображение сильно запутанного лабиринта-кривой и точку внутри него. Определить на глаз, внутри она или снаружи, невозможно. Работающий приём такой: проведите из точки луч и посчитайте число пересечений с кривой. Нечётное — внутри, чётное — снаружи. Это и есть идея доказательства для ломаных, и уже она требует аккуратности (луч не должен проходить через вершины и не должен идти вдоль звена).

Устройство доказательства

Стандартная современная схема состоит из двух частей.

Ломаные. Для замкнутой ломаной теорема доказывается подсчётом чётности пересечений: определим для точки $p$, не лежащей на ломаной, число $\nu(p)$ — чётность числа пересечений произвольного луча из $p$ с ломаной. Проверяется, что чётность не зависит от выбора луча; что $\nu$ постоянна на связных кусках дополнения; что найдутся точки с обеими чётностями. Отсюда — ровно две части.

Предельный переход. Произвольная жорданова кривая приближается ломаными, и надо показать, что свойство сохраняется. Вот здесь и лежит вся трудность, потому что приближение может вести себя дико.

Есть и совсем другой путь — через алгебраическую топологию: если вычислить группы гомологий дополнения к кривой, число компонент получается автоматически (используется двойственность АлександераДжеймс Александерамериканский математик · 1888–1971Построил рогатую сферу — вложение обычной сферы в пространство, устроенное так, что внешность её не односвязна, — и первый многочлен, различающий узлы.). Доказательство короткое и концептуальное, но требует аппарата, которого в 1887 году не существовало; строится он ровно на том, что появится в этой линии дальше.

Историческая справедливость, восстановленная в 2007 году

Здесь стоит поправить утверждение, которое сто лет кочевало по учебникам.

Традиционная версия звучала так: доказательство Жордана содержит серьёзные пробелы, а первое полное доказательство дал Освальд Веблен в 1905 году. Эту оценку повторяли десятки авторов, и она вошла в популярную литературу как пример «очевидного, которое даже профессионал не смог доказать».

В 2007 году Томас Хейлс — тот самый, что доказал гипотезу КеплераИоганн Кеплернемецкий астроном и математик · 1571–1630Вывел законы движения планет из чужих наблюдений, посчитал объём винной бочки способом, из которого через полвека вырастет интеграл, и защищал мать на процессе о колдовстве. об упаковке шаров, — разобрал текст Жордана подробно и пришёл к обратному выводу: рассуждение Жордана по существу верно. Пробелы в нём есть, но они рутинные и заполняются без новых идей; а вот доказательство Веблена, которое считалось первым безупречным, содержит куда более серьёзные проблемы.

Как возникла легенда, тоже понятно: её запустили несколько влиятельных отзывов начала XX века, а дальше сработал испорченный телефон — авторы повторяли оценку, не читая оригинала.

Мораль двойная и обе части полезны. Во-первых, репутации в математике живут своей жизнью и не всегда следуют за фактами. Во-вторых, проверять надо источник, а не пересказ — правило, о котором стоит помнить при чтении любой истории науки, включая эту.

Хейлс пришёл к своему выводу не из любви к архивам: он занимался формальной верификацией — переводом доказательства на язык, который проверяет компьютер. Его формализация теоремы о жордановой кривой в системе HOL Light заняла около 140 тысяч строк; независимо и почти одновременно теорему формализовала польская группа в системе Mizar. Когда каждый шаг обязан быть выписан, сразу видно, где у автора настоящая дыра, а где просто пропущено очевидное.

Что рядом

Теорема Шёнфлиса (1906) усиливает результат: внутренность жордановой кривой не просто связна, а гомеоморфна кругу, причём гомеоморфизм продолжается на всю плоскость. То есть жорданова кривая всегда «как окружность», сколь угодно дико она ни выглядела.

А в трёх измерениях это неверно. В 1924 году Джеймс Александер построил рогатую сферу — поверхность, гомеоморфную обычной сфере, у которой внешняя область не односвязна: сквозь бесконечно ветвящиеся «рога» продета петля, которую нельзя стянуть. Дополнение к сфере в пространстве по-прежнему состоит из двух частей (это верно в любой размерности), но выглядят эти части совсем не так, как у круглой сферы.

Александеровская сфера — прекрасное напоминание о том, что интуиции, воспитанной на гладких фигурах, доверять нельзя, и что топология платит за общность необходимостью доказывать очевидное.

Задача. Нарисуйте на клетчатой бумаге запутанную замкнутую ломаную и отметьте точку. Не прослеживая кривую, определите лучом, внутри точка или снаружи. Затем объясните, почему при подсчёте нельзя вести луч через вершину ломаной.
(Указание: если луч проходит через вершину, пересечение может «не считаться» или «сосчитаться дважды» в зависимости от того, переходит ломаная через луч или касается его; поэтому луч выбирают в общем положении.)

Следующая точка: Харьков — где топологический взгляд впервые применят не к фигурам, а к движению.