Колмогоров и Арнольд: тринадцатая проблема Гильберта

Вопрос

Париж, 1900, тринадцатая из двадцати трёх проблем:

Доказать невозможность решения общего уравнения седьмой степени с помощью функций двух аргументов.

Смысл такой. Преобразованиями Чирнгауза общее уравнение седьмой степени приводится к виду

$$x^{7}+ax^{3}+bx^{2}+cx+1=0,$$

и его корень — функция трёх параметров $a,b,c$. Гильберт спрашивал: можно ли построить эту функцию трёх переменных из функций двух переменных, подставляя одни в другие?

Мотивировка была вполне инженерная. XIX век активно пользовался номограммами — чертежами, по которым инженер считывал значение функции двух аргументов, не считая. Функция двух переменных — это то, что помещается на лист бумаги. Функция трёх — уже нет. Вопрос Гильберта — о том, где проходит граница табулируемого.

И сам Гильберт, как видно из формулировки, ждал ответа «нельзя».

Ответ

Колмогоров, 1956. Всякая непрерывная функция $n\geqslant 4$ переменных представима суперпозицией непрерывных функций трёх переменных. Три он считал настоящим барьером.

Арнольд, апрель 1957. Курсовая работа третьекурсника: три переменные сводятся к двум. Тринадцатая проблема Гильберта решена — и решена не так, как Гильберт предполагал.

Колмогоров, 1957. Окончательная форма, сильнее всего, что ожидалось. Никаких двух переменных не нужно вовсе:

$$f(x_1,\dots,x_n)=\sum_{q=0}^{2n}\Phi_q\!\left(\sum_{p=1}^{n}\varphi_{q,p}(x_p)\right).$$

Читается так: берём $n$ чисел, каждое пропускаем через свою функцию одной переменной, складываем, результат пропускаем через ещё одну функцию одной переменной — и так $2n+1$ раз, потом складываем.

Единственная существенно двуместная операция, которая нужна математике, — сложение.

Функций многих переменных, в топологическом смысле, не существует. Всё многообразие непрерывных функций $n$ переменных порождается функциями одной переменной и знаком «плюс».

Позже выяснилось (Спрехер, Лоренц), что внутренние функции $\varphi_{q,p}$ можно выбрать универсальными — одними и теми же для всех $f$, даже монотонными; от конкретной функции зависят только внешние $\Phi_q$.

Оговорка, без которой всё сказанное — неправда

Теорема живёт только в непрерывном мире.

Витушкин (1954, ещё до Колмогорова) доказал: для гладких классов представление, вообще говоря, невозможно — функция $n$ переменных класса $C^{p}$ не сводится к суперпозициям функций $n'$ переменных класса $C^{p'}$, если $n/p > n'/p'$. Есть препятствие, и оно измеряется отношением размерности к гладкости.

Колмогоровские внутренние функции этому не противоречат — потому что они чудовищны: непрерывны, но нигде не дифференцируемы, устроены фрактально, как канторова лестница (родня монстру Вейерштрасса).

Отсюда законный спор о том, решена ли тринадцатая проблема. Гильберт, судя по контексту 1900 года, имел в виду аналитические функции. В аналитическом классе вопрос по-прежнему открыт. Так что аккуратная формулировка звучит скучнее, но честнее: в непрерывной категории ответ отрицательный (представление существует), в гладкой — положительный по Витушкину (представления нет), в аналитической — неизвестно.

Хвост в наши дни

У этой теоремы неожиданно длинное продолжение — в машинном обучении.

Формула Колмогорова выглядит в точности как нейронная сеть с одним скрытым слоем: линейные комбинации, пропущенные через нелинейности, сложенные и пропущенные ещё раз. С конца 1980-х её регулярно цитировали как «математическое обоснование того, что нейросети могут всё».

В 1989 году Джироси и Поджо ответили статьёй с недвусмысленным названием — «Теорема Колмогорова нерелевантна»: внутренние функции негладки, дико зависят от задачи и не обучаемы, так что практического содержания в теореме нет. Практическим обоснованием стали другие теоремы об универсальной аппроксимации — Цыбенко (1989) и Хорника, где нелинейность фиксирована и разумна.

В 2024 году спор ожил: появились сети архитектуры KAN (Kolmogorov — Arnold Networks), где обучаемые функции стоят на рёбрах, а не веса, и авторы прямо ссылаются на теорему 1957 года.

Правильный вывод из этого сюжета старый и для этой линии — центральный. Теорема утверждает, что представление существует. Она не даёт способа его найти и не обещает, что оно устойчиво. Разница между «существует» и «вот процедура» проходит через всю карту: КеплерИоганн Кеплернемецкий астроном и математик · 1571–1630Вывел законы движения планет из чужих наблюдений, посчитал объём винной бочки способом, из которого через полвека вырастет интеграл, и защищал мать на процессе о колдовстве. заметил, что вблизи максимума всё меняется во втором порядке, — ФермаПьер Фермафранцузский юрист и математик · 1607–1665Советник тулузского парламента, не напечатавший при жизни ни одной математической книги — и успевший заложить теорию чисел, аналитическую геометрию, метод касательных и теорию вероятностей. сделал из этого метод (Кеплер и Ферма). Здесь ровно та же граница, и по эту её сторону, в отличие от XVII века, обнаружилось препятствие.

Человек

Владимир Игоревич Арнольд (1937–2010) — ученик Колмогорова, в девятнадцать лет закрывший пункт парижского списка своей курсовой работой. Дальше: КАМ (1963, предыдущая точка), диффузия Арнольда (1964), теория особенностей, «Математические методы классической механики» (1974), учебник по обыкновенным дифференциальным уравнениям, по которому учились несколько поколений.

Он же — самый громкий противник «бурбакизации» преподавания, автор фразы «математика — часть физики, где эксперименты дёшевы» и множества задач, придуманных для школьников и решаемых в уме.

В 1974 году его кандидатура на Филдсовскую медаль обсуждалась, но советская сторона воспротивилась; медали он так и не получил. Премия Вольфа — 2001.

Колмогорову к 1957 году было пятьдесят три, и это была уже третья его появляющаяся на этой линии работа (расходящийся ряд Фурье, КАМ): расходящийся ряд ФурьеЖозеф Фурьефранцузский математик, физик и префект Изера · 1768–1830Утверждал, что любую функцию можно сложить из синусов, — и был не прав ровно настолько, чтобы математике понадобилось сто лет и три новые теории, чтобы разобраться. в девятнадцать, аксиоматика вероятностей в тридцать, КАМ и тринадцатая проблема — за пятьдесят.

Следующая точка: Ленинград, 1958 — от вопросов о представимости к самому упрямому уравнению математической физики.