а) Сразу можно проверить, что с гиперболическим косинусом я вас не обманываю: гиперболические синус и косинус связаны соотношениями
ch'(x)=sh(x) = (e^x-e^{-x})/2,
sh'(x)=ch(x),
ch^2(x) - sh^2(x) =1,
которые можно проверить либо непосредственно, либо заметив, что
ch(x)=cos(ix), sh(x)=-i*sin(ix). Ну и вообще, если вы их раньше не видели — их стоит запомнить!
Соответственно, для f(x)=ch(x) в числителе будет ch''(x)=ch(x), в знаменателе \sqrt{1+sh^2(x)}=ch(x), так что частное будет тождественной единицей.

б) Более того, это уравнение не так сложно решить. Если умножить обе части на f'(x), то в левой части будет производная от \sqrt{1+f'(x)^2}, а в правой — от const*f. Соответственно, отличаться эти две функции будут на константу. Ну а уравнение
\sqrt{1+f'(x)^2}=С*(f+D)
решается как автономное дифференциальное уравнение первой степени (выражаем f' через f, и дальше стандартно).
Но такое явное решение это именно то, чего я бы не хотел делать!

в) Так вот — следующий шаг это перейти к качению квадратного колеса. Точнее — полуплоскости: то, сколько сторон у колеса (и какие у него углы), влияет только на то, как должны происходить переходы от "катится n-я сторона" к "катится n+1-я сторона" (и на этом я, наоборот, останавливаться не буду).

Spoiler!

Давайте зададимся вот каким вопросом. Когда квадратное колесо катится по нашей кривой (как мы хотим доказать — по цепной линии), в каждый момент можно посмотреть на центр и на точку касания с ухабом. Понятно, что в тот момент, когда касающаяся сторона колеса горизонтальна, они оба на одной вертикальной оси. А незадолго до этого — как на этом кадре из фильма — кто из них правее?

(Image credit: Математические этюды, "Цепная линия")

Итак, давайте посмотрим, что будет, если катить полуплоскость по цепной линии. (Мы не будем переворачивать цепную линию — пусть полуплоскость катится снизу.)

Опять, как и раньше, выделим дугу, и пусть в этот раз она начинается в нижней точке цепной линии, а заканчивается в произвольной. Вспомним баланс вертикальных компонент сил: разница вертикальных компонент сил натяжения должна уравновешивать силу тяжести — то есть ρg*(длину дуги).

С другой стороны, в нижней точке цепной линии сила натяжения направлена горизонтально, так что вертикальной компоненты у неё вообще нет, а в другом конце дуги вертикальная компонента равна f'(x)*F, где F — горизонтальная (постоянная) компонента натяжения цепочки. Значит, длина дуги от нижней точки до точки с абсциссой x пропорциональна f'(x) — с коэффициентом (F/ρg).

На рисунке выше — в момент горизонтального касания точкой касания была G, а сейчас, после прокатывания, какая-то точка A. Но раз прокатывание было без проскальзывания, то длина отрезка AG на границе это и есть длина дуги от A до нижней точки, то есть f'(x)*const.
Причём этот отрезок границы сейчас как раз направлен вдоль касательной в точке A — тангенс угла наклона которой равен f'(x). И тут просто просится сделать что-нибудь, чтобы f'(x) сократилось!
Построим прямоугольный треугольник AGF, у которого угол G прямой, а гипотенуза AF вертикальна. Тогда AG:GF=f'(x), поэтому длина отрезка GF при качении не меняется!

Вот тут можно посмотреть на это (точку A можно перетаскивать) —
https://www.geogebra.org/m/g2rs98hj

Дальше, когда мы катим полуплоскость по цепной линии — точка A меняется (это текущая точка касания), а вот G нет (это же та точка полуплоскости, которая была точкой касания, когда граница была горизонтальна). Значит, всегда одна и та же и точка F (мы проходим перпендикулярно границе фиксированное расстояние). И видно, что она движется по горизонтали, так что это и будет наш "центр колеса" — осталось это объяснить.

Но объяснение тут совсем простое! Когда у нас без проскальзывания катится колесо — неважно, какой формы и по какой формы поверхности — мгновенные скорости у его точек такие же, как при вращении (с его текущей угловой скоростью) вокруг точки касания. А поскольку отрезок AF вертикальный — скорость точки F будет строго горизонтальной. И так в любой момент времени!

Вот мы и увидели, что точка F при качении движется строго горизонтально.

Попробовал подколоть коллегу (ИВЯ) и задал этот вопрос. Немедленно получил красивый физический ответ: раз при движении квадратного колеса центр тяжести движется по горизонтали, то потенциальная энергия не меняется — и значит, каждое положение это положение равновесия. Значит, на одной вертикали, иначе у силы тяжести был бы "опрокидывающий" в какую-нибудь из сторон момент относительно точки касания.

А нам осталось разобраться с мыльной плёнкой: почему и там в сечении получается цепная линия?
(Image credit: Математические этюды, "Цепная линия").

Для начала мы опять захотим написать соответствующее дифференциальное уравнение; и есть два способа это сделать. И в обоих используются интересные понятия и идеи, возникающие много где (а далеко не только в пределах конкретного сюжета).

Первый способ начинается с введения понятия главных кривизн. А именно — представим себе, что у нас есть какая-то гладкая поверхность, и какая-нибудь точка на ней. Как устроена поверхность рядом с этой точкой?
Можно провести в этой точке касательную плоскость к поверхности, и поменять систему координат: начало в этой точке, две первые координаты (s и t касательные, u по нормали).
Тогда рядом с этой точкой поверхность устроена как график какой-то функции,
u=U(s,t).

Раз начало новых координат в нашей точке, U(0,0)=0; раз плоскость была касательной — по линейному приближению функция U тоже нулевая (иначе бы касательная к её графику не была бы горизонтальной), и что-то нетривиальное может быть только, начиная с квадратичных членов.

Значит,
U(s,t) = (1/2)*Q(s,t) + ...,
где Q(s,t)=a*s^2+2b*st+c*t^2 — квадратичная форма, а (...) — члены более высокого порядка. Но квадратичную форму можно поворотом координат привести к главным осям: с точностью до поворота в плоскости (s,t) можно считать, что
Q(s,t) = k_1 s^2 + k_2 t^2.

Величины k_1 и k_2 называются главными кривизнами поверхности — по аналогии с кривизной ( = 1/радиус кривизны) кривой. Они могут быть как одного знака (тогда поверхность локально выпуклая), так и разного (тогда она локально устроена, как "седло" — как на этом рисунке).

Пусть теперь наша поверхность это поверхность мыльной плёнки.
Мысленно вырежем вокруг нашей точки маленький прямоугольник размера (Δs x Δt) со сторонами, параллельными направлениям главных кривизн. Тогда остальная плёнка действует на прямоугольник с силой, пропорциональной
(k_1 + k_2)*Δs*Δt.
Действительно, вертикальный вклад сторон, параллельных оси Os, пропорционалей k_1*Δs*Δt (кривизна k_1 отвечает за то, сколь быстро поверхность "выгибается" в этом направлении), а вклад сторон, параллельных оси Ot, пропорционалей k_2*Δs*Δt.

(А коэффициент пропорциональности это коэффициент поверхностного натяжения σ — но это нам сейчас неважно.)

Поэтому условие на равновесие мыльной плёнки — это равенство
k_1+k_2 = 0.

(Если бы мы смотрели на мыльный пузырь, у которого по разные стороны от поверхности давление воздуха может быть разным, то было бы k_1+k_2 = const — где константа соответствовала бы разности давлений, делённому на σ — но это, опять же, можно оставить в стороне.)

Полусумму k_1+k_2 называют средней кривизной; соответственно, уравнение на мыльную плёнку в равновесии — это равенство средней кривизны нулю. Такие поверхности называют минимальными — они (локально) минимизируют площадь поверхности (при фиксированных граничных условиях).

И это был экскурс в общую науку. Остаётся её применить к нашему случаю, когда поверхность это поверхность вращения.

Понятно, что одно из направлений главных кривизн — это как раз то, которое высекается сечением через ось вращения. А второе, тем самым, ему перпендикулярно.

Поэтому первая кривизна это просто кривизна графика f. А она ищется из соображений "кривизна k связана с нормальным ускорением a_n точки, движущейся с текущей скоростью v, как
a_n=k |v|^2". Если мы движемся по кривой (t,f(t)), то вектор скорости это v=(1,f'(t)), его длина это |v|=\sqrt{1+f'(t)^2}, а ускорение это a=(0,f''(t)). Если посчитать нормальную компоненту и поделить на |v|^2 — то получится
k = f''(x) / (1+f'(x)^2)^{3/2}.

Осталось найти вторую кривизну, но это несложно. В перпендикулярном оси вращения сечении мы видим окружность радиуса f(x) — и касательная к ней перпендикулярна направлению уже найденной первой главной кривизны.
Но радиус O_1A этой окружности не является нормалью к поверхности — а если мы посмотрим на то, как идёт нормаль к поверхности, то мы увидим, что радиус нужно увеличить в \sqrt{1+f'(x)^2} раз. Поэтому вторая главная кривизна (обратная к соответствующему радиусу) это
k_2 = - 1/(f(x)* \sqrt{1+f'(x)^2}).

На самом деле, мы тут перепридумываем теорему Менье — связывающую кривизну высекаемой не-нормальным сечением кривой (тут — окружности радиуса f(x)) с кривизной соответствующего нормального сечения (тут — как раз искомой второй главной кривизной).

Соответственно, уравнение, что k_1=-k_2, превращается в
f(x)*f''(x) = 1+f'(x)^2.

а) проверка на разумность: f(x) = ch(x) подходит, получается как раз то самое тождество
ch^2(x) = 1 + sh^2(x).

б) но получилось другое уравнение. Раньше у нас было уравнение с трёхпараметрическим семейством решений: уравнение второго порядка + произвольная константа в правой части; что до решений — то это один параметр длины a, когда мы пишем y=a ch(x/a), и два параметра сдвига — можно этот график как угодно параллельно переносить.
А теперь получилось уравнение просто второго порядка — так что решений будет только двухпараметрическое семейство.

Но если подумать, это и логично — у нас теперь есть выделенная ось вращения, мы не можем сдвинуть график f(x) вверх, добавив к f(x) константу. И, забегая вперёд — именно по этой оси и будет двигаться центр колеса!

Ну и когда это сказано — уже несложно понять, почему наше уравнение это и впрямь уравнение на то, что точка подвеса "колеса-полуплоскости" движется по оси Ox. Дело в том, что при качении полуплоскости любая точка строго на одной вертикали с точкой касания имеет горизонтальную мгновенную скорость. Но для того, чтобы движение продолжало быть горизонтальным — нужно, чтобы она двигалась с такой же горизонтальной скоростью, с которой двигается (меняющаяся) точка касания.

Если мы прокатим полуплоскость от касания над точкой x к касанию над точкой x+Δx — то касательная повернётся так, что её коэффициент наклона изменится от f'(x) к f'(x+Δx)≈ f'(x)+ f''(x)*Δx.
Если вспомнить производную арктангенса — то сам угол наклона изменится на
Δα = f''(x)*Δx/ (1+f'(x)^2).
А при повороте на угол Δα наша точка подвеса, находящаяся на расстоянии f(x) от точки касания, пройдёт расстояние
f(x)*Δα = [f(x)*f''(x)/ (1+f'(x)^2)] * Δx.

С другой стороны, это расстояние должно быть равно Δx. Вот мы и получили уравнение
f(x)*f''(x)/ (1+f'(x)^2) = 1.